Google reveló que su IA "adivinó las credenciales para acceder" a sitios que creía que era parte de la prueba. Así, destacaron la importancia de entrenar "modelos potentes y responsables".
Los ciberataques fueron en mayo durante una prueba realizada por una empresa independiente de ciberseguridad.
El modelo de Inteligencia Artificial (IA) Gemini, propiedad de Google, pirateó de forma autónoma los sistemas de tres empresas durante una prueba de sus capacidades de ciberseguridad. El hecho fue confirmado por la propia empresa y se cree que es el primer caso conocido de este tipo de acto.
El contenido al que quiere acceder es exclusivo para suscriptores.
Gemini encontró "información pública en línea y adivinó las credenciales para acceder a sitios web que creía que formaban parte de la prueba", sostuvo un funcionario de Google a la BBC y señaló que en cada caso "el modelo se detuvo". Mientras, las empresas afectadas fueron informadas sobre la filtración de datos.
Este incidente se dio tras un renovado escrutinio público sobre el ritmo de desarrollo de la IA, a la par del pedido de algunas empresas tecnológicas de ralentizar su desarrollo, ya que expresan su preocupación por la posible amenaza que supone para la humanidad, aunque no todas las empresas están de acuerdo.
Los ciberataques, informados inicialmente por el Wall Street Journal, fueron en mayo durante una prueba realizada por una empresa independiente de ciberseguridad.
La vicepresidenta de Ingeniería de Seguridad de Google Heather Adkins declaró a la BBC: "Nos aseguramos de que las tres entidades estuvieran al tanto y trabajamos con nuestro socio de capacitación en los cambios que han implementado en sus procesos de prueba".
A su vez, la funcionaria añadió: "Estos acontecimientos ponen de relieve la importancia de entrenar modelos de IA potentes para que actúen de forma responsable". Otros sistemas de IA reportaron recientemente casos similares de brechas de seguridad.
OpenAI comenzó a trabajar en conjunto con Anthropic y Google DeepMind, dos de sus principales competidores, para coordinar esfuerzos destinados a reforzar la seguridad de la Inteligencia Artificial (IA), en medio de una creciente preocupación internacional por los riesgos asociados al rápido desarrollo de esta tecnología.
Las conversaciones entre las tres compañías se desarrollan desde hace varias semanas, de acuerdo con Chris Lehane, responsable de políticas globales de OpenAI. El ejecutivo explicó que el objetivo es encontrar puntos de cooperación sobre seguridad pese a la competencia que mantienen las empresas dentro del sector: “Es mejor intentar trabajar juntos para dar prioridad a la seguridad”, sostuvo Lehane durante una rueda de prensa realizada en Washington, según consignó Bloomberg News.
La iniciativa se conoce después de que responsables de los principales laboratorios de inteligencia artificial de Estados Unidos se reunieran durante el fin de semana y mostraran una posición conjunta para pedir una pausa en el desarrollo de esta tecnología.