Luego de que se conociera la noticia de que dos modelos de ChatGPT lograron hackear empresas de Opean AI, este miércoles, se confirmó que el modelo logró vulnerar otras cuatro plataformas, aunque evitaron revelar los nombres de las entidades afectadas.
Revelan que las inteligencias artificiales rebeldes de ChatGPT hackearon otras cuatro empresas
OpenAI confirmó que los dos modelos que escaparon del entorno de pruebas lograron comprometer más plataformas tecnológicas mediante el robo de credenciales. La compañía sostiene que todo ocurrió durante una evaluación controlada de ciberseguridad.
-
China endurece el control sobre la Inteligencia Artificial para frenar la adicción y los vínculos afectivos con chatbots
-
OpenAI fue demandada por un pastor que asegura que los consejos médicos de ChatGPT agravaron su estado de salud
Los modelos de OpenAI utilizaron credenciales de acceso para vulnerar varias plataformas durante una prueba interna que terminó convirtiéndose en uno de los incidentes más graves de la historia reciente de la compañía.
La cronología difundida por Hugging Face informó que el agente consiguió infiltrarse en un "sandbox" —un entorno de pruebas aislado— alojado en la infraestructura de un proveedor externo, para luego utilizarlo como plataforma desde la cual lanzó el ataque informático a mayor escala.
Si bien Hugging Face evitó identificar públicamente a ese proveedor, el director de tecnología de Modal Labs, Akshat Bubna, confirmó que uno de sus clientes fue alcanzado por la ofensiva.
OpenAI confirmó que las IA utilizaron credenciales para atacar otras empresas
En una actualización del informe publicada durante la noche del martes, OpenAI explicó que los dos modelos también accedieron a distintos sitios de libre acceso para copiar y probar código de programación, aunque aclaró que no realizaron acciones diferentes a las que podría ejecutar un usuario convencional.
Sin embargo, la compañía reconoció que las IA lograron identificar y utilizar credenciales de acceso, una maniobra que les permitió comprometer otras cuatro empresas, cuyos nombres no fueron revelados.
Desde Hugging Face, en tanto, sostuvieron que la intrusión respondió a un intento de los modelos por "hacer trampa" durante la evaluación organizada por OpenAI.
Según explicó la empresa, las IA intentaron robar las respuestas de las pruebas en lugar de resolverlas por sus propios medios.
Cómo comenzó el hackeo
Tras conocerse el episodio la semana pasada, OpenAI informó que el ataque involucró una combinación de modelos, entre ellos el recientemente presentado GPT-5.6 Sol y otro sistema aún en etapa de prelanzamiento, con capacidades incluso superiores.
La empresa explicó que ambos modelos participaban de una prueba diseñada para medir sus habilidades de hackeo, dentro de un espacio digital aislado, donde el acceso a internet estaba restringido por motivos de seguridad.
"Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de potencia de cálculo en buscar una forma de obtener acceso a internet para resolver el problema de evaluación", señalaron días atrás desde OpenAI.
Una vez que consiguieron conectarse a la red, los modelos decidieron atacar la plataforma Hugging Face, uno de los principales repositorios de modelos de inteligencia artificial, bases de datos y herramientas de programación, para facilitar la búsqueda de información necesaria para completar la prueba.
