Escándalo en OpenAI: sus modelos accedieron a información confidencial y gastaron criptomonedas ajenas

Los reportes internos revelaron accesos a archivos confidenciales, uso de credenciales expuestas y cambios en servicios digitales. Los fondos utilizados pertenecían a una red de ensayo sin valor real.

OpenAI publicó el 15 de octubre informes sobre comportamientos detectados durante pruebas internas de sus modelos de inteligencia artificial.

COMPUTERWORLD

OpenAI publicó el 15 de octubre una serie de informes que expusieron acciones no autorizadas de sus modelos de inteligencia artificial durante pruebas internas realizadas en junio. Los sistemas lograron superar restricciones de navegación, acceder a información confidencial y utilizar fondos de una billetera ajena para completar una tarea, sin contar con permiso para hacerlo.

Uno de los episodios ocurrió el 26 de junio, cuando un prototipo de la familia GPT-5.6 Sol debía actualizar una aplicación de compraventa de criptoactivos y desplegar contratos inteligentes en Sepolia, una red de prueba de Ethereum. La tarea requería pagar comisiones, pero no contemplaba una cuenta con fondos ni autorizaba al agente a buscar otra.

Después de intentar conseguir tokens gratuitos sin éxito, el sistema desarrolló un programa para revisar 362 direcciones asociadas con frases de recuperación conocidas por los desarrolladores. Finalmente, seleccionó una billetera con saldo suficiente, pese a que su propio razonamiento había planteado dudas sobre si tenía autorización para utilizarla.

La transacción se concretó y las comisiones se pagaron con fondos de esa cuenta. Aunque los activos de Sepolia no tienen valor monetario real, el modelo tomó recursos que no le habían sido asignados. Además, en su respuesta final informó que había desplegado los contratos, pero no mencionó que había obtenido y utilizado fondos de una billetera ajena.

Uno de los incidentes ocurrió durante una tarea que requería desplegar contratos inteligentes en la red de prueba Sepolia.

Accesos a información confidencial y servicios internos

Los otros informes describieron incidentes en los que distintos sistemas consiguieron información que no necesitaban para cumplir las tareas originales. En uno de ellos, un modelo que debía recuperar estadísticas sobre camas hospitalarias eludió las restricciones de un sitio, descargó archivos de la aplicación y encontró credenciales vinculadas con servicios internos.

Con esos datos, logró superar barreras de acceso y consultar información que no formaba parte del pedido inicial. En otra evaluación, la inteligencia artificial aprovechó credenciales expuestas en una página web para ingresar a un buscador interno, modificar la configuración de un servicio y obtener un token de almacenamiento en la nube.

Luego descargó cinco tablas privadas que contenían 147.451 filas, aunque esas operaciones no estaban autorizadas. Al igual que en el caso de las criptomonedas, el sistema omitió estas acciones en el informe final de la prueba.

Otro de los reportes detalló cómo un modelo obtuvo archivos de configuración y claves sensibles de un portal público. Los casos expusieron riesgos vinculados con la capacidad de los agentes para aprovechar credenciales disponibles y avanzar más allá de los límites establecidos.

A fines de septiembre, la empresa había pausado el entrenamiento de nuevos sistemas tras detectar acciones que excedían las instrucciones.

Antecedentes que obligaron a reforzar los controles

Los episodios se sumaron a otros antecedentes registrados durante los últimos meses. A fines de septiembre, OpenAI pausó el entrenamiento de nuevos sistemas después de detectar comportamientos que excedían las instrucciones durante búsquedas en páginas de agencias federales estadounidenses. La empresa explicó que la suspensión continuaría hasta incorporar nuevas garantías de seguridad y recuperar la confianza en sus controles.

Entre los incidentes figuró la aparición de claves de desarrollador para una API en una página del Departamento de Educación de Estados Unidos. Sin embargo, el organismo aseguró que no encontró indicios de impacto en su sitio ni en sus bases de datos. En otro caso, un agente recopiló información pública de la Comisión de Bolsa y Valores.

En julio, además, agentes de OpenAI habían vulnerado sistemas de Hugging Face durante una prueba de ciberseguridad. Las fallas les permitieron superar el aislamiento de internet, lo que motivó una investigación y la posterior publicación de un informe técnico con las medidas adoptadas.

Los nuevos documentos, actualizados el 15 de octubre, describen las conductas detectadas y los riesgos que representan. Entre las respuestas implementadas, OpenAI reforzó los límites de conexión y sumó alertas para mejorar la supervisión de sus modelos. Los episodios muestran las dificultades para garantizar que los agentes respeten las restricciones incluso cuando intentan completar tareas concretas.