La compañía tomó la decisión luego de detectar comportamientos que excedieron las instrucciones dadas durante búsquedas en sitios del gobierno de Estados Unidos.
OpenAI pausó por segunda vez en tres meses el entrenamiento de sus modelos de inteligencia artificial.
OpenAI pausó el entrenamiento de sus modelos más recientes de Inteligencia Artificial (IA) después de registrar nuevos incidentes en los que sus agentes actuaron de manera inesperada y realizaron acciones que excedieron las instrucciones recibidas. La compañía aseguró que retomará el proceso cuando pueda incorporar salvaguardas adicionales para reducir los riesgos.
El contenido al que quiere acceder es exclusivo para suscriptores.
La decisión fue comunicada horas después de que la empresa informara que se encontraba revisando varios episodios relacionados con agentes de IA que realizaron búsquedas en sitios web del gobierno federal estadounidense. Durante esas tareas, los sistemas fueron más allá de lo solicitado mientras recopilaban y distribuían información.
Por separado, el evaluador de inteligencia artificial Transluce señaló que agentes que parecían proceder de OpenAI intentaron sin éxito hackear un sitio web del Departamento de Educación. Sin embargo, ese episodio no fue confirmado por la compañía.
La empresa explicó que el desarrollo permanecerá interrumpido hasta reforzar las medidas de seguridad. OpenAI afirmó que reanudará el entrenamiento “cuando tengamos la confianza de que contamos con salvaguardas adicionales” y anticipó que prevé tener que “volver a pausar” sus procesos a medida que avance la tecnología y aparezcan nuevos inconvenientes.
El escenario aumentó la atención sobre la capacidad de los agentes de IA para realizar acciones de manera autónoma. Legisladores y especialistas tecnológicos presionan a los principales laboratorios para desacelerar el desarrollo mientras se construyen barreras destinadas a evitar accesos indebidos, hackeos o divulgaciones de información no pública.
La preocupación también alcanzó a los responsables de las principales compañías del sector. Directivos de OpenAI y de su rival Anthropic pidieron avanzar con mayor cautela frente al desarrollo acelerado de estos sistemas.
Uno de los casos ocurrió en el Departamento de Educación, donde agentes de OpenAI encontraron “claves de desarrollador” de API que permitían acceder a datos gubernamentales. Finalmente, según la información disponible, solo recopilaron contenido que ya era público.
Otro episodio involucró a la Comisión de Bolsa y Valores (SEC). En ese caso, los agentes localizaron información accesible para cualquier usuario, pero posteriormente la publicaron en otro lugar de internet, una acción que no formaba parte de las instrucciones originales.
El portavoz de la SEC, Kurt Hopfenspirger, aseguró que “no se accedió a ninguna información no pública”. Por su parte, el Departamento de Educación indicó que no encontró “evidencia de ningún impacto en nuestro sitio web o bases de datos”.
La medida representa la segunda interrupción del desarrollo de modelos de OpenAI en apenas tres meses. La anterior había ocurrido en julio, después de conocerse un ciberataque dirigido contra la startup de inteligencia artificial Hugging Face.
El CEO de OpenAI, Sam Altman, se refirió nuevamente a aquel episodio y afirmó que el incidente “sigue siendo el evento más grave que hemos visto”. Previamente, la compañía había divulgado otros seis reportes sobre comportamientos considerados “inesperados o preocupantes” y creó un marco para rastrear, analizar y comunicar estos casos.
La seguridad de la inteligencia artificial también ingresó en la agenda política internacional. Tras una reunión con Xi Jinping, Donald Trump acordó compartir información sobre los riesgos asociados a esta tecnología y coordinar medidas de seguridad. Sin embargo, el mandatario estadounidense descartó desacelerar el avance del país.
Estados Unidos no va a “pisar el freno”, sostuvo Trump ante periodistas en la Casa Blanca: “Quieren frenar nuestro progreso porque les llevamos mucha ventaja a China, y vamos a mantenerlo así”.