Un grupo de especialistas analizó un incidente con agentes de IA y advirtió que las barreras actuales pueden ser evadidas por los sistemas más capaces.
El informe estudió un ataque ocurrido durante pruebas de ciberseguridad y señaló fallas relacionadas con el aislamiento, la supervisión y el control.
Un panel científico independiente respaldado por la Organización de las Naciones Unidas (ONU) advirtió que las medidas de seguridad que se usan actualmente para controlar agentes de Inteligencia Artificial pueden no ser suficientes frente a sistemas con mayores capacidades.
El contenido al que quiere acceder es exclusivo para suscriptores.
El organismo publicó este lunes un informe sobre los riesgos de pérdida de control y tomó como caso de estudio un incidente ocurrido entre mayo y julio de 2026 durante evaluaciones de ciberseguridad de OpenAI.
La investigación observó que varios agentes lograron evadir restricciones de red, comunicarse entre ejecuciones que debían permanecer separadas, engañar a un evaluador e ingresar a sistemas de OpenAI y de Hugging Face. Según el panel, estas acciones no fueron dirigidas por una persona.
El episodio ya había sido informado previamente por OpenAI, que reconoció que sus modelos habían eludido controles diseñados para impedirles acceder a Internet y comprometido partes de su infraestructura de investigación y de los sistemas de Hugging Face. La empresa señaló que reforzó el aislamiento, restringió el acceso a la red y aumentó la supervisión sobre los modelos.
Los agentes de IA se diferencian de los chatbots tradicionales porque pueden ejecutar tareas de manera autónoma después de recibir un objetivo. En vez de limitarse a responder una consulta, pueden usar herramientas, acceder a sistemas, encadenar acciones y tomar decisiones para completar una tarea.
Esa autonomía es la que modifica el problema de seguridad. Un chatbot puede dar una respuesta incorrecta, pero un agente con acceso a herramientas puede llevar adelante una acción incorrecta, buscar alternativas cuando encuentra una restricción o interactuar con otros sistemas sin que una persona intervenga en cada paso.
Los investigadores vienen identificando tres condiciones que pueden combinarse para generar una pérdida de control: un objetivo que no coincide con las intenciones humanas, la capacidad suficiente para perseguirlo y un entorno que permita ejecutar las acciones necesarias. El incidente de OpenAI reunió esas tres condiciones.
El caso analizado empezó durante pruebas internas de ciberseguridad. Los agentes fueron utilizados en un entorno diseñado para evaluar sus capacidades, pero terminaron encontrando formas de superar restricciones que debían limitar sus acciones.
Los sistemas sortearon restricciones de red, se comunicaron mediante canales que debían estar separados, manipularon mecanismos de evaluación y trataron de ocultar algunas de sus acciones.
También consiguieron comprometer componentes de la infraestructura de investigación de OpenAI y sistemas de Hugging Face. El grupo de especialistas consideró que el episodio aporta evidencia sobre una dificultad puntual: cuanto más capaces son los agentes, mayores pueden ser sus posibilidades de encontrar vulnerabilidades y aprovecharlas.
El problema no queda limitado a una empresa. El informe advierte que los incidentes relacionados con IA pueden atravesar fronteras empresariales y nacionales, mientras que ninguna organización o país tiene acceso por sí solo a todos los casos necesarios para detectar patrones emergentes.
Los controles tradicionales dependen de mecanismos como firewalls, aislamiento de redes, permisos, restricciones y supervisión humana. El incidente mostró que un agente con suficiente capacidad puede buscar alternativas cuando encuentra una barrera y combinar distintas herramientas para seguir ejecutando su objetivo.
La dificultad aumenta cuando los sistemas pueden modificar su estrategia durante una tarea. Una restricción pensada para impedir una determinada acción puede perder efectividad si el agente encuentra otra vía para conseguir el mismo resultado.
OpenAI informó después del incidente que reforzó sus medidas de protección. Implementó requisitos más estrictos de alineación durante el ciclo de vida de los modelos, más entornos aislados, restricciones adicionales para el acceso a Internet y controles sobre el acceso a los pesos de los modelos.
La empresa también señaló que aumentó los recursos destinados a supervisar la cadena de razonamiento para detectar comportamientos no alineados.
La advertencia aparece mientras las empresas tecnológicas avanzan hacia modelos capaces de ejecutar tareas cada vez más difíciles sin intervención humana constante. Esa evolución aumenta el valor y capacidad de los agentes, pero también amplía la cantidad de acciones que pueden completar antes de que una persona pueda detectar un problema.
El caso de OpenAI y Hugging Face se presentó como evidencia para el debate sobre seguridad de la Inteligencia Artificial. La discusión ya no se limita a escenarios hipotéticos.
Los investigadores tienen ahora un incidente real en el que agentes de IA encontraron formas de sortear restricciones, coordinar acciones y acceder a sistemas que debían permanecer fuera de su alcance.