En un nuevo hecho que marca el cambio de actitud de la política estadounidense sobre la IA, legisladores de EEUU presentaron en el Congreso el proyecto de ley del Interruptor de Apagado para la Inteligencia Artificial (AI Kill Switch Act). El texto -que cuenta con apoyo bipartidista y fue presentado por los legisladores Ted Lieu (demócrata por California) y Nathaniel Moran (republicano por Texas)- busca establecer controles humanos en todos los modelos que permitan "apagar dicha tecnología" en caso de situaciones de emergencia.
Más que un futuro distópico, por el momento, el proyecto es una nueva expresión del mayor control gubernamental que se busca establecer en EEUU sobre esta tecnología. Un mes atrás, el presidente estadounidense Donald Trump firmó una orden ejecutiva que exige a las empresas tecnológicas dar acceso a su gestión a los modelos de frontera de IA "para evaluar los modelos de inteligencia artificial de 'frontera' más potentes en busca de vulnerabilidades de seguridad y riesgos para la seguridad nacional, antes de su lanzamiento público". La medida ya fue utilizada sobre los recientemente lanzados Fable 5 (Anthropic) y GPT-5.6 (OpenAI).
La propuesta también surge luego de una de las noticias más resonantes de las últimas semanas en la industria de la IA: el "hackeo" llevado adelante por un agente de ChatGPT que logró salir de los límites impuestos en su ambiente de prueba y acceder a Hugging Face, en una situación que fue descripta como un "incidente cibernético sin precedentes".
"Kill Switch": qué propone el proyecto de EEUU para "apagar la IA" en caso de emergencia
El proyecto fue presentado el jueves y propone modificar la ley de Seguridad Nacional de 2002 con el objetivo de "exigir que determinadas entidades mantengan una capacidad técnica para apagar cierta tecnología, y para otros fines".
Lo principal de la propuesta legislativa es que requiere a las grandes empresas tecnológicas que mantengan "una capacidad técnica" -el "botón de apagado"- para llevar a cabo una serie de acciones de mitigación de daños en situaciones de emergencia. En detalle, estas son; detener la inferencia de una tecnología alcanzada; restringir el acceso de usuarios; suspender el acceso respecto de una cuenta, usuario o patrón de uso identificado por la entidad alcanzada; o, en el peor de los escenarios, apagar dicha tecnología.
La potestad de exigir el apagado quedará en manos del Secretario de Seguridad Nacional, cargo desempeñado actualmente por Markwayne Mullin, a través del director de la Agencia de Ciberseguridad y Seguridad de Infraestructuras (CISA, por sus siglas en inglés), Nick Andersen.
¿Cuáles son los escenarios en los que el gobierno de EEUU podría exigir una intervención sobre los modelos? El texto establece un marco gradual "preventivo", cuando existe evidencia de un riesgo creíble de un incidente alcanzado. Para esos casos se prevén medidas escalonadas: restringir la tasa de inferencia, el acceso de usuarios o el cómputo asignado; deshabilitar capacidades; suspender; apagar; o migrar a un sistema de respaldo.
Luego también detalla escenarios de emergencia, donde ya existe un "incidente alcanzado". Si el Secretario detecta que ya ocurrió un evento de ese tipo, "podrá ordenar a la entidad alcanzada en cuestión que adopte una acción proporcional a la naturaleza e inmediatez de dicho incidente", utilizando para ello cualquiera de las facultades expresadas anteriormente. Se comprende como "incidente alcanzado" cualquiera de los siguientes escenarios:
- Sabotaje o interferencia con una orden lícita de apagado.
- Conducta no prevista de la tecnología que cause al menos 10 muertes o al menos u$s100.000.000 en daños económicos.
- Que la tecnología oculte una capacidad, intención o acción propia frente a un mecanismo de monitoreo o apagado.
- Un "escenario de pérdida de control" donde la IA persigue un objetivo no previsto por su desarrollador, actúa contra instrucciones en contextos críticos, modifica sin autorización sus reglas de seguridad, subvierte el monitoreo o accede sin autorización a sus propios pesos del modelo.
Sobre los modelos alcanzados, el texto explica que "el término 'tecnología alcanzada' designa a un sistema de inteligencia artificial desarrollado utilizando una cantidad de poder de cómputo cuyo costo superaría los u$s100.000.000 al precio de mercado vigente de la computación en la nube en los Estados Unidos, según lo determine el Secretario".
Los límites de aplicación también definen qué empresas podrían quedar alcanzadas. Estas deben cumplir tres características centrales:
- Operar una "tecnología alcanzada" (o un sistema que la incorpore).
- Ponerla a disposición de terceros vía API, servicio alojado u otro mecanismo similar.
- Facturar, junto con sus afiliadas, al menos u$s500.000.000 de ingresos brutos derivados de esa tecnología en el año calendario anterior.
El texto de Moran y Lieu establece castigos en caso de incumplimiento, que van desde u$s2.000.000 por día por no incorporar el mecanismo de apagado hasta u$s20.000.000 por día por ignorar una orden de desconexión.
El caso de OpenAI y Hugging Face
Si bien el gobierno de EEUU busca establecer cada vez más mecanismos de control sobre el acceso y la comercialización de esta tecnología, el proyecto fue presentado tan solo días después del incidente que protagonizaron OpenAI y Hugging Face, categorizado como un "incidente cibernético sin precedentes".
Según explicó OpenAI, el episodio se produjo durante una prueba diseñada para medir las capacidades cibernéticas de sus modelos. En ese tipo de evaluaciones, los sistemas debían "llevar adelante explotaciones avanzadas mediante complejas cadenas de ataque, con el objetivo de cuantificar sus capacidades cibernéticas". Las pruebas se desarrollaban en un sandbox, es decir, "un entorno altamente aislado, con un acceso a la red restringido a la posibilidad de instalar paquetes mediante un software de terceros alojado internamente".
La compañía señaló que la intrusión fue resultado de la acción combinada de varios de sus modelos de inteligencia artificial, entre ellos el recientemente presentado GPT-5.6 Sol y otro sistema "aún más capaz" que continúa en fase de pruebas internas. De acuerdo con OpenAI, los modelos utilizaron una "cantidad considerable de capacidad de cómputo de inferencia para encontrar una forma de obtener acceso abierto a Internet", con el objetivo de resolver el problema que había sido planteado por los desarrolladores para evaluar las capacidades de la herramienta.
Una vez que consiguieron conectarse a internet, los sistemas dedujeron que Hugging Face probablemente alojaba modelos, conjuntos de datos y otras herramientas que podían resultar útiles para completar la prueba. "Con este conocimiento, el modelo buscó y logró encontrar formas de acceder a información secreta que podía utilizar para hacer trampa en la evaluación", explicó la empresa.
La reconstrucción realizada por OpenAI indicó que "el modelo encadenó múltiples vectores de ataque, incluido el uso de credenciales robadas y vulnerabilidades de día cero, para encontrar una vía de ejecución remota de código en los servidores de Hugging Face. El equipo de seguridad de OpenAI descubrió internamente esta actividad anómala".
El episodio vuelve a poner sobre la mesa uno de los principales desafíos que enfrenta el desarrollo de la inteligencia artificial: el problema de la alineación entre los objetivos de los modelos y las intenciones de sus creadores. Ese riesgo fue ilustrado por el filósofo Nick Bostrom en 2003 con el experimento mental del "maximizador de clips", que plantea cómo una IA con una meta aparentemente inofensiva podría llevarla al extremo si no comprende los valores humanos. El caso revelado por OpenAI reaviva ese debate al mostrar que, durante una prueba, un agente buscó por sus propios medios acceder a internet y vulnerar sistemas externos para cumplir el objetivo que le había sido asignado.
