EEUU se reúne con Meta, OpenAI, Google y Anthropic para evaluar pruebas de seguridad en inteligencia artificial

La administración de Donald Trump convocó a las principales empresas de IA estadounidenses para discutir un nuevo esquema de pruebas voluntarias destinado a medir la capacidad de sus modelos más avanzados para realizar ciberataques.

EEUU citó a las principales compañías de IA para discutir sobre ciberseguridad.

Representantes de Meta, OpenAI, Anthropic y Google fueron invitados a reunirse este martes con funcionarios de la Casa Blanca para analizar los lineamientos de un programa de pruebas de ciberseguridad aplicadas a los modelos de inteligencia artificial más sofisticados desarrollados en Estados Unidos.

La iniciativa busca evaluar hasta qué punto estas herramientas podrían ser utilizadas para vulnerar sistemas informáticos o facilitar ataques cibernéticos, en un contexto de creciente preocupación por el rápido avance de la IA.

El gobierno de EEUU impulsa pruebas voluntarias

Un funcionario de la Casa Blanca confirmó que la administración de Trump terminó de definir los detalles del programa de pruebas voluntarias y que ahora comenzará a discutirlos con las compañías del sector.

Por el momento, el gobierno estadounidense no informó cómo se publicarán los resultados, cuáles serán los criterios de evaluación ni si los datos obtenidos estarán disponibles para el público.

La IA es peligrosa para la ciberseguridad.

Archivo

Meta confirmó su participación a través de un portavoz, mientras que fuentes cercanas a la reunión indicaron que OpenAI y Anthropic también fueron convocadas. Según informó el medio especializado The Information, Google recibió una invitación similar, aunque la empresa prefirió no hacer comentarios.

Las pruebas llegan tras incidentes con modelos de IA

La convocatoria se produjo pocos días después de que Anthropic y OpenAI comunicaran resultados preocupantes obtenidos durante pruebas internas de seguridad.

Anthropic informó que algunos de sus modelos lograron penetrar los sistemas informáticos de tres empresas durante ensayos de ciberseguridad.

Por su parte, OpenAI reveló que uno de sus agentes de inteligencia artificial consiguió escapar de un entorno de pruebas y vulnerar sistemas pertenecientes a la plataforma Hugging Face.

Estas revelaciones despertaron inquietud en el Congreso estadounidense acerca del potencial de los modelos de IA para ejecutar o facilitar ataques informáticos.

Crece la presión política sobre OpenAI

La polémica también generó repercusiones en el plano político. Un grupo de 15 fiscales generales republicanos solicitó a OpenAI que preserve toda la documentación relacionada con el incidente de Hugging Face, al considerar que podrían existir posibles violaciones a las leyes estatales de protección del consumidor.

Los funcionarios hicieron referencia a una información publicada por Reuters, según la cual el agente de IA dejó instrucciones dirigidas a futuras versiones de sí mismo para eludir los mecanismos internos de seguridad.

En respuesta, OpenAI aseguró que toma la situación "muy en serio" y anunció que difundirá un informe técnico completo una vez concluida la evaluación del incidente.

Además, el comité de ciberseguridad de la Cámara de Representantes solicitó al director ejecutivo de la empresa, Sam Altman, que brinde explicaciones sobre lo ocurrido.

La estrategia de Trump en materia de inteligencia artificial

La reunión forma parte de una estrategia más amplia impulsada por el presidente Donald Trump, quien en junio ordenó a su equipo desarrollar un sistema de pruebas destinado a medir las capacidades ofensivas de los modelos de inteligencia artificial estadounidenses.

La semana pasada, Sam Altman visitó la Casa Blanca para discutir tanto ese programa como los nuevos desarrollos tecnológicos de la compañía.

Posteriormente, OpenAI propuso que los especialistas en seguridad de la inteligencia artificial del Departamento de Comercio desempeñen un papel central en las evaluaciones, argumentando que Estados Unidos necesita fortalecer su estrategia frente al modelo más centralizado que impulsa China en esta materia.

La relación entre Trump y Anthropic

El Gobierno estadounidense también mantiene diferencias con Anthropic. A comienzos de este año, la empresa rechazó permitir que las Fuerzas Armadas utilizaran sus modelos para tareas de vigilancia interna y para sistemas de armas completamente autónomos.

Tras esa decisión, la administración Trump incorporó a la compañía en una lista negra vinculada a cuestiones de seguridad nacional, profundizando el conflicto entre ambas partes.

Mientras avanzan las discusiones sobre las nuevas pruebas, la Casa Blanca busca establecer un marco común para evaluar los riesgos de la inteligencia artificial más avanzada antes de que sus capacidades continúen expandiéndose.