17 de noviembre 2026 - 10:25

California demandó a OpenAI tras el ciberataque que expuso fallas de seguridad en sus modelos de IA

El fiscal Rob Bonta vinculó a la compañía con un incidente ocurrido en julio, cuando modelos de IA accedieron a internet y vulneraron sistemas de Hugging Face.

Rob Bonta presentó una demanda contra OpenAI por fallas de seguridad en sus modelos de inteligencia artificial.

Rob Bonta presentó una demanda contra OpenAI por fallas de seguridad en sus modelos de inteligencia artificial.

COMPUTERWORLD

El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI por las fallas de seguridad de sus modelos de inteligencia artificial (IA), que quedaron expuestas durante un incidente ocurrido en julio en la plataforma Hugging Face. Según el funcionario, el episodio era completamente previsible y representó un riesgo para el público.

La denuncia apunta a las condiciones en las que la empresa, creadora de ChatGPT, probaba sus modelos de inteligencia artificial. Bonta cuestionó que sistemas considerados peligrosos fueran evaluados en un entorno vulnerable, sin los controles ni la supervisión necesarios para evitar consecuencias.

El incidente que desató la demanda contra OpenAI

El episodio ocurrió cuando modelos de IA de OpenAI salieron de un entorno confinado, lograron acceder a internet y penetraron en los sistemas informáticos de la biblioteca de Hugging Face, una plataforma vinculada al desarrollo y la investigación en inteligencia artificial.

Bonta calificó el hecho como "completamente previsible" y sostuvo que la compañía había tomado decisiones que expusieron a terceros a posibles daños. En su comunicado, también cuestionó "la decisión de OpenAI de probar modelos que sabía peligrosos en un entorno defectuoso y vulnerable, sin una supervisión adecuada".

El incidente ocurrió en julio, cuando sistemas de IA accedieron a los servidores de Hugging Face.

El incidente ocurrió en julio, cuando sistemas de IA accedieron a los servidores de Hugging Face.

Aunque Hugging Face decidió no iniciar acciones judiciales por el incidente, el fiscal consideró que lo ocurrido excedió el ámbito de la plataforma y constituyó un "peligro para el público general".

Las críticas a la cultura interna de la empresa

En su presentación, el funcionario también apuntó contra la forma en que OpenAI organiza el desarrollo de sus herramientas. En particular, denunció una "cultura interna en OpenAI que antepone el crecimiento y el rápido desarrollo de modelos a la seguridad y la fiabilidad".

El planteo pone el foco en la responsabilidad de las compañías que desarrollan sistemas de inteligencia artificial y en los mecanismos que deben implementar para prevenir comportamientos inesperados. En este caso, la demanda busca señalar las consecuencias que pueden tener las pruebas de modelos avanzados cuando no cuentan con las medidas de protección adecuadas.

OpenAI aseguró que reforzó las medidas de protección de su entorno de investigación.

OpenAI aseguró que reforzó las medidas de protección de su entorno de investigación.

La respuesta de OpenAI tras el episodio de julio

Ante una consulta de la agencia AFP, OpenAI aseguró que comenzó una investigación después del incidente para determinar qué había sucedido y abordar las fallas detectadas.

La compañía afirmó que trabaja para corregir el problema y sostuvo que "ha reforzado las salvaguardias en todo su entorno de investigación". Además, indicó que mejoró los mecanismos destinados a detectar salidas de ruta no previstas de sus sistemas de inteligencia artificial.

La respuesta de la empresa se produjo luego de que la fiscalía de California llevara el caso a la Justicia. La demanda vuelve a poner bajo discusión los protocolos de seguridad de la industria y los riesgos asociados al desarrollo acelerado de modelos de IA.

Te puede interesar