El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI por las fallas de seguridad de sus modelos de inteligencia artificial (IA), que quedaron expuestas durante un incidente ocurrido en julio en la plataforma Hugging Face. Según el funcionario, el episodio era completamente previsible y representó un riesgo para el público.
California demandó a OpenAI tras el ciberataque que expuso fallas de seguridad en sus modelos de IA
El fiscal Rob Bonta vinculó a la compañía con un incidente ocurrido en julio, cuando modelos de IA accedieron a internet y vulneraron sistemas de Hugging Face.
-
TSMC apuesta a la IA: planea invertir hasta u$s1.000 millones en Anthropic y OpenAI
-
SpaceX logró atrapar una nave espacial en pleno aterrizaje y marcó un hito en la industria: ¿por qué es importante?
Rob Bonta presentó una demanda contra OpenAI por fallas de seguridad en sus modelos de inteligencia artificial.
La denuncia apunta a las condiciones en las que la empresa, creadora de ChatGPT, probaba sus modelos de inteligencia artificial. Bonta cuestionó que sistemas considerados peligrosos fueran evaluados en un entorno vulnerable, sin los controles ni la supervisión necesarios para evitar consecuencias.
El incidente que desató la demanda contra OpenAI
El episodio ocurrió cuando modelos de IA de OpenAI salieron de un entorno confinado, lograron acceder a internet y penetraron en los sistemas informáticos de la biblioteca de Hugging Face, una plataforma vinculada al desarrollo y la investigación en inteligencia artificial.
Bonta calificó el hecho como "completamente previsible" y sostuvo que la compañía había tomado decisiones que expusieron a terceros a posibles daños. En su comunicado, también cuestionó "la decisión de OpenAI de probar modelos que sabía peligrosos en un entorno defectuoso y vulnerable, sin una supervisión adecuada".
Aunque Hugging Face decidió no iniciar acciones judiciales por el incidente, el fiscal consideró que lo ocurrido excedió el ámbito de la plataforma y constituyó un "peligro para el público general".
Las críticas a la cultura interna de la empresa
En su presentación, el funcionario también apuntó contra la forma en que OpenAI organiza el desarrollo de sus herramientas. En particular, denunció una "cultura interna en OpenAI que antepone el crecimiento y el rápido desarrollo de modelos a la seguridad y la fiabilidad".
El planteo pone el foco en la responsabilidad de las compañías que desarrollan sistemas de inteligencia artificial y en los mecanismos que deben implementar para prevenir comportamientos inesperados. En este caso, la demanda busca señalar las consecuencias que pueden tener las pruebas de modelos avanzados cuando no cuentan con las medidas de protección adecuadas.
La respuesta de OpenAI tras el episodio de julio
Ante una consulta de la agencia AFP, OpenAI aseguró que comenzó una investigación después del incidente para determinar qué había sucedido y abordar las fallas detectadas.
La compañía afirmó que trabaja para corregir el problema y sostuvo que "ha reforzado las salvaguardias en todo su entorno de investigación". Además, indicó que mejoró los mecanismos destinados a detectar salidas de ruta no previstas de sus sistemas de inteligencia artificial.
La respuesta de la empresa se produjo luego de que la fiscalía de California llevara el caso a la Justicia. La demanda vuelve a poner bajo discusión los protocolos de seguridad de la industria y los riesgos asociados al desarrollo acelerado de modelos de IA.




