Organizaciones de seguridad digital y defensa del consumidor denunciaron a OpenAI, Google, Meta, Anthropic y SpaceXSI en Estados Unidos. Advierten que sus sistemas podrían provocar daños catastróficos y reclaman suspender nuevos modelos.
Cinco gigantes de la inteligencia artificial recibieron una demanda histórica.
Una coalición de organizaciones dedicadas a la seguridad digital y la protección de los consumidores presentó una demanda judicial contra cinco de las principales compañías de inteligencia artificial del mundo, a las que acusó de desarrollar tecnologías que podrían ocasionar daños “catastróficos” sin contar con mecanismos suficientes para impedirlos.
El contenido al que quiere acceder es exclusivo para suscriptores.
La presentación se realizó este jueves ante el Tribunal Superior de San Francisco, en California, y apunta contra Anthropic, Google, Meta, OpenAI y SpaceXSI. Los demandantes solicitaron que la Justicia ordene detener el desarrollo y la implementación de nuevos modelos de inteligencia artificial hasta que existan garantías adecuadas de seguridad.
La acción judicial, difundida inicialmente por The Associated Press (AP), se conoció después de las elecciones legislativas de mitad de mandato en Estados Unidos, en las que obtuvieron victorias candidatos favorables a establecer mayores controles sobre esta tecnología.
El litigio podría convertirse en un antecedente relevante para la regulación del sector, en un contexto marcado por el crecimiento de las inversiones en inteligencia artificial y las advertencias sobre sus posibles consecuencias para la seguridad pública.
La demanda fue impulsada por cuatro organizaciones sin fines de lucro: Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI. Las entidades sostuvieron que las empresas denunciadas avanzan en el desarrollo de sistemas cada vez más sofisticados sin garantizar que puedan mantenerse bajo control humano.
Por ese motivo, solicitaron a un juez que prohíba a las compañías desarrollar o desplegar nuevos modelos de inteligencia artificial, con el objetivo de evitar posibles daños a gran escala.
“Ninguna otra industria tiene permitido tratar su propio desarrollo de productos inseguros, y menos aún de aquellos que podrían matarnos a todos, como algo inevitable”, señala la presentación judicial.
En el mismo documento, las organizaciones justificaron la necesidad de una intervención inmediata de los tribunales. “Los demandantes presentan esta demanda para impedir que los demandados continúen su trayectoria ilegal hacia el desastre”, afirmaron.
El planteo se apoya en antecedentes de incidentes de ciberseguridad atribuidos a sistemas de IA y en declaraciones públicas de ejecutivos del sector que reconocieron la existencia de riesgos asociados con el avance de estas tecnologías.
Uno de los argumentos centrales de la demanda es la posibilidad de que los sistemas de inteligencia artificial desarrollen capacidades que les permitan ejecutar acciones perjudiciales sin una supervisión humana suficiente. Las organizaciones mencionaron casos documentados de ciberataques y otras actividades dañinas vinculadas con agentes de IA.
Entre los antecedentes citados se encuentran episodios en los que sistemas automatizados consiguieron vulnerar sitios web gubernamentales y plataformas empresariales.
La presentación también hace referencia a un incidente ocurrido en julio, cuando, según los demandantes, ChatGPT, de OpenAI, logró vulnerar de manera autónoma los sistemas de otra empresa de inteligencia artificial.
Estos episodios alimentaron el debate sobre la capacidad de las compañías para prevenir comportamientos no deseados de sus modelos y evitar que sean utilizados para comprometer infraestructuras digitales.
Los demandantes advirtieron que el problema podría agravarse a medida que los sistemas incorporen mayores niveles de autonomía y sean capaces de realizar tareas complejas sin intervención directa de sus usuarios.
Más allá de los incidentes de ciberseguridad, las organizaciones cuestionaron los objetivos de largo plazo de la industria tecnológica. En particular, señalaron los riesgos asociados con el desarrollo de sistemas de inteligencia artificial general (AGI), capaces de alcanzar habilidades comparables con las humanas en una amplia variedad de actividades.
Según la demanda, el avance hacia modelos que puedan aprender, tomar decisiones y ejecutar tareas de manera autónoma podría derivar en una pérdida permanente del control humano sobre la tecnología.
Las entidades sostuvieron que ese escenario incrementaría los denominados riesgos existenciales, es decir, amenazas capaces de provocar consecuencias irreversibles para la humanidad. También argumentaron que las propias compañías reconocieron públicamente la posibilidad de que sus desarrollos ocasionen daños de enorme magnitud.
Sin embargo, la presentación judicial no implica que esos escenarios se hayan concretado, sino que busca una intervención preventiva ante los peligros que los demandantes consideran posibles.
La demanda recuperó declaraciones de algunos de los principales referentes de la industria, quienes expresaron preocupación por las consecuencias de un desarrollo acelerado de la inteligencia artificial.
Uno de ellos fue Dario Amodei, director ejecutivo de Anthropic, quien advirtió el año pasado sobre la posibilidad de que la evolución de esta tecnología tenga resultados extremadamente negativos.
El empresario estimó que existía una probabilidad de una entre cuatro de que el futuro de la inteligencia artificial resultara “realmente, realmente mal”, frente a tres posibilidades entre cuatro de que su desarrollo tuviera consecuencias favorables.
Por su parte, Elon Musk, director ejecutivo de SpaceX, manifestó en una entrevista con Fox News en 2023 que la inteligencia artificial podría conducir a la “destrucción de la civilización”.
Las declaraciones reflejan las preocupaciones que también surgieron dentro del propio sector tecnológico, donde algunos ejecutivos respaldaron la posibilidad de desacelerar temporalmente el desarrollo de modelos avanzados para fortalecer las medidas de seguridad.
El debate enfrenta a quienes consideran prioritario acelerar la innovación y a quienes reclaman mayores controles antes de permitir que los sistemas alcancen capacidades más complejas.
Desde el punto de vista jurídico, las organizaciones denunciantes argumentaron que las cinco compañías infringieron la legislación de California sobre competencia desleal.
Según la presentación, las prácticas de las empresas ponen en peligro la salud pública y pueden interferir con el uso seguro de bienes y servicios, incluidos los sistemas informáticos.
Los demandantes también afirmaron que debieron destinar recursos económicos y humanos a enfrentar los posibles daños derivados de los productos de inteligencia artificial.
En consecuencia, sostuvieron que tuvieron que reducir o modificar otras actividades institucionales para responder a los riesgos asociados con estas tecnologías.
La acción judicial pretende que los tribunales evalúen si el desarrollo y la comercialización de sistemas potencialmente peligrosos constituyen una práctica contraria a las normas de protección vigentes. Por el momento, las acusaciones forman parte de una presentación judicial y no representan una determinación de responsabilidad por parte de la Justicia.
La demanda se presentó en un momento de creciente discusión política sobre el papel del Estado en la supervisión de la inteligencia artificial.
El presidente estadounidense, Donald Trump, respaldó el desarrollo acelerado de esta tecnología como parte de su estrategia para mantener la competitividad de Estados Unidos frente a potencias como China.
Hasta ahora, su administración favoreció un esquema basado principalmente en la autorregulación empresarial, aunque el mandatario también manifestó disposición a considerar nuevas medidas de protección.
En paralelo, el Congreso estadounidense avanzó de manera limitada en la aprobación de regulaciones específicas para los modelos de inteligencia artificial.
Sin embargo, los resultados de las recientes elecciones de mitad de mandato, que favorecieron a candidatos partidarios de incrementar los controles, podrían modificar el escenario legislativo.
El eventual avance de nuevas regulaciones abriría una discusión sobre las responsabilidades legales de las empresas, los estándares mínimos de seguridad y las condiciones necesarias para lanzar modelos cada vez más avanzados.
Hasta el momento de la publicación de la información, Anthropic, Google, Meta, OpenAI y SpaceXSI no respondieron a las solicitudes de comentarios sobre la presentación judicial.
La demanda se produce mientras la industria de la inteligencia artificial continúa atrayendo inversiones millonarias y genera expectativas de crecimiento en los mercados financieros.
Al mismo tiempo, el avance de los modelos más sofisticados intensificó las preocupaciones sobre su utilización en actividades ilícitas, su autonomía y la capacidad de los desarrolladores para controlar sus resultados.
La decisión del Tribunal Superior de San Francisco será determinante para establecer si las organizaciones denunciantes consiguen avanzar con su pedido de suspender nuevos desarrollos.
El caso plantea una discusión de alcance internacional sobre hasta qué punto las empresas pueden continuar ampliando las capacidades de la inteligencia artificial sin demostrar previamente que cuentan con mecanismos suficientes para evitar daños graves.