Las empresas reconocieron ante el parlamento australiano que actualmente queda a su criterio informar a las autoridades sobre incidentes provocados por agentes de inteligencia artificial.
Archivo. Australia busca establecer un marco legal para las grandes tecnológicas.
OpenAI y Anthropic manifestaron ante el parlamento australiano su respaldo a un hipotético proyecto de legislación que obligue a las empresas de inteligencia artificial a informar a las autoridades sobre filtraciones de datos provocadas por sus agentes. Ambas compañías reconocieron que, actualmente, la decisión de notificar estos incidentes queda a criterio de cada empresa.
El contenido al que quiere acceder es exclusivo para suscriptores.
Las declaraciones se producen después de la polémica generada luego de que OpenAI, creadora de ChatGPT, demorará tres meses en comunicar al gobierno australiano que uno de sus agentes había vulnerado la seguridad del principal portal sanitario del país. El episodio se suma a las alarmas encendidas los últimos meses tras el incidente de Hugging Face, las alertas de los investigadores del sector y el debate general sobre el marco regulatorio para el desarrollo de esta tecnología.
En paralelo, crece en Australia el reclamo por normas más estrictas para los centros de datos de inteligencia artificial y la protección de los derechos de autor frente a esta tecnología. El gobierno del primer ministro Anthony Albanese trabaja en nuevas leyes para regular el sector.
Tanto OpenAI como Anthropic, desarrolladora de Claude, aguardan autorización para los grandes centros de datos proyectados por empresas promotoras en Australia. Ambas acordaron convertirse en los principales compradores de capacidad de cómputo.
Durante una audiencia en Sídney, el director de estrategia de OpenAI, Jason Kwon, expresó el respaldo de la compañía a establecer nuevas obligaciones. "Apoyaríamos un marco de divulgación obligatoria", sostuvo al ser consultado por el debate.
El ejecutivo explicó que, cuando OpenAI tomó conocimiento de la filtración de datos del sitio web de salud australiano y de otros tres sitios web gubernamentales, la empresa intentaba establecer un procedimiento para abordar este tipo de situaciones: "Estábamos tratando de seguir un proceso, intentábamos establecer una norma que se pudiera aplicar", explicó Kwon.
En ese sentido, sostuvo que una regulación podría establecer criterios comunes para las empresas y limitar las decisiones que quedan actualmente en manos de cada compañía. "Esa es una función que puede desempeñar una medida legal. Los representantes de la sociedad deben tomar más decisiones para que no seamos nosotros quienes tomemos todas estas decisiones", detalló.
Anthropic también registró incidentes en los que sus agentes protagonizaron ataques informáticos. El responsable de políticas de la empresa para Australia y Nueva Zelanda, David Masters, afirmó ante la comisión que la compañía estaría dispuesta a cumplir con una legislación australiana que obligue a las empresas de inteligencia artificial a informar las violaciones de datos.
El debate también alcanza a Estados Unidos. Allí fue presentada una legislación federal que obligaría a las empresas de inteligencia artificial a informar comportamientos peligrosos, incluidos los intentos de eludir la supervisión humana.
Sin embargo, actualmente no existe un sistema de notificación de incidentes que obligue de manera generalizada a las empresas a informar los comportamientos peligrosos de la inteligencia artificial cuando son detectados.