Open AI y otros gigantes de la inteligencia artificial acuerdan nuevos compromisos de seguridad

Más de una decena de las empresas punteras en tecnología se comprometieron a una mayor transparencia en el desarrollo de la inteligencia artificial y control sobre su uso.

Cada vez más empresas incorporan medidas regulatorias de la inteligencia artificial. 

freepik.es

Ante un continuo crecimiento del alcance de la inteligencia artificial (IA), empresas líderes en el ámbito se reunieron en Corea del Sur y asumieron nuevos compromisos sobre el desarrollo seguro de estas nuevas tecnologías, según anunció el gobierno británico en un comunicado.

El acuerdo alcanzado por 16 empresas tecnológicas incluye al fabricante de ChatGPT OpenAI, Google DeepMind y Anthropic. Se basa en un consenso para un desarrollo "seguro" de esta herramienta alcanzado en la primera cumbre sobre IA celebrada en Bletchley Park en el Reino Unido el año pasado.

"Este compromiso garantiza que las principales empresas de IA del mundo ofrecerán transparencia y rendirán cuentas sobre sus planes para desarrollar una IA que sea segura", afirmó el primer ministro británico, Rishi Sunak, en un comunicado.

Acuerdos de regulación para la inteligencia artificial.

Pixabay

Dicho acuerdo establece que las empresas de IA que no hayan publicado como determinan los riesgos que conlleva esta tecnología, van a publicar estas directivas. También se especificarán peligros catalogados como "intolerables" y los protocolos de las empresas de tecnología para asegurarse que no se cruce este umbral.

"En los casos más extremos, las empresas se comprometieron a 'no desarrollar o a desplegar un modelo o un sistema', si las políticas de mitigación no pueden mantener los riesgos en un nivel tolerable", agregó el comunicado británico. Este umbral será definido con claridad en la próxima cumbre sobre IA que se celebrará en Francia en 2025.

Otros gigantes del sector que se sumaron a este convenio son las empresas estadounidenses Microsoft, Amazon, IBM y la matriz de Instagram, Meta, la compañía francesa Mistral AI y la china Zhipu.ai.