Crece la alarma: pide regular el sector de la inteligencia artificial su principal CEO

Las plataformas se popularizan y se perfeccionan a gran velocidad y, con ello, la difusión de fotos, videos y noticias falsas. Preocupación por la salud de la democracia y la posible manipulación de elecciones.

EN LA MIRA. Sam Altman, CEO de la empresa OpenAI, líder en inteligencia artificial, ayer al iniciar su testimonio ante una comisión del senado estadounidense.

Washington - Sam Altman, el director ejecutivo de OpenAI, creador de la interfaz ChatGPT, la plataforma de inteligencia artificial (IA) más difundida del mundo, les dijo ayer a los senadores estadounidenses que regular esa tecnología es fundamental para limitar los riesgos que involucra.

“Creemos que la intervención regulatoria de los gobiernos será crucial para mitigar los riesgos de modelos cada vez más poderosos”, dijo Altman, de 38 años, en una audiencia de la Subcomisión de Privacidad Judicial y Legislación del Senado de Estados Unidos.

“Es fundamental que la IA más potente se desarrolle con valores democráticos, lo que significa que el liderazgo de Estados Unidos es determinante”, apuntó.

La de ayer fue la primera comparecencia del CEO ante ese foro, en momentos en que crece el debate sobre la regulación de la IA, estimulado por una serie de hechos que demuestran su poder para crear noticias falsas absolutamente verosímiles y capaces de manipular el debate público y las campañas electorales. La semana pasada, Altman había participado en una reunión de la Casa Blanca sobre IA en la que se debatió cómo aplicar salvaguardias normativas. En respuesta a una pregunta sobre si las empresas están de acuerdo en la normativa, Altman dijo a los periodistas: “Sorprendentemente estamos de acuerdo en lo que debe ocurrir”.

También comparecerá ante la Cámara Alta Christina Montgomery, directora de privacidad de IBM.

Objetivos

“La inteligencia artificial necesita urgentemente normas y salvaguardias para hacer frente a sus inmensas promesas y escollos”, dijo el senador Richard Blumenthal, presidente del panel.

“Esta audiencia inicia el trabajo de nuestro subcomité para supervisar e iluminar los avanzados algoritmos y la poderosa tecnología de la IA”, capaz de aprender y desarrollar nuevas habilidades de un modo que los propios especialistas admiten no entender.

Causó alarma en el último tiempo la difusión de imágenes totalmente creadas en base a IA, las que no presentan fallas formales, pero son totalmente falsas y capaces de distorsionar el debate político. En ese sentido, circuló en las redes sociales una galería falsa de fotos de Donald Trump, expresidente de Estados Unidos, detenido por la policía de Nueva York.

Esas imágenes fueron desarrolladas en marzo con inteligencia artificial por Eliot Higgins, fundador de la plataforma de periodismo de investigación Bellingcat, quien se justificó en Twitter: “Estaba bromeando, pensé que tal vez solo cinco personas los retuitearían”. Con todo, el mensaje fue claro: el poder de la IA para producir “fake news” es enorme.

Días atrás, el propio Trump divulgó en su red Truth Social un video con audio artificialmente creado, según el cual un presentador de CNN decía, con su propia voz, cosas que en verdad jamás pronunció.

Amenazas

En ese sentido, un artículo publicado esta semana por la agencia Associated Press señaló que “los tecnólogos enumeran toda una serie de escenarios alarmantes en los que la IA generativa podría ser utilizada para crear (…) contenido digital creado o modificado mediante algoritmos con el fin de confundir a los votantes, ensuciar a un candidato o incluso incitar a la violencia”.

El debate democrático y la limpieza de los procesos electorales, aseguran muchos, peligran.

“Por ejemplo, bots de mensajes automáticos con la voz de un candidato que instruyen a sus supuestos seguidores a ir a votar en la fecha equivocada, grabaciones de audio con la voz de un candidato donde confiesa un delito o expresa opiniones racistas, imágenes de video que muestran a político dando un discurso o una entrevista que nunca dieron. También imágenes falsas diseñadas para parecerse a verdaderos informes periodísticos de medios locales, afirmando erróneamente que un candidato ha abandonado la carrera”, detalló.

“No estamos preparados para lo que se viene”, advirtió en el artículo A.J. Nash, vicepresidente de Inteligencia la empresa de ciberseguridad ZeroFox. “Para mí, el verdadero salto hacia adelante es el surgimiento de nuevas capacidades de audio y video. Y cuando eso se puede fabricar a gran escala y distribuirse a través de las redes, el impacto se multiplica”, añadió.

Opciones

Las opciones regulatorias que se están sobre la mesa son variadas. Algunas propuestas se centran en la IA que pueda poner en peligro la vida, los empleos o el sustento de las personas, como en medicina y finanzas. Otras posibilidades incluyen normas para garantizar que no se use para discriminar o violar los derechos civiles de alguien.

Otra discusión es si se debe regular al desarrollador de la IA o a la empresa que la usa para interactuar con los consumidores. OpenAI, la empresa que está detrás del chatbot ChatGPT, ha debatido la creación de un ente regulador independiente. No se sabe a ciencia cierta qué planteamientos triunfarán, pero algunos miembros de la comunidad empresarial, como IBM y la Cámara de Comercio de Estados Unidos, están a favor del planteamiento de que sólo se regule las áreas críticas como los diagnósticos médicos, lo que denominan una propuesta basada en el riesgo.

La creciente popularidad de la llamada IA generativa, que usa datos para crear nuevos contenidos como la prosa semejante a la humana de ChatGPT, ha desatado la preocupación de que esta tecnología en rápida evolución pueda fomentar las trampas en los exámenes, alentar la desinformación y dar lugar a nuevos tipos de estafas.

Mientras los legisladores se ponen al día, la principal prioridad de las grandes empresas tecnológicas es presionar contra una “reacción prematura exagerada”, dijo Adam Kovacevich, jefe de la Cámara de Progreso, un grupo protecnología.