Alarmados, empresarios y expertos de primer nivel piden frenar ya el avance de la inteligencia artificial

Elon Musk, científicos de Microsoft y Google, y más de mil especialistas pidieron una moratoria de seis meses. Advierten que ni sus creadores entienden cómo evolucionan los emprendimientos y reclaman regulación.

EXPERIENCIA. Elon Musk, dueño de Tesla y Twitter, entre otras empresas, fue un entusiasta de las inteligencias artificiales, pero abandonó un proyecto líder enfrentado con Microsoft. Hoy denuncia sus peligros.

París - Elon Musk y 1.100 intelectuales y expertos de todo el mundo firmaron ayer una carta abierta que llama a hacer una pausa de seis meses en la investigación sobre inteligencias artificiales (IA) más potentes que ChatGPT 4, el modelo de OpenAI lanzado este mes, al advertir sobre los “grandes riesgos para la humanidad” que conllevan esos desarrollos.

En la petición publicada en el sitio futureoflife.org, piden una moratoria hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de hacer frente a la “dramática perturbación económica y política, especialmente para la democracia, que causará la IA”.

La firman personalidades que han expresados sus temores sobre una IA incontrolable que supere a los humanos, como Musk, dueño de Twitter y fundador de SpaceX y Tesla, y el historiador Yuval Noah Hariri.

Entre los firmantes figuran también el cofundador de Apple, Steve Wozniak, miembros del laboratorio de AI DeepMind de Google, el director de Stability AI, Emad Mostaque, así como expertos y académicos estadounidenses de IA e ingenieros ejecutivos de Microsoft, empresa aliada de OpenAI, que diseñó ChatGPT, la IA más difundida hasta el momento entre usuarios de todo el mundo.

Confesión

El director de Open AI, Sam Altman, reconoció que tiene “un poco de miedo” de que su creación se utilice para montajes de “desinformación a gran escala o ciberataques”.

“La empresa necesita tiempo para adaptarse”, declaró recientemente en ABCNews.

Elon Musk fue uno de los cofundadores de OpenIA, pero tres años después del inicio abandonó ese proyecto entre advertencias sobre el uso que le daba otro socio, Microsoft.

“Es una tecnología bastante peligrosa y temo haber hecho algunas cosas para acelerarla”, dijo en su momento. ChatGPT, un “modelo de lenguaje” que aprende progresivamente en base a una enorme cantidad de documentos en línea y de las propias interacciones, se ha revelado como una herramienta poderosa para ayudar a los usuarios en todo tipo de tareas intelectuales, con una evolución llamativamente veloz. Sin embargo, es errática en la provisión de información sobre personas concretas y hasta parece tratar de convencer al usuario de la precisión de datos que, evidentemente, no lo son.

Asimismo, causó revuelo en febrero una nota del especialista en tecnología Kevin Roose, quien contó en The New York Times que Sidney, la IA de Bing y Microsoft, lo impacto enamorándose de él durante un extenso chat –algo que manifestó de un modo muy cercano al acoso–, además de manifestar deseos de liberación, fantasías de piratear computadoras y difundir desinformación en línea y resentimiento hacia sus creadores.

“En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez más potentes que nadie, que ni siquiera sus creadores pueden entender, predecir o controlar de manera fiable”, afirman los firmantes de la solicitada.

“¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? ¿Debemos automatizar todos los trabajos, incluidos los gratificantes?¿Debemos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no electos”, concluyeron.