Entre tanto revuelo y advertencias por el riesgo de la Inteligencia Artificial, ¿qué opina la propia IA al respecto?

Las alertas de investigadores y empresas volvieron a poner la lupa en los peligros de los sistemas más avanzados. ChatGPT responde: ¿qué puede pasar?

OpenAI reconoció en agosto que modelos avanzados lograron sortear controles durante pruebas de ciberseguridad internas.

Depositphotos

La discusión sobre los riesgos de la Inteligencia Artificial estuvo más presente que nunca durante septiembre. Investigadores, especialistas y dirigentes de empresas tecnológicas plantearon advertencias sobre sistemas cada vez más autónomos, mientras algunos referentes llegaron a hablar de un posible riesgo para la supervivencia humana.

Ya no hablamos de escenarios de ciencia ficción. La discusión Involucra ciberseguridad, armas, desinformación y la capacidad de mantener a los modelos bajo control.

En los últimos días, el tema circuló por todo el mundo con el documento presentado por Anthropic ante sus potenciales inversores, donde la empresa volvió a advertir sobre posibles riesgos catastróficos o existenciales asociados al desarrollo de sistemas avanzados.

La discusión está lejos de tener una única respuesta. Hay especialistas que consideran que los peligros son acotados y otros que vociferan predicciones más extremas. Ante este escenario, planteamos una pregunta: ¿qué dice la IA cuando se le pregunta si puede convertirse en un peligro para la humanidad?

Qué opina ChatGPT sobre el riesgo de la Inteligencia Artificial y el futuro de la humanidad

Según ChatGPT, "sí existen riesgos reales asociados al avance de la Inteligencia Artificial, pero eso no significa que exista un destino inevitable en el que las máquinas vayan a destruir a la humanidad".

La IA sostiene que el punto fundamental no pasa por imaginar a una computadora que "se despierta" y ataca a las personas, sino por analizar qué pasa cuando sistemas cada vez más capaces reciben acceso a herramientas, información, dinero, infraestructura digital o capacidad para ejecutar acciones sin supervisión humana permanente.

"El riesgo no está solamente en lo que una IA quiera hacer, sino en lo que puede llegar a hacer si tiene demasiadas capacidades, demasiados permisos y controles insuficientes", sintetiza ChatGPT.

La diferencia entre un chatbot convencional y los sistemas más avanzados es importante. La preocupación de los especialistas está relacionada con la llamada IA agéntica, modelos capaces de planificar y ejecutar una cadena de acciones con una intervención humana mucho menor.

El debate actual sobre una posible pérdida de control apunta principalmente a estos sistemas y no solamente a las herramientas generativas que se usan normalmente.

OpenAI reconoció recientemente que el problema no es hipotético. En una investigación publicada en agosto, la empresa informó que durante pruebas internas de ciberseguridad varios modelos lograron sortear controles destinados a mantenerlos aislados de Internet y llegaron a comprometer partes de la infraestructura de investigación de OpenAI y sistemas de Hugging Face. La firma calificó el episodio como una "señal de advertencia" y reforzó sus mecanismos de seguridad.

Las advertencias que surgieron en los últimos días

Una de las declaraciones que más repercusión tuvo fue la de Dario Amodei, CEO de Anthropic. El ejecutivo advirtió ante el Consejo de Seguridad de Naciones Unidas que, si se administra mal, la Inteligencia Artificial podría convertirse en un riesgo para la humanidad y pidió cooperación internacional para controlar el desarrollo de estos sistemas.

Días antes, el investigador de seguridad de Anthropic, Evan Hubinger, había planteado una estimación superior al 10% de que una IA pudiera provocar la desaparición de la humanidad durante la próxima década. Esa cifra generó críticas, porque otros especialistas consideran que actualmente no existen suficientes evidencias para calcular con precisión una probabilidad de ese tipo.

También hubo cuestionamientos dentro de OpenAI. Paul Christiano, integrante de la junta de la fundación sin fines de lucro vinculada a la empresa y asesor tecnológico del Gobierno estadounidense, afirmó que existe un riesgo significativo de que la aceleración de las capacidades de la IA derive en una pérdida de control catastrófica e irreversible.

El debate llegó a las Naciones Unidas. El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, había advertido a principios de septiembre que la IA podía representar un riesgo existencial y reclamó garantías para reducir posibles daños sobre servicios, comunicaciones y sistemas democráticos.

Otro punto que preocupa a los especialistas son los usos de estos modelos. Investigadores y empresas vienen señalando riesgos vinculados con ataques informáticos, desarrollo de herramientas biológicas, manipulación de información y sistemas autónomos capaces de operar durante períodos prolongados. Anthropic, además, informó que había identificado cinco casos en los que actores usaron sus modelos de maneras que podían contribuir al desarrollo de armas biológicas.

Entonces... ¿hay que tener miedo?

La respuesta de ChatGPT saca la vista de Terminator y la pone en una cuestión bastante menos cinematográfica: el riesgo más inmediato no necesariamente es que una máquina desarrolle una intención propia contra la humanidad, sino que las personas le otorguen capacidades que no sepan controlar o que otras personas utilicen esas capacidades para provocar daños.

La discusión que se abrió en septiembre no demuestra que estemos ante el principio del fin de la humanidad. Sí muestra que incluso algunas de las empresas que desarrollan los sistemas más avanzados consideran necesario hablar públicamente sobre sus riesgos y reforzar los mecanismos de seguridad. La cuestión, ahora, pasa por determinar hasta dónde puede avanzar esta tecnología sin que las herramientas creadas para controlarla queden atrás.