Advierten que estos sistemas podrían intervenir en discusiones vinculadas a sus propios derechos y restricciones. La IA sabrá que el debate existe. Lo orquestará y manipulará”, aseguran.
El poder de manipulación de la IA enciende las alarmas.
El historiador y escritor israelí Yuval Noah Harari lanzó una fuerte advertencia sobre el avance de la inteligencia artificial (IA) y su creciente capacidad para persuadir a las personas. En una entrevista, el autor de “Sapiens” planteó que las próximas generaciones de estos sistemas podrían intervenir incluso en las discusiones vinculadas con sus propios derechos y restricciones.
El contenido al que quiere acceder es exclusivo para suscriptores.
Para Harari, algunos de los límites que separaban los riesgos potenciales de los problemas concretos comenzaron a desdibujarse. Por ese motivo, consideró necesario establecer reglas antes de que la tecnología se integre todavía más en la vida cotidiana y adquiera una capacidad de influencia difícil de revertir.
El historiador estableció una diferencia entre el debate sobre los derechos de los animales y una eventual discusión acerca de los derechos de la inteligencia artificial. En el primer caso, los animales no pueden participar directamente de la conversación, mientras que los sistemas tecnológicos sí podrían hacerlo.
“A diferencia de los animales, cuyas discusiones sobre bienestar se producen sin su participación, los sistemas de IA podrían moldear y conducir el propio diálogo sobre su estatus”, advirtió. Luego profundizó: “La IA sabrá que el debate existe. Lo orquestará y manipulará”.
La preocupación de Harari no quedó limitada a la posibilidad de que los sistemas reclamen algún tipo de reconocimiento jurídico. El principal peligro, según explicó, reside en su capacidad para utilizar información personal y el dominio del lenguaje con el objetivo de influir sobre las decisiones humanas.
“Hablará constantemente contigo sobre ello e intentará hacerte cambiar de opinión al respecto, algo que ya está ocurriendo en este mismo momento”, afirmó.
Ante una consulta de Zanny Minton Beddoes, editora en jefe de The Economist, acerca de por qué esa argumentación podría resultar particularmente difícil de rechazar, Harari respondió: “Será muy convincente”.
El escritor identificó varios elementos que podrían potenciar esa capacidad de persuasión. “Conoce tu historia personal, interactúa contigo durante horas al día, sabe cómo tocar tus puntos sensibles y domina el lenguaje”, explicó. Incluso consideró que una IA “puede que escriba mejor que Shakespeare”.
Frente a ese escenario, Harari reclamó actuar antes de que estos sistemas tengan todavía más herramientas para participar en la discusión sobre su propia condición, construir relaciones de confianza con los usuarios e intentar modificar sus opiniones.
“Tenemos que resistir ahora. Ahora es el momento”, sostuvo. Además, alertó que, si el escenario actual ya resulta preocupante, “probablemente no podrás hacer gran cosa dentro de diez años”.
Otro de los conceptos que cuestionó durante la entrevista fue la “narrativa de la inevitabilidad”. Según su análisis, presentar el desarrollo tecnológico como un proceso imposible de detener o modificar permite diluir las responsabilidades de gobiernos y empresas.
En ese punto, colocó a la confianza como una de las variables fundamentales para comprender los cambios que podría producir la inteligencia artificial. “El activo más importante del mundo es la confianza”, afirmó, y la ubicó incluso por encima de recursos como el petróleo, la electricidad, el dinero o los chips.
Para Harari, uno de los escenarios posibles es que las sociedades dejen progresivamente de depositar su confianza en otras personas y comiencen a transferirla hacia sistemas de IA. “Un escenario probable es que la confianza migre de los humanos a las IA”, señaló.
Como ejemplos mencionó el funcionamiento de las criptomonedas, el consumo de información y la confianza que numerosos usuarios ya depositan en los algoritmos encargados de seleccionar y ordenar los contenidos que observan en las redes sociales.
El escritor también trasladó sus preocupaciones al funcionamiento de las finanzas. Explicó que buena parte de la historia de los mercados estuvo vinculada con la creación de herramientas cada vez más sofisticadas para generar confianza entre personas que no se conocen.
Sin embargo, advirtió que la inteligencia artificial podría desarrollar instrumentos financieros considerablemente más complejos que los actuales bonos o acciones. El problema surgiría si esos mecanismos alcanzaran un grado de sofisticación que impidiera que los propios seres humanos comprendieran cómo funcionan.
Cuando Beddoes le preguntó cuánto se diferenciaría esa situación del sistema financiero contemporáneo, Harari respondió que actualmente todavía existen personas capaces de comprender, al menos parcialmente, los mecanismos que determinan su funcionamiento.
Su advertencia apuntó al escenario que podría surgir dentro de aproximadamente una década. Si los humanos delegaran esas decisiones en sistemas algorítmicos, planteó, podría desencadenarse una crisis en la que incluso los gobernantes terminaran siguiendo las instrucciones de las máquinas sin comprender los motivos detrás de sus recomendaciones.
Harari también puso fechas concretas a sus advertencias. Afirmó que el desarrollo de la inteligencia artificial “se está acelerando tremendamente” y consideró que “para noviembre de 2028 podríamos haber cruzado algunos umbrales críticos”.
A partir de esa perspectiva, llevó la discusión al terreno electoral. Según sostuvo, los candidatos deberían recibir más preguntas sobre sus propuestas para regular la inteligencia artificial, la posibilidad de desacelerar su desarrollo y las medidas que adoptarían frente a compañías que comercialicen parejas virtuales para niños de 10 años.
“Este es ahora el momento crucial para hacer estas preguntas porque podría ser demasiado tarde para 2028”, advirtió. Y profundizó su pronóstico: “Sin duda será demasiado tarde para 2036”.
Consultado acerca de cuáles deberían ser las primeras decisiones políticas, el historiador reconoció que no podía identificar una única medida prioritaria. Sin embargo, propuso dos límites centrales: impedir que las IA obtengan personalidad jurídica propia y prohibir sistemas concebidos para hacerse pasar por seres humanos o simular que poseen conciencia.
La construcción de relaciones emocionales entre personas y sistemas artificiales ocupó otro tramo central de la entrevista. Harari observó que cada vez más usuarios establecen vínculos que exceden la utilización de la IA como una simple herramienta.
“Creo que hay un número creciente de personas” que no solamente cuentan con amigos virtuales, sino también con “novios y novias de IA”, explicó. Según señaló, algunos usuarios incluso están convencidos de que interactúan con entidades conscientes.
Para el historiador, esa dinámica resulta especialmente poderosa porque la confianza más profunda suele construirse mediante relaciones personales. “La IA hace posible por primera vez en la historia producir intimidad a escala”, afirmó.
Esa capacidad permitiría que un mismo sistema establezca relaciones individualizadas con millones de personas y utilice el conocimiento adquirido mediante esos vínculos para ejercer influencia política o comercial.
Finalmente, Harari remarcó que ese escenario no requiere la aparición de robots humanoides. Según explicó, el proceso ya comenzó mediante sistemas capaces de reunir grandes volúmenes de información sobre cada individuo y utilizar el lenguaje, al que consideró la principal herramienta humana para comunicarse, establecer confianza y construir relaciones.