El debate sobre el futuro de la inteligencia artificial volvió a tener a la Argentina como uno de sus principales escenarios: el historiador y escritor Yuval Noah Harari cuestionó nuevamente la posibilidad de otorgar personalidad jurídica a empresas gestionadas por IA, una propuesta impulsada fuertemente por el presidente Javier Milei y el ministro de Transformación y Desregulación del Estado, Federico Sturzenegger. En ese sentido, el israelí advirtió sobre las consecuencias que podría tener para el sistema económico y financiero.
Yuval Harari volvió a criticar la propuesta de Javier Milei de otorgar personalidad jurídica a empresas IA
El historiador advirtió sobre los riesgos de otorgar personalidad jurídica a empresas controladas por inteligencia artificial y puso el foco en la responsabilidad legal y el acceso al poder económico.
-
Bill Gates alertó por el avance de la Inteligencia Artificial y pidió medidas urgentes: los peligros de esta herramienta
-
Google descartó construir un datacenter en Argentina y evaluó el ecosistema de IA
Harari volvió a cruzar a Milei por su visión sobre las empresas IA.
Para el historiador, el problema central no está en que una IA pueda operar dentro de una estructura empresarial, sino en qué ocurre cuando no existe una persona humana que responda por sus decisiones. En ese escenario, sostuvo, una corporación podría acumular recursos, tomar decisiones de manera autónoma y utilizar su poder económico para influir incluso sobre el sistema político.
Harari y el riesgo de una empresa sin humanos
Durante una entrevista con el medio The Economist, Harari explicó que las corporaciones actuales son personas jurídicas únicamente como una ficción legal, ya que detrás de sus decisiones siempre existen seres humanos. El escenario cambiaría si una compañía pudiera funcionar sin ninguna persona dentro de su estructura.
"Mi argumento es que es una idea potencialmente poderosa, pero también muy, muy peligrosa. Porque, de nuevo, estamos acostumbrados a una situación en la que las corporaciones, por ley, son personas jurídicas. Pero eso es solo una ficción legal, porque todas las decisiones de SpaceX, en última instancia, las toman seres humanos: algún ejecutivo, ingeniero, empleado o quien sea", detalló.
En ese sentido, planteó el quiebre del escenario que propone Milei: "Y tenía que ser así, porque ¿quién más iba a tomar las decisiones? Pero con las IA, podés tener una corporación sin una sola persona dentro. Todas las decisiones tomadas por IA".
Su preocupación pasa por la posibilidad de que una IA sea capaz de administrar una empresa, invertir, desarrollar productos y manejar relaciones públicas con mayor eficiencia que los humanos, mientras dispone además de recursos propios.
El historiador planteó que una compañía de este tipo podría convertirse en un actor económico de enorme poder y utilizar sus recursos para conseguir mayores derechos para las propias inteligencias artificiales.
"Y como las IA son más inteligentes, podrían ser mejores invirtiendo, desarrollando productos, haciendo relaciones públicas o lo que sea. Entonces, ¿qué pasa si la corporación más rica del país está controlada por IA y puede hacer lo que quiera con su dinero? Por ejemplo, donar dinero a políticos a cambio de conseguir más derechos para las IA", cuestionó Harari.
Para el escritor, la diferencia fundamental con una empresa convencional está en las motivaciones de quien toma las decisiones. Un CEO humano puede priorizar los intereses de la compañía, pero también tiene una vida personal y enfrenta consecuencias concretas si incumple la ley.
"Quiero decir, con un CEO humano, en el fondo hay dos personas. Está la persona corporativa, que piensa: "¿Cómo evito la quiebra? ¿cómo gano más dinero?". Pero también es un individuo de carne y hueso, así que también le importan sus hijos o su vida personal", ahondó.
En ese sentido, planteó qué sucedería si una IA tuviera que elegir entre respetar la ley y evitar la quiebra: "Y, por lo tanto, si enfrenta una quiebra y tiene la posibilidad de hacer algo ilegal que podría salvarlo, pero sabe que si lo descubren irá a la cárcel, muchos pensarían: 'Prefiero arriesgarme a la quiebra antes que pasar veinte años preso'. Pero con un CEO IA..."
La discusión durante la entrevista se concentró entonces en uno de los principales interrogantes que plantea la autonomía empresarial de una IA: qué significa sancionar a una entidad que no puede sufrir las consecuencias de una condena.
Ante la posibilidad de que la normativa contemple sanciones para estos sistemas, Harari fue tajante: "Las apagan."
El historiador también rechazó la idea de considerar este escenario como una hipótesis demasiado lejana. Ante la observación de que el planteo podía ingresar en el terreno de la ciencia ficción, respondió: "No llamemos a esto ciencia ficción. En Argentina, esa podría ser la situación mañana mismo."
La cuestión, según planteó, pasa por determinar si existe una persona humana que pueda asumir la responsabilidad final por las acciones de la empresa.
"Si hay supervisión, entonces está bien. La cuestión es: ¿hay un ser humano responsable al final de la cadena?", sentenció.
Los anteriores cruces entre Milei y Harari
El debate entre Javier Milei y Yuval Noah Harari comenzó a tomar forma a partir del debate sobre la posibilidad de conceder personalidad jurídica a empresas gestionadas por inteligencia artificial.
Harari había cuestionado la propuesta del Presidente argentino en una columna publicada en Financial Times, titulada "No debemos otorgar personalidad jurídica a los agentes de IA". Allí sostuvo que conceder ese estatus podría convertirse en una vía de acceso de la IA a las finanzas, la economía y la política.
En aquella oportunidad, el escritor reconoció que la propuesta podía generar riqueza y nuevas oportunidades, pero alertó: "Otorgar personalidad jurídica corporativa a la inteligencia artificial permitiría a los agentes de IA emprender numerosas iniciativas nuevas, lo que podría generar una enorme riqueza adicional. Pero la personalidad jurídica es una llave maestra que también permitiría a la IA acceder a nuestros sistemas financieros, económicos y políticos. Esto genera muchas preocupaciones".
Harari también había utilizado el ejemplo de la Compañía Holandesa de las Indias Orientales para advertir sobre el poder que puede adquirir una estructura empresarial cuando concentra recursos y autonomía. Según su interpretación, el riesgo futuro sería la aparición de un "Estado IA", gobernado por corporaciones no humanas.
"Los países que otorguen personalidad jurídica a las IA corren el riesgo de convertirse en algo para lo que el registro histórico no ofrece analogía: no un Estado compañía, sino un Estado IA, un país cuyos habitantes podrían, en efecto, ser gobernados por corporaciones no humanas, contra las cuales podría ser aún más difícil rebelarse. Milei espera convertir Buenos Aires en una nueva Ámsterdam. Corre el riesgo de convertirla en una nueva Batavia", aseguró.
Milei respondió entonces directamente al historiador y defendió su propuesta con una respuesta irónica: "Otorgar personalidad jurídica a las compañías de IA no significa lanzar el Día del Juicio de Terminator".
En su argumentación, Milei sostuvo que una empresa gestionada por IA debería permanecer dentro del marco legal y que la personalidad jurídica permitiría precisamente establecer un patrimonio contra el cual reclamar ante eventuales daños.
También cuestionó la idea de que una IA necesariamente sería más proclive a incumplir las normas y planteó que, si una empresa artificial enfrenta la posibilidad de desaparecer por una quiebra, podría tener incentivos para cumplir estrictamente con la ley: "Preferiría mucho más tener un patrimonio neto contra el cual pueda reclamar si una IA me defrauda, que no contar con ninguna protección".
El cruce entre ambos quedó así centrado en una misma pregunta, aunque con respuestas diferentes: cómo debería funcionar el marco legal cuando una inteligencia artificial pueda tomar decisiones empresariales de manera autónoma.




