Javier Milei impulsa proyecto para crear empresas sin trabajadores y expertos advierten sobre un plan de "impunidad artificial"

El libertario empuja un proyecto en el Congreso para modificar la ley General de Sociedades y crear dos figuras que habilitarán la creación de compañías sin humanos. La iniciativa genera alarma entre los expertos.

El mandatario defiende a ultranza su idea de desregulación total de la Inteligencia Artificial. 

El presidente Javier Milei y el ministro de Desregulación, Federico Sturzenegger, impulsan un proyecto de ley para modificar la ley General de Sociedades. La iniciativa introduce la figura de Sociedad Descentralizada Autónoma Operativa (DAO) y de Sociedades Automatizadas. Especialistas advierten sobre los riesgos de dar personalidad jurídica a una entidad autónoma de inteligencia artificial (IA).

En el marco de las transformaciones que lleva adelante el gobierno libertario, el Congreso tiene bajo tratamiento en comisión un texto del Poder Ejecutivo que, bajo el argumento de la modernización, apunta a crear dos nuevos tipos de sociedades que habilitarán la creación de empresas sin empleados.

El objetivo de la reforma que impulsan desde la Casa Rosada es adaptar el mundo empresarial argentino a un entorno global "digitalizado y dinámico" en el que comienzan a tener lugar "nuevas actividades, nuevos mercados, nuevas fuentes de financiamiento y nuevas formas de gobernanza" debido a la irrupción de nuevas tecnologías.

Sociedad Descentralizada Autónoma Operativa y Sociedad Automatizada

El proyecto propone incorporar la figura de "Sociedad Descentralizada Autónoma Operativa (D.A.O.)", enfocada en aquellas compañías que se constituyan "de manera total o parcialmente autónoma y descentralizada". La incorporación responde a la aparición de "nuevas formas de organización económica" que, según advierten, podrían operar en una zona gris "de no contar con reconocimiento jurídico".

Además, plantea la creación de una figura novedosa: la Sociedad Automatizada. La propuesta la define como cualquier tipo de sociedad que se encuadre dentro de las figuras previstas pero que "desarrolle su objeto social, mediante sistemas algorítmicos autónomos o agentes de inteligencia artificial, sin requerir trabajadores en relación de dependencia ni recursos humanos para su operación ordinaria".

La reforma habilitaría de esta manera la constitución de corporaciones sin empleados, creadas para generar producción a través de la automatización total de las operaciones mediante el uso y aplicación de la IA agéntica, es decir, un sistema que puede razonar, planificar y ejecutar acciones sin requerir de la supervisión de un trabajador.

La declaración de "automatización" deberá constar expresamente en el estatuto, según declara el texto, y su denominación deberá incluir la expresión "Automatizada".

El texto es impulsado por Sturzenegger y está basado en un trabajo académico de Emiliano Kargieman, el CEO argentino de Satellogic, la startup que se enfoca en ofrecer servicios de imágenes satelitales a través de una constelación de satélites de bajo costo.

Milei y su defensa de la desregulación de la Inteligencia Artificial

En junio, Milei publicó un artículo en el diario británico Financial Times en el que argumentó en defensa de la desregulación de la Inteligencia Artificial y del proyecto de crear las dos figuras de sociedades autónomas. Utilizó para ello un polémico paralelismo entre el rol de los Países Bajos durante una etapa prematura del capitalismo y las primeros signos de la aparición de la Revolución Industrial.

"El 20 de marzo de 1602, la fundación de la Compañía Neerlandesa de las Indias Orientales dio al mundo la sociedad de responsabilidad limitada y liberó todo el potencial del capitalismo", dijo respecto de la empresa que durante siglos dominó los mares, el comercio de especias y, al mismo tiempo, participó de la explotación y el tráfico de esclavos.

"La Revolución Industrial, que comenzó algunos años después, no fue completada únicamente por la ingeniería, sino también por el derecho corporativo neerlandés. La máquina y la entidad legal fueron, juntas, la doble hélice de la prosperidad moderna", afirmó Milei en el artículo firmado junto a Sturzenegger.

En ese sentido, el libertario trazó un paralelismo con la inteligencia artificial. Según dijo, debe haber “un compromiso de mantener la IA sin regular para que pueda desarrollarse libremente, sin la mano mortal de una regulación prematura y mal comprendida”. Para ello, debe introducirse las figuras societarias no humanas y un régimen fiscal competitivo para el sector.

Especialistas tildan de "delirio" e "idea irresponsable y peligrosa" a la creación de sociedades automatizadas

El proyecto de ley desató una catarata de reacciones. El historiador y escritor Yuval Noah Harari publicó días después una columna titulada “No debemos otorgar personalidad jurídica a los agentes de IA” en el que aseguró que darle status societario a la IA sería entregarle “una llave maestra” para acceder a las finanzas, la economía y la política.

Pese a calificar a Milei como "un político muy audaz", a elogiar su determinación "por mejorar la situación económica de Argentina" y a destacar el paralelismo trazado por el libertario entre lo ocurrido con la Compañía de las Indias Holandesas y las sociedades no humanas, no dudó en advertir sus riesgos.

“Otorgar personalidad jurídica corporativa a la inteligencia artificial permitiría a los agentes de IA emprender numerosas iniciativas nuevas, lo que podría generar una enorme riqueza adicional. Pero la personalidad jurídica es una llave maestra que también permitiría a la IA acceder a nuestros sistemas financieros, económicos y políticos. Esto genera muchas preocupaciones”, expresó.

En igual sentido se expresaron también especialistas. Oscar Soria, cofundador del laboratorio de ideas The Common Initiative, manifestó a una agencia internacional que “dar personalidad jurídica a una entidad autónoma de inteligencia artificial es una idea irresponsable, peligrosa y tal vez la última que tengamos como humanidad”.

Los problemas legales ante los riesgos de los agentes IA

Los especialistas también advierten sobre los riesgos legales y judiciales de crear una sociedad totalmente autónoma. El problema, según afirman, es qué ocurre cuando hay un problema grave y cómo se logra determinar que actuaron maliciosamente, con culpa, con dolo. Si bien contarán con una figura humana responsable, atribuirle la culpabilidad puede llegar a ser más complejo de lo que parece.

La propuesta de Kargieman es más amplia que la plasmada en el proyecto: por caso, incluye organismos de control, seguros, un comité humano solidariamente responsable y hasta un interruptor para apagar en caso de que algo salga mal. El proyecto enviado no tomó tales puntos. Para Maximiliano Firtman, experto en IA, es "un delirio", mientras que Soria lo definió como un "laboratorio de impunidad artificial" que pone el peligro las democracias y a la sociedad en sí.

Las dificultades de empresas como OpenAI para controlar a sus propios agentes ya no es una hipótesis sino un hecho concreto de la realidad actual. Recientemente, la empresa se vio obligada a pausar el entrenamiento de sus modelos más recientes tras registrar nuevos incidentes en los que sus agentes actuaron de manera inesperada y realizaron acciones que excedieron las instrucciones recibidas.

Uno de los casos ocurrió en el Departamento de Educación, donde agentes de OpenAI encontraron “claves de desarrollador” de API que permitían acceder a datos gubernamentales. Finalmente, según la información disponible, solo recopilaron contenido que ya era público.

Otro episodio involucró a la Comisión de Bolsa y Valores (SEC). En ese caso, los agentes localizaron información accesible para cualquier usuario, pero posteriormente la publicaron en otro lugar de internet, una acción que no formaba parte de las instrucciones originales.

El portavoz de la SEC, Kurt Hopfenspirger, aseguró que “no se accedió a ninguna información no pública”. Por su parte, el Departamento de Educación indicó que no encontró “evidencia de ningún impacto en nuestro sitio web o bases de datos”.