La inteligencia artificial al mando: el proyecto que busca dar marco legal a las empresas del futuro

El proyecto de ley SIMOSO abre el debate sobre un nuevo modelo empresarial, en el que la Inteligencia Artificial podría gestionar organizaciones bajo un marco legal específico.

El proyecto SIMOSO abre el debate sobre las sociedades gestionadas por Inteligencia Artificial.

El proyecto SIMOSO abre el debate sobre las sociedades gestionadas por Inteligencia Artificial.

Imagen creada con IA

El meteórico avance de la Inteligencia Artificial ya impactó en todas las esferas sociales e instituciones. Su inminente pero visible impacto en el ámbito privado viene sorprendiendo aún a quiénes cuentan con una amplia trayectoria en el mundo tecnológico: la aparición de empresas hiper eficientes impulsadas por IA y con una cantidad mínima de personas, es algo que dejó de ser teoría para empezar a dar casos con resultados concretos. Con ese antecedente prácticamente contemporáneo el debate empieza a trasladarse al sector público: ¿pueden las organizaciones ser únicamente lideradas por Inteligencia Artificial? ¿Quién asumiría la responsabilidad? ¿Alguien debería?

En el último tiempo, el proyecto de ley SIMOSO (Régimen de Modernización Societaria) marca un hito. La iniciativa, que el Poder Ejecutivo envió al Congreso de la Nación para modificar profundamente la Ley General de Sociedades 19.550 viene a presentar grandes transformaciones que son importantes analizar en detalle. Un desafío para muchos expertos en cuestiones legales, pero también para tecnólogos y profesionales inmersos en el ecosistema de la Inteligencia Artificial. A estos últimos, dicho escenario los obliga a mirar el verdadero desafío: la intersección entre el código autónomo y la responsabilidad jurídica tanto local como internacional.

El proyecto propone figuras disruptivas: Sociedades Automatizadas (que operan 100% mediante algoritmos o IA) y Organizaciones Autónomas Descentralizadas (DAO) con personería jurídica. Esto conlleva a un traslado desde la teoría a la práctica y habilita a replantear los sistemas del mañana. Por supuesto que pasar de la implementación tecnológica a la formalización legal implica desafíos sistémicos que trascienden fronteras, y es clave visibilizar.

En primer lugar sobresale el dilema del "Responsable Humano" en un mundo hiperconectado. El proyecto establece la obligación de contar con al menos un responsable humano domiciliado en el país. Técnicamente, esto plantea preguntas complejas de arquitectura tecnológica. ¿Cómo interactúa un responsable local ante un fallo de un algoritmo cuyo modelo fundacional fue entrenado y corre en servidores de otro continente? La gobernanza de datos y la trazabilidad algorítmica ya no serán solo buenas prácticas de ingeniería, sino requisitos legales críticos para salvaguardar la responsabilidad de esa persona.

Dentro de sus focos salientes, es destacable que evita la “impunidad algorítmica”, de modo tal de mantener la “responsabilidad humana” sobre el comportamiento de los sistemas autónomos. Mientras que a su vez, contempla nuevos roles tecnológicos, abriendo un mercado para perfiles híbridos especializados en administración / gestión de IA (como directores de cumplimiento tecnológico o AI Compliance Officers), elevando la vara profesional del sector.

Sin embargo, son varios los aspectos a tener en cuenta. Uno evidente es el riesgo del "chivo expiatorio" técnico, dado que esa persona responsable local, podría correr con todas las responsabilidades de las acciones cuyos sistemas autónomos generen. A su vez, en línea con lo anterior, podría existir un freno a la innovación local, ya que muchos profesionales podrían negarse a firmar como responsables de empresas automatizadas internacionales, ralentizando la inversión local.

De la innovación tecnológica a los desafíos regulatorios globales

Siguiendo con el foco técnico, el segundo reto importante del proyecto de ley radica en la Interoperabilidad y la "Entidad Productiva Digital". El fin de la burocracia no es solo registrar una sociedad en 24 horas; la verdadera complejidad está en la interoperabilidad cuando se cruzan las fronteras. Una DAO o una sociedad tokenizada argentina interactúa con protocolos globales de Web3, contratos inteligentes e infraestructuras de nube globales. ¿Cómo responderán los sistemas de prevención de fraude internacionales ante estructuras automatizadas locales? La creación de sandboxes regulatorios (espacios de prueba) por 24 meses es una gran herramienta, pero esos espacios deben dialogar con los estándares de la Unión Europea o Estados Unidos si queremos exportar valor.

Brindar este tipo de capacidades, nos pone frente a la posibilidad de abrir oportunidades a capitales extranjeros nativos digitales, que vean un ecosistema regulatorio próspero para llevar adelante sus inversiones y desarrollar sus negocios en el país. Es real que nos plantea otros desafíos, dado que toda normativa local, cuando a inversiones extranjeras se refiere, también tiene que contemplar el resguardo de estándares y normas internacionales a las cuales estas compañías están sujetas.

Finalmente, el proyecto menciona la auditabilidad algorítmica y los seguros de responsabilidad tecnológica, aspecto que abre espacio para nuevos desafíos comerciales que esta industria tendrá, a la hora de poder confeccionar nuevas propuestas de servicios/negocios de cara a “resguardar” la operación de estas “nuevas” sociedades autónomas. Quienes implementan IA son conscientes de que la "explicabilidad" de un modelo de caja negra es uno de los desafíos técnicos más complejos de la actualidad. Traducir el comportamiento de una red neuronal a un lenguaje que un auditor o un juez puedan comprender será una de las nuevas disciplinas clave del mercado. Esto también pone en riesgo los costos y valores elevados que pueden tener los mecanismos de resguardo necesarios para contemplar cualquier tipo de contingencia que pueda tener el correcto funcionamiento de “esa” caja negra.

Es fundamental comprender que este proyecto nos concientiza de una gran verdad: la tecnología siempre va más rápido que la ley. Que hoy se esté discutiendo cómo dar marco a algoritmos que ejecutan decisiones ordinarias de negocio evidencia que la IA abandonó el rol de herramienta de soporte para convertirse en el núcleo operativo de las organizaciones. El desafío para las empresas dejó de ser que un modelo de IA sea eficiente o escalable, sino más bien diseñar sistemas que sean auditables, éticos, transparentes y técnicamente robustos para operar en un ecosistema legal que, tarde o temprano, convergerá a nivel global.

Darle luz verde a la Inteligencia Artificial para que gestione organizaciones comerciales es un paso enorme hacia el futuro. Sin embargo, quienes lideramos la implementación de estas soluciones sabemos que la verdadera innovación no destruye la confianza, sino que la automatiza con reglas claras.

Para que Argentina sea un hub competitivo a nivel global, el desafío de la industria de software ya no será solo escribir código que funcione, sino diseñar arquitecturas tecnológicas capaces de rendir cuentas ante el mundo entero. Porque el futuro ya no se despliega sólo en líneas de código, se escribe en la arquitectura de su responsabilidad.

Co-founder & Executive Director at Ingenia.

Te puede interesar