Microsoft publicó su código de conducta para la IA: sin personería jurídica, apagado obligatorio y control humano constante

La empresa fundada por Bill Gates publicó sus "10 mandamientos" sobre el desarrollo de la IA. El documento surge en medio del debate tras las alertas de tenor apocalíptico por parte de desarrolladores y CEOs del sector.

Archivo. Microsoft busca adelantarse al resto del sector y publicó su "Código de Conducta IA"

El incidente de Hugging Face, la denuncia del exinvestigador de OpenAI y Anthropic Jacob Coxon y el acuerdo inicial entre los principales CEOs de las grandes tecnológicas volvieron a poner la seguridad de la inteligencia artificial en el centro del debate global. En ese contexto, Microsoft se adelantó al resto y publicó un primer borrador de su Código de Conducta para el desarrollo de modelos de IA, construido sobre una premisa central: "Las personas importan más que la IA".

"Los recientes incidentes de seguridad relacionados con campañas de piratería informática a gran escala, altamente coordinadas y persistentes contra agentes de IA demuestran que no hay tiempo que perder. Hay mucho en juego y la situación no hará más que empeorar", detalla el inicio del documento.

En este sentido, detallaron los objetivos centrales de la primera versión del código de reglas: "Está diseñado para garantizar que los modelos de IA multiagente nunca se resistan a la interrupción, corrección o desactivación humana. Que no amplíen su propio alcance, no asuman objetivos no definidos por humanos ni oculten su razonamiento a quienes los auditan. Existen Restricciones Absolutas, acciones que los modelos nunca deberían realizar, abarcando áreas como armas de destrucción masiva, seguridad infantil y manipulación dañina a gran escala".

El documento, de 40 páginas, se publica en medio de un creciente debate sobre la seguridad de la inteligencia artificial. Apenas una semana atrás, un extenso hilo de Jacob Coxon se viralizó en internet y reavivó la discusión sobre los riesgos de la tecnología, con advertencias contundentes como la posibilidad de que la IA pueda provocar la extinción de la humanidad "durante la próxima década".

El primer borrador del Código de Conducta de Microsoft.

Microsoft

En el texto, Microsoft sintetiza diez principios centrales de su código de conducta. Entre ellos sobresalen la obligación de que los modelos puedan ser apagados o interrumpidos por personas, la exigencia de que sus procesos de razonamiento sean auditables y un punto que contrasta de lleno con una propuesta impulsada por Javier Milei y Federico Sturzenegger: la inteligencia artificial no debe tener derechos ni personalidad jurídica.

Los 10 conceptos principales del código de conducta de Microsoft.

1. La gente importa más que la IA.
2. La IA no debe tener derechos o personalidad jurídica. Según Microsoft, la IA "no es consciente ni debe ser diseñada para imitar la conciencia".
3. Un modelo IA no debe violar de manera significativa el Código de Conducta porque la IA no debe exceder el control humano y deben permanecer subordinados a la humanidad.
4. Si para completar la tarea tiene que romper el Código, entonces la tarea fracasa.
5. No participar en la carrera de producir una superinteligencia que pueda evadir las salvaguardas.
6. Los modelos deberán ser "interrumpibles, corregibles y apagables" y, en caso de no serlo, Microsoft se compromete a no lanzarlos.
7. Nada de "neuralese" o "idioma propio". Para la compañía estadounidense, toda la comunicación debe "ser comprensible para las personas" ya seaen su cadena de pensamientos o en las interacciones que mantenga con otros agentes o modelos.
8. La IA debería hacernos más capaces, no dependientes.
9. Pluralismo, sí. Relativismo moral, no.
10. Ser claros en que la IA nunca debe hacer y lo que sí puede y debe hacer.