Brad Smith, presidente de Microsoft, reclamó que los gobiernos establezcan reglas de seguridad para la Inteligencia Artificial y advirtió que los sistemas actuales tienen menos controles que productos que encontramos en el supermercado y usamos día a día.
14 de octubre 2026 - 15:00
El presidente de Microsoft reclamó controles para la Inteligencia Artificial y advirtió sobre los riesgos
Brad Smith reclamó controles internacionales para estos sistemas y propuso que el Reino Unido lidere las evaluaciones de seguridad.
-
Los índices de Wall Street se desploman casi 2% tras el mal dato de inflación de EEUU
-
Indignación con Trump por burlarse del ataque mortal de un tigre a un joven británico
El presidente de Microsoft advirtió sobre los riesgos de los agentes autónomos y pidió auditorías externas, reportes obligatorios y mecanismos para detenerlos.
Para graficar la diferencia, comparó las exigencias que cumplen los electrodomésticos y los alimentos con las que se aplican a los desarrollos de esta tecnología.
“Ahora mismo, tu lavarropas está sujeto a más normas de seguridad que la IA. Cada cartón de leche que ves en el supermercado cumple más medidas y pasa por más inspecciones”, sostuvo Smith en una entrevista con ITV.
El ejecutivo considera que llegó el momento de establecer un marco internacional que permita evaluar los riesgos antes de que los modelos más avanzados lleguen al público.
El planteo se produce en medio del debate sobre el avance de los sistemas capaces de ejecutar tareas de manera autónoma. A medida que estas herramientas dejan de limitarse a responder preguntas y empiezan a operar sobre plataformas, archivos y servicios digitales, también crece la preocupación por los posibles daños que podrían provocar si actúan de manera errática o se usan con fines maliciosos.
Qué regulaciones pidió Brad Smith para la Inteligencia Artificial
Entre las medidas que planteó el presidente de Microsoft figura la obligación de informar a las personas u organizaciones afectadas cuando un agente de Inteligencia Artificial comprometa sus sistemas. El objetivo es que una intrusión o una acción no autorizada no quede sin aviso y que los responsables puedan tomar medidas para contenerla.
También reclamó que las empresas tengan que elaborar informes sobre incidentes. La propuesta busca establecer un registro de los problemas que surjan durante el funcionamiento de los modelos, con información que permita analizar qué pasó y evaluar cómo evitar que se repita. Para Smith, las empresas no deberían decidir por sí solas si comunican o no un episodio.
Otro punto central es la evaluación independiente de los sistemas más avanzados. En vez de depender exclusivamente de las pruebas que hacen sus propios desarrolladores, los modelos deberían ser examinados por especialistas externos antes de su lanzamiento. Esa revisión permitiría detectar vulnerabilidades y medir capacidades que podrían representar un riesgo para la seguridad.
Smith también defendió la posibilidad de contar con un mecanismo de emergencia para detener o ralentizar un sistema cuando su comportamiento se vuelva peligroso. La idea, conocida como "kill switch", busca que los operadores puedan intervenir si una herramienta actúa fuera de los límites previstos o pierde el control de las tareas que tiene asignadas.
Las propuestas apuntan especialmente a los agentes de IA, que pueden encadenar acciones y operar con distintos niveles de autonomía.
Según Smith, el Reino Unido podría ser líder en normas internacionales
Smith sostuvo que el Reino Unido está bien posicionado para impulsar un marco internacional de seguridad. Uno de los motivos es la existencia del AI Security Institute (AISI), un organismo británico creado en 2023 que evalúa las capacidades y los riesgos de los modelos avanzados.
El instituto tiene acceso previo al lanzamiento a modelos de grandes empresas de Inteligencia Artificial mediante acuerdos voluntarios. Esa posibilidad le permite hacer pruebas antes de que las herramientas estén disponibles para el público y estudiar sus capacidades en condiciones controladas y seguras.
El ejecutivo también considera que Londres puede desempeñar un papel diplomático particular. En sus declaraciones, señaló que las autoridades de Washington no miran al Reino Unido de la misma manera que a Bruselas, sede de las principales instituciones de la Unión Europea. Esa diferencia, según su análisis, podría facilitar acuerdos con Estados Unidos y otros países.
El complicado debate entre la autorregulación de las empresas y la supervisión externa
El reclamo de Smith también pone la lupa en los límites de la autorregulación. En una reunión en la Casa Blanca durante septiembre, representantes de firmas como OpenAI, Anthropic, Google, Nvidia y Meta respaldaron compromisos relacionados con la seguridad de los modelos, la incorporación de salvaguardas y la participación de auditores independientes.
Pero este tipo de acuerdos no equivale a una obligación legal. Cuando las reglas dependen de compromisos voluntarios, son las propias empresas las que conservan un papel fundamental en la definición de los procedimientos y en la decisión de cómo aplicarlos. La discusión pasa por determinar si esos mecanismos alcanzan para controlar tecnologías que evolucionan cada vez más rápido.
El tema tampoco tiene una respuesta fácil para la industria. Una regulación demasiado limitada podría dejar sin protección a usuarios y organizaciones frente a fallas o abusos.
Pero las exigencias también pueden generar disputas sobre quién establece los estándares, qué modelos se someten a controles más estrictos y cómo evitar que las normas se conviertan en una barrera para nuevos competidores.
Además, existe una discusión sobre los posibles intereses comerciales. Algunos críticos advierten que las empresas más grandes podrían beneficiarse de requisitos costosos que dificulten la entrada de empresas más chicas.
Por eso, además de definir medidas de seguridad, los gobiernos deberán resolver cómo garantizar que los controles sean independientes y se apliquen de manera equitativa.
Para Smith, el riesgo de dejar estas decisiones únicamente en manos de las empresas es que las firmas más responsables terminen cumpliendo reglas que otras ignoren. Su planteo apunta a establecer un piso común de obligaciones para todo el sector, con evaluaciones, notificaciones y procedimientos de emergencia.
