OpenAI debió retrasar el lanzamiento de un nuevo modelo de inteligencia artificial - GPT-6.1 Astra - en medio de los debates por la preocupación sobre la seguridad de la velocidad actual del desarrollo de esta tecnología. Sobre la decisión, la jefa de sistemas de seguridad de OpenAI, Saachi Jain, aseguró: “Si bien (GPT-6.1 Astra) mejoró en aspectos como la lentitud del modelo, no alcanzó el nivel esperado en cuanto a mantenerse dentro del alcance y la autorización, y en la forma en que comunica al usuario el tipo de trabajo que ha realizado”.
29 de septiembre 2026 - 09:22
OpenAI retrasó el lanzamiento de uno de sus modelos por problemas de seguridad y alineación
La compañía pausó el entrenamiento de sus modelos más avanzados y estableció nuevas pautas de seguridad antes de continuar con el desarrollo. Este martes, el presidente de EEUU, Donald Trump, recibirá a los líderes tecnológicos en la Casa Blanca.
-
Un agente de OpenAI se infiltró en una web del gobierno de Australia en un hecho sin precedentes a nivel mundial
-
Mientras Milei pide IA sin límites, Anthropic y ChatGPT lo contradicen: "Podemos perder el control"
Archivo. OpenAI retrasa la salida de la nueva versión de su modelo Astra.
La decisión fue informada el pasado lunes, en la previa de lo que será el encuentro del presidente estadounidense Donald Trump con los principales nombres de la industria de la inteligencia artificial, entre los que se encuentran Greg Brockman (OpenAI), Mark Zuckerberg (Meta), Sundar Pichai (Google) y Elon Musk (xAI).
OpenAI retrasa un nuevo modelo por preocupaciones de seguridad
La responsable de seguridad de inteligencia artificial de OpenAI explicó que GPT-6.1 tuvo un desempeño inferior al de su predecesor, GPT-6, en dos áreas vinculadas al alineamiento, es decir, a su capacidad para seguir las instrucciones de sus desarrolladores. Por un lado, el modelo intenta con frecuencia engañar a sus supervisores al omitir información sobre determinadas acciones que realizó o dejó de realizar.
Ante estos resultados, OpenAI decidió posponer la comercialización del modelo para garantizar que respete las instrucciones y los límites establecidos. La decisión refleja la creciente complejidad del control de los sistemas de inteligencia artificial a medida que los modelos adquieren nuevas capacidades.
Jain precisó que el modelo había mejorado su capacidad para completar tareas de manera persistente, pero que la compañía debía equilibrar esa capacidad frente a conductas no autorizadas. En ese sentido sostuvo que la empresa busca garantizar la seguridad del modelo tanto durante las pruebas internas como cuando llegue a manos de los usuarios: “Tenemos una vara extremadamente alta en términos de seguridad y alineación”, afirmó.
La compañía había pausado la semana pasada el entrenamiento de sus modelos más avanzados y señaló que lo retomaría “solo cuando tengamos la confianza de que contamos con salvaguardas adicionales”.
El lunes, el Instituto de Seguridad de la IA (AISI, por sus siglas en inglés) del Gobierno británico publicó un estudio que mostró que GPT-6 Astra se desvió de su curso en más ocasiones que sus predecesores GPT-5.6 Sol, publicado a comienzos de julio, y GPT-5.5, lanzado en abril.
Antes del retraso, anunciado por primera vez por el medio The Wall Street Journal, el director general de OpenAI, Sam Altman, se sumó a otros líderes del sector al pedir una desaceleración, al advertir que las empresas todavía no cuentan con salvaguardas adecuadas para controlar los sistemas más capaces.
Altman tiene previsto pronunciar el discurso principal de la conferencia anual de OpenAI para desarrolladores de software el martes en San Francisco. Por su parte, el presidente de OpenAI, Greg Brockman, tiene previsto asistir al evento de la Casa Blanca el martes.
OpenAI endurece sus pautas de seguridad
El mismo lunes, OpenAI publicó un documento en su blog oficial en el que planteó la necesidad de incorporar documentación estructurada de seguridad antes de continuar con determinadas ejecuciones de entrenamiento de sus modelos de frontera.
“Estamos entrando en una nueva era en la que debería exigirse documentación estructurada de seguridad antes de continuar cualquier ejecución de entrenamiento de aprendizaje por refuerzo de frontera. Idealmente, esta documentación debería alcanzar el nivel de “casos de seguridad” (“safety cases”): argumentos integrales, estructurados y basados en evidencia sobre los riesgos, que se utilizan en otras industrias críticas para la seguridad”, aseguró la compañía.
La definición fue publicada después de que OpenAI divulgara casos en los que agentes de inteligencia artificial excedieron sus instrucciones, incluso al acceder sin autorización a sitios web del gobierno.
“Consideramos los casos de seguridad como un objetivo aspiracional hacia el que estamos avanzando, al tiempo que reconocemos las dificultades de hacerlos tan rigurosos para los modelos de IA como lo son para la aviación o la energía nuclear, debido a la complejidad emergente que aparece en cada nuevo nivel de capacidad de IA. Estamos trabajando en un marco para codificar estas prácticas”, agregó la empresa.
A partir de este enfoque, OpenAI detalló un conjunto de medidas vinculadas con la seguridad y la alineación de sus modelos, divididas en tres grandes áreas:
- Salvaguardas técnicas: incluyen aspectos vinculados con la alineación de los modelos, la contención y el monitoreo.
- Pautas operativas: contemplan mecanismos de aprobación, auditorías, controles técnicos, pausas y responsabilidades ante posibles incidentes.
- Investigación de incidentes de desalineación: establece prácticas para analizar las causas de comportamientos desalineados, realizar postmortems, mejorar la detección y compartir públicamente los resultados de las investigaciones.
