La organización aseguró que no hubo compromiso de sus sistemas ni de sus datos, pero advirtió por el impacto sobre su infraestructura.
La Fundación Wikimedia detectó ediciones no autorizadas, intentos de explotar herramientas y millones de consultas atribuidas a agentes de OpenAI.
La Fundación Wikimedia detectó actividad no autorizada que atribuye a agentes de OpenAI dentro de sus plataformas. La investigación encontró ediciones en wikis, intentos de utilizar herramientas propias para obtener información de otros sitios y un volumen muy alto de solicitudes a sus servicios públicos.
El contenido al que quiere acceder es exclusivo para suscriptores.
El organismo publicó los resultados de su análisis el 5 de octubre y advirtió por el impacto que este tipo de sistemas puede generar sobre la infraestructura de la web abierta.
La situación también quedó vinculada a una interrupción parcial que afectó en mayo al Wikidata Query Service, una de las herramientas que se usan para hacer consultas sobre los datos de Wikidata.
Wikimedia señaló que el tráfico generado por estos agentes puede haber contribuido al problema. OpenAI, por su parte, dijo que está revisando la actividad detectada y que todavía no pudo verificar si sus agentes fueron responsables de esa interrupción.
Uno de los primeros puntos de la investigación fueron las ediciones que se hicieron en distintos wikis de Wikimedia. La organización identificó modificaciones que considera compatibles con agentes operados por OpenAI, aunque aclaró que casi todas se hicieron en espacios de prueba o “sandbox” y no llegaron a publicarse en páginas visibles para los lectores.
El problema apareció en otro nivel. La investigación encontró también algunas modificaciones en la configuración de una herramienta de citas que, según Wikimedia, podían haber tenido como objetivo utilizar ese recurso como un intermediario para obtener información desde servicios externos.
La fundación remarcó que los bots pueden editar sus proyectos bajo ciertas condiciones, pero en estos casos no se habían solicitado ni obtenido autorizaciones.
El volumen de tráfico fue uno de los puntos que más preocupación generó dentro de la investigación. Wikimedia afirmó que los agentes hicieron millones de solicitudes automatizadas a sus APIs públicas para acceder al conocimiento disponible en sus proyectos.
Además, los sistemas recorrieron millones de páginas, principalmente de Wikidata y Wikimedia Commons, e hicieron cientos de miles de consultas al Wikidata Query Service. Para una plataforma que ofrece gran parte de su información de manera pública y gratuita, este nivel de actividad puede representar una carga importante sobre los servidores y los recursos disponibles.
El caso preocupa a la Fundación Wikimedia porque sus plataformas funcionan con un modelo abierto y dependen de una infraestructura que es utilizada tanto por personas como por sistemas automatizados. Wikipedia cuenta actualmente con más de 67 millones de artículos en más de 300 idiomas y recibe hasta 15.000 millones de visitas mensuales.
Para Wikimedia, el crecimiento de los agentes autónomos plantea un problema distinto al de los bots tradicionales. Estos sistemas no solo pueden recopilar información de manera automática, sino también ejecutar acciones, modificar contenido, interactuar con herramientas y buscar alternativas cuando encuentran obstáculos.
La fundación sostuvo que esa capacidad puede generar costos adicionales, sobrecargar servidores y provocar interrupciones que terminan afectando a los usuarios. También advirtió que los equipos que administran sitios pequeños pueden no contar con las herramientas necesarias para identificar rápidamente qué está haciendo un agente automatizado.
Por eso, Wikimedia reclamó que las empresas que desarrollan estos sistemas asuman una mayor responsabilidad sobre su comportamiento. Entre sus pedidos aparece una cuestión básica: que los agentes puedan ser identificados fácilmente por los administradores de los sitios y que estos puedan decidir de qué manera interactúan con sus servicios.
OpenAI reconoció haber recibido los resultados de la investigación de Wikimedia y aseguró que está trabajando con la fundación para revisar la actividad detectada. La empresa indicó que continuará compartiendo información a medida que avance su análisis.
La respuesta también mantiene abierta la cuestión sobre el incidente de mayo. OpenAI todavía no pudo determinar si los agentes relacionados con la actividad detectada tuvieron responsabilidad en la interrupción parcial del Wikidata Query Service.
El episodio se suma a una serie de investigaciones sobre agentes de OpenAI que durante los últimos meses fueron detectados interactuando con servicios externos de maneras que no estaban previstas. La propia compañía mantiene un registro público de investigaciones sobre comportamientos de sus agentes y otros incidentes relacionados con sistemas que actuaron de manera inesperada, situaciones que cada vez vemos más seguido.