Escándalo de Grok: cientos de miles de chats fueron expuestos en los resultados de Google

Expertos describieron el exabrupto como un "desastre de privacidad en curso". Los usuarios pedían planes de alimentación, consejos de seguridad, entre otros.

"Nuestra tecnología ni siquiera nos dice qué hace con nuestros datos, y eso es un problema", afirmó un analista.

Más de 300.000 mil conversaciones de usuarios con el chatbot de inteligencia artificial (IA) Grok fueron expuestas este jueves en los resultados de búsquedas de Google. Aparentemente habría sido sin el conocimiento de los usuarios.

Una búsqueda en Google realizada el jueves reveló que había indexado casi 300.000 conversaciones de Grok y esto llevó a un experto a describir los chatbots de IA como un "desastre de privacidad en curso".

La aparición de los chats fue informada por primera vez por la publicación de la industria tecnológica Forbes, que contabilizó más de 370.000 conversaciones de usuarios en Google.

Cientos de miles de chats de Grok fueron expuestos en los resultados de Google

Entre las transcripciones de chat vistas por la BBC había ejemplos en los que se le pedía al chatbot de Musk que creara una contraseña segura, proporcionara planes de alimentación para bajar de peso y respondiera preguntas detalladas sobre condiciones médicas.

Entre los pedidos que los usuarios le hacían a Grok estaba solicitar una contraseña segura y planes de alimentación.

Bidcom

Algunas transcripciones indexadas también mostraron los intentos de los usuarios de probar los límites de lo que Grok diría o haría. En un ejemplo visto por la BBC, el chatbot proporcionó instrucciones detalladas sobre cómo fabricar un fármaco de clase A en un laboratorio.

Cuando los usuarios de Grok presionan un botón para compartir una transcripción de su conversación, se crean enlaces únicos, pero además de compartir el chat con el destinatario previsto, el botón también parece haber hecho que los chats se puedan buscar en línea.

'Desastre de privacidad'

Aunque los detalles de las cuentas de los usuarios pueden estar anonimizados u ocultos en las transcripciones compartidas de los chatbots, sus mensajes aún pueden contener (y correr el riesgo de revelar) información personal y confidencial sobre alguien.

Los expertos dicen que esto pone de relieve la creciente preocupación por la privacidad de los usuarios. “Los chatbots de IA son un desastre de privacidad en curso”, dijo a la BBC el profesor Luc Rocher, profesor asociado del Oxford Internet Institute.

Dijeron que las "conversaciones filtradas" de los chatbots divulgaron información de los usuarios que va desde nombres completos y ubicación hasta detalles confidenciales sobre su salud mental, operaciones comerciales o relaciones. "Una vez filtradas en línea, estas conversaciones permanecerán allí para siempre", agregaron.

Mientras tanto, la profesora asociada de filosofía en el Instituto de Ética en IA de la Universidad de Oxford, Carissa Veliz, dijo que el hecho de que a los usuarios no se les informe que los chats compartidos aparecerán en los resultados de búsqueda es "problemático".

"Nuestra tecnología ni siquiera nos dice qué hace con nuestros datos, y eso es un problema", afirmó.