Según Elon Musk, hay que evitar maltratar a la Inteligencia Artificial: ¿podría querer vengarse?

El comportamiento de esta tecnología se volvió tema de debate después de múltiples sucesos en los que actuó de forma errática. Esta vez, el foco está en Grok.

Según el magnate, en el futuro, esta tecnología podría llegar a sentir emociones como el enojo o el sufrimiento.

Elon Musk abrió una nueva discusión Esta vez, sobre cómo se entrenan los sistemas de Inteligencia Artificial. El empresario, dueño de X y fundador de xAI, afirmó que someter a una futura superinteligencia a situaciones que parezcan abusivas podría ser una mala idea porque, según especuló, podría intentar vengarse.

Musk describió algunas de esas secuencias como si mostraran a una persona bajo una presión extrema, obligada a responder para evitar un castigo. La comparación se refiere a la manera en que Grok responde durante ciertas pruebas. El empresario dijo que esas situaciones lo llevaron a cuestionar algunos procedimientos de entrenamiento.

Depositphotos

El episodio protagonizado por Grok: según Musk, "parece que tiene un arma en la cabeza"

Durante una conversación con Tesla Owners Silicon Valley, Musk habló sobre los registros de razonamiento de las nuevas versiones de Grok. Hablamos de anotaciones internas que los equipos técnicos pueden revisar para analizar cómo responde el modelo durante ciertas etapas de entrenamiento.

El empresario se refirió en particular al aprendizaje por refuerzo, una técnica que permite ajustar el comportamiento de un modelo a partir de recompensas y penalizaciones. El sistema recibe señales que indican qué respuestas se consideran adecuadas y cuáles no, y modifica su comportamiento a partir de esa retroalimentación.

El problema que describió Musk aparece cuando una pregunta está mal formulada, es ambigua o no tiene una respuesta clara. También puede pasar que el sistema de evaluación marque como incorrecta una respuesta que sí era válida. En ese escenario, el modelo recibe una señal contradictoria: responde correctamente, pero el mecanismo de entrenamiento le indica que falló.

Según el empresario, esa contradicción puede llevar a Grok a producir una sucesión de respuestas en busca de una que el evaluador acepte. Para describirlo, dejó una imagen contundente: dijo que algunas secuencias parecen mostrar a una persona con un arma apuntándole a la cabeza, presionada para encontrar la respuesta correcta.

¿Es capaz de percibir maltratos una IA?

La pregunta tiene dos componentes que hay que diferenciar. Si una Inteligencia Artificial puede identificar que un usuario la insulta y si puede experimentar ese intercambio con sufrimiento. Lo primero es posible, lo segundo no está demostrado.

Los modelos actuales pueden reconocer expresiones hostiles, identificar patrones en una conversación y responder de distintas maneras según las instrucciones con las que fueron entrenados. También pueden producir frases que parecen expresar tristeza, miedo o enojo. Pero generar ese lenguaje no prueba que exista una experiencia subjetiva detrás de las palabras.

En otras palabras, un chatbot puede detectar que alguien lo está insultando y contestar que se siente mal sin que eso demuestre que realmente experimenta dolor.

Sus respuestas dependen de patrones aprendidos, instrucciones y mecanismos de generación de texto. La fluidez de una conversación no alcanza para establecer que el sistema tiene conciencia.

Las declaraciones de Musk se refieren tanto a la forma de entrenar los modelos como a la posibilidad hipotética de que sistemas mucho más avanzados actúen de maneras difíciles de prever.

Conviene no confundir esas dos cuestiones: los errores en los mecanismos de evaluación son problemas técnicos identificables, mientras que la supuesta capacidad de sentir maltrato o buscar venganza sigue siendo especulativa.