¿Cuántas decisiones pueden tomarse sobre información que nadie verificó?

La IA puede potenciar nuestras capacidades, pero también exige más criterio: verificar, dudar y saber cuándo no delegar decisiones.

Una respuesta de inteligencia artificial puede parecer convincente y aun contener errores: la verificación humana sigue siendo clave antes de tomar decisiones relevantes.

Imagen creada con IA

En términos generales, yo te diría: ninguna. Ninguna decisión importante debería tomarse sobre información que nadie verificó; ahora bien, como digo siempre, con la inteligencia artificial todo depende, porque no todas las decisiones tienen el mismo nivel de riesgo.

No es lo mismo preguntarle a ChatGPT qué película mirar que pedirle que analice un contrato, interprete un estudio médico o me ayude con una decisión financiera. La regla es simple: a mayor consecuencia potencial del error, mayor nivel de verificación humana.

Al día de hoy, las alucinaciones no están resueltas al 100 %. Los modelos mejoraron muchísimo, pero todavía pueden generar información falsa con apariencia de seguridad. Por eso, hay una capacidad humana que tenemos que ejercitar más que nunca: permitirnos dudar. Una respuesta puede sonar impecable y seguir siendo falsa.

Esto tiene relación con cómo funciona un LLM: simplificándolo mucho, aprende a predecir qué token tiene mayor probabilidad de aparecer a continuación según el contexto. Yo suelo explicarlo como un autocompletado llevado a una escala monstruosamente sofisticada: puede producir una respuesta lingüísticamente impecable sin que eso garantice que sea verdadera.

El caso de Google AI Overviews en 2024 lo muestra perfecto: ante una pregunta sobre cómo evitar que el queso se caiga de la pizza, llegó a recomendar agregar pegamento a la salsa, tomando como referencia contenido humorístico de un foro. Para un ser humano, la absurdidad salta a la vista; un modelo puede fallar porque no comparte exactamente nuestro sentido común.

Tampoco podemos echarle toda la culpa a la IA: del otro lado está el ser humano, con sesgos como el de confirmación. Además, hoy la respuesta llega en segundos y lista para copiar y pegar. Esa conducta no nació con ChatGPT; antes estaban Google, Wikipedia o El Rincón del Vago. La diferencia es que ahora eliminamos casi toda la fricción.

Por eso, no planteo dejar de usar IA; es un potenciador extraordinario. Lo que no puedo hacer es confundir asistente con autoridad: puedo delegarle trabajo, pero no debería delegarle ciegamente la responsabilidad.

¿La solución es una IA que dude más o un lector que confíe menos? Necesitamos las dos cosas: una IA que dude más y un ser humano que confíe menos ciegamente.

Una de las líneas de trabajo actuales busca justamente que los modelos reconozcan mejor cuándo deberían decir “no sé”. OpenAI publicó en 2025 una investigación interesante sobre esto: ciertas evaluaciones podían terminar premiando indirectamente al modelo que se arriesgaba. Es como un multiple choice: si dejarla vacía vale cero y responder cualquier cosa puede acertar, probablemente arriesgues.

En SimpleQA se vio claramente: GPT-5-thinking-mini se abstuvo en el 52 % de los casos y tuvo un 26 % de errores; o4-mini se abstuvo apenas en el 1 % y terminó con un 75 % de errores. Lo paradójico es que o4-mini consiguió apenas más respuestas correctas, 24 % frente a 22 %. Si solamente miráramos quién acertó más, podríamos pensar que funcionó mejor; si miramos el riesgo de inventar información, la conclusión cambia por completo.

Por eso, yo quiero una IA que se anime a decirme “no sé”: uno de los grandes avances no será solamente construir modelos que sepan más, sino modelos que sepan mejor qué saben y qué no saben. Mientras eso mejora, nuestra responsabilidad sigue siendo dudar, contrastar y verificar.

Pedro Abelardo lo resumió muy bien: “Por la duda llegamos a la investigación y por la investigación percibimos la verdad”. En este contexto, dudar puede ser una señal de inteligencia.

Además, existe otro riesgo: una IA alucina un dato, una persona lo publica sin verificar y ese error pasa a formar parte de Internet. No significa que ChatGPT o Gemini vayan a reentrenarse automáticamente con esa publicación, pero sí puede afectar a futuras generaciones si nuevos datasets incorporan indiscriminadamente contenido sintético.

Ahí aparece el riesgo de bucles de retroalimentación y, llevado al extremo, del llamado model collapse. Es como una fotocopia de una fotocopia: cada generación puede incorporar imperfecciones que pasan a la siguiente.

Por eso, la solución no puede ser solamente tecnológica: las empresas tienen que mejorar modelos y sistemas de evaluación; nosotros tenemos que conservar el criterio. En un mundo donde conseguir una respuesta será cada vez más fácil, la habilidad valiosa será saber cuándo confiar, cuándo cuestionar y cuándo volver a buscar.

¿Cuánto de lo que hoy llamamos “sentido común” seguirá siendo humano dentro de diez años? Si bien es imposible hacer futurología, probablemente una parte importante seguirá siendo humana, porque hay capacidades que la IA puede imitar, pero que todavía no experimenta como nosotros: intuición, contexto, experiencia vivida y esa sensación de que “algo no cierra”.

Hay un ejemplo académico útil. El investigador Walid Saba trabajó con la palabra “diario”: un diario mojado puede caerse de una mesa, mientras que un diario entendido como organización puede despedir a un editor. Para nosotros, ese cambio de significado es automático; un modelo puede confundir ambas entidades y producir una frase absurda, como si el objeto físico hubiese despedido al editor.

Ese fenómeno se relaciona con la copredicación y muestra que manipular lenguaje de forma brillante no equivale necesariamente a comprender el mundo como un ser humano. Eso no significa que la IA sea poco capaz. Existen capacidades emergentes, modelos que resuelven problemas complejos y encuentran patrones que a nosotros nos llevarían muchísimo tiempo descubrir.

La pregunta, es otra: cuánto sentido común va a adquirir la IA y cuánto vamos a dejar de ejercitar nosotros.

Ahí aparece el cognitive offloading, o descarga cognitiva: trasladar a una herramienta tareas que antes hacíamos mentalmente. Existe desde la calculadora o el GPS; el problema surge cuando empieza a reemplazar directamente el pensamiento.

El estudio del MIT Media Lab, Your Brain on ChatGPT, encontró diferencias en la actividad cerebral y en la capacidad de recordar partes de textos entre personas que escribían con LLM, con buscadores o sin herramientas, y habló de “deuda cognitiva”.

Me parece una señal importante, pero hay que ser prudentes: estudiar los efectos de la IA es metodológicamente difícil porque la tecnología cambia más rápido que los propios estudios y decir que alguien “usó ChatGPT” tampoco explica cómo lo utilizó. No es lo mismo pedir un texto, copiarlo y pegarlo que pasar horas investigando, repreguntando, contrastando fuentes y reformulando una hipótesis.

Por eso, podemos pensar que la IA puede generar una polarización cognitiva: algunas personas van a delegar cada vez más y pensar menos; otras van a utilizarla para pensar más, llegar más lejos y dedicar su esfuerzo a tareas de mayor valor.

A mí me pasa: una investigación con IA puede llevarme horas porque pregunto, repregunto, cuestiono y termino aprendiendo cosas nuevas. Hubo descarga cognitiva, sí, porque la máquina encontró información más rápido; lo importante es qué hago con el tiempo y la capacidad que liberó.

Analizando esto, el desafío de los próximos diez años podría ser conservar el criterio, la intuición, la experiencia y la capacidad de dudar. Si delegamos la búsqueda, la escritura, el análisis, la decisión y finalmente también la verificación, el riesgo ya no será solamente que la IA se equivoque, sino que nosotros perdamos la capacidad de darnos cuenta.

La IA puede convertirse en una prótesis que reemplace capacidades o en un exoesqueleto intelectual que nos permita llegar más lejos; la diferencia no la va a marcar solamente el modelo, sino también la persona que esté del otro lado.

Especialista en inteligencia artificial. Ganador del premio Mercurio a la innovación. Autor de "Desbloquea el poder de la inteligencia artificial"