Reddit anunció una nueva etapa en su estrategia de moderación, con la incorporación de herramientas de Inteligencia Artificial, diseñadas para detectar y eliminar publicaciones generadas de forma automatizada. La decisión responde a un problema que se volvió cada vez más frecuente durante el último año: el crecimiento del spam producido con modelos de bots, utilizado para promocionar productos, manipular conversaciones y posicionar contenido que termina siendo citado por los buscadores y algoritmos.
El fenómeno tomó fuerza a medida que herramientas como ChatGPT, Google AI Overview y otros asistentes empezaron a usar publicaciones de Reddit para elaborar respuestas a consultas de los usuarios. Esto convirtió a la red social en un objetivo para empresas y campañas de marketing, que generan contenido masivo con Inteligencia Artificial para intentar aparecer como recomendaciones genuinas.
La IA también se convirtió en un problema para Reddit
Reddit siempre enfrentó campañas de spam tradicionales, basadas en bots y cuentas falsas. Sin embargo, la irrupción de los modelos de IA generativa modificó el escenario. Hoy es posible crear cientos de publicaciones y comentarios que imitan el lenguaje humano, con un nivel de naturalidad mucho mayor que el de los antiguos sistemas automatizados.
Según explicó la empresa, muchas de estas publicaciones no buscan únicamente obtener interacción dentro de Reddit. El verdadero objetivo es influir en las respuestas que ofrecen los asistentes de Inteligencia Artificial y mejorar el posicionamiento de determinados productos o servicios cuando alguien hace una consulta en plataformas impulsadas por IA.
Este tipo de contenido representa un desafío diferente al spam convencional. En muchos casos, las publicaciones no contienen enlaces maliciosos, ni incumplen las reglas de la comunidad. Por el contrario, están redactadas para parecer experiencias personales reales, lo que dificulta su detección.
La empresa también reconoce que la popularidad de Reddit como fuente de información incrementó el interés por manipular las conversaciones. En los últimos años, distintos acuerdos con empresas desarrolladoras de Inteligencia Artificial consolidaron a la plataforma como uno de los principales repositorios de contenido, que se usa para entrenar modelos de lenguaje y responder consultas de los usuarios.
Cómo funcionan las nuevas herramientas de detección
Reddit informó que empezó a utilizar modelos de lenguaje de gran escala (LLM), para identificar comportamientos que antes pasaban inadvertidos. Los sistemas analizan señales desde el momento en que una cuenta es creada y continúan evaluando la actividad, a medida que publica contenido.
Entre los factores que considera la plataforma figuran la frecuencia de publicación, la similitud entre mensajes, los patrones de interacción con otras cuentas y distintos indicadores asociados a campañas automatizadas. Cuando los algoritmos detectan actividad sospechosa, el contenido puede bloquearse antes de llegar a ser visible para el resto de la comunidad.
Reddit también anunció que algunas cuentas automatizadas deberán verificar que detrás de ellas existe una persona real. La red social asegura que actualmente bloquea 23 millones de visualizaciones de spam por día, detecta alrededor de 25.000 publicaciones y comentarios sospechosos diarios.
Además, logró reducir en aproximadamente un 20% la exposición de los usuarios al spam durante el primer trimestre de 2026 respecto del período anterior. También informó que revoca cerca de dos millones de votos falsos por día, una práctica utilizada para posicionar publicaciones artificialmente.
Un desafío que afecta a todo el ecosistema de la IA
El problema excede a Reddit. Las campañas de spam generadas con IA buscan influir directamente en los sistemas conversacionales, que usan contenido público para responder preguntas. Si una plataforma logra inundarse de publicaciones falsas, esas respuestas pueden terminar reproduciendo información manipulada, como si reflejara el consenso de una comunidad.
Las consultas sobre productos, servicios, inversiones o salud aparecen entre los principales objetivos de estas estrategias. Empresas y agencias de marketing crean publicaciones con "testimonios verdaderos" para posicionar determinadas marcas y aumentar las probabilidades de que sean citadas posteriormente por asistentes IA.
Por eso, Reddit considera que la autenticidad de las conversaciones dejó de ser únicamente un problema de moderación interna. También se convirtió en un elemento central para la calidad de la información que consumen millones de personas.
La empresa sostiene que la combinación entre Inteligencia Artificial y supervisión humana va a seguir siendo necesaria para enfrentar un fenómeno que evoluciona rápidamente. A medida que los modelos generativos producen textos cada vez más difíciles de distinguir de aquellos escritos por personas, las plataformas digitales deberán perfeccionar sus mecanismos de detección, para evitar que el contenido automatizado termine desplazando las conversaciones reales.
