Cibercontrol y derechos: un equilibrio frágil

Las herramientas tecnológicas de enorme potencia centralizan reportes de material ilícito en internet. Sin embargo: ¿cómo garantizar que la protección de menores no derive en una vigilancia sobre toda la ciudadanía?

Un debate que no podemos rehuir es cómo garantizar que la necesaria protección de los menores no derive en un modelo de vigilancia sobre toda la ciudadanía.

En los últimos años, la lucha global contra la explotación sexual infantil ha incorporado herramientas tecnológicas de enorme potencia. Plataformas como Meta, Google o Microsoft participan activamente de sistemas internacionales como el National Center for Missing & Exploited Children (NCMEC), que centraliza reportes automáticos de material ilícito detectado en internet. Estas estructuras han demostrado ser claves para identificar víctimas, interrumpir redes y dar respuesta a un fenómeno criminal que muta constantemente.

Sin embargo, este éxito plantea un debate que no podemos rehuir: ¿cómo garantizar que la necesaria protección de los menores no derive en un modelo de vigilancia sobre toda la ciudadanía? ¿Cómo compatibilizar la persecución penal con el derecho a la intimidad, consagrado en el artículo 19 de la Constitución Nacional y en los estándares internacionales de derechos humanos?

Los mecanismos de reporte funcionan, en esencia, de la siguiente manera: las plataformas están obligadas por ley —en especial en EEUU— a escanear imágenes y videos que los usuarios suben a sus servicios.

No se trata de una vigilancia estatal directa, sino de un control privado delegado que funciona mediante algoritmos que comparan los archivos con bases de datos de contenido previamente identificado como material de abuso sexual infantil. Si existe una coincidencia o sospecha, la empresa genera automáticamente un CyberTip, un informe que es enviado a NCMEC, y luego derivado a las fuerzas de seguridad correspondientes en todo el mundo.

¿Cómo compatibilizar la persecución penal con el derecho a la intimidad?

ciberseguridad programacion software

Este sistema salva vidas. Pero también produce efectos secundarios que deben ser examinados con una mirada constitucional. El escrutinio algorítmico del contenido que los usuarios cargan —incluyendo fotos personales que nada tienen que ver con delitos— abre una puerta inquietante: la erosión paulatina del ámbito reservado, ese espacio mínimo de libertad en el que cada persona es libre de obrar sin ser observada ni registrada.

Una parte significativa del debate actual gira en torno al client-side scanning, un método por el cual el análisis ocurre en el propio dispositivo del usuario, antes de que el contenido sea cifrado y enviado. Esta práctica, si se implementara masivamente, transformaría a cada celular en un sensor permanente del Estado, controlado a través de empresas privadas. La frontera entre la protección de la infancia y la vigilancia generalizada se desdibujaría, y el principio de inocencia quedaría seriamente comprometido.

El riesgo no es hipotético. Diversos organismos de derechos digitales advierten que estos sistemas pueden generar falsos positivos, criminalizar contenido legítimo, o convertirse en vectores para que gobiernos exigentes extiendan su uso hacia otros tipos de delitos, o incluso hacia conductas no delictivas.

La historia demuestra que las tecnologías creadas para combatir un mal pueden —sin controles estrictos— transformarse en herramientas para vulnerar derechos fundamentales.

Por eso es crucial que, aun reconociendo la importancia de estos mecanismos, la discusión pública incluya tres ejes:

• (1) transparencia en los algoritmos y criterios utilizados;
• (2) control judicial estricto y proporcionalidad en el uso de la información;
• (3) límites claros que impidan que herramientas excepcionales se conviertan en mecanismos permanentes de vigilancia de la vida privada.

Las tecnologías creadas para combatir un mal pueden —sin controles estrictos— vulnerar derechos fundamentales.

BBVA

La protección de los menores es un deber indeclinable del Estado. Pero esa obligación no autoriza, por sí sola, a sacrificar el derecho a la intimidad. Una sociedad democrática debe ser capaz de perseguir los delitos más aberrantes sin renunciar a los principios que la sostienen. La tecnología es un instrumento poderoso; pero es el derecho —y no el algoritmo— el que debe marcar los límites.

Y no debe perderse de vista un punto esencial: el principio de inocencia sigue plenamente vigente, por más aberrante que sea el delito que se intenta combatir.

La repulsa social no puede transformarse en atajos procesales ni en investigaciones apoyadas sobre terreno inestable. Hoy, una porción importante de estas pesquisas se basa en ubicaciones aproximadas de IP, que no identifican personas sino conexiones, y en la existencia de grupos masivos de WhatsApp donde la gran mayoría de los miembros no tiene relación alguna con el delito investigado. En ese contexto, el margen de error se expande peligrosamente.

Una IP puede estar a nombre de alguien que jamás abrió el contenido cuestionado; un usuario puede haber sido agregado a un grupo sin saberlo; un archivo puede haber sido reenviado sin intención o sin comprender su gravedad. Y sin embargo, cada una de esas circunstancias puede disparar una investigación penal con consecuencias devastadoras para personas inocentes.

Abogado penalista.