La inteligencia artificial avanza más rápido que los controles en las empresas: los riesgos de adoptar IA sin medir las consecuencias

La incorporación acelerada de inteligencia artificial está transformando los procesos empresariales, pero también expone a las organizaciones a filtraciones de datos, costos imprevistos y decisiones automatizadas sin supervisión. Dos especialistas advierten que el desafío ya no es solamente adoptar nuevas herramientas.

Expertos advierten sobre el shadow AI, la seguridad de los datos y los riesgos de escalar proyectos sin supervisión.

ChatGPT IA

La carrera por incorporar inteligencia artificial (IA) en las empresas está generando una paradoja: mientras las nuevas herramientas prometen acelerar procesos, reducir costos y mejorar la productividad, su adopción también puede crear problemas de seguridad, exponer información confidencial y multiplicar decisiones difíciles de controlar. En ese escenario, especialistas del sector tecnológico coinciden en que el desafío para las compañías ya no pasa únicamente por incorporar IA, sino por aprender a distinguir qué desarrollos vale la pena llevar a producción y cuáles deberían quedarse en una etapa experimental.

La advertencia cobra especial relevancia durante octubre, Mes de la Ciberseguridad, y en medio de una transformación tecnológica que avanza más rápido que la capacidad de muchas organizaciones para establecer controles internos. El fenómeno del shadow AI, que consiste en utilizar herramientas de inteligencia artificial por fuera de la supervisión de las áreas de sistemas, aparece como uno de los riesgos más visibles.

Para Yamandú Giménez Wenzel, senior solutions director de Aditi Consulting, compañía global de consultoría tecnológica e ingeniería especializada en transformación digital, el principal aprendizaje que pueden obtener las empresas de la inteligencia artificial es identificar qué proyectos no deberían escalarse. Desde otra perspectiva, Facundo Balmaceda, especialista en Ciberseguridad de SONDA Argentina, empresa de servicios tecnológicos y transformación digital, advierte sobre la falta de responsabilidad y supervisión con la que se están incorporando estas herramientas.

Ambos enfoques confluyen en un mismo problema: la velocidad de la innovación está superando la maduración de los mecanismos de gobernanza, seguridad y control empresarial.

La IA llegó a las empresas antes que las reglas para utilizarla

La inteligencia artificial generativa modificó los hábitos laborales en un período muy corto. Empleados de distintas áreas comenzaron a utilizar asistentes digitales para redactar documentos, analizar información, revisar contratos, elaborar propuestas comerciales y automatizar tareas.

Sin embargo, en muchos casos esa incorporación ocurrió antes de que las organizaciones definieran qué información podía compartirse y cuáles eran las herramientas autorizadas.

“La IA generativa entró a las empresas por la ventana, no por la puerta principal: la adoptaron los empleados antes que los equipos de sistemas”, explicó Balmaceda.

Según el especialista de SONDA, la consecuencia es que actualmente existen sistemas de inteligencia artificial procesando información y participando en decisiones empresariales sin un marco suficientemente claro sobre sus permisos y responsabilidades.

Un ejemplo habitual es el de un trabajador que carga un contrato o una base de clientes en un chatbot gratuito para acelerar una tarea. Aunque la operación no tenga una intención maliciosa, puede provocar que información sensible salga del entorno controlado por la empresa.

Este fenómeno, conocido como shadow AI, representa una evolución de los problemas asociados al uso de tecnologías no autorizadas dentro de las organizaciones, tradicionalmente agrupados bajo el concepto de shadow IT.

Por qué no todas las herramientas de IA deberían llegar a producción

El problema no se limita a la seguridad informática. También alcanza a las decisiones de inversión y a los costos de implementar tecnologías que cambian constantemente.

Giménez Wenzel sostiene que los ciclos de innovación son cada vez más cortos. Mientras las empresas todavía intentan comprender las capacidades de una generación de modelos, aparecen nuevas versiones, agentes autónomos y herramientas de automatización.

En ese contexto, la pregunta central deja de ser qué tan rápido puede incorporarse una tecnología y pasa a ser si realmente conviene utilizarla en un proceso empresarial.

Para abordar ese desafío, Aditi Consulting desarrolló AI Labs, un espacio de experimentación interna en el que prueba nuevas herramientas antes de recomendarlas o implementarlas en proyectos de clientes.

El objetivo es identificar fallas, costos, limitaciones y necesidades de control antes de llevar los desarrollos a una operación real.

“Si todo lo que se prueba termina escalándose, probablemente no estamos aprendiendo lo suficiente”, planteó Giménez Wenzel.

El ejecutivo considera que las empresas deben diseñar sus procesos de experimentación tanto para validar iniciativas como para descartarlas. De lo contrario, el entusiasmo por incorporar novedades puede terminar transformándose en inversiones que no generan los resultados esperados.

La oportunidad de reducir costos y recuperar proyectos postergados

Más allá de los riesgos, la inteligencia artificial también puede modificar la estructura de costos de determinados proyectos tecnológicos.

Giménez Wenzel menciona como ejemplo la modernización de sistemas legacy, es decir, programas informáticos antiguos que continúan sosteniendo procesos fundamentales de las empresas.

En muchos casos, ese software fue desarrollado décadas atrás por profesionales que ya no trabajan en la organización. Antes de reemplazarlo, los equipos tecnológicos necesitan comprender su funcionamiento, una tarea que tradicionalmente podía demandar meses de trabajo.

Desde Aditi Consulting desarrollaron una herramienta de inteligencia artificial capaz de analizar ese código y generar documentación para facilitar su modernización.

El sistema fue probado primero sobre desarrollos internos y posteriormente incorporado a proyectos de clientes.

Según el especialista, esta tecnología permite reducir parte del trabajo manual necesario y realizar iniciativas con equipos más pequeños y plazos más acotados.

La posibilidad de mejorar la eficiencia también abre oportunidades para empresas que habían postergado inversiones tecnológicas debido a sus costos o a la cantidad de recursos humanos necesarios.

Sin embargo, Giménez Wenzel advierte que una herramienta que funciona correctamente durante una prueba no necesariamente está preparada para operar a gran escala.

Datos confidenciales, algoritmos manipulados y decisiones sin supervisión

Los riesgos aumentan cuando las empresas comienzan a integrar inteligencia artificial en procesos vinculados con información sensible o decisiones de impacto económico.

Balmaceda identifica vulnerabilidades tanto en las plataformas externas como en los asistentes desarrollados específicamente para una compañía.

“Un chatbot corporativo mal desarrollado es como dejar una puerta trasera abierta en la recepción de tu empresa”, advirtió.

Uno de los problemas aparece cuando estos sistemas no tienen restricciones adecuadas para determinar qué documentos pueden consultar y qué información están autorizados a mostrar.

También crecen los intentos de manipulación mediante las denominadas inyecciones de prompt, una técnica que busca alterar el comportamiento de una inteligencia artificial introduciendo instrucciones dentro de los contenidos que debe procesar.

El especialista menciona situaciones en las que documentos incorporan texto oculto, mediante letras blancas sobre fondo blanco o tamaños de fuente prácticamente invisibles, con el objetivo de influir en evaluaciones realizadas por sistemas automatizados.

Estas prácticas pueden afectar procesos de selección de personal, análisis de currículums o evaluación de presupuestos comerciales.

Aunque esas instrucciones no necesariamente serán obedecidas por la IA, pueden introducir sesgos si no existen controles adecuados.

El riesgo también alcanza a decisiones empresariales como la aprobación de créditos, la administración de accesos informáticos o la selección de candidatos para cubrir puestos laborales.

“Cuanto mayor es el impacto de una decisión sobre un cliente, un empleado o el negocio, mayor debería ser el nivel de supervisión humana. La IA puede acelerar procesos, pero la responsabilidad final no debería dejar de estar en manos de las personas”, sostuvo Balmaceda.

Gobernanza de datos: el punto en común entre innovación y ciberseguridad

Aunque parten de problemas distintos, los especialistas coinciden en la necesidad de establecer mecanismos de gobernanza desde las primeras etapas de adopción de inteligencia artificial.

Para Balmaceda, las compañías deben comenzar por clasificar la información y determinar cuáles son los datos críticos, sensibles o públicos.

“La clave es la gobernanza de datos. Antes de preguntarse qué herramienta utilizar, la empresa debe tener identificado qué información es crítica, cuál es sensible y cuál es pública. En criollo, no se trata de prohibir la IA, sino de establecer reglas claras”, explicó.

Desde Aditi Consulting, Giménez Wenzel plantea que los procesos de experimentación deben incorporar controles de costos, trazabilidad y cumplimiento normativo desde el inicio.

Esto implica que, cuando un agente de inteligencia artificial toma una decisión o comete un error, la organización pueda reconstruir qué ocurrió y cuáles fueron los factores que intervinieron.

Sin esos mecanismos, incluso un desarrollo exitoso durante su fase experimental puede convertirse en una fuente de riesgos cuando comienza a utilizarse masivamente.

Las soluciones empresariales con permisos y políticas de seguridad administradas por las organizaciones representan una alternativa frente al uso indiscriminado de herramientas gratuitas. Sin embargo, su incorporación tampoco elimina la necesidad de capacitar a los trabajadores y revisar los procesos internos.

El desafío para las empresas: innovar sin perder el control

La velocidad con la que evoluciona la inteligencia artificial plantea una dificultad adicional para los responsables de las compañías: tomar decisiones de inversión sobre tecnologías cuyas capacidades y costos pueden modificarse en pocos meses.

Giménez Wenzel considera que muchos directivos están concentrados en la operación cotidiana y no disponen del tiempo necesario para seguir todos los cambios del sector tecnológico.

Por eso, sostiene que apostar indiscriminadamente a cada novedad puede ser tan riesgoso como demorar la adopción de herramientas que podrían mejorar la competitividad.

Balmaceda, por su parte, anticipa que en América Latina la transformación digital continuará avanzando más rápido que la maduración de las políticas de seguridad de numerosas organizaciones.

“A la inteligencia artificial le dimos un poder enorme, pero todavía no le pusimos el mismo nivel de responsabilidad. Esa distancia, hoy, es la vulnerabilidad más grande de todas”, advirtió.

De esta manera, los dos especialistas plantean una misma exigencia para la próxima etapa de adopción tecnológica: establecer procesos de prueba, supervisión y evaluación antes de incorporar sistemas de inteligencia artificial a operaciones críticas.

En términos prácticos, las empresas deberán definir qué información pueden procesar sus herramientas, cuáles son los costos reales de cada implementación, quién supervisa las decisiones automatizadas y bajo qué condiciones un proyecto experimental está preparado para llegar a producción.