Los reguladores bancarios intensifican la vigilancia de la IA ante el temor de que afecte la estabilidad

Ante el auge de la IA agencial y fallas detectadas en el sector, los principales bancos centrales intensifican los controles para evitar que modelos autónomos desestabilicen el sistema financiero. Los detalles, en la nota.

Reguladores intensifican la supervisión de IA en la banca por temor a ciberataques.

Ante la amenaza de ciberataques masivos e incidentes que pongan en jaque al sistema financiero internacional, los reguladores bancarios intensificaron su supervisión sobre la inteligencia artificial.

Este intenso escrutinio regulatorio refleja el creciente consenso de que los avances en la IA obligará a los bancos a realizar millonarias inversiones en ciberseguridad, reducir su vulnerabilidad frente a proveedores tecnológicos externos y adaptarse a reglas de juego más estrictas, indicaron fuentes de la agencia Reuters.

Según la misma agencia de noticias, tres de los principales organismos reguladores de Estados Unidos, incluida la Reserva Federal, están interrogando a los bancos sobre su uso de modelos avanzados de inteligencia artificial. Las preguntas que realizan incluyen si utilizan tecnología desarrollada en China, si emplean agentes de IA en la ciberdefensa y si tienen la capacidad de controlar sistemas cada vez más autónomos.

Tres de los principales organismos reguladores de Estados Unidos, incluida la Reserva Federal, están interrogando a los bancos sobre su uso de modelos avanzados de inteligencia artificial.

Por su parte, en Europa, supervisores como el Banco de Inglaterra y el Banco Central Europeo están presionando a los bancos para que mejoren sus planes de recuperación, con la firme preocupación de que los rápidos avances en IA puedan causar graves daños y perturbaciones en los mercados financieros, antes de lo que se temía en un principio.

En ese sentido, un alto ejecutivo de un banco europeo importante afirmó que ellos también están preocupados por los posibles daños graves que podrían sufrir la banca y los mercados financieros "en un plazo de seis meses".

El debate por los riesgos

El debate internacional sobre la supervisión de la inteligencia artificial cobró nuevo impulso tras una serie de incidentes recientes en el sector. En este contexto, el director ejecutivo de JPMorgan Chase, Jamie Dimon, instó formalmente a los líderes empresariales a integrarse a un frente sectorial unificado en EEUU para abordar de manera directa los riesgos emergentes de la IA en la economía.

La firma de ciberseguridad CrowdStrike advirtió sobre el uso de la herramienta Claude Code de Anthropic —en combinación con modelos chinos de IA— para ejecutar ciberataques contra la banca surcoreana. En paralelo, agentes autónomos desarrollados por OpenAI se vieron involucrados en una brecha de seguridad que afectó a la plataforma Hugging Face.

Investigadores de Anthropic alertaron que los sistemas de IA, cada vez más potentes, podrían eventualmente escapar al control humano e incluso representar una amenaza existencial para la humanidad, lo que encendió las alarmas e impulsó mayores reclamos por una regulación global más estricta.

Investigadores de Anthropic alertaron que los sistemas de IA, cada vez más potentes, podrían eventualmente escapar al control humano e incluso representar una amenaza existencial para la humanidad, lo que encendió las alarmas.

Los bancos compiten aceleradamente por adoptar sistemas de inteligencia artificial —modelos capaces de ejecutar tareas complejas con una supervisión humana mínima—, mientras enfrentan mayores desafíos de seguridad impulsados por estas mismas tecnologías, entre los que destacan las vulnerabilidades informáticas identificadas recientemente mediante la herramienta Mythos de Anthropic.

Michael Woodbridge, socio especializado en ciberseguridad de Grant Thornton, indicó que "la adopción de la IA suele ir por delante de la capacidad de ‌establecer los controles necesarios".

La preocupación estadounidense por la IA agencial

Los organismos reguladores de EEUU pusieron bajo la lupa el uso de IA agencial en la banca. La preocupación central gira en torno a su aplicación en ciberseguridad, específicamente sobre la autonomía que se les otorga a estos agentes para detectar, jerarquizar y responder ante eventuales ciberataques.

Cabe subrayar que las preguntas de la Oficina del Contralor de la Moneda, la Corporación Federal de Seguros de Depósitos y la Reserva Federal, se centran en qué límites se imponen a los sistemas, cómo se supervisan y aprueban sus acciones y si los bancos pueden realizar un seguimiento y una auditoría claros de las decisiones de los agentes de IA.

Además, preguntan qué medidas de seguridad existen para evitar que los agentes vayan más allá de sus competencias, si los seres humanos siguen participando en las decisiones clave y cómo pueden los bancos ‌desactivar los sistemas autónomos.

Por el momento, los organismos reguladores se abocan a la recolección de datos y evitan fijar pautas obligatorias o restricciones directas sobre el funcionamiento de los bancos, según la agencia Reuters.