El ejecutivo ubicó en el lanzamiento del modelo de Anthropic - hecho en abril de este año - como un punto de inflexión sobre los riesgos de seguridad y explotación de vulnerabilidades. Además, llamó a no enfocarse en el debate existencial y "poner manos a la obra".
Archivo. Dimon vuelve a poner el foco en los riesgos sobre la ciberseguridad,
El CEO de J.P. Morgan, Jamie Dimon, advirtió que el desarrollo de modelos avanzados de inteligencia artificial elevó de manera drástica los riesgos de ciberseguridad a nivel global y puso como ejemplo lo sucedido con el caso caso Mythos, desarrollado por Anthropic: “La IA ha creado vulnerabilidades que desconocíamos, y antes de que surgieran estos problemas siempre nos había preocupado la ciberseguridad"
El contenido al que quiere acceder es exclusivo para suscriptores.
En detalle, durante una entrevista en Bloomberg TV, el CEO afirmó que "los peligros de la inteligencia artificial se multiplicaron por diez tras el caso Mythos”.
En abril de este año, Anthropic presentó Claude Mythos Preview como una herramienta de capacidades excepcionales en programación, al punto de superar a todos, salvo a los humanos más expertos, "en la detección y explotación de vulnerabilidades de software".
El alcance de sus capacidades - y peligros - quedó expuesto por la propia compañía. "Mythos Preview ya ha detectado miles de vulnerabilidades de alta gravedad, incluyendo algunas en todos los principales sistemas operativos y navegadores web", detalló Anthropic en un comunicado oficial.
La capacidad del modelo para encontrar fallas de software generó preocupación a nivel mundial y terminó provocando una respuesta de la administración de Donald Trump. Dos semanas después de ordenar el retiro de los modelos de ciberseguridad Claude Mythos 5 y Fable 5, el gobierno estadounidense comenzó a dar marcha atrás con parte de las restricciones impuestas a Anthropic.
Finalmente, la empresa lanzó al público Fable 5 en junio de este año, un modelo basado en Mythos, aunque con salvaguardias incorporadas que buscan impedir su utilización en áreas consideradas de riesgo, entre ellas la ciberseguridad.
En este contexto, Dimon aseguró que los riesgos asociados a los agentes de inteligencia artificial y a modelos como Mythos no son una amenaza hipotética, sino un problema concreto que requiere respuestas prácticas: “El aspecto negativo es, obviamente, lo que se lee sobre los agentes, Mythos y todas esas cosas que pueden causar problemas, y esa es una preocupación legítima, es algo real”,
“No voy a ponerme histérico preguntándome: “¿Es una amenaza existencial o no?”. Lo que vamos a hacer es ponernos manos a la obra y trabajar para solucionarlo”, aseguró sobre los debates actuales alrededor de esta tecnología.
En la misma entrevista, Dimon también se refirió a la expansión de la infraestructura necesaria para desarrollar inteligencia artificial y señaló que los centros de datos deberían construirse en lugares donde cuenten con el respaldo de las comunidades.