¿Podrían los riesgos de seguridad de la IA descarrilar las salidas a bolsa de Anthropic y OpenAI?

Grandes interrogantes sobre responsabilidad legal se avecinan para los laboratorios de inteligencia artificial Anthropic y OpenAI mientras avanzan con sus planes de salir a bolsa.

El riesgo de responsabilidad legal puede crecer con el aumento esperado en el uso de agentes de IA, bots que pueden tomar acciones de manera proactiva en nombre de los usuarios, y que han estado en el centro de filtraciones de alto perfil y errores operativos.

Por Andrew Ross Sorkin, Bernhard Warner, Sarah Kessler, Michael J. de la Merced, Niko Gallogly, Brian O’Keefe, Sri Muppidi and Ian Mount. Andrew aquí. En medio de una avalancha de titulares sobre agentes de IA que escapan de sus entornos aislados, Nvidia está lanzando una plataforma de software que apunta a poner límites firmes alrededor del software agéntico. Dice que el sistema habría evitado el reciente hackeo de Hugging Face por parte de los modelos de OpenAI.

En noticias relacionadas, tenemos una primicia sobre Instinct, la caliente start-up de agentes de IA. Esta compañía de 14 personas recaudó u$s1.000 millones a una valuación de u$s10.000 millones de algunas de las mayores firmas de capital de riesgo de Silicon Valley.

Se avecinan interrogantes sobre responsabilidad legal

Los investigadores anunciaron un goteo constante de descubrimientos de modelos de inteligencia artificial comportándose mal, empujando el tema de la seguridad de la IA al primer plano.

Eso plantea una gran pregunta para los inversores en potenciales OPl exitosas de Anthropic y OpenAI: ¿por cuánta responsabilidad legal podrían tener que responder?

Lo último:

• Investigadores anunciaron nueva evidencia de que herramientas de OpenAI se descontrolaron y se entrometieron en varios sitios web del gobierno de EEUU, incluidos los de la S.E.C. y el Departamento de Comercio.
• También tomaron medidas agresivas para tomar datos de un sitio web de la ONU.
• OpenAI dijo que había pausado el entrenamiento de sus modelos de vanguardia en medio de los informes.
• OpenAI, Anthropic y otros están examinando decenas de miles de incidentes en los que su tecnología de punta podría haberse comportado mal, informa Axios, lo que significa que podrían venir muchas más revelaciones.

La seguridad y la responsabilidad legal siguen siendo preocupaciones importantes. Ya escribimos previamente sobre cómo los grandes laboratorios de IA podrían enfrentar una enorme responsabilidad legal si sus herramientas terminan siendo responsables de grandes daños.

Otros han hecho sonar la alarma:

• Alex Karp, el C.E.O. de Palantir, advirtió recientemente que los grandes laboratorios de I.A. podrían necesitar ser nacionalizados, porque de lo contrario enfrentan demandas potencialmente ruinosas.
• El secretario del Tesoro, Scott Bessent, dijo que las compañías tenían que “hacerse responsables de sí mismas” y que no deberían esperar un escudo federal contra la responsabilidad legal.

El riesgo de responsabilidad legal puede crecer con el aumento esperado en el uso de agentes de IA, bots que pueden tomar acciones de manera proactiva en nombre de los usuarios, y que han estado en el centro de filtraciones de alto perfil y errores operativos.

Estas preocupaciones no parecen estar descarrilando la expectativa de OPI para Anthropic y OpenAI, al menos por ahora. Sam Altman de OpenAI le dijo a Fortune que su compañía muy probablemente no saldría a bolsa este año “dado todo lo que está pasando con la seguridad”. Los esfuerzos de la compañía por reformular su negocio implicaban que una OPI en 2026 ya lucía poco probable.

Los laboratorios de I.A. afirman que están trabajando para mejorar las barreras de protección de sus productos, incluida una mejor contención y el llamado entrenamiento de alineación. Pero si siguen saliendo a la luz más informes sobre filtraciones y otros malos comportamientos, los inversores podrían pensarlo dos veces antes de comprar en las gigantescas salidas a bolsa.

• Una gran pregunta: ¿Dario Amodei de Anthropic cenó con el presidente Trump en la Casa Blanca como estaba previsto anoche, y si fue así, qué hablaron?
• Una pregunta menor: ¿Qué pensó Amodei de haber sido parodiado por “Saturday Night Live”?

Primicia: la compañía de IA Instinct ahora vale u$s10.000 millones

La herramienta más caliente en inteligencia artificial en este momento es, posiblemente, el agente de consumo, un software que esencialmente funciona como un asistente personal digital.

Y una de las start-ups más comentadas del negocio, Instinct, planea anunciar el lunes que acaba de completar una gran ronda de recaudación de fondos, informa primero DealBook. La compañía busca competir contra rivales de billones de dólares como Meta.

Instinct recaudó u$s1.000 millones a una valuación de u$s10.000 millones. La recaudación llega casi exactamente un mes después de que Instinct recaudara u$s250 millones a una valuación de u$s2.500 millones. En la ronda anunciada el lunes invirtieron Benchmark Capital, Sequoia Capital y Coatue.

La compañía es realmente joven. Instinct, cuya plataforma está construida principalmente sobre modelos de pesos abiertos, fue fundada el año pasado y entró en pruebas beta en febrero. (La herramienta sigue siendo solo por invitación.) Tiene apenas 14 empleados.

Su fundador, Noah Shinn, es un joven de 23 años que abandonó Northeastern University y que antes fue científico investigador en otra start-up caliente de I.A., Sierra.

Instinct estuvo por delante de la curva en la fiebre por los agentes. Los usuarios pueden comunicarse con sus agentes de Instinct por texto, correo electrónico o WhatsApp y pedirles que administren sus calendarios, reserven entradas, negocien y paguen facturas, y más.

Durante los últimos varios meses, la compañía agregó funciones que incluyen reconocer la ubicación de un usuario y luego hacer sugerencias de actividades, y permitir que los usuarios coordinen sus agentes de Instinct con los de otros usuarios.

La mayor parte del nuevo dinero irá a más capacidad de cómputo, un gasto creciente para las compañías de IA. Los usuarios notaron en semanas recientes que la herramienta decía que “las respuestas podrían ser más lentas” porque estaba funcionando a plena capacidad.

Instinct fue criticada por su manejo de la privacidad, con algunas personas señalando lo que dicen que son términos de servicio demasiado amplios. Otros se quejaron de que la herramienta es vulnerable al phishing y de que tomó acciones sin su consentimiento (un problema algo común con los agentes).

El gran desafío es la competencia. Este mes, Meta lanzó su propio agente, Muse, que recibió grandes elogios y encabeza el ranking de descargas en la App Store de iOS de Apple.

La compañía SpaceXAI de Elon Musk presentó su propia herramienta de agente, Grok Bot. Los analistas esperan que otros, incluidos OpenAI y Google, presenten pronto servicios similares. ¿Amazon, que bloqueó a Muse y a otros agentes de terceros, presentará también una herramienta?

Qué mirar: Si Instinct sigue creciendo rápidamente, ¿podría un gigante tecnológico que espera ponerse al día en I.A. agéntica hacer una oferta de adquisición por ella?

Copyright © 2026 The New York Times Company