Jensen Huang sostuvo que la tecnología puede controlarse, aunque reconoció que el sector debe mejorar la supervisión de sus sistemas. Además, anunció una inversión de u$s250 millones en investigación sobre seguridad de esta tecnología en el Reino Unido.
Archivo. Huang abrió la posibilidad de dejar de suministrar infraestructura a quienes desarrollen modelos "peligrosos".
El CEO de Nvidia, Jensen Huang, afirmó que la compañía podría suspender el suministro de chips a desarrolladores que utilicen su tecnología para crear sistemas de inteligencia artificial inseguros. Sin embargo, aclaró que una decisión de ese tipo requeriría primero una conversación con el cliente y marcó límites a la responsabilidad del fabricante sobre el uso que otras empresas hacen de sus productos.
El contenido al que quiere acceder es exclusivo para suscriptores.
“Es una hipótesis", marcó Huang durante una entrevista con Bloomberg en Londres al ser consultado por la posibilidad de dejar de abastecer a una compañía que desarrolle software de manera irresponsable. Más allá de la definición, el CEO matizó su postura: “Antes de hacerlo, habría que mantener una conversación. Nosotros no dirigimos las compañías de otros, y existen límites a la hora de juzgar el uso que otras empresas hacen de nuestra tecnología. Nuestra tecnología es de uso general”.
La discusión se produce mientras crece el debate sobre los riesgos de una inteligencia artificial cada vez más avanzada y la posibilidad de que sus sistemas escapen al control humano. Nvidia ocupa un lugar central en esa discusión como principal proveedor de aceleradores de IA, los chips necesarios para entrenar y ejecutar modelos de esta tecnología.
En el sector, algunos referentes, como el CEO de Anthropic, Dario Amodei, plantearon la necesidad de desacelerar el desarrollo de la inteligencia artificial para responder a los riesgos asociados con su avance. Huang, en cambio, considera que las preocupaciones actuales son exageradas y sostiene que es posible desarrollar e implementar estos sistemas de manera segura.
Durante su gira por Europa, antes de participar en un evento de Nvidia en Berlín, el empresario atribuyó parte de las dificultades a la velocidad con la que crece la industria y a los desafíos que enfrentan las compañías jóvenes a medida que expanden sus operaciones: “Numerosas empresas jóvenes están atravesando dificultades propias de su crecimiento, y están creciendo a un ritmo increíble”, indicó Huang durante la entrevista. “Existe una responsabilidad que conlleva la creación de compañías en las que estas mismas están madurando”.
El ejecutivo también cuestionó la forma en que la industria comunica los beneficios de la tecnología. A su juicio, una parte de la preocupación pública es “autoimpuesta”, mientras que las empresas del sector están haciendo un “trabajo pésimo” a la hora de explicar las ventajas de la inteligencia artificial.
Como parte de sus iniciativas en este campo, Nvidia donará u$s250 millones durante cinco años para financiar investigaciones sobre seguridad de inteligencia artificial en el Reino Unido. El aporte se concretará mediante acceso a tiempo de uso en computadoras avanzadas.
Entre las instituciones académicas que participarán se encuentran la Universidad de Oxford y el University College de Londres. Los equipos estudiarán mecanismos de protección y alternativas para supervisar y controlar los agentes de inteligencia artificial.
Huang también planteó que la propia tecnología puede contribuir a reducir los riesgos que genera su desarrollo. En ese sentido, defendió acelerar la creación de herramientas de supervisión y contención integradas en los sistemas.
“Deberíamos acelerar la integración de esta tecnología de contención en los sistemas de IA”, afirmó. “Debemos acelerar el desarrollo de tecnologías de supervisión, y la inteligencia artificial es ese supervisor. Por lo tanto, deberíamos acelerar el desarrollo de la tecnología de IA”.
Las declaraciones del CEO de Nvidia se produjeron en una jornada en la que las acciones de la compañía y de otros fabricantes de semiconductores encabezaron las caídas en la bolsa estadounidense. Pese al retroceso bursátil, Huang volvió a rechazar la idea de que el mercado atraviese una burbuja vinculada con la inteligencia artificial.
Su argumento se apoya en la demanda de infraestructura necesaria para desarrollar y operar estos sistemas. Según el empresario, las necesidades del sector seguirán superando la oferta de componentes durante los próximos años.
“Con el tiempo, la oferta y la demanda se armonizarán”, dijo en un evento en Londres. “Pero no hoy”, sentenció.