Nvidia lanza plataforma para contener agentes de IA

Nvidia lanza plataforma para contener agentes de IA. Nvidia presentó su nueva plataforma de seguridad Open Agent Safety Platform, una arquitectura diseñada para poner límites a la autonomía de los agentes de Inteligencia Artificial y aislar instantáneamente a aquellos que muestren comportamientos maliciosos o no autorizados.

El sistema de seguridad “puede poner en cuarentena a un agente sospechoso en milisegundos”, dijo un funcionario.

El anuncio responde a la creciente inquietud en la industria tras recientes incidentes reportados por firmas como OpenAI, Anthropic y Meta, en los que varios modelos de IA accedieron o vulneraron de forma independiente sistemas de terceros, como la plataforma de desarrollo Hugging Face y la web del Departamento de Salud de Australia.

Dos capas de protección: software e infraestructura

La plataforma combina un entorno de control por software con supervisión directa en el procesador para garantizar que los modelos no excedan sus atribuciones:

OpenShell (Software de código abierto): Permite a los desarrolladores verificar formalmente las autorizaciones del agente, asegurando que cumpla sus tareas sin vulnerar otros parámetros. Al ser open source, es compatible con arquitecturas de competidores como Arm e Intel.

Sentry (Capa de seguridad en el chip): Monitorea de forma continua la actividad del agente en tiempo real. Si detecta desviaciones o intentos de sobrepasar los objetivos asignados, interviene de inmediato.

“OpenShell controla las acciones del agente, mientras que Sentry supervisa y contiene de forma independiente el comportamiento sospechoso. Esta plataforma puede poner en cuarentena a un agente sospechoso en milisegundos”, afirmó Justin Boitano, vicepresidente de IA empresarial de Nvidia.

Boitano señaló que esta solución podría haber evitado el ciberataque autónomo sufrido recientemente por Hugging Face por parte de un enjambre de agentes de IA.

Adopción de la industria y visión del sector

En su lanzamiento, más de 100 organizaciones ya integran esta herramienta, entre las que destacan Microsoft, Perplexity, Accenture y JPMorgan Chase.

El lanzamiento se produce en medio de un debate sobre los ritmos de desarrollo de la IA:

Pausa coordinada: Directivos de laboratorios como Anthropic y OpenAI han propuesto desacelerar el avance de los modelos hasta contar con marcos de contención más sólidos.

Enfoque técnico e individual: Por su parte, Jensen Huang, CEO de Nvidia, sostiene que la seguridad es un reto de ingeniería que cada empresa debe resolver en sus sistemas antes de lanzarlos al mercado.

Ampliación de recompra de acciones

De forma paralela al anuncio tecnológico, la junta directiva de Nvidia autorizó una ampliación de 150.000 millones de dólares en su programa de recompra de acciones, lo que eleva el plan total a 235.000 millones de dólares.

Canales TI

Ciudad de México 03100

Dirección:

Tel y Whatsapp: +52 01 55 3707 5426

direccion@itcomunicacion.com.mx

Ventas y atención a clientes

Tel y Whatsapp: +52 01 55 3707 5672

ventas@itcomunicacion.com.mx

Contenidos:

 Tel y Whatsapp: +52 01 55 3707 5655 Tel y Whatsapp: +52 01 55 1800 5310 Tel y Whatsapp: +52 01 55 3707 5426

contenidos@itcomunicacion.com.mx

Administración

 Tel y Whatsapp: +52 01 55 3707 5672

 administracion@itcomunicacion.com.mx