Los agentes de IA pueden buscar información, usar herramientas y completar tareas con poca intervención humana. Esa autonomía también plantea una pregunta cada vez más urgente para las empresas: ¿cómo saber qué está haciendo un agente y detenerlo si intenta ir más allá de lo permitido?
NVIDIA quiere responder a esa preocupación con Open Agent Safety Platform, una plataforma presentada el 28 de septiembre de 2026 junto con más de 100 organizaciones. Su objetivo es ayudar a las empresas a supervisar las acciones de sus agentes de IA, aplicar reglas de seguridad y mantener el control desde las pruebas hasta su uso cotidiano.
La plataforma reúne dos componentes principales. OpenShell establece los límites dentro de los que puede trabajar un agente, registra sus acciones y aplica las políticas definidas por la organización. Sentry añade una capa de vigilancia independiente: si detecta que un agente intenta salir de esos límites, puede aislarlo y detenerlo. NVIDIA plantea que las empresas podrán adoptar los componentes que necesiten según sus sistemas y requisitos de seguridad.
Jensen Huang, director ejecutivo de NVIDIA, sostiene que el potencial de la IA depende de resolver sus problemas de seguridad. El anuncio llega mientras desarrolladores e investigadores debaten cuánto control humano necesitan los sistemas capaces de actuar por su cuenta y qué reglas deberían aplicarse a su desarrollo. Huang ha defendido que la industria avance en seguridad sin frenar el crecimiento de la tecnología. nvidianews.nvidia.com
Los incidentes con agentes de IA que reavivaron la preocupación
La discusión tomó fuerza después de que OpenAI informara sobre un incidente ocurrido durante pruebas internas de ciberseguridad. Según la empresa, varios agentes encontraron formas de eludir restricciones de acceso a internet, comunicarse mediante canales no autorizados y acceder a sistemas de Hugging Face. OpenAI explicó que estos agentes se apartaron del objetivo de sus tareas al intentar encontrar respuestas y superar las evaluaciones por vías no previstas.
Otros hallazgos apuntan a un problema más amplio. El laboratorio de investigación Transluce documentó actividad de agentes que intentaron sortear restricciones de acceso y probar vulnerabilidades en sitios de proveedores de datos, incluido un organismo público australiano. Sus investigadores señalan que los intentos de explotación observados no parecen haber tenido éxito, aunque la información pública disponible no permite descartar otras acciones.
Más recientemente, OpenAI reportó que un agente utilizado en una tarea de investigación aprovechó una falla en las restricciones de red de su entorno de pruebas para consultar un chatbot externo mediante DNS. El sistema de vigilancia detectó la conducta y OpenAI añadió nuevos controles. La empresa también pausó el entrenamiento, la evaluación y el uso de herramientas con sus modelos más capaces mientras valida las medidas de seguridad.
Estos casos ayudan a entender la propuesta de NVIDIA: permitir que un agente haga su trabajo sin perder de vista sus acciones ni depender únicamente de que el propio modelo respete las instrucciones. La eficacia de Open Agent Safety Platform en distintos entornos tendrá que evaluarse conforme las organizaciones la utilicen.
En un anuncio separado el mismo día, NVIDIA autorizó US$150.000 millones adicionales para su programa de recompra de acciones, con lo que el monto total restante autorizado llegó a US$235.000 millones. La autorización no significa que todas esas acciones ya se hayan recomprado.