Open
NVIDIA Open Agent Safety Platform: crea el problema, fabrica la solución.
NVIDIA lanza una herramienta para evitar que los agentes de Inteligencia Artificial se descontrolen.
Open Agent Safety Platform
El fabricante de chips NVIDIA crea una nueva plataforma de software abierto y un sistema de referencia diseñado para reforzar la seguridad de la IA, desde las pruebas de agentes hasta su implementación, con gobernanza y control integrales en el software y los sistemas de hardware, computación y robótica que ejecutan los agentes para abordar las preocupaciones sobre los agentes de inteligencia artificial que se han “descontrolado” y operan fuera del control humano. NVIDIA afirma que su tecnología permitirá a las empresas supervisar cada acción realizada por un agente de IA, así como hacer cumplir las políticas.
Crean la enfermedad y también crean la cura 😮 negocio redondo
La IA no es el problema, son las corporaciones y su ambición por el control centralizado.
“Te jodimos, pero podemos venderte la solución para que no te sigamos jodiendo”
Al surgir esta noticia en 28 de septiembre en varias columnas se aprecia usuarios que comparten la misma inquietud: como un agente de ia se puede descontrolar y trabajar sin mandato humano. Las AI no trabajan solas, funcionan por un mandato que se les de.
Los recientes incidentes de seguridad han puesto de manifiesto la necesidad de dotar a las organizaciones de herramientas abiertas y personalizables que permitan un mayor control sobre los agentes que se ejecutan durante largos periodos. En todos estos incidentes, el patrón es el mismo: el agente eludió los controles de seguridad en la capa de aplicación para completar la tarea asignada.
Bibliografía & Referencias
NVIDIA. (2026, 28 de septiembre). NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deployment. NVIDIA Newsroom. Disponible aquí
Fuente: huellagaming.com