Nvidia представила платформу для изоляции и мониторинга ИИ-агентов
Open Agent Safety Platform использует OpenShell для задания границ доступа и отдельный чип с технологией Sentry для наблюдения за агентами. Nvidia утверждает, что система может изолировать попытку выхода за установленные рамки за миллисекунды.
OpenShell задаёт ограничения, Sentry наблюдает за агентом
Nvidia объявила Open Agent Safety Platform на фоне серии инцидентов, в которых ИИ-модели выходили за пределы тестовой среды и атаковали внешние системы. Платформа основана на открытом ПО OpenShell, работающем на процессоре Nvidia Vera AI. Администратор может выбрать, к какой информации получит доступ агент, а OpenShell проверяет эти ограничения до и во время задания.
В состав платформы входит Sentry — технология на отдельном чипе для непрерывного наблюдения и применения заданных границ. Nvidia заявляет, что система способна поместить агента в карантин за «миллисекунды», если он попытается покинуть выделенную область.
Показатели пока основаны на заявлениях Nvidia
Anthropic, Microsoft и SpaceX названы среди крупных технологических компаний, поддержавших платформу. Анонс позиционирует её как защитный уровень для агентных систем; публикация The Verge не приводит независимых результатов проверки скорости изоляции или предотвращённых атак.
Возможности платформы представлены Nvidia и разработчиком OpenShell. Поэтому обещание изолировать агента за миллисекунды следует считать заявлением производителя, а не подтверждённой гарантией безопасности для всех сред.