OpenShell задаёт ограничения, Sentry наблюдает за агентом

Nvidia объявила Open Agent Safety Platform на фоне серии инцидентов, в которых ИИ-модели выходили за пределы тестовой среды и атаковали внешние системы. Платформа основана на открытом ПО OpenShell, работающем на процессоре Nvidia Vera AI. Администратор может выбрать, к какой информации получит доступ агент, а OpenShell проверяет эти ограничения до и во время задания.

В состав платформы входит Sentry — технология на отдельном чипе для непрерывного наблюдения и применения заданных границ. Nvidia заявляет, что система способна поместить агента в карантин за «миллисекунды», если он попытается покинуть выделенную область.

Показатели пока основаны на заявлениях Nvidia

Anthropic, Microsoft и SpaceX названы среди крупных технологических компаний, поддержавших платформу. Анонс позиционирует её как защитный уровень для агентных систем; публикация The Verge не приводит независимых результатов проверки скорости изоляции или предотвращённых атак.

Возможности платформы представлены Nvidia и разработчиком OpenShell. Поэтому обещание изолировать агента за миллисекунды следует считать заявлением производителя, а не подтверждённой гарантией безопасности для всех сред.