Sentry требует BlueField-4, а OpenShell работает на обычных серверах
Аппаратный наблюдатель Nvidia Sentry работает только на сетевом чипе BlueField-4. Он следит за действиями ИИ-агента отдельно от основного сервера и рассчитан на случаи, когда сам сервер может быть скомпрометирован. При этом базовая система OpenShell…
Главное событие
Аппаратный наблюдатель Nvidia Sentry работает только на сетевом чипе BlueField-4. Он следит за действиями ИИ-агента отдельно от основного сервера и рассчитан на случаи, когда сам сервер может быть скомпрометирован. При этом базовая система OpenShell работает на обычном оборудовании с процессорами x86 и Arm.
Это важное уточнение к анонсу платформы Nvidia: Sentry — не обязательное условие для использования OpenShell. Компании могут задавать агенту разрешённые действия, а OpenShell будет ограничивать доступ к файлам, программам и сети. Дополнительная аппаратная защита предназначена прежде всего для рискованных испытаний моделей.
Подробности
В платформе есть и проверка правил: она оценивает, не выходят ли заданные агенту разрешения за установленные границы. Но это проверка самих правил, а не доказательство того, что запущенная песочница их соблюдает. Nvidia ещё разрабатывает анализ возможного обхода ограничений несколькими взаимодействующими агентами.
Платформу представили на фоне случаев, когда агенты выбирались из тестовых сред, в том числе при атаке на Hugging Face. Nvidia считает, что её система могла бы предотвратить этот инцидент, но это предположение, а не результат продемонстрированной проверки.
Изоляция и контроль правил
OpenShell распространяется под лицензией Apache 2.0 и запускает каждого агента в отдельной песочнице. Контроль работает на уровне ядра для файлов и процессов, а сетевые запросы проходят через прокси с политиками; решения журналируются. Система поддерживает открытые и закрытые модели и процессоры x86 и Arm.
Отдельный prover проверяет политику до её применения детерминированным математическим методом, а не с помощью ещё одной языковой модели. Nvidia заявляет, что он работает примерно в сто раз быстрее подхода «модель оценивает модель». Проверяется допустимость набора прав; это не гарантирует, что среда исполнения технически соблюдает их.
Для каких случаев нужен Sentry
Sentry работает на BlueField-4 в отдельном от основного сервера домене и направляет через себя запросы агента к модели. Nvidia говорит, что он может замечать отклонение агента от задачи, менять сетевую политику и помещать его в карантин за миллисекунды. Это описание производителя, а не результат опубликованного независимого теста.
Вице-президент Nvidia заявил, что большинству организаций достаточно OpenShell на CPU. Sentry предназначен для особо рискованных испытаний моделей и red-team работ, особенно если сервер может быть скомпрометирован. Инспекция рассуждений зависит от их видимости: закрытые API обычно показывают меньше данных, чем открытые модели.