Отдельная виртуальная машина для каждого агента

Google анонсировала Agent Compute Engine — сервис, который запускает каждого ИИ-агента в отдельной изолированной виртуальной машине. По данным компании, сервис уже работает с Gemini, а предварительный доступ к нему откроют в ближайшие месяцы. Каждая микровиртуальная машина защищена чипом Google Titanium.

Когда агент бездействует, его виртуальная машина автоматически приостанавливается, освобождая ресурсы для других задач. Google также использует общую память между виртуальными машинами, чтобы снизить стоимость запуска каждого агента. О том, чем ИИ-агент отличается от чат-бота, — в отдельном материале.

Agent Substrate и показатели производительности

С этим подходом связан Agent Substrate — опубликованный Google Kubernetes-рантайм с открытым исходным кодом. Компания утверждает, что он позволяет разместить на одном сервере в десять раз больше агентов.

В испытании с 200 000 агентов приостановка и возобновление работы занимали менее 500 миллисекунд, сообщает Google. Результаты теста приведены компанией; независимая проверка в источнике не упоминается.

Управление и контроль доступа

Google добавляет инструменты учёта токенов, маршрутизации моделей и поддержку сторонних поставщиков идентификации, включая Ping Identity и SailPoint. По сообщению компании, эти средства контроля распространятся на Cloud Run, GKE и управляемые конечные точки.