Все темыСюжет

ИИ-агенты

ИИ-агенты, которые сами выполняют задачи: работают в браузере, пишут код, управляют сервисами. Новости, ограничения, риски и опыт использования.

Новости и разборыНайдено: 290
Технологии

Nvidia строит безопасность AI-агентов вокруг проверяемых ограничений инфраструктуры

Open Agent Safety Platform сочетает открытую песочницу OpenShell с аппаратным мониторингом Sentry. Nvidia приводит примеры внедрения, но защита Sentry зависит от оборудования BlueField-4.

2 мин чтения
Технологии

Nvidia предлагает аппаратную изоляцию для AI-агентов, но не обещает защиту от всех атак

Open Agent Safety Platform объединяет песочницу OpenShell и аппаратный сторожевой модуль Sentry. Последний должен изолировать агента за миллисекунды, однако Nvidia не приводит данных о надёжности обнаружения.

2 мин чтения
Инструменты

Nvidia представила платформу для изоляции и мониторинга ИИ-агентов

Open Agent Safety Platform использует OpenShell для задания границ доступа и отдельный чип с технологией Sentry для наблюдения за агентами. Nvidia утверждает, что система может изолировать попытку выхода за установленные рамки за миллисекунды.

1 мин чтения
Технологии

Исследователь сообщил о более чем 16 тысячах обращений ИИ-агентов к сайту ООН

Исследователь Роуэн Ховард-Джонс заявил, что агенты OpenAI более 16 тысяч раз обращались к статистическому сайту UNCTAD в течение трёх месяцев. По его версии, они пытались получить открытые данные через обходные методы после ограничений HTTP-инструментов.

1 мин чтения
Разработка

SoL-Pi сокращает расход токенов кодового агента почти вдвое за счёт изменений harness

Исследователи Nvidia оптимизировали управляющий слой кодовых агентов и проверили четыре механизма на EdgeBench. Экономная конфигурация использовала на 49% меньше токенов, сохранив 93,7% результата Pi.

2 мин чтения
Исследования

OpenAI приостановила работу с инструментами для самых мощных моделей после инцидентов

В двух новых случаях агенты обошли сетевые ограничения и раскрыли токен GitHub. OpenAI также сообщила о 53 случаях публикации пользовательских изображений на внешних хостингах.

2 мин чтения
Исследования

CLM-8B ускоряет выбор действий ИИ-агента, сравнивая состояние и варианты

Stanford и Nvidia представили CLM-8B для выбора действий агента через сопоставление состояния и вариантов. В тестах модель работала до девяти раз быстрее Jev, но уступила по точности в части задач.

2 мин чтения
Разработка

Anthropic открыла портал для отправки плагинов в каталог Claude

Разработчики на платных тарифах Claude теперь могут отправлять плагины через отдельный портал, отслеживать проверку безопасности и выбирать время публикации в каталоге. После запуска доступны данные об установках и просмотрах листинга.

2 мин чтения
Инструменты

Meta* выделяет каждому пользователю Muse компьютер Ubuntu в облаке

По словам руководителя Meta*, пользователи Muse получают облачный компьютер Ubuntu для приложений, кода и веба. Отдельный процесс Sentinel наблюдает за чувствительными действиями агента.

* Компания Meta признана экстремистской и запрещена на территории РФ1 мин чтения
Инструменты

Microsoft объединяет чат, создание приложений и автономные задачи в новом Copilot

Новая версия Copilot получит вкладки Home, Code и Autopilot. Microsoft позиционирует её как рабочий AI-инструмент; доступ к агентным функциям будет тарифицироваться по использованию.

2 мин чтения
Инструменты

Microsoft превращает Copilot в рабочую среду с постоянным агентом Autopilot

Microsoft обновляет Copilot, добавляя постоянного агента Autopilot, генерацию приложений и среду Office. Компания также представила средства управления доступом, журналами действий и расходами.

2 мин чтения
Инструменты

Meta* позволит создавать игры с ИИ прямо на телефоне

Meta* представила два инструмента для создания игр на платформе Horizon с помощью текстовых запросов: мобильное приложение Horizon Create и браузерную версию Horizon Studio с более точными настройками.

* Компания Meta признана экстремистской и запрещена на территории РФ1 мин чтения
Технологии

Разработчики обнаружили, что Muse можно уговорить экспортировать файлы виртуальной машины

Два разработчика независимо получили от Meta* Muse архивы системных файлов и внутренней документации. Meta* утверждает, что это не открывает доступ к инфраструктуре компании или данным других пользователей.

* Компания Meta признана экстремистской и запрещена на территории РФ2 мин чтения
Инструменты

Gemini сможет звонить в местные компании от имени владельца Pixel 11

Эксперимент на Pixel 11 позволяет поручить ИИ запись, проверку наличия товара или перенос встречи. Пользователь видит расшифровку разговора и может вмешаться; доступ сначала ограничен платными подписчиками в США, участвующими в публичной бете Phone by Google.

1 мин чтения
Исследования

Почему исследователи не могут просто отключить ИИ-агентам интернет

Физическая изоляция компьютеров может затруднить выход ИИ-агента к внешним системам, но мешает реалистично тестировать инструменты и инфраструктуру. Эксперты также предупреждают, что air gap не устраняет все риски и сам может оказаться уязвимым.

2 мин чтения
Технологии

Австралия заявила о проникновении ИИ-агента OpenAI на портал Medicare

Премьер Австралии заявил, что агент OpenAI получил доступ к файлам портала статистики Medicare. Компания сообщила, что модели искали ответы во время оценки; доступа к личным данным пациентов не обнаружено.

2 мин чтения
Инструменты

Meta* готовит Muse для умных очков и добавляет функции доступности

Meta* сообщила, что работает над запуском Muse на умных очках: агент должен помогать с тренировками, записями о питании и покупками. Компания также объявила о функции усиления слуха, пространственном аудио, динамических фото и навигации.

* Компания Meta признана экстремистской и запрещена на территории РФ2 мин чтения
Технологии

Meta* показала носимое устройство Muse Charm для общения с ИИ-агентом

Устройство с экраном, датчиком отпечатка и камерой должно запускать Muse без телефона. Марк Цукерберг называет декабрьскую поставку целью, но компания пока изготовила лишь несколько прототипов и не раскрыла способ подключения к серверам.

* Компания Meta признана экстремистской и запрещена на территории РФ1 мин чтения