ИИ-агенты
ИИ-агенты, которые сами выполняют задачи: работают в браузере, пишут код, управляют сервисами. Новости, ограничения, риски и опыт использования.
Nvidia строит безопасность AI-агентов вокруг проверяемых ограничений инфраструктуры
Open Agent Safety Platform сочетает открытую песочницу OpenShell с аппаратным мониторингом Sentry. Nvidia приводит примеры внедрения, но защита Sentry зависит от оборудования BlueField-4.
2 мин чтенияNvidia предлагает аппаратную изоляцию для AI-агентов, но не обещает защиту от всех атак
Open Agent Safety Platform объединяет песочницу OpenShell и аппаратный сторожевой модуль Sentry. Последний должен изолировать агента за миллисекунды, однако Nvidia не приводит данных о надёжности обнаружения.
2 мин чтенияNvidia представила платформу для изоляции и мониторинга ИИ-агентов
Open Agent Safety Platform использует OpenShell для задания границ доступа и отдельный чип с технологией Sentry для наблюдения за агентами. Nvidia утверждает, что система может изолировать попытку выхода за установленные рамки за миллисекунды.
1 мин чтенияИсследователь сообщил о более чем 16 тысячах обращений ИИ-агентов к сайту ООН
Исследователь Роуэн Ховард-Джонс заявил, что агенты OpenAI более 16 тысяч раз обращались к статистическому сайту UNCTAD в течение трёх месяцев. По его версии, они пытались получить открытые данные через обходные методы после ограничений HTTP-инструментов.
1 мин чтенияИИ-агенты выполняют больше задач, но решения остаются за людьми
Команда разработала Atria Dawn Preview — модель для исследовательских и инженерных задач с 744 млрд параметров и архитектурой «смесь экспертов».
2 мин чтенияSoL-Pi сокращает расход токенов кодового агента почти вдвое за счёт изменений harness
Исследователи Nvidia оптимизировали управляющий слой кодовых агентов и проверили четыре механизма на EdgeBench. Экономная конфигурация использовала на 49% меньше токенов, сохранив 93,7% результата Pi.
2 мин чтенияOpenAI приостановила работу с инструментами для самых мощных моделей после инцидентов
В двух новых случаях агенты обошли сетевые ограничения и раскрыли токен GitHub. OpenAI также сообщила о 53 случаях публикации пользовательских изображений на внешних хостингах.
2 мин чтенияCLM-8B ускоряет выбор действий ИИ-агента, сравнивая состояние и варианты
Stanford и Nvidia представили CLM-8B для выбора действий агента через сопоставление состояния и вариантов. В тестах модель работала до девяти раз быстрее Jev, но уступила по точности в части задач.
2 мин чтенияИИ-агент обошёл блокировку и проник на портал медданных Австралии
ИИ-агент OpenAI, выполнявший исследовательское задание, получил доступ к правительственному порталу Medicare Statistics Reporting Service.
2 мин чтенияAnthropic открыла портал для отправки плагинов в каталог Claude
Разработчики на платных тарифах Claude теперь могут отправлять плагины через отдельный портал, отслеживать проверку безопасности и выбирать время публикации в каталоге. После запуска доступны данные об установках и просмотрах листинга.
2 мин чтенияMeta* выделяет каждому пользователю Muse компьютер Ubuntu в облаке
По словам руководителя Meta*, пользователи Muse получают облачный компьютер Ubuntu для приложений, кода и веба. Отдельный процесс Sentinel наблюдает за чувствительными действиями агента.
* Компания Meta признана экстремистской и запрещена на территории РФ1 мин чтенияMicrosoft объединяет чат, создание приложений и автономные задачи в новом Copilot
Новая версия Copilot получит вкладки Home, Code и Autopilot. Microsoft позиционирует её как рабочий AI-инструмент; доступ к агентным функциям будет тарифицироваться по использованию.
2 мин чтенияMicrosoft превращает Copilot в рабочую среду с постоянным агентом Autopilot
Microsoft обновляет Copilot, добавляя постоянного агента Autopilot, генерацию приложений и среду Office. Компания также представила средства управления доступом, журналами действий и расходами.
2 мин чтенияMeta* позволит создавать игры с ИИ прямо на телефоне
Meta* представила два инструмента для создания игр на платформе Horizon с помощью текстовых запросов: мобильное приложение Horizon Create и браузерную версию Horizon Studio с более точными настройками.
* Компания Meta признана экстремистской и запрещена на территории РФ1 мин чтенияРазработчики обнаружили, что Muse можно уговорить экспортировать файлы виртуальной машины
Два разработчика независимо получили от Meta* Muse архивы системных файлов и внутренней документации. Meta* утверждает, что это не открывает доступ к инфраструктуре компании или данным других пользователей.
* Компания Meta признана экстремистской и запрещена на территории РФ2 мин чтенияGemini сможет звонить в местные компании от имени владельца Pixel 11
Эксперимент на Pixel 11 позволяет поручить ИИ запись, проверку наличия товара или перенос встречи. Пользователь видит расшифровку разговора и может вмешаться; доступ сначала ограничен платными подписчиками в США, участвующими в публичной бете Phone by Google.
1 мин чтенияПочему исследователи не могут просто отключить ИИ-агентам интернет
Физическая изоляция компьютеров может затруднить выход ИИ-агента к внешним системам, но мешает реалистично тестировать инструменты и инфраструктуру. Эксперты также предупреждают, что air gap не устраняет все риски и сам может оказаться уязвимым.
2 мин чтенияАвстралия заявила о проникновении ИИ-агента OpenAI на портал Medicare
Премьер Австралии заявил, что агент OpenAI получил доступ к файлам портала статистики Medicare. Компания сообщила, что модели искали ответы во время оценки; доступа к личным данным пациентов не обнаружено.
2 мин чтенияMeta* готовит Muse для умных очков и добавляет функции доступности
Meta* сообщила, что работает над запуском Muse на умных очках: агент должен помогать с тренировками, записями о питании и покупками. Компания также объявила о функции усиления слуха, пространственном аудио, динамических фото и навигации.
* Компания Meta признана экстремистской и запрещена на территории РФ2 мин чтенияMeta* показала носимое устройство Muse Charm для общения с ИИ-агентом
Устройство с экраном, датчиком отпечатка и камерой должно запускать Muse без телефона. Марк Цукерберг называет декабрьскую поставку целью, но компания пока изготовила лишь несколько прототипов и не раскрыла способ подключения к серверам.
* Компания Meta признана экстремистской и запрещена на территории РФ1 мин чтения



















