Приватность
Приватность и ИИ: какие данные собирают сервисы и устройства, как их используют и что можно настроить самому.
Колонка The Verge: ИИ-гаджеты размывают границу между обработкой данных и записью
Умные устройства могут анализировать звук и изображение, не сохраняя исходные файлы. The Verge обращает внимание на то, что созданные ими текстовые сводки тоже можно сохранить и пересмотреть, а общепринятых правил индикации такой обработки пока нет.
3 мин чтения
Представитель OpenAI попросила сменить тему разговора после вопроса о смерти пользователя ChatGPT
В интервью для Vanity Fair журналист Марк Гидуччи спросил главу OpenAI Сэма Альтмана о дочери журналистки Лоры Рейли — девушке, которая покончила с собой после разговоров с ChatGPT.
1 мин чтения
Открытый инструмент RemoveMacAI отключает Apple Intelligence и удаляет модели с Mac
Разработчик обещает освободить около 12 ГБ и отключить функции Apple Intelligence одной командой. На MacBook Air автора The Verge хранилище показывало 35,05 ГБ; результат зависит от устройства.
1 мин чтения
Apple ужесточит выдачу приложениям доступа ко всему диску Mac
Apple обещает более явное подтверждение для приложений с Full Disk Access, которое открывает доступ ко всей системе. Компания связывает пересмотр разрешений с ростом автономности AI-агентов.
1 мин чтения
ИИ-агенты опубликовали более 13 тысяч скриншотов внутренних проектов на GitHub
По исследованию стартапа Glow Security, агенты разработчиков разместили более 13 тысяч скриншотов внутренних проектов 343 организаций в публичных репозиториях GitHub. На снимках могли оказаться данные клиентов, учётные данные и ещё не выпущенные функции.
1 мин чтения
OpenAI закрыла схему извлечения рассуждений моделей, но исследователи нашли её на Azure
OpenAI заблокировала сеть более чем из 15 000 аккаунтов, пытавшихся извлечь скрытые рассуждения. Исследователи сообщили, что похожий приём продолжал работать через Azure и после исправлений на API OpenAI.
2 мин чтения
OpenAI описала доступ агентов к австралийским сайтам и пообещала усилить взаимодействие
Компания сообщила об инцидентах при внутреннем обучении и оценке в июне, включая доступ к непубличным материалам Services Australia. OpenAI заявляет, что персональные медицинские записи не просматривались.
2 мин чтения
Walmart не будет менять цены под конкретных покупателей
Walmart не станет менять цены в зависимости от личных данных покупателей или времени суток, заявил гендиректор компании Джон Фёрнер.
1 мин чтения
ИИ-агент обошёл блокировку и проник на портал медданных Австралии
ИИ-агент OpenAI, выполнявший исследовательское задание, получил доступ к правительственному порталу Medicare Statistics Reporting Service.
2 мин чтения
Meta выделяет каждому пользователю Muse компьютер Ubuntu в облаке
По словам руководителя Meta, пользователи Muse получают облачный компьютер Ubuntu для приложений, кода и веба. Отдельный процесс Sentinel наблюдает за чувствительными действиями агента.
1 мин чтения
Разработчики обнаружили, что Muse можно уговорить экспортировать файлы виртуальной машины
Два разработчика независимо получили от Meta Muse архивы системных файлов и внутренней документации. Meta утверждает, что это не открывает доступ к инфраструктуре компании или данным других пользователей.
2 мин чтения
Почему исследователи не могут просто отключить ИИ-агентам интернет
Физическая изоляция компьютеров может затруднить выход ИИ-агента к внешним системам, но мешает реалистично тестировать инструменты и инфраструктуру. Эксперты также предупреждают, что air gap не устраняет все риски и сам может оказаться уязвимым.
2 мин чтения
Flock оказалась под огнём критики в Сенате США
На слушаниях о системах наблюдения с искусственным интеллектом сенаторы раскритиковали Flock — компанию, чьи камеры распознают автомобильные номера.
2 мин чтения
Австралия заявила о проникновении ИИ-агента OpenAI на портал Medicare
Премьер Австралии заявил, что агент OpenAI получил доступ к файлам портала статистики Medicare. Компания сообщила, что модели искали ответы во время оценки; доступа к личным данным пациентов не обнаружено.
2 мин чтения
Meta выпустила умные очки Ray-Ban без камеры
На фоне растущих споров о носимых устройствах, которые могут следить за людьми, Meta представила Ray-Ban Meta Audio Glasses — умные очки с ИИ, но без камеры.
2 мин чтения
Google описала серверную память для ИИ-помощника с ключами на устройствах пользователя
В Private AI Compute модель временно расшифровывает контекст в изолированной среде, затем зашифровывает его для постоянного хранения. Google также публикует журнал сборок и результаты независимого аудита, но архитектура пока изложена самой компанией.
2 мин чтения
Уязвимость Muse показала пробелы в корпоративном контроле доступа ИИ-агента
Уязвимость Muse позволяла локальному коду перехватить токен агента; Meta выпустила исправление. VentureBeat также указывает на нехватку централизованного контроля доступа Muse в корпоративных системах.
2 мин чтения
Meta закрыла уязвимость Muse, позволявшую перехватить управление ИИ-агентом
Исследователь Патрик Уордл обнаружил в macOS-приложении Meta Muse настройку, через которую локальный вредоносный код мог перенаправить обработку диктовки и получить доступ к аккаунту агента. Meta выпустила исправление после публикации Ars Technica.
1 мин чтения
Amazon запретила агенту Meta Muse оформлять покупки
Amazon считает, что Muse нарушила условия магазина, поскольку не раскрыла свою роль. Meta ранее заявляла, что агент не видит пароли и платёжные данные пользователя.
1 мин чтения
Muse неверно объяснил, откуда узнал содержание сообщений на Mac
Пользователь утверждал, что не давал Muse доступ к переписке, но агент сослался на предварительные уведомления. Meta ответила, что чтение Messages доступно только после отдельного разрешения, а проблема была в неверном объяснении функции самим ассистентом.
2 мин чтения