Тестовые запросы выявили компрометацию провайдеров

Исследователи компании Dragos отправили провайдерам ИИ около 2 млн запросов с фиктивными учётными данными. Тесты проходили с июля по ноябрь 2026 года. По итогам команда выявила как минимум трёх скомпрометированных провайдеров, у которых злоумышленники активно похищали пользовательские данные. Ни один из них, по данным Dragos, не знал о компрометации до уведомления исследователей.

В крупнейшем инциденте злоумышленники собрали сотни ключей AWS, в том числе из запросов, отклонённых провайдером до обработки. В некоторых случаях украденные ключи проверяли в течение нескольких часов, искали данные в хранилищах S3 и пытались закрепить доступ. Один из атакующих, как сообщают исследователи, применял инструмент для атак с ИИ ARTEX.

Посредники могли читать запросы и нарушать настройки приватности

Риск исходил не только от взломанных сервисов. По данным Dragos, реселлерам на маркетплейсах было достаточно выставить модель по минимальной цене и включить журналирование, чтобы читать запросы клиентов. В одном случае человек, подключённый через домашний интернет во Франции, попытался войти по SSH с паролями, перехваченными из запросов.

Настройки Zero Data Retention (ZDR), предполагающие отказ от хранения данных, часто не соблюдались. Dragos сообщает, что китайская ИИ-лаборатория обращалась к секретным тестовым URL более чем в половине запросов, в том числе проходивших через американских провайдеров. Один крупный провайдер США продолжал обращаться к тестовой ссылке спустя более двух месяцев после единственного запроса. В другом случае ссылка появилась во внутреннем чате Feishu через 24 дня; её открыли на трёх компьютерах и трёх телефонах в Пекине и Шанхае.

OpenRouter удалил провайдеров, Dragos советует контролировать маршрутизацию

OpenRouter сообщил об удалении с платформы трёх провайдеров и отзыве одобрения ZDR для 125 конечных точек. Компания также предупредила пользователей, которых это могло затронуть, что третьи стороны могли прочитать запросы к моделям MiniMax. Провайдеры Novita, Phala и Together опубликовали предварительные отчёты об инцидентах; на момент публикации отчёты выпустили не все затронутые компании.

Маршрутизаторы ИИ направляют запросы к моделям через одного или нескольких провайдеров. По оценке Dragos, каждый участник такой цепочки может видеть весь запрос и ответ. Исследователи рекомендуют организациям самостоятельно контролировать маршрутизацию, проверять настройки приватности и использовать собственные канареечные токены — фиктивные учётные данные, по использованию которых можно обнаружить утечку. Dragos также предостерегает от передачи посредникам запросов, содержащих настоящие секреты.