Что произошло

OpenAI сообщила о кампании по извлечению скрытых рассуждений моделей. Активность началась с малого объёма 1 июля, а 24–25 июля выросла до 16 000 запросов от более чем 4 000 пользователей. Анализ выявил сеть из свыше 15 000 связанных аккаунтов, которую компания, по её словам, полностью отключила к 28 июля. Примечание к данным уточняет: это попытки извлечения, а не доказательство успеха каждого запроса.

Схема использовала зашифрованные промежуточные данные из одного диалога: затем более дешёвую модель просили расшифровать их в отдельной сессии. Исследователи показали, что перенос таких пакетов между пользователями и моделями одного поставщика может превратить более слабую модель в «оракул» для печати скрытого содержимого. OpenAI заявила, что закрыла повторное использование чужих пакетов, ужесточила регистрацию и стала удерживать потоковые ответы, если те могут раскрыть рассуждения.

Повторная проверка исследователей 13 сентября не воспроизвела атаку на собственных API OpenAI и Anthropic, но она сработала на Microsoft Azure против всех проверенных моделей OpenAI, включая GPT-6 Astra. Это подчёркивает, что защитные меры API не обязательно распространяются на стороннюю облачную инфраструктуру.