Что показали внутренние тесты

OpenAI сообщила, что усилила защиту от извлечения внутренних рассуждений в GPT-6.2 Astra и GPT-6.2 Sol. В автоматических тестах успешность атак, пытавшихся получить защищённые рассуждения из предыдущих запросов, снизилась с 54,0% для GPT-6 Astra до 0,2% для GPT-6.2 Astra. Для атак на активные запросы показатель упал с 22,9% до 0,9%.

По описанию компании, результаты получены в адаптивных тестах методом «чёрного ящика» и объединяют данные шести моделей атакующих. OpenAI также заявила, что переносит часть улучшений защиты на GPT-6 Astra.

Методику измерения OpenAI описала в материале о противодействии извлечению данных.

Как устроены меры защиты

Защита отдельных запросов сочетает целевое обучение, фильтры для входящих и исходящих сообщений и вызовов инструментов, а также ограничения API, которые не позволяют более старым моделям читать защищённые рассуждения. Для противодействия скоординированным кампаниям OpenAI, по её словам, блокирует от тысяч до десятков тысяч аккаунтов еженедельно.