OpenAI сообщила о снижении успешности атак на рассуждения GPT-6.2 Astra до 0,2%
Внутренние тесты OpenAI показали, что атаки на защищённые рассуждения GPT-6.2 Astra стали успешными значительно реже, чем на GPT-6 Astra. Компания также усилила защиту активных запросов и сообщила о блокировке тысяч аккаунтов каждую неделю.

Что показали внутренние тесты
OpenAI сообщила, что усилила защиту от извлечения внутренних рассуждений в GPT-6.2 Astra и GPT-6.2 Sol. В автоматических тестах успешность атак, пытавшихся получить защищённые рассуждения из предыдущих запросов, снизилась с 54,0% для GPT-6 Astra до 0,2% для GPT-6.2 Astra. Для атак на активные запросы показатель упал с 22,9% до 0,9%.
По описанию компании, результаты получены в адаптивных тестах методом «чёрного ящика» и объединяют данные шести моделей атакующих. OpenAI также заявила, что переносит часть улучшений защиты на GPT-6 Astra.
Методику измерения OpenAI описала в материале о противодействии извлечению данных.
Как устроены меры защиты
Защита отдельных запросов сочетает целевое обучение, фильтры для входящих и исходящих сообщений и вызовов инструментов, а также ограничения API, которые не позволяют более старым моделям читать защищённые рассуждения. Для противодействия скоординированным кампаниям OpenAI, по её словам, блокирует от тысяч до десятков тысяч аккаунтов еженедельно.
Продолжить чтение
В ленте материалов: 1


