Компания сообщает о снижении объёма извлечённых данных

Anthropic заявила, что её новые меры защиты сократили объём токенов рассуждений, извлекаемых из моделей Claude, на 90–99%. Речь идёт о попытках масштабной дистилляции: систематического получения ответов модели, чтобы перенести её возможности в собственную, обычно меньшую модель.

По словам компании, для таких операций могут использовать сети из сотен тысяч поддельных аккаунтов. Anthropic не представила в исходном сообщении независимой проверки заявленного процента.

Anthropic ограничивает доступ и блокирует аккаунты

Компания сообщает, что ограничила доступ к внутренним шагам рассуждений Claude, внедрила классификатор для обнаружения попыток извлечения и автоматически блокирует отмеченные им аккаунты. По данным Anthropic, блокировки затронули уже десятки тысяч аккаунтов.

Anthropic признала, что меры задевают и добросовестных пользователей, и призвала другие разработчики ИИ применять похожие способы защиты.

В сообщении названы Zhipu и Moonshot

Anthropic назвала китайские компании Zhipu и Moonshot среди участников подобных операций. Компания утверждает, что Zhipu предположительно извлекала кибервозможности ведущих американских моделей для GLM-5.3, а Moonshot тайно направляла запросы через Claude. Эти утверждения в исходном сообщении представлены как обвинения Anthropic.

По оценке компании, полученные таким способом возможности могут попасть в зарубежные военные системы и системы наблюдения.