Большинство изменений уточняют действующие правила

Anthropic опубликовала обновлённую политику использования Claude. Она вступит в силу 12 ноября. Компания объясняет пересмотр изменившимися возможностями моделей и наблюдавшимися за последний год случаями злоупотреблений. По её словам, основная часть поправок конкретизирует уже существовавшие ограничения.

В качестве контекста Anthropic ссылается на сентябрьский отчёт об угрозах, где описано использование Claude для операций влияния, разработки оружия и слежки.

Запрет на обманные кампании собрали в отдельный раздел

Компания объединила разбросанные по разным разделам запреты в новую часть политики — «Не участвовать в обманных кампаниях или искусственной активности». Она касается политических и коммерческих действий: сокрытия авторства сообщений, распространения контента через поддельные аккаунты и публикации, а также создания инструментов для операций влияния.

Раздел о выборах переименован в «Не подрывать демократические процессы». Anthropic уточнила, что Claude нельзя использовать для обмана избирателей или срыва выборов — например, распространять ложные сведения о кандидатах и голосовании, выдавать себя за кандидатов или должностных лиц либо препятствовать явке. При этом компания отменила общий запрет на персонализированное таргетирование избирателей и кампаний: добросовестная гражданская работа, по её объяснению, не должна подпадать под него. Обман и злоупотребление персональными данными избирателей по-прежнему запрещены.

Уточнены ограничения на оружие и слежку

Запрет на разработку оружия теперь прямо охватывает программное обеспечение и компоненты, необходимые для его работы, а также такие действия, как вооружение дронов и других автономных аппаратов. Anthropic подчёркивает, что это разъяснение не меняет того, как компания применяла прежнюю политику.

Обновлённый раздел о слежке запрещает отслеживать людей без их согласия — как в реальном времени, так и по ранее собранным данным. Claude также нельзя применять, чтобы решать или рекомендовать, кого расследовать, арестовывать или обвинять, либо создавать и улучшать инструменты слежки. Компания перечисляет и допустимые примеры: согласованный мониторинг мошенничества, модерацию контента, журналистику и юридические исследования.

Для высокорисковых сценариев сохраняется надзор человека

Если применение продукта может повлиять на здоровье человека, его юридические права, финансы, средства к существованию или доступ к основным услугам, требуется квалифицированный человек, который вправе проверить и при необходимости изменить рекомендации Claude. Затронутого человека также необходимо уведомить об использовании ИИ. Anthropic говорит, что эти требования не изменились, но теперь раздел подробнее объясняет, к каким рекомендациям они относятся.

Для моделей, подключённых к оборудованию, способному самостоятельно выполнять физические действия и причинить вред, введены дополнительные условия. Оператор должен иметь возможность наблюдать за оборудованием и остановить его, а устройство — сохранять безопасное состояние при отключении Claude. Эти положения добавлены после публикации стандарта Anthropic для аппаратного обеспечения моделей.

Отдельно описаны жестокое обращение и ограничения по регионам

В политику включён запрет на продолжительное и бессмысленное жестокое обращение с моделями. Anthropic уточняет, что он предназначен для крайних случаев и не распространяется на обычное недовольство ответами, творческие мрачные темы, тестирование или исследования. Компания указывает, что основным способом пресечения такого поведения останется возможность Claude завершать отдельные продолжительные разговоры с оскорбляющими пользователей.

На странице поддерживаемых регионов компания также уточнила ограничения: Claude нельзя использовать людям, физически находящимся в неподдерживаемых регионах, организациям, зарегистрированным или имеющим штаб-квартиру там, а также организациям, которыми преимущественно владеют или которые контролируют лица либо структуры из таких регионов.