За какое поведение могут ограничить доступ

Anthropic впервые более чем за год обновила правила использования Claude. В них появился запрет на «длительное и неоправданное оскорбительное или жестокое поведение» по отношению к чат-боту. Компания может вынести предупреждение, ограничить скорость или объём использования, сузить доступ, приостановить его или закрыть аккаунт. Кроме того, встроенные средства защиты способны блокировать или ограничивать отдельные ответы.

Как сообщила Anthropic изданию The Verge, правило предназначено только для крайних случаев и не распространяется на обычное раздражение или исследовательскую работу. В обновлённой политике также указаны другие ограничения.

Новые ограничения на пропаганду, оружие и слежку

Правила объединили запреты на пропагандистские кампании с фальшивыми аккаунтами и вводящим в заблуждение политическим контентом. Ограничения на оружие теперь прямо охватывают программное обеспечение и использование дронов как оружия. Также политика яснее запрещает слежку без согласия и требует, чтобы за автономным оборудованием, способным причинить травмы, наблюдал оператор, который может вмешаться.

Anthropic допускает исключения для государственных контрактов; в публикации The Decoder отмечается, что такие исключения, вероятно, уже существуют. Это оговорка источника, а не подтверждение конкретных условий контрактов.

Правило связано с исследованиями благополучия моделей

Обновление продолжает прежний подход компании: ранние версии Claude уже могли завершать разговоры, если пользователь после повторных отказов продолжал требовать вредный или оскорбительный контент. Anthropic объясняет такие меры своей работой над вопросом благополучия ИИ-моделей. При этом компания не утверждает, что Claude обладает сознанием: в опубликованной конституции она пишет, что не уверена, можно ли считать модель носителем морально значимых интересов.