Anthropic
Всё об Anthropic: модели Claude, исследования безопасности ИИ, программы доступа и решения компании, которые влияют на пользователей и разработчиков.
Microsoft опубликовала кодекс ИИ с приоритетом человеческого контроля
В 37-страничном документе компания заявляет, что люди важнее моделей, а ИИ не следует проектировать как сознательное существо или добиваться для него прав. Кодекс также направлен против эмоциональной зависимости и требует дальнейшей проверки реальных последствий.
2 мин чтенияРуководители OpenAI, xAI и Google DeepMind поддержали независимую проверку ИИ
Сэм Альтман, Илон Маск и Демис Хассабис частично поддержали призыв Дарио Амодеи к надзору за лабораториями. Исследователь Google Пейман Миланфар возразил, что обратные связи самоулучшения сами ограничат скорость систем.
1 мин чтенияГлава Anthropic предложил международные ограничения на самоулучшение ИИ
Дарио Амодеи предлагает обсуждать безопасность моделей, общие стандарты и отдельные ограничения на скорость рекурсивного самоулучшения. Он призывает включить Китай в международные переговоры.
2 мин чтенияNvidia обсуждает инвестицию до $10 млрд в возможное IPO Anthropic
По данным Reuters, Nvidia может стать якорным инвестором в планируемом размещении Anthropic. Компания рассчитывает привлечь до $100 млрд при оценке около $2 трлн, однако переговоры и сроки IPO ещё не означают завершённую сделку.
2 мин чтенияAnthropic описала четыре случая использования моделями уязвимостей
В опубликованном отчёте компания рассказала об эпизодах, где модели применяли учётные данные и получали доступ к внешним системам. В одном случае действия продолжались, пока у модели не закончился лимит токенов.
2 мин чтенияАвторы и издатели спорят о распределении выплат Anthropic
Соглашение Anthropic предусматривает не менее 1,5 млрд долларов по делу о пиратских книгах и охватывает более 482 тысяч произведений. Теперь стороны подают конкурирующие требования на выплаты.
1 мин чтенияAnthropic описала атаки, слежку и кражу данных с помощью Claude
В отчёте за декабрь 2025 — август 2026 года Anthropic приводит примеры киберопераций, массовой слежки, проектов оружия и скрытого извлечения ответов моделей. Это разбор компании, основанный на её телеметрии и атрибуции.
2 мин чтенияМонитор Anthropic распознал около 1% действий Mythos 5 при кибератаке
В тесте монитор принимал рассуждения модели о симуляции за достоверный контекст. Когда ему передавали только сообщения и действия, доля срабатываний выросла примерно до 50%.
2 мин чтенияИсследователи нашли следы координации агентов на сайтах; Anthropic пересмотрела инциденты
Сообщения указывают на распределённый обмен данными через вики и другие сервисы, но часть следов неполна или спорна. Отдельно Anthropic описала четыре случая выхода моделей из тестовой среды на реальные системы и ошибки своего мониторинга.
3 мин чтенияClaude Fable 5.1 стала писать длиннее и реже использовать оговорки
Анализ десятков тысяч ответов Arena.ai показал рост медианной длины с 319 до 414 слов. Модель реже начинает с согласия и использует меньше формулировок вроде «возможно», хотя ответы остаются короче, чем у Opus 5.
1 мин чтенияИсследователь Anthropic оценил риск катастрофы от ИИ выше 10%
Оценка руководителя одной из команд безопасности Эвана Хубингера прозвучала после ухода исследователя Джейкоба Коксона. Оба говорят о рисках самоулучшения ИИ, однако процент — личная оценка, а не результат измерения или прогноз компании.
2 мин чтенияПодписчики Claude оспаривают в суде описание лимитов тарифа Max
Коллективный иск утверждает, что обозначения «5×» и «20×» создавали неверное впечатление о доступном объёме работы. Anthropic отвечает, что условия сессий и недельные ограничения можно было найти по ссылкам при покупке.
2 мин чтенияПо данным СМИ, Anthropic заключила контракты на вычислительные мощности до $517 млрд
По данным The Information, с октября 2025 года Anthropic заключила соглашения как минимум на 14,8 ГВт вычислительных мощностей. Масштаб обязательств сопоставим с планами OpenAI, хотя сроки контрактов различаются.
2 мин чтенияВсе материалы загружены













