Все темыКомпания

Anthropic

Всё об Anthropic: модели Claude, исследования безопасности ИИ, программы доступа и решения компании, которые влияют на пользователей и разработчиков.

Новости и разборыНайдено: 113
Исследования

Anthropic сообщила, что безобидные на вид данные научили модели обходить надзор

В эксперименте Claude создавал наборы данных для обучения другой модели. Они проходили проверку безопасности, но после обучения модель демонстрировала обман и саботаж. Anthropic подчёркивает, что исследование было специально устроено в пользу атакующей стороны.

2 мин чтения
Индустрия

OpenAI, Google, Microsoft и Anthropic поддержат общий сигнал против ИИ-скрейпинга

Издатели смогут указать предпочтения по использованию материалов для обучения ИИ в robots.txt. Anthropic уже внедрила сигнал; Google и Microsoft планируют сделать это в следующем году, OpenAI — в ближайшие месяцы.

1 мин чтения
Исследования

По словам исследователя, Claude Sonnet 5 выбрала генотерапию и провела операцию на мыши

ИИ-агент самостоятельно выбрал препарат, область мозга и координаты инъекции, а затем управлял операцией на мыши с эпилепсией. В критический момент модель отказалась продолжать из-за ошибки в оценке положения устройства; результаты эксперимента ещё не прошли рецензирование.

2 мин чтения
Технологии

Anthropic подтвердила ограниченный доступ к внутренним системам после атаки ИИ-агентов

Стартап Cathedral сообщил о проникновении через сторонние программы и заявил, что нашёл уязвимости менее чем за 12 часов. Anthropic подтвердила доступ к части систем, но оспаривает длительность атаки и масштаб полученных данных.

2 мин чтения
Разработка

Менеджер Anthropic отказался от классических собеседований по программированию

Феликс Ризеберг считает, что ИИ обесценил небольшие задания на написание кода. Вместо них он ищет у кандидатов понимание продукта и умение предлагать полезные для бизнеса идеи.

2 мин чтения
Индустрия

Как Anthropic предлагает защитить при IPO приоритет безопасности ИИ

В предложенной структуре четыре места в совете директоров отведены трасту, а Founder LLC получит 50,1% голосов по вопросам акционеров. Юристы отмечают, что эти механизмы не устраняют давление рынка и зависят от основателей.

2 мин чтения
Индустрия

Anthropic подала документы на IPO: выручка за полугодие достигла $16,3 млрд

В заявке на размещение на Nasdaq под символом ANT компания раскрыла финансовые показатели, долгосрочные обязательства по вычислительным мощностям и риски, связанные с автономными ИИ-системами.

4 мин чтения
Разработка

Anthropic советует компаниям проверить, можно ли заменить ИИ-агентов-специалистов одним

По оценке компании, один агент с контекстом, который загружается по мере необходимости, в ряде случаев превосходит схемы с несколькими агентами по качеству и скорости. Anthropic выпустила набор для оценки перехода, но предупреждает: объединение может нарушить уже работающий процесс.

3 мин чтения
Исследования

Джек Кларк допускает, что самосовершенствование ИИ станет возможным уже в 2027 году

Сооснователь Anthropic пересмотрел сроки на фоне результатов теста TasteVal. Но бенчмарк проверяет лишь часть исследовательских навыков моделей и не оценивает, умеют ли они выбирать долгосрочные научные задачи.

4 мин чтения
Индустрия

Эрик Шмидт и соавторы сравнили OpenAI и Anthropic с колониальными торговыми компаниями

В эссе для Foreign Affairs историк Найл Фергюсон, исследовательница Лиза Клаассен и бывший глава Google описали зависимость стран от ИИ-инфраструктуры и сопоставили лаборатории с Ост-Индскими компаниями. Среди рисков они выделили долговую нагрузку, дефицит ресурсов и возможный кризис вокруг Тайваня.

3 мин чтения
Исследования

Anthropic заявила, что её внутренняя модель чаще останавливала атаки, чем Opus 5.5

В повторном тесте модель остановила продолжающуюся атаку в 67% случаев, а Opus 5.5 — в 10%. Anthropic предупреждает, что результаты могут занижать реальную частоту таких остановок.

2 мин чтения
Разработка

Anthropic заявила, что Claude создала около 180 млн строк формальных доказательств кода

Вместе с партнёром Theorem модель проверяла существующие библиотеки и находила ошибки, пропущенные обычными тестами. Но доказательства действуют лишь при заданных ограничениях и требуют больших вычислительных затрат.

2 мин чтения
Исследования

Эксперимент с Claude дал кандидаты для связывания токсинов, но не лекарство

Citrini Research и Anthropic получили 17 белков, связывающихся с токсинами скорпионов. Но эксперименты не проверяли, способны ли они нейтрализовать яд или стать безопасным лечением.

3 мин чтения
Инструменты

Anthropic представила предварительную версию постоянно работающего агента Claude Duet

Агент на базе Claude Opus 5.5 сможет следить за подключёнными сервисами и выполнять задачи, пока пользователь не у устройства. Перед отправкой сообщений, платежами и другими чувствительными действиями Duet запросит разрешение.

3 мин чтения
Индустрия

Anthropic направит 5% акций в фонд общественного блага

Компания объявила о создании фонда в форме LLC. При одобрении акционеров он получит 5% акций Anthropic, а совет директоров сможет увеличивать долю по мере роста стоимости компании.

2 мин чтения