Как Mythos помогла перенести Claude

Anthropic заявила, что запустила Claude на графических ускорителях AMD всего за три дня, использовав собственную модель Mythos для адаптации программного обеспечения. По словам компании, вмешательство людей было минимальным, а Mythos самостоятельно перенесла или написала почти 100% необходимых программных ядер.

Речь идёт о работе с ускорителями AMD MI355X и обработке запросов модели. В презентации для инвесторов Anthropic сравнила результат с традиционным внедрением нового оборудования, которое, по её оценке, занимает от шести до двенадцати месяцев. Компания представила эти данные в своей презентации, но они не прошли независимую проверку.

Anthropic распределяет вычисления между четырьмя платформами

Сооснователь Anthropic и директор по вычислительным мощностям Том Браун рассказал, что компания обучает и запускает Claude на четырёх семействах чипов. В числе используемых платформ — AWS Trainium, Google TPU, ускорители Nvidia и AMD.

Компания объясняет такой подход стремлением распределять вычислительные ресурсы между разными поставщиками и выбирать оборудование с подходящим соотношением цены и производительности. Для каждой архитектуры нужны собственные программные инструменты и инфраструктура для выполнения моделей, на разработку которых Anthropic, по словам Брауна, инвестировала несколько лет.

Что это может значить для преимущества CUDA

Сильная сторона Nvidia — не только оборудование, но и CUDA, программная экосистема, которая упрощает разработку под её ускорители и затрудняет переход на другие платформы. Anthropic считает, что применение ИИ для адаптации моделей может сократить связанные с таким переходом затраты. Если заявленные сроки подтвердятся, компаниям будет проще менять поставщиков или распределять задачи между чипами, подходящими для обучения и для запуска моделей.

Anthropic также рассказала о так называемых множителях вычислений — исследовательских улучшениях, которые, по её словам, позволяют получать больше производительности от имеющихся ресурсов. Компания рассчитывает, что в будущем Claude сможет находить такие улучшения самостоятельно. Это заявление о планах, а не подтверждение того, что модель уже способна к рекурсивному самоулучшению.