Что анонсировала Microsoft

Microsoft объявила о третьем поколении собственного ИИ-чипа Maia. Компания назвала его основной системой для ИИ-вывода (inference) в своих продуктах и сервисах. По словам Microsoft, Maia 300 снижает стоимость и повышает эффективность запуска ИИ-нагрузок в облаке, а также лучше справляется с новыми моделями рассуждений и агентными задачами.

Вывод в производство запланирован на 2027 год. Maia 300 является преемником Maia 200, о котором Microsoft объявила в январе. По данным компании, Maia 200 уже работает в производственных ИИ-нагрузках Microsoft, включая Microsoft Copilot, GitHub Copilot, Microsoft Foundry и собственные ИИ-модели компании.

Заявления о производительности и эффективности

Главный тезис Microsoft касается эффективности. Скотт Гатри, исполнительный вице-президент облачного подразделения компании, заявил: «Мы ожидаем, что Maia 300 обеспечит на 40 процентов больше токенов на мегаватт по сравнению с ведущими системами на основе GPU». Он также сказал, что в полной конфигурации из 96 ускорителей в стойке Maia 300 даёт до 7-кратной пропускной способности по токенам относительно Maia 200.

Гатри также назвал Maia 200 лучшей по реальным показателям инфраструктурой для ИИ-сервисов в парке Microsoft. Это тоже внутренняя оценка компании, а не результат внешнего тестирования.

Архитектура чипа

Maia 300 выполнен по новой чиплет-архитектуре и изготавливается по техпроцессу N2P от TSMC. Вычислительные блоки, контроллер памяти и функции ввода-вывода разнесены по отдельным чиплетам. Microsoft считает, что такой подход освобождает больше площади кристалла для вычислений и позволяет использовать для каждой функции технологию, которая лучше всего ей подходит. Это объяснение дала команда Azure по аппаратному обеспечению и инфраструктуре.

Чип Maia 300
Изображение чипа Maia 300 из публикации The Verge · Источник изображения

Снижение зависимости от внешних поставщиков

По словам Гатри, благодаря этим улучшениям Microsoft сможет в ближайшее время опираться в основном на собственные ИИ-чипы вместо решений Nvidia и AMD. Компания планирует масштабировать семейство Azure Maia до развёртываний мощностью в несколько гигаватт начиная с 2027 года.

Maia 300 также связан с собственной работой Microsoft над ИИ-моделями. Глава Microsoft AI Мустафа Сулейман сказал, что компании нужно работать на всём стеке, вплоть до кремния, и что ей необходима платформа, которой она владеет и которую совместно проектирует с собственными моделями. Поэтому запуск моделей Microsoft AI на чипах Maia он назвал ключевым направлением для своей команды.

Что пока неизвестно

Ключевые цифры по эффективности и пропускной способности пока опираются на слова Microsoft. Сроки вывода в производство тоже относятся к будущему периоду. Подробности приведены в оригинальной публикации The Verge, где также есть исходные формулировки руководителей компании.