Qualcomm будет проектировать для AWS чипы дата-центров для инференса

Компании планируют несколько поколений специализированных процессоров и оптические соединения с пропускной способностью до 1,6 Тбит/с. Qualcomm также применяет Amazon Bedrock в собственной разработке чипов, а её цель по выручке от дата-центров — $15 млрд к 2029 году.

Взаимный обмен облачной инфраструктурой и разработкой

Qualcomm будет разрабатывать для Amazon Web Services заказные микросхемы для нескольких поколений продуктов, ориентированные прежде всего на инференс — запуск уже обученных моделей. Компании также работают над оптическими соединениями с пропускной способностью до 1,6 терабита в секунду, чтобы передавать растущие потоки данных в ИИ-инфраструктуре.

Сотрудничество двустороннее: AWS добавляет проекты Qualcomm к собственным линейкам Trainium, Graviton и Nitro, а Qualcomm использует облачные сервисы AWS, включая Amazon Bedrock, чтобы ускорить проектирование собственных чипов. Публикация не раскрывает модели чипов, даты выпуска, производительность или условия контракта.

Планы Qualcomm на рынок дата-центров

AWS стал для Qualcomm третьим крупным проектом в дата-центрах с июня. Meta собирается использовать серверный процессор Dragonfly C1000, а Microsoft внедряет архитектуру памяти Qualcomm HBC в Azure. Компания ставит цель достичь 15 миллиардов долларов выручки от дата-центров к 2029 году; это ориентир бизнеса, а не уже полученный доход.

Инференс привлекателен для поставщиков инфраструктуры, поскольку энергоэффективность влияет на стоимость генерации каждого токена. Qualcomm также развивает эффективность на устройствах: в марте её исследовательская команда выпустила фреймворк для запуска моделей рассуждения на смартфонах. Материал не приводит сравнительных тестов нового решения AWS или обещанной экономии энергии.

The Decoder — AWS is using Qualcomm for AI inference while Qualcomm uses AWS Bedrock to design the chips