Маршрутизатор выбирает провайдера

Сервис Inference Providers от Hugging Face теперь направляет запросы к языковым моделям через OpenRouter, сообщила компания. По умолчанию система подбирает провайдера с учётом цены, скорости и надёжности, а при сбое автоматически переключается на другого. Существующий код, по данным Hugging Face, менять не нужно.

Разработчики могут добавить к названию модели суффикс :fastest, чтобы выбрать провайдера с максимальной пропускной способностью, или :cheapest — с наименьшей ценой. Также можно указать провайдера напрямую. Заголовок X-HF-Session-Id позволяет маршрутизатору учитывать кэш провайдера.

По собственным измерениям OpenRouter, после внедрения маршрутизации количество ошибок из-за нехватки мощностей сократилось на 46%, время до первого токена улучшилось на 16,9%, а пропускная способность выросла на 16,3%. Это результаты, приведённые самой компанией.

Ключи провайдеров для языковых моделей отключили

Hugging Face передаёт пользователям цены провайдеров без наценки и самостоятельно обрабатывает оплату. Подписчики Pro получают небольшой ежемесячный кредит, а организации с тарифами Team и Enterprise — кредит на каждого участника.

Собственные API-ключи для языковых моделей больше не работают. Для провайдеров генерации изображений и видео они остаются доступными; генерация изображений, видео и аудио по-прежнему проходит напрямую через Inference Providers, без OpenRouter.

Чат-модели доступны через API OpenAI Chat Completions и Responses, а также Anthropic Messages. Hugging Face опубликовала инструкции по настройке Claude Code, Codex, OpenCode, Pi и Hermes Agent. Компания также планирует добавить привязку аккаунта OpenRouter и перевести на маршрутизатор другие задачи.

Доля открытых моделей превысила 70%

По данным Hugging Face, доля открытых моделей в недельном объёме токенов 50 самых используемых моделей на OpenRouter выросла с 26,8% в октябре 2025 года до 71,7% в конце сентября 2026-го. В июле показатель ненадолго достигал 77,5%. Компания также приводит оценку, согласно которой модели с открытыми весами в среднем обходятся примерно в четверть цены закрытых моделей за задачу.