Что изменилось в SageMaker

AWS объявила о всеобщей доступности training sessions для Amazon SageMaker AI 22 октября. Функция позволяет разработчикам задавать собственную процедуру обучения и критерии успеха, а сервису поручать управление GPU: выделение вычислительных ресурсов, работу между процессорами, восстановление после сбоев и сохранение прогресса. Объявление AWS описывает это как способ настраивать существующие модели без самостоятельного управления инфраструктурой.

Тонкая настройка и собственные обучающие сценарии в SageMaker существовали и раньше. Новое предложение сочетает более детальный контроль над этапами обучения с бессерверным управлением вычислениями: код клиента задаёт последовательность операций, цели обучения и обратную связь, а AWS выполняет вычислительную часть. Это не первое появление в SageMaker тонкой настройки или обучения с подкреплением.

Такой подход может пригодиться командам, которые обучают агента выполнять несколько связанных действий — например, искать документы, проверять данные и выбирать дальнейший шаг. Если тема интересна, в нашем материале объясняется, чем ИИ-агент отличается от чат-бота.

Клиент задаёт цикл обучения

AWS приводит в качестве примера Group Relative Policy Optimization (GRPO). Модель предлагает несколько ответов на запрос, функция оценки клиента выставляет им баллы, а сервис использует относительные оценки для обновления модели. Затем цикл повторяется с обновлённой версией.

Согласно руководству AWS с примерами, модель остаётся в памяти GPU между операциями. Разработчики могут приостанавливать процесс, проверять результаты и менять процедуру; для генерации ответов в экспериментах с обучением с подкреплением не требуется отдельная конечная точка инференса.

AWS также предлагает примеры для диалоговой тонкой настройки, математики, программирования и обучения на предпочтениях. Компания сообщает о поддержке Kiro, Claude Code, Codex и GitHub Copilot своими инструментами-подсказками для этапов подготовки, обучения, оценки и развёртывания. Однако выбор того, чему учить модель, и проверка качества оценивания остаются задачей команды.

Первые примеры применения

Среди первых пользователей AWS называет ImagineSoftware и Karini AI. ImagineSoftware обучала с подкреплением модель для сортировки отказов по медицинским страховым заявкам. Karini AI настроила gpt-oss-20b для агента, который взаимодействует с графом знаний Amazon Neptune в несколько шагов.

Эти примеры показывают заявленные сценарии использования, но не позволяют оценить отдачу: в опубликованном материале нет сравнительных данных клиентов о точности, общей стоимости или скорости развёртывания.

Оплата зависит от токенов, но тарифы не опубликованы

AWS сообщает, что берёт плату за обработанные токены, а не за резервирование мощности GPU. Счётчик training sessions приостанавливается, пока код клиента оценивает результаты. В документации расходы разделены на обработку входных данных, генерацию ответов и обучение.

При этом пауза в счётчике сессии не отменяет расходов на отдельные вычисления, хранение данных, оценку и работу модели в готовом продукте. AWS не указала денежные тарифы или пример общей стоимости обучения, поэтому оплата по токенам сама по себе не доказывает, что сервис дешевле собственной инфраструктуры.

Поддерживаемые модели и ограничения

В объявлении AWS перечислены четыре модели: gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B и Qwen3.8-27B. В таблице доступности GPT-OSS-20B указан для Северной Вирджинии, Орегона и Мумбаи; Gemma-4-31B-it и Qwen3.6-27B — для Орегона и Мумбаи. Регион для Qwen3.8-27B в просмотренной VentureBeat таблице не указан. Документация задаёт настраиваемую квоту по умолчанию в две одновременные сессии тонкой настройки.

AWS также сообщает, что данные обучения и сохранённые контрольные точки находятся в хранилище S3 клиента в выбранном регионе. Настроенные модели можно запускать для инференса на SageMaker, а некоторые — импортировать в Amazon Bedrock; объявление не подтверждает одинаковые варианты развёртывания для всех моделей. Практический результат, включая точность и полную стоимость, предприятиям предстоит проверять на собственных задачах.