Модель для программирования на локальном оборудовании

Стартап Recursive выпустил Flint — свою первую языковую модель. По словам компании, в разработке почти на каждом этапе участвовала система Eureka Machine: она предлагала идеи, проводила эксперименты, оценивала результаты и планировала следующие проверки. Модель создали за четыре месяца.

Flint построена по архитектуре смеси экспертов (MoE): из 40 млрд параметров на каждый токен активны 2,5 млрд. Recursive ориентировала модель на программирование с ИИ-агентами и локальный запуск. Компания заявляет, что Flint лидирует в тестах SWE-Bench Pro v2, Terminal-Bench 2.1 и SWE-Bench Verified среди MoE-моделей с числом параметров меньше 50 млрд. Эти результаты пока не проверены независимо.

Заявленные скорость и результаты тестов

Recursive сообщает, что на MacBook Pro с чипом M4 Pro и 48 ГБ памяти Flint генерирует более 125 токенов в секунду при коротком контексте. На Nvidia RTX Spark с 64 ГБ памяти скорость, по данным компании, превышает 150 токенов в секунду. В сравнении с похожими моделями вывод может быть до двух раз быстрее.

Компания также утверждает, что Flint на M4 Pro сопоставима по результатам тестов с более медленными плотными моделями на 27–31 млрд параметров и может работать более чем в пять раз быстрее плотных моделей с 25–40 млрд параметров. Среди разреженных MoE-моделей близкого размера Recursive заявляет о лидерстве Flint во всех шести тестах на программирование и следование инструкциям; плотные модели, включая Qwen 3.8, в отдельных проверках набирают больше.

Eureka Machine подбирала архитектуру и оптимизации

По описанию Recursive, Eureka Machine параллельно проверяет разные подходы и участвовала в подготовке данных для обучения, выборе оптимизаторов, проектировании архитектуры и настройке инференса. Например, система сравнила несколько конфигураций экспертов: исходный вариант имел 35 млрд параметров, из которых активны 3 млрд, а итоговую конфигурацию на 40 млрд параметров и 2,5 млрд активных Recursive считает лучшим балансом скорости и качества программирования среди протестированных.

Система также выбрала четырёхбитное квантование для выходного слоя — шаг, который, по словам компании, отступает от обычной практики. Для восстановления потерянной точности добавили дистилляцию: она потребовала примерно вдвое меньше шагов обучения, чем предыдущий метод. Итоговая версия NVFP4 отстаёт от 16-битной на 0,7 пункта по совокупности тестов. Для чипов Apple и Nvidia Recursive разработала специальные вычислительные ядра; на M4 и M5 Metal-мегаядро объединяет весь прямой проход при генерации токенов в одну операцию.

Открытые веса и ограничения

Flint поддерживает контекст до 512 000 токенов, хотя Recursive рекомендует ограничивать его 256 000. Веса доступны на Hugging Face под лицензией Apache 2.0; модель поддерживают llama.cpp, Ollama, LM Studio, vLLM и SGLang. Компания также выпустила собственный движок инференса rec для Apple Silicon.

Локальный запуск позволяет не отправлять код на внешние серверы. При этом Recursive признаёт, что для сложных задач Flint требуется давать больше указаний, чем крупным закрытым моделям для программирования, и советует разбивать такие задачи на небольшие этапы. Веса модели опубликованы на Hugging Face, а движок rec — в GitHub.

Flint — первый публично доступный результат автоматизированного исследовательского процесса Recursive, но не доказательство самосовершенствования ИИ. Долгосрочная цель стартапа — улучшать Eureka Machine с помощью каждой новой модели и со временем применять этот подход в других научных областях. Чтобы подтвердить самоускоряющееся развитие, компании ещё предстоит показать, что созданная с помощью системы модель действительно улучшает саму Eureka Machine как исследовательский инструмент.