Как устроена Inkling 2 Mini

Thinking Machines выпустила Inkling 2 Mini — открытую модель типа looped transformer, или «циклический трансформер». В такой архитектуре некоторые слои повторно обрабатывают каждый токен: у Inkling 2 Mini 12 из 24 слоёв проходят вычисления три раза подряд. По заявлению Thinking Machines, это позволяет модели дольше рассуждать внутри, не создавая дополнительный текст, и находить ответ с меньшим числом токенов.

Модель с архитектурой «смесь экспертов» содержит 26,4 млрд параметров, из которых, по данным компании, на каждый токен приходится 5,4 млрд активных. Inkling 2 Mini работает с текстом и изображениями, поддерживает контекстное окно на 1 млн токенов и распространяется по лицензии Apache 2.0.

Результаты тестов программирования

В тестах агентного программирования Inkling 2 Mini показала лучшие результаты среди открытых моделей с числом параметров менее 100 млрд: 48,2% в DeepSWE v1.1 и 46,5% в Vals Index v2.2. Эти оценки приведены в публикации The Decoder.

Artificial Analysis присвоила модели 20 баллов в своём Intelligence Index — столько же, сколько Qwen3.8 27B и Nanbeige4.3-33B. По оценке сервиса, Inkling 2 Mini достигает этого результата при примерно в шесть раз меньшей стоимости и в четыре раза большей скорости по сравнению с Qwen3.8 27B. Artificial Analysis опубликовала оценку.

Запуск на компьютере и доступ к модели

Inkling 2 Mini можно запускать локально на Mac с памятью не менее 32 ГБ и на Nvidia DGX Spark. Веса модели и исследовательскую версию с переменным числом циклов можно скачать с Hugging Face; модель также доступна для тестирования в Tinker Playground.