AI3 мин чтения0 комментариев

Thinking Machines выпустила Inkling 2 Mini — открытую модель на 26,4 млрд параметров для ноутбуков

Стартап, основанный бывшей технической директором OpenAI Мирой Мурати, сообщает, что модель работает офлайн на Mac с 32 ГБ памяти и лидирует в своём классе по тестам на программирование.

Опубликовано
THINKING MACHINES · ИИ: 26.4B

Главное

  • Thinking Machines Lab выпустила Inkling 2 Mini 20 ноября 2026 года под лицензией Apache 2.0, которая разрешает коммерческое использование.
  • У модели 26,4 млрд параметров всего, но на каждый токен используется 3,4 млрд благодаря архитектуре смеси экспертов.
  • По данным компании, модель набрала 48,2% в тесте на программирование DeepSWE v1.1 против 42,2% у Qwen3.8-27B.
  • Архитектура с циклами повторяет средние слои трижды; по словам компании, это улучшает рассуждения ценой больших вычислительных затрат.
  • Компания также выпустила исследовательскую версию с настраиваемым числом циклов, чтобы изучать, как такие модели можно контролировать.

Что выпущено

Thinking Machines Lab, ИИ-стартап, основанный бывшей технической директором OpenAI Мирой Мурати, опубликовала открытую модель Inkling 2 Mini 20 ноября 2026 года. Открытые веса означают, что файлы параметров можно скачать и запускать или изменять на собственной машине. Компания выпустила модель под лицензией Apache 2.0, которая разрешает коммерческое использование, — об этом говорится на странице модели на Hugging Face.

Модель занимает около 20 ГБ и работает на устройствах Apple silicon с 32 ГБ памяти и больше, сообщила компания. На старте она поддерживается через Ollama, а также работает на настольном ИИ-компьютере Nvidia DGX Spark. Полные веса доступны на Hugging Face, модель поддерживают распространённые открытые инструменты, включая SGLang и vLLM. Она также доступна на Tinker, платформе тонкой настройки Thinking Machines, для инференса и кастомизации.

Размер и архитектура

Inkling 2 Mini использует архитектуру смеси экспертов: модель содержит множество подсетей с разными специализациями, и для каждого токена вызываются лишь некоторые из них. Всего у неё 26,4 млрд параметров, из которых 3,4 млрд активны на каждый токен.

Большая часть весов остаётся в 4-битном формате NVFP4 от обучения до развёртывания, последние четыре слоя — в 8-битном MXFP8. Поскольку при развёртывании дополнительное сжатие не требуется, компания утверждает, что модель не теряет точность при преобразовании.

Отличительная часть — структура с циклами. У модели 24 слоя в четырёх блоках; для каждого токена первый и последний блоки выполняются один раз, а два средних — трижды, так что 24 слоя параметров выполняют работу 48 слоёв. Компания говорит, что повторяющиеся средние слои отвечают за более абстрактные рассуждения, и что в её экспериментах размещение цикла в средних 12 слоях улучшило результаты в 27 из 28 бенчмарков по сравнению с размещением в последних 12.

Заявленные результаты и ограничения

По данным публикации Thinking Machines о выпуске, Inkling 2 Mini набрала 48,2% в тесте на программирование DeepSWE v1.1 и 46,5% в общем тесте Vals Index v2.2 — первые места среди открытых моделей с менее чем 100 млрд параметров всего. В DeepSWE v1.1 Qwen3.8-27B набрала 42,2%. В блоге Hugging Face подсчитали, что модель опередила четыре сопоставимые открытые модели, включая Gemma 4 31B и Qwen3.8-27B, в 32 из 48 тестов.

Компания также перечислила слабые места. Модель уступает Qwen3.8-27B в многоходовых диалогах и в инструкциях с множеством условий, а в сложных тестах на рассуждения, таких как HLE-Diamond, набирает меньше крупных моделей. Циклы усиливают рассуждения, но не добавляют хранимых знаний, поэтому ответы на фактические вопросы примерно на уровне моделей того же размера; компания говорит, что компенсирует это поиском и использованием инструментов, лидируя в тестах вроде BrowseComp, где нужно искать информацию в интернете.

Плата за это — вычисления. По сравнению с версией того же размера без циклов модель с циклами стоила на 7,5% меньше в обучении, но требует на 140% больше вычислений при инференсе для той же производительности, по данным компании.

Вопрос контроля

Один из распространённых способов надзора за ИИ-системами — читать текст рассуждений, который модель пишет перед ответом. Цикл позволяет модели выполнить больше шагов вычислений внутри, прежде чем она заговорит, и это порождает опасение, что часть рассуждений может никогда не быть записана и станет труднее для проверки.

Чтобы изучить это, Thinking Machines выпустила отдельную исследовательскую версию с настраиваемым числом циклов. В её тестах без письменных рассуждений длина задачи, которую модель могла выполнить, выросла с эквивалента 16 секунд человеческой работы при одном цикле до 37 секунд при трёх, а затем вышла на плато. При пяти циклах текст рассуждений в среднем составлял 1661 токен, меньше половины от 3703 при одном цикле, а длина предложений и доля распространённых английских слов не изменились. В LinuxArena, тесте, имитирующем вредоносные задачи, доля выполнения вредной задачи без обнаружения не показала явной тенденции с ростом числа циклов.

Компания назвала эти результаты предварительными: исследовательская модель обучалась с подкреплением только при трёх циклах, и более крупные модели с большим числом циклов могут сжимать рассуждения сильнее. Она назвала это одной из причин выпуска исследовательской версии — чтобы исследовательское сообщество могло изучать контролируемость моделей с циклами.

Источники

2 источника
  1. ChainCatcher 链捕手Thinking Machines 发布本地 AI 模型 Inkling 2 Mini
  2. ABMedia 鏈新聞OpenAI 前技術長新創開源小模型:筆電離線跑,飛機上寫出飛行模擬器

Материал подготовлен BattleTown Newsroom на основе перечисленных выше отчётов.

Частые вопросы

Что такое Inkling 2 Mini?

Это открытая ИИ-модель, выпущенная Thinking Machines Lab 20 ноября 2026 года. У неё 26,4 млрд параметров всего, на каждый токен используется 3,4 млрд, и она работает офлайн на устройствах Apple silicon с не менее чем 32 ГБ памяти.

Под какой лицензией выпущена Inkling 2 Mini?

Модель выпущена под лицензией Apache 2.0, которая разрешает коммерческое использование, — согласно её странице на Hugging Face. Thinking Machines также опубликовала отдельную политику допустимого использования модели.

Как работает архитектура с циклами?

У модели 24 слоя в четырёх блоках. Для каждого токена первый и последний блоки выполняются один раз, а два средних — трижды, так что параметры выполняют работу 48 слоёв. Компания говорит, что это улучшает рассуждения, но требует больше вычислений при инференсе.

Материал носит информационный характер. Это не финансовая, инвестиционная или юридическая консультация. Отказ от ответственности

Комментарии: 0 комментариев

BattleTown: танковые бои в браузере

Новые мини-игры «Штурм» и «Прорыв» уже в BattleTown

Назад к ленте

Читайте также

Введите не меньше 2 символов