Thinking Machines выпустила Inkling — открытую модель Миры Мурати на 975B параметров

Стартап Thinking Machines Lab бывшего технического директора OpenAI Миры Мурати выпустил свою первую полноценную модель — и сразу сделал её открытой. Модель называется Inkling, её веса доступны для скачивания на Hugging Face под лицензией Apache 2.0. Это не очередной закрытый чат-бот за API, а фундаментная модель (foundation model — базовая модель, пригодная для дообучения под свои задачи), которую любой разработчик может загрузить, изменить и запустить на собственной инфраструктуре. Для команды, которая почти год держала интригу вокруг своих планов, это заявка на то, чтобы стать главным «открытым» игроком в США.

Что именно выпустили

Inkling — это большая языковая модель на архитектуре «смеси экспертов» (Mixture-of-Experts, MoE — когда для каждого токена активируется лишь часть параметров сети). Цифры такие: 975 миллиардов параметров всего, но лишь 41 миллиард активных на каждый токен. Проще говоря, модель «весит» как гигантская сеть, а считает как относительно небольшая — это даёт высокое качество при заметно меньших затратах на инференс (inference — вычисление ответа модели).

Под капотом — 66-слойный декодер-трансформер с разреженным MoE-блоком: в каждом слое 256 маршрутизируемых экспертов плюс 2 общих. На каждый токен активируются 6 маршрутизируемых экспертов и оба общих. Вместо привычного механизма позиционного кодирования RoPE в Thinking Machines применили относительные позиционные эмбеддинги — по заявлению компании, это лучше работает на длинных документах. И контекстное окно здесь действительно длинное: до 1 миллиона токенов в открытой версии, чего хватает, чтобы удержать в «памяти» целую кодовую базу или книгу.

Одновременно вышла и уменьшенная версия — Inkling-Small (пока в статусе превью): 276 миллиардов параметров при 12 миллиардах активных. Та же архитектура и тот же подход к обучению, но модель заметно проще развернуть на более скромном железе.

Мультимодальность и «управляемое мышление»

Inkling — модель мультимодальная (multimodal — работающая с несколькими типами данных). На вход она принимает текст, изображения и аудио, а на выходе выдаёт только текст. Картинки обрабатываются патчами 40×40 пикселей через четырёхслойный hMLP, звук подаётся в виде спектрограмм dMel. Компания подчёркивает «encoder-free» дизайн — без отдельного тяжёлого кодировщика для каждой модальности. Обучали модель на внушительном наборе — 45 триллионов токенов текста, изображений, аудио и видео.

Главная «фишка» — управляемое усилие на размышление (controllable thinking effort). Через системное сообщение можно задавать уровень reasoning_effort — от минимального до максимального. На практике это значит, что для простого запроса модель не будет «переусердствовать» и тратить лишние токены, а для сложной задачи можно включить более глубокое рассуждение. Причём это не фиксированное свойство модели, а параметр каждого отдельного вызова — то есть цену и задержку ответа разработчик регулирует сам, буквально по запросу.

Отдельно Thinking Machines заявляет, что модель обучали быть хорошо откалиброванной по уверенности (calibration — насколько «уверенность» модели соответствует реальной вероятности правоты) и способной к прогнозированию, а также натаскивали на агентные сценарии: работу с инструментами, управление браузером и генерацию кода с долгими циклами доработки.

Открытые веса: как это использовать

Ключевое для разработчиков — модель действительно открыта. Полные веса лежат на Hugging Face в репозитории thinkingmachines/Inkling под лицензией Apache 2.0 — одной из самых свободных: её можно использовать коммерчески, дообучать и встраивать в продукты без роялти. Помимо оригинального чекпоинта выложен вариант в формате NVFP4 — под ускорители NVIDIA Blackwell.

Тем, кто не хочет поднимать инфраструктуру сам, Inkling уже доступен через хостинг-провайдеров: Together AI, Fireworks, Modal, Databricks и Baseten. Для локального и серверного запуска модель поддерживают популярные библиотеки инференса — vLLM, SGLang, llama.cpp и TokenSpeed. Для дообучения (fine-tuning — донастройка модели под конкретную задачу) Thinking Machines предлагает свою платформу Tinker с вариантами контекста 64K и 256K токенов, а вместе с моделью выпустили инструментарий tml-renderers для пост-обучения с вызовом инструментов и мультимодальными данными.

Ориентир по ценам на хостинге самой Thinking Machines: для контекста 64K — около $1,87 за миллион входных токенов и $4,68 за миллион выходных; для 256K — примерно $3,74 и $9,36 соответственно. Кэшированный ввод стоит кратно дешевле. На старте компания дала ограниченную по времени скидку 50% и открыла бесплатную «песочницу» Inkling Playground в консоли Tinker, чтобы модель можно было попробовать без вложений.

Где Inkling в общем зачёте

По независимой оценке аналитической службы Artificial Analysis, Inkling дебютирует с результатом 41 балл в Intelligence Index — и это делает её лидером среди открытых моделей американских лабораторий. Для сравнения: прежний американский лидер Nemotron 3 Ultra от NVIDIA набирал 38, gpt-oss-120b — 24, а Gemma 4 31B — 29. Иными словами, среди «своих» Inkling впереди с заметным отрывом.

Но есть нюанс, о котором честно говорят и сами аналитики, и компания: до сильнейших открытых моделей из Китая Inkling в общем зачёте пока не дотягивает. Зато на агентных бенчмарках она держится очень достойно. На GDPval-AA v2 модель показывает Elo 1238, обходя китайские Kimi K2.6 (1190) и DeepSeek v4 Flash (1189). На тесте τ³-Banking — 24% против 21% у Kimi K2.6. Отдельно стоит отметить экономичность: в среднем Inkling тратит около 25 тысяч выходных токенов на задачу Intelligence Index, тогда как GLM-5.2 — 43 тысячи, а Kimi K2.6 — 38 тысяч. Меньше токенов на тот же результат — это прямая экономия на инференсе.

Сама Thinking Machines расставляет акценты аккуратно: Inkling, по их словам, «не самая сильная модель из доступных сегодня», а «хорошая открытая база для кастомизации». Ставка сделана не на рекорд в одном бенчмарке, а на широту возможностей и удобство дообучения под конкретные сценарии.

Почему это важно

Релиз Inkling — это заявление о стратегии, а не только новая строчка в таблице бенчмарков. Пока крупные лаборатории соревнуются в размере закрытых флагманов, Thinking Machines ставит против идеи «одна модель на все случаи жизни» (one-size-fits-all). Их тезис: будущее — за моделями, которые компании и разработчики дообучают под себя, полностью контролируя веса, данные и инфраструктуру. Открытая лицензия Apache 2.0, готовые инструменты дообучения и «управляемое мышление» складываются в единую логику — дать инженерам конструктор, а не готовый закрытый сервис.

Для российских и вообще независимых команд это особенно интересно. Открытые веса под свободной лицензией снимают привязку к чужому API и позволяют держать данные у себя — критично для многих задач, где отправлять запросы во внешнее облако нельзя. А наличие уменьшенной Inkling-Small и поддержки llama.cpp намекает, что экспериментировать с моделью можно будет и без стойки из ускорителей Blackwell. Появление сильного открытого игрока со стороны США к тому же обостряет конкуренцию с китайскими открытыми моделями — а от такой гонки в первую очередь выигрывают те, кто эти модели применяет.