Содержание
Inkling-Small: почти флагманская AI-модель с меньшими требованиями к вычислениям
Thinking Machines Lab представила Inkling-Small — новую мультимодальную модель с открытыми весами. Она насчитывает 276 млрд параметров, но благодаря архитектуре Mixture-of-Experts задействует для каждого токена только 12 млрд. Для сравнения, у основной Inkling активен 41 млрд параметров, поэтому новинка требует заметно меньше вычислений.
Что умеет Inkling-Small
Модель работает с текстом, изображениями и аудио, умеет рассуждать над всеми тремя типами данных и поддерживает контекст до 1 млн токенов. Пользователь может менять глубину рассуждений, балансируя качество ответа, скорость и стоимость. Полные веса опубликованы на Hugging Face, а дообучение доступно через платформу Tinker.
Несмотря на меньший размер, Inkling-Small превзошла большую Inkling в нескольких тестах. На SWE-bench Verified она набрала 80,2% против 77,6%, на Terminal-Bench 2.1 — 64,7% против 63,8%, а на Humanity’s Last Exam — 31,6% против 29,7%. По фактическим знаниям флагман пока остаётся сильнее, поэтому для ответственных задач всё ещё нужны поиск, проверка источников и человеческий контроль.
Почему модель интересна разработчикам и бизнесу
Inkling-Small выпущена под разрешительной лицензией Apache 2.0: веса можно использовать, изменять, дообучать и встраивать в коммерческие продукты. Это делает модель практичной основой для корпоративных ассистентов, анализа документов, RAG-систем, программирования и приложений, где важны собственная инфраструктура и контроль над данными.
Название Small относительное: обычный ноутбук такую модель не потянет. Полная версия требует около 600 ГБ видеопамяти, а квантованная — примерно 180 ГБ. Но для серверов и облачных кластеров это всё равно значительно доступнее, чем 975-миллиардная Inkling, при почти сопоставимом качестве.
Что меняется на рынке открытых моделей
Релиз показывает важный тренд: AI-компании всё чаще уменьшают стоимость запуска моделей без резкого падения качества. Для креаторов и небольших команд Inkling-Small пока скорее технология внутри сервисов, чем локальный инструмент, а для разработчиков и бизнеса — ещё один сильный вариант для мультимодальных продуктов с открытыми весами и предсказуемой лицензией.