Сегодня 21 ноября 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

Стартап Миры Мурати выпустил Inkling 2 Mini — локальный ИИ для кода и агентов, который работает на MacBook

Thinking Machines Lab, основанная бывшим техническим директором OpenAI Мирой Мурати (Mira Murati), выпустила Inkling 2 Mini — мультимодальную ИИ-модель с открытыми весами под лицензией Apache 2.0. Она принимает текст и изображения, а отвечает текстом. Модель можно запускать локально на компьютерах Mac с чипами Apple и как минимум 32 Гбайт объединённой памяти, а также на настольной системе Nvidia DGX Spark.

 Источник изображения: thinkingmachines.ai

Источник изображения: thinkingmachines.ai

Inkling 2 Mini рассчитана на широкий круг задач, включая написание кода и работу в составе ИИ-агентов. Исходный набор весов занимает около 20 Гбайт и доступен на Hugging Face. Для других систем с дискретными GPU разработчик рекомендует не менее 32 Гбайт видеопамяти. Модель поддерживает контекст до 1 млн токенов, но возможность запустить её на Mac с 32 Гбайт памяти не означает, что на таком компьютере удастся использовать всё контекстное окно: по мере его заполнения растёт объём кеша внимания.

На Mac модель можно запустить через Ollama или Exo Labs. Hugging Face также добавила поддержку Transformers, Llama App и MLX. Для llama.cpp доступны квантованные версии в формате GGUF. В облаке Thinking Machines модель можно запускать и дообучать через Tinker, а для знакомства с ней в чате доступен Tinker Playground.

 Источник изображения: Artificial Analysis

Источник изображения: Artificial Analysis

Главная особенность Inkling 2 Mini — повторное использование части слоёв. Модель построена на 24-слойном трансформере с архитектурой «смесь экспертов» (MoE) и насчитывает 26,4 млрд параметров, из которых 3,4 млрд активны. При обработке каждого токена первые шесть и последние шесть слоёв выполняются по одному разу, а средние 12 — трижды с одними и теми же весами. Таким образом, на токен приходится 48 применений слоёв, хотя хранить нужно веса только 24. С учётом повторов число применений весов на токен достигает 5,4 млрд. Такая схема экономит память на весах, но каждый дополнительный проход требует вычислений.

Thinking Machines выпустила и исследовательский вариант с переменным числом проходов. В экспериментах разработчика при увеличении их числа текстовая цепочка рассуждений сокращалась, но оставалась читаемой. В Hugging Face проверили, что вариант работает, однако подробно его не оценивали.

В рейтинге Artificial Analysis Intelligence Index модель Inkling 2 Mini набрала 20 баллов — столько же, сколько Alibaba Qwen3.8 27B в режиме xhigh. Inkling 2 Mini генерировала примерно на 38 % больше выходных токенов, но её расчётная вычислительная нагрузка оказалась примерно в 2,8 раза ниже. Artificial Analysis оценивает её по произведению числа активных параметров с учётом повторных проходов на число токенов.

Thinking Machines предупреждает, что при работе в составе агента модель может удалять или перезаписывать файлы без подтверждения, неточно отчитываться о выполненных действиях и зацикливаться, особенно при отладке кода. Разработчик рекомендует запускать агента в изолированной среде, запрашивать подтверждение перед действиями, способными привести к потере данных, и ограничивать число выходных токенов и шагов агента.

Было интересно? Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Стартап Миры Мурати выпустил Inkling 2 Mini — локальный ИИ для кода и агентов, который работает на MacBook 12 мин.
Персонажи с памятью и миры под управлением ИИ — Ubisoft создала Motherbrain для внедрения ИИ в игры 23 мин.
Из систем суперкомпьютера Fugaku украдены сотни закрытых ключей для доступа к другим суперкомпьютерам и облакам 37 мин.
Биткоин рухнул до двухлетнего минимума — от рекордных $126 000 не осталось и половины 5 ч.
Новая статья: Tanuki: Pon’s Summer — самая очаровательная версия Японии. Рецензия 15 ч.
Запуск GTA VI установил абсолютный рекорд индустрии развлечений — 32 миллиона проданных копий и $3,79 миллиарда выручки 16 ч.
В Steam выйдет самое полное издание «Дальнобойщиков 3: Покорение Америки» с поддержкой русского языка и недоступным прежде контентом 17 ч.
«Включить Bluetooth», «убрать звук», «тёмный режим»: поиск Windows 11 превратился в пульт управления ПК 18 ч.
Anthropic заявила о доказательстве гипотезы Римана с помощью ИИ — одной из главных загадок математики, над которой бились 167 лет 19 ч.
Аналитики: стартовые продажи GTA VI стали лучшими в истории индустрии развлечений и уже принесли Rockstar более двух миллиардов долларов 20 ч.
Трамп надумал брать налоги с зарубежных ЦОД американских компаний 10 мин.
Everpure отчиталась о рекордной выручке и повысила прогноз на год 40 мин.
«Аладдин» представил Aladdin LiveTSM — сертифицированное средство доверенной загрузки для Windows и Linux 49 мин.
Махинации в бухгалтерии Nvidia заинтересовали Комиссию по ценным бумагам и биржам США 6 ч.
Фотонные сопроцессоры Q.ANT NPU Gen 2+ ускорят работу ИИ 18 ч.
Valve предупредила, что Steam Machine может стать дефицитной и подорожать, —  и объяснила почему 18 ч.
«Фотонная» память для ИИ: MemoryAI Photonic Appliance от Penguin Solutions объединяет до 16 Тбайт DDR5 и 576 Гбайт HBM3E 18 ч.
Сюрприз отменяется: Япония отказалась от полёта к астероиду, который мог оказаться потерянной советской станцией 18 ч.
Власти США разрешили продать ИИ-ускорители Tencent, Baidu и Alibaba 18 ч.
Инвесторы массово выходят из биткоин-ETF — курс главной криптовалюты рухнул ниже $60 000 19 ч.