Разработчикам, создающим автономные системы генерации кода, стала доступна бесплатная альтернатива коммерческим облачным моделям вроде Claude Fable 5. Новая открытая модель North Mini Code от компании Cohere способна эффективно работать локально всего на одном графическом процессоре Nvidia H100. Однако, по данным независимых тестов, она генерирует в три раза больше токенов на выходе по сравнению с аналогичными решениями, что может увеличить эксплуатационные расходы при масштабном использовании.
Содержание
Возможности новой модели
North Mini Code — это разреженная модель архитектуры «смеси экспертов» (MoE) с 30 миллиардами параметров, из которых для обработки каждого токена активируются 3 миллиарда. Продукт изначально проектировался для автономных инженерных задач, включая координацию вспомогательных ИИ-агентов, проектирование системной архитектуры, аудит кода и работу в консоли. Модель поддерживает контекстное окно объемом 256 тысяч токенов с максимальной длиной генерации в 64 тысячи токенов и доступна на платформе Hugging Face под свободной лицензией Apache 2.0.
Разработчики выделяют ключевые направления применения модели:
- Создание программного обеспечения: Модель изначально обучалась для автономного выполнения сложных инженерных задач, а не адаптировалась из универсальной базы данных. Она обладает встроенными механизмами работы с внешними инструментами и поддерживает последовательное «рассуждение» для решения многошаговых задач.
- Анализ архитектуры и ревью кода: Нейросеть способна анализировать структуру систем, выявлять взаимосвязи компонентов и проводить проверку кода в крупных репозиториях. Большое окно контекста позволяет загружать масштабные многофайловые проекты за один запрос.
- Работа в терминале: Модель оптимизирована для взаимодействия с командной строкой, выполнения сценариев сборки и работы с консольными утилитами. В тестах Terminal-Bench v2 она продемонстрировала способность решать задачи в реальном терминале, а не на синтетических тренажерах.
Архитектура и процесс обучения
Благодаря архитектуре смеси экспертов, требования North Mini Code к вычислительной мощности при генерации близки к уровню моделей на 3 миллиарда параметров, несмотря на общий объем в 10 раз больше. Сооснователь Cohere Ник Фрост продемонстрировал работу нейросети на персональном компьютере Mac Studio с использованием специализированной библиотеки MLX, где ей потребовалось около 20 гигабайт оперативной памяти.
Обучение проходило в два этапа: контролируемое дообучение и последующее обучение с подкреплением на основе проверяемых наград. В процессе использовалось более 70 тысяч верифицируемых задач из 5 тысяч репозиториев, очищенных от совпадений с популярным бенчмарком SWE-Bench. Вместо оптимизации под одну агентную среду разработчики использовали сразу три фреймворка: SWE-Agent с богатым консольным интерфейсом, Mini-SWE-Agent с базовым bash-терминалом и OpenCode со структурированными инструментами вывода в формате JSON. Такой комплексный подход позволил улучшить результаты в тесте OpenCode на 10 процентных пунктов.
Положение на рынке и экономическая эффективность
Новинка выходит на высококонкурентный рынок, где уже присутствуют такие решения, как Mistral Devstral Small 2, GitHub Copilot, Cursor и Claude Fable 5. В тестах разработчиков на идентичном оборудовании North Mini Code превзошла плотную 24-миллиардную модель Mistral Devstral Small 2, показав в 2,8 раза более высокую пропускную способность и на 30% меньшую задержку между токенами. Разработчики также заявляют, что их решение обходит открытые аналоги, превосходящие его по размеру в четыре раза (вплоть до моделей со 120 миллиардами параметров).
Независимая аналитическая компания Artificial Analysis отвела модели 8-е место из 127 среди сопоставимых открытых решений по скорости генерации (210 токенов в секунду). Время ожидания первого токена составило всего 0,25 секунды при медианном значении в сегменте 1,95 секунды. В общем рейтинге возможностей модель заняла 18-е место. Однако эксперты выявили важную деталь: для выполнения тестовых заданий модель сгенерировала 75 миллионов токенов, тогда как средний показатель по классу составил лишь 25 миллионов токенов. В масштабных проектах такое «многословие» неизбежно приведет к увеличению задержек и стоимости эксплуатации.
По мнению обозревателей рынка, популярные облачные инструменты вроде GitHub Copilot, Cursor и Claude Code работают по подписке или за фактическое использование без возможности локальной установки. Стоимость генерации в Claude Fable 5 составляет 50 долларов США за миллион выходных токенов. В обзорах отмечается, что North Mini Code предлагает противоположный подход: она компактна, бесплатна, работает локально и обеспечивает суверенитет корпоративных данных.
Что это значит для бизнеса
Для технологических компаний выпуск North Mini Code обозначает несколько важных трендов:
- Специализированное обучение становится стандартом: Разница между моделями, просто дообученными на коде, и системами, специально созданными под автономные сценарии взаимодействия, теперь является критически важным фактором при выборе ИИ-инструментов.
- Избыточность ответов — скрытая статья расходов: Повышенный расход токенов, зафиксированный независимыми тестами, может нивелировать экономию при высокой нагрузке. Перед внедрением компаниям необходимо тестировать модели на реальных объемах задач.
- Выбор между стоимостью и контролем данных: Локальный запуск на одной карте Nvidia H100 и аренда мощных коммерческих облачных API представляют собой реальную альтернативу. Бизнесу предстоит взвесить затраты на собственную инфраструктуру против зависимости от сторонних провайдеров.