Новости ИИ, 16 октября: Mistral выпустила семейство моделей Timestral для прогнозирования

В выпуске: Mistral выпустила семейство моделей Timestral для прогнозирования; Microsoft Foundry расширила возможности моделей и агентов; Granite Switch 4.1 объединяет чат, решения и распознавание речи и другое.

Mistral выпустила семейство моделей Timestral для прогнозирования

Mistral представила Timestral — семейство моделей для прогнозирования временных рядов. В него входят четыре версии размером от 5 млн до 209 млн параметров. По данным компании, крупнейшая модель заняла первое место на GIFT-Eval, TIME и fev-bench среди предварительно обученных моделей с прогнозированием без дообучения; результаты получены на одном чекпойнте без ансамбля. Timestral строит вероятностные многомерные прогнозы и учитывает прошлые и известные заранее факторы, включая категориальные данные. Модели могут работать на CPU. На серверном процессоре с 8 потоками прогноз на сутки по трёхнедельной истории с интервалом 15 минут занимает 10 мс у версии 5M и 140 мс у 209M. Версия 28M, по заявлению Mistral, в пять раз быстрее 209M, а результат 123M отличается от неё на 0,2% при меньшей задержке. Для адаптации к предметной области предусмотрена настройка через Mistral Forge.

Что это значит для разработчиков. Разработчики могут выбирать между скоростью и точностью и запускать прогнозирование временных рядов на CPU. Поддержка известных будущих факторов позволяет передавать модели данные вроде производственного графика.

Источник: Mistral

Microsoft Foundry расширила возможности моделей и агентов

В Microsoft Foundry стали доступны GPT-6 Astra, GPT-6.1 Sol и GPT-6 Luna. Routines и Tool Search получили статус GA: агенты могут запускаться по расписанию, таймеру или поддерживаемому событию в GitHub либо Teams, а определения инструментов можно загружать по запросу. Agent-to-Agent также стал общедоступным, тогда как Toolboxes для prompt-агентов перешли в публичное превью; Toolboxes для hosted-агентов остаются в GA.

Insights и голосовые агенты вошли в публичное превью. Insights позволяет изучать выводы, основанные на трассировках, а Model Router получил предварительные настройки привязки сессии и метаданных маршрутизации. В Foundry Local 2.1 добавили поддержку совместимых моделей ONNX Runtime GenAI, которые можно зарегистрировать без копирования файлов. Также появились инструменты Content Understanding, установщик Dev Pack и новые возможности Foundry Toolkit.

Что это значит для разработчиков. Разработчики могут запускать агентов по расписанию и событиям, загружать инструменты по мере необходимости и изучать их поведение по трассировкам. Поддержка совместимых ONNX Runtime GenAI-моделей позволяет регистрировать их в Foundry Local без копирования файлов.

Источник: Microsoft Foundry · Попробовать в GateLLM: GPT-6 Astra, GPT-6.1 Sol

Granite Switch 4.1 объединяет чат, решения и распознавание речи

Hugging Face представила Granite-Switch-4.1-8B и -30B с набором адаптеров для разных задач. В модели добавлены Decision aLoRA для принятия решений общего назначения и Guardian aLoRA для задач безопасности; по средним результатам Guardian превосходит Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions и Clef-Flash. Также встроена модель распознавания речи Granite-Speech-5.0-Turbo-CTC, названная самой быстрой на OpenASR Leaderboard. Все компоненты вместе с базовой моделью занимают примерно столько же видеопамяти, сколько сама базовая модель.

Адаптеры используют общий KV-кэш, поэтому его можно повторно применять при запросах через разные адаптеры. Модели поддерживают переключение между чатом, задачами принятия решений и обработкой речи; в демо granite-switch-4.1-8b в реальном времени транскрибирует аудио, составляет сводки, проверяет вредоносный контент и выполняет другие пользовательские проверки. Hugging Face также предлагает собирать собственные варианты из адаптеров Granite Libraries и планирует выпустить Adapter SDK для их обучения в Mellea.

Что это значит для разработчиков. Разработчики могут запускать чат, распознавание речи и проверки безопасности через одну модель, занимая примерно столько же видеопамяти, сколько базовая модель. Повторное использование KV-кэша позволяет подключать специализированные адаптеры без отдельного кэша для каждого.

Источник: Hugging Face

Meta представила открытую мультимодальную модель Muse Spark Open

Meta выпустила Muse Spark Open — полноразмерную модель семейства Muse с архитектурой mixture-of-experts, ориентированную на агентное программирование. Она предназначена для работы с кодовыми базами, написания и отладки кода, вызова инструментов и длительных задач с планированием и самокоррекцией. На вход модель принимает текст, изображения, аудио и видео; контекстное окно при инференсе составляет 1 млн токенов.

В модели 816 млрд параметров, но для обработки каждого токена задействуются 8 из 256 экспертов — около 42 млрд параметров. При этом все эксперты должны оставаться в памяти, поэтому для запуска нужна память, соответствующая модели на 816 млрд параметров. BF16-чекпойнт занимает около 1,5 ТБ, а версия NVFP4 рассчитана на GPU NVIDIA Blackwell. В Transformers BF16-вариант запускается на четырёх узлах по 8 GPU H200, а NVFP4 — на одном узле B200; доступны также инструкции для llama.cpp, vLLM и SGLang.

Что это значит для разработчиков. Разработчикам доступны мультимодальная модель для агентных задач с кодом и варианты запуска для разных аппаратных конфигураций. Перед развёртыванием важно учитывать, что MoE уменьшает число параметров, обрабатываемых на токен, но не требования к памяти для хранения экспертов.

Источник: Hugging Face · Попробовать в GateLLM: Muse Spark Open

Apple ML Research сравнила два способа поиска API

Apple ML Research изучила два подхода к поиску нужных API в больших каталогах инструментов для LLM-агентов. Все описания инструментов нельзя поместить в один запрос из-за ограниченного контекстного окна модели.

В подходе Retrieve-then-Plan система находит инструменты, похожие на запрос пользователя, с помощью поиска по векторным представлениям. Альтернативный Plan-then-Retrieve сначала поручает LLM сформировать абстрактные сигнатуры функций, описывающие нужные возможности, а затем использует их для поиска в каталоге. В приведённом описании нет результатов оценки, поэтому сравнить эффективность подходов нельзя.

Источник: Apple ML Research

Новое в каталоге GateLLM