Новости ИИ, 17 октября: Hugging Face представила открытую модель Beam для кода и агентов

В выпуске: Hugging Face представила открытую модель Beam для кода и агентов; NVIDIA и AI4Bharat готовят корпус на 2,8 трлн токенов; Автор сравнил локальную Qwen с облачной моделью в Hermes Agent и другое.

Hugging Face представила открытую модель Beam для кода и агентов

Hugging Face представила Beam — открытую текстовую модель для задач программирования, работы с агентами и обработки длинного контекста. Её можно запускать на собственной инфраструктуре или в облаке и настраивать под конкретные задачи. Архитектура MoE активирует 23B параметров на токен, а контекстное окно модели составляет 1M токенов. Beam поддерживает сохранение рассуждений между ходами диалога и вызов инструментов; для уровня рассуждений предусмотрено пять вариантов, включая значение по умолчанию medium.

Модель доступна в Transformers, SGLang и vLLM. Вместе с командой Reflection подготовлены рецепты для инференса, supervised fine-tuning и reinforcement learning; для полного обучения с подкреплением упоминается Miles. Reflection также выделит $10,000 в виде кредитов Hub авторам лучших проектов с Beam, опубликованных на Hub.

Что это значит для разработчиков. Разработчики могут запускать и дообучать Beam с помощью поддерживаемых библиотек, а также использовать её для приложений с длинным контекстом и вызовом инструментов.

Источник: Hugging Face

NVIDIA и AI4Bharat готовят корпус на 2,8 трлн токенов

NVIDIA, IIT Madras и лаборатория AI4Bharat подготовили Nemotron-pretraining-Indic-v1 — корпус примерно на 2,8 трлн токенов для 22 индийских языков. Вместе с ним планируют открыть GPU-ускоренный конвейер генерации данных: разработчики смогут использовать корпус, менять инструкции и проверки качества или обрабатывать собственные документы. В основу легли материалы из 15 наборов Nemotron-CC-v2, включая веб-тексты, математику, код и вопросы с ответами.

Для двенадцати языков документы переводили целиком, затем оценивали качество и исправляли слабые результаты; часть переводов также преобразовали в латиницу. Корпус содержит данные в родных письменностях для всех 22 языков, а латиницей — для двенадцати. Для каждого результата сохраняется идентификатор исходного документа, а текст проверяется на соответствие ему. В продолжительном предварительном обучении Nemotron 3.5 Super VL использовали 10 млрд индийских токенов из корпуса и естественных текстов.

Что это значит для разработчиков. Открытые данные и описание этапов их создания позволяют разработчикам использовать корпус для обучения моделей на индийских языках и адаптировать конвейер к собственным материалам.

Источник: Hugging Face · Попробовать в GateLLM: Nemotron 3.5 Super VL

Автор сравнил локальную Qwen с облачной моделью в Hermes Agent

Автор публикации проверил, можно ли часть задач Hermes Agent выполнять локально, чтобы реже упираться в лимиты ChatGPT. Для опыта он использовал домашний Windows-ПК с 32 ГБ оперативной памяти и RTX 3080 с 10 ГБ видеопамяти, запускал модели через Ollama. Основной моделью в Hermes оставалась облачная, а локальные подключались отдельно. В частности, автор испытал Qwen3.5 9B в квантизации Q4_K_M: на коротких запросах она выдавала около 89 токенов в секунду, а небольшой русский текст годился для черновой обработки.

На примере интеграции CRM с ERP обнаружилось ограничение: модель предложила зафиксировать успешный статус после отправки запроса или подтверждения от очереди. Но это не доказывает, что ERP создала заказ: ответ мог потеряться, а результат операции остаться неизвестным. Автор подчёркивает, что безопасный повтор зависит от возможностей ERP — например, поддержки идемпотентности и поиска уже созданного заказа. Эти условия в эксперименте не подтвердили.

Что это значит для разработчиков. При оценке локальной модели для рабочих процессов важно проверять не только скорость и качество текста, но и то, как она рассуждает о сбоях и неопределённом результате бизнес-операции.

Источник: Хабр

Claude оптимизировал схемы для квантовых вычислений

Anthropic Research проверила, может ли Claude проектировать более эффективные квантовые схемы по описанию на обычном языке. Модель Claude Mythos 5 получила спецификации восьми базовых вычислительных задач из химии, оптимизации, квантового моделирования, теории чисел и численных вычислений. Автоматический оценщик проверял корректность решений и оценивал их по произведению числа кубитов на число вентилей. Claude предлагала схемы, получала оценку и улучшала следующий вариант без участия человека между раундами.

Во всех восьми задачах модель нашла конструкции, использующие меньше кубитов и вентилей, чем ранее опубликованные решения; в отдельных случаях выигрыш составил порядок величины или больше. При моделировании молекулы железа и серы Claude использовала её симметрии и повторяющуюся структуру, чтобы повторно применять уже рассчитанные результаты. Также модель предложила способ модульного обращения и вариант, снижающий стоимость самого затратного этапа одного из алгоритмов квантовой оптимизации примерно в 12 раз.

Что это значит для разработчиков. Сокращение числа кубитов и вентилей может уменьшить требуемые ресурсы для квантовых вычислений — важное ограничение для существующих систем.

Источник: Anthropic Research

AWS описала оценку качества ИИ-агентов в производстве

Команда SMGS Operations в AWS разработала систему с несколькими специализированными ИИ-агентами для сотрудников отдела продаж и руководителей. Она помогает анализировать выручку и показатели, собирать сведения о клиентах и запрашивать структурированные данные на обычном языке. Для оценки качества команда использует Amazon Bedrock AgentCore Evaluations вместе с Amazon Bedrock Guardrails, CloudWatch, S3, Redshift, Amazon Quick и AWS Lambda.

Перед запуском проверка выявила ошибки в ответах Customer Insights Agent: агент увеличил выручку в тысячу раз, неверно обозначил показатель, добавил отсутствующую в данных оценку годовой регулярной выручки и представил собственные расчёты как факты из источников. Обычный мониторинг показывал, что система отвечает, но не выявлял неточности. В одном тесте несовпадение версий данных, инструмента и промпта снизило долю успешно пройденных проверок с 78% до 38%. Команда описывает непрерывную оценку, которая должна проверять ответы до выпуска и в производстве, а также помогать находить причину ошибки в данных, промпте или коде агента.

Что это значит для разработчиков. Разработчикам многокомпонентных ИИ-систем важно проверять не только доступность и скорость ответа, но и его точность и обоснованность. Согласованные изменения данных, инструментов и промптов также требуют проверки совместимости.

Источник: AWS Machine Learning

Новое в каталоге GateLLM