Новости ИИ, 9 октября: Anthropic запустила бесплатное сканирование open-source проектов

В выпуске: Anthropic запустила бесплатное сканирование open-source проектов; Incarna подключила оплату инференса BlockRun через AgentCore; Как разделить кластер SageMaker HyperPod между командами и другое.

Anthropic запустила бесплатное сканирование open-source проектов

Anthropic открыла OSS Scanner — добровольный сервис, который ищет уязвимости в open-source проектах с помощью языковых моделей, включая Claude Mythos. Подключившиеся проекты будут получать периодические проверки бесплатно. Отчёты формируются автоматически, без проверки специалистами: в них могут быть ошибки, но обычно есть воспроизводимый пример, описание проблемы и, если доступен, вариант исправления.

Перед запуском систему проверили на 97 уязвимостях высокой и критической серьёзности в 48 проектах. Эксперты подтвердили 85 находок; среди остальных 11 оказались реальными, но дублирующими известные проблемы или другие результаты сканирования, и одна была ложноположительной. Подать заявку могут основные сопровождающие подходящих проектов — для этого нужно создать PR в репозитории OSS Scanner по шаблону; решение принимают индивидуально с учётом влияния проекта на инфраструктуру и безопасность пользователей.

Что это значит для разработчиков. Сопровождающие подходящих проектов могут бесплатно подключить регулярные проверки и получать сведения об уязвимостях с воспроизводимыми примерами и возможными исправлениями. Автоматические отчёты стоит проверять: Anthropic предупреждает, что они могут быть неверными.

Источник: Anthropic Research

Incarna подключила оплату инференса BlockRun через AgentCore

Incarna запустила в production оплату запросов к моделям BlockRun через Amazon Bedrock AgentCore payments. BlockRun предоставляет инференс более чем 90 моделей от более чем 15 поставщиков по протоколу x402: цена рассчитывается и оплата проводится отдельно для каждого вызова. По словам Incarna, внедрение поддержки x402, занимавшее месяцы, удалось сократить до нескольких дней.

При ответе HTTP 402 агент передаёт запрос на оплату в AgentCore payments. Сервис проверяет сумму по заданному лимиту и подписывает платёж с кошелька агента; лимиты действуют на уровне инфраструктуры и не меняются из-за инструкций модели. Incarna использует USDC в сети Base, а сессии оплаты ограничены бюджетом и сроком действия. Поддерживаются схемы x402 exact для известной цены и upto, где задаётся верхний предел, а списание соответствует фактическому использованию.

Что это значит для разработчиков. Разработчики могут оплачивать инференс по отдельным запросам без подписки на каждого поставщика. AgentCore payments также позволяет задать предел расходов вне кода и инструкций агента.

Источник: AWS Machine Learning

Как разделить кластер SageMaker HyperPod между командами

Amazon описала эталонную архитектуру, в которой несколько команд используют общий кластер Amazon SageMaker HyperPod с Amazon EKS. Для централизованной аутентификации применяется AWS IAM Identity Center, а каждой команде выделяется отдельный домен SageMaker AI со своим интерфейсом Amazon SageMaker Studio и ролью выполнения. Пользователи могут отправлять задачи через Studio или CLI: роли для обоих способов доступа связываются с разрешениями Kubernetes и ограничиваются пространством имён своей команды.

Изоляцию рабочих нагрузок обеспечивают отдельные Kubernetes namespaces. HyperPod Task Governance управляет квотами вычислительных ресурсов и приоритетами планирования, а HyperPod Observability предоставляет мониторинг и панели. В пространствах имён команды могут запускать интерактивные среды HyperPod Spaces, задания HyperPod PyTorch и конечные точки HyperPod Inference. Для хранения предусмотрены общая файловая система с отдельными каталогами команд и пользователей, а также Amazon S3; расходы можно учитывать на уровне пространств имён.

Что это значит для разработчиков. Такая схема позволяет разработчикам совместно использовать кластер, сохраняя ограничения доступа по командам и инструменты для управления квотами и учёта расходов.

Источник: AWS Machine Learning

NTM сохраняет точное обучение правдоподобию при генерации

Apple ML Research представила Normalizing Trajectory Models (NTM) — подход к генерации с небольшим числом переходов. Диффузионные модели обычно строят генерацию из множества небольших шагов гауссовского шумоподавления, но это предположение не работает при сжатии процесса до нескольких крупных переходов. Существующие методы для генерации за несколько шагов используют дистилляцию, обучение согласованности или состязательные цели, отказываясь от рамки правдоподобия. В NTM каждый обратный шаг моделируется выразительным условным нормализующим потоком и обучается с точной оценкой правдоподобия.

Что это значит для разработчиков. NTM предлагает сочетать генерацию за несколько переходов с точным обучением правдоподобию.

Источник: Apple ML Research

Новое в каталоге GateLLM