Новости ИИ, 15 октября: Apple исследовала трёхмодальные модели диффузии

В выпуске: Apple исследовала трёхмодальные модели диффузии; Метод выявляет переключение языков прямо в речи; HiRO-ACEv2 генерирует климатические данные с разрешением 3 км и другое.

Apple исследовала трёхмодальные модели диффузии

Apple ML Research представила трёхмодальные Masked Diffusion Models, обученные с нуля на данных трёх типов: текстовых, пар «изображение — текст» и пар «аудио — текст». По словам авторов, это первый такой подход: ранее изучались модели, основанные на дообучении одномодальных систем для генерации в двух модальностях. В работе исследованы законы масштабирования, соотношения между модальностями, расписания зашумления и влияние размера батча. Также авторы предложили настройки выборки для инференса. Анализ размера батча привёл к новому результату на основе стохастического дифференциального уравнения, но подробности в публикации не приведены.

Что это значит для разработчиков. Исследование описывает факторы, которые стоит учитывать при обучении таких моделей, и предлагает настройки выборки для инференса.

Источник: Apple ML Research

Метод выявляет переключение языков прямо в речи

Apple ML Research описала облегчённый метод обнаружения переключения языков внутри высказываний. Он выявляет такие переходы непосредственно по речи, используя информацию о языке на уровне аудиофрагментов в предварительно обученных речевых моделях. Подход предназначен для поиска подходящих высказываний в больших коллекциях аудио, чтобы включать их в обучающие данные. В отличие от метода с распознаванием речи, он не требует сначала получать точную многоязычную транскрипцию.

Что это значит для разработчиков. Метод может упростить отбор аудиозаписей с переключением языков для обучающих наборов без предварительной транскрибации.

Источник: Apple ML Research

HiRO-ACEv2 генерирует климатические данные с разрешением 3 км

Hugging Face представила HiRO-ACEv2 — систему для создания глобальных климатических данных с разрешением 3 км. Она сочетает ACE, моделирующую атмосферу с разрешением 100 км, и HiROv2, которая уточняет результат. Новая версия HiRO одновременно предсказывает несколько параметров, а не только осадки, и точнее воспроизводит экстремальные значения дождя, ветра и давления. При обработке данных X-SHiELD её статистические показатели для событий, встречающихся раз на миллион точек, отличаются от целевых не более чем на 3%. Полная система за год создаёт данные, статистически близкие к X-SHiELD, а в десятилетнем моделировании воспроизводит сопоставимую энергию ураганов. Глобальные расчёты обходятся примерно в 300 раз дешевле X-SHiELD; для отдельных регионов экономия может превышать сто раз. Пока система работает только с версией ACE, настроенной под X-SHiELD; команда планирует адаптировать её для других климатических условий и добавить температуру у поверхности, снег и лёд.

Что это значит для разработчиков. Разработчики могут скачать модели и использовать обучающие ноутбуки для запуска расчётов. Веб-демо позволяет изучить готовые результаты HiROv1 и HiROv2 и сопоставить их с X-SHiELD без запуска инференса.

Источник: Hugging Face

ИИ помог создать ферменты для разрезания белков

Исследователи использовали инструменты проектирования белков на основе ИИ, чтобы создать новые ферменты-протеазы. Они взяли каталитические участки двух типов протеаз и заменили ими остальные части исходных белков. Так учёные обошли естественный процесс, в ходе которого ферменты для расщепления белков приобретают разные специализации.

Полученные ферменты можно настраивать на разрезание определённых белков пополам. Исследователи проверили их работу на белках, связанных с неврологическими заболеваниями. В публикации также отмечается, что пептидные связи сами по себе очень стабильны, а в природе их расщепляют ферменты, выработанные организмами.

Что это значит для разработчиков. Для разработчиков это пример применения ИИ-проектирования белков для создания ферментов с заданной мишенью. В публикации не указаны инструменты или API, которые можно было бы использовать напрямую.

Источник: Ars Technica

Anthropic предупреждает о риске самораспространяющегося ИИ-вредоноса

Anthropic считает, что развитие небольших ИИ-моделей может привести к созданию вредоносных программ, способных самостоятельно распространяться между устройствами интернета вещей. Среди возможных целей компания называет умные холодильники, пылесосы и другие IoT-устройства. Такие программы могли бы действовать без участия человека и заражать даже незнакомые устройства.

При этом эксперимент Anthropic выявил серьёзные трудности в создании подобного ИИ-репликатора, поэтому компания подчёркивает предварительный характер опасений. Если такой вредонос появится, остановить его может быть сложно: у него не будет единого узла, отключение которого прекратило бы распространение. Anthropic также отмечает, что программа могла бы самостоятельно разбираться с незнакомыми устройствами, хотя её распространение, вероятно, было бы медленным — удвоение числа заражённых устройств могло бы занимать дни.

Что это значит для разработчиков. Разработчикам IoT-устройств и систем безопасности стоит учитывать возможность распространения вредоносного ПО между устройствами без централизованного узла отключения.

Источник: Ars Technica

Новое в каталоге GateLLM

  • Pareto 26.9 от unbiased — 750 ₽ / 2 250 ₽ за 1M токенов