Новости ИИ, 4 октября: DeepMind-исследователи описали коллективный подход к AGI

В выпуске: DeepMind-исследователи описали коллективный подход к AGI.

DeepMind-исследователи описали коллективный подход к AGI

Исследователи, связанные с Google, предлагают рассматривать появление общего искусственного интеллекта не как создание одной сверхразумной машины, а как развитие системы, где люди и ИИ-агенты действуют совместно. Эту модель они называют Artificial Symbiotic Intelligence: люди и машины со временем влияют друг на друга и принимают решения вместе. Авторы считают, что главная задача — координировать и регулировать сеть агентов, людей и связывающих их систем. Их подход расходится с идеей сингулярности, в которой центральную роль играет самоулучшающийся единый интеллект.

В обоснование исследователи ссылаются на анализ reasoning-моделей, включая DeepSeek-R1 и QwQ-32B: их цепочки рассуждений могут напоминать внутренний спор с разными точками зрения и возражениями. По данным авторов анализа, такое поведение возникает при обучении с подкреплением, когда модели оценивают по точности рассуждений. В эссе также предполагается, что интерфейсы могут перейти от диалога с одним ботом к визуальным схемам сетей агентов. Авторы подчёркивают, что агент — изменяемая комбинация моделей, инструментов и других компонентов, а не система с неизменной личностью. Для взаимодействия множества людей и агентов, по их мнению, нужны правила и институты: одного развития моделей и рыночной координации недостаточно.

Что это значит для разработчиков. Разработчикам стоит учитывать, что в описанной модели важны не только возможности отдельной модели, но и координация агентов, инструменты и правила их совместной работы.

Источник: THE DECODER