О чем статья

Данная статья является попыткой моего личного обобщения и выделения различий над зоопарком современных технологий, в которых в том или ином виде используются термины: мульти-агенты ИИ (ollama, meta, camel), мульти-агенты неИИ (MAS, эмержность, интеллект роя) и актеры (Akka, асинхронность, сообщения). А также интерес применимости к домену планирования - логистики, производства. Составления расписаний. С упором на футуристичность.

Статья состоит из 4 разделов:

Мульти-агенты ИИ
Мульти-агенты неИИ
Актеры
Мысли концепции про будущее

Мульти-агенты ИИ

Что такое мульти-агенты ИИ? Одно из возможных определений:

Мультиагентные системы (Multiagent Systems) — это ИИ-платформы, которые включают в себя нескольких независимых и интерактивных агентов, способных решать разные задачи. В роли агентов могут выступать модели ИИ, программное обеспечение, роботы и многое другое. Их совместное применение позволит решать сложные задачи, тогда как обычный ИИ ориентирован на создание агентов для конкретных случаев использования.
Подробнее на РБК:
https://trends.rbc.ru/trends/industry/66d0687c9a79471445e8265c?from=copy

К мульти-агентным ИИ можно отнести в том или ином виде RPA роботов, автоматизирующих какие-то точечные человеческие процессы, особенно если собрать этих роботов в связанные процессы

Под капотом это взаимодействие нейронок/llm разной степени разумности, улучшаемая всякой "магией" (до конца мною не изученная) вроде fine tuning, embeding, RAG, RLHF.

+ инструменты которые эти сами нейронки/LLM используют API, UI другое.

А также всякие вспомогательные инструменты вроде верификаторов, которые как недавно прочитал в статье являются основным инструментом в походе на AGI:

Вот такой нехитрый алгоритм предложен в статье: генерируем кучу вариантов ответа, потом выбираем тот, который прошел верификатор (для программирования это unit тесты). https://habr.com/ru/articles/873110/

Основным направлением в котором происходит сейчас наибольший прогресс, это целиком и по частям - разработка. Хорошая статья-перевод на эту тему:

Краткий обзор и перевод исследования Large Language Model-Based Agents for Software Engineering: A Survey, которое посвящено применению интеллектуальных агентов на основе больших языковых моделей (LLM) в разработке. Авторы анализируют 106 работ, классифицируя их по задачам и архитектуре.
https://habr.com/ru/companies/bothub/articles/842816/

Также интересны эти высказывания не безызвестного Сэма Альтмана:

CEO OpenAI, Сэм Альтман, полагает, что мультиагентные системы – это следующая ступень развития ИИ. В своем недавнем интервью он выделял всего 5 этапов развития искусственного интеллекта:
Чат-боты. Это обычный ChatGPT, каким мы его знаем;
Ризонеры (рассуждающие чат-боты) <- после выхода модели o1 от OpenAI мы находимся здесь;
Агентные системы, которые способны управлять крупными процессами;
Инноваторы – ИИ, который может делать научные открытия;
И, наконец, целые организации, состоящие из ИИ-агентов.
https://habr.com/ru/news/850542/

Выводы:

Мульти-агенты ИИ, для одних это "сети из RPA роботов на максималках", для других это всевозможные автопилоты. В общем виде когда мы хотим научить алгоритм думать и выполнять действия подобно человеку - в идеале лучше. Будь то игра шахматы, разработка, бухгалтерия или юристы. А в будущем вполне себе и целые организации.

Технологии:

metaGPT
Swarm
camelAi
Ollama
LangChain

Мульти-агенты неИИ

Маленький дисклеймер по поводу приведенной попытки называть эти мульти-агентные системы неИИ. Сколько я не читал про классические мультиагентные системы (чаще всего всевозможные научные статьи), почти никогда не встречал попытки называть такие системы и агентов - ИИ. Поэтому чтобы отделить сегодняшних хайповых мульти-агентов от вчерашних не "взлетевших" позволим себе называть их "Мульти-агенты неИИ"

Многоагентная система (МАS, англ. Multi-agent system) — это система, образованная несколькими взаимодействующими интеллектуальными агентами

Ещё до взлета популярности мульти-агентов ИИ, существовали MAS в основном в виде академических изысканий на тему создания систем - в которых предлагалось в противовес ООП парадигме смотреть на парадигму Агентно-ориентированную. А именно дать объектам - поведение и возможность параллельно с друг-другом договариваться без блокировки. Это сильно перекликается со следующим разделом данной статьи, а именно про "Актеров".

Как я понимаю ценность таких систем. В текущей "Индустрии 3/4", есть данные и есть системы в которых они лежат, человек при помощи своей экспертности или каких то механизмов линейной оптимизации целевой функции старается получить какие-то решения. Которые в свою очередь могут пойти как исходные данные для другого человека и системы или другой части системы.

Агентным подходом решают/пытаются решить довольно большой пласт задач (из ответа Яндекс.Нейро):

Интеллектуальные агенты. МАС используются в области искусственного интеллекта и экспертных систем, где каждый агент представляет отдельное знание или экспертную область. Это может включать системы поддержки принятия решений, системы мониторинга и обработки информации.
Распределённая оптимизация. МАС применяются для решения сложных задач оптимизации, где каждый агент выполняет отдельные вычисления или поиск решения, а затем объединяет результаты для достижения глобального оптимума. Примерами могут быть задачи планирования маршрутов, решение комбинаторных задач и оптимизация ресурсов.
Робототехника. Каждый агент может представлять отдельного робота или даже отдельную часть робота. Такие системы позволяют роботам сотрудничать в выполнении сложных задач, например, в коллективном освоении или поиске и спасении.
Интернет вещей. МАС могут быть использованы для управления сетью подключённых устройств Интернета вещей. Каждый агент может представлять отдельное устройство и взаимодействовать с другими агентами для совместного выполнения задач, например, умного дома или управления энергопотреблением.

Поиски информации по данному направлению зачастую приводят к огромному пласту знаний довольно устаревших. Часто это научные статьи. Лидером в этом направлении показался СамГУ. А компанией у которой что-то получилось в этом направлении оказалась:

Группа компаний «Генезис знаний» у них кстати большая библиотека статей по изысканиям в данном направлении
https://www.kg.ru/library/articles/
Презентация которая понравилась на эту тему:
http://www.machinelearning.ru/wiki/images/4/42/SkobelevMMPR201927.pdf
У них же есть красивое видео где показывается эта презентация и есть кусочек про красивое видео как это работает.

Кажутся очень интересными мыслями идеи перевода планирования логистики и производства в "Индустрию 5.0". Где человек эксперт (бизнес-пользователь) управляет ограничениями системы, а уже агенты на основе переговоров (аукционов) пытаются найти в параллельном режиме - "равновесное неравновесие"/"неравновесное равновесие".

В процессе создания системы появляются такие сущности как:

Агент заказа
Агенты ресурсов
Агенты брокеры
Агенты контрактов
и т.д.

Основная проблема - малое количество материалов по которым можно было бы что попробовать сделать, а те что есть могут быть либо уже не воспроизводимы (инструменты не обновляются). Либо порождают множество вопросов по которым нет ответов, либо некому ответить.

Технологии (специализированные все довольно устаревшие):

Jade
FIPAOS
Zeus
JACAMO

Выводы: Технология/подход интересный, но не нашедший популярности в свое время подозреваю ввиду излишней сложности или других причин. Текущие решения мультиагентных систем планирования уже создаются на "Актерах"

Актеры

Про актеров очень понравилась эта статья, собственно и объяснение про них хочется взять из этой статьи:

Но эти принципы дают разработчику прежде всего способ иначе взглянуть на свою предметную область. Работая с Моделью Акторов мы начинаем видеть в предметной области не просто какие-то объекты с какими-то свойствами. Мы начинаем видеть объекты с собственным поведением. А так же способы общения этих объектов с другими таким же объектами.
Получается, что мы сперва учимся обнаруживать акторов в самой предметной области. А затем мы получаем возможность безболезненно перенести этих акторов в объекты внутри нашего кода.
И как раз этим Модель Акторов ценна: мы имеем возможность оперировать одинаковыми понятиями как по отношению к предметной области, так и по отношению к программной реализации.
актор – это некая сущность, обладающая поведением;
акторы реагируют на входящие сообщения;
получив сообщение актор может:
отослать некоторое количество сообщений другим акторам;
создать некоторое количество новых акторов;
определить для себя новое поведение для обработки последующих сообщений.
https://habr.com/ru/articles/342316/

И тут получается некое смешение понятий, что реализации агентов неИИ нам нужно использовать актеров. А точнее те части языков программирования, библиотек, фреймворков, которые дают возможность их реализовать (асинхронность, обмен сообщениями). К моему разочарованию актеров в принципе используют много где, но почти нет упоминаний про домен "планирования".

Выводы: На актерах в принципе софт пишется, читал что от написанного бывает потом плюются =) . Но тем не менее не совсем туманный путь в том чтобы пробовать что-то создавать.

Инструменты:

Akka (java) с бесплатным форком
Akka.net
Erlang
Другие языки в которых есть спец библиотеки (C++, Python, Java, Dart)

Мысли концепции про будущее

Есть подозрение что фреймворки обученных мульти-агентных ИИ планирования способных работать как автопилоты(советники) к текущим бизнес-пользователям и их системам - появятся раньше. Чем успешные решения на мультиагентах неИИ/актерах.

Но встает вопрос что эффективней? Учить ИИ работать как человек с теми же инструментами? Или разделять системы на агентов ИИ - которые подбирают ограничения, предлагают варианты расшивки узких мест, вплоть до анализа "что-если" достроить рядом новые производственные объекты.

А само детальное планирование поручать "агентам неИИ" с простым поведением и намерениями (конечные автоматы). Аналогия с улием, муравейником, даже игрой в StarCraft - где есть простые юниты, которым не нужен интеллект великого шахматиста, но в тоже время некая автономность в принятии решений в отличие от полного управления.

И где-то во всем этом есть человек который верифицирует результаты работы. И чтобы это не была игра в пустую, нужна память и способность к обучению. Но где у кого в этом случае размещать? Мультиагенты ИИ, неИИ или оба?

А главный выигрыш в сравнении с текущей индустрией мне кажется будет заключаться в умении мгновенно адаптироваться к возникшим изменениям. Автономизировать фабрики будущего Индустрия 5.0 (где заводом управляет небольшая крутая команда). И не лезть особо со всеми этими агентами в существующие фабрики, потому как они эффективны ровно настолько, насколько эффективны составные части (инструменты, ресурсы, люди).

Мультиагенты ИИ, мультиагенты неИИ и актеры. Адаптивность и автономность