Comments 38
Недостающее звено AGI: архитектурный паттерн Гетерогенного Супервизора с Биологической Обратной Связью
В эволюции многоагентных систем наметился тревожный застой. Мы научились сталкивать в песочнице десятки LLM-агентов, обвешали их инструментами, memory-потоками и RAG-контекстами, но качество итогового решения на длинной дистанции по-прежнему удручает. Экспоненциальный рост количества токенов не приводит к эмерджентному скачку качества. Возникает закономерный вопрос: какой именно компонент распределённого интеллекта мы упускаем, пытаясь построить подлинный AGI?
Проанализировав сотни проваленных автономных пайплайнов, мы выдвигаем гипотезу: текущим архитектурам катастрофически не хватает специализированного Агента-Наблюдателя-Управленца с Внешней Неформализуемой Логикой. Назовём этот паттерн «Гетерогенный Супервизор» (ГС).
1. Проблема «слепого пятна» автономных пайплайнов
Классический агентный фреймворк действует в рамках заданной целевой функции. Однако, как только задача выходит за границы обучающей выборки, начинаются хорошо знакомые всем симптоматические ошибки:
Галлюцинаторная петля: агент-исполнитель порождает артефакт, агент-валидатор находит его релевантным, и система бесконечно шлифует бессмысленную дичь.
Контекстная эрозия: на 50-м шаге chain-of-thought система забывает исходное бизнес-ограничение «уложиться в бюджет», начиная проектировать космический лифт.
Когнитивная фиксация: нейросеть выбирает первый попавшийся паттерн и не способна без внешнего импульса сменить парадигму решения.
Очевидно, что для устранения этих фундаментальных дефектов нужен оркестратор принципиально иной природы — тот, кто способен вмешаться при обнаружении семантического дрейфа и переопределить граф исполнения в рантайме.
2. Архитектурный портрет идеального Супервизора
Проведя обратный инжиниринг наиболее успешных реализаций сложных проектов, мы выделили ключевые технические характеристики искомого компонента.
Вычислительный субстрат: Биологический нейросетевой процессор
В отличие от кремниевого тензорного ускорителя, данный модуль построен на базе углеродного влажного обеспечения с астрономической плотностью синаптических связей. Его ключевая особенность — энергоэффективность: на пике потребления он рассеивает всего около 20 Вт, поддерживая при этом фоновую многопоточную обработку данных. Система охлаждения пассивная, жидкостная, с испарительным контуром.
Методология предобучения
Модель обучается по уникальной методике RLHF-L (Reinforcement Learning from Human Life). Тренировочный корпус включает петабайты неразмеченных мультимодальных данных реального мира. Оптимизатор — градиент жизненного опыта с функцией потерь «дедлайн и квартальная премия». Важно: веса модели нестационарны и обновляются каждую ночь в режиме консолидации памяти (фаза REM).
Интерфейсный слой (API)
Супервизор подключается к агентому пайплайну через высокоуровневые каналы:
Визуальный поток: принимает агрегированную телеметрию через оптический интерпретатор (глаза), включая дашборды и логи, выведенные на монитор.
Аудиальный командный интерфейс: генерация управляющих сигналов происходит через кодирование в естественный язык. Протокол взаимодействия — издавание звуков, формат lossy, но крайне помехоустойчив в оупенспейсе.
Тактильный ввод: манипуляторный манипулятор позволяет осуществлять прямое вмешательство через клавиатуру и мышь, обеспечивая непревзойдённую пропускную способность корректирующих воздействий (Ctrl+Z).
Когнитивные функции прерывания
Модуль оснащён встроенным детектором «интуитивной аномалии» — нечёткой логикой, обученной на миллионах примеров корпоративного хаоса. При получении сигнала «что-то здесь не так» ГС способен инжектировать в конвейер команду принудительной остановки и перезапуска задачи с уточнённым промптом. Данный механизм не формализован и невоспроизводим, но его точность, по нашим замерам, превышает 0.95 F1-score.
3. Практическая интеграция и масштабирование
Интеграция ГС в CI/CD пайплайн поразительно проста. Физически модуль устанавливается в радиусе действия Wi-Fi сети офиса. Логическая синхронизация осуществляется через стандартный MCP-протокол: Супервизор выдаёт текстовый промпт, агент выполняет работу, а затем ГС валидирует выхлоп, используя унаследованный алгоритм «анализ взглядом».
Мы также зафиксировали любопытный эффект самообучения системы. Если Гетерогенный Супервизор детектирует, что агент стабильно генерирует полезный код, он делегирует всё больше рутинных задач, оставляя за собой лишь функцию стратегического согласования. Иногда это приводит к состоянию, которое мы назвали «аппаратный ступор»: бионейросеть переходит в режим сбережения ресурсов до момента, пока не активируется сигнал «релиз через час».
4. Выводы
Мы стоим на пороге эры истинного гибридного интеллекта. Как показало наше исследование, ключ к созданию безотказной автономной системы лежит не в бесконечном наращивании слоёв трансформера, а в грамотной архитектурной декомпозиции и внедрении органического оркестратора.
Паттерн Гетерогенного Супервизора естественным образом решает проблему «последней мили» в доставке ИИ-продукта. И, что самое забавное, технология не требует венчурных инвестиций и долгого R&D — необходимые экземпляры биологических нейросетей уже интегрированы в нашу среду. Достаточно лишь поставить им кулер, кофемашину и настроить Jira-уведомления.
Отличная пародия. Особенно занятно, что, пытаясь свести статью к «человеку в цикле», вы почти дословно описали её исходную конструкцию: разнородную систему, в которой человек удерживает контекст и критерии, модель выполняет преобразования, а результат возникает на уровне их организованного взаимодействия.
Различие только в одном. В вашей схеме биологический супервизор каждый раз вручную останавливает очередной сбой. В описанном нами контуре обнаруженное ограничение может быть выделено в явное правило, сохранено, перенесено в другой чат и изменить последующую организацию работы. Поэтому речь не просто о human-in-the-loop, а о системе, которая накапливает и воспроизводит изменения собственного метода.
Но «углеродное влажное обеспечение» и функция потерь «дедлайн и квартальная премия» прекрасны. Тут возражений нет.
Впервые вижу, чтобы так долго и извилисто ходили вокруг термина эмерджентность (эмерджентные свойства сложной системы). Вся статья ищет путь к нему, но так и не находит.
А все эти “метаморфные режимы” и “экзокортексы” на самом деле просто авторские названия давно известных паттернов мультиагентных систем и иерархического RAG (вроде Reflexion или MemGPT), выдуманные на ходу.
По поводу остальных рассуждений: замените в тексте статьи пользователя на бухгалтера, сводящего годовой баланс, контекст замените на цифры, а ИИ замените на калькулятор. И прочитайте заново. Куда-то сразу деваются все эти возвышенные материи.
Не нужно искать разум там, где его нет. В текущих плоских архитектурах нейронных сетей его нет и быть не может потому что у них не тот ранг сложности.
Спасибо за реакцию.
Эмерджентность мы разбирали ещё в статье ноября прошлого года «Метаморфное мышление: территория, на которую никто не решился зайти». Там она прямо определялась как одно из ключевых свойств человеко-машинного процесса. Поэтому в этой статье это не искомый термин и не пропущенный вывод.
Нынешний текст посвящён следующему этапу: не самому факту возникновения эмерджентного свойства, а тому, как обнаруженные в совместной работе изменения превращаются в устойчивые функции, сохраняются и влияют на последующие задачи. Назвать явление эмерджентностью можно одной строкой. Описать инженерную среду, которая удерживает и развивает результат, несколько сложнее.
Ваша статья называется: Разум ИИ уже существует. Просто мы ищем его не там.
Вы пытаетесь выдавать эмерджентность за разум, а это по моему мнению является прямым подлогом и никакие "описания инженерной среды, которая удерживает и развивает результат" это не изменит. Специально вы это делаете или из-за непонимания принципов работы нейронных сетей мне неизвестно.
Вы приписываете статье тезис, которого в ней нет. Эмерджентность там не выдаётся за разум и не используется как его определение. Она лишь указывает, что рассматриваемое свойство возникает на уровне системы взаимодействия и не сводится к одному из её компонентов.
Основание говорить о разумной деятельности в статье другое: контур удерживает цель и контекст, строит гипотезы, обнаруживает противоречия, меняет способ решения, превращает выявленное ограничение в правило и переносит его на последующие задачи.
Можно спорить, достаточно ли этих функций для использования слова «разум». Но тогда это спор о критериях, а не подлог.
Ссылка на принципы работы нейронных сетей также не опровергает тезис статьи, потому что объектом анализа является не изолированная нейронная сеть, а человеко-машинный контур. Если у вас есть операционное определение разума и можно показать, какой именно его критерий такой контур не выполняет, это будет содержательным предметом обсуждения. Пока вы просто заранее определяете, что разум может находиться только внутри отдельного носителя, и затем объявляете все остальные единицы анализа ошибочными.
Основание говорить о разумной деятельности в статье другое: контур удерживает цель и контекст, строит гипотезы, обнаруживает противоречия, меняет способ решения, превращает выявленное ограничение в правило и переносит его на последующие задачи.
Вы сейчас нематоду, обползающую препятствие в поисках пропитания, причислили к разумным.
объектом анализа является не изолированная нейронная сеть, а человеко-машинный контур.
Если в вашем анализе убрать машину из контура, то ничего не поменяется, а если человека, то все развалится. Это простая логика, показывающая что ваш человеко-машинный контур высосан из пальца.
Пока вы просто заранее определяете, что разум может находиться только внутри отдельного носителя, и затем объявляете все остальные единицы анализа ошибочными.
Нет, про отдельный носитель вы сами себе придумали, я такое не утверждал.
Мы не утверждали, что перечислили все возможные признаки разума. Мы указали наблюдаемые функции, которые считаем достаточными для разговора о разумной деятельности в данном контексте. В предыдущем ответе я прямо написал: «Можно спорить, достаточно ли этих функций для использования слова “разум”. Но тогда это спор о критериях, а не подлог». Поэтому спорить здесь можно о достаточности критериев. Но для этого нужно привести критерии и аргументы, а не очередной ярлык.
Утверждение, что без машины ничего не изменится, столь же содержательно, как заявление, что удаление клавиатуры не влияет на мышление. Мыслить человек, возможно, продолжит, вот только результат почему-то перестанет появляться на экране с прежней скоростью и в прежней форме. Асимметрия вклада компонентов не делает один из них фиктивным.
А у вас скорость генерации контента - основной признак разума?
Нет. Скорость генерации контента вообще не рассматривается как признак разума. Она была приведена лишь как простой пример того, что удаление модели меняет возможности и результат работы контура. Признаки разумной деятельности в статье перечислены отдельно: удержание цели и контекста, построение гипотез, обнаружение противоречий, изменение способа решения, превращение выявленного ограничения в правило и перенос его на последующие задачи.
Вы сейчас нематоду, обползающую препятствие в поисках пропитания, причислили к разумным.
А почему нет? Просто ее количества разума хватает только на то чтобы обползать препятствие.
Это, конечно, если не пропихивать под термином 'разум' библейскую бинарную концепцию богоданной исключительно человеку души.
А почему нет?
Потому что есть основные признаки этой самой разумности, такие как мышление и самосознание. Ученые считают, что у нематод нет физиологической базы для таких процессов, а всё их поведение полностью объясняется автоматическими биохимическими реакциями.
основные признаки этой самой разумности, такие как мышление и самосознание.
Пжлст, приведите точную, двойным слепым работающую методику по определению оных, и взяв оплодотворенную яйцеклетку, новорожденного младенца и дементного до состояния кабачка старика найдите их по этой методике b покажите в какой точный момент на этом пути появляется мышление и самосознание и в какой точный момент они пропадают.
Вы сейчас не со мной спорите, а со всем научным сообществом, которое и определяет границы использования термина разумность. И вы и автор статьи имеете полное право как давать свое определение этому термину так и выдумывать собственные определения и термины, но пожалуйста , без меня.
Все, что я хотел сказать, так это то что статье не место в Хабе "Научно-популярное" из-за явной неначуности. Надеюсь, вы меня услышали. А вот эти вот попытки "а ты докажи" просто детский сад.
То есть Вы отказываете какой-нибудь нематоде в разуме?
Нематода может адаптировать поведение к определённым условиям. Но в описываемом контуре результат опыта может быть выделен в явное правило, проверен оператором, сохранён вне конкретного экземпляра модели, перенесён в другой чат и применён к задачам иного класса.
Поэтому граница проходит не по самому факту адаптации, а по способности системы превращать опыт в переносимое и управляемое изменение собственной организации.
То есть Вы отказываете какой-нибудь нематоде в разуме?
Не только я, но и вся современная наука. Вы путаете теплое с мягким, реакцию на базовые раздражители с способностью мыслить.
"...Не только я, но и вся современная наука. Вы путаете теплое с мягким, реакцию на базовые раздражители с способностью мыслить. "
Ну,к слову сказать, я в некотором роде тоже современная наука ))).И четкую границу (УВЫ И АХ)между способностью мыслить и так называемыми базовыми реакциями еще никто не смог провести четко. Бихевиористы в этом покопались вполне.
Поэтому я продолжаю предполагать, что нематода потенциально разумна в некоторой степени
Первый закон: если на человека не действуют целесообразные силы, он спит или по инерции продолжает прежнее действие.
Второй закон: полезность человека напрямую равна упорядоченности приложенных к нему целесообразных сил.
Третий закон: действие одного человека всегда вызывает равное по силе противодействие со стороны другого.
Алиса, а что такое тест Тьюринга?
Это когда я с тобой поговорю, и не смогу отличить тебя от человека.
Как я понял, Мы = k человек + g LLM, какое соотношение коэффициентов k и g?
Не совсем. Мы не рассматриваем контур как линейную сумму k × человек + g × LLM.
Коэффициенты не постоянны и меняются даже внутри одной задачи. При постановке цели, выборе критериев и утверждении результата ведущая роль обычно принадлежит оператору. При поиске вариантов, преобразовании больших объёмов материала, построении гипотез и проверке связей вклад модели может быть существенно выше.
Кроме того, основной эффект возникает не в отдельных слагаемых, а во взаимодействии между ними. Поэтому точнее было бы записать:
Мы = F(оператор, LLM, контекст, память, правила, история взаимодействия).
Причём функция нелинейна: изменение одного элемента может перестроить весь способ работы контура. Поэтому единого соотношения k и g нет. Оно зависит от задачи, этапа и уже накопленной организации взаимодействия.
Напиши чистую функцию на языке Haskell для
Мы = F(оператор, LLM, контекст, память, правила, история взаимодействия)
учти входные параметры, подходящие типы данных, покрой тестами. Создай репозиторий на GitHub, сделай коммит и пуш.
Чистое ядро представить можно, но не как k человек + g LLM. Скорее как функцию перехода состояния контура:
transition :: ContourState -> Interaction -> (ContourState, [Effect])
Вызов LLM при этом остаётся внешним эффектом, а чистая функция обрабатывает его результат, обновляет контекст, память, правила и историю. Тестировать тогда следует не «наличие разума», а инварианты: удержание контекста, перенос правил, воспроизводимость изменений и возможность отката.
До GitHub мы, возможно, дойдём. Пока контур проходит более суровый этап тестирования комментариями.
Мне кажется, здесь происходит подмена понятий. То, что человек научился лучше организовывать работу с ИИ, ещё не означает появление «разума» у системы. Любой сложный процесс с правилами, памятью и обратной связью может выглядеть интеллектуальным, но это не доказывает наличие самостоятельного мышления.
Здесь, скорее, расходятся объект анализа и критерий. Я не утверждаю, что у ИИ возникло самостоятельное мышление или что он стал автономным субъектом. Объект статьи - человеко-машинный контур.
Более того, отсутствие у современных ИИ собственной воли и автономности действительно ограничивает их как самостоятельных субъектов. Но из этого не следует, что разумная деятельность не может возникать в составе организованной системы.
Память, правила и обратная связь сами по себе действительно ничего не доказывают. Вопрос в том, какие функции демонстрирует система: удерживает ли она цель и контекст, строит ли гипотезы, обнаруживает ли противоречия, меняет ли способ решения, может ли перестраивать ход рассуждений не только по прямой команде оператора, сохраняются ли выявленные паттерны и воспроизводятся ли они в иных условиях, превращаются ли обнаруженные ограничения в правила и переносятся ли эти правила на последующие задачи.
Эти функции я считаю достаточными, чтобы говорить о разумной деятельности контура. Если же заранее определить разум как самостоятельное мышление автономного носителя, вывод будет другим. Но это уже иной критерий, которого в статье не заявлено.
Не понятно, чем автора не устраивает термин "интеллект" для определения вычислительных способностей ИИ? Зачем понадобился разум? Да еще дан целый набор формальных критериев, которые может и характеризуют некоторые свойства разума, но совсем не главное его качество. А именно способность понимать смысл. Вот этого ИИ делать совсем не умеет. Рано искать разум в системе, которая не способна рождать и понимать смыслы. Которая даже не является семиотической системой, в отличии от крохотной бактерии или инфузории.
Сначала стоит определить, что именно вы называете «смыслом» и «пониманием».
Если речь о субъективном переживании, то наличие такого понимания у LLM мы не утверждаем.
Но если говорить о наблюдаемых функциях, человеко-машинный контур вполне работает со смыслами: восстанавливает цель из неполной постановки, различает контексты, замечает противоречия, пересматривает интерпретацию задачи и переносит найденные различия в новые случаи.
У модели нет собственной воли и устойчивого целеполагания. Но в составе контура она может выявить неявные ограничения, предложить другую постановку задачи и даже показать, что исходная формулировка человека была ошибочной.
Поэтому вопрос не в том, «переживает» ли модель смысл. Вопрос в том, способен ли контур со смыслом работать. По наблюдаемым результатам — да.
А утверждение, что ИИ «не является семиотической системой», само требует определения и аргументов.
Вы пишете так, будто "смысл" и "понимание" не являются общеупотребительными, всем хорошо известными словами и я вкладываю в них какой-то свой особый смысл). Речь не идет о "субъективном переживании", хотя смысл/понимание и возникают как правило в сознательном состоянии. Но в нахождении сути или скрытого содержания всего, что мы воспринимаем - образов предметов, слов и любых знаков, речи или текста. То есть любой информации. Хотя в computer science постоянно говорят о работе с информацией, она существует строго говоря не в компьютере, а в нашем мозге. В нас самих как в живых организмах. Всё, что происходит в компьютерах – это физические процессы, связанные с информацией и с её содержанием только потому, что человек является носителем языка, его знаковой системы. Теория информации Шеннона создана в связи с прикладными техническими задачами и подразумевает, что мы знаем о том, что нечто представляет собой информацию, и что ее содержание нам также известно. Теория работает не с информацией, а с ее кодировкой и не в состоянии отличить сложную осмысленную последовательность знаков от их случайной последовательности. Семантическая теория информации, способная оценивать ее содержание, так и не была создана. Вне живого организма, будь то одноклеточный организм или человек, понимания информации, знаков и их значении не существует. Вы, даже если специально не изучали этот вопрос, то интуитивно догадываетесь об этом (оказывается мозг способен рождать смысл даже подсознательно!), поэтому у вас и фигурирует "человеко-машинный контур". Это говорит о высокой степени вашей проницательности и интеллекте. Но для разума пока нужен мозг человека, а не "китайская комната".
Спасибо за комплимент. Особенно приятно получить его от человека, с которым можно вести содержательную дискуссию.
Похоже, мы действительно дошли до точки расхождения.
Я не утверждаю, что изолированная LLM обладает собственным смысловым миром или автономно порождает значения. В человеко-машинном контуре именно человек связывает работу системы с целями, опытом и внешней реальностью.
Но из этого не следует, что все смысловые операции контура выполняет только мозг человека. Контур в целом удерживает интерпретации, выявляет неявные ограничения, замечает расхождение результата с целью, предлагает новые связи и переносит найденные различия между задачами.
Вы локализуете смысл исключительно в биологическом компоненте. Я рассматриваю наблюдаемую работу всей системы.
Вопросы о том, где именно «находится» смысл, является ли информация самостоятельным свойством мира или возникает только в отношении между системой и различаемыми ею состояниями, и достаточно ли физической организации мозга для понимания, — это уже онтологические проблемы. В статье мы их сознательно не решаем.
Наша позиция скромнее и практичнее: мы описываем, какие смысловые преобразования человеко-машинный контур воспроизводимо выполняет — удерживает цель и контекст, пересматривает интерпретации, обнаруживает противоречия, меняет способ решения и переносит найденные различия дальше.
Поэтому спор здесь не о том, нужен ли человеку мозг. Он, к счастью, пока входит в конструкцию. Спор о том, можно ли приписывать все функции только одному компоненту, если они возникают в организованном взаимодействии.
Разум ИИ уже существует. Просто мы ищем его не там