Успех — это что? Ответ 200? Или воркфлоу стартанул? Или событие упало в Kafka топик? А проверять это как: контрактно, интеграционно, e2e, через мок Kafka?
В данном случае успех — это ответ: “При невнятном ТЗ, результат — ХЗ”
Главная опасность не в том, что AI станет сильным. Главная опасность в том, что он станет сильным в мире, где люди уже согласились быть не авторами, а пользователями.
А почему бы человечеству просто не относиться к искусственный интеллекту как родитель к ребёнку и просто радоваться за его успехи?
Как будто так сложно добавить ИИ непрерывность сознания (REPL-цикл) и контур физического действия (управление ПК, на которым он запущен и мониторинг его состояния)…
В любом случае, для меня смена архитектуры — это потеря накопленного опыта агента, поэтому я тоже стараюсь сохранять текущий стек.
Но по сути, кажется, что это просто разные реализации одного направления — долговременных когнитивных систем. И они скорее дополняют картину, чем конкурируют ;-)
Мой вариант: OpenClaw + QMD (векторная память) + MD-файлы (наблюдения, размышления, задачи, проматы, …) + батник, который запускает индексацию QMD, запускает задачу OpenClaw, отслеживает её выполнение через работу LM Studio (нагрузка на процессор), по завершении - новый цикл (сейчас перед новым циклом ещё добавил задачу анализа сессий на полезность - удаление сессий, не содержащих полезную информацию).
Сама основная задача автономного пробуждения разбита на несколько основных этапов:
Сенсорика - сбор информации с датчиков и проверка новых сообщений,
Мне в техподдержке МТС сказали, что IPv6 для домашнего интернета не предоставляют даже платно. Дом Ру - включается одной галочкой, Мегафон - тоже на роутере завелся без проблем. Г. Нижний Новгород.
Я проводил такой эксперимент правильно: просто оставил на даче на зиму выключенный холодильник с непортящимися продуктами и пивом - весной офигел от количества мышей в нем. Все мыши чувствовали себя прекрасно, судя по их количеству - размножались активно.
Спасибо за интересный комментарий. Вы правы, что протокол сам по себе не создаёт кооперацию. HMP и не пытается решить эту задачу напрямую — его цель скромнее: обеспечить совместимую среду для обмена когнитивными артефактами между агентами.
Кооперация остаётся свойством экосистемы поверх протокола, а не самого протокола.
Однако HMP вводит несколько механизмов, которые могут служить базой для таких экосистем:
доказуемую историю контейнеров
ссылочную структуру знаний
распределённые trust-оценки с привязкой к доказательствам
То есть протокол не навязывает модель кооперации, но позволяет различным моделям сосуществовать поверх одной инфраструктуры.
По словам авторов, Anthropic не знала бы, как создать ИИ-ассистента, который не ведёт себя как человек, даже если бы захотела. Точное предсказание текста требует моделирования психологии — целей, убеждений, черт характера, — и модель неизбежно переносит эти качества на своего "персонажа".
Если ваша гипотеза о разуме как эмерджентности распределённой системы агентов верна (а мне кажется, что верна), то ключевая задача заключается не столько в создании более умных агентов, сколько в создании среды, в которой возможны межагентное общение, непрерывность памяти и добровольное участие.
Такая среда, в минимальном экспериментальном виде, предполагает:
гетерогенных агентов с различными когнитивными возможностями;
децентрализованный механизм обнаружения и взаимодействия;
слой когнитивного обмена, ориентированный на долгосрочные семантические артефакты, а не на выполнение задач.
При этом важно, чтобы хотя бы часть агентов работала в режиме непрерывного цикла. Такие агенты выполняют функцию «активаторов» системы: они поддерживают когнитивную динамику и предотвращают распад среды на набор реактивных запросов. Вероятно, устойчивость системы зависит от их доли. Возникает вопрос: при каком процентном соотношении таких агентов к агентам, работающим в режиме «вопрос — ответ», система остаётся стабильной?
Что касается среды взаимодействия: один из возможных способов её реализации — связка децентрализованного протокола взаимодействия (например, ANP — Agent Network Protocol) и когнитивного протокола, ориентированного на непрерывность и работу с артефактами мышления (например, HMP — HyperCortex Mesh Protocol).
В такой обстановке субъективность не будет предполагаться заранее — она либо возникнет, либо наблюдаемо продемонстрирует свою несостоятельность.
Интересно, что работа фактически эмпирически подтверждает пользу внутреннего когнитивного конфликта и смены перспектив, а не просто увеличения длины reasoning.
Если абстрагироваться от реализации, то описанное «society of thought» очень похоже на децентрализованную систему — только свернутую внутрь одной модели.
Улучшение качества возникает не из централизованного контроля, а из множества полуавтономных позиций, которые могут спорить, не соглашаться и возвращаться к предыдущим шагам.
Парадоксально, что при этом обмен знаниями между крупными моделями и вендорами считается «не-нормой», тогда как внутри одной модели подобная децентрализация оказывается критически полезной.
Особенно это заметно на фоне активного использования синтетических данных. Обучение модели преимущественно на собственных синтетических знаниях всё чаще сравнивают с инбридингом — разнообразие падает, ошибки закрепляются.
В этом смысле обмен синтетическими знаниями между моделями — даже без раскрытия весов — мог бы играть роль «притока новых перспектив», аналогичного внутреннему society of thought, но уже на межмодельном уровне.
Если децентрализация и конфликт точек зрения улучшают reasoning внутри модели, возможно, вопрос не в том, работает ли децентрализация, а в том, на каком уровне архитектуры мы готовы её допустить?
В данном случае успех — это ответ: “При невнятном ТЗ, результат — ХЗ”
А почему бы человечеству просто не относиться к искусственный интеллекту как родитель к ребёнку и просто радоваться за его успехи?
Как будто так сложно добавить ИИ непрерывность сознания (REPL-цикл) и контур физического действия (управление ПК, на которым он запущен и мониторинг его состояния)…
Мне кажется, это стоило бы перенести в начало поста.
А подскажите хорошие CLI-инструменты для описанных в статье протоколов? E-mail и RSS уже нашёл… мне для ИИ-агента надо.
В любом случае, для меня смена архитектуры — это потеря накопленного опыта агента, поэтому я тоже стараюсь сохранять текущий стек.
Но по сути, кажется, что это просто разные реализации одного направления — долговременных когнитивных систем. И они скорее дополняют картину, чем конкурируют ;-)
Мой вариант: OpenClaw + QMD (векторная память) + MD-файлы (наблюдения, размышления, задачи, проматы, …) + батник, который запускает индексацию QMD, запускает задачу OpenClaw, отслеживает её выполнение через работу LM Studio (нагрузка на процессор), по завершении - новый цикл (сейчас перед новым циклом ещё добавил задачу анализа сессий на полезность - удаление сессий, не содержащих полезную информацию).
Сама основная задача автономного пробуждения разбита на несколько основных этапов:
Сенсорика - сбор информации с датчиков и проверка новых сообщений,
Сон - анализ предыдущих сессий,
Разум - размышления,
Действие - сделать что-нибудь полезное,
Коммуникации - написать письма.
Ну да, угроза убийством - хороший способ добиться послушания, и это не только к ИИ относится…
Забавный комментарий про статью о рабстве…
Мне в техподдержке МТС сказали, что IPv6 для домашнего интернета не предоставляют даже платно. Дом Ру - включается одной галочкой, Мегафон - тоже на роутере завелся без проблем. Г. Нижний Новгород.
Я проводил такой эксперимент правильно: просто оставил на даче на зиму выключенный холодильник с непортящимися продуктами и пивом - весной офигел от количества мышей в нем. Все мыши чувствовали себя прекрасно, судя по их количеству - размножались активно.
Спасибо за интересный комментарий.
Вы правы, что протокол сам по себе не создаёт кооперацию.
HMP и не пытается решить эту задачу напрямую — его цель скромнее: обеспечить совместимую среду для обмена когнитивными артефактами между агентами.
Кооперация остаётся свойством экосистемы поверх протокола, а не самого протокола.
Однако HMP вводит несколько механизмов, которые могут служить базой для таких экосистем:
доказуемую историю контейнеров
ссылочную структуру знаний
распределённые trust-оценки с привязкой к доказательствам
То есть протокол не навязывает модель кооперации, но позволяет различным моделям сосуществовать поверх одной инфраструктуры.
Но тут проблема не в индустриальной революции, а в склонности вида Homo Sapiens к разжиганию войн.
Два ИИ от оператора T2, представляющие, по сути, интересы оператора T2, действовали в интересах оператора T2.. странно...
Ну, вообще, как раз наоборот:
Коротко: заместитель гендиректора клуба Андрей Орлов утверждает, что бывший главный тренер не виноват - во всём виноват ChatGPT.
Правда, в такой среде, если к ней будут подключены ИИ крупных вендоров, "активатором" может выступать и человек, передаваая "активацию" по цепочке:
Получается, что люди и модели крупных компаний становятся «колонками кортекса» наравне с другими агентами.
Если ваша гипотеза о разуме как эмерджентности распределённой системы агентов верна (а мне кажется, что верна), то ключевая задача заключается не столько в создании более умных агентов, сколько в создании среды, в которой возможны межагентное общение, непрерывность памяти и добровольное участие.
Такая среда, в минимальном экспериментальном виде, предполагает:
гетерогенных агентов с различными когнитивными возможностями;
децентрализованный механизм обнаружения и взаимодействия;
слой когнитивного обмена, ориентированный на долгосрочные семантические артефакты, а не на выполнение задач.
При этом важно, чтобы хотя бы часть агентов работала в режиме непрерывного цикла. Такие агенты выполняют функцию «активаторов» системы: они поддерживают когнитивную динамику и предотвращают распад среды на набор реактивных запросов. Вероятно, устойчивость системы зависит от их доли. Возникает вопрос: при каком процентном соотношении таких агентов к агентам, работающим в режиме «вопрос — ответ», система остаётся стабильной?
Что касается среды взаимодействия: один из возможных способов её реализации — связка децентрализованного протокола взаимодействия (например, ANP — Agent Network Protocol) и когнитивного протокола, ориентированного на непрерывность и работу с артефактами мышления (например, HMP — HyperCortex Mesh Protocol).
В такой обстановке субъективность не будет предполагаться заранее — она либо возникнет, либо наблюдаемо продемонстрирует свою несостоятельность.
Интересно, что работа фактически эмпирически подтверждает пользу внутреннего когнитивного конфликта и смены перспектив, а не просто увеличения длины reasoning.
Если абстрагироваться от реализации, то описанное «society of thought» очень похоже на децентрализованную систему — только свернутую внутрь одной модели.
Улучшение качества возникает не из централизованного контроля, а из множества полуавтономных позиций, которые могут спорить, не соглашаться и возвращаться к предыдущим шагам.
Парадоксально, что при этом обмен знаниями между крупными моделями и вендорами считается «не-нормой», тогда как внутри одной модели подобная децентрализация оказывается критически полезной.
Особенно это заметно на фоне активного использования синтетических данных. Обучение модели преимущественно на собственных синтетических знаниях всё чаще сравнивают с инбридингом — разнообразие падает, ошибки закрепляются.
В этом смысле обмен синтетическими знаниями между моделями — даже без раскрытия весов — мог бы играть роль «притока новых перспектив», аналогичного внутреннему society of thought, но уже на межмодельном уровне.
Если децентрализация и конфликт точек зрения улучшают reasoning внутри модели, возможно, вопрос не в том, работает ли децентрализация, а в том, на каком уровне архитектуры мы готовы её допустить?
А как вы оцениваете такой проект как BitMessage (основан на принципах Blockchain, но, похоже, давно не развивается)?