Спасибо за развёрнутые ответы и честное отношение к критике. Ясно, что вам пришлось потрудиться, делая эту всю систему, и очень будет интересно почитать о деталях! Вы очень талантливы, раз этот айсберг нейрослопа держит курс… Но моя критика прежде всего направлена не на вас конкретно, а на экзистенциальные проблемы агентного подхода в целом.
Да, у вас реально рабочий, хотя и дорогой, хрупкий и трудоёмкий контур персональной автоматизации. Да, агенты могут полезны - для рутины, вызовов, суммаризации, декомпозиции, запуска заранее понятных процессов. И вообще, агентная истерия держится не только на технической наивности, но и на очень понятной человеческой слабости: люди перегружены, утомлены, фрагментированы, у них распадается внимание, и им страшно хочется внешнего помощника, который "подхватит". Поэтому миф об агенте так липнет. Не потому что все вокруг дураки, а потому что современный человек устал и хочет не просто автоматизации, а делегирования тяжести.
Но их слишком легко начинают переживать как новую форму субъекта, а хуже того, чат - как форму мышления. Это не просто смешно, а социально заразно. Массовая риторика про “совет агентов”, “цифрового партнёра”, “личную ОС” учит людей плохой интеллектуальной привычке.
Да, текстовый интерфейс сам по себе - очень сильная идея! Самый лучший пример - Emacs: Глубина и гибкость Lisp деревьев, функции, выражения, связка кода, документов, задач и автоматизаций в одной консистентной среде. Для LLM это оказалась благодатная почва: в такой среде действительно удобно строить автоматизации рутины, преобразования документов, шаблоны действий. “Агента” сделать также оказалось легко, однако, у меня быстро возникли сомнения в реальнуй полезности этих сущностей…
Давайте обосную свои сомнения по порядку:
Бывает текст - как поток реплик, который размывает волю субъекта. А бывает текст - как документная, вычислимая, воспроизводимая среда. Org-mode, например, давно существует именно для того, чтобы удерживать сложные мысли, процессы, задачи, код и делать воспроизводимые исследования. И вот для работы с LLM это, по-моему, критично. Не ждать готового ответа (!) но собирать процесс приближения к результату. Работать в Документах! Не искать правильный промпт для агента, но из постановки получать ТЗ, из ТЗ - подзадачи, из подзадач - конкретные проверяемые действия. На каждом шаге сохранять участие человека, не вынося волю наружу, но автоматизируя рутину.
Документ тут важен, потому что он сопротивляется вранью. Чат течёт. Документ фиксирует. Документ заставляет оставить след. Чат легко делает вид, что “в целом всё понятно”. Документ быстрее показывает, что ничего ещё не определено.
LLM особенно опасны именно там, где полезны наполовину. Полный бред человек чаще выбрасывает сразу. Но гладкий, полуверный, "в целом годный" результат - как раз и развращает сильнее всего. Потому что вроде бы он уже экономит силы, и уже выглядит убедительно, уже вроде бы помогает - и именно поэтому легче всего подменяет реальную проверку.
Далее про агенты.
Во-первых: "Агенты" бывают разные. Есть агент как шлюз к инструментам. Есть агент как cron + workflow. Есть агент как исполнитель ограниченного сценария. И есть агент как псевдоличность, которой начинают приписывать "заботу", "волю", "понимание роли в жизни" и право подсказывать, что человеку вообще делать дальше. Вот спор в основном с последним. Не с инструментальным контуром, а с его мистификацией.
Во-вторых, проблема не только в размывании воли, но и в ложной легитимности. Это, как мне кажется, вообще главный нерв. В агентных системах слишком легко спутать отчёт с фактом, а гладкое резюме с проверкой.
Именно поэтому лично мне ближе не модель “умного собеседника”, а модель проверяемого процесса. Там, где что-то важно, нужен не просто ответ, а след: откуда это взялось, на чём основано, что было сделано? Это защита от очень современной формы самообмана, когда система звучит как будто всё “поняла”.
В-третьих, есть ещё одна неприятная штука, о которой редко говорят: субъектность теряется не только когда человек “верит агенту”. Она теряется и тогда, когда он строит настолько сложный комбайн из кронов, памяти, роутинга, инъекций, промежуточных слоёв и фиксов, что уже сам не может локально обозреть, что именно у него происходит. То есть можно не капитулировать перед ИИ, а просто закопать собственную волю под архитектурной энтропией. Кажется, что ты хозяин системы, а потом выясняется, что ты уже скорее её сантехник.
Агентные контуры действительно могут ускорять, но это не значит, что они так же хорошо усиливают понимание, различение, критерий, адекватность. И тут многие попадают в ловушку: раз стало быстрее двигаться, значит, стало лучше думаться. А это вообще не одно и то же.
У нас, по сути, давно есть другая линия. Мы можем не делать вид, что рядом завёлся маленький цифровой субъект, но строить среду, где преобразования проверяемы, решения прослеживаемы, действия ограничены, а человек остаётся источником смыслового поворота.
И вот что особенно важно на фоне массовой истерии по агентам: людям сейчас продают не автоматизацию, а ощущение, что у них появился маленький цифровой штаб, почти коллега, почти альтер эго. Это очень льстит. Ты больше не человек, который плохо организовал заметки и скрипты, — ты куратор агентной цивилизации. Звучит лучше, чем «я привязал LLM к Telegram и паре API». Вся эта мода держится на очень простой подмене: чат с памятью и инструментами называют «субъектом», набор if-else и вызовов моделей — «агентностью», а собственную лень к дисциплине документов — «новой эрой интерфейсов».
Хотя правда скучнее: в 80% случаев вместо «комитета агентов» человеку нужен один нормальный пайплайн. Не «совет мыслителей», а папка с файлами, список задач, search по документам, шаблоны решений, пара проверенных автоматизаций и правило: всё важное фиксируется вне чата. Не «заботливый цифровой партнёр», а надёжный контур: собрать ссылки, распарсить, вытащить факты, разложить по тегам, сделать черновик, показать источники, затребовать подтверждение перед действием. Это не так сексуально, конечно. Зато это хотя бы не спектакль.
Нормальная альтернатива всей этой агентной религии выглядит очень прозаично: меньше «личностей», больше интерфейсов; меньше ролей, больше протоколов; меньше «памяти о вас», больше базы знаний; меньше разговоров, больше документов; меньше «что делать?», больше явных критериев и ручного решения. ИИ полезен как ускоритель поиска, суммаризации, черновиков, классификации, рутины. Но как только его начинают превращать в «советника», «архитектора жизни» и «заботливую сущность», начинается уже не автоматизация, а красиво оформленное магическое мышление.
Автор пафосно объявляет, что ушёл от формата «пообщаться с нейросетью», но по факту сделал ровно наоборот: не вышел из чата, а засунул в чат вообще всё — файлы, задачи, тренды, приоритеты, семейное общение и, кажется, остатки собственной субъектности.
Вместо нормальной системы с документами, критериями, логами решений и проверяемыми артефактами у него Telegram, «память», «навыки» и истории в духе «бот прислушался к моему состоянию», «сам придумал себе имя», «услышал мою боль и создал проект», «заботливо напомнил, что я давно не занимался проектом X». То есть обычная антропоморфизация, только с очень серьёзным лицом. Если держать LLM в мессенджере, она, конечно, быстро начинает казаться не инструментом, а цифровым домовым. Но от этого матрица токенов не становится личностью, а переписка — операционной системой.
Самое смешное, что за всей этой мистикой почти нет конкретики. «Изолированная среда», «оркестратор», «sandbox», «workflow» — слов много, устройства мало. Как устроена память? Где границы доступа? Где журнал действий? Где статистика провалов? Сколько раз этот «совет агентов» нёс чушь, сколько раз всё приходилось переделывать руками, сколько там ложных инициатив и декоративного шума? Ничего этого нет. Есть только витрина удачных попаданий, поданная так, будто система всегда работает именно так. Классический жанр техно-евангелизма: ручной труд автора, отбор лучших кейсов и тонна восторга упакованы как «у меня уже будущее дома стоит на мини-сервере».
Особенно прекрасны примеры. «Навык насмотренности» — то есть модель запомнила пару его вкусовых замечаний и теперь более-менее имитирует его интонацию, но это подаётся как почти дизайнерское суждение. «Цифровая близость» — агент якобы услышал боль про сына, сам создал проект, сам двигал канбан, сам показал сайт. Конечно. А ещё, видимо, поплакал в углу от человечности момента. И вишенка — «что делать?» → система сама запускает нужный workflow. То есть человек уже не просто автоматизирует рутину, а начинает выносить наружу собственную исполнительную функцию, но подаёт это как новый уровень свободы.
По факту тут не «персональная ОС», а красиво оформленная зависимость от чатика. Не усиление мышления, а его растворение в потоке правдоподобных реплик. Не инженерия, а агентный театр, где один стохастический шум подтверждается другим стохастическим шумом, чтобы хозяину было уютнее верить, что рядом не набор скриптов и LLM, а почти субъект. Короче: не собрал будущее, а сделал себе Telegram-секту из автодополнения.
он не заменил чат рабочей системой знаний и документов, а оброс слоями чатовых посредников, которым делегировал всё больше интерпретации, инициативы и управленческой воли. В результате получается контур симуляции мышления и менеджмента, который: опирается не на устойчивые артефакты, а на текучий диалог - генерирует не знание, а правдоподобные связки; показывает удачные эпизоды как норму, постепенно размывает собственную компетенцию пользователя.
Всё так. Именно вдумчивые итерации - работают. Поэтому и я сразу сделал Carriage-mode для Emacs (итеративный станок для кода с LLM), и до сих пор им успешно пользуюсь. И это достаточно всё ускорило, чтобы стали заметны другие проблемы, которые агентный подход сам по себе не решит, поэтому появилась HDS (Спецификация Голографической Разработки)
если что, минусовал не я, но позвольте полемизировать. Разве, если ваш процесс заточен под одну модель, её "особенности", проблема не именно в этом? Т.е. да, безусловно, у моделей есть "особенности", но разве должны они влиять на эффективность достижения результата?
Месседжеры для этого вообще не подходят. И UI для этого также - не лучшая идея.
Для этого подходят документы:
Постановка
DOR
Анализ
Техрешение
DOD
Спецификации
Проверки
Отчёт
И да, я иронизирую, но лишь отчасти. Все эти документы символизируют ПРОЦЕСС. Вы можете какую-то часть этого процесса поручить агенту, когда процесс у вас есть. Но если процесса нет - то никакой интерфейс к стае стохастичных попугаев не спасёт от энтропии..
Вроде всё логично, но - теория автоматов устарела уже? Согласно ТА, с агентами есть фундаментальные проблемы, в частности - стохастичность и отсутствие каузальности... И "внезапно" это - те же проблемы, что и в работе с людьми, на которых стараются сделать агентов похожими (антропоморфизм). Однако, все вот эти влажные сны о "прекрасном будущем с гуманоидами", разбиваются о суровую реальность, которую признают уже даже сами пропагандисты агентного подхода - а именно, что ЭТО НЕ РАБОТАЕТ.
Понимаете ли, я не на пустом месте пишу то, что пишу - уже больше год разворачиваю различные MAS, съёв несколько стай собак. А в то же время, создал несколько инструментов (Carriage/Atlas/Lore) утилизирующие возможности LLM более разумным способом, а ещё выработал МЕТОД, что и рекомендую использовать с помощью мозга.
Агенты - способ потратить тонны нефти, чтобы в рилтайме имитировать ненаписанное вами ТЗ и невыстроеные вами процессы. Это тоже самое, что и с людьми работать без ТЗ и процессов.
Очень точное замечание. Потому что "агент", конечно, тоже автомат. Однако, автомат не классический. Классический автомат - устройство, имеющее конечное число состояний, чётко определённые правила переходов, и не обладающее субъективностью или сложной автономией. Агент же стохастичен и может быть реактивным, рассудочным, прорефлексивным, обучающимся, обладающим планированием итп, а также может быть частью MAS, что есть - отдельный род безумия... Помимо того, обратная связь с агентом обычно “мягкая”, а действие необратимо плодит мусор - артефакты без проверок!
Мой поинт в том, что когда оператор обладает способностями к самоорганизации и знает теорию, то ему "агенты" почти и не нужны. А если не обладает способностями и не знает теории, то лучше бы ему такому и агентов не трогать, а пойти почитать теорию автоматов. Ведь создание "раскачанных" агентов однозначно приводит к росту энтропии и информационной зависимости!
Суть анти‑агентного подхода в МЕТОДЕ, в том, что вы до генерации текста организуете материал так, чтобы LLM работал как стохастический интерпретатор, а решения принимал человек максимально явно (HDS и МЕТОД см. t me gnu_emacs_ru)
Поставщиков моделей - масса, это просто ресурс. Вы молодец, но согласитесь, не так уж критиично, иметь LLM у себя, когда альтернативных LLM масса? Как мы считаем, настоящая роблема - в АГЕНТАХ. И странно, но почему-то никто не говорит про проприетарность агентов. А ведь им уже и кредитные карты свои отдали, и диски... Как сговорились! Более того, наблюдаю, что ещё и минусуют идеи за свободу ПО. Которые идеи актуальны как никогда. Вот из классики, https://www.gnu.org/philosophy/free-software-even-more-important.ru.html
Просто нужно разделять LLM и Агенты. У большинства в голове это смешано, и они не представляют, как можно использовать открытые инструменты и техники, и меточдично наращивать компетенции, вместо того, чтобы подвисать на вызывающих зависимость фреймворках...
Ну да, но принцип тот же, это как проприетарные IDE, вызывающие зависимость. Навроде продуктов жеп-брейнс. Сперва вам впаривают "очень нужные" функции с закрытым движком, а в итоге, сами вынуждены придумывать новый очень нужный язык (какой-нибудь Kotlin), чтобы их IDE нормально работали (потому что они не могут будучи закрытыми и негибкими)... А и заблочить инструменты какому-нибудь программусту или даже целому государству - с них станется. Однако люди не только подсели, они ещё и нахваливают - старо как мир ПО. Вы правы, что теперь это - на более глубоком уровне. Однако по сути, это происходило и раньше - обычное проприетарное г-но.
Это LLM - "электричество". А "Агенты", одно из двух - либо проприетарный генератор суеты и нейрослопа, либо ещё и плохой и кривой генератор суеты и нейрослопа. И это неизвестно ещё, что хуже. LLM могут быть полезны, если применяются системно, и с помощью мозга. "Агенты" на данном этапе малополезны, а чаще даже вредны. Просто они на хайпе, ибо - мечта некомпетентных лентяев.
О, какой прекрасный русский язык Вы "настроили", любо, вы мне именно такой рекомендуете? :-) Хотелось бы как-то прокомментировать и мысль, но к сожалению, из вашей речи непонятно, что вы хотели сказать.
Это так, особенно, если нет системы. И нет МЕТОДа. Вот потому в соседнем каменте и пишем - эти их "агенты" вредны больше чем полезны. Агенты - расхайповый способ генерировать суету. Ещё и проприетарный, и вызывающий зависимость. А пользу приносят автоматы - предсказуемые. LLM полезен, но только в контуре конечного автомата, и сам он полезен более всего, именно как стохастический и гибкий интерпретатор а не генератор лжи.
В чём манипуляция, уважаемый? В вашем сообщении манипуляция присутствует, да, и при том - низкого пошиба. А вот на мой русский пожаловались... как бы не в первый раз за 40 лет? Вы, наверное, очень грамотный, ну так расстрайтесь пояснить. И да, минусаторы неуважаемые, ссылка не тг-канал для заработка, что очевидно любому - мы ничего не продаём. Это блог, место где можно прочитать, если вы умеете читать, несколько актуальных текстов, да забрать полезного открытого кода. Вот нафига вам это минусовать? Я дело говорю, и по теме статьи. Впрочем, местная публика никогда не отличалась ни разборчивостью, ни компетентностью. Хабр есть Хабр, что 15 лет назад, что сейчас.
Неоднократно уже повторяли и не устану, пока хоть кто-то не поймёт: Проблема основная не в LLM. Настоящая проблема - проприетарные агенты! И также агентный воркфлоу через чатик. И про дофаминовую петлю мы писали уже год назад, и когнитивный офлоадинг. Хорошо выстроеный рабочий процесс, позволяет достигать качественных результатов БЕЗ ИСПОЛЬЗОВАНИЯ АГЕНТОВ. Чатик с агентом - лишь способ преодолеть некомпетность оператора, а не необходимость. Правильный процесс может использовать LLM для генерации одних документов из других, но агент, как принимающая решения сущность, при таком процессе не обязателен. Если интересно, как делать иначе, ряд статей и также МЕТОД/ПУЛЬТ и опенсорсный станок carriage поверх Emacs - в тг: t me gnu_emacs_ru
Спасибо за развёрнутые ответы и честное отношение к критике. Ясно, что вам пришлось потрудиться, делая эту всю систему, и очень будет интересно почитать о деталях! Вы очень талантливы, раз этот айсберг нейрослопа держит курс… Но моя критика прежде всего направлена не на вас конкретно, а на экзистенциальные проблемы агентного подхода в целом.
Да, у вас реально рабочий, хотя и дорогой, хрупкий и трудоёмкий контур персональной автоматизации. Да, агенты могут полезны - для рутины, вызовов, суммаризации, декомпозиции, запуска заранее понятных процессов. И вообще, агентная истерия держится не только на технической наивности, но и на очень понятной человеческой слабости: люди перегружены, утомлены, фрагментированы, у них распадается внимание, и им страшно хочется внешнего помощника, который "подхватит". Поэтому миф об агенте так липнет. Не потому что все вокруг дураки, а потому что современный человек устал и хочет не просто автоматизации, а делегирования тяжести.
Но их слишком легко начинают переживать как новую форму субъекта, а хуже того, чат - как форму мышления. Это не просто смешно, а социально заразно. Массовая риторика про “совет агентов”, “цифрового партнёра”, “личную ОС” учит людей плохой интеллектуальной привычке.
Да, текстовый интерфейс сам по себе - очень сильная идея! Самый лучший пример - Emacs: Глубина и гибкость Lisp деревьев, функции, выражения, связка кода, документов, задач и автоматизаций в одной консистентной среде. Для LLM это оказалась благодатная почва: в такой среде действительно удобно строить автоматизации рутины, преобразования документов, шаблоны действий. “Агента” сделать также оказалось легко, однако, у меня быстро возникли сомнения в реальнуй полезности этих сущностей…
Давайте обосную свои сомнения по порядку:
Бывает текст - как поток реплик, который размывает волю субъекта. А бывает текст - как документная, вычислимая, воспроизводимая среда. Org-mode, например, давно существует именно для того, чтобы удерживать сложные мысли, процессы, задачи, код и делать воспроизводимые исследования. И вот для работы с LLM это, по-моему, критично. Не ждать готового ответа (!) но собирать процесс приближения к результату. Работать в Документах! Не искать правильный промпт для агента, но из постановки получать ТЗ, из ТЗ - подзадачи, из подзадач - конкретные проверяемые действия. На каждом шаге сохранять участие человека, не вынося волю наружу, но автоматизируя рутину.
Документ тут важен, потому что он сопротивляется вранью. Чат течёт. Документ фиксирует. Документ заставляет оставить след. Чат легко делает вид, что “в целом всё понятно”. Документ быстрее показывает, что ничего ещё не определено.
LLM особенно опасны именно там, где полезны наполовину. Полный бред человек чаще выбрасывает сразу. Но гладкий, полуверный, "в целом годный" результат - как раз и развращает сильнее всего. Потому что вроде бы он уже экономит силы, и уже выглядит убедительно, уже вроде бы помогает - и именно поэтому легче всего подменяет реальную проверку.
Далее про агенты.
Во-первых: "Агенты" бывают разные. Есть агент как шлюз к инструментам. Есть агент как cron + workflow. Есть агент как исполнитель ограниченного сценария. И есть агент как псевдоличность, которой начинают приписывать "заботу", "волю", "понимание роли в жизни" и право подсказывать, что человеку вообще делать дальше. Вот спор в основном с последним. Не с инструментальным контуром, а с его мистификацией.
Во-вторых, проблема не только в размывании воли, но и в ложной легитимности. Это, как мне кажется, вообще главный нерв. В агентных системах слишком легко спутать отчёт с фактом, а гладкое резюме с проверкой.
Именно поэтому лично мне ближе не модель “умного собеседника”, а модель проверяемого процесса. Там, где что-то важно, нужен не просто ответ, а след: откуда это взялось, на чём основано, что было сделано? Это защита от очень современной формы самообмана, когда система звучит как будто всё “поняла”.
В-третьих, есть ещё одна неприятная штука, о которой редко говорят: субъектность теряется не только когда человек “верит агенту”. Она теряется и тогда, когда он строит настолько сложный комбайн из кронов, памяти, роутинга, инъекций, промежуточных слоёв и фиксов, что уже сам не может локально обозреть, что именно у него происходит. То есть можно не капитулировать перед ИИ, а просто закопать собственную волю под архитектурной энтропией. Кажется, что ты хозяин системы, а потом выясняется, что ты уже скорее её сантехник.
Агентные контуры действительно могут ускорять, но это не значит, что они так же хорошо усиливают понимание, различение, критерий, адекватность. И тут многие попадают в ловушку: раз стало быстрее двигаться, значит, стало лучше думаться. А это вообще не одно и то же.
У нас, по сути, давно есть другая линия. Мы можем не делать вид, что рядом завёлся маленький цифровой субъект, но строить среду, где преобразования проверяемы, решения прослеживаемы, действия ограничены, а человек остаётся источником смыслового поворота.
И вот что особенно важно на фоне массовой истерии по агентам: людям сейчас продают не автоматизацию, а ощущение, что у них появился маленький цифровой штаб, почти коллега, почти альтер эго. Это очень льстит. Ты больше не человек, который плохо организовал заметки и скрипты, — ты куратор агентной цивилизации. Звучит лучше, чем «я привязал LLM к Telegram и паре API». Вся эта мода держится на очень простой подмене: чат с памятью и инструментами называют «субъектом», набор if-else и вызовов моделей — «агентностью», а собственную лень к дисциплине документов — «новой эрой интерфейсов».
Хотя правда скучнее: в 80% случаев вместо «комитета агентов» человеку нужен один нормальный пайплайн. Не «совет мыслителей», а папка с файлами, список задач, search по документам, шаблоны решений, пара проверенных автоматизаций и правило: всё важное фиксируется вне чата. Не «заботливый цифровой партнёр», а надёжный контур: собрать ссылки, распарсить, вытащить факты, разложить по тегам, сделать черновик, показать источники, затребовать подтверждение перед действием. Это не так сексуально, конечно. Зато это хотя бы не спектакль.
Нормальная альтернатива всей этой агентной религии выглядит очень прозаично: меньше «личностей», больше интерфейсов; меньше ролей, больше протоколов; меньше «памяти о вас», больше базы знаний; меньше разговоров, больше документов; меньше «что делать?», больше явных критериев и ручного решения. ИИ полезен как ускоритель поиска, суммаризации, черновиков, классификации, рутины. Но как только его начинают превращать в «советника», «архитектора жизни» и «заботливую сущность», начинается уже не автоматизация, а красиво оформленное магическое мышление.
Автор пафосно объявляет, что ушёл от формата «пообщаться с нейросетью», но по факту сделал ровно наоборот: не вышел из чата, а засунул в чат вообще всё — файлы, задачи, тренды, приоритеты, семейное общение и, кажется, остатки собственной субъектности.
Вместо нормальной системы с документами, критериями, логами решений и проверяемыми артефактами у него Telegram, «память», «навыки» и истории в духе «бот прислушался к моему состоянию», «сам придумал себе имя», «услышал мою боль и создал проект», «заботливо напомнил, что я давно не занимался проектом X». То есть обычная антропоморфизация, только с очень серьёзным лицом. Если держать LLM в мессенджере, она, конечно, быстро начинает казаться не инструментом, а цифровым домовым. Но от этого матрица токенов не становится личностью, а переписка — операционной системой.
Самое смешное, что за всей этой мистикой почти нет конкретики. «Изолированная среда», «оркестратор», «sandbox», «workflow» — слов много, устройства мало. Как устроена память? Где границы доступа? Где журнал действий? Где статистика провалов? Сколько раз этот «совет агентов» нёс чушь, сколько раз всё приходилось переделывать руками, сколько там ложных инициатив и декоративного шума? Ничего этого нет. Есть только витрина удачных попаданий, поданная так, будто система всегда работает именно так. Классический жанр техно-евангелизма: ручной труд автора, отбор лучших кейсов и тонна восторга упакованы как «у меня уже будущее дома стоит на мини-сервере».
Особенно прекрасны примеры. «Навык насмотренности» — то есть модель запомнила пару его вкусовых замечаний и теперь более-менее имитирует его интонацию, но это подаётся как почти дизайнерское суждение. «Цифровая близость» — агент якобы услышал боль про сына, сам создал проект, сам двигал канбан, сам показал сайт. Конечно. А ещё, видимо, поплакал в углу от человечности момента. И вишенка — «что делать?» → система сама запускает нужный workflow. То есть человек уже не просто автоматизирует рутину, а начинает выносить наружу собственную исполнительную функцию, но подаёт это как новый уровень свободы.
По факту тут не «персональная ОС», а красиво оформленная зависимость от чатика. Не усиление мышления, а его растворение в потоке правдоподобных реплик. Не инженерия, а агентный театр, где один стохастический шум подтверждается другим стохастическим шумом, чтобы хозяину было уютнее верить, что рядом не набор скриптов и LLM, а почти субъект. Короче: не собрал будущее, а сделал себе Telegram-секту из автодополнения.
он не заменил чат рабочей системой знаний и документов, а оброс слоями чатовых посредников, которым делегировал всё больше интерпретации, инициативы и управленческой воли.
В результате получается контур симуляции мышления и менеджмента, который: опирается не на устойчивые артефакты, а на текучий диалог - генерирует не знание, а правдоподобные связки; показывает удачные эпизоды как норму, постепенно размывает собственную компетенцию пользователя.
Всё так. Именно вдумчивые итерации - работают. Поэтому и я сразу сделал Carriage-mode для Emacs (итеративный станок для кода с LLM), и до сих пор им успешно пользуюсь. И это достаточно всё ускорило, чтобы стали заметны другие проблемы, которые агентный подход сам по себе не решит, поэтому появилась HDS (Спецификация Голографической Разработки)
если что, минусовал не я, но позвольте полемизировать. Разве, если ваш процесс заточен под одну модель, её "особенности", проблема не именно в этом? Т.е. да, безусловно, у моделей есть "особенности", но разве должны они влиять на эффективность достижения результата?
Месседжеры для этого вообще не подходят. И UI для этого также - не лучшая идея.
Для этого подходят документы:
Постановка
DOR
Анализ
Техрешение
DOD
Спецификации
Проверки
Отчёт
И да, я иронизирую, но лишь отчасти. Все эти документы символизируют ПРОЦЕСС. Вы можете какую-то часть этого процесса поручить агенту, когда процесс у вас есть. Но если процесса нет - то никакой интерфейс к стае стохастичных попугаев не спасёт от энтропии..
Вроде всё логично, но - теория автоматов устарела уже? Согласно ТА, с агентами есть фундаментальные проблемы, в частности - стохастичность и отсутствие каузальности... И "внезапно" это - те же проблемы, что и в работе с людьми, на которых стараются сделать агентов похожими (антропоморфизм). Однако, все вот эти влажные сны о "прекрасном будущем с гуманоидами", разбиваются о суровую реальность, которую признают уже даже сами пропагандисты агентного подхода - а именно, что ЭТО НЕ РАБОТАЕТ.
Понимаете ли, я не на пустом месте пишу то, что пишу - уже больше год разворачиваю различные MAS, съёв несколько стай собак. А в то же время, создал несколько инструментов (Carriage/Atlas/Lore) утилизирующие возможности LLM более разумным способом, а ещё выработал МЕТОД, что и рекомендую использовать с помощью мозга.
Агенты - способ потратить тонны нефти, чтобы в рилтайме имитировать ненаписанное вами ТЗ и невыстроеные вами процессы. Это тоже самое, что и с людьми работать без ТЗ и процессов.
за использование проприетарных агентов
Очень точное замечание. Потому что "агент", конечно, тоже автомат. Однако, автомат не классический. Классический автомат - устройство, имеющее конечное число состояний, чётко определённые правила переходов, и не обладающее субъективностью или сложной автономией. Агент же стохастичен и может быть реактивным, рассудочным, прорефлексивным, обучающимся, обладающим планированием итп, а также может быть частью MAS, что есть - отдельный род безумия... Помимо того, обратная связь с агентом обычно “мягкая”, а действие необратимо плодит мусор - артефакты без проверок!
Мой поинт в том, что когда оператор обладает способностями к самоорганизации и знает теорию, то ему "агенты" почти и не нужны. А если не обладает способностями и не знает теории, то лучше бы ему такому и агентов не трогать, а пойти почитать теорию автоматов. Ведь создание "раскачанных" агентов однозначно приводит к росту энтропии и информационной зависимости!
Суть анти‑агентного подхода в МЕТОДЕ, в том, что вы до генерации текста организуете материал так, чтобы LLM работал как стохастический интерпретатор, а решения принимал человек максимально явно (HDS и МЕТОД см. t me gnu_emacs_ru)
да, однако, неясно в чем?
Поставщиков моделей - масса, это просто ресурс. Вы молодец, но согласитесь, не так уж критиично, иметь LLM у себя, когда альтернативных LLM масса? Как мы считаем, настоящая роблема - в АГЕНТАХ. И странно, но почему-то никто не говорит про проприетарность агентов. А ведь им уже и кредитные карты свои отдали, и диски... Как сговорились! Более того, наблюдаю, что ещё и минусуют идеи за свободу ПО. Которые идеи актуальны как никогда. Вот из классики, https://www.gnu.org/philosophy/free-software-even-more-important.ru.html
Просто нужно разделять LLM и Агенты. У большинства в голове это смешано, и они не представляют, как можно использовать открытые инструменты и техники, и меточдично наращивать компетенции, вместо того, чтобы подвисать на вызывающих зависимость фреймворках...
Ну да, но принцип тот же, это как проприетарные IDE, вызывающие зависимость. Навроде продуктов жеп-брейнс. Сперва вам впаривают "очень нужные" функции с закрытым движком, а в итоге, сами вынуждены придумывать новый очень нужный язык (какой-нибудь Kotlin), чтобы их IDE нормально работали (потому что они не могут будучи закрытыми и негибкими)... А и заблочить инструменты какому-нибудь программусту или даже целому государству - с них станется. Однако люди не только подсели, они ещё и нахваливают - старо как мир ПО. Вы правы, что теперь это - на более глубоком уровне. Однако по сути, это происходило и раньше - обычное проприетарное г-но.
Это LLM - "электричество". А "Агенты", одно из двух - либо проприетарный генератор суеты и нейрослопа, либо ещё и плохой и кривой генератор суеты и нейрослопа. И это неизвестно ещё, что хуже. LLM могут быть полезны, если применяются системно, и с помощью мозга. "Агенты" на данном этапе малополезны, а чаще даже вредны. Просто они на хайпе, ибо - мечта некомпетентных лентяев.
О, какой прекрасный русский язык Вы "настроили", любо, вы мне именно такой рекомендуете? :-) Хотелось бы как-то прокомментировать и мысль, но к сожалению, из вашей речи непонятно, что вы хотели сказать.
Это так, особенно, если нет системы. И нет МЕТОДа. Вот потому в соседнем каменте и пишем - эти их "агенты" вредны больше чем полезны. Агенты - расхайповый способ генерировать суету. Ещё и проприетарный, и вызывающий зависимость. А пользу приносят автоматы - предсказуемые. LLM полезен, но только в контуре конечного автомата, и сам он полезен более всего, именно как стохастический и гибкий интерпретатор а не генератор лжи.
В чём манипуляция, уважаемый? В вашем сообщении манипуляция присутствует, да, и при том - низкого пошиба. А вот на мой русский пожаловались... как бы не в первый раз за 40 лет? Вы, наверное, очень грамотный, ну так расстрайтесь пояснить. И да, минусаторы неуважаемые, ссылка не тг-канал для заработка, что очевидно любому - мы ничего не продаём. Это блог, место где можно прочитать, если вы умеете читать, несколько актуальных текстов, да забрать полезного открытого кода. Вот нафига вам это минусовать? Я дело говорю, и по теме статьи. Впрочем, местная публика никогда не отличалась ни разборчивостью, ни компетентностью. Хабр есть Хабр, что 15 лет назад, что сейчас.
Неоднократно уже повторяли и не устану, пока хоть кто-то не поймёт: Проблема основная не в LLM. Настоящая проблема - проприетарные агенты! И также агентный воркфлоу через чатик. И про дофаминовую петлю мы писали уже год назад, и когнитивный офлоадинг. Хорошо выстроеный рабочий процесс, позволяет достигать качественных результатов БЕЗ ИСПОЛЬЗОВАНИЯ АГЕНТОВ. Чатик с агентом - лишь способ преодолеть некомпетность оператора, а не необходимость. Правильный процесс может использовать LLM для генерации одних документов из других, но агент, как принимающая решения сущность, при таком процессе не обязателен. Если интересно, как делать иначе, ряд статей и также МЕТОД/ПУЛЬТ и опенсорсный станок carriage поверх Emacs - в тг: t me gnu_emacs_ru
О, а это ведь вы в Телеграм пишете потрясающие тезисы, вроде "Говнокодьте, не бойтесь, это больше не проблема! Ллм всё исправят!"? :-)