Comments 33
В идее есть явное противоречие с современными моделями нейросетей и алгоритмами обучения. Допустим сеть нашла новую информацию в интернет и требуется коррекция модели. Это колоссальные вычислительны затраты на дообучение, повторное тестирование и т.д. Мне кажется нужна архитектура отдельного хранения фактов, правил и системы выводов. Тогда новые данные можно будет просто добавить без модификации всей модели.
Все это конечно хорошо и MCP - протокол нужный, но недерминированность поведения языковых моделей и нерешенная проблема галлюцинирования(а ее скорее всего не решат) не позволят разворачивать сложные системы - они будут неработоспособны. Нынешний хайп с агентами( а это именно хайп) вскоре поутихнет, иллюзии развеятся и технологии продолжат развиваться постепенно, без революций. Без качественно новых архитектур БЯМ ситуация не изменится. А пока будем наблюдать за появлением многочисленных костылей, которыми обрастают БЯМ.
Зависит от проекта и целей.
Так-то mcp сервера можно использовать не только при работе с агентами, но и чтобы просто задавать вопросы ИИ, банальный но мощный пример - https://github.com/benborla/mcp-server-mysql , добавляем в Claude Desktop, просим ИИ посмотреть структуры базы вместо того, чтобы вручную ему эти данные передавать, и просим ИИ выполнить какие-то запросы.
Используем https://context7.com/, чтобы ИИ получал актуальную документацию, а далее спрашиваем вопросы связанные с каким-то стеком(nextjs , к примеру)
С помощью https://github.com/microsoft/playwright-mcp просим ИИ сходить на какой-то сайт и выполнить что-то, я с помощью него собирал subreddit-ы, которые подходят для рекламы своих игр, просил ИИ, чтобы он прошелся и проверил везде правила, где можно размещать и что нужно учитывать.
Я говорил о сложных системах. А решать небольшие частные задачи с ограниченным контекстом - да. Это его нынешний уровень - малая интеллектуальная автоматизация.
учитывая скорость развития ИИ, могу предположить, что уже в ближайший год увидим продвинутые агенты, которые смогут и в больших проектах приносить пользу)
А какая скорость? О проблеме галлюцинирования известно сколько лет, но она не решена и не предвидится. А это краеугольный камень использования в сложных системах. Либо усложнять все проверками, что удорожает систему.
Достаточно просто сравнить как год назад сгенерированный Вилл Смит ел лапшу и как он сейчас ест) прогресс на лицо. Чуть ли не каждую неделю/месяц новые модели, которые относительно лучше других.
Это конечно прекрасная метрика! Каждый год Уилл Смит будет есть лапшу все лучше и лучше )) Лет через 5 даже настоящий Уилл не сможет так же хорошо есть лапшу, как сгенерированный ИИ. Именно для этого и создается искусственный интеллект, агентные технологии, производятся миллионы новейших чипов и вводятся сотни гигаватт новых мощностей )
я думаю моя мысль там очень даже понятна и этот сарказм ни к чему)
я говорил о проблеме галлюцинирования, которая за несколько лет не нашла решения, а в последних моделях OpenAI даже усугубилась, хотя ожидалось обратное. Использование моделей в закрытых агентных системах, где будет проводиться большое число неподконтрольных операций/оценок/принятий решений будет иметь мультипликативный эффект со всеми вытекающими последствиями. И многие разработчики, не оценивая здраво эти риски, на каждом шагу хайпятся с темой агентов. А о рисках говорить не хотят - это не выгодно. Клиент же не хочет покупать риски, он хочет покупать красивую сказку про автоматизацию и как умные агенты заменят половину офиса. И при чем тут ваш комментарий с поеданием лапши в этом контексте, как раз не очень понятно.
И при чем тут ваш комментарий с поеданием лапши в этом контексте, как раз не очень понятно.
при том, что это показывает насколько прогрессирует ИИ за короткие промежутки.
никто же не предлагает здесь и сейчас запускать агентов в крупных организациях, чтобы они делали всю работу)
😂
Ну продолжится период бума еще пару лет и кто знает, что там появится.
Во все времена были и скептики и энтузиасты и всегда то одни, то другие оказывались правы.
Тут я буду энтузиастом, через пару лет встретимся)
Ну продолжится период бума еще пару лет и кто знает, что там появится.
Появятся Уже появилась куча проходимцев и аферистов, как около-иишных, хайпящихся на теме и привлекающих на этом аудиторию и продающих курсы и т.д., так и более солидных, со своими "перпективными" проектами и "прорывными" технологиями.
Во все времена были и скептики и энтузиасты и всегда то одни, то другие оказывались правы.
Утверждение взято с потолка, ну да ладно, для самоуспокоения сойдёт)
Уже появилась куча проходимцев и аферистов, как около-иишных, хайпящихся на теме и привлекающих на этом аудиторию и продающих курсы и т.д., так и более солидных, со своими "перпективными" проектами и "прорывными" технологиями.
это всегда так работает, не важно ИИ это, криптовалюта или что-то еще)
Утверждение взято с потолка, ну да ладно, для самоуспокоения сойдёт)
так меня ничего и не напрягает, чтобы успокаиваться)
не важно ИИ это, криптовалюта или что-то еще
Или доткомы...
так меня ничего и не напрягает, чтобы успокаиваться)
Ну а зачем тогда было придумывать бред про то что
Во все времена были и скептики и энтузиасты и всегда то одни, то другие оказывались правы.
если у нас есть исторические данные, что любое изобретение проходит цикл хайпа со вполне определёнными характеристиками и временными рамками, и т.н. "скептики", а по факту реалисты, всегда оказываются правы)
Ох как он прогрессирует, ууу...
Сейчас просто идёт период бума, последние года два, когда постоянно появляются новые модели и технологии. Но такие как ты не могут понять простую мысль, что текущая скорость прогресса - временно. В конце 90-х говорили, что через 10 лет экономика полностью перейдёт в онлайн, офисы закроются, а люди будут жить в виртуальной реальности) естественно, не просто так, а чтобы инвесторы с открытым ртом несли миллиарды в "перспективные" стартапы, которые росли как грибы после дождя. И тоже была куча адептов, везде трезвонящих о "революционных" технологиях.
Итог мы знаем
раз уж удалили и заново добавили коммент, то оставлю ссылку на мой ответ на предыдущий коммент
https://habr.com/ru/articles/910524/comments/#comment_28355416
Может проблему не могут решить из-за того, что принимают промежуточные причины за основные, не понимая суть, типа, как в медицине, пытаются лечить симптомы, забывая про пациента
Наверное хорошо организованная кооперация специализированных агентов теоретически может повысить надежность системы за счёт независимой экспертной верификации промежуточных результатов и демократически централизованного консенсуса относительно принятия окончательного решения. Так что разные стандартные протоколы пригодятся, не только этот.
Нет там никаких галлюцинаций, там все строго детерминировано на самом деле. Как Вы себе представляете галлюцинацию сложения амплитуд например?! Или векторов?! Считать не умеете?!
Алгоритмы нужно правильно формализовать и все, это решает все проблемы.
Галлюцинированием применительно к БЯМ называют "выдумывание" моделями несуществующих фактов. И этот эффект не в алгоритмах или векторных операциях. Он в сути архитектуры и процессах обучения.
Кроме того, применительно к БЯМ существует такой параметр, как "температура", основной целью которого является как раз уход от детерминированности, чтобы сделать модель более "креативной".
там все строго детерминировано на самом деле
Ну да, если вы в состоянии предсказать результат вычисления функции с триллионом параметров - вполне детерминированно.
Стоит заметить, что MCP не единственный в своем роде.
Есть ещё и такие братья, как ACP, A2A, ANP, FIPA-ACL.
А некоторые уже успели и устареть, типа KQML.
Так что MCP-революция - это слишком громко сказано, думаю. Агенты могли общаться между собой и до MCP совершенно спокойно.
Нормальный эволюционный процесс идёт своим ходом.
Эмбеддинг MCP весьма похож на Эмбеддинг Java (jvm, byte-code, interface, encapsulation...). То есть, MCP повторит дорожную карту Java.
Было бы неплохо написать статью, в которой показать, как правильно скормить свой проект LLM
https://github.com/idsulik/todo-mcp-server - я вот написал простейший mcp-сервер, можно глянуть и по примеру написать любой другой)
MCP: революция в мире искусственного интеллекта