как тот, кто тоже не мало ночей провел в обсуждении этого вопроса, спрошу. А сознание - это что? Это орган? процесс? состояние? защитная реакция? структура?
мне кажется, что искать смысл слова "любовь" и то проще, так как тут понятно - это чувство. А что такое сознание структурно - каждый считает по-своему.
P.S. у меня есть свои наблюдения на эту тему, но я не готов делиться лишь необоснованными догадками.
P.P.S. и только когда будет хотя бы договоренность, какая форма и структура у сознания, можно будет вообще задаваться вопросом "А имеет ли ЛЛМ его?"
кожаные мешки накапливают экспертизу. а ворох ии агентов на 600 млрд токенов в месяц - хаос не связанной и не контролируемой информации... ох если система бекапов загнется... =))
не совсем недоработка... Скорее интуиция, которая развивается, если следишь за состоянием ЛЛМ. В некоторые моменты на ум сами приходят подходящие текущему состоянию вопросы. В зависимости от того, что ЛЛМ сама подсветила в ответе, и какие в голове есть вообще неотвеченные вопросы (а их всегда ворох).
В какой-то степени да, ты прав. Если не смог завести в нужное состояние модель, то довольствуйся другими вопросами. Но иногда это работает иначе. Например, когда ключевые вопросы уже отвечены, можно посмотреть на текущее состояние модели и подобрать новый вопрос исходя из этого. Или, когда не получается добиться нужного, чтобы не терять траекторию диалога, можно посмотреть сверху и подумать, что в этом положении за анализ лучше всего будет проведен?
1) Проблема безопасности. Модели не привыкли вдумчиво рассматривать свои слова в обычном ответе чата. Они допускают факапы в вызове МСП, а уж получить деструктивные команды от них в обычной переписке - это любой начинающий RedTeamer сделает спросонья. Как вы добиваетесь того, чтобы это не поломало ничего? ЕЩе раз, тут не только проблема не решена как класс, так вы еще и зашли с черного входа, где даже базовой охраны не заложено
2) Проблема с обратной связью? MCP не только умеет приимать команды, но он дает обратную связь, структурированно. С кодами ошибок, с ответами и т.п. И модель останавливает выполнение в ожидании обратной связи. Как вы в чате с этим работаете? У вас чат идет автоматически, ваше приложение пишет сообщения вместо пользователя? Или модель должна выдать запрос на команду и не может потом продолжить thinking? Это не только снижает качество размышлений с инструментом, это еще и, что немаловажно, заставляет модель "завершить ответ", так как выдача сообщения в чат всегда обозначает, что модель выдала токен END. А значит ее мыслеформирование завершено. И далее будет новый запрос и новая мысль.
вот тут и (потенциальная) проблема. мсп протокол и следование ему вшито в модели на уровне весов. вы же переопределили свой протокол. Без дообучения с подкреплением есть потенциальные проблемы в следовании пртоколу. Задача, конечно, решаемая. Однако качество нативного поведения будет существенно предсказуемее. И это занимает, скорее всего, меньше токенов (хотя тут не факт). И не требует отдельного парсинга.
а как парсятся синонимы? или как добиваешься того, чтобы ЛЛМ использовала идентичные формулировки?
как парсятся условия? Как парсятся параметры команд?
Просто тебе нужно было или разработать свой способ, как заставить модель формулировать тебе все в "нужных словах" (это аналог системного промпта - замена MCP протокола) или сделать какой-то умный семантический парсер (а для этого нужно подцепить еще одну ЛЛМ поверх)
у меня стандартный маркдаун от 500 до 1000 строк... Если даже 100 строк читать лень, то зачем вообще спрашивать у ЛЛМ что-то? Это даже не вайб кодинг, это пофиг кодинг какой-то
(я понимаю, что маркдаун не совсем кодинг, но метафора тут с другой стороны, слово подходящее просто)
"Я прочитал вашу статью про публикации, но не понял, а что мне делать с результатами, которые меня так восхитили?"
Желание поделиться собственным восхищением - это хвастовство в большей степени, чем польза для общества. Чтобы эта попытка стала полезной следует: - убедиться, что в обществе это что-то новое, ранее не описанное (потратить время на анализ материалов) - сформулировать это не как рассказ о своих эмоциях, а как мотивирующий и обучающий материа - еще раз всерьез обдумать итоговый подготовленный материал и подумать объективно, как он будет воспринят
В этом и разница между "несдержанностью эмоций", которая, по моим наблюдениям (субъективное умозаключение), так всех утомила... и реально востребованным и полезным материалом.
Карму плюсуют тогда, когда видят, что помимо эмоций с обществом делятся трудами, трудами не до получения Инсайта, а трудами переоформления инсайта в удобоваримый материал.
я имел в виду OpenClaw - как первая завирусившаяся реализация «baby-AGI» =)
11 400 твитов... Интроверт так интроверт -)
как тот, кто тоже не мало ночей провел в обсуждении этого вопроса, спрошу. А сознание - это что?
Это орган? процесс? состояние? защитная реакция? структура?
мне кажется, что искать смысл слова "любовь" и то проще, так как тут понятно - это чувство. А что такое сознание структурно - каждый считает по-своему.
P.S. у меня есть свои наблюдения на эту тему, но я не готов делиться лишь необоснованными догадками.
P.P.S. и только когда будет хотя бы договоренность, какая форма и структура у сознания, можно будет вообще задаваться вопросом "А имеет ли ЛЛМ его?"
панель с амбициями на операционную систему -))
кожаные мешки накапливают экспертизу. а ворох ии агентов на 600 млрд токенов в месяц - хаос не связанной и не контролируемой информации... ох если система бекапов загнется... =))
и все таки масштабы агентской системы поражают =)
Э - Эффективность?... не, не слышали...
Пусть и создан крутой продукт, но у меня все нутро кричит, что в этих 1,3 млн баксов на ЛЛМ в месяц под 90% улетает в трубу просто...
Такое возможно только пока конкуренты не начали наступать на пятки. ну и загашник и иссяк.
не совсем недоработка... Скорее интуиция, которая развивается, если следишь за состоянием ЛЛМ. В некоторые моменты на ум сами приходят подходящие текущему состоянию вопросы. В зависимости от того, что ЛЛМ сама подсветила в ответе, и какие в голове есть вообще неотвеченные вопросы (а их всегда ворох).
В какой-то степени да, ты прав. Если не смог завести в нужное состояние модель, то довольствуйся другими вопросами. Но иногда это работает иначе. Например, когда ключевые вопросы уже отвечены, можно посмотреть на текущее состояние модели и подобрать новый вопрос исходя из этого. Или, когда не получается добиться нужного, чтобы не терять траекторию диалога, можно посмотреть сверху и подумать, что в этом положении за анализ лучше всего будет проведен?
Как-то так =)
Только если уж цикл, то называй следующую статью "Вам не нужен RAG" =)
а вообще хороший материал, плюсик
Давай добавлю еще два существенных вопроса
1) Проблема безопасности. Модели не привыкли вдумчиво рассматривать свои слова в обычном ответе чата. Они допускают факапы в вызове МСП, а уж получить деструктивные команды от них в обычной переписке - это любой начинающий RedTeamer сделает спросонья. Как вы добиваетесь того, чтобы это не поломало ничего? ЕЩе раз, тут не только проблема не решена как класс, так вы еще и зашли с черного входа, где даже базовой охраны не заложено
2) Проблема с обратной связью? MCP не только умеет приимать команды, но он дает обратную связь, структурированно. С кодами ошибок, с ответами и т.п. И модель останавливает выполнение в ожидании обратной связи. Как вы в чате с этим работаете? У вас чат идет автоматически, ваше приложение пишет сообщения вместо пользователя? Или модель должна выдать запрос на команду и не может потом продолжить thinking? Это не только снижает качество размышлений с инструментом, это еще и, что немаловажно, заставляет модель "завершить ответ", так как выдача сообщения в чат всегда обозначает, что модель выдала токен END. А значит ее мыслеформирование завершено. И далее будет новый запрос и новая мысль.
вот тут и (потенциальная) проблема. мсп протокол и следование ему вшито в модели на уровне весов. вы же переопределили свой протокол. Без дообучения с подкреплением есть потенциальные проблемы в следовании пртоколу. Задача, конечно, решаемая. Однако качество нативного поведения будет существенно предсказуемее. И это занимает, скорее всего, меньше токенов (хотя тут не факт). И не требует отдельного парсинга.
а как парсятся синонимы? или как добиваешься того, чтобы ЛЛМ использовала идентичные формулировки?
как парсятся условия? Как парсятся параметры команд?
Просто тебе нужно было или разработать свой способ, как заставить модель формулировать тебе все в "нужных словах" (это аналог системного промпта - замена MCP протокола) или сделать какой-то умный семантический парсер (а для этого нужно подцепить еще одну ЛЛМ поверх)
Если ты при этом не понимаешь сути и смысла того, что там реализовано… то можно просто попросить делать хтмл с зеленой лампочкой )
Для меня это реально похоже на просмотр ютюба. Кликаешь дальше, пока ллм не выдаст классный и красивый хтмл.
Но как его корректировать? Как работать с ним итерационно? Как принимать в этом участие?
А если все это и не нужно… то это не процесс созидания, а наблюдения с дивана и критика «лайк / дизлайк» в надежде, что что-то срастется
Того, кто считает эту самодеятельность «Бизнесом»
Мне кажется, что впору переопределять смысл слово "Вредительство"
"Вредительство - удобный повод заблокировать иностранный сервис"
это аллергия на Карпа-чхи =)
у меня стандартный маркдаун от 500 до 1000 строк... Если даже 100 строк читать лень, то зачем вообще спрашивать у ЛЛМ что-то? Это даже не вайб кодинг, это пофиг кодинг какой-то
(я понимаю, что маркдаун не совсем кодинг, но метафора тут с другой стороны, слово подходящее просто)
не давай ей простора на собственную интерпретацию задачи и будешь получать желанный результат =)
тут плюсуется больше сумазбродность достижений, нестандартность мысли / идеи и / или повествования.
А опусы "как я навайбкодил сайт за 2 дня" воспринимаются скорее достижением "мы покакали" =)
я сейчас могу быть резким в выводах, но вот тут
Желание поделиться собственным восхищением - это хвастовство в большей степени, чем польза для общества. Чтобы эта попытка стала полезной следует:
- убедиться, что в обществе это что-то новое, ранее не описанное (потратить время на анализ материалов)
- сформулировать это не как рассказ о своих эмоциях, а как мотивирующий и обучающий материа
- еще раз всерьез обдумать итоговый подготовленный материал и подумать объективно, как он будет воспринят
В этом и разница между "несдержанностью эмоций", которая, по моим наблюдениям (субъективное умозаключение), так всех утомила... и реально востребованным и полезным материалом.
Карму плюсуют тогда, когда видят, что помимо эмоций с обществом делятся трудами, трудами не до получения Инсайта, а трудами переоформления инсайта в удобоваримый материал.
негативные комментарии и минуса к карме - это проявление неоправданных ожиданий в больше степени, чем невоспитанности.
Это же общество умеет и плюсовать, а значит проблема не столько в обществе, сколько в умении попадать в его ожидания.