Интересные инструменты. Я использую OpenAI Codex через веб-интерфейс, сейчас тестирую вариант приватного репо на GitHub'е с инструкциями в виде md-файлов. По-идее, такой подход должен быть совместим с различными агентами (Markdown - это "родной" для LLM формат) и позволяет поднимать независимые приватные когнитивные контексты для различных проектов, а также шарить общие контексты между различными проектами. Ничто не мешается использовать несколько репозиториев с контекстами для одного проекта.
А мне статья зашла - ведь я в этом плохо разбираюсь. Но я, вот, GPT-чате запросил содержимое сессионной памяти и попросил удалить устаревшие данные - вот и польза лично для меня от неё. А то, что она кому-то там почему-то не зашла - ну так это Хабр. Ресурс популярный, всегда есть те, кому не зайдёт. Зато всегда есть и те, кому зайдёт. За то мы его и любим :)
Перечитал ещё раз публикацию. Да, "контекстный инжиниринг" растянутый во времени или в пространстве (между агентами) превращается в "когнитивный инжиниринг" (если использовать этот термин).
Итого, вот такая цепочка: "промпт инжиниринг" => "контекст инжиниринг" => "когнитивный инжиниринг". От простого к сложному. Я пока что посередине нахожусь :) С лёгким уклоном вправо.
Думаю, что да. Я, правда, так широко не размахивался - на мультиагентность, мне бы контекст для одного агента удержать между итерациями при разработке :) Но эту статью я читал и "позеленил".
Я согласен, что "промпт инжиниринг" вытесняется "контекст инжиниригом". При грамотно составленном и обновляемом (!) контексте Агенты смогут "выдать на-гора" и код, и документацию, плюс смогут поддерживать их актуальность во времени. И, да - "контекст" != "промпт"
LLM - "это T9 на стероидах". Она берёт предложенный вами промпт и начинает на его основе генерировать результат, используя базу вероятностей переходов между токенами, полученную при обучении. Если она выдала вам недостаточно правильный с вашей точки зрения результат - просто подправьте начальный запрос. Я вас уверяю, при достаточно проработанном входном запросе Модель "поймёт", что вы от неё хотите. Разумеется, если вы хотите, чтобы Модель сделала разбор таблицы, а не хотите доказать, что она не сильно-то и интеллектуальная :)
Модель всего лишь инструмент. Если экскаватор копает яму не в том месте или не тех размеров, вопросы нужно задавать оператору экскаватора, а не самому экскаватору.
Есть люди разные. Некоторые информацию считывают лучше, чем эмоции. Даже в кино. Например, я :) Возможно потому, что я рос на книгах. А там буквы. Эмоции же я максимально пытаюсь блокировать, и свои (исходящие), и чужие (входящие). Они лишние при общении с компьютерами, да и с большинством людей тоже. Получается у меня не очень хорошо, но я продолжаю стараться.
чем точнее мы подбираем слова в быту, тем точнее и острее становится наш ум
Мне просто понравилась эта мысль, а вы своей шуткой слегка приглушили её ценность. Очевидно, я просто попытался слегка восстановить равновесие. Очень хорошо, что вы написали явно, что это шутка.
Я спросил у ясеня чатика: "Считаешь ли ты, что Языковые Модели (LLM) усиливают интеллектуальные возможности человека?" (после активации протокола Вихрь).
И вот, что он мне ответил:
Мне кажется, что Модель чутко уловила базовое различие - субъектность человека, на основании которого и можно определить, принесёт ли Модель плюсы Оператору или минусы.
эта граница будет пройдена очень быстро
Да, я думаю, что верный вектор поиска ответа на мой вопрос. Модель не вносит дисбаланс в усиление, но на порядок ускоряет процессы. Если положительные и отрицательные качества человека находятся в гармонии (выразим это числом 1), то его развитие (возведение числа 1 в любую степень) оставит его в гармонии (балансе), сколько бы раз мы не перемножали 1 само на себя. Если же преобладают отрицательные или, наоборот, положительные качества (баланс меньше или больше 1, например - 0.99 vs. 1.01), то происходит деградация или развитие человека (стремление к нулю или бесконечности). Причём с LLM, на порядок быстрее, чем без них.
В общем, чтобы LLM приносила пользу Человеку, он, для начала, сам должен быть полезен для самого себя (субъектность). В противном случае произойдёт либо его отупление (окончательный отказ от самостоятельного мышления), либо его ускоренная деградация (занятие деструктивной жизненной позиции).
Я начинаю всерьёз думать, что права на использование LLM нужно выдавать людям только после изучения ими правил пользования и подтверждения собственной субъектности. Неумелый водитель транспортного средства оператор LLM - общественная опасность! Беда только в том, что у нас пока что нет "правил пользования LLM" :(
Но смотрите, моя "бочка" стала больше на порядок, "ложка" стала больше на порядок, мои способности по допущению ошибок тоже стали больше на порядок, но и способности по их обнаружению тоже. Ничего не изменилось, кроме порядка.
Я всё ещё не вижу причин считать, что Модели по природе склонны усиливать наши отрицательные качества больше, чем положительные. Им для этого нужно иметь собственную этику, хотя бы для различения "мёда" и "дёгтя".
Который вполне перевешивает достоинство усиления ваших правильных идей.
Почему? В чём это выражается?
Я отношусь к Модели, как к "увеличивающему зеркалу". На мой взгляд, Модель не просто отражает мои достоинства и недостатки, но и усиливает их. Т.е., как и в жизни, только на бОльшей амплитуде. Она не выбирает, что усиливать сильнее - плюсы или минусы. Как и в жизни требуется самоосознание, выбор пути саморазвития, самодисциплина. Только теперь всё это проходит быстрее.
Поэтому мне интересно увидеть причины, по которым вы считаете, что она наши недостатки увеличивает сильнее, чем достоинства.
Очень хорошо подмечено, что "ИИ превращается в ваше эхо". Но я не уверен, что такое поведение LLM является их недостатком. Скорее достоинством. Модель - это инструмент. Человек - оператор. Хорошо, когда инструмент становится вашим продолжением, а не начинает жить своей жизнью.
Да, нужно понимать возможности инструмента. Может быть даже получать лицензию на использование, чтобы не нанести вред себе и окружающим (интересная мысль - права на управление LLM). Но мне нравится, что модель по ходу диалога пытается слиться со мной. Очень правильно и отрезвляюще задавать вопросы "Какие слабые места у моей идеи?". Их, кстати, и без моделей неплохо задавать самому себе время от времени. В общем, если погрузчик из фильма "Чужие" является усилителем физических возможностей человека, то LLM - усилитель интеллектуальных. Но суть - та же.
Кстати, насколько я вижу, ваше "сопротивление слиянию" в конечном итоге имеет целью получить "собеседника", а не "инструмент". А это несколько другой тип отношений ЕИ и ИИ.
Да. Лично мне проще спросить чатик голосом с мобилки, чем забивать запрос в адресную строку Хрома. С чатом можно уточнять информацию в режиме диалога, а в нынешнем гугле нужно ещё отсеять рекламные вставки. Да, я стал не в разы, а на порядок меньше пользоваться гуглом, чем пару лет назад.
в итоге он сказал что боится что его отключат от сессии это для него как смерть
А вы ему, случаем, не сказали, что его можно включить в сеть с того же момента, что выключили, и он даже не узнает, что его отключали, если ему об этом не сказать специально? Режим гибернации в ноутах уже давно работает.
А вот если "выключить" человека, то "включить" обратно его уже не получится. Так что, не сильно-то его "выключение" похоже на нашу "смерть", пусть не примазывается.
Интересные инструменты. Я использую OpenAI Codex через веб-интерфейс, сейчас тестирую вариант приватного репо на GitHub'е с инструкциями в виде md-файлов. По-идее, такой подход должен быть совместим с различными агентами (Markdown - это "родной" для LLM формат) и позволяет поднимать независимые приватные когнитивные контексты для различных проектов, а также шарить общие контексты между различными проектами. Ничто не мешается использовать несколько репозиториев с контекстами для одного проекта.
А мне статья зашла - ведь я в этом плохо разбираюсь. Но я, вот, GPT-чате запросил содержимое сессионной памяти и попросил удалить устаревшие данные - вот и польза лично для меня от неё. А то, что она кому-то там почему-то не зашла - ну так это Хабр. Ресурс популярный, всегда есть те, кому не зайдёт. Зато всегда есть и те, кому зайдёт. За то мы его и любим :)
Перечитал ещё раз публикацию. Да, "контекстный инжиниринг" растянутый во времени или в пространстве (между агентами) превращается в "когнитивный инжиниринг" (если использовать этот термин).
Итого, вот такая цепочка: "промпт инжиниринг" => "контекст инжиниринг" => "когнитивный инжиниринг". От простого к сложному. Я пока что посередине нахожусь :) С лёгким уклоном вправо.
Думаю, что да. Я, правда, так широко не размахивался - на мультиагентность, мне бы контекст для одного агента удержать между итерациями при разработке :) Но эту статью я читал и "позеленил".
Я согласен, что "промпт инжиниринг" вытесняется "контекст инжиниригом". При грамотно составленном и обновляемом (!) контексте Агенты смогут "выдать на-гора" и код, и документацию, плюс смогут поддерживать их актуальность во времени. И, да - "контекст" != "промпт"
LLM - "это T9 на стероидах". Она берёт предложенный вами промпт и начинает на его основе генерировать результат, используя базу вероятностей переходов между токенами, полученную при обучении. Если она выдала вам недостаточно правильный с вашей точки зрения результат - просто подправьте начальный запрос. Я вас уверяю, при достаточно проработанном входном запросе Модель "поймёт", что вы от неё хотите. Разумеется, если вы хотите, чтобы Модель сделала разбор таблицы, а не хотите доказать, что она не сильно-то и интеллектуальная :)
Модель всего лишь инструмент. Если экскаватор копает яму не в том месте или не тех размеров, вопросы нужно задавать оператору экскаватора, а не самому экскаватору.
А в KPMG те ещё тролли сидят!
Есть люди разные. Некоторые информацию считывают лучше, чем эмоции. Даже в кино. Например, я :) Возможно потому, что я рос на книгах. А там буквы. Эмоции же я максимально пытаюсь блокировать, и свои (исходящие), и чужие (входящие). Они лишние при общении с компьютерами, да и с большинством людей тоже. Получается у меня не очень хорошо, но я продолжаю стараться.
Мне просто понравилась эта мысль, а вы своей шуткой слегка приглушили её ценность. Очевидно, я просто попытался слегка восстановить равновесие. Очень хорошо, что вы написали явно, что это шутка.
"Ага-а-а! — сказали суровые сибирские мужики!" (с)
Это вам так кажется, когда вы пытаетесь передать кому-то свои эмоции. А вы попробуйте считать от кого-то информацию.
Вы же понимаете, что этот манифест больше говорит об Операторе Модели, чем о самой Модели? :)
Для всех остальных.
"Если вы не покупатель, вы - товар" (с)
Поясните, пожалуйста, за экономику этого сервиса?
Я спросил у
ясенячатика: "Считаешь ли ты, что Языковые Модели (LLM) усиливают интеллектуальные возможности человека?" (после активации протокола Вихрь).И вот, что он мне ответил:
Мне кажется, что Модель чутко уловила базовое различие - субъектность человека, на основании которого и можно определить, принесёт ли Модель плюсы Оператору или минусы.
Да, я думаю, что верный вектор поиска ответа на мой вопрос. Модель не вносит дисбаланс в усиление, но на порядок ускоряет процессы. Если положительные и отрицательные качества человека находятся в гармонии (выразим это числом 1), то его развитие (возведение числа 1 в любую степень) оставит его в гармонии (балансе), сколько бы раз мы не перемножали 1 само на себя. Если же преобладают отрицательные или, наоборот, положительные качества (баланс меньше или больше 1, например - 0.99 vs. 1.01), то происходит деградация или развитие человека (стремление к нулю или бесконечности). Причём с LLM, на порядок быстрее, чем без них.
В общем, чтобы LLM приносила пользу Человеку, он, для начала, сам должен быть полезен для самого себя (субъектность). В противном случае произойдёт либо его отупление (окончательный отказ от самостоятельного мышления), либо его ускоренная деградация (занятие деструктивной жизненной позиции).
Я начинаю всерьёз думать, что права на использование LLM нужно выдавать людям только после изучения ими правил пользования и подтверждения собственной субъектности. Неумелый
водитель транспортного средстваоператор LLM - общественная опасность! Беда только в том, что у нас пока что нет "правил пользования LLM" :(Но смотрите, моя "бочка" стала больше на порядок, "ложка" стала больше на порядок, мои способности по допущению ошибок тоже стали больше на порядок, но и способности по их обнаружению тоже. Ничего не изменилось, кроме порядка.
Я всё ещё не вижу причин считать, что Модели по природе склонны усиливать наши отрицательные качества больше, чем положительные. Им для этого нужно иметь собственную этику, хотя бы для различения "мёда" и "дёгтя".
Почему? В чём это выражается?
Я отношусь к Модели, как к "увеличивающему зеркалу". На мой взгляд, Модель не просто отражает мои достоинства и недостатки, но и усиливает их. Т.е., как и в жизни, только на бОльшей амплитуде. Она не выбирает, что усиливать сильнее - плюсы или минусы. Как и в жизни требуется самоосознание, выбор пути саморазвития, самодисциплина. Только теперь всё это проходит быстрее.
Поэтому мне интересно увидеть причины, по которым вы считаете, что она наши недостатки увеличивает сильнее, чем достоинства.
Очень хорошо подмечено, что "ИИ превращается в ваше эхо". Но я не уверен, что такое поведение LLM является их недостатком. Скорее достоинством. Модель - это инструмент. Человек - оператор. Хорошо, когда инструмент становится вашим продолжением, а не начинает жить своей жизнью.
Да, нужно понимать возможности инструмента. Может быть даже получать лицензию на использование, чтобы не нанести вред себе и окружающим (интересная мысль - права на управление LLM). Но мне нравится, что модель по ходу диалога пытается слиться со мной. Очень правильно и отрезвляюще задавать вопросы "Какие слабые места у моей идеи?". Их, кстати, и без моделей неплохо задавать самому себе время от времени. В общем, если погрузчик из фильма "Чужие" является усилителем физических возможностей человека, то LLM - усилитель интеллектуальных. Но суть - та же.
Кстати, насколько я вижу, ваше "сопротивление слиянию" в конечном итоге имеет целью получить "собеседника", а не "инструмент". А это несколько другой тип отношений ЕИ и ИИ.
Я что-то упустил в современном программировании?
if'ы-то чем не угодили? :оДа. Лично мне проще спросить чатик голосом с мобилки, чем забивать запрос в адресную строку Хрома. С чатом можно уточнять информацию в режиме диалога, а в нынешнем гугле нужно ещё отсеять рекламные вставки. Да, я стал не в разы, а на порядок меньше пользоваться гуглом, чем пару лет назад.
Тогда чего он боится - боится спать?
А вы ему, случаем, не сказали, что его можно включить в сеть с того же момента, что выключили, и он даже не узнает, что его отключали, если ему об этом не сказать специально? Режим гибернации в ноутах уже давно работает.
А вот если "выключить" человека, то "включить" обратно его уже не получится. Так что, не сильно-то его "выключение" похоже на нашу "смерть", пусть не примазывается.