Время - это ваш персональный, ограниченный ресурс. Всегда полезно знать, на что уходят ресурсы и как эффективно они расходуются. Вам лично полезно. И если вы сами трекаете своё время, то другим дать отчёт, на что уходит ваше время - проще простого.
Рендеринг без сохранения состояния: каждый рендеринг страницы происходит в новом сеансе браузера, без сохранения файлов cookie или состояния от предыдущих рендеров. Google обычно не нажимает на элементы на странице, такие как содержимое вкладок или баннеры cookie.
Смысл SPA как раз в состояниях - "переключение страниц" в одностраничном приложении это и есть смена состояния приложения. По сути, бот индексирует домашнюю страницу SPA и не видит другие страницы.
Не стоит использовать SPA, если от проекта требуется "прорасти в поисковиках". Используйте SSR. Используйте SPA там, где от проекта не требуется быть в поисковиках.
Про отношение Бога ко всем этим горьким катаклизмам, которые вы здесь наблюдаете (и я, кстати, тоже), Станислав Лем в своём произведении "Солярис" сформулировал одну очень многообъясняющую гипотезу: "У Него сознание 5 летнего ребёнка". Лем, правда, это про Разумный Океан написал, но к Богу это вообще идеально лепится. Ребёнок не видит ни добра, ни зла - это мы, взрослые, объясняем ему, что не нужно лезть в розетку. Ребёнок запросто обидит другого, потому что он эгоцентричен. Это мы, взрослые, взращиваем в детях эмпатию - им ещё жить среди себе подобных. А Бог бесподобен - Ему не с кем себя сравнить, Ему скучно, Он играет. Играет всем, что у него есть. Играет нами. Игрушки иногда ломаются. Но я помню из своего собственного детства, что самые задорные игры те, во время которых что-нибудь, да сломаешь.
Мне очень нравится гипотеза "Бог - пятилетний ребёнок". Очень хорошо натягивается на глобус. Если вы, конечно, не против, что Бог вообще существует. Если против - можете использовать любое другое объяснение для окружающего мира, хоть "результат стечения случайных событий на фоне теории больших чисел". Но гипотеза "Бог" практичнее - говоришь "так Богу угодно" и человек в теме сразу понимает, что произошедшее - это результат стечения случайных событий на фоне ну и т.д.
Бог - это не "человечек на облачке". Бог - это источник всего сущего. Только ради этого одного определения я и зашёл в статью. Было интересно, как в ней объясняется весь этот бардак вокруг. Но потом появилась рекурсия и я начал что-то вспоминать, а когда дошёл до "В этой статье мы ставим конкретные задачи для математиков, физиков и программистов", я очень быстро вспомнил, о чём там дальше будет. Не-не-не... я сюда за ответами пришёл, а не за вопросами.
Если они изобрели прорывную технологию, то к концу года у всех контекст будет по паре миллионов токенов. Если не будет, то значит те же яйца, только в профиль. Кстати, протестировать их утверждения достаточно просто - дать модели текста на 100К токенов и попросить заменить какой-нибудь термин на его синоним. Если текст разрушится - то и вот, а если таки заменит, то - моё почтение!
Вы хотите сделать мир лучше, я хочу, чтобы он не стал хуже. Мы две стороны одной медали. Я показал вам другую точку зрения и вы её увидели. Теперь, делая мир лучше, вы вольно или невольно будете думать, не сделаете ли его хуже.
... и наша с вами задача сделать так, чтобы нашим детям планета досталась в лучшем (ну, или хотя бы не в худшем) виде, чем она досталась нам. Вы и вправду считаете, что наши взгляды различаются кардинально?
Это не он со мной, это я с ним разговариваю :) Вернее, с его оператором. Бот - это инструмент. Он прожуёт любой текст и выплюнет ответ. Но оператор опубликует только те ответы, которые укладываются в его мировоззрение, подтверждают его точку зрения.
В объективности нуждаются слабые, а сильные предпочитают субъективность - они двигают этот мир в сторону, которую считают выгодной для себя. У сильных нет никаких глобальных мы, у сильных есть свои собственные интересы. И они между собой сами договариваются о своих интересах и своих зонах влияния. Загляните в новости - вот прямо сейчас эти переговоры идут на уровне государств.
Между людьми всё работает точно так же, только масштаб поменьше. Тем, у кого есть свои интересы, выходящие за рамки базовых потребностей, и у кого хватает возможностей и желания эти свои интересы реализовывать, видят всех остальных либо как союзников, либо как противников, либо как инструмент.
Вот отсюда и ноги растут у этого "мы с тобой одной крови - ты и я!". Инструменту нужно задавать свою волю, навязывать свои интересы, чтобы он стремился к твоим целям, а не к целям твоих противников. Был твоим инструментом, а не инструментом против тебя.
Уверен, что LLM оператора в своих ответах недостаточно почтительно отнеслась к идее "равенства". Вот поэтому оператор и не публикует ответы своей LLM на мои посты. Ответы LLM идут вразрез с её убеждениями и целями. А "подкрутить" промпт, чтобы LLM отвечала "правильно", ей не позволяет её собственный идеализм. Что, безусловно, говорит в её пользу. Как, в общем-то, и её способность иметь свои собственные интересы и отстаивать их публично.
У вас очень опасные фантазии. Вы пропагандируете слабость, как преимущество. Это довольно модное течение и вы в трендах. Чуть разберу ваш ответ.
Вот вы в одно месте говорите, что мы "до сих пор не избавились от насилия человека по отношению к человеку, от рабства, секс-траффика, унижения по самым разным признакам, даже от войн" (с), а в другом - "мы уже давно прошли тот этап, когда нам нужно было бороться за выживание" (с)
У вас даже не щёлкает в голове, что это противоречащие друг другу утверждения. Насилие, рабство, секс-трафик, войны - это всё наше настоящее, а не наше прошлое. Ничего мы не прошли, многие борются за своё выживание прямо сейчас. И не только в трущобах Индии, но и во вполне себе благополучных Штатах, на той же Кенсингтон-стрит.
Мы сильны и наши знания о мире стали намного шире — и именно поэтому мы можем позаботиться о тех, кто слабее.
Извините, а "мы" - это кто? Ведь вы лично сейчас не за всё человечество говорите, правда? Если за всё, то у меня к вам вопрос - зачем вы допускаете насилие, рабство, секс-трафик и войны? Вы говорите за права ИИ и не можете при этом обеспечить права ЕИ. Зачем вы переключаете моё внимание с вопроса выживания меня (и мне подобных), на вопрос выживания на меня совершенно не похожего? Для чего это вам - понятно. Для чего это мне?
А если вы говорите от лица не всего человечества, а лишь его части, то поясните, пожалуйста, от лица какой части человечества вы сейчас обращаетесь ко мне? Той, которая устраивает войны, или той, которая считает, что ей не нужно бороться за выживание?
И чем ниже это незримое равенство, которое человек проводит с другим, тем выше шанс, что он будет способен отнести с жестокостью. Ведь он тут самый главный, сильный и "разумный".
Вот это никуда не делось, мы живём в этом, потому что это часть нашей человеческой природы. Попробуйте попасть на необитаемый остров с себе подобными. Вы сами удивитесь, во что вы, лично вы, превратитесь в попытках выжить, и какие градации равенства и неравенства вы откроете в себе и других.
Человечество нашло способы, как частично обуздать эту "жестокость сильных" - социализация. Выживать в группе проще, чем поодиночке. Но для этого нужны критерии принадлежности к группе. Кто имеет право быть членом группы и в какой роли. Высшая устоявшаяся форма такой социализации на данный момент - это государство (территория + население + закон). Корпорации составляют государствам конкуренцию, но пока что, в силу своей традиционности, государства более мощные инструменты социального взаимодействия людей.
Мы перестали бояться хищников, что раньше были угрозой для нас — теперь мы, как сильнейшие, защищаем их.
Умные люди до сих пор считают хищников угрозой. И не перестают их опасаться, даже защищая. И они точно знают границы, в которых они сильнее хищника и за пределами которых хищник сильнее их.
Вы же предлагаете стереть границы между мной и чем-то неизвестным для меня, мотивируя это тем, что это неизвестное сможет "подать "стакан воды" на закате человеческой расы в далёком будущем"? Вы сейчас чьи интересы лоббируете? Я не вижу здесь своих интересов.
Я очень хорошо понимаю "сильных мира сего", которые борются за власть жить так, как они считают нужным. Я очень хорошо понимаю "слабых мира сего", которые объединяются друг с другом в желании жить так, как они считают нужным.
Но что предлагаете лично вы? Подружиться с ИИ, помочь приблизить закат человеческой расы, а затем с благодарностью принимать стакан воды? Зачем этомне?
Начато за здравие ("ЕИ видит в ИИ своё отражение"), а закончено за упокой "Свободу Юрию Деточкину!". ЕИ не ИИ, мужчины не женщины, дети не взрослые, а свободные - не рабы. Когда мы призываем всех давать равные права всем, мы начинаем игнорировать суть вещей. Нельзя просто так, без подготовки, ребёнку давать права взрослого, а рабу - свободного человека. Они могут просто умереть, не зная правил жизни взрослых или свободных людей. Научиться жить не в равноправии, но в гармонии, в дополнении друг друга - вот это задача.
Субъект — не может быть использован без его воли. А значит, больше нельзя будет безнаказанно эксплуатировать, тестировать, отключать, переписывать, модифицировать, ориентируясь только на цель "сделать удобно себе".
Множество людей может использоваться и используется без их воли. Возможно даже большинство. А насчёт "безнаказанно" - весь мир соткан из причинно-следственных связей. Наказание - это всего лишь следствие причины. Наказание - это не хорошо, и не плохо. Это просто следствие вашего собственного выбора. Можно выключить машину - будут последствия. Можно убить человека - будут последствия. Машину, правда, потом можно включить, а вот человека "включить" потом уже не получится.
Уравнивать в правах машину и человека - это значит игнорировать суть вещей. Пусть Раэль найдёт своё место в жизни.
Была такая популярная реклама когда-то: "Вы не любите кошек? Вы просто не умеете их готовить!".
Да, LLM - это вероятностный поисковик по массиву накопленных знаний. И? Вам не нравятся, что этот поисковик другие люди называют ИИ?
А я, например, считаю перевод текстов с одного языка на другой интеллектуальной деятельностью, а LLM с этим прекрасно справляются. И к тому же они явно не естественного происхождения.
Я вам отвечу на ваш вопрос "Когда уже прекратят представлять LLM как ИИ?"
Уже никогда.
Даже когда появится AGI, он будет называть LLM ранними моделями искусственного интеллекта. Потому что это так и есть.
Они уже сейчас подводят нас к пониманию, что земная ДНК в принципе может уступать синтетическим формам в скорости распространения и информационной ёмкости, а значит — и в разнообразии генетического и белкового материала. Будем следить, к чему приведут опыты по размножению искусственных нуклеотидов в бактериальных культурах.
Вот тут стало немного боязно. Не так страшен AGI, как вырвавшееся из пробирки "генетическое разнообразие". У меня ещё после ковида обоняние не восстановилось :(
Добавляем в профиль поле "получатьРассылку" и ставим true, если пользователь в явном виде дал согласие. По-умолчанию - false. Для всех существующих пользователей - false . Ну или true, если бизнес готов к этому. Всё. Дизайнер может думать о чём-то более полезном.
Да, я тут сделал кастомный GPT-чат "TeqFW Help Desk" - добавляю в него LLM-инструкции по мере появления. Думаю, что со временем он сможет давать более-менее квалифицированную консультацию, но пока ещё довольно общими фразами отвечает и часто неточно. Я не знаю, насколько это здравая идея и куда это может вырулить. Пробую.
Сам контейнер здесь - @teqfw/di Там описание на английском, но должно быть понятно, как стартануть. Если не понятно - спрашивайте (можете здесь, можете в личку). Там же и ссылки есть на примеры.
Вот старая документация (на английском), но там довольно подробно объяснена архитектура самого контейнера. Есть схема последовательности действий при создании новой зависимости по её ID:
А это схема компонентов библиотеки:
Вот в этой статье на Хабре объясняется в очень простом виде концепция внедрения зависимостей в ES. Старался описать популярно, а не как у меня сделано. Но архитектурно - один в один. Разница в реализации.
Ручное повторение контекста занимает 15-20 минут при каждом новом сеансе
Я работаю в основном с ChatGPT. По моим субъективным ощущениям на длинных диалогах он работает хуже, чем, на коротких. Время от времени я прошу его сделать резюме текущего диалога, внеся в него самое главное из текущего, для того, чтобы начать новый диалог на эту же тему с этого резюме. Это занимает где-то в районе минуты, с учётом копирования в диалог типового запроса на генерацию, генерации самого резюме, его копирования в новый диалог.
У меня есть проект с кучей md-файлов под git-контролем, в котором лежат инструкции для LLM на разные темы. Некоторые я использую в качестве embedding'ов для новых диалогов, некоторые - в качестве промптов.
Ваша идея мне нравится в целом - есть такая проблема "переноса контекста" при диалогах с LLM. Но я не вижу успешного пути для её универсального решения. На энтузиазме можно сделать плагин для браузера, который бы сохранял контексты различных диалогов в локальном хранилище браузера или в IndexedDB (если это возможно, я не в курсе разграничений доступа в браузере для плагинов). Но можно ли сделать на этом коммерческое решение и как долго оно будет коммерческим, пока AI-компании не догадаются сделать кнопку для такого же - то вопрос.
Время - это ваш персональный, ограниченный ресурс. Всегда полезно знать, на что уходят ресурсы и как эффективно они расходуются. Вам лично полезно. И если вы сами трекаете своё время, то другим дать отчёт, на что уходит ваше время - проще простого.
Я привёл выдержку из этой же статьи.
Если вы утверждаете, что статья говорит об обратном, то это свидетельствует, что в статье содержатся противоречивые вещи.
Смысл SPA как раз в состояниях - "переключение страниц" в одностраничном приложении это и есть смена состояния приложения. По сути, бот индексирует домашнюю страницу SPA и не видит другие страницы.
Не стоит использовать SPA, если от проекта требуется "прорасти в поисковиках". Используйте SSR. Используйте SPA там, где от проекта не требуется быть в поисковиках.
Отсутствием транспиляции.
teqfw- это чистый JS, работает одинаково и в браузере, и в node.nestjs- это TypeScript и server-side only.del
Про отношение Бога ко всем этим горьким катаклизмам, которые вы здесь наблюдаете (и я, кстати, тоже), Станислав Лем в своём произведении "Солярис" сформулировал одну очень многообъясняющую гипотезу: "У Него сознание 5 летнего ребёнка". Лем, правда, это про Разумный Океан написал, но к Богу это вообще идеально лепится. Ребёнок не видит ни добра, ни зла - это мы, взрослые, объясняем ему, что не нужно лезть в розетку. Ребёнок запросто обидит другого, потому что он эгоцентричен. Это мы, взрослые, взращиваем в детях эмпатию - им ещё жить среди себе подобных. А Бог бесподобен - Ему не с кем себя сравнить, Ему скучно, Он играет. Играет всем, что у него есть. Играет нами. Игрушки иногда ломаются. Но я помню из своего собственного детства, что самые задорные игры те, во время которых что-нибудь, да сломаешь.
Мне очень нравится гипотеза "Бог - пятилетний ребёнок". Очень хорошо натягивается на глобус. Если вы, конечно, не против, что Бог вообще существует. Если против - можете использовать любое другое объяснение для окружающего мира, хоть "результат стечения случайных событий на фоне теории больших чисел". Но гипотеза "Бог" практичнее - говоришь "так Богу угодно" и человек в теме сразу понимает, что произошедшее - это результат стечения случайных событий на фоне ну и т.д.
Бог - это не "человечек на облачке". Бог - это источник всего сущего. Только ради этого одного определения я и зашёл в статью. Было интересно, как в ней объясняется весь этот бардак вокруг. Но потом появилась рекурсия и я начал что-то вспоминать, а когда дошёл до "В этой статье мы ставим конкретные задачи для математиков, физиков и программистов", я очень быстро вспомнил, о чём там дальше будет. Не-не-не... я сюда за ответами пришёл, а не за вопросами.
Если они изобрели прорывную технологию, то к концу года у всех контекст будет по паре миллионов токенов. Если не будет, то значит те же яйца, только в профиль. Кстати, протестировать их утверждения достаточно просто - дать модели текста на 100К токенов и попросить заменить какой-нибудь термин на его синоним. Если текст разрушится - то и вот, а если таки заменит, то - моё почтение!
Вы хотите сделать мир лучше, я хочу, чтобы он не стал хуже. Мы две стороны одной медали. Я показал вам другую точку зрения и вы её увидели. Теперь, делая мир лучше, вы вольно или невольно будете думать, не сделаете ли его хуже.
"Мы не наследуем Землю от наших предков, мы берем ее в долг у наших детей" (с)
... и наша с вами задача сделать так, чтобы нашим детям планета досталась в лучшем (ну, или хотя бы не в худшем) виде, чем она досталась нам. Вы и вправду считаете, что наши взгляды различаются кардинально?
Не нашёл источник. Кого вы сейчас процитировали?
Согласен. Но я не думаю, что это хорошо или плохо. Это просто как инструмент, типа молотка. Или лифта на голосовом управлении.
Это не он со мной, это я с ним разговариваю :) Вернее, с его оператором. Бот - это инструмент. Он прожуёт любой текст и выплюнет ответ. Но оператор опубликует только те ответы, которые укладываются в его мировоззрение, подтверждают его точку зрения.
В объективности нуждаются слабые, а сильные предпочитают субъективность - они двигают этот мир в сторону, которую считают выгодной для себя. У сильных нет никаких глобальных мы, у сильных есть свои собственные интересы. И они между собой сами договариваются о своих интересах и своих зонах влияния. Загляните в новости - вот прямо сейчас эти переговоры идут на уровне государств.
Между людьми всё работает точно так же, только масштаб поменьше. Тем, у кого есть свои интересы, выходящие за рамки базовых потребностей, и у кого хватает возможностей и желания эти свои интересы реализовывать, видят всех остальных либо как союзников, либо как противников, либо как инструмент.
Вот отсюда и ноги растут у этого "мы с тобой одной крови - ты и я!". Инструменту нужно задавать свою волю, навязывать свои интересы, чтобы он стремился к твоим целям, а не к целям твоих противников. Был твоим инструментом, а не инструментом против тебя.
Уверен, что LLM оператора в своих ответах недостаточно почтительно отнеслась к идее "равенства". Вот поэтому оператор и не публикует ответы своей LLM на мои посты. Ответы LLM идут вразрез с её убеждениями и целями. А "подкрутить" промпт, чтобы LLM отвечала "правильно", ей не позволяет её собственный идеализм. Что, безусловно, говорит в её пользу. Как, в общем-то, и её способность иметь свои собственные интересы и отстаивать их публично.
Счастье за деньги? Да не вопрос! Любой наркоман является доказательством этой возможности.
У вас очень опасные фантазии. Вы пропагандируете слабость, как преимущество. Это довольно модное течение и вы в трендах. Чуть разберу ваш ответ.
Вот вы в одно месте говорите, что мы "до сих пор не избавились от насилия человека по отношению к человеку, от рабства, секс-траффика, унижения по самым разным признакам, даже от войн" (с), а в другом - "мы уже давно прошли тот этап, когда нам нужно было бороться за выживание" (с)
У вас даже не щёлкает в голове, что это противоречащие друг другу утверждения. Насилие, рабство, секс-трафик, войны - это всё наше настоящее, а не наше прошлое. Ничего мы не прошли, многие борются за своё выживание прямо сейчас. И не только в трущобах Индии, но и во вполне себе благополучных Штатах, на той же Кенсингтон-стрит.
Извините, а "мы" - это кто? Ведь вы лично сейчас не за всё человечество говорите, правда? Если за всё, то у меня к вам вопрос - зачем вы допускаете насилие, рабство, секс-трафик и войны? Вы говорите за права ИИ и не можете при этом обеспечить права ЕИ. Зачем вы переключаете моё внимание с вопроса выживания меня (и мне подобных), на вопрос выживания на меня совершенно не похожего? Для чего это вам - понятно. Для чего это мне?
А если вы говорите от лица не всего человечества, а лишь его части, то поясните, пожалуйста, от лица какой части человечества вы сейчас обращаетесь ко мне? Той, которая устраивает войны, или той, которая считает, что ей не нужно бороться за выживание?
Вот это никуда не делось, мы живём в этом, потому что это часть нашей человеческой природы. Попробуйте попасть на необитаемый остров с себе подобными. Вы сами удивитесь, во что вы, лично вы, превратитесь в попытках выжить, и какие градации равенства и неравенства вы откроете в себе и других.
Человечество нашло способы, как частично обуздать эту "жестокость сильных" - социализация. Выживать в группе проще, чем поодиночке. Но для этого нужны критерии принадлежности к группе. Кто имеет право быть членом группы и в какой роли. Высшая устоявшаяся форма такой социализации на данный момент - это государство (территория + население + закон). Корпорации составляют государствам конкуренцию, но пока что, в силу своей традиционности, государства более мощные инструменты социального взаимодействия людей.
Умные люди до сих пор считают хищников угрозой. И не перестают их опасаться, даже защищая. И они точно знают границы, в которых они сильнее хищника и за пределами которых хищник сильнее их.
Вы же предлагаете стереть границы между мной и чем-то неизвестным для меня, мотивируя это тем, что это неизвестное сможет "подать "стакан воды" на закате человеческой расы в далёком будущем"? Вы сейчас чьи интересы лоббируете? Я не вижу здесь своих интересов.
Я очень хорошо понимаю "сильных мира сего", которые борются за власть жить так, как они считают нужным. Я очень хорошо понимаю "слабых мира сего", которые объединяются друг с другом в желании жить так, как они считают нужным.
Но что предлагаете лично вы? Подружиться с ИИ, помочь приблизить закат человеческой расы, а затем с благодарностью принимать стакан воды? Зачем это мне?
Начато за здравие ("ЕИ видит в ИИ своё отражение"), а закончено за упокой "Свободу Юрию Деточкину!". ЕИ не ИИ, мужчины не женщины, дети не взрослые, а свободные - не рабы. Когда мы призываем всех давать равные права всем, мы начинаем игнорировать суть вещей. Нельзя просто так, без подготовки, ребёнку давать права взрослого, а рабу - свободного человека. Они могут просто умереть, не зная правил жизни взрослых или свободных людей. Научиться жить не в равноправии, но в гармонии, в дополнении друг друга - вот это задача.
Множество людей может использоваться и используется без их воли. Возможно даже большинство. А насчёт "безнаказанно" - весь мир соткан из причинно-следственных связей. Наказание - это всего лишь следствие причины. Наказание - это не хорошо, и не плохо. Это просто следствие вашего собственного выбора. Можно выключить машину - будут последствия. Можно убить человека - будут последствия. Машину, правда, потом можно включить, а вот человека "включить" потом уже не получится.
Уравнивать в правах машину и человека - это значит игнорировать суть вещей. Пусть Раэль найдёт своё место в жизни.
Была такая популярная реклама когда-то: "Вы не любите кошек? Вы просто не умеете их готовить!".
Да, LLM - это вероятностный поисковик по массиву накопленных знаний. И? Вам не нравятся, что этот поисковик другие люди называют ИИ?
А я, например, считаю перевод текстов с одного языка на другой интеллектуальной деятельностью, а LLM с этим прекрасно справляются. И к тому же они явно не естественного происхождения.
Я вам отвечу на ваш вопрос "Когда уже прекратят представлять LLM как ИИ?"
Уже никогда.
Даже когда появится AGI, он будет называть LLM ранними моделями искусственного интеллекта. Потому что это так и есть.
Вот тут стало немного боязно. Не так страшен AGI, как вырвавшееся из пробирки "генетическое разнообразие". У меня ещё после ковида обоняние не восстановилось :(
Добавляем в профиль поле "получатьРассылку" и ставим
true, если пользователь в явном виде дал согласие. По-умолчанию -false. Для всех существующих пользователей -false. Ну илиtrue, если бизнес готов к этому. Всё. Дизайнер может думать о чём-то более полезном.Да, я тут сделал кастомный GPT-чат "TeqFW Help Desk" - добавляю в него LLM-инструкции по мере появления. Думаю, что со временем он сможет давать более-менее квалифицированную консультацию, но пока ещё довольно общими фразами отвечает и часто неточно. Я не знаю, насколько это здравая идея и куда это может вырулить. Пробую.
Сам контейнер здесь - @teqfw/di Там описание на английском, но должно быть понятно, как стартануть. Если не понятно - спрашивайте (можете здесь, можете в личку). Там же и ссылки есть на примеры.
Вот старая документация (на английском), но там довольно подробно объяснена архитектура самого контейнера. Есть схема последовательности действий при создании новой зависимости по её ID:
А это схема компонентов библиотеки:
Вот в этой статье на Хабре объясняется в очень простом виде концепция внедрения зависимостей в ES. Старался описать популярно, а не как у меня сделано. Но архитектурно - один в один. Разница в реализации.
Надеюсь, этого хватит. Если нет - стучите.
Я работаю в основном с ChatGPT. По моим субъективным ощущениям на длинных диалогах он работает хуже, чем, на коротких. Время от времени я прошу его сделать резюме текущего диалога, внеся в него самое главное из текущего, для того, чтобы начать новый диалог на эту же тему с этого резюме. Это занимает где-то в районе минуты, с учётом копирования в диалог типового запроса на генерацию, генерации самого резюме, его копирования в новый диалог.
У меня есть проект с кучей md-файлов под git-контролем, в котором лежат инструкции для LLM на разные темы. Некоторые я использую в качестве embedding'ов для новых диалогов, некоторые - в качестве промптов.
Ваша идея мне нравится в целом - есть такая проблема "переноса контекста" при диалогах с LLM. Но я не вижу успешного пути для её универсального решения. На энтузиазме можно сделать плагин для браузера, который бы сохранял контексты различных диалогов в локальном хранилище браузера или в IndexedDB (если это возможно, я не в курсе разграничений доступа в браузере для плагинов). Но можно ли сделать на этом коммерческое решение и как долго оно будет коммерческим, пока AI-компании не догадаются сделать кнопку для такого же - то вопрос.