Комментарии 5
Спасибо большое за статью
Не могу сказать, что мне интересно настолько долго общаться с нейросетью, чтобы доводить чат до конца (кажется, я ни разу ещё до этого не дошла), для моих задач хватает диалогов на 10-20 сообщений, в ходе которых проблема, как правило, решается полностью - жалко тратить кучу вычислительных ресурсов на прогон большого диалога, если можно так же эффективно справить малыми силами. Но составление промптов хотя бы логично, если не продуманно и профессионально, и для таких чатов очень актуально. Многие коллеги и сокурсники используют ту же версию нейросети, но почему-то месяцами не пытаются разобраться в ограничения. И рождаются диалоги из десятков односложных запросов "поправь там", "Нет, вот в этом месте опять не работает", "Сделай хорошо")
Пожалуйста:)
Про лимит токенов на самом деле нужно помнить, когда сложные темы обсжудаются. Потому-что он может наступить "внезапно" (на текущий момент даже предупреждения нет в десктопной и веб версии о близком лимите, просто выдается ошибка о том что ассистент не может сгенерировать ответ, в мобильном приложении тебе постфактум говорят что лимит), а поднимать сложную тему опять в новом чате это тоже искусство своего рода, нужно подготовить нормально вводные со старого чата.
Здравствуйте, как раз занимаюсь созданием бота философа. Но пока и мой бот и даже чатгпт как философы довольно посредственны. Во всяком случае, если просить анализировать конкретные философские концепты. Если Вам интересны такие исследования, буду рад сотрудничеству. Приходите на наши семинары в СПбГУ)
Добрый день:) Онлайн бы послушал посмотрел, да, физически увы не смогу прийти пока что.
Про такие-себе философы, в LLM сильно зависит от контекста и того как строится диалог + контекстное окно все-таки пока не позволяет долго обсуждать важное, например если нужно обсудить конкретное филосовское направление то лучше сослаться на пару книг, рассказать свои мысли, обсудить чутка около важные касательные темы и только потом уже подводить к основному диалогу. Очень сильно зависит сейчас все от уменя задающего вопрос, держать линию диалога и фокус.
Про создание бота философа интересная история, я сейчас занимаюсь пока исследованиями модернизации опенсорсных LLM и глубже погружаюсь в тему самой работы на низком уровне, потому что вижу что есть архитектурные ограничения которые мешают нормально общаться моделям.
И кстати! На реддите буквально недавно прошла AMA серия с OpenAI, похоже что все-таки совсем не загорами архитекутрное обновление которое позволит еще более естественно общаться и из важного они прям скоро расширят контекстное окно, это круто.
https://www.reddit.com/r/ChatGPT/comments/1ggixzy/ama_with_openais_sam_altman_kevin_weil_srinivas/
Про сотрудничество - тоже очень заманчиво, но тут пока все упирается в мое время, как только я погружусь на должном уровне в техническую сторону вопроса и смогу еще больше уделять времени "психологическому и филосовскому" аспекту, то я думаю можем обсудить детали, мне интересно да.
Навеяло. Давным давно (в начале 90-тых), когда я пришел работать в одну финансовую организацию, мне предоставили комп Intel 486 DX. Крутейшая штука... Некоторые коллеги завидовали... ))
Как диалоги с LLM превращаются в танец идей