Спустя пару недель после тестирования хайпового бота ChatGPT я встроил его почти во все свои регулярные процессы: поиск литературы, изучение языка, развитие навыков, самообразование, и т. д. Некоторые из них ускорились более чем в десять раз. На мой взгляд те кто решают схожие задачи и не осваивают эту технологию будут сильно проигрывать в перспективе.
Те же, кто нашел для себя ряд работающих запросов и связок из них получают почти что несправедливое преимущество. В статье я хочу рассмотреть подходы к инженерии запросов. То есть к тому чтобы с помощью запросов добиться от условного искусственного интеллекта нужного результата под ваши задачи.
Для кого статья?
Если отвечать кратко — для тех кто решает задачи сходные тем что описаны ниже. В первую очередь это самообразование, информационная работа, информационный поиск, развитие некоторых навыков.
Но на самом деле я и сам не знаю. Дело в том что есть ряд типовых задач для языковой модели вроде поиска по смыслу, а не по словам. Но постоянно находятся новые способы применения детища OpenAI. Ну и, разумеется, я рассчитываю что Вы уже потрогали чат‑бота руками. Статья о том как зайти из России.
Ошибки взаимодействия с ChatGPT
Какая бы задача перед нами ни стояла взаимодействие с чатботом может легко превратиться в нелепый анекдот. Который сгодится разве что для рассказа в компании друзей. Поэтому кратко рассмотрим несколько ошибок и ограничений взаимодействия с ChatGPT.
1 - Попытки доказать что "железяка глупая"
В целом это относится к любой плюс-минус умной технологии. Какая-то часть пользователей вместо того чтобы понять какие возможности перед ними открываются, пытаются всеми силами доказать что вот новомодный ИИ ничего не может и не умеет.
Детский барьер, однако распространенный. Конечно ограничения понимать нужно, но не в такой форме. Поэтому явно формулируем решаемую задачу и идем далее.
2- Незнание как обходить ограничения
У ChatGPT их довольно много. Некоторые можно обойти.
Например, практически любой пользователь быстро понимает что на получение ссылок на веб‑сайты в ответ на прямой запрос можно не рассчитывать.
Однако, если Вы попросите создать таблицу, то в ее ячейки он может добавить не только ссылки сайты, но также и иконки(возможно сейчас уже это пофиксили). Это не единственный способ обойти это ограничение.
3 - Запросы "в лоб"
Подавляющую часть всех юзкейсов которые можно встретить в разных twitter‑тредах или статьях содержат всего лишь один запрос. Ответ на который либо забавный, либо делает что‑то интересное или немного полезное.
Я же пришел к выводу, что в целом наиболее продуктивны связки запросов. Когда ответ на первый запрос вы преобразуете с помощью последующих. А часть задач если и решается, то только обходными путями.
Ограничения
Если вы хотите на постоянке использовать возможности новой версии GPT, то нужно хорошо понимать и ее ограничения.
Выдуманные ответы
Длинные перечисления правдоподобных рассуждений со ссылками на выдуманные работы? Легко.
Это первое огорчение с которым Вы столкнетесь при работе с ChatGPT. Еще большая проблема состоит в том, что в некоторых случаях довольно сложно отделить фейки от реальных данных. Все ответы выглядят очень правдоподобными.
Ответ может быть выдуманным на многих уровнях. Например, если попросить привести ссылку на главу книги в которой должно быть подтверждение искомых фактов, то можно вскрыть следующие интересные вещи:
Приведенного Автора в природе может не существовать;
Книги с приведенным названием может не существовать;
Искомая книга может существовать, но затрагивать другой круг вопросов;
Искомая часть книги может быть отвечать на другие вопросы. К слову просьба указать на конкретную часть книги почти никогда не работает.
Вероятностные ответы
Так как модель вероятностна, то вследствие этого проявляется ряд нежелательных эффектов. Ответ на один и тот же запрос в одном и том же контексте может различаться. И зависеть от цикла Луны и Меркурия.
Поэтому если вы получаете ответ в духе «я просто языковая модель, и особо ничего не умею», то попробуйте еще пару раз. Особенно если ранее подобные запросы работали.
Ограничение объема ввода/вывода
Потенциально это не дает реализовать ряд потенциально полезных способы использования вроде выделения основных идей он‑лайн встречи/митинга. Это если без костылей.
С выводом проще. Для того чтобы продолжить вывод, достаточно написать «continue» (продолжай) и вывод будет продолжен. Этого достаточно почти всегда.
"Попсовая" выдача
Я занимаюсь тем что значительно повышаю продуктивность людей которые ко мне обращаются. Теперь и с помощью ChatGPT, кстати.
Однако задачи которые я регулярно решаю для Клиентов ChatGPT решает на 3–4 максимум по 10-тибалльной шкале. То есть это уровень попсовых ответов с первых страниц гугла. Или, возможно, чуть получше.
Дело в том что качество ответов обусловлено материалом на котором обучалась нейросеть. А в большинстве своем материал в интернете является попсой. То есть полуработающие рекомендации которые составляют где‑то 20% от качественных решений.
Кидая прямые запросы по интересующим меня темам и подтемам я понял что все плохо. Как минимум тема личной эффективности является одним из драйверов инфоцыган и прочих тренеров успеха. Выдача примерно соответствующая.
Но если делать запросы по менее известной теме, то и ответы более похожи на правду. Их качество на порядок выше. Например, в области нейроэндокринологии. Как минимум ввиду незагаженности. С другой стороны если делать сверхспециализированные запросы то ответы становятся выдуманными. Поэтому здесь можно сделать следующее обобщение:
Распределение источников в зависимости от популярности области.
Возможности
В этом разделе я хочу рассмотреть задачи которые мне удалось плюс-минус решать с помощью ChatGPT. Далеко не все из них решаются на все 100%, скорее на 20–70% в зависимости от типа задачи. И, учитывая скорость ответов, этого достаточно.
И если Вы умеете в инженерию запросов то качество решения задач значительно повышается.
Поиск почти чего угодно
Начну с задачи которая до сих пор взрывает мне мозг. Это поиск.
Я являюсь автором издательства электронных книг Livrezon. Работа каждого Автора построена таким образом, что каждая книга пишется на основе большого количества кейсов или примеров, по другому. Примеров нужно много или очень много. Начиная от нескольких сотен.
Держим в уме, что во многих современных книгах не упоминается вообще ни одного интересного и небанального кейса и идем дальше.
Понятно что одной из больших частей работы над книгой является поиск. Возьмем тему книги «что исследователь/ученый может сделать после смерти чтобы его наследие развивалось или как минимум сохранилось». Этим занимается одна из моих Коллег.
Когда я вдоволь наигрался с запросами к ChatGPT по своей теме, то перешел на темы Коллег. Каково было мое удивление когда на прямой запрос на тему сохранения наследия в выдаче оказалось несколько неожиданных приемов, и порядка 30-ти кейсов. И это за 10–20 секунд. Нужно понимать что это эквивалентно по времени более чем неделе регулярной работы.
Понятно что каждый кейс нужно проверять на подлинность и искать детали. Но это делается относительно быстро, и к тому же и сюда можно припрячь нашу языковую модель.
Мое удивление, как и удивление Коллеги было велико когда я ей выслал результаты запроса.
Что касается создания качественных книг можно попробовать сделать шаг дальше. Мы уже знаем что ChatGPT неплохо пишет тексты и возникает вопрос «А можем ли мы попросить сделать обобщение из найденных кейсов и затем по ним написать текст?». К счастью для нас, кожаных мешков, ИИ пока делает выводы плохо. И это один из навыков который пока растет в цене.
Как доставать большие объемы конкретики/кейсов под задачу для изучения
Пару лет назад я серьезно занимался темой интервью специалистов на предмет вытягивания из них ценных знаний. Было довольно «неожиданно и приятно» что ряд подходов которые я нашел из областей журналистики и научных исследований также работают и на бездушной нейросетке.
Суть одного из подходов состоит в том, чтобы разделить исходный вопрос на ряд подвопросов, и тем самым получить в разы больше знаний. Например, я хочу найти приемы коррекции стратегических планов. Прямой запрос дает обобщенные ответы которые мало как можно использовать. Нужна конкретика. Поэтому тут можно разбить исходный запрос на два:
В каких областях деятельности вообще есть стратегические планы?
В результате чего может происходить коррекция планов?
Эти вопросы напрямую следуют из искомой «схемы кейса»:
Можно уже на этом этапе воспользоваться ChatGPT:
Получается восемьдесят соотношений «область деятельности — причина коррекции». Далее для каждого такого соотношения мы исходим из предположения, что ChatGPT знает хотя бы несколько реальных кейсов. В целом это действительно так:
Далее в части про оптимизации я покажу что все кейсы для всех соотношений можно получить за ОДИН запрос. Однако такие массовые запросы, похоже, имеют ограничения по объему вывода и поэтому ответ может быть обобщенным и неконкретным.
Поэтому при серьезной работе приходится пробивать все руками. Но даже такой подход в разы и десятки раз быстрее поиска гуглом и в литературе.
Чтение литературы
Понятно что чат‑бот за Вас читать книги и статьи не будет. Или будет?
Один из возможных способов использования ChatGPT который быстро нашли энтузиасты заключается в том, чтобы просить бота объяснять концепты упрощенным языком. Самое время чтобы, ощутить себя героем популярной рубрики журнала Wired в которой один и тот же концепт объясняется на разных уровнях сложности:
Объяснение сложного концепта на разных уровнях сложности — то, с чем неплохо справляется ChatGPT во многих случаях
Конечно далеко не для всех книг можно проделать такой трюк, но для довольно известных — пожалуйста. Также для них можно попросить выдать критику этой работы, вытянуть основные концепты о которых идет речь.И даже построить схему их взаимодействия, как я покажу далее.
В остальном Вам помогут только навыки быстрой проработки литературы.
Развитие навыков
Как это ни странно, но ChatGPT можно неплохо использовать в качества учителя. Или, скорее, тренера. Особенно в том что касается изучения языков. GPT это все же языковая модель.
Как за несколько запросов можно составить простенький задачник здесь я описывать не буду. Но это возможно. Лучше пойдем в тренинг языковых навыков.
Скажем, Вы для перевода английских слов «на лету» используете инструмент вроде QTranslate который сохраняет историю переведенных слов. Затем эти слова нужно как‑то выучить. Можно написать скриптик который все это переведет в формат Anki и заучить их там. Или попросить чат‑бота написать этот скриптик... Это тоже возможно.
Но мы пойдем другим путем. Потенциально можно попросить составить два параллельных текста на русском и английском с использованием этих слов в нужном для их изучения количестве. Причем:
По интересной для вас теме;
С использованием «простого» английского;
С возможностью на ходу уточнять разные неясные моменты;
И еще с какими‑нибудь плюшками...
И это только один из возможных подходов к прокачке как языковых навыков, так и многих других.
Быстрое изучение новых областей знаний
Многие из возможностей использования которые я привел выше напрямую связаны с обучением. Но и тут можно добиться большего.
Рассмотрим, например, одну из задач которые нужно решить для того чтобы глубоко разобраться в некоторой предметной области. И это задача понимания/поиска того кто и в каком порядке делал самые важные открытия.
Эта задача решается довольно просто — нужно просто сделать прямой запрос. Не без ухода в попсу, но большая часть важных открытий/изобретений будет отображена.
Усилить этот подход можно попросив добавить книги в которых про них можно прочитать. А также попросить кратко описать содержание и основные идеи. Думаю, не стоит говорить что гуглением эта задача решается в разы дольше.
Есть еще ряд подходов которые позволяют ускорить обучение в новой области, но они выходят за рамки объема этой статьи.
Выводы
Вместо того чтобы заниматься бесплодными рассуждениями на тему того, какие профессии будут заменены нейросетями лучше попробовать понять как Вы можете встроить их возможности в свои процессы.
Для ряда задач ChatGPT значительно увеличивает КПД. При условии, что вы освоили инженерию запросов.
Под инженерией запросов я подразумеваю в первую очередь хорошее знание и понимание ограничений и типовых запросов которые предсказуемо дают полезные ответы.
Очень часто полученных решений «на тройку» достаточно. И получить их можно, как правило, очень быстро.
Для того чтобы изучить третью часть статьи про оптимизацию запросов и не пропускать новые материалы вы можете подписаться на мой телеграм канал про продуктивность и профессиональное развитие.
Автор благодарит членов социальной ячейки издательства Livrezon за вычитку материала.