Паттерны программирования при работе с LLM

[zarfaz]

Круто. Очень круто. Я бы с удовольствием почитал бы примеры/гайды по реализации подключения апи которые позволяют на ленту во время мыслительного процесса дозапрашивать информацию или корректировать структуру ответа

[ya_ne_ivan]

Спасибо за отзыв)

По поводу дозапрашивания информации, я думаю вам подойдет что-то на основе паттерна "агент". Для понимания идеи, можно почитать про ReAct - https://www.promptingguide.ai/techniques/react

Обычно агентов реализовывают при помощи специальных фреймворков, например microsoft autogen или smolagents от huggingface.

[ButakovAndrey]

Кажется, что вы все перемешали.

SO не нужен в обычных задачах пользователя, а нужен для конкретных пайплайнов. В SGR нет смысла если у вас есть доступ к топ моделям, он нужен для того, чтобы выдать максимум из слабых моделей на конкретных задачах.

Файнтьюнинг вообще специфичная вещь, которая точно не нужна рядовому пользователю, как и большинству задач.

Хотелось бы не просто перечисления методов, но и указания где и в какие условиях они применимы и имеют смысл

[DamonV79]

Не претензия (просто предложение), но судя по комменту, у Вас есть понимание. Может и напишите?