Я с таким подходом постоянно переживаю на реиндексацию\добавление новых документов в БЗ. Сравнивал эффективность со стандартным grep поиском по .md + индексы на .md ?
Да, я часто отдаю модели опубликованные страницы в ноушене и прошу проанализировать и что-то сделать. Можете попробовать даже скормить ей статью с Хабра :)
Про пост-анализ — техника точно полезная, но надо быть аккуратным с так называемыми вторичными галлюцинациями. Т.е. модель может изменить верные токены на неверные, потому что мы триггернули новую генерацию.
Библиотеки промптов, конечно же, есть, плюс многие техники модель умеет применять сама.
Это правда. Статья написана по следам доклада осени 2023 года. Сейчас уже появились более новые, интересные методы промптинга, а старые часто начали активироваться самой моделью без дополнительных условий. Будем разбираться в следующих докладах и статьях :)
Я с таким подходом постоянно переживаю на реиндексацию\добавление новых документов в БЗ. Сравнивал эффективность со стандартным grep поиском по .md + индексы на .md ?
Да, я часто отдаю модели опубликованные страницы в ноушене и прошу проанализировать и что-то сделать. Можете попробовать даже скормить ей статью с Хабра :)
Про пост-анализ — техника точно полезная, но надо быть аккуратным с так называемыми вторичными галлюцинациями. Т.е. модель может изменить верные токены на неверные, потому что мы триггернули новую генерацию.
Библиотеки промптов, конечно же, есть, плюс многие техники модель умеет применять сама.
Это правда. Статья написана по следам доклада осени 2023 года. Сейчас уже появились более новые, интересные методы промптинга, а старые часто начали активироваться самой моделью без дополнительных условий. Будем разбираться в следующих докладах и статьях :)