Comments 8
UI для моделей. Может подойти.
gradio.app
Ждем релиз Copilot X. Там все будет.
Судя по колличеству комментарий, из программистов, тех что понимают о чем речь, какие-то два-три человека )
Интересная дилемма. Писать узкоспециализированные статьи, которые зачастую нужны малой части аудитории или упрощать и тогда это будет полезно большему количеству людей. В рамках данной статьи хотел показать, очень верхнеуровнево, что такое поиск с использованием векторов и как это использовать. Но при этом не совсем понятно какому кругу людей это интересно.
Тоже последний месяц с интересом смотрю на langchain. Единственное, что мне интересно было бы применить ее с локальной моделью через llama.cpp. Таким образом можно будет обрабатывать закрытые внутренние репы/вики и не отдавать все секреты в openai. Пока не нашел годный мануал для создания индексов и векторов для таких моделей.
Насколько я помню, langchain поддерживает, какую то открытую модель. Хотя я в них не очень разбираюсь, на ноуте скорость низкая, а качество, ну я бы сказал весёлое). Если делать как сервис внутри компании, я бы все таки смотрел в сторону open.ai. Согласно их докам по обработке данных, данные юр. лиц не будут использоваться для обучения. А качество у них, все таки пока сильно лучше. В любом случае, тот же langchain потом позволит переключиться на что то другое. Если делать для себя, то вроде данные, которые прилетают в api, также не будут использоваться.
Есть четвертый вариант - дождаться широкой доступности плагинов, таких как Browsing, Code interpreter и Retrieval. В совокупности, они позволят делать вам все, что нужно. Плюс можно легко написать свой плагин.
GPT-4 добавляем новые знания: Git репозиторий