Да, вроде должно сработать в текущей сборке. В стеке FAISS. Это поисковый движок от Meta, создан для работы с миллионами записей. 40К документов для него посильная задача. Стек менять не придется, но возможны легкие донастройки при тестировании.
Благодарю. Да, можно протестировать на чем угодно. Думаю, для разработчиков это не самая сложная задача, и они там в корпорациях разберутся, но для личного пользования получить бесплатный инструмент, не привязанный к онлайну - может быть полезным.
Спасибо за наводку, не думал о таком подходе. И в целом, наверное, решает вопрос для личного поиска по своей базе знаний/данных. Но здесь была задача сделать прототип такого раг-бота, который бы работал для внутренней базы данных без курсора. Плюс в сценарии, который описан в статье, база автоматически пересобирается.
1) Поверить. Код на гитхабе, в статье пошаговая инструкция, можно протестировать и то и другое) 2) Не верить. В целом тоже как вариант) Какое-то время назад сам бы не поверил, что такое возможно.
Нужно зайти сюда: https://developers.sber.ru/ Зарегистрироваться через доступные для вас способы аутентификации. Потом зайти в личный кабинет (проект можно назвать по умолчанию, как там они предлагают, можно задать свое название, это неважно). Зайти в этот проект. Далее кнопка "Настроить API". Там далее в поле "Ключ авторизации" есть кнопка "Получить ключ". Сформируется ключ - его надо сохранить у себя, например в txt файле (если потеряется, можно сформировать еще раз, но может сбросится настройка, если для вас это критично). Этот ключ уже вставляет куда необходимо. P.S. Названия полей могут отличаться, мог не точно описать, но в целом схема такая.
Спасибо, честно, звучит как комплимент) По поводу погружения за один вечер - это было действительно так. Если более точно, то утром я дотестировал прототип, сделал скриншоты для публикации и где-то полдня верстал еще статью на Хабре.
По поводу Embedding - если вы бы меня спросили сейчас что это, то я бы ответил очень приблизительно, уж точно не как инженер-разработчик. Где не понимал, спрашивал у клода, подключал через курсор. Глюки были, библиотеки не встали с первого раза.
Да, я архитектор и это мой основной профиль работы. Но я не могу не замечать, как тема ai влияет на мою специальность. Это также сильно меняет не только программирование, но и процесс проектирования зданий, подход к BIM-проектированию. Попробовал найти способ, как использовать это в реальной жизни. Ну а про архитектуру зданий конкретно на Хабре писать, это наверное не совсем профильная площадка)
Да, вроде должно сработать в текущей сборке. В стеке FAISS. Это поисковый движок от Meta, создан для работы с миллионами записей. 40К документов для него посильная задача. Стек менять не придется, но возможны легкие донастройки при тестировании.
Да, именно так. В целом, такими шагами и шел)
Благодарю. Да, можно протестировать на чем угодно. Думаю, для разработчиков это не самая сложная задача, и они там в корпорациях разберутся, но для личного пользования получить бесплатный инструмент, не привязанный к онлайну - может быть полезным.
Да, гигу решил взять, чтобы попробовать внедрить что-то из российских разработок, раз теоретический бот - для российского девелопера)
Я даже сначала подумал, что это какой-то внутренний мем Хабра, о котором я еще не знаю)
Это очень смешно) Прямо подняли настроение с утра. Скину коллегам, мемно вышло, лайк)
Спасибо за наводку, не думал о таком подходе. И в целом, наверное, решает вопрос для личного поиска по своей базе знаний/данных. Но здесь была задача сделать прототип такого раг-бота, который бы работал для внутренней базы данных без курсора. Плюс в сценарии, который описан в статье, база автоматически пересобирается.
1) Поверить. Код на гитхабе, в статье пошаговая инструкция, можно протестировать и то и другое)
2) Не верить. В целом тоже как вариант) Какое-то время назад сам бы не поверил, что такое возможно.
Нужно зайти сюда: https://developers.sber.ru/
Зарегистрироваться через доступные для вас способы аутентификации.
Потом зайти в личный кабинет (проект можно назвать по умолчанию, как там они предлагают, можно задать свое название, это неважно). Зайти в этот проект.
Далее кнопка "Настроить API". Там далее в поле "Ключ авторизации" есть кнопка "Получить ключ". Сформируется ключ - его надо сохранить у себя, например в txt файле (если потеряется, можно сформировать еще раз, но может сбросится настройка, если для вас это критично). Этот ключ уже вставляет куда необходимо.
P.S. Названия полей могут отличаться, мог не точно описать, но в целом схема такая.
Ну какой из меня "нейроцыган" - ни курса, ни марафона, ни закрытого тг-канала) Собрал прототип, показал как есть. Все дисклеймеры на месте)
Спасибо, честно, звучит как комплимент) По поводу погружения за один вечер - это было действительно так. Если более точно, то утром я дотестировал прототип, сделал скриншоты для публикации и где-то полдня верстал еще статью на Хабре.
По поводу Embedding - если вы бы меня спросили сейчас что это, то я бы ответил очень приблизительно, уж точно не как инженер-разработчик. Где не понимал, спрашивал у клода, подключал через курсор. Глюки были, библиотеки не встали с первого раза.
Да, я архитектор и это мой основной профиль работы. Но я не могу не замечать, как тема ai влияет на мою специальность. Это также сильно меняет не только программирование, но и процесс проектирования зданий, подход к BIM-проектированию. Попробовал найти способ, как использовать это в реальной жизни. Ну а про архитектуру зданий конкретно на Хабре писать, это наверное не совсем профильная площадка)