Скормил нейросети 40 статей ПИК с Хабра: RAG-бот на GigaChat для BIM без опыта в разработке

[IVA48]

Вроде как архитектор строительства, а рассуждения как у заядлого пропагандиста ИИ.

[Stchee]

Нейроцыгане отаке

[vponomarev]

Ну какой из меня "нейроцыган" - ни курса, ни марафона, ни закрытого тг-канала) Собрал прототип, показал как есть. Все дисклеймеры на месте)

[thethee]

Да тут и не нужно быть нейроцыганом, чтобы посмотреть что модели уже прошли трешхолд бесполезности. Достаточно быть немного техническим человеком, уметь копировать ошибки из консоли, или понимать что такое "claude code", чтобы начать что то строить. Абсолютно любой вопрос задаётся в коробочку, "как мне это построить, какие бест практисы, как задеплоить, где купить домен, что это за цифро-буквы reg.ru и что мне туда вписывать, где взять SSL сертификат" и коробочка за ручку проведет по всему процессу.

Это может быть не фулл продуктовое решение, но время от идеи до MVP сокращается семимильными шагами, а питчить перед инвесторами намного легче не по слайдам, и даже не по макету, а по готовому решению, которое уже исполняет идею. Тут в плюс идёт сразу же доказательство, что это в принципе работает, причем почти без прилегания усилий, остаётся нудная доработка или даже переработка с нуля до продуктива, но уже заранее известно что это то что нужно.

[vponomarev]

Да, именно так. В целом, такими шагами и шел)

[Starkfrost]

Красота в глазах смотрящего.

[vponomarev]

Да, я архитектор и это мой основной профиль работы. Но я не могу не замечать, как тема ai влияет на мою специальность. Это также сильно меняет не только программирование, но и процесс проектирования зданий, подход к BIM-проектированию. Попробовал найти способ, как использовать это в реальной жизни. Ну а про архитектуру зданий конкретно на Хабре писать, это наверное не совсем профильная площадка)

[pkokoshnikov]

Что то не вяжется. Нет опыта разработки, но такое погружение за один вечер. Embedding опять же. Выглядит неправдоподобно

[vponomarev]

Спасибо, честно, звучит как комплимент) По поводу погружения за один вечер - это было действительно так. Если более точно, то утром я дотестировал прототип, сделал скриншоты для публикации и где-то полдня верстал еще статью на Хабре.

По поводу Embedding - если вы бы меня спросили сейчас что это, то я бы ответил очень приблизительно, уж точно не как инженер-разработчик. Где не понимал, спрашивал у клода, подключал через курсор. Глюки были, библиотеки не встали с первого раза.

[IVA48]

Самое интересное то, что находятся те кто всему этому верит. А это уже говорит о многом.

[vponomarev]

1) Поверить. Код на гитхабе, в статье пошаговая инструкция, можно протестировать и то и другое)
2) Не верить. В целом тоже как вариант) Какое-то время назад сам бы не поверил, что такое возможно.

[Dandy_the_crocodile]

Расскажите пожалуйста, как получили ключ для API гиги?

[vponomarev]

Нужно зайти сюда: https://developers.sber.ru/
Зарегистрироваться через доступные для вас способы аутентификации.
Потом зайти в личный кабинет (проект можно назвать по умолчанию, как там они предлагают, можно задать свое название, это неважно). Зайти в этот проект.
Далее кнопка "Настроить API". Там далее в поле "Ключ авторизации" есть кнопка "Получить ключ". Сформируется ключ - его надо сохранить у себя, например в txt файле (если потеряется, можно сформировать еще раз, но может сбросится настройка, если для вас это критично). Этот ключ уже вставляет куда необходимо.
P.S. Названия полей могут отличаться, мог не точно описать, но в целом схема такая.

[Liuis]

Можно просто добавить статьи в проект Cursor, и он сам построит по ним RAG. Задаёте вопрос агенту, он отвечает. Занимает пару минут.

[vponomarev]

Спасибо за наводку, не думал о таком подходе. И в целом, наверное, решает вопрос для личного поиска по своей базе знаний/данных. Но здесь была задача сделать прототип такого раг-бота, который бы работал для внутренней базы данных без курсора. Плюс в сценарии, который описан в статье, база автоматически пересобирается.

[aladkoi]

Ерунда полная Так RAG не "строят". Лишь бы что-нибудь написать.

[Bobos]

Надо в обратку зайти на форум архитекторов и рассказать им как сделать чертежи двухэтажного дома с трубой без знаний в архитектуре

       .
      / \
     /   \
    /_____\
    |  _  |  
    | | | |  .
    |_|_|_| / \
  .---------   \
 /             \
/_______________\
|  [_]  |  [_]  |
|  |_|  |  |_|  |
|_______|_______|

[vponomarev]

Это очень смешно) Прямо подняли настроение с утра. Скину коллегам, мемно вышло, лайк)

[perebour]

Ерунда полная. Так комментарии не пишут. Лишь бы что нибудь написать.

Улавливаешь?

[vponomarev]

Я даже сначала подумал, что это какой-то внутренний мем Хабра, о котором я еще не знаю)

[WildeDJ]

Я все ждал что гигачат кредит оформит

[vponomarev]

Да, гигу решил взять, чтобы попробовать внедрить что-то из российских разработок, раз теоретический бот - для российского девелопера)

[ser-igor]

Занятно, похоже эту архитектуру можно применять не только в Ахрстроительстве. Мне понравилось. Удачи.

[vponomarev]

Благодарю. Да, можно протестировать на чем угодно. Думаю, для разработчиков это не самая сложная задача, и они там в корпорациях разберутся, но для личного пользования получить бесплатный инструмент, не привязанный к онлайну - может быть полезным.

[KonstantinTokar]

Что изменится, если документов будет 40.000?

[vponomarev]

Да, вроде должно сработать в текущей сборке. В стеке FAISS. Это поисковый движок от Meta, создан для работы с миллионами записей. 40К документов для него посильная задача. Стек менять не придется, но возможны легкие донастройки при тестировании.