В таком случае ваша профессия - это "крикун в пещеру"? :)
Просто странно читать такую аналогию от человека являющегося промпт-инженером. Мне кажется кому как не вам знать, что от качественно поставленного промпта зависит значительная часть результата и что из "пещеры" можно получить в меру внятный ответ, если правильно "крикнуть".
Вот об этом я и говорю, что у определенной части аудитории хейт, словно, завязан исключительно на том, что теперь кто-то может вот так просто взять и что-то "написать" не потратив нескольких лет на изучение, и им за это обидно - они выстрадали, а вот эти вайбкодеры просто пришли на все готовое.
И на мой взгляд весь этот хейт необоснован, так как высококлассные профессионалы настолько далеко и выше всего того, на что способны самые современные LLM, что даже при так активно обещаемой "отмене" джунов и мидлов, топы останутся следить за нейросетями, так как глубину понимания в модель не передашь никакими способами. А топы не бессмертные и не бесконечные, значит всегда на фоне нужно "воспитывать" новых топов через эволюцию из джуна в мидла и далее.
Соответственно, все кто боятся, это скорее те, кто действительно видят вполне реальную вероятность своей замены на нейросеть. И вот тут надо не на нейросеть злиться, а над собой работать, развивать глубину, структурность, а нейросети брать себе на вооружение, как быстрый генератор необходимых типовых блоков кода. Тогда и времени на развитие больше будет, и знание "своего врага в лицо" будет.
Но сейчас почему-то всеобщая истерия, которой лично я не понимаю. То ли люди слишком близко принимают маркетинговые заявление о замене людей нейросетями и всерьез боятся, то ли что, но сейчас любое упоминанием об использовании LLM массами воспринимается в штыки.
Если меня смогут заменить на ИИ (по-настоящему, а не просто на словах согласно красивому заголовку), значит это я плохой специалист, не имеющий в себе ценности и уникальности, и в этом не ИИ виноват и не те, кто его используют.
По-моему Хабр, это место где обсуждают технологии. Вот и я в своей серии публикаций наметил обсудить текущее состояние LLM как инструмента для написания кода.
Я не превозношу их возможности, но и не скатываюсь в безосновательный хейт. Я лишь хочу дать критическую оценку горячо обсуждаемому тренду, так как получил свой собственный опыт, у меня есть уже пара рабочих проектов и мне есть что сказать на основе этого опыта.
Уже вторая (и в будущем третья) моя публикация несет посыл, что "это уже вполне жизнеспособный инструмент, но следите за ним, не давайте ему думать за вас".
Но определённая доля аудитории словно если видит "ИИ" и "Вайбкодинг" целенаправленно заходит лишь с одной целью - высказать свою неприязнь любой ценой, даже если публикация совершенно не о превознесении LLM.
Лично из того, что мне довелось прочитать или посмотреть обычно только крайние точки зрения: "программисты больше не нужны" или "llm тупые генераторы случайных символов не способные ни на что, кроме как переписывать один и тот же текст".
И значительно чаще первое, так как каждый новый релиз сопровождается "новая модель превзошла всех и теперь способна по 1 запросу написать целое приложение".
А вот какого-то среднего со своими "за" и "против" я встречаю мало.
Да и так то с февраля текущего года в этом направлении крайне много чего изменилось. У всего выходят новые версии, чему-то находятся новые применения. Кубернетис, например, в 25 году уже стал практически стандартом. Что, теперь, не разговаривать о нем, все ж о нем уже несколько лет знают?
А вы, простите, хотя бы сами пробовали что-то сделать с актуальными инструментами и LLM, прежде чем утверждать что "ничего приличного этим точно не создать"?
Вот у меня фактически сейчас работает полностью автономная CRUD, 24/7 собирающая статистику и обрабатывающая данные в наглядный для меня вид, с health check и перезапуском при сбоях.
Я не претендую на то, что там внутри у меня совершенная и до мелочей продуманная система, но здесь и сейчас это работает, не сбоит, автоматически обновляет токен авторизации и готова к работе в условиях утраты части данных. Все это работает на Raspberry Pi5, не перегружает систему, так как в параллель работает еще несколько фоновых задач 24/7, что на мой взгляд более чем достаточно в рамках поставленной задачи.
Все это обошлось мне буквально в 3-4 тысячи рублей за подписку и некоторого времени, хотя зп полноценного программиста для решения этой задачи в рамках закрытого контура где всем плевать на качество кода и достаточно рабочего MVP, явно обошлось бы в разы дороже.
Повторюсь, никто не утверждает что вайбкодинг заменит специалистов и инженеров, по крайней мере не сейчас и не в ближайшем будущем, но отрицать факт того, что уже здесь и сейчас можно не имея навыков собрать рабочий проект - глупо.
Я для того и привёл пример с Unity где по-моему дал достаточно прямые аналогии с тем, что без профессионального подхода, это все лишь "решатель текущих хотелок и просто возможность попробовать что-то новое". Но в руках профессионала это может стать полезным инструментом для закрытия рутинных задач, заметно повышающего его эффективность работы.
Вот только почему-то все вновь читают словно через строчку и выделяют для себя только то, за что им удобно ухватиться, чтобы высказать свое "фэ", а вчитаться и уловить суть что публикация вовсе не ода о крутой эффективности вайбкодинга и не о том, что все старые деды скоро будут заменены на нейроскти - это видимо уже непосильная задача.
Второй пост, и вы снова среди первых комментаторов и снова негатив, в котором видно, что вы даже не удосужились прочитать пост и судите исключительно по обложке)
Дорогой, друг, в моей публикации нет ни строчки где бы я агитировал за то, что вайбкодинг это замена инженеров и решение всех проблем. Уже вторая моя публикация рассказывает о том, что это удобное, но не профессиональное решение, способное лишь быстро собрать рабочий проект, но он не обязательно будет качественным, он будет именно рабочим.
Линейка это или нет, уже здесь и сейчас это предлагает возможность решить ту или иную несложную задачу или просто поэкспериментировать.
На счет вхождения в сферу - никто не говорит, что в нее невозможно войти, говорится о том, что это сложнее, чем раньше. Я, думаю, бессмысленно отрицать, что условные 20 лет назад для того чтобы найти работу вполне достаточным было бы знание именно конкретного языка как такового, а сейчас от тебя ждут знание популярных фреймворков и еще пару-другую дополнительных языков, чтобы решать более комплексные задачи, нежели просто писать код на одном конкретном языке.
Абсолютно согласен, просто наблюдаю повсеместную тенденцию, что стоит упомянуть "вайбкодинг" или "сделано при помощи ИИ" у многих словно опускается красная пелена на глаза, отключается критическое мышление и остается только одна единственная цель: сказать что все, что было сделано при участии ИИ - мусор и не достойно существования.
Если конечный продукт работает и не представляет собой действительно нейрослоп, лично я не вижу никаких причин сразу же бежать в комментарии и начинать агитировать всех отменять проект, чем бы он не был. А, ну и, конечно же, не забыть лично оскорбить всех причастных к его разработке :)
Окей, давайте называть вещи своими именами, это действительно не ИИ, это большие языковые модели предсказывающие следующий символ при генерации текста, интеллекта тут нет.
На счет бессмысленных - тут можно поспорить, но вот следующий тезис мне намного интереснее)
А что будет когда мы навернемся?) Уже многие навернулись, уже десятки историй о том, что кто то положил прод, форматнул диск и т.д. А кто не ошибался? Хотите сказать лично вы, в процессе обучения, никогда не ошибались?
Будет очередная ошибка, очередной урок, из которого кто-то сделает вывод, а кто-то - нет. Все как и всегда.
Я не понимаю этого вашего раздутого и демонстративного негатива к вайбкодингу.
Ну да, если быть точными, то получается, погромы были единственным способом сопротивления, а протестовали в основном мастера, так как их за счет машин заменяли на подмастерье и детей за меньшую оплату.
Но в любом случае, сам по себе термин "луддит" все же в целом имеет значение именно как "технофоб".
Ну Qwen-Code по-сути форк Gemini-CLI. Там по-моему во-первых все еще есть остатки кода от оригинального Gemini с логикой гугловской авторизации именно для Gemini, во-вторых это крайне уже раздутый репозиторий, с более 1000 файлов. Они конечно активно его развивают, даже русский язык на днях добавили нативный. Но это, наверное, титаническая работа, особенно подстраивать под себя чужой код.
И, кстати, форкать Gemini-CLI судя по тому, на что я натыкаюсь в сети, уже становится мейнстримом :)
Так и есть) Поэтому это скорее то, чему уже не то что даже нельзя, а уже противопоказано сопротивляться. У меня недавно в голове какая-то ассоциация была с чем-то из прошлого, что тоже сначала все хейтили, а потом это стало настолько повсеместным, что уже без этого стало невозможно представить жизнь.
Я не то чтобы пытаюсь сильно пиарить себя как крутого инженера, победившего LLM. Программистом я и вовсе не являюсь, только в отдаленном прошлом на уровне лабораторных работ. Но по своему опыту могу сказать, что вайбкодинг - несмотря на весь негатив собравшийся вокруг этого термина, на самом деле не плохое явление. Это как раз таки возможность. Возможность тем, кто далек от IT реализовать какие-то свои идеи, собрать на коленке MVP и, кто его знает, вдруг это не просто заработает, так еще и окажется полезным, да еще и кому-то на стороне.
Да LLM еще пишут не самый лучший и удобный код и доводить такой проект до полноценного прода настоящему программисту будет ад. Но если ты сам программист с опытом, уже хорошо понимаешь архитектуру, паттерны, имеешь свой стиль и понимание работы LLM, ты вполне себе сможешь сделать из LLM крайне полезного ассистента, который будет быстро писать код в твоем стиле, с нужными тебе паттернами и библиотеками, просто на это нужно время для тончайшей настройки и, главное, знания. Обычные вайбкодеры без знаний от этого далеки и потому если не начнут учиться, не смогут делать что-то приспособленное к жизни сразу же.
Но LLM развиваются крайне быстро, кто знает, может быть через год мы уже будем обсуждать как LLM по-настоящему уже заменят какой-то сегмент рабочих мест и те, кто напрямую игнорировал LLM чисто из-за каких-то своих политических соображений окажутся перед сложным выбором, переступать через свои принципы, или быстро развиваться как специалисту, чтобы не отставать от прогресса LLM. Насколько знаю, уже у многих IT проектов для программистов умение пользоваться большими моделями чуть ли не обязательный навык. Никто не заставляет именно писать код через LLM, но правильно использовать ее для ускорения решения задач, становится чуть ли не стандартом уже. И не только в IT сфере.
Смотря о каком qwen идет речь. Если вы закинули буквально в обычный чат, то это было не самое лучшее решение. Чат - это для поболтать о повседневных делах, а если речь заходит о кодинге, то лучше все же уже запускать IDE с LLM ассистентом или CLI с LLM, так как они уже смогут по-настоящему прочитать конфигурацию, найти возможные опечатки, написать тесты и все это сделать исключительно с разрешения человека, чтобы ничего от себя не нафигать и не сломать прод. Ну и по собственному опыту скажу, что с настройкой nginx у LLM как будто имеются проблемки, так как я сам потратил порядка 2-3 дней чтобы просто настроить роутинг на 2 порта. Там правда больше проблема была в том, что один из 2 проектов использовал WebSocket который крайне плохо дружит с nginx, но спустя множество тестов, логов и отладки у меня получилось. LLM критически страдают от отсутствия понимания контекста задачи, а чат модели же вообще имеют только то, что ты им ввел своими ручками, поэтому они скорее удобные подсказчики, на что посмотреть в первую очередь и получить примеры частых проблем, но что-то именно кодить через чат уже неактуально в виду массового развития специализированных для этого продуктов.
Коллега, по-моему вы недостаточно внимательно читали публикацию) Понимаю, что на Хабре считается хорошим тоном обматерить очередного вайбкодера, который пришел тут и что-то пилит, не имея реальных навыков, но все же:
Какие критические компоненты в моем проекте тащатся на угад?
В docker-compose была прописана metabase:latest, но как я и описал, при запуске не был выполнен pull, что я откровенно проглядел, из-за чего несмотря на полную сборку проекта запустился старый контейнер, давно висевший в системе. Да, вайбкодеры любят расчехлять LLM по любому поводу, но я по-моему сразу открыто заявил, что не являюсь программистом, да и читать полотно логов накопившихся за более получаса циклических сбоев, мне вот как-то было откровенно лень)
Про самую последнюю версию чего имеется в виду? LLM или Metabase? С первым все просто - они регулярно эволюционируют, становятся лучше и так уж получилось, что в Antigravity только самые новые модели, так что не то, чтобы у меня была возможность специально выбрать "старую" модель. Если же речь о Metabase - то а в чем, собственно, проблема? Я уже все запустил и протестировал на рабочей машине, запросы работают, графики строятся. По какой логике мне необходимо было не использовать latest версию?)
Ну, если вчитаться между строк, то это практически написано прямым текстом) Кодил в студенчестве -> прогером не стал -> питон не выучил -> появилась проблема, которую хотел бы решить -> как раз под рукой оказалась подписка на LLM для кодинга
По итогам прочтения, так и не понял, как LiteLLM предотвращает утечку данных и соблюдает ФЗ.
Если вы пользуетесь условным Deepseek API или пресловутым OpenAI через LiteLLM, то запросы в любом случае отправляются провайдеру модели, вы лишь фильтуете что нельзя запрашивать.
Другой вопрос, если речь все же идет об использовании моделей, развернутых на Cloud.ru (как в практическом кейсе), но тогда тут заслуга соблюдения ФЗ не в LiteLLM, а в самом факте размещения моделей на РФ сервере и конкретно LiteLLM в этом никакой заслуги не имеет.
В таком случае ваша профессия - это "крикун в пещеру"? :)
Просто странно читать такую аналогию от человека являющегося промпт-инженером. Мне кажется кому как не вам знать, что от качественно поставленного промпта зависит значительная часть результата и что из "пещеры" можно получить в меру внятный ответ, если правильно "крикнуть".
Да, верно, тут аналогия исключительно лексическая и логическая (смотрит/не смотрит), но точно не прямая
Вот об этом я и говорю, что у определенной части аудитории хейт, словно, завязан исключительно на том, что теперь кто-то может вот так просто взять и что-то "написать" не потратив нескольких лет на изучение, и им за это обидно - они выстрадали, а вот эти вайбкодеры просто пришли на все готовое.
И на мой взгляд весь этот хейт необоснован, так как высококлассные профессионалы настолько далеко и выше всего того, на что способны самые современные LLM, что даже при так активно обещаемой "отмене" джунов и мидлов, топы останутся следить за нейросетями, так как глубину понимания в модель не передашь никакими способами. А топы не бессмертные и не бесконечные, значит всегда на фоне нужно "воспитывать" новых топов через эволюцию из джуна в мидла и далее.
Соответственно, все кто боятся, это скорее те, кто действительно видят вполне реальную вероятность своей замены на нейросеть. И вот тут надо не на нейросеть злиться, а над собой работать, развивать глубину, структурность, а нейросети брать себе на вооружение, как быстрый генератор необходимых типовых блоков кода. Тогда и времени на развитие больше будет, и знание "своего врага в лицо" будет.
Но сейчас почему-то всеобщая истерия, которой лично я не понимаю. То ли люди слишком близко принимают маркетинговые заявление о замене людей нейросетями и всерьез боятся, то ли что, но сейчас любое упоминанием об использовании LLM массами воспринимается в штыки.
Если меня смогут заменить на ИИ (по-настоящему, а не просто на словах согласно красивому заголовку), значит это я плохой специалист, не имеющий в себе ценности и уникальности, и в этом не ИИ виноват и не те, кто его используют.
А что вы подразумеваете под "подобными" статьями?
По-моему Хабр, это место где обсуждают технологии. Вот и я в своей серии публикаций наметил обсудить текущее состояние LLM как инструмента для написания кода.
Я не превозношу их возможности, но и не скатываюсь в безосновательный хейт. Я лишь хочу дать критическую оценку горячо обсуждаемому тренду, так как получил свой собственный опыт, у меня есть уже пара рабочих проектов и мне есть что сказать на основе этого опыта.
Уже вторая (и в будущем третья) моя публикация несет посыл, что "это уже вполне жизнеспособный инструмент, но следите за ним, не давайте ему думать за вас".
Но определённая доля аудитории словно если видит "ИИ" и "Вайбкодинг" целенаправленно заходит лишь с одной целью - высказать свою неприязнь любой ценой, даже если публикация совершенно не о превознесении LLM.
И какие же мы темы жуем по кругу?)
Лично из того, что мне довелось прочитать или посмотреть обычно только крайние точки зрения: "программисты больше не нужны" или "llm тупые генераторы случайных символов не способные ни на что, кроме как переписывать один и тот же текст".
И значительно чаще первое, так как каждый новый релиз сопровождается "новая модель превзошла всех и теперь способна по 1 запросу написать целое приложение".
А вот какого-то среднего со своими "за" и "против" я встречаю мало.
Да и так то с февраля текущего года в этом направлении крайне много чего изменилось. У всего выходят новые версии, чему-то находятся новые применения. Кубернетис, например, в 25 году уже стал практически стандартом. Что, теперь, не разговаривать о нем, все ж о нем уже несколько лет знают?
А вы, простите, хотя бы сами пробовали что-то сделать с актуальными инструментами и LLM, прежде чем утверждать что "ничего приличного этим точно не создать"?
Вот у меня фактически сейчас работает полностью автономная CRUD, 24/7 собирающая статистику и обрабатывающая данные в наглядный для меня вид, с health check и перезапуском при сбоях.
Я не претендую на то, что там внутри у меня совершенная и до мелочей продуманная система, но здесь и сейчас это работает, не сбоит, автоматически обновляет токен авторизации и готова к работе в условиях утраты части данных. Все это работает на Raspberry Pi5, не перегружает систему, так как в параллель работает еще несколько фоновых задач 24/7, что на мой взгляд более чем достаточно в рамках поставленной задачи.
Все это обошлось мне буквально в 3-4 тысячи рублей за подписку и некоторого времени, хотя зп полноценного программиста для решения этой задачи в рамках закрытого контура где всем плевать на качество кода и достаточно рабочего MVP, явно обошлось бы в разы дороже.
Повторюсь, никто не утверждает что вайбкодинг заменит специалистов и инженеров, по крайней мере не сейчас и не в ближайшем будущем, но отрицать факт того, что уже здесь и сейчас можно не имея навыков собрать рабочий проект - глупо.
Я для того и привёл пример с Unity где по-моему дал достаточно прямые аналогии с тем, что без профессионального подхода, это все лишь "решатель текущих хотелок и просто возможность попробовать что-то новое". Но в руках профессионала это может стать полезным инструментом для закрытия рутинных задач, заметно повышающего его эффективность работы.
Вот только почему-то все вновь читают словно через строчку и выделяют для себя только то, за что им удобно ухватиться, чтобы высказать свое "фэ", а вчитаться и уловить суть что публикация вовсе не ода о крутой эффективности вайбкодинга и не о том, что все старые деды скоро будут заменены на нейроскти - это видимо уже непосильная задача.
А вы, я так смотрю, один из самых ярых хейтеров)
Второй пост, и вы снова среди первых комментаторов и снова негатив, в котором видно, что вы даже не удосужились прочитать пост и судите исключительно по обложке)
Дорогой, друг, в моей публикации нет ни строчки где бы я агитировал за то, что вайбкодинг это замена инженеров и решение всех проблем. Уже вторая моя публикация рассказывает о том, что это удобное, но не профессиональное решение, способное лишь быстро собрать рабочий проект, но он не обязательно будет качественным, он будет именно рабочим.
Линейка это или нет, уже здесь и сейчас это предлагает возможность решить ту или иную несложную задачу или просто поэкспериментировать.
На счет вхождения в сферу - никто не говорит, что в нее невозможно войти, говорится о том, что это сложнее, чем раньше. Я, думаю, бессмысленно отрицать, что условные 20 лет назад для того чтобы найти работу вполне достаточным было бы знание именно конкретного языка как такового, а сейчас от тебя ждут знание популярных фреймворков и еще пару-другую дополнительных языков, чтобы решать более комплексные задачи, нежели просто писать код на одном конкретном языке.
Абсолютно согласен, просто наблюдаю повсеместную тенденцию, что стоит упомянуть "вайбкодинг" или "сделано при помощи ИИ" у многих словно опускается красная пелена на глаза, отключается критическое мышление и остается только одна единственная цель: сказать что все, что было сделано при участии ИИ - мусор и не достойно существования.
Если конечный продукт работает и не представляет собой действительно нейрослоп, лично я не вижу никаких причин сразу же бежать в комментарии и начинать агитировать всех отменять проект, чем бы он не был. А, ну и, конечно же, не забыть лично оскорбить всех причастных к его разработке :)
Разве в latest не последняя стабильная сборка?
Окей, давайте называть вещи своими именами, это действительно не ИИ, это большие языковые модели предсказывающие следующий символ при генерации текста, интеллекта тут нет.
На счет бессмысленных - тут можно поспорить, но вот следующий тезис мне намного интереснее)
А что будет когда мы навернемся?) Уже многие навернулись, уже десятки историй о том, что кто то положил прод, форматнул диск и т.д. А кто не ошибался? Хотите сказать лично вы, в процессе обучения, никогда не ошибались?
Будет очередная ошибка, очередной урок, из которого кто-то сделает вывод, а кто-то - нет. Все как и всегда.
Я не понимаю этого вашего раздутого и демонстративного негатива к вайбкодингу.
Ну да, если быть точными, то получается, погромы были единственным способом сопротивления, а протестовали в основном мастера, так как их за счет машин заменяли на подмастерье и детей за меньшую оплату.
Но в любом случае, сам по себе термин "луддит" все же в целом имеет значение именно как "технофоб".
Ну Qwen-Code по-сути форк Gemini-CLI. Там по-моему во-первых все еще есть остатки кода от оригинального Gemini с логикой гугловской авторизации именно для Gemini, во-вторых это крайне уже раздутый репозиторий, с более 1000 файлов. Они конечно активно его развивают, даже русский язык на днях добавили нативный. Но это, наверное, титаническая работа, особенно подстраивать под себя чужой код.
И, кстати, форкать Gemini-CLI судя по тому, на что я натыкаюсь в сети, уже становится мейнстримом :)
Так и есть)
Поэтому это скорее то, чему уже не то что даже нельзя, а уже противопоказано сопротивляться.
У меня недавно в голове какая-то ассоциация была с чем-то из прошлого, что тоже сначала все хейтили, а потом это стало настолько повсеместным, что уже без этого стало невозможно представить жизнь.
Я не то чтобы пытаюсь сильно пиарить себя как крутого инженера, победившего LLM. Программистом я и вовсе не являюсь, только в отдаленном прошлом на уровне лабораторных работ.
Но по своему опыту могу сказать, что вайбкодинг - несмотря на весь негатив собравшийся вокруг этого термина, на самом деле не плохое явление. Это как раз таки возможность. Возможность тем, кто далек от IT реализовать какие-то свои идеи, собрать на коленке MVP и, кто его знает, вдруг это не просто заработает, так еще и окажется полезным, да еще и кому-то на стороне.
Да LLM еще пишут не самый лучший и удобный код и доводить такой проект до полноценного прода настоящему программисту будет ад. Но если ты сам программист с опытом, уже хорошо понимаешь архитектуру, паттерны, имеешь свой стиль и понимание работы LLM, ты вполне себе сможешь сделать из LLM крайне полезного ассистента, который будет быстро писать код в твоем стиле, с нужными тебе паттернами и библиотеками, просто на это нужно время для тончайшей настройки и, главное, знания.
Обычные вайбкодеры без знаний от этого далеки и потому если не начнут учиться, не смогут делать что-то приспособленное к жизни сразу же.
Но LLM развиваются крайне быстро, кто знает, может быть через год мы уже будем обсуждать как LLM по-настоящему уже заменят какой-то сегмент рабочих мест и те, кто напрямую игнорировал LLM чисто из-за каких-то своих политических соображений окажутся перед сложным выбором, переступать через свои принципы, или быстро развиваться как специалисту, чтобы не отставать от прогресса LLM. Насколько знаю, уже у многих IT проектов для программистов умение пользоваться большими моделями чуть ли не обязательный навык. Никто не заставляет именно писать код через LLM, но правильно использовать ее для ускорения решения задач, становится чуть ли не стандартом уже. И не только в IT сфере.
Смотря о каком qwen идет речь. Если вы закинули буквально в обычный чат, то это было не самое лучшее решение. Чат - это для поболтать о повседневных делах, а если речь заходит о кодинге, то лучше все же уже запускать IDE с LLM ассистентом или CLI с LLM, так как они уже смогут по-настоящему прочитать конфигурацию, найти возможные опечатки, написать тесты и все это сделать исключительно с разрешения человека, чтобы ничего от себя не нафигать и не сломать прод.
Ну и по собственному опыту скажу, что с настройкой nginx у LLM как будто имеются проблемки, так как я сам потратил порядка 2-3 дней чтобы просто настроить роутинг на 2 порта. Там правда больше проблема была в том, что один из 2 проектов использовал WebSocket который крайне плохо дружит с nginx, но спустя множество тестов, логов и отладки у меня получилось.
LLM критически страдают от отсутствия понимания контекста задачи, а чат модели же вообще имеют только то, что ты им ввел своими ручками, поэтому они скорее удобные подсказчики, на что посмотреть в первую очередь и получить примеры частых проблем, но что-то именно кодить через чат уже неактуально в виду массового развития специализированных для этого продуктов.
Коллега, по-моему вы недостаточно внимательно читали публикацию)
Понимаю, что на Хабре считается хорошим тоном обматерить очередного вайбкодера, который пришел тут и что-то пилит, не имея реальных навыков, но все же:
Какие критические компоненты в моем проекте тащатся на угад?
В docker-compose была прописана metabase:latest, но как я и описал, при запуске не был выполнен pull, что я откровенно проглядел, из-за чего несмотря на полную сборку проекта запустился старый контейнер, давно висевший в системе. Да, вайбкодеры любят расчехлять LLM по любому поводу, но я по-моему сразу открыто заявил, что не являюсь программистом, да и читать полотно логов накопившихся за более получаса циклических сбоев, мне вот как-то было откровенно лень)
Про самую последнюю версию чего имеется в виду? LLM или Metabase? С первым все просто - они регулярно эволюционируют, становятся лучше и так уж получилось, что в Antigravity только самые новые модели, так что не то, чтобы у меня была возможность специально выбрать "старую" модель. Если же речь о Metabase - то а в чем, собственно, проблема? Я уже все запустил и протестировал на рабочей машине, запросы работают, графики строятся. По какой логике мне необходимо было не использовать latest версию?)
Ну, если вчитаться между строк, то это практически написано прямым текстом)
Кодил в студенчестве -> прогером не стал -> питон не выучил -> появилась проблема, которую хотел бы решить -> как раз под рукой оказалась подписка на LLM для кодинга
Да, нужны обычные API ключи провайдеров, в том числе и агрегаторов типа openrouter.ai.
LiteLLM просто удобный способ унифицировать точку доступа сразу к нескольким провайдерам и контролировать расход.
По итогам прочтения, так и не понял, как LiteLLM предотвращает утечку данных и соблюдает ФЗ.
Если вы пользуетесь условным Deepseek API или пресловутым OpenAI через LiteLLM, то запросы в любом случае отправляются провайдеру модели, вы лишь фильтуете что нельзя запрашивать.
Другой вопрос, если речь все же идет об использовании моделей, развернутых на Cloud.ru (как в практическом кейсе), но тогда тут заслуга соблюдения ФЗ не в LiteLLM, а в самом факте размещения моделей на РФ сервере и конкретно LiteLLM в этом никакой заслуги не имеет.