Обновить

LLM нельзя внедрить сверху. Снизу тоже. А как можно?

Уровень сложностиПростой
Время на прочтение13 мин
Охват и читатели6.4K
Всего голосов 7: ↑5 и ↓2+4
Комментарии6

Комментарии 6

Для того, чтобы успешно внедрить LLM на предприятии, надо эту LLM там развернуть. Использование публичных сеток мало того небезопасно, так еще и малоэффективно, ибо они не знают специфики вашего бизнеса, не знают ваши процесс, ваш код, ваши финансы. А развернуть невозможно из-за безумной стоимости решения, превышающей любые разумные рамки, дефицита железа, и почти полное отсутствие на рынке специалистов, которые могут качественно поднять такой сервис.

Ситуация с ИИ сейчас напоминает SAP. Кто был очень богат и внедрял по уму (с крупными доработками "под себя", правками, дорогой поддержкой, ...), тот получил профит - но большинство, взявшее типовые решения и процессы, погрязли в бюрократии и на долгосроке сильно потеряли эффективность.

У всего этого дела есть оборотная сторона. Если и вправду можно что-то автоматизировать, то почему этого не было сделано раньше? Если что-то можно автоматизировать, то это же мог бы предложить и реальный сотрудник. Сотрудника никто не послушает, а ИИ послушает? К тому же, получается, что у начальства появляется конкурент. А если этот самый ИИ ещё и дельное что предложит, то зачем тогда начальство?

А если этот самый ИИ ещё и дельное что предложит, то зачем тогда начальство?

это ключевая фраза :)

Индивидуальные специалисты — разработчики, аналитики, консультанты — демонстрируют кратный рост производительности. Фрилансеры успешно используют LLM для задач, с которыми корпорации не могут справиться годами. Проблема явно не в самих моделях.

Да.. хорошо работать когда работу сдал. деньги получил и дальше хоть трава не расти.
Не ему это дерьмо потом допиливать и сопровождать и ночью копаться в логах.
Ну и опять же "и вы говорите".

Мне уже два пача приходилось выпускать из за того что не очень внимательно проконтролировал то, что нагенерила LLM. вообще это "само сгенерилось" очень расслабляет. И приходится заставлять себя вчитываться в то, что выдано. И это при том, что LLM использую как помошника для кусков кода, а не волшебную кнопку "сделай счастье".

А так, и даже тесты прошло. Но тесты ВСЕ никогда не покрывают.
цена ошибки, когда дело касается реальной жизни, а не пет проектов - слишком высока.

И приходится заставлять себя вчитываться в то, что выдано.

Я всегда, проверяю весь кол в diff режиме и считаю, что использование нейронок в разработке без git невозможна.

Честно и в отношении пет проектов есть много вопросов. Когда только вышел Codex, я ради эксперимента решил навайбкодить при помощи него игру. После десятка новых фишек и разрастания проекта, я полез уже серьезно в кол и ужаснулся. Там бал такой спагетти код, что даже новички напишут намного лучше. Поэтому работа с нейронками требует немного другого подхода с самого начала работы проекта.

Своими экспериментами я получил более-менее жизнеспособный пайплайн разработки, который бы позволил удобно организовать работу, но честно ответить на главный вопрос: "на долгую дистанцию разработки ИИ экономит время?", однозначный ответ дать не могу. Имхо экономит, но довольно мало.

"Если сотрудник стал производить в три раза больше — он должен иметь возможность зарабатывать в три раза больше. " - а в чём тогда профит для компании? Да, будет выигрыш за счёт сокращения срока и коммуникаций, но это менее очевидные и не всегда реальные преимущества. Вероятно, в итоге выработается какая-то равновесная схема, где и у компании, и у работника будут выгоды. Но пока чёткая схема не просматривается.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации