Comments 23
Спасибо за статью! Тема реально наболевшая
Согласен с вашим мнением на все 100%! А то реально подзадолбали компании, рапортующие об "успешных внедрениях AI". Такое впечатление, что в ближайшем будущем даже дворники будут отчитываться о внедрении LLM для вайб-уборки придомовых территорий.
Это не история про плохую компанию
Это история про всех.
Ну, для написания текстов им все-таки пользуются
проблема в тех кто сказал
нам нужен AI, все уже внедрили
А главное, внедряют
Спешно выкатывают корпоративного ассистента — чат поверх LLM, обёрнутый в фирменные цвета
а зачем, не сказали.
Народ заходит в чат с ИИ, кидает пару вопросов на засыпку, офигивает от ответов и больше не возвращается.
---
Кто то по своей инициативе пробует этим пользоваться, кто то, чуть более умный, исследует границы применимости,..
Единицы исследуют, какие алгоритмы стоят в основе и почему одни задачи даже слабая llm в основе агента решает, а другие, вроде бы не такие сложные, даже топовые модели - спотыкается.
Вот это знание и понимание, на текущий момент, и нужно программистам. Сделать это можно в общем случае только потратив время и токены на эксперименты. Делайте это за счет работодателя, только не забудьте его предупредить, что сейчас ИИ слабый, дорогой, требует больше времени и создает кучу отложенных проблем в задачах.
Реальность:
Люди пишут ими все тексты: весь код все презентации, отчёты, ревью, сценарии, очередную кликбейт статью на хабр без реального содержания чтобы проставить в конце точно такой же тг канал и тд
монтируют видосы, делают аналитику, kyc, автоматизируют все до чего раньше руки не доходили,
Понятное дело что в компаниях уровня бумажных папирусов и занимающихся хз чем adoption и roi будут хз какие, у них об эффективности речь не идёт принципе
На местах тоже люди некоторые вместо внедрения пилят бабки, некоторые вендоры ИИ с расчетом на это делают свои продукты (копайлот, openclaw)
Я в данный момент представляю сторону внедренцев: внутренний чат, помогающий аналитикам и продажникам очень крупной компании — по полубезумным запросам — получать данные из snowflake/amc.
В такой ситуации (сырые данные в труднодоступном месте) — такие помощники, которые не только SQL сделают, но и полученный результат в правильные таблички с комментариями сведут — бесценны. Мне пара человек умудряется стукнуться в чат при редеплое пода (запросы в snowflake — не всегда мгновенны), из-за чего теперь приходится обвешивать это всё логикой поддержки неразрывных соединений.
ИИ вам 10 sql запросов сделает правильными, а 11-ый с ошибокй, 12- удалит базу а 13-ый сольет бакапы вашим конкурентам, потому что вы автоматизировали общение с народом в чате, не подумав о безопасности
С такими фантазиями — это не ко мне, это к психотерапевту. Считать оукружающих глупее себя — довольно пагубно, можно прилюдно наделать в штаны.
поделитесь пожалуйста вашими технологиями работы ваших агентов на общение, как вы защищаете вашу инфраструктуру от злонамеренны сообщений? на сколько я знаю, ни один готовый агент по умолчанию нормальной защиты не дает... т.е. либо полностью изолировать агентов от функционала либо рисковать
p.s. глаз зацепился за ваше сообщение про правильные таблички от ИИ.
сделать корректную и детерминированную аналитику на базе ИИ это тот еще квест.
как вы защищаете вашу инфраструктуру от злонамеренны сообщений?
Самая надежная защита — увольнение из крупной корпорации с оклада в $300K+ сотрудника, который попытался выполнить злонамеренное сообщение. Если внимательно прочитать два абзаца моего предыдущего комментария, а также принять во внимание, под каким текстом этот комментарий появился, то станет понятно, что злонамеренных сообщений там в принципе нет.
Но я все-таки немножечко профессионал, поэтому защита есть. Если очень вкратце — мы не пропускаем plain promts, вместо этого мы их суммаризуем, задаем наводящие и уточняющие вопросы, и по результатам такого общения генерируем свой promt из проверенных и санитизированных шаблонов.
сделать корректную и детерминированную аналитику на базе ИИ это тот еще квест
Да, но он вполне себе решаемый. Не скажу, что это прямо тривиальная задача, но мы понемногу справляемся. Да, там довольно много эвристик, и тем не менее.
Заодно отвечу на «12- удалит базу а 13-ый сольет бакапы вашим конкурентам».
Почитайте, что ли, про пользователей с read-only правами в базе и про права пользователей в unix-подобных системах. Тот код, который ходит в базу, даже к файловой системе доступа не имеет.
о да! я, как психолог, внедряю что-то небольшое по шагам, чтобы упростить мне задачи. И только то, что действительно нужно, работает и использую каждый день. Наболевшая тема. Спасибо вам
Все внедрили AI. Почти никто им не пользуется. Разбор самого массового вранья года