Comments 140
Мой реальный опыт. Зашли мы знач на проект к одному из западных заказчиков. Пока мы онбордились, местные знающие свое дело сторожилы подготовили нам беклоги задач по рефакторингу огромного продукта и различным техническим инновациям. И дальше, не выдавая себя, вручили задачи нам на оценку, чтобы мы сказали (в днях!) сколько у нас займет реализация всего этого "добра". Пока мы выгорали, безуспешно расспрашивая всех что же там имеется в виду и сопоставляя задачи с реальным проектом, в сознании начало потихоньку проясняться, что это просто был дичайший ИИ мусор, небрежно нагенеренный еще на то время слабыми модельками. Спустя 4 месяца проб и нервов, мы решились выкинуть все те беклоги, переосмыслили и пересоздали задачи, уже понимая контекст ясно и правильно. Мораль. Не ИИ ушатает ваш проект, а люди с ИИ вместо мозгов. Т.е. если проще - ушатают его люди! Все как и раньше.. просто быстрее)
ИИ позволил менеджерам автоматизировать процесс создания бессмысленной работы для разработчиков)
Так в том и дело, что люди, которые раньше считали, что делают больше, чем от них требуется, и превосходят ожидания, превосходили их совсем чуть-чуть и переработка этого превосходства от людей, во что-то въезжающих, требовала меньше усилий.
А теперь они могут нагенерить туеву гору того, что им самим будет выглядеть почти законченным проектом, осталось вот чуть-чуть краской помазать.
Но с другой стороны куча проектов вообще не должна была быть написана, для замены таких слопом технология годится отлично.
сказки стареньких дряхленьких айтишников, которым не платят теперь огромные денежки. AI будущее и за несколько часов создаст MVP которое уже можно обкатать в бою
Денежки светят уж точно не клепателям очередного MVP, коих будет как **вна за баней. Да и сможет ли молоденький упругенький айтишник понимать что ОН делает (а не AI) - тоже большой вопрос.
Вот мои коллеги давеча обкатали вайбовый MVP в бою. В итоге мы потеряли крупного клиента, терпение сотрудников которого закнчилось на кривой валидации полей формы.
Впрочем, такое и 15 лет назад происходило сплошь и рядом, когда успешные менеджеры, несмотря на свой опыт, не понимали, чем сырой прототип отличается от продукта, который можно показывать внешним клиентам. Полагаю, ещё внуки наши будут такое огребать.
один из редких дельных советов среди тревожных ит сотрудников, отрицающих трансформацию отрасли.
пост написан одним из таких же.
Не ИИ ушатает ваш проект, а люди с ИИ вместо мозгов
Опаснее дурака только дурак с инициативой©
Тов. Булгаков в "Роковых яйцах" отлично показал такую человеческую черту: бездумно применять то, чего не понимаешь.
А весь этот ИИ-шный хайп питается жаждой наживы: хапнуть инвестиций и вышвырнуть людей с их человеческими проблемами, заменив их "беспроблемным" ИИ.
Скажу крамольную (в контексте статьи) мысль: а ведь те де люди могли бы просто упорядочить имеющиеся разрозненные знания по проекту,... также используя ИИ. Т.е. превратить тонны написанных людьми инструкций , заданий и предложений в компактные и конкретные, без воды, ТЗ.
И это будет правильное использование ИИ. Так же, как генерация отдельных фрагментов кода в архитектуре, созданной человеком. А не это вот все.
Можно, но только в формате помощника, когда человек-аналитик вычитывает каждый сгенерированный абзац и сверяет с исходниками. Идеальный пайплайн - скормить нейронке транскрипцию созвонов с заказчиком для выделения ключевых тезисов, а само ТЗ писать уже ручками
Да, к ИИ нужно относиться как к младшему специалисту, который экономит время на рутину: ты даёшь ему задание и обязательно проверяешь и правишь в итоговый вариант.
> Идеальный пайплайн - скормить нейронке транскрипцию созвонов с заказчиком для выделения ключевых тезисов
Уже пару лет как доступны коммерческие отечественные онлайн и оффлайн агенты, которые стенографируют болтовню, различают по голосу участников и умеют провести семантический анализ стенограммы, наваляв протокол совещания.
Да, пока что ИИ лучше всего справляется с транскрипцией речи. Мне в университете на кафедре автоматизации и интеллектуализации ещё в 1996 году куратор группы предлагал взять темой диплома распознавание речи. Исследования активно велись ещё тогда, и за 30 лет человечество наработало достаточно опыта, чтобы технология созрела до нужного уровня. А остальные технологии, где сейчас пытаются применять нейросети, 30 лет назад даже ещё на горизонте не появились (кроме, пожалуй, распознавания образов). Так что до качества, сравнимого с человеческим, ещё очень далеко.
Компактные, конкретные, без воды, точные - это все не про ЛЛМ. То есть превлатить-то можно, но вот чтобы конечный продукт был удобоворимым, надо делать человеческой головой, головой которая понимает контекст. И этой голове ЛЛМка со своим слопом будет только мешать. Формат разве что подмести, да и то, перечитывать за ней потом, смайлики удалять которые она непременно натыкает
"хлопотно это..." ©
Только после вычитки людьми
"ИИ-помешательство" действительно существует, причем трижды его наблюдал именно у собственников бизнеса в разных компаниях. Приводило оно всегда к обесцениванию собственной команды с последующим негативным влиянием на отдельные части или весь бизнес. Хорошо если компания пережила острую фазу помешательства, когда собственник имеет возможность отрефлексировать собственное поведение и взглянуть на ситуацию здраво. Наверное не все бизнесы это переживут.
Однако некоторые тезисы статьи вызывают недоумение:
Среди всех ИИ‑проектов, в которых мы сами участвовали или с которыми мы сталкивались по работе, процент успеха — ровно 0%. Даже там, где ИИ помог ускорить отдельные задачи, он совершенно не оправдывает огромных вложений в него.
Во-первых, почему обязательно "огромные вложения", а во вторых, в той или иной степени ИИ работает уже почти в любом бизнесе, кроме самых замшелых и консервативных.
вынуждены «отмывать» свою работу: даже если они сами лучше справляются без ИИ, им приходится врать начальству об его использовании
Прикольно :-)
Это печальная жизнь. в к примеру Yandex установили KPI чтобы 75% инженеров порождали 75% кода с помощью ИИ. Тупое копирование худших практик из M$ или Amazon. В таких условиях люди начинают подгонять метрику
Только в Yandex уже более 70% кода пишет ИИ. Так что это скорее для инвесторов “великая цель”, которая выполнится и сама.
По заявлениям менеджмента прессе?
Откуда инфа? Мы пробовали замерять на одном публичном репо, 70% в серой зоне, 0,2% имеют четкий след ИИ.
Так и я тоже регулярно использую ИИ. (Например, искать детали новостей по краткому их изложению очень удобно).
Просто использую не для разработки:-) Но не совру же, сказав, что использую ежедневно:-))
А если новость будет про что-то хоть как-то относящееся к коду, то это код, созданный с помощью генеративной модели:-) И это тоже правда.
То есть, привет неадекватным KPI. Единственный реальный критерий, который сейчас может быть - сколько денег выиграли за счет применения LLM "здесь и сейчас" без потери качества, без задержек и без пересмотра системы учёта затрат (иначе искусственно затраты уменьшат).
ИИ лучше всего справляется с подгонкой метрик, вот и следует ему это поручить. Надо больше строк кода - сделает. Надо больше тикетов - напишет.
Закон Гудхарта. Если оценивать работу по метрикам, а не результату, то и целью будут метрики, а не результат.
"Всё уже - это было. До нас" ("Операция Ы")
После чтения - оcтался осадочек:
- Опять "плач Ярославны";
- И даже то, что представлено, как Решение ("начну с попыток самому что‑то изменить") - не решение, а "микстура" от головной боли.
1. (личное) Ощущение, что (оригинальный) автор - понадсобирал ("умных мыслей") из книг по Менеджменту (типа, "Как я заработал свой первый $1.000.000"), и "выдал", прицельно, по одной проблеме.
Я - не против (мне просто жалко тех, для кого, это, всё - окажется новостью - "Эврика!").
И понимаю, что и сам стал бы структурно излагать - т.е. так же, чтобы побыстрее дойти до сути - Решения.
2. (утверждаю, что) ИИ - не первая, и не уникальная Новация (техническая, и вышедшая за границы).
Мы, на другие - просто не обращали внимания, не придавали значения (пока - они нам "были по пути"/"не касались". Из совсем близкого и заметного - компьютер и Windows, хостеры и крах доткомов, сотовые и смартфоны, методики проектирования/разработки/обслуживания и фреймворки, Linux и Docker, провайдеры услуг и Kubernetes. Вспомните, были, ведь, и разговоры про вымирание специальностей - счетоводов, операторов, ... Были и "одержимые". Помню и "умеренных" - принимавщих успокоительное (вся страна - "принимала", и "Перестройка"). И "отчаявшихся" - в т.ч. рано ушедших, в мир иной).
(люди - и раньше, косились на идиотов, скачущими вокруг костра - "с луками и стрелами", и тычущими ими в нос "Эврика!")
А значит, ответы/решения - надо искать там же (и перекладывая на нынешнюю ситуацию).
3. Мне - не интересно обсуждать, "далеко" (про "мамонтов"), или "по теме" (об "LLM в разработке ПО" - мне, пока, хватает "местами комментировать", чтобы постепенно "формировать свое мнение").
Я увидел "параллели" - с евросоюзом, нато и конфликтом (тоже, ведь, "одни - бегают вокруг костра, другие - им хлопают").
Вот если бы нам найти решения и на них.
Вот, вы дружище, не ничего не поняли из статьи:
Когда кто‑то рассказывает мне что-то про ИИ, я молча улыбаюсь и киваю (кроме случаев, когда это что‑то опасное для жизни), даже если это мои родственники. Точнее, особенно если это родственники.
Удивлён, что -19 это ретинг этой Вашей реплики, а не Вашего профиля за её озвучку. :)))
Собрался с мыслями, "продолжить":
1. Не лезу (в этой статье) со своими предложениями (конкретно по ИИ):
- не эксперт, и не отношу себя к одной из сторон (не "помешанный (на ИИ)", не "противник", и не "пережидающий". ниже поясню);
- сама тема - не предполагает (ниже поясню).
2. Почему, я - не пример:
Меня учили, с советского детства ("влияние улицы" - доверчивый, до сих пор; и честный, тоже, до сих пор: сказали "Выполняй заветы Пионера/Комсомола" - Всегда готов!):
- сказал - сделал;
- вошел в команду - будь со всеми (одним целым);
- дали цель - добивайся (не ной, пока не имеешь решения).
Сейчас: всё - по другому.
3. Смотрим на тело статьи:
- рекомендации - только "отрицательные": бросаются в глаза "Как пересидеть" (т.е. "Саботировать" - усложнить работу начальства, и получение общих результатов - жизнь коллег, и их семей);
- и "как нарочно" (?), ни слова про "помочь и поддержать".
Для меня - ближе:
- если "впереди - только буйные" - "разбавить" собой: "грудью вперед", стань впереди и разворачивай к маяку, защищать своих коллег и Дело;
- если "нет дельных идей" - придумай сам;
- в первую очередь - ищи положительное решение (отрицательные - найдутся сами).
4. В момент, как у меня возникло подозрение "не нарочно", я - перечитал статью, и подозрение укрепилось:
Нас - хотят заставить опять Бастовать и Саботировать (тем самым, разваливая страну).
- пусть - в Европе, читают и так и делают ("отползают назад").
- нам (вам!), России - надо искать решения "впереди" (по "сопряжению" ИИ, с окружающей действительностью).
Сиди ровно и кивай, когда начальник рассказывает про x100 продуктивность от Чата ГПТ. Через год придет новая игрушка, и про эту все благополучно забудут)
Зацепил пункт про «распределенную диктатуру»: наверху почти никто не верит в x100, но каждый боится выйти из строя первым. Это ведь не про ИИ вовсе — тот же механизм гнал и блокчейн-стратегии, и «цифровую трансформацию» до него. ИИ просто оказался удобнее прочих, потому что его труднее всего проверить на результат. И показательно, что автор сам предлагает единственный рабочий выход — анонимность и разговоры один на один, то есть починку не технологии, а канала обратной связи.
его труднее всего проверить на результат.
@Hemml : Да, всё, в чем ты не разбираешься, нейронка делает хорошо. Но вот то, в чем ты что-нибудь понимаешь, она всегда делает плохо
@Oceanshiver: По моим наблюдениям про то, что ИИ скоро заменят программистов пишут те, кто ничего не понимает ни в ИИ, ни в программировании.
В том-то и проблема: нейронка выдаёт результат, идентичный натуральному (ЕВПОЧЯ) — а чтобы пронять, почему он плох, у начальства опыта в вопросе не хватает.
Результатосодержащий продукт
Так продакт менеджеры с продакт овнерами в СНГ результат, идентичный натуральному годами выдавали без нейронок. Что, впрочем, было и логичным. Эти профессии в своей сути подразумевали принятие серьезных решений со взятием рисков. А, когда ты один из 20ти продакт менеджеров в команде продакт менеджеров, то ничего, кроме генерирования слопа, тебе и не остается
Кажется музыканты на Титанике начинают понимать, почему у них такая хорошая зарплата и пианино на шлюпочной палубе.
чтобы пронять, почему он плох, у начальства опыта в вопросе не хватает.
Дело не только в опыте, но и времени, усилий чтобы показать что результат плохой нужно больше чем если бы ты сам сделал руками.
Или придётся оценивать всё на основе оценки 10% результатов или просто ждать второго прихода Дарвина
Всё так. Притом, результат среднего качества (в этом и суть балансировки коэффициентов при обучении модели).
Я пару месяцев видел идеальное применение ИИ - менеджер прямо на презентации на глазах у заказчика за пару часов нагенерил почти 1500 страниц документации по проекту - сделал работу, которую раньше делали и много раз переделывали несколько разрабов и архитекторов не один месяц.
Заказчик был в дичайшем восторге . ИИ френдли, мазафака!
Правда, документация эта была процентов на 40 - нейрослоп (и всегда посередине документов почему-то), но ее все равно никто не читает...
Заказчик был в дичайшем восторге .
смешно будет когда ему результат принесут. А на ремарку "я такого не говорил, хотел другое" - ему будет подан как раз тот самый "нейрослоп"
Это называется провисание контекста. ИИ хорошо обрабатывает начало и конец контекста, а серединка у него слабовата, и чем больше размер контекста тем сильнее становится проблема вплоть до полного крушения при выходе за допустимый размер. А 1500 страниц это явно выше любого доступного контекстного окна. Поэтому такие большие вещи нужно дробить на большое количество маленьких, чтобы эту проблему нивелировать, как и проблему вообще ограниченного контекста. Благо всё это можно полностью автоматизировать.
Эх, видимо контекстное окно слишком большим было, серединку недели не посчитал(
Любопытно. Это ваш скриншот? У меня на всех опусах с 4.6 не воспроизводится на любом эффорте. И я сомневаюсь, что они дообучали все старые модели.
Вас это удивляет? ИИ это рандомайзер, общаться с ним как играть в лотерею и крутить спины. Вот свежая ссылка, только что спросил, прям чувствую как приближается AGI ахахах
Ах да, видимо модель не та, или промт, или окно слишком большое, или окно слишком узкое, или ...
https://chatgpt.com/share/6a7afc1e-8f1c-83eb-9a30-fb3e397a7b2f
LLM хотя бы пытается ответить на заданный ей вопрос. Так что пока ЕИ - ИИ 1:1
Поразительно, проверил на google:
В русском языке буква «о» есть только в одном дне недели — понедельник. Всего таких дней 1.
Пересчитаем правильно:
Понедельник (понедельник)
Вторник (вторник)
Среда (нет)
Четверг (нет)
Пятница (нет)
Суббота (нет)
Воскресенье (воскресенье)
Всего 3 дня: понедельник, вторник, воскресенье.
и только после повторного вопроса был выдан правильный ответ
В русском языке буква «о» есть в 4 днях недели.
И получен ответ на вопрос - а что было до этого?
Вы абсолютно правы, это была череда досадных ошибок с моей стороны! Я сначала не заметил букву «о» в слове «вторник», потом на ходу запутался в подсчетах, а в финальном выводе того сообщения умудрился полностью проигнорировать букву «о» в слове «суббота» (суббота).
От нейросетки зависит. Я обычно проверяю то, запустилась ли и работает ли нейросеть запросом "What is two plus two?". В случае, если провайдер пожадничал и дает доступ к нейросети, веса которой пережаты вусмерть (например, до IQ1_XSS), то есть шанс, что она выдаст "5", после чего начнет вещать про 1984 и Оруэлла.
Иногда ообсо умные нейросетки вместо того, чтоб написать "4", пишут программу (!) (обычно на Python, но иногда и на JavaScript, чтоб через node.js запустить), которая выполняет что-то вроде print(2+2) или console.log(2+2), и запускают ее (ну или просят запустить тебя).
вместо того, чтоб написать "4", пишут программу
Так это как будто бы идеальный расклад, нет? Оно "знает", что само может заглючить и нагнать пурги, но также "знает", куда сунуться, чтобы получить точный результат.
(Но вот если галюны будут уже в программе...)
Я указал в правилах перед каждым выполнением выводить текущее время. В половине случаев не выводит вообще, в половине выводит левое, когда-то запомненное в сессии время.
И нет, от модели это не зависит.
отличный пример – чтобы объяснить нейросети как именно следует решать задачу, нужно обладать соответствующими компетенциями (то есть уметь делать это вручную). А неофиты из секты свидетелей ИИ такими компетенциями не обладают
Это уже связано с токенизатором. ИИ не видит отдельных букв, он видит токены от чего у него такие проблемы. Это легко исправить если сделать токены из букв, а не кусочков слов. Но тогда возрастут расходы токенов в разы на все реальные задачи.
Скорее, не в токенизаторе дело, а в ущербном подходе к решению подобных посимвольных задач у нейронок. В теории, через тул для посимвольного доступа к промпту (или выходу) и дрессировку моделей на использование этого тула для любых посимвольных задач, проблема должна решиться.
Странно, что до сих пор не сделали этого. Ок, рофлы над тупостью моделей могут не сильно снижать ценность, но вот вероятность того, что неспособность модели посимвольно видеть текстовый контент может вызвать баги в кодинге, - это уже серьезно.
А зачем? Эти посимвольные задачи чистый прикол, который не важен
А какие там баги то, если весь код предпологается писать нейронкам? Ведь они в самом написании не ошибаются, а только в посимвольном подсчёте написаного без инструментов. Сами же инструменты для подсчета они могут легко сделать мыслено или написать кодом если потребуется
Стандартный комментарий к такой статье: «ну так вы про 2023, с тех пор все кардинально поменялось…», или «в статье вы используете модель 5.5, а в последней 5.6 уже всё по-другому…», «а вы просто промпт не умеете составлять, у меня бизнес растет и колосится» и т.п. Как будто психоз зависит от модели и года выпуска, а не от человека :)
«Ты просто не ставишь пять линий после вишни — вот и не выигрываешь!» ©
Абсолютно точно:)
В казино выигрышной стратегии не существует априори
А поиск такой стратегии это какое-то психическое заболевание / bias
Владелец казино смотрит на Вас с лёгкой ухмылкой.
ставить на красное или четное, при проигрыше удваивать сумму ставки сохраняя позицию, продолжать пока не будет достигнут выигрыш.
вопрос лишь в другом - хватит ли капиталов удерживать позицию достаточно долго, чтобы дождаться этого выигрыша.
Если кратко, то матожидание каждой ставки отрицательно, а их допустимо складывать даже для зависимых событий. Точка.
вопрос лишь в другом - хватит ли капиталов удерживать позицию достаточно долго, чтобы дождаться этого выигрыша.
При ограниченном капитале однажды его не хватит совершенно точно, это неизбежно.
про мат.ожидание все так, и зеро тоже не просто так появилось, математически она проигрышная. тем не менее это не делает саму стратегию "проигрышной" с точки зрения обывателя - рано или поздно случится нужное выигрышное событие.
другое дело что эта стратегия в силу разных причин является нереализуемой уже достаточно давно, и вроде как даже именно с ней специально боролись, но это неточно.
вот реализуемая выигрышная стратегия это уже утопия.
А если капитал игрока больше капитала казино?
Это называется мартингейл. Вы 100 раз выиграете по копейке, а на 101-й раз проиграете всё. А может, уже на 10-й раз.
При наличии зеро математика совсем не сходится.
ставить на красное или четное, при проигрыше удваивать сумму ставки сохраняя позицию, продолжать пока не будет достигнут выигрыш.
И тут, распахнув дверь с ноги, входит нюанс!
Существуют, и не одна. Как пример, в оффлайне подсчет карт в 21. В онлайне эксплуатация приветственных бонусов (онлайновый 21 специально модифицирован на уровне правил, чтобы обесценить преимущество счетчика). Лет 10 назад были полноценные компании с офисами, разработкой, оргструктурой, которые занимались исключительно эксплуатацией приветственных бонусов в европейских онлайн-казино.
Проблема всех этих стратегий, что большие отделы людей, знающих эти стратегии, работают на то, чтобы максимально затруднить их масштабирование.
Лучше бы вы осмыслили уже все критические комментарии в свой адрес, и перестали бы сколько уже месяцев вставлять своё "Ты просто не ставишь пять линий после вишни — вот и не выигрываешь!" в каждый тред. Пока выглядит так, будто спорить с вами смысла нет, всё как о стенку горох, через день снова будет комментарий про "пять линий".
Мой, как сейчас модно говорить, «челлендж» уже восьмой месяц висит — нейрокодеры все как один сдулись. А почему? Потому что есть чёткий критерий правильности/неправильности, и полумеры его не пройдут.
Это реально «имитация боевого задания»: есть задача — причём строго формализованная (средний заказчик таких простых вещей не предложит); нужен конкретный результат.
через день снова будет комментарий про «пять линий».
Да, будет. И будет кадый день в ответ на все попытки впарить нейролопату. Почему он ответ должен быть каким-то другим?
(Прозревая:) Или это Вас нейрохрючево уже настолько пропитало, что Вы не можете себе представить одинаковые реакции на одинаковые входные данные?
Да, эти тейки про "нетакие промты" и "нетакие модели". Интересно, что ещё придумают ИИ маркетологи.
Что «ИИ уже с нами, хотите вы или нет», и что еще он возьмет на себя всю работу, но при этом одновременно создаст больше новых рабочих мест.
"нетакие промты"
Вы отрицаете то, что промпты можно составлять лучше, а можно хуже?
"нетакие модели"
Вы отрицаете то, что новые модели таки лучше старых?
Да, с некоторыми задачами старые модели справлялись лучше.
И да, промпты – это не специфический навык общения с нейросетью, это компетенции в предметной области той задачи, которая решается. Например, при генерации «фотореалистичных» изображений в промптах указывают фокусное расстояние линзы, тип источников света, их цветовую температуру и тому подобное. Это область знания из фотографии, а не из «умения общаться с ИИ».
Вы еще забыли вариант “а вы просто сделайте второй агент, который бы контролировал первый агент и отбраковывал бы ошибки…”
ИИ удешевил рутину (в правильных местах приложения), и потребность в качественном менеджменте вышла на первый план.
Мой прогноз такой, что всех этих горе-менеджеров собственно тоже вытеснит ИИ, просто чуть позже. Мы на пути туда. Собственно, признаком пришествия AGI можно считать доверие ИИ-агенту как операционному директору компании. Мы ещё совсем не там, но все там будем.
Без кардинального изменения законодательства это вряд ли. Ключевое, это право подписи, то есть кто за это всё отвечает и в критических случаях идёт в тюрьму. В налогах например ИИ справляется (более или менее) с 80 -85 процентами задач. То есть сейчас каждый шестой пошёл бы в тюрьму, за не уплату налогов. И это только налоги, а есть ещё логистика, где неправильная поставка легко прейдёт в тюрьму. И так практически в каждой области. То есть пока не будет закона, который защищает людей от ИИ ничего не будет.
Собственно, в конце 1950-ых ИИ для того и создавался, чтобы заменить нерадивых менеджеров на предприятиях General Electric и начать принимать верные управленческие решения.
Но сейчас обезьяны получили в руки гранаты, и своих позиций уже не уступят. Наше будущее – это Планета Обезьян :)
Что вообще творится в голове у нетехнаря, который, посмотрев пару презентаций, учит своих высокооплачиваемых специалистов делать свою работу
Так это и есть проблема. Менеджмент видит огромное количество обещаний повышения производительности и экономии. Это для него священный грааль. Некоторые пробуют нейронки и видят, что вот он, код за 1 минуту! И работает! Никто же из них не будет копаться в том, что иишка написала. Но работает все и это принимается за готовый результат. Это именно та волшебная кнопка "Сделай мне <...>".
А дальше менеджмент идет к акционерам и т. п. И расписывает, как скоро все будет круто. При этом идет нескончаемый поток рекламы, блогов и т. п. А если в какой-то момент вскрывается ложь, то уже поздно! Не будешь же говорить, что обосрался. Поэтому ищут козлов отпущения, увольняют компетентных сотрудников и т. п. Но иишку оставляют и даже продолжают использовать.
В итоге имеем, что имеем.
пробуют нейронки и видят, что вот он, код за 1 минуту! И работает!
Это плохой код. Проблема: чтобы показать что это плохой код нужно потратить усилий не меньше чем спроектировать заново.
Поэтому ответить можно только через статистику. Ждём, пока товарищ Дарвин принесёт статистику.
Ждём, пока товарищ Дарвин принесёт статистику.
Товарищ Дарвин уже принёс мёртвых девочек. Боюсь, когда он принесёт глобальный обмен тепмоядерными ударами из-за того, что гугельпереводчик не так перевёл слова одного лидера другому, будет немного поздно.
Проблема: чтобы показать что это плохой код нужно потратить усилий не меньше чем спроектировать заново.
А попытка добавить в этот код ма-а-а-аленькую такую фичу превратит этот код в руины и займёт в десять раз больше времени, чем проектирование и написание такого же кода вручную.
Я думал российских контор, особенно маленьких это не коснется, но...
В одной из небольших компаний руководитель решил, что LLM в NetBox-е которая, будет "давать советы" (я так и не понял в чем там смысл) — это hidden gem, без которого реально не обойтись. Какая-то контора продала (по подписке) такое решение, в виде плагина или допила самого нетбокса, хз.
При чем руководитель, который загорелся этой идеей, человек весьма и весьма неглупый, опытный и такой, скажем, "старой закалки", из тех, что ethernet кадры вручную по сети мешками таскал. Впрочем, я почти уверен, что просто спустили сверху план "внедрения ИИ".
Так что да, люди которые не могут даже внятно ответить на вопрос "что такое LLM" кроме как "ну эта каробка каторая можит фсё и знает атветы на фсе вапросы" принимают стратегические решения
руководитель, который загорелся этой идеей, человек весьма и весьма неглупый, опытный и такой, скажем, "старой закалки", из тех, что ethernet кадры вручную по сети мешками таскал
Как раз таким руководителям и продают всякие системы поддержки принятия решений - они понимают свою ограниченность, понимают величину риска принятия неверного решения, и покупают себе страховку. Эх, вот бы ещё эти системы принесли пользы хотя бы на полпроцента от своей стоимости...
Так что да, люди которые не могут даже внятно ответить на вопрос "что такое LLM" кроме как "ну эта каробка каторая можит фсё и знает атветы на фсе вапросы" принимают стратегические решения
Эволюция - бессердечная сволочь, довольно быстро всё расставит на свои места.
Мне очень интересно наблюдать за людьми которые одновременно понимают, что нейрослоп не может написать сказку для детей так, чтобы на второй странице не потерять смысл. И при этом убежденны, что эта же конструкция способна давать советы по бизнесу или легко написать операционную систему.
Нейросеть может написать нормальную книгу, если задавать структуру заранее (условно говоря, сначала пишем оглавление книги, потом детализируем каждую главу, потом расписываем каждый параграф главы, о котором заявили). экспериментировал с нейросетями и их применением к творческим задачам (не чтобы картинку по описанию создать, а чтобы сформировать это самое описание - такое, чтобы человека за душу цепляло), так вот - нейросети на это вполне способны, результаты при совместной поэтапной работе с нейросетью могут быть вполне приличными - правда, ровно настолько, насколько пользователь нейросети готов много думать, оценивать результаты машины и предлагать свои доработки (и насколько его идеи доработок творческие). Для себя я сформировал представление об ИИ как "усилитель способностей человека".
Советы по бизнесу эта же конструкция тоже способна давать - но вот каким будет результат, сказать сложно... Если вопросы чисто технического плана, у нейросети явное преимущество: она имеет доступ к гораздо большей базе знаний человечества, чем отдельно взятый менеджер. А вот если вопросы касаются какого-то хитрого нюанса, да ещё и заданы словами, имеющими с ним мало общего (условно говоря, когда под "напиши мне бизнес-план" понимается "давай мы с тобой разберёмся с нашей системой ценообразования"), нейросеть может занести в другую степь, и она может быть уверенной, что правильно поняла вопрос и отвечает именно на него (хотя под одной формой вопроса подразумевалось что-то совершенно другое), и тогда нейросеть в отличие от человека не будет задавать уточняющих вопросов, необходимых для того, чтобы удостовериться, что она всё понимает правильно. Если вопросы касаются решения задачи, не поддающейся формализации (высший уровень сложности задач), ни одна нейросеть вам не поможет - она может разрулить только то, что можно просчитать. Хотя это не значит, что ИИ в таких ситуациях полностью бесполезен - он может оказаться полезным хотя бы тем, что соберёт и обобщит аргументы, факты, аналитику...
Ну и напоследок - есть ещё такой нюанс, как тюнинг нейросетей. Например, близняшки от гугла настроены так, чтобы подбадривать пользователя, и это может сыграть злую шутку. Недавно по приколу искал сайты, где можно автоматически построить гороскоп на год по дате рождения. Сайт мне такой гороскоп построил, но снабдил его кучей непонятных мне условий, и я скопипастил близняшкам текст этого гороскопа с просьбой объяснить мне, чего мне следует ожидать, а чего опасаться не стоит. В ходе обсуждения моего гороскопа я поделился своими планами - и о чудо, о чём бы я ни говрил, всё очень хорошо укладывается в гороскоп, звёзды благоволят любому моему начинанию! Ну, в общем, вы поняли. Мне нужна была строгая аналитика (в неё близняшки не всегда, но умеют), а получилось какое-то заискивание передо мной с их стороны.
P.S. если что, я не сверяю каждый свой день с гороскопом, просто мне было интересно проверить своё видение моего будущего - читая свой гороскоп, ты или соглашаешься с ним (и тогда он "сбывается", поскольку ты начинаешь двигать себя в эту сторону), или не соглашаешься (и тогда двигаешь свою тушку в противоположную сторону - иногда, возможно, именно благодаря этому тебя даже проносит мимо неприятностей).
Для себя я сформировал представление об ИИ как "усилитель способностей человека".
Нейросеть не усиливает, а подтягивает к среднему by design. Если в какой-то области способности человека ниже среднего, то нейросеть их усилит. Если в другой области способности человека выше среднего, то нейросеть будет тянуть вниз.
Ой. Страшно!
Я лучше постою в консервативном загончике, где LLM запрещены. Посмотрю, чем дело закончится.
С обычным лжецом ещё можно как‑то договориться в частном порядке (если нет возможности уклониться от работы с ним); истинно верующие же неподкупны, даже когда на кону их собственные интересы.
Здесь скорее замешана "невероятная способность" людей создавать культ из всего, даже на пустом месте.
Во многих компаниях это стало официальной публичной политикой найма: когда кто‑то просит расширить свой штат, он обязан рассказать, как он пытался (и не смог) использовать ИИ для этой работы. Но если ты расписался в неспособности применить ИИ, то ты попадаешь под ближайшее сокращение.
Так вот почему сейчас возникла такая ситуация с поиском работы в IT.
Но как многое зависит от маркетинга, от обёртки! Фразы «Я доверил решение проблемы искусственному интеллекту» и «Я доверил решение проблемы статистическому генератору текстов» - вроде бы означает одно и то же, но как по разному воспринимаются людьми.
Во времена, предшествовавшие краху доткомов, расплодилось множество сайтов и Java-программистов. Это всё рухнуло со страшной силой и впервые появились шуточки про “code html for food”.
Но это не вина java и не доказательство того, что html - никому не нужный отстой.
ИИ - это очень круто, в том числе - прямо сейчас. В правильных, прямых руках, разумеется. А в кривых руках ИИ позволяет делать всякую фигню в сто раз быстрее, чем когда бы то ни было.
Я вот сейчас расскажу одну историю, когда мне ИИ реально помог (но есть нюанс).
У меня было 10 фотографий печатных листов с цифрами (общим объёмом 8 килобайт). Я скормил эти фотографии трём разным моделям, и каждая выдала мне цифры, которые она там увидела. Все три модели ошибались — но они ошибались каждая по-своему, и, сравнив выдачу всех трёх, я просмотрел те места, где их выдача разнилась, глазами, и в каждом месте из трёх вариантов выбрал правильный. Таким образом, я получил искомый файл с цифрами. После этого я глазами прочитал этот файл, построчно сравнивая его с фотографиями. Нашлась ещё пара ошибок, которые я тоже исправил.
(Месяца через два мне удалось найти исходный файл, с которого была сделана та распечатка, с которой всё началось. Я сравнил его с результатом восстановления вышеописанным способом — файлы совпали, то есть восстановление было 100% успешным.)
А в чём успех, если я всё равно прочитал весь файл глазами? В том, что мне не пришлось вбивать цифры вручную — у дедушки с больной рукой это заняло бы немало времени; да и сравнивать цифры глазами гораздо быстрее, чем печатать их руками.
у дедушки с больной рукой это заняло бы немало времени; да и сравнивать цифры глазами гораздо быстрее, чем печатать их руками.
Человеческий фактор ещё и в том, что, вбивая 8кБ данных вручную, нет-нет, да и добавишь к ним свою очепятку...
слова правильные, но слишком общие. мир ждёт конкретных примеров успешного применения, чтобы было понятно, на каких задачах и в каких условиях можно получить профит, и какие ограничения есть у метода.
По примерам из статьи у меня вообще другой вывод. ИИ тут скорее вторичен. Основная проблема в том, как компании его внедряют.
Чат-бот ради галочки, KPI по сожженным токенам, AI в презентации ради бюджета. Да, это цирк. Но тезис, что ИИ почти нигде не дает пользы, мне кажется слишком сильным.
Если инструмент реально экономит тебе несколько часов работы и результат можно проверить, то какая разница, хайп это сейчас или нет? Проблемы начинаются, когда сначала решают "нам нужен AI", а потом уже пытаются придумать, зачем он нужен.
Судя по всему, наличие ИИ подсвечивает некомпетентность. Или, если простыми словами, показывает, на сколько сотрудник — идиот.
А наёмные руководители на то и наёмные — мыслят несколькими контрактными годами, чтобы успеть внедрить какую-нибудь хрень по KPI и пойти дальше по карьерной лестнице.
Сидит обезьяна возле лужи — удочку закинула.
Проходит мимо бегемот:
— Обезьяна, что ты делаешь?
— Дай 10 баксов — скажу!
Интересно бегемоту:
— Держи, — говорит, — 10 баксов.
Обезьяна:
— Рыбу ловлю!
— В луже? Ну ты и дура!
— Дура не дура, а свою тысячу в день имею.
Приведу контрпример. Моему знакомому (преподавателю) предложили провести курсы по информатике для поступающих в вуз (объём занятий небольшой, темы, которые нужно раскрыть, перечислили, примерных и уж тем более точных заданий тестов не дали), причём задача прилетела за неделю до начала самих занятий. Что он сделал? Зашёл в гугл (в режиме Gemini) и начал задавать вопросы типа "дай мне пожалуйста теорию по вопросу такому-то... а теперь составь по этому вопросу тест на 30 вопросов... а теперь оформи вопросы и правильные варианты ответов в json-формате... а теперь давай напишем программу-тестилку, которая будет брать вопросы из базы в json-формате" - ему, конечно, пришлось перечитать все вопросы-ответы, чтобы отсеять откровенно слабые варианты, а также протестировать все варианты приложения и развить продукт от минимально работоспособного до нужного ему функционала, но в целом, за один вечер у него появились: программа для автономного (на локальном компьютере или в локальной сети) тестирования знаний учащихся (будет использовать на своих занятиях со студентами), корпус из 1500 вопросов по информатике школьного уровня и понимание, как за пару вечеров с чашкой кофе и "близняшками" можно улучшить результат, охватив тестами всю школьную программу по отдельно взятому предмету.
P.S. у этого примера есть одно "но": далеко не всякий преподаватель сможет не то что спроектировать самостоятельно приложение, но даже собрать приличный корпус вопросов для теста. ИИ не подсвечивает компетентность или некомпетентность - он их просто усиливает до той степени, когда они сами начинают "светиться".
Интересно, когда появились ООA, OOD, OOP тоже все кричали, что это обман и вообще противоречит всему? Ну есть у нас сейчас еще один верхнеуровневый слой, позволяющий писать спецификации, архитектуру и дизайн на естественном языке. Новый инструмент. Не знаю как у вас, а в наших краях (Silicon Valley) уже полгода-год никто не программирует руками. Не эффективно.
9.просто фильтровать книги - на обложке AI? сразу в мусорку
У нас в конторе с некоторых пор начали толкать AI со словами "станьте эффективнее". Но вроде не сильно навязчиво, однако, гендир всегда интересуется у сотрудников, используют ли они в работе AI, а если сотрудник говорит "нет", то начинает продавать его им. Благо конструктивную критику он воспринимает нормально и даже местами соглашается, и это уже хорошо, за это ему спасибо. Есть и те кто истерит на коллег, которые забили болт и не юзают AI, с этими товарищами отношения начинают портиться.
Я не противник новых технологий и сам AI использую, как справочник, например, или простые функции генерирую. Однако я испытываю дискомфорт, когда не понимаю как работает моя программа и что у неё "под капотом", а AI ведь любит всё "улучшать", верно?
Короче, остановился на том, что AI допустим в работе, но под жёстким контролем.
P.S. Недавно гендир обозвал меня ретроградом... ну вот :(
А вы обращали внимание, что люди, которые кричат (или продают) это помешательство, это ровно те же самые люди, что и в прошлый раз?
У меня в Линкедине это легко заметно.
Сегодня это эксперт/консультант/лидер по внедрению AI
Вчера это был эксперт/консультант/лидер по внедрению data-driven или web3/blockchain
Позавчера -- Agile коуч / внедренец SRUM
Еще днём раньше -- digital transformation
...
Вывески меняются, а хайп продают все те же люди.
Я бы сказал так: ИИ, как и любой другой инструмент, является усилителем действий применяющего его человека. Если человек умён, образован и находится на своём месте, выполняет осмысленную и полезную работу, ИИ его усилит и дополнит, проблем нет. И бизнес получит свою долю профита. Если же человек занимается "перекладыванием бумажек", но делает это с применением современных информационных технологий, то никакой дополнительной ценности ни для себя, ни для бизнеса он не получит и не принесёт. Так что сам по себе ИИ бесполезен - и проявляет он даже не себя, а того, кто им пользуется.
вчера попробовал дать ИИ задачу написать тесты для слоя бизнес логики multi tenant проекта для CosmosDB... было грустно. в итоге написал всё сам, попутно выявил у себя архитектурные недочёты, исправил их и когда не заработало так как я хотел, начал разбираться во фреймворке тестирования и нашёл ошибки уже там, написал разработчику, он мне не ответил, я начал копать глубже и понял что исправил не ту ошибку, исправил корень проблемы и всё заработало, попутно попросил ИИ сгенерировать несколько недостающих функций во фреймворке тестирования... ИИ сделал за меня меньше 1% работы, и это терминальные задачи которые ни на что не могут повлиять скрытым образом... вот это правильное использование ИИ, потому что я узнал что о своём проекте чего не знал ранее, увидел новые грани архитектуры которых не видел раньше. цель не ИИ, KPI, и даже не спи проект... да, я получаю за это деньги, но главное это не то что я делаю, не результат моей работы, а как эта работа меняет меня, делает ли она меня умнее? если нет то надо что-то менять
Мой реальный опыт:
По заданию руководителя продумываю стратегический документ (например, квартальный план для моей команды или методологию аудита продукта). Получаю ответ: «А ты с чатиком советовался? Я закинул твой набросок в чатик, он нашёл недоработки, вот список. Жду исправлений к завтрашнему дню». Ясное дело, все «идеи» чатика нерелевантные и полны взаимных противоречий.
Делаю всё то же самое, но предваряю документ комментарием: «я тут посоветовался с чатиком, докинул контекста, попросил сравнить с конкурентами и оценить с позиции синьор-аналитика, после нескольких итераций мы с чатиком пришли к оптимальному варианту». Получаю ответ: «Ну вот, совсем другое дело! Отличная работа». Ясное дело, никакой искусственный интеллект я не использовал, а просто буквально повторил фразы начальника, которыми он каждый день описывает свои успехи (как ему кажется) применения ИИ.
Если что, такое было пару раз в порядке эксперимента, чтобы понять насколько всё плохо. Когда понял, наши пути разошлись. Симулировать бурную деятельность я не хочу.
Помешательство вокруг ИИ парализовало принятие решений