Комментарии 14
С декабря по февраль были статьи с таким вопросом. Уже довольно подробно обглодана эта кость..
Манки-кодеры существуют уже много лет... Хапнуть кусок кода и утащить не внимание и не правя в свой модуль... Это классика. AI-хайп просто придал этому явлению налёт чего-то передового и прогрессивного... 🤪
AI-копирайтеры уже практически везде. Ждем, когда это официально переползет в резюме и штатное расписание. 🙁
И да, я писал этот текст, отвечая в комментариях на статью-перевод с кликбейтным заголовком:
Некоторые новые джуны на самом деле не умеют писать код без ИИ-помощников
ИИ сам по себе вынуждает разработчика думать, если тот хочет получить что-то полезное. Слепая копипаста возможна только в простейших случаях, а в реальных проектах она либо не работает, либо требует такого уровня осознанности, что перестает быть слепой.
А что думаете Вы?
Мое мнение, что, пока, ИИ не смогут, безболезненно, заменить программиста, как не заменили компьютеры бухгалтеров и даже не сократили их количество, то, которое было в докомпьютерную эпоху. Да, общее качество работы возросло, но общее количество рабочих мест это не уменьшило, наоборот, увеличило, ведь обслуживанием персоналок и их переферии, тоже, кто-то должен заниматься.
А так, да, ИИ – это пока что только помощник, как, скажем, документация, Интернет, книги, видео и т.д. и т.п. Ибо, действительно, за ним нужен глаз да глаз. Например, смотрите мой диалог с французским ИИ: https://habr.com/ru/companies/bothub/news/891934/#comment_28055496 . Из него видно, что, если вы не в теме, то ИИ вам вполне может скормить не вполне точный результат. А уже сейчас, на Хабре, можно услышать мотивы, типа, нафига мне учиться, если на все вопросы ответит машина? Что сильно напоминает фразу Митрофанушки: «Зачем мне знать географию, если есть извозчики?».
Второй момент, это, как правило, выдается не оптимальное решение, по крайней мере, в бесплатных версиях ИИ. Поэтому, нужно хорошо понимать, что хочется получить и в каком виде.
Поэтому, обозначенная вами проблема, что ИИ может существенно быстрее довести проект до состояния «безнадежной системы костылей», совершенно реальна. Но, зато, возможности «интеллектуальных игрушек» увеличивают потенциал индивидуальных разработчиков («свободных художников»). Им, обычно, спешить никуда не надо и они могут держать в голове всю концепцию своего пет-проекта либо стартапа. Тем более что даже возможностей бесплатных ИИ пока хватает.
Термин "индусский код" появился задолго до AI. Просто теперь это стало доступнее, оперативнее и, возможно, качественнее.
Калькуляторы сами по себе не отучают людей от устного счета, точно так же, как кухонный нож сам по себе — не холодное оружие.
Но человек слаб, и люди вокруг меня крайне редко способны оценить общую сумму покупок в супермаркете, хотя в пору моего отрочества любой мог назвать ожидаемое число в чеке с точностью до копеек. И дело не только в выросшем благосостоянии. Я, например, продолжаю считать общую сумму товаров, пока шляюсь по залу с корзиной, — просто ради практики и тренировки и так постоянно отмирающих серых клеток. На первый взгляд, в этом нет никакого смысла, но привычка к применению быстрой устной арифметики в любой непонятной ситуации, — часто приводит к тому, что я распознаю фуфло в, скажем, новостных передачах (или на совещаниях, это не имеет значения).
Отмирает умение оценить задачу с высоты птичьего полета и применить неожиданное, но уместное именно здесь, решение, которое сможет потенциально сэкономить тучу денег. LLM всегда предложит усредненный по медиокрам подход, который сработает почти всегда (ибо у конкурентов будет такой же), но когда потребуется что-то неожиданное — наступит п…фиаско.
Утрата некоторых навыков — это не конец, а начало нового.
Когда первобытный человек взял палку, чтобы достать плод, он не просто получил плод — он изменился сам. Он стал меньше полагаться на физическую силу и ловкость, чтобы залезть на дерево, но взамен развил способность думать об инструментах: как их выбрать, как улучшить, как применить в других ситуациях. Палка превратилась из случайного предмета в прототип копья, лестницы, рычага — и это запустило цепочку изобретений. Утрата навыка лазать по деревьям не сделала его слабее; она освободила время и энергию для создания более сложных решений, которые в итоге привели к строительству домов, охоте на крупную дичь и даже земледелию.
Главное — не забывать, зачем мы взяли эту "палку" и как она должна служить нашим целям.
LLM всегда предложит усредненный по медиокрам подход, который сработает почти всегда (ибо у конкурентов будет такой же), но когда потребуется что-то неожиданное — наступит п…фиаско.
А что, если вместо "медиокров" наполнить контекстное окно примерами творческих решений? Тогда LLM сможет:
Извлечь закономерности из этих примеров.
Уловить "оригинальность" через структуру и стиль контекста.
Выдать решение, "усредненное" по вашему творческому контексту, а не по общим данным.
Модель адаптируется к задаче через промпт (контекст). Этот механизм называется In-context learning (ICL). Без примеров (Zero-shot) она опирается на предобученные данные — то самое "усредненное по медиокрам". С примерами (Few-shot или Long-context) она сдвигает вероятности в сторону контекста.
С окном в 200k токенов (10k–15k строк кода) вы можете задать десятки творческих примеров, оставив место для ответа (5k–10k токенов). Модель "впитает" их дух и выдаст нечто близкое по уровню.
Наполняя окно творческими примерами, вы переопределяете "усредненное" — теперь это среднее по вашим шедеврам, а не по "медиокрам".
Звучит красиво, жаль, что с реальностью это всё не имеет ничего общего.
Слишком категорично.
Да, LLM не изобретает, а адаптирует. Полного "неожиданного решения" (как у человека "с высоты птичьего полета") не будет — модель не способна к интуиции, только к экстраполяции.
Но это всё равно шаг вперед от "медиокров".
это всё равно шаг вперед
Наверное, есть и примеры таких решений?
Честно говоря, @cupraer, конкретных примеров у меня пока нет — я сам использую LLM как 'палку' для рутины ('All You Need Is CRUD'), но ваша критика и мысль про 'медиокров' вдохновили задуматься, как сделать из него 'копьё' через творческий контекст.
ИИ оглупляет программистов? Исчезнут ли нормальные джуны?