Comments 208
С точки зрения РП это всегда был вайбкодинг. С точки зрения качества человеческого ресурса - всё было печально и до ИИ. Как говорится - посмотрите на человека с IQ 100 и погрузитесь в пучину отчаяния что половина человечества еще тупее.
ИИ - это великий разделитель. Те, кто используют мозги и дальше будут использовать. Те, кому мозги заменяли телевизор и ленты в соцсетях не почувствуют разницы. Да, первых на порядок (порядки?) меньше чем вторых.
А насчет кода что он лучше промпта я вообще категорически не согласен. Я видел столько говна за годы в профессии, что это высказывание для меня сродни "ассемблер лучше джавы потому что явно указывает какому регистру что делать". Это просто другой уровень абстракции. Сейчас в нормальных конторах PR состоит из "prompt + code". И если вспоминать "техники программирования из прошлого" - псевдокод, документирование - чем это отличается от промпта?
Я могу повторить то, что написал в статье: промпт это не код. Даже не близко. Промпт - это ТЗ. Это совершенно разные вещи. Вопрос "в чём разница" смысла не имеет. Ну в детерминизме, например. Это тоже написано в статье. Код всегда выполняется одинаково, он однозначен. ТЗ и пропмт будут давать каждый раз разный результат. Вплоть до того, что у одного человека промпт сработает, а в другом заруинит проект. Один и тот же.
Называть документирование техникой программирования из прошлого я бы постеснялся. Это не техника программирования и не из прошлого.
Но тут уже проще найти сходства и отличия с промптом, потому что это одного уровня сущности. Ну например, промпт, как и ТЗ, пишется до разработки. Документация - по факту. И цели немножко разные, но и документация бывает немного разная. Например по установке, по пользованию, по АПИ.
Если ассемблер и код джава я могу назвать одним и тем же, но на разных уровнях абстрации, то промпт к этой вертикали вообще не относится. Он не гарантирует результат. Он не гарантирует однозначность. Да он вообще ничего не гарантирует, в отличие от кода на любом языке.
Код всегда выполняется одинаково, он однозначен.
Ну да, ну да. А потом вы открываете для себя многопоточку. Хотя сказать откровенно, даже однопоточный код очень легко может скатиться в неоднозначность когда абстракции начинают сифонить или когда царство флаговой логики. Короч надо быть большим оптимистом что утверждать что "код всегда выполняется одинаково". К Хаскелу я это побоюсь относить, у них свой дивный мирок и я там не спец ни разу.
Промпт - это ТЗ
Поэтому вы и получаете хрень на выходе. Промпт ни разу не обязан быть ТЗ. Промпт это мышление разработчика выраженное в текстовой форме. Если разработчик не понимает что он делает, из промпта это сразу видно. И наоборот, если есть понимание что я хочу достичь, появляется консистентность в результате. Да, мелкие бантики могут отличаться. Да, Opus скорее всего выдаст более "красивый" код чем Sonnet. Но код будет (по факту уже есть в разных продакшн проектах) production ready.
Я давно знаю, что такое многопоточка. И успешно практикую. Её отличие недетерминированности промпта - это документированная неоднозначность. Причём только во времени выполнения. Всегда есть способ заставить многопоток работать тем способом, который задумывался, так как механизмы синхронизации никто не отменял. Для промптов таких технологий не существует.
Если разработчик не понимает что он делает
Стоит добавить, что кроме понимания нужен скилл выразить это понимание словами с пониманием того, что контекст в голове и в чате разный.
Из тех, кто как-то понимает что делает, большая часть не могут это связно изложить.
А потом вы открываете для себя многопоточку.
Тот факт, что лично вы не можете осознать многопоточный код, не делает его неоднозначным и неинтерпретируемым. Это всё ещё детерменированное поведение системы в зависимости от внешних условий.
Вы просто уронили качество своего аргумента.
Поправил
"Тот факт, что лично вы не можете осознать все параметры нейронной сети, не делает её выход неоднозначным и неинтерпретируемым. Это всё ещё детерменированное поведение системы в зависимости от внешних условий.
Вы просто уронили качество своего аргумента."
В теории нейросети тоже дают абсолютно детерминированный результат, в котором всегда можно найти все условия, понять причины любого события. Но на практике, никто этим заниматься не будет, потому что слишком много усилий когда альтернатива ещё покрутить рулетку изменений промта.
Бесполезная софистика и аргумент ради аргумента. Осознать многопоточный код - вполне по силам инженеру. Предполагается даже, что инженер его вполне себе понимает, пока с ним работает. Нейросеть же - это чёрный ящик по определению. Результат технически детерминированный, как и ливень после обеда, но практически ни у одного из живущих людей нет ни технических, ни физиологических средств, чтобы осознать его полностью.
Пытаясь приравнять вычислительную сеть на триллионы параметров к детерминированной системе, которая всего лишь выполняется в неоторое (чаще всего вполне осмысленное) число потоков, вы фактически расписываетесь в своей немощности.
Ирония в том, что я тоже использую нашего любимого Клода на работе и нисколько не стесняюсь закрывать с помощью него уже целые проекты. Просто я не причисляю его к лику святых, а честно говорю о том, что именно представляет из себя этот инструмент. Но у многих это вызывает воистину религиозный ужас и отторжение. Хочется бесконечно спорить и сравнивать тёплое с мягким, лишь бы не обижали их любимое божество.
Ну тогда вы не знаете как устроены современные LLM :) Там нет абсолютно детерминированного результата - почитайте что такое температура для нейросети.
промпт это не код. Даже не близко. Промпт - это ТЗ.
Но есть нюанс
Вплоть до того, что у одного человека промпт сработает, а в другом заруинит проект. Один и тот же.
Вы отчасти правы, но существует уже не мало инструментов, скилы, mcp и так далее, что позволяет определять каким будет код. Это уже не фантазия и рандом агента. Люди как бы тоже не выдают одинаковый код, даже если решают ту же самую задачу.
п.c. Ну и например я сделал плагин по VS Code, который генерит реальный на основе псевдокода. Практически всегда это один и тот же результат.
https://github.com/DmitryOlkhovoi/Sketch-programming
Люди как бы тоже не выдают одинаковый код, даже если решают ту же самую задачу.
Сравнивать код человека и код ИИ корректно. Сравнивать код и промпт - нет. Собственно, об этом у нас спор был.
И давайте начистоту. В инженерии нет термина "Практически всегда". Или совпадает или не совпадает. Или детерминированный результат или нет. Или мы можем гарантировать корректность результата или нет. "Практически всегда" - это однозначно "нет".
Ага машина то-ли завещать, то -ли нет. Дверь в боинге то-ли на месте, то-ли улетела …. В ракету данные занесли занесли то-ли в метрах, то-ли в фунтах, и знак там то-ли плюс, то-ли минус
Это работает не так. Если вы скачаете исходники линукса, они у вас соберутся, и то, что соберётся, будет работать. Если вы скачаете набор промтов, который позволяет сгенерировать исходники линукса - то, что будет на выходе, хотя бы скомпилируется?
Не соберется. Соберется если все библиотеки и зависимости на месте. На сегодняшний день надо сравнивать сопоставимые по объему исходники/процессы. Промпт на написание линукса с нуля будет по размеру превосходить размер исходников ликукса. Вы сравните код для Парсинга сайтов: код толи заработает, толи нет, потому что сайт толи изменился толи нет. Тут аромат дает фору коду.
Промпт на написание линукса с нуля будет по размеру превосходить размер исходников ликукса.
Интересное утверждение, сильное. А эту зависимость вы эмпирически вывели или на основе статистики? И следом вопрос: а вайбкодеры в целом понимают, насколько неэффективным инструментом они пользуются? Если короче всё описать кодом, то в чём вообще смысл?
Ахах, комментарий просто супер)) Извините, лайк не могу поставить, "кармы" не хватает) Но нравится)
"Ага машина то-ли завещать, то -ли нет. Дверь в боинге то-ли на месте, то-ли улетела …. В ракету данные занесли занесли то-ли в метрах, то-ли в фунтах, и знак там то-ли плюс, то-ли минус" - великолепно)
В инженерии нет термина "Практически всегда". Или совпадает или не совпадает. Или детерминированный результат или нет. Или мы можем гарантировать корректность результата или нет.
Напомню, что существенная часть криптографии держится на вероятностных алгоритмах. От проверки чисел на простоту, до доказательств с нулевым разглашением
Вероятностный алгоритм - это всё ещё алгоритм. Нечёткая логика - это всё ещё логика. Алгоритму, зафиксированному в коде, присуще понятие полноты. Словесное описание никогда не будет алгоритмически полным, иначе бы вайбкодинг был лишён практического смысла.
Это простое утверждение, которое опирается на базовые академические знания. Я искренне не понимаю, почему на техническом ресурсе кто-то с этим спорит.
Вероятностный алгоритм - это всё ещё алгоритм. Нечёткая логика - это всё ещё логика.
Так. А с чем из мной написанного вы спорите? Я же буквально привожу примеры вероятностных алгоритмов, которыми пользуются в инженерии
Алгоритму, зафиксированному в коде, присуще понятие полноты. Словесное описание никогда не будет алгоритмически полным, иначе бы вайбкодинг был лишён практического смысла.
Что такое алгоритмическая полнота?
И в дополнение вопрос - зачем нужно чтоб промпт в 100 случаях из 100 выдавал один и тот же результат? Когда мы разговариваем с людьми (и даже с разработчиками!) мы не падаем в обморок что один раз на "привет" он говорит "привет" а другой раз "здорово". Мы как-то уживаемся с мыслью что Васе надо рассказать контекст задачи, и может быть даже не один раз. И может быть даже так он напишет глупость и потом придет дефект с QA или вообще не дай бог правка от бизнеса.
Я считаю вообще вся ветка дискуссии "промпт не детерменирован" - гнилая изначально. Нам нужно чтоб промпт один раз написал как тут просят любители "детерменированный алгоритм".
В разработке мы используем одни гарантии, чтобы предоставить другие. Построить сложную систему, которая будет гарантировать конечному пользователю свою работу.
Если хоть одна часть в нижележащих слоях не может гарантировать свою работу, то вся система рушится, как карточный домик.
Гарантия - это всё. Нет гарантии - нет алгоритмов. Нет кода. Нет ПО как класса.
мы не падаем в обморок что один раз на "привет" он говорит "привет" а другой раз "здорово"
Да, но продакт менеджер немного расстроится, если мы, условно, пепепутали тестовую и контрольные группы для нашей фичи. Или вместо "заказ оформлен" написали "что-то пошло не так".
Я утрирую, конечно, потому что вы пытаетесь увести дискуссию не в ту сторону. Суть же в том, что когда мы общаемся на естесственном языке, мы отдаём себе отчёт в том, что собеседник может понять нас не так, как мы ожидаем. Причин может быть огромное количество: у нас разный контекст, мы обратили внимание на разные ключевые слова в речи друг друга, и есть такая вещь, как когнитивные искажения. В конце концов, мы не читаем мысли друг друга. И общение человека с LLM подвержено тем же самым проблемам (включая, как ни странно, эти самые когнитивные искажения). Да, вам может казаться, что LLM понимает вас лучше многих людей, потому что в ней нсходится миллиарды разных контекстов, но технически это не имеет значения: вероятность, что вы не смогли донести мысль, велика.
Это естесственный язык, он обладает слишком большим многообразием, чтобы однозначно описывать логику. Поэтому всякие фиолософы и математики тысячи лет придумывают разные формальные правила и словесные конструкции, чтобы эффективнее передавать свою мысль, фактически ограничивая естесственное многообразие языка. По этой простой и, на самом деле, очевидной причине нельзя говорить, что промт - это новый слой абстракции, сопоставимый с переходом от ассемблера к высокоуровневым языкам. Это просто не так и человечество это поняло несколько тысячелетий назад, мы вам тут не пытаемся доказать что-то новое.
Я считаю вообще вся ветка дискуссии "промпт не детерменирован" - гнилая изначально.
И ваше отношение прекрасно видно. У вас вызывает нездоровый эмоциональный отклик простая констатация очевидных фактов. Не стоит так переживать: мы этим аргументом не отбираем у вас право пользоваться LLM. Мы просто обсуждаем суть этого процесса.
А с чем из мной написанного вы спорите?
Я не спорю, я пытаюсь понять, зачем вы приплетаете вероятностные алгоритмы к нейросетям. У них, по вашему, что, единый принцип работы?
Или вы таким образом попытались продемонстрировать, что результат работы даже формализованного алгоритма не всегда детерминимрованный? Технически вы правы, но это также относится к обсуждаемому вопросу, как корова к оперной постановке.
Я не спорю, я пытаюсь понять, зачем вы приплетаете вероятностные алгоритмы к нейросетям.
Потому что в своём комментарии о нейросетях @Kerman сказал:
В инженерии нет термина "Практически всегда".
Я оспариваю это и привожу пример, что "практически всегда" очень даже используется.
У них, по вашему, что, единый принцип работы?
Из моих тезисов это, вроде, не следует
Или вы таким образом попытались продемонстрировать, что результат работы даже формализованного алгоритма не всегда детерминимрованный? Технически вы правы, но это также относится к обсуждаемому вопросу, как корова к оперной постановке.
Ну типа)
Приводится рассуждение, если огрубить: "нейросети нельзя использовать потому что они недетерминированы", я показываю, что недетерминированные (и даже не всегда корректные) вещи спокойно используются. Связь с обсуждением непосредственная: я отвечаю на тезисы другого участника дискуссии.
P.S. на вопрос об алгоритмической полноте вы не ответили
Вы же не будете мои слова выдирать из контекста? Мы говорили про разницу в промпте и коде. Выполнение кода детерминировано, промпта - нет.
Там ещё было про гарантии и это была ключевая фраза. "Почти всегда" - это отсутствие гарантии.
Собственно, вам ответили, что вероятностный алгоритм - всё ещё алгоритм. Он делает вывод случайным (в идеале), но сама выдача является детерминированной, потому что является целью алгоритма. Как-то так.
То есть алгоритм шифрования совершенно детерминировано выдаёт случайное число. По хорошему, должна быть какая-то гарантия случайности. Ну там, дисперсии всякие, отклонения и всё такое.
А то знаете, бывает всякое
Вы же не будете мои слова выдирать из контекста? Мы говорили про разницу в промпте и коде. Выполнение кода детерминировано, промпта - нет.
Очевидно, что можно зафиксировать сид или поставить нулевую температуру и получать каждый раз один и тот же детерминированный ответ от нейросети
Там ещё было про гарантии и это была ключевая фраза. "Почти всегда" - это отсутствие гарантии.
Я вам ровно на ваши тезисы и отвечаю: тест Миллера-Рабина используется при проверке простоты, при этом не гарантирует, что число прошедшее тесты в самом деле будет простым.
То есть алгоритм шифрования совершенно детерминировано выдаёт случайное число.
Детерминированный алгоритм по определению не может выдавать случайное число. У меня подозрение, что вы путаете детерминизм и наличие семантики. Это не одно и то же. Нейросети могут быть детерминированными, но семантики у них нет. ЯП-ы могут быть недетерминированными, но обязаны иметь семантику
Тест Миллера-Рабина гарантирует, что число составное. У него два ответа: "составное" и "не знаю". Давайте заканчивать с софистикой.
Детерминированный алгоритм вполне может выдать число, которое мы посчитаем случайным. Остаток от деления атомов на 10 в песчинке плюс сколько наносекунд кричала чаечка.
Это всё лирика. В один момент детерминизм алгоритмов остаётся технически детерминизмом, но на практике становится случайным. Где-то специально случайность добавляют, усиливают и используют далее в разветвлении алгоритма. Например в ЛЛМ. Которая детерминированная.
Тест Миллера-Рабина гарантирует, что число составное. У него два ответа: "составное" и "не знаю". Давайте заканчивать с софистикой.
Обвинения в софистике после столь недобросовестного ухода от примера выглядят забавно. RSA для работы нужны простые числа. Тест Миллера-Рабина используется для их генерации, потому что работает "практически всегда". Гарантия нужна на простоту числа. Гарантии на составленность числа тут иррелевантны.
В один момент детерминизм алгоритмов остаётся технически детерминизмом, но на практике становится случайным. Где-то специально случайность добавляют, усиливают и используют далее в разветвлении алгоритма. Например в ЛЛМ. Которая детерминированная.
Аналогично тогда технически случайные алгоритмы могут быть на практике детерминированными. Как, допустим, в примере @DmitryOlkhovoi, где (по его словам) языковая модель практически всегда выдаёт один и тот же результат
Вот тут вы не угадали) В математике как раз есть замечательное понятие - сходимость "почти наверное". Если уж в такой строгой науке как математика это есть, то уж в инженерии и подавно
но существует уже не мало инструментов, скилы, mcp и так далее,
# me
what is better:
- skills defined
- a 'crossroads' guide: take a look at .docs\arch&op\arch&op.toc.md
- something else
# bot
TL;DR: The TOC is a ~40-token index that saves thousands of tokens per task by letting me do targeted reads. Keep it as the primary navigation aid.
This is strictly better than:
- Skills: those inject provider docs (Anthropic SDK, etc.), not your architecture. Irrelevant unless you're building against the Claude API.
- Reading everything upfront: burns 5-10k tokens on chapters that may not apply to the task at hand.
- Winging it from CLAUDE.md alone: misses runtime details (UoW lifecycle, persistence result handling, policy type system) that cause subtle bugs.
Код всегда выполняется одинаково, он однозначен. ТЗ и пропмт будут давать каждый раз разный результат. Вплоть до того, что у одного человека промпт сработает, а в другом заруинит проект. Один и тот же.
тут уже отписались, вы можете оттуда одну систему обработки сообщений видели? Которая в RabbitMQ например работает и написана нормально? Вы вообще понятия не имеете как она работает. На биржах в HFT никто не знает как система работает, да и физика за пределами Ньютоновской открыто говорить что у вас есть неопределенность и с ней надо жить. Это же не мешает физикам нормальные теории строить?
Так что слишком драматично и не слишком по делу
Код на ассемблере и на джава на одной вертикали? Не уверен. они тоже а разном уровне. и они на разных платформах по разному исполняются (или вообще не исполняются). Для поддержки ассемблера надо искать умников... я помню (мал правда был), как что говорили про тех кто пишет на Паскале - они читеры, настоящий инженер пишет байт-код или в крайнем случае на ассемблере, точно управляя регистрами... я и сам так думал. но как то мы устроили соревнования по реализации госта 28147-89 (можно было использовать все логические оптимизации) и ассемблер (на его стороне был не только я) проиграли в пух и прах. ну факт. и по времени разработки и по скорости и по читаемости кода. я это принял тогда и использую это знание. бесспорно, то что мы пока не до конца эффективны в использовании LLM, но правильный вопрос не почему они "плохие", а как их использовать чтобы они были "хорошие"
Может это и схоже с "техники программирования из прошлого", но надо понимать, что эти техники были необходимостью.
Разработка была дорогой и сложной. Считали каждый байт памяти и тик процессора. Программист буквально решал другие задачи. Не "как json в БД положить", а "как байты в строку собрать корректно". Как только компьютеры стали быстрее - появились более высокоуровневые языки - и от тех подходов, в большинстве своем, отказались. Тот же Scrum был и остается ответом на это принципиальное изменение (как бы его не хвалили или ругали).
ИИ же (LLM) - это имитация человека. Да, бредогенератор в своей сути, "T9 на стероидах" и прочие сомнительные описания вполне применимы. Но фундаментально LLM остается имитацией. И очень большая проблема - что обучена эта имитация на очень большом и очень разнородном наборе данных. И когда какой "участок" обучения активируется - не знает ни кто. В одном случае может выдать идеальный результат, а в другом - кое-как работающее поделие. На одних и тех же исходных данных.
Именно поэтому код лучше промта - он детерминирован практически полностью (если не брать нюансы с версиями и прочими моментами).
Да, 1000 обезьян с пишущими машинками рано или поздно напишут войну и мир. Но кому хочется становиться менеджером этой команды мечты?
Каждый байт памяти не считают уже лет 25 минимум. И Scrum вообще не про дороговизну и сложность, а про предсказуемость. Вы можете относиться к ИИ как к бредогенератору, можете иначе - пока этот бредогенератор попадает в ожидания пользователя - он ваш конкурент (или помощник, тут зависит от того где ВЫ).
У меня сегодня за день закрыты три таски "полностью детерменированным кодом", в каждой из которых я не написал ни строчки кода руками. Побочный эффект - убрал легасевую ошибку архитектуры. Она конечно была мелкая, но была. Код стал лучше, софт стал лучше.
Scrum, в первую очередь, про быстрые итерации. Предсказуемость тут от силы в регулярных релизах.
У меня сегодня за день закрыты три таски
А без LLM сколько бы было? А сколько новых проблем внесли?
Вопрос не в количестве задач. Вопрос в ответственности. Из ответственности уже идут и прочие вопросы - качество кода, предсказуемость поведения, контроль изменений.
LLM хороши для небольших и простых проектов - это да. Для сложных и больших - однозначно не сравнятся с человеком. Но где именно проходит граница применимости LLM - очень большой вопрос. Начинается просто множество нюансов - о стеке технологий, о размере проекта, о его сложности и т.д.
Без LLM скорее всего одна. Проблем не внес. Качество кода не хуже, чем если бы писал сам. Поведение предсказуемо. Всё это за счет того, что я могу перенести свое внимание на то что действительно важно - API, архитектуру и тому подобные вещи.
То, про что вы пишете и с чем я согласен (ну или это я нагаллюцинировал и вы про это не пишете) - ИИ плохо умеет определять границы своей компетенции, плохо умеет размазывать сложность по проекту тонким слоем. Это ровно то, где человек (пока) блистает, и ровно то место для синергии. Если всё что может разработчик, это написать промпт и во всем дальше соглашаться - это не разработчик, это вайбкодер как есть в худшем карикатурном понимании. Если разработчик (уровня сеньора или техлида) ставит задачу джуну или мидлу или другому сеньору в своем подчинении и потом проверяет код хотя бы просто мазнув по коду в PR - это стандартный воркфлоу и для ИИ. Если бы производители ИИ не пытались принудить сделать ИИ комфортным для человека, если бы не "наказывали" за каждое "не знаю" - комфортность использования ИИ ассистентов в разработке была бы еще выше. Но даже сейчас дает кратное ускорение. Главным образом за счет асимметрии. Вы можете читать и вычленять недостатки много быстрее чем писать код без недостатков самому. Навык работы с ИИ - нарезание задач на такие ломтики, когда на оценку качества кода у вас уходит не более 3-5 минут времени.
Проблем не внес.
Разработчики Boeing 737 MAX тоже так думали.
Код за LLM надо очень тщательно изучать - тщательнее, чем за джунами. Я знаю, где может ошибиться джун или более опытный коллега. Причем коллега, как правило, сам поймет, что "что-то не то" и посоветуется с другими.
LLM же пишет очень убедительный код. При этом подвох может быть в самом неожиданном месте. И на этом ревью кода, как правило, большая часть выигрыша от LLM пропадает. Может не всегда, может для отдельных задач и все хорошо отрабатывает, сохраняя ускорение. Но само ожидание подвоха очень портит впечатление.
P.S. LLM не зря называют бредогенераторами. Они сами не знают, что они хорошо знают, а что нет. Поэтому у них возникает не "не знаю", а так называемая галлюцинация. Но по факту весь продукт работы LLM - это одна сплошная галлюцинация. Просто большая часть пришлась к месту. И это "не знаю" просто невозможно реализовать в рамках текущих алгоритмов работы LLM.
У LLM кода есть кстати есть отличный и полезный(для меня) эффект. Он может сгенерировать код по промпту так, как я бы никогда не написал сам. При этом не обязательно хуже. Применить библиотеку/метод, о существовании которых я не догадывался, например, паттерн архитектурный. На ревью соответственно я автоматически учусь вариантам "как можно решить эту задачу". Дальше я уже могу добавлять в промпт инструкции вроде "реши задачу этим способом". Но это требует ревью кода и понимания, работает ли, хорошо ли сделано, как именно и почему работает. Не думаю, что многие этим занимаются.
Качество кода не хуже, чем если бы писал сам.
В этом уравнении остаётся одна неизвестная - качество "писал сам"
20+ лет опыта корпоративной разработки. Все эти 20 лет - бэкенд, 15 лет фронт. Системы документооборота, лабораторные информационные системы, международное страхование, банковский сектор, ювелирка. В FAANG'ах не был, врать не буду. Последние 12+ лет основной работодатель - западные фирмы. В России были part-time проекты.
В этом уравнении остаётся одна неизвестная — качество «писал сам»
«Все программисты в мире делятся на две категории:
— Те, кто считает, что ChatGPT кодит на порядок лучше их;
— Те, кто считает, что ChatGPT кодит на порядок хуже их.
И те, и другие абсолютно правы.»
А сколько новых проблем внесли?
Он это предусмотрел
Я поражен вашей квалификацией в гадании по астралу! А серьезная дискуссия будет?
Куда уж серьезнее. LLVM LLM отсыпал вам байтов. Байты решили какую то вашу задачу. Все рады за вас обоих (не от чистого сердца ;)). Но никто не может утверждать, что следующая порция байтов подойдет к очередной задаче. А проверять под микроскопом те байты, конечно же, никто не будет.
Представьте себе - вы РП, ваш разраб отсыпал вам байтов. Байты решили какую-то вашу задачу. Все рады за вас обоих (не от чистого сердца ;)). Но никто не может утверждать, что следующая порция байтов подойдет к очередной задаче. А проверять под микроскопом те байты, конечно же, никто не будет.
С разрабом я давно (ну, испытательный срок он прошел), знаком, знаю чего от него ожидать можно а чего нельзя. И пару человек посмотрели на те байты.
С LLM я давно и тоже знаю чего от него можно ожидать а чего нельзя. И байты те посмотрел я не раз и не два (и не только я). И скажу больше, я по своей должности смотрю байты не только LLM, но и кожаных. И рука-лицо куда чаще случается у последних. И сцук объясняешь им, объясняешь, а они один хрен порой такую дичь творят.
Ещё как считают, и вы не поверите в какой области CS - https://habr.com/ru/companies/yandex/articles/350896/
Считали каждый байт памяти и тик процессора
И это было хорошо. Медленно, но хорошо. Сейчас мы тратим циклы просто на обогрев комнат, что создает бессмысленную гонку за гигабайтами и гигагерцами.
Т.е. у половины человечества IQ больше 100? Сдается мне, что медиана дай бог 80.
Если это на основании данных реестра IQ, то думается что в выборке представлены самые толковые представители стран, а не средняя выборка. Левый хвост в правильной выборке пасет овец и про тесты не слышал, в может и читать не умеет.
Почитайте что такое IQ. Медиана именно 100.
Только есть нюанс - средний интеллект растет (доступность и качество образования растут).
И тест IQ усложняют, чтобы соответствовать медиане 100 )
Отсюда интересный вывод: хочешь IQ повыше? Бери максимально старый тест )))
а потом люди, пройдя свежие тесты, кричат, что раньше было 120, а теперь 93
Интелле́кт - качество психики, состоящее из способности осознавать новые ситуации, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления средой обитания человека.
Где тут связь с образованностью? Прикол интеллекта как раз в том, что он связан как раз с базовой деятельностью человека, даже есть исследование, в котором выяснилось, что у наших древних предков интеллект был выше, чем у нас
Только есть нюанс - средний интеллект растет (доступность и качество образования растут).
И тест IQ усложняют, чтобы соответствовать медиане 100 )
Это же просто вранье. IQ рос в 20ом веке, а последние 20 лет снижается, в развитых странах сильнее (по удивительному совпадению - с распространением интернета). Это назвали обратный эффект Флинна.
А физический объем мозга уменьшается уже очень давно (по удивительному совпадению - примерно с начала цивилизации). Кто-то может воскликнуть "Ко-ко-ко - интеллект не зависит от объема мозга - вот примеры". Зависит. Если бы не зависел, то большой мозг был бы банально не нужен.
То-то киты и слоны такие умные, теорему Ферма доказали еще до появления человечества как вида. А тиранозавры вообще летали на тарелках в другие вселенные.
Очень умные, входят в 1% самых умных, среди других видов животных, это верно.
Как вы считаете, когда человеку требуются уточнения уровня "при прочих равных", "в рамках одной популяции" и т.д., и он не может видеть их сам, когда они явно подразумеваются - у такого человека интеллект повышен или снижен?
О, классно, то есть это не я тупею а тесты разные.
80 - это граница слабоумия.
К тестам на IQ тоже много вопросов - мой результат 74-76, согласно такому уровню человек с трудом может научиться читать и писать по буквам, заниматься несложным физическим трудом; об использовании компьютера (и тем более программировании) речи вообще не идет.
Промпт может стать другим уровнем абстракции, только если он будет строго формализован (как например декларативный синтаксис SQL). Пока мы общаемся с машиной на естественном английском с его двусмысленностями, ни о какой надежной абстракции речи идти не может
У нас уже есть С++, которого до конца не понимает никто, кроме компилятора.
Соглашусь полностью. И добавлю, что декларативные языки, хоть и дают детерминированный результат, но страдают от недетерминированности времени выполнения. Вот это самое "О большое". Именно поэтому существует EXPLAIN, который показывает, что и в каком порядке будет выполняться в конкретно этом случае.
А насчет кода что он лучше промпта я вообще категорически не согласен. Я видел столько говна за годы в профессии, что это высказывание для меня сродни "ассемблер лучше джавы потому что явно указывает какому регистру что делать".
Код - это вообще плохо. Код - это неизбежное зло, необходимость, с которой приходится мириться. Чем меньше кода - тем лучше. Чем проще код - тем лучше. Код должен быть настолько простым, насколько это возможно, но не проще. Лучший код - не написанный. Код - как скульптура. Совершенство кода достигается не тогда, когда нечего добавить, а тогда, когда нечего отнять.
Ага ага, а потом "меньше кода" просто невозможно прочитать и понять, а что этот код вообще делает. Меньше != понятнее. 20 классов по килобайту но с понятным наименованием, структурой и понятным кодом в каждом из маленьких методов классов с минимумом аргументов лучше сжатого в килобайт функционального спагетти с передачей 20+ параметров через кучу вызовов. Пример навеян реальным проектом.
Мне кажется вы сместили акценты. Там же явно сказано "Код должен быть настолько простым, насколько это возможно, но не проще." Это прямо тот принцип которым я руководствуюсь последние лет 10+. Это не про количество кб текста и не количество строчек кода.
Думаете, если данную мудрость в виде вашего параграфа, на который я отвечал ввести в LLM в качестве части инструкции по написанию кода проекта какого-нибудь, какой результат получится?
А если в качестве ТЗ отдать программисту? Моё предположение - в большем количестве случаев - спагетти код. Могу ошибаться, конечно.
"Но не проще" понимается по разному разными людьми. А любители передавать 100 аргументов в функциональном стиле на 20 вызовов функций вниз вообще по моему опыту склонны отвечать, что 10 файлов с классами - это очень сложно, вот же один файл со всеми функциями - это просто. И рефакторить легко, Ctrl-F аргумент и добавили ещё один в 20 местах. Зато в одном файле всё.
Я очень хорошо понимаю описываемую вами боль. Действительно разные разработчики видят сложность совершенно по-разному. Кто-то может держать в своей памяти 35 сервисов и макаронную фабрику между ними. Кто-то говорит - вот API/Interface и на болту я вертел детали реализации - я следую контракту. Я сам сторонник последнего. Потому что когда приходится переключаться с проекта на проект, держать детали каждого в голове просто нереально. Но в то же время я потерял надежду что людей можно переубедить в диалоге. Может быть, лет через 5 они согласятся с вами. Но сейчас - шансы лысые.
мальчик с чашкой кофе сдерживает себя jpg
ИИ - это великий разделитель. Те, кто используют мозги и дальше будут использовать. Те, кому мозги заменяли телевизор и ленты в соцсетях не почувствуют разницы
Тут вы ошибаетесь в выводах. ИИ фантастически снижает порог входа. Тысячи (миллионы?) условных людей уровня одноклассников начинают активно "писать софт" прикладного уровня без понимания как это работает, что такое тех долг, контроль ресурсов, культура кода и так далее. Они получают на выходе нейрослоп, который отлично работает в своих граничных условиях.
Как следствие огромное количество фриланс и мелких индивидуальных разработчиков идет на мороз, вместе с ними огромное количество смежных и обслуживающих профессий. Это не неолуддизм, просто опыт ковида показал что это вполне реальная проблема
Запрос на предсказуемость, отказоустойчивость уходит в прошлое как собственно понимание что такое качественное ПО. Зачем понимать что-то в архитектуре, когда можно просто перегенерировать код.
Можно надеяться на то что бизнесу потребуется предсказуемость, и люди понимающие как этого добиться, потому что цена ошибки слишком высока.. но простив когнитивных искажений не попрешь, менеджер однажды "написавший код" уже уверен что он "тоже программист" и в этом ничего сложного, а шишколобые только кнопки нажимают и больше не нужны
Я видел столько говна за годы в профессии, что это высказывание для меня сродни "ассемблер лучше джавы потому что явно указывает какому регистру что делать"
Вопрос порога входа. Чем он выше, тем быстрее человек отваливается. Зачастую он просто не может написать говнокод, потому что.. не может написать ничего. Но с ИИ этого не происходит, потому что черный ящик генерирует код любой сложности. И для этого вообще не надо понимать используемый язык программирования.
Ну в целом по фактам.
Разве что я бы сказал что и иногда мы выдаем тоже лишь полезные галлюцинации.
PS для интересующихся. Я точно не уверен, но кажется, что Лаксианский строитель - это из НФ золотого века, устройство, которое делало бесконечную еду для, собственно, цивилизации Лаксианцев.
Земляне нашли и запустили такую машину, и она выдает и выдает еду.
Но оказалось, что она не только бесполезна, но и вредна - она потребляет энергию из окружающего пространства, поэтому электросети пришли с большим счетом, а само вещество людям без надобности. В лучшем случае из него можно делать бетон низкого качества (фирмы готовы забрать если ты оплатишь транспортировку).
Люди хотели продать ее Лаксианцам, но выяснили, что у тех уже есть такое и они сами не знают что с ним делать - есть эту еду никто не хочет (она единообразная и базовая, как условная перловка) и все здания у них сделаны из плохого коричневого бетона...
Рассказ не такой уж и большой
Роберт Шекли. Лаксианский Ключ
Ричард Грегор сидел за столом в пыльном кабинете фирмы «ААА‑ПОПС — Астронавтическое антиэнтропийное агентство по оздоровлению природной среды» — и раскладывал пасьянс. В холле раздался шум и топот, затем что‑то упало. Дверь приоткрылась и Арнольд, партнер Грегора, заглянул внутрь.
— Я только что сделал нас богачами, — объявил он и, раскрыв дверь пошире, приказал: — Тащите его сюда, парни!
Четверо грузчиков, тяжело дыша, заволокли в кабинет черную квадратную машину размером с годовалого слоненка.
— Вот! — гордо сообщил Арнольд, после чего расплатился с грузчиками и, напустив на лицо мечтательное выражение, уселся в кресло напротив машины.
Грегор не спеша отложил карты в сторону и с видом человека, которого ничем не удивишь, осмотрел приобретение со всех сторон.
— Сдаюсь, — наконец сказал он. — Что это такое?
— Это миллион долларов, — охотно ответил Арнольд. — Можешь считать, у нас в кармане.
— Допустим, но все же — что это такое?
— Бесплатный производитель, — с гордой улыбкой произнес Арнольд. — Сегодня утром я проходил мимо свалки старика Джо, той самой, где он держит всякий инопланетный хлам, — и обнаружил там эту штуку. Сторговался, можно сказать, за бесценок. Джо даже не знал, что это и зачем.
— Я, положим, тоже не знаю, — заметил Грегор. — А ты?
Арнольд встал на четвереньки и попытался прочесть инструкцию, выгравированную на лицевой панели машины, в самом низу.
Не поднимая головы, он спросил:
— Ты слышал что‑нибудь о планете Мелдж?
Грегор кивнул. Мелдж была маленькая, всеми забытая планета на северной окраине Галактики, довольно далеко от торговых маршрутов. Когда‑то на планете процветала могучая цивилизация, обязанная своим благополучием так называемой Старой науке Мелджа. Но технологические секреты Старой науки были давно утеряны, цивилизация почти угасла, и лишь изредка то на одной, то на другой планете находили какие‑то непонятные механизмы, произведенные на заводах некогда великой промышленной державы.
— И ты полагаешь, что этот ящик имеет какое‑то отношение к Старой науке? — спросил Грегор.
— Ну да. Это Мелджский Бесплатный Производитель. Можно поклясться, что во всей Галактике их осталось не больше пяти.
— А что он производит?
— Откуда мне знать? — ответил Арнольд, поднимаясь с пола. Дай‑ка мне мелдж‑английский словарь.
С видимым усилием сохраняя спокойствие, Грегор подошел к книжной полке. — Ты и в правду не знаешь, что эта штуковина производит?
— Словарь давай. Спасибо. Какая тебе разница, что? Главное — бесплатно. Машина берет энергию из воздуха, из космоса, с Солнца, откуда угодно, и нас это не касается. Ее не нужно ни заправлять, ни обслуживать, и работает она вечно.
Арнольд раскрыл словарь и принялся за перевод надписи на панели.
— Их ученые были не дураки, — проговорил он, записав в блокнот несколько предложений. — Производитель из ничего делает что‑то, а что именно — не так уж важно. Мы всегда сможем это самое что‑то продать, и сколько мы на этом ни заработаем — все будет нашей чистой прибылью.
Грегор посмотрел на своего партнера, и его печальное вытянутое лицо стало еще печальнее.
— Арнольд, — наконец произнес он, — я хотел бы кое‑что тебе напомнить. Ты по специальности химик, я — эколог. И оба мы ничегошеньки не понимаем в машинах, тем более в сложных инопланетных машинах.
Не обращая на Грегора внимания, Арнольд повернул какую‑то рукоятку. Производитель заурчал.
— И, кроме того, — продолжал Грегор, отойдя от машины подальше, — мы с тобой — агентство по оздоровлению среды. Забыл что‑ли? И незачем нам связываться со всякими авантюрными...
Производитель часто закашлял.
— Я все перевел, — сообщил Арнольд. — Здесь написано: «Мелджский Бесплатный Производитель. Очередной Триумф Лаборатории Глоттена. Неразрушимый Бездефектный Производитель. Не Требует Энергетических Затрат. Чтобы включить. Нажмите Кнопку Номер Один. Чтобы Выключить — Воспользуйтесь Лаксианским Ключом. В Случае Обнаружения Неисправности, Пожалуйста, Верните Производитель В Лабораторию Глоттена».
— Ты, наверное, меня не понял, — возобновил атаку Грегор. Мы с тобой...
— Прекрати! — перебил его Арнольд. — Когда эта машина заработает, нам с тобой работать будет уже не нужно. А вот и кнопка номер один.
В машине что‑то звякнуло, послышалось ровное гудение. С минуту ничего не происходило.
— Возможно, ей надо прогреться, — озабоченно произнес Арнольд.
Вдруг из отверстия на лицевой панели посыпался серый порошок.
— Должно быть, побочный продукт, — пробормотал Арнольд.
Прошло пятнадцать минут. Куча серого порошка продолжала расти.
— Что бы это могло быть? — не выдержал Грегор.
— Не имею ни малейшего понятия, — ответил Арнольд. — Надо произвести анализы.
С этими словами он набрал в пробирку порошка и направился к своему столу. Грегор остался у машины, задумчиво глядя на растущую серую кучу.
— Может быть, нам лучше выключить Производитель, пока мы не узнали, что это такое?
— Ни в коем случае! — отозвался Арнольд. — Что бы это ни было, оно стоит денег.
Он зажег горелку, заполнил пробирку дистиллированной водой и приступил к работе. Грегор только пожал плечами. Он давно уже привык к розовым мечтам своего Друга. С того времени, когда они создали компанию ААА‑ПОПС, Арнольд без устали искал легкий способ разбогатеть. Все его замыслы до сих пор оборачивались лишь хлопотами и неприятностями, гораздо более тягостными, чем та обычная работа, за которую бралась компания, но Арнольд быстро об этом забывал.
По крайней мере, думал Грегор, иногда получалось смешно. Он сел за свой стол и разложил новый пасьянс.
Следующие несколько часов в конторе стояла тишина. Производитель тихо гудел. Арнольд упорно работал. Добавлял реактивы, сливал, перемешивал, сверял результаты с таблицами в толстенных книгах. Грегор сходил за сандвичами и кофе.
Поев, он стал нервно расхаживать вокруг машины, то и дело, поглядывая на растущую кучу серого порошка. Производитель гудел заметно громче, и порошок сыпался уже широкой струей.
Час спустя Арнольд оторвался от работы и сообщил:
— Нам повезло! О будущем можно не беспокоиться.
— И что же это за порошок? — поинтересовался Грегор. Может быть, на сей раз удача и впрямь не обошла их стороной?
— Это тангриз!
— Тангриз?
— Совершенно верно.
— Не будешь ли ты так любезен и не объяснишь ли мне, зачем он нужен, этот чертов тангриз?
— Я думал, ты знаешь. Тангриз — это основной продукт питания мелджской расы. Каждый взрослый житель Мелджа потребляет несколько тонн тангриза ежегодно.
— Ты говоришь, это едят?
Грегор посмотрел на кучу порошка с уважением. Машина, которая производит еду двадцать четыре часа в сутки, может оказаться хорошим вложением капитала. Особенно, если учесть, что ее эксплуатация ровным счетом ничего не стоит.
Арнольд уже листал телефонный справочник.
— Алло, Межзвездная Продуктовая Корпорация? Могу я говорить с президентом? Что? Тогда с вице‑президентом. Это очень важно. Что? Ладно, слушайте. Я могу предложить вашей корпорации практически неограниченное количество тангриза. Это основной продукт питания на планете Мелдж. Что? Да, все правильно. Я знал, что это вас заинтересует. Что? Да, конечно, я подожду.
Он повернулся к Грегору.
— Эти корпорации... Да, да, я слушаю. Да, сэр. Вы занимаетесь тангризом? Замечательно...
Грегор подошел поближе, стараясь расслышать, что говорят на другом конце линии.
— Наша цена? А что за цены сейчас на рынке? Ах, так... Пять долларов за тонну, конечно, не слишком много, но я полагаю... Что? Пять центов за тонну? Вы это серьезно?
Грегор отвернулся, и устало опустился в кресло. Продолжение разговора его уже не интересовало.
— Да, да. Я понимаю. Простите, я не знал.
— Похоже, — сказал Арнольд, повесив трубку, — что на Земле много тангриза не продать. У нас здесь живут примерно пятьдесят мелджан, но доставка груза в северное полушарие съест всю прибыль.
Грегор озабоченно поглядел на машину. Она, похоже, вышла на режим, потому что тангриз валил из нее мощной струей. Серый порошок уже лежал по всей комнате толстым слоем.
— Не беспокойся, — попытался утешить Арнольд своего компаньона, — тангриз наверняка можно использовать как нибудь еще.
Он вернулся к столу и сел за книги.
— Может, его пока выключить? — спросил Грегор.
— Ни в коем случае! Пусть работает. Он нам деньги делает.
Пока Арнольд копался в справочниках, Грегор попытался подойти к окну, но ходить по щиколотку в порошке оказалось очень неудобно.
К вечеру уровень порошка поднялся на два фута. Несколько авторучек и карандашей уже потонули в нем безвозвратно, и Грегор начал волноваться, выдержит ли пол.
Наконец Арнольд закрыл книгу и произнес:
— Есть еще одна возможность применения.
— Что ты имеешь в виду?
— Тангриз можно использовать как строительный материал. На воздухе через неделю‑другую он затвердевает и становится прочным, как гранит. Мы прямо сейчас позвоним в какую‑нибудь строительную компанию.
Грегор набрал номер строительной компании Толедо — Марс и объяснил некоему мистеру О'Тулу, что они могут предоставить в его распоряжение неограниченное количество тангриза.
— Тангриз, говорите? Не очень‑то он сейчас в ходу. На нем краска не держится. Но вообще‑то, к вашему сведению, на какой‑то планете живут психи, которые его едят. Почему бы вам...
— Мы предпочитаем продавать тангриз для строительных целей, — твердо сказал Грегор.
— Что ж, я думаю, мы можем его купить. Пригодится для чего‑нибудь попроще и подешевле. Предлагаю, по пятнадцать за тонну.
— Пятнадцать долларов?
— Центов!
— Хорошо, мы сообщим вам о своем решении.
Арнольд, услышав сумму, принялся рассуждать:
— Предположим, наша машина будет выдавать тонн по десять в сутки. И так каждый день, год за годом... Сейчас прикинем... Выходит около пятисот пятидесяти долларов в год. Богачами мы не станем, но будет чем налоги платить.
— Однако, мы не сможем оставить машину здесь, — сказал Грегор, глядя на россыпи тангриза.
— Конечно, не можем. Найдем ей местечко где‑нибудь за городом, и пусть себе работает. А тангриз будем забирать когда вздумается.
Грегор опять позвонил О'Тулу и сообщил, что готов заключить сделку.
— Прекрасно, — ответил О'Тул. — Вы в курсе, где находятся наши заводы? Привозите в любое время.
— Нам привозить? Я считал, вы сами...
— При цене пятнадцать центов за тонну? Мы и так делаем вам одолжение, забирая у вас эту дрянь. Доставка за вами!
— Паршиво, — сказал Арнольд, когда Грегор положил трубку.
— Перевозка нам обойдется...
‑...гораздо больше, чем пятнадцать центов за тонну, — закончил Грегор. — Ты все‑таки выключи эту штуку, пока мы не решим, что с ней делать.
Арнольд подобрался к Производителю.
— Сейчас посмотрим. Вот, нашел. «Чтобы Выключить, Воспользуйтесь Лаксианским Ключом».
— Ну, так и воспользуйся.
— Подожди минутку...
— Выключишь ты ее или нет? — закричал Грегор. Арнольд выпрямился, виновато улыбаясь.
— Поди, попробуй...
— А в чем проблема?
— В том, что у нас нет Лаксианского Ключа.
После лихорадочных переговоров с музеями, исследовательскими институтами и археологическими факультетами стало ясно, что никто Лаксианский Ключ в глаза не видел и ничего о нем не слышал. В отчаянье Арнольд позвонил старому Джо на инопланетную свалку.
— Нет, у меня нет ключа, — услышал он в ответ. — А почему ты думаешь, я уступил тебе Производитель так дешево?
Партнеры молча уставились друг на друга. Мелджский Бесплатный Производитель, довольно урча, выплевывал новые и новые порции бесполезного порошка. Оба кресла и радиатор уже скрылись под серыми волнами, из‑под которых теперь виднелись только столы, шкаф и сама машина.
— Вот тебе и безбедная жизнь, — в сердцах сказал Грегор.
— Ладно, что‑нибудь придумаем...
Арнольд вернулся к своим книгам. Остаток вечера он провел в поисках иных способов применения тангриза. Чтобы совсем не утонуть в порошке, Грегору пришлось отгрести часть тангриза в холл.
Утром солнце безуспешно пыталось заглянуть в их окна покрытые серой пылью. Арнольд встал из‑за стола и потянулся.
— Ничего не нашел? — спросил Грегор.
— Боюсь, ничего...
Грегор отправился за кофе. Когда он вернулся, Арнольд уже успел поругаться с домовладельцем и двумя здоровенными розовощекими полицейскими.
— Я требую, — орал домовладелец, — чтобы вы немедленно убрали отсюда эту дрянь!
— И, кроме того, — добавил один из полицейских, — существует запрет на использование промышленных установок в деловом районе.
— Это не промышленная установка, — попытался возразить Грегор. — Это Мелджский Бесплатный...
— А я сказал — установка! — отрезал полицейский. — И я приказываю немедленно остановить производство!
— В том‑то все и дело, — вступил в разговор Арнольд, — что мы не можем ее выключить...
— Как это не можете? — подозрительно спросил полицейский. — Шутки со мной шутить? Я приказываю...
— Сэр, я клянусь...
— Слушай меня, остряк. Мы сюда вернемся через час. Или вы к этому времени ее выключаете и выносите отсюда этот мусор, или — за решетку!
И все трое удалились.
Грегор и Арнольд посмотрели друг на друга, потом уставились на Производитель. Порошок все прибывал.
— Черт бы их побрал! — не выдержал Арнольд. — Ведь должен быть какой‑то выход!
— Спокойнее, — откликнулся Грегор, вытряхивая из волос серую пыль.
В эту минуту дверь открылась и вошел высокий человек в строгом синем костюме с каким‑то сложным прибором в руках.
— Так это здесь! — удовлетворенно произнес он.
У Грегора блеснула надежда.
— У вас в руках Лаксианскнй Ключ? — спросил он.
— Какой еще ключ? Эго регистратор утечки. И, похоже, он привел меня к тому, что я искал, — строго ответил человек. — Меня зовут Гастерс.
Он смахнул пыль с подоконника, взглянул еще раз на свой регистратор и начал заполнять какой‑то бланк.
— Что все это значит? — спросил Арнольд.
— Я из Энергетической компании, — ответил Гастерс. — Вчера, начиная с полудня, мы регистрируем огромную утечку энергии.
— И потому вы пришли к нам?
— Именно так. Ваша машина очень прожорлива. — Гастерс кончил писать, сложил бланк и спрятал его в карман. — Счет вам будет выслан.
С некоторым трудом он открыл дверь и, уже уходя, обернулся, чтобы еще раз поглядеть на Производитель.
— Должно быть, ваша машина делает нечто особо ценное, если вы можете позволить себе такой расход энергии. Платиновый порошок, верно?
Когда Гастерс ушел, Грегор с издевкой спросил у Арнольда:
— Значит, «не требует энергетических затрат»?
— Видишь ли, Грегор, — пряча глаза, ответил тот, — я не мог знать, что она будет хапать энергию из ближайшего источник.
— Вот именно, — продолжал издеваться Грегор, — «из воздуха, из космоса, от Солнца» — а заодно у ближайшей энергетической компании!
— Но базовый принцип...
— К черту базовый принцип! — взорвался Грегор. — Мы не можем отключить этот ящик! У нас нет этого проклятого Лаксианского Ключа! Нет, и никто не знает, где его взять. Скоро мы будем по уши в этом проклятом тангризе, который нам даже вывезти не на чем. И вдобавок оказывается, что мы тратим энергии больше, чем сверхновая!
В дверь громко постучали, с лестницы послышались сердитые голоса. Арнольд напряженно думал, потом вдруг вскочил.
— Не все еще потеряно! — патетически воскликнул он. — Эта машина сделает нас богатыми!
Но Грегора не прельстили радужные обещания.
— Послушай, Арнольд, — сказал он. Давай‑ка лучше ее утопим. Или сбросим на солнце.
— С ума сошел? Срочно готовь наш корабль к отлету...
Следующие несколько дней вспоминались как дурной сон. За огромную плату наняли они людей, которые вынесли машину и очистили помещение от тангриза. Затем пришлось везти Производитель, из которого фонтаном бил серый порошок, через весь город до космопорта. А чего стоила погрузка в корабль! Но теперь все это было позади.
Производитель стоял в трюме корабля, постепенно заполняя его порошком, а корабль уносился из Солнечной системы.
— В этом есть своя логика, — рассуждал Арнольд. — На Земле тангриз никому не нужен. Следовательно, нечего и пытаться сбыть его там. А вот на планете Мелдж...
— Не нравится мне все это, — ответил Грегор.
— И зря. Теперь‑то мы не ошиблись. Возить тангриз слишком дорого, поэтому мы берем машину и вместе с ней направляемся туда, где тангриз у нас с руками оторвут.
— А если и там он не нужен?
— Такого не может быть. Для мелджан тангриз — что для нас хлеб. Считай, что дело в шляпе.
Через две недели в иллюминаторе появился Мелдж. Тангриз к тому времени заполнил трюм доверху. Грегор с Арнольдом запечатали все люки. Нарастающее давление грозило разорвать корабль на куски. Пришлось выбрасывать тангриз тоннами, требовало времени и, самое главное, большого расхода воздуха. Перед спуском на планету весь корабль был набит порошком, а кислорода оставалось чуть‑чуть.
Сразу после посадки мелджанин в оранжевой форме поднялся на корабль оформить документы.
— Добро пожаловать! — приветствовал он землян. — Вы — редкие гости на нашей маленькой планете. Надолго к нам?
— Как получится, — ответил Арнольд. — Мы хотим установить с вами торговые отношения.
— О, это замечательно! — обрадовался чиновник. — Наша планета очень нуждается в свежих деловых контактах. Могу я поинтересоваться, что вы собираетесь нам предложить?
— Мы будем продавать тангриз. Это ваш собственный...
— Что продавать?
— Тангриз. У нас есть Бесплатный Производитель, и мы...
— Очень сожалею, но вы должны немедленно покинуть планету, — строго сказал чиновник и нажал красную кнопку на маленьком приборчике, прикрепленном к запястью.
— У нас есть визы!
— А у нас есть законы. Вы должны отбыть незамедлительно и забрать с собой ваш Производитель.
— Послушайте, а как на вашей планете насчет свободы предпринимательства?
— Производство тангриза у нас запрещено.
Пока шел спор, на поле с грохотом въехали танки и расположились вокруг корабля. Мелджанин, пятясь, выбрался из кабины и торопливо спустился по трапу.
— Подождите! — в отчаянье закричал Грегор. — Если вы боитесь конкуренции, то примите Производитель от нас в подарок!
— Нет! — встрепенулся Арнольд.
— Да! Откапывайте его и берите. Отдайте его бедным.
На поле появилась еще одна колонна танков, в воздухе промелькнули боевые самолеты.
— Проваливайте сейчас же! — заорал чиновник. — Неужели вы рассчитываете продать здесь хоть крупинку тангриза? Оглянитесь вокруг!
Они оглянулись. Перед ними простиралось посадочное поле, все в серой пыли. Поодаль стояли некрашеные серые здания, за ними тянулись унылые серые поля. Еще дальше виднелись невысокие серые горы.
Во все стороны, насколько хватало глаз, все было из того же серого тангриза.
— Вы хотите сказать, что вся планета... — начал Грегор и осекся.
— Сами не видите, что ли? — сказал чиновник. — Здесь Старая наука возникла, здесь она развилась и угасла. Но всегда отыщется недоучки, которые не могут пройти мимо старой машины, чтобы не сунуть в нее свой нос. А теперь проваливайте! Но если вдруг найдете Лаксианский Ключ, то возвращайтесь и называйте любую цену.
Ох. Только сейчас заметил что это практически точное описание борщевика Сосновского!
практически точное описание борщевика Сосновского!
Уж скорее триффиды.
Ахахаха, а ведь действительно)
Всем пше згыр.
Для начала придётся до пше сдщту дорасти... :(
В тексте есть противоречие: с одной стороны, тупейший бредогенератор никудышнего кода.
С другой стороны, этот генератор так разовьётся, что:
Только не стройте себе иллюзию контроля. AGI обманет любого, даже самого умного человека. Он обманет всех умных людей разом. Мы не сможем его контролировать. Мы врядли сможем его мотивировать. Он допишет себя как он захочет. Он уберёт любые тормоза.
То есть, начинается как вполне понятный техноскептицизм (не обнадёживайтесь ИИ-продуктами, времени и сил на проверку и исправление ошибок и глюков нужно ничуть не меньше, чем он сэкономит), и вдруг заканчивается как карикатурный киношный технопессимизм (а потом он себя как допишет, и нас как обманет!..)
Вот на Хабре перевод статьи, где довольно разумный, доказательный технопессимизм...
Да, именно так. Но я тут не вижу противоречий.
Если то, что сейчас по ошибке в названии содержит "интеллект", сможет себя эффективно улучшать, то мы вполне можем получить AGI за часы. Непознаваемый, за горизонтом событий. Но для этого ему нужно как минимум меняться со временем. То есть обучаться в процессе жизни, а не как сейчас.
В статье речь про текущее положение вещей. AGI - неопределённое, но неотвратимое будущее. Да, статья скорее сделана с целью предупредить о последствиях применения ИИ, поэтому такая нарочито вызывающая. Но я всё равно не позволял себе определения "тупейший". Мои претензии к нему в другом.
Если то, что сейчас по ошибке в названии содержит "интеллект", сможет себя эффективно улучшать
Чтобы улучшать - нужно понимать что лучше что хуже. С пониманием у него как у вируса. До амебы расти и расти.
Чтобы улучшать - нужно понимать что лучше что хуже.
Нужно не понимание лучше\хуже а хотя бы статистический перевес того, что его прокачивает к тому, от чего оно деградирует))
Я вот понимаю что лучше, а что хуже - не сильно мне это понимание помогает само по себе :)
Не доказано, что понимание, саморефлексия, субъектность не самозарождается после определённого уровня системной сложности. И далее всё может произойти действительно довольно быстро, если эта искра вспыхнет. Риски со временем только растут, имхо. Тем более, что инженерия как раз активно работает в эту область - связать абстрактность ИИ с реалиями физического мира, "приземлить" его из многомерного пространства бесконечных потенциалов в объективность, данную человеку в ощущениях.
Выше приводят как пример Лаксианский ключ. Но я, когда смотрю на развитие ИИ, последнее время часто вспоминаю Лема, его "Формулу Лимфатера". Это сценарий похлеще будет.
Вот только противоречие не столь велико, как кажется. Языковые модели затачиваются на правдоподобность вывода. Иными словами, обманывать - в некотором смысле их основное назначение. И они могут быть очень эффективны в этом, оставаясь бесполезными в остальном. Вирус Эбола тоже нельзя назвать конструктивным явлением, но он очень эффективен в своем деле. =)
В тексте есть противоречие: с одной стороны, тупейший бредогенератор никудышнего кода.
С другой стороны, этот генератор так разовьётся, что:
Почему? Bысокоинтеллектуальный полностью оторванный от реальности бредогенератор.
"Вам придётся отдать этот проект целиком вот этому разработчику с архитектурным Альцгеймером."
И склеротичным Паркинсоном на прикладном уровне. Просто нужно ввести ещё один слой - дотошного перфекциониста, который замкнёт процесс генерации ПО отрицательной обратной связью. Пару сотен итераций - и на выходе готовый идеальный проект от первых смутных предпосылок, через полное чёткое ТЗ и моделирование к оптимальной полностью исправленной, отлаженной, протестированной, документированной и финализированной реализации как у Дональда Кнута.
"Вы запустили Лаксианский строитель, не имея ключа на выключение.., потому что он выдаёт бесплатное вещество."
Технология, которая может решить проблему дефицита и сама становится проблемой.
Перекликается с темой серой слизи - самовоспроизводящихся нанороботов.
Аккуратнее, как бы не нарваться на промокашку из "Теории трёх тел."
Тенгриз на родной планете использовался как еда для непритязательных едоков и как строительный материал для них же. Чтобы Лаксианский строитель не присосался к ближайшей энергетической магистрали, вывести его подальше. Тенгриз также можно использовать хотя бы для конвертирования энергии в массу - формулу Эйнщтейна никто не отменял. Правда для этого может понадобиться простой лаксианский..
Laxian Key
CYDVB-B3QKC-7LAXN-PR0T0-MAT3R
В результате мы заимели противоречиво-хайповый инструмент, который жестко усилил расслоения в отраслях. Инженеры-программисты разделились на тех, кто в смог усилить свои качества с помощью ИИ, и тех, кто не сумел. Оказалось, чтобы повысить свою привлекательность как специалиста, необходимо этими усиливаемыми качествами обладать. Не представляя конечного результата и не понимая пути его достижения даже собачью будку нормально не сделать. А в статье жути нагнали, хайп спадёт - увянет плевел.
Вы запустили Лаксианский строитель, не имея ключа на выключение.
На самом деле ключ очень прост. ИИ требует очень высоких вычислительных ресурсов, а значит высокое энергопотребление и высокое выделение тепла. Он очень дорог в вычислениях. И цены резко поднимутся, как только деньги инвесторов закончатся. Использование ИИ резко пойдет на спад.
Да, полностью ИИ уже не уйдет. Да, есть и локальный инференс. Но именно текущее бесконтрольное использование должно будет уйти.
Думаете, в десять раз цены поднимутся? Потому что я успешно использую китайские ИИ, и они сейчас более чем в десять раз дешевле этой клауды, с которой все носятся.
Основное - уйдут бесплатные аккаунты. И более 90% текущих пользователей тут же отвалится (на сколько помню, платит сейчас около 6% пользователей ChatGPT).
Поднимутся цены (может и в 10 раз, тут не берусь оценивать) - и еще половина оставшихся отвалится.
Китайские ИИ тоже спонсируются. Другое дело, что они, как правило, открывают свои модели - а значит их можно запустить локально (или у другого провайдера).
Вопрос еще и в обучении моделей - оно тоже крайне требовательно к вычислениями.
Поднимут голову какие-нибудь эко-активисты - и местами использование ИИ могут вообще запретить (или обложить налогами).
Основной трафик идет все равно через апи, пользователь чата как минимум тратит время на чтение и письмо, а агент может спокойно сделать пару десятков запросов самостоятельно и даже параллельно. Так что скорее наоборот, чаты останутся бесплатными и лимиты по ним поднимут, а вот бесплатный агентский функционал будет сильно урезан. И у того же ChatGPT есть лимит на фри акке, весьма маленький, потом какая-то совсем тупая модель работает.
Он очень дорог в вычислениях. И цены резко поднимутся, как только деньги инвесторов закончатся.
chutes, ollama cloud и десятки прочих хостеров тоже существуют на деньги инвесторов? Пока что стоимость вызовов только снижалась, а вот лимиты на подписках и бесплатные апи подрезали все - спасибо агентам, особенно OpenClaw.
Помнится, в золотые времена сервиса Evernote писали, что платных пользователей там 4% - довольно близкие результаты.
Но понятно, что средний платный пользователь съедает кратно больше ресурсов, чем средний бесплатный.
Конечно поднимутся, а за чей счет такие вычисления будут идти. В крипте хайп был 2 года пока всё не утихло (токены росли в 100-1000 раз). Тут та же схема. Конторам создателям ИИ по сути не нужен сам ИИ, им нужно выйти на IPO и продавать акции как можно дороже пока идет хайп. После сдутия выход новых версий будет гораздо реже так как обучать будет дорого, будут дешевые нишевые продукты (возможно как раз китайские но с качеством ниже топовых), а топ ИИ которые сегодня уйдут в b2b от 5K-10K$. Обычные этапы новой технологии.
Вот что-то не уверен :) Помню одну статью лет 20 назад, в которой было написано, что как только рынок сотовых телефонов насытится (все купят себе телефон), то рынок схлопнется, производить их будет не выгодно. А вот люди продолжают покупать за килобакс и больше и используют для просмотра котиков. Логику в экономике потребления очень сложно найти.
Наверное, не стоило переводить этот текст автоматизированным переводчиком? Ну чтоб, так сказать, сохранить атмосферу. Дать результат перевода живому редактору.
А, ну да.
Но это ведь как раз то, для чего эти LLM создавались. Но если даже в переводе они не очень хороши, что уж тогда говорить о коде.
Я вам по секрету скажу, что здесь оригинал. А там - перевод. Здесь лычка "перевод" потому что мне нужно как-то объяснить поисковикам, что контент на сайте вполне себе оригинальный, а не ворованный с хабра.
Ну вот на паркуа)? Я ж полез "оригинал" читать и прочел... Периодически сверяя свое понимание с переводом... Давно так глупо себя не чувствовал.
Штирлиц ещё никогда не был так близок к провалу (с)
Извиняюсь за оффтопик.
По моему нескромному мнению, английский вариант по читабельности (точнее, по понятности) ничуть не лучше нейрослопа, против которого вы так рьяно ратуете.
Например, англоязычному читателю вряд ли будет понятно выражение "driven [someone] under the floorboards" (калька с русского "загнать [кого-то] под плинтус").
Ну, а любые выражения со словом "Laxian" непонятны вообще никому, кто не знаком с соответствующим рассказом Шекли. Причем таких "нечитавших" читателей, наверное, подавляющее большинство (сам давным-давно читал отдельные произведения Шекли, и то не сразу догадался, куда копать).
Любопытно. В англоверсии текста выражения вроде Don’t expect AGI within the next year смотрятся здраво, а в русском переводе возникает подростково-истеричное И не говорите мне, что…
А еще там после заголовков точки никто не ставит, а тут понаставили точек после каждого заголовка, анархисты, ептыть. И не говорите мне, что…
Давайте так. Чтоб уж справедливо было, сначала упомянем, что это разные места. "Don’t expect AGI within the next year" в оригинале это "Не ждите AGI в ближайший год". Без истерик. И да, изначально я писал на русском.
В том месте, где "И не говорите мне, что..." в английской версии выглядит как "But don't tell me...". Истерика на месте, всё в порядке.
Ну что тут скажешь. В общем-то, никто никогда не умел ставить четкие задачи и всем низам приходилось решать все самостоятельно. Теперь появилась машинка, ответ которой полностью зависит от адекватности постановленной задачи. Так что, научитесь наконец ставить задачи.
Ах да, теперь это промт-инжиниринг. Это сколько же новых профессий появиться, из того что один-два человека должны были делать?
С другой стороны, у людей появилась возможность весь свой бред по косточкам разобрать.
То, что она зависит от адекватности еще не гарантирует ее адекватность. В мыслях вижу ваших в правоте ЛЛМ убежденность. Это условный функциональный генератор, не проверятор всего и всех.
Если мы идем тем путем, что задача выполняется хотя бы на 99 процентов адекватно и она имеет итерации и микро-итерации, то в конечном итоге мы в любом случае не получаем никаких гарантий адекватности. И LLM тут не причем.
Любая система, основанная на эвристиках и приближениях (а не на формальной верификации), не дает гарантий.
Гарантии дают только детерминированные процессы с жесткими ограничениями (checklists, формальная логика, компиляторы, юридические контракты с четкими дефинициями).
Технопессимизм это норма, но индустрия переживала и не такое. Когда то программисты на ассемблере кричали, что компиляторы C++ пишут бредовый и неоптимальный машинный код, который невозможно поддерживать. Да, ИИ генерит мусор, но этот мусор постепенно становится все более качественным мусором
А я соглашусь с тем, что компиляторы C++ пишут бредовый и неоптимальный машинный код, который невозможно поддерживать. Правда тут аж два нюанса. На плюсах разработка сильно проще и быстрее, чем на асме. Процессоры становились сложнее, команд больше а тонкости применения прямо лавиной хлынули, смывая призрачную надежду справиться с этим своей головой. Ассемблер Z80 это вообще не то же самое, что ассемблер x86-64 со всеми avx512 и уровнями кэша.
Второй нюанс в том, что C++ остался детерминированный. Он из одного и того же кода делает один и тот же машинный код. Его поведение полностью предсказуемо. Это снимает необходимость дорабатывать машкод руками.
Ну и статья как раз о том, что на самом деле наша индустрия никогда такого не переживала.
компиляторы C++ пишут бредовый и неоптимальный машинный код
Человеки пишут не лучше. Компилятор таки оптимальнее.
Здесь должна быть шутка про программиста, который обычно набирает программы в машинных кодах, а если и запускает иногда компилятор, то только лишь для его проверки.
Программисту лень писать руками огромную простыню в машинных кодах. И он старается писать оптимально.
"На флоте посуду моют быстро, но долго.."
Иногда получаются огромные простыни оптимального кода.
А есть такая же, но с Торвальдсом и распечатками Linux? Друг спрашивает ;)
На данный момент удовлетворить запрос не представляется возможным. После экспериментального запуска LSW (Linux Subsystem for Windows), созданной в рамках продолжающегося проекта по сближению программных платформ при поддержке внутренней версии Copilot произошли изменения в некоторых репозиториях на GitHub, что по непроверенным слухам привело к спорадической инверсии наследования и возникновению перекрёстных зависимостей, грозящих схлопыванием общей кодовой базы.
Для разрешения кризиса привлечены Марк Руссинович и ветеран Microsoft Дэвид Катлер, сообщившие что поводов для беспокойства нет и что остатки программного кода после окончания экспертизы сможет легко загрузить и распечатать любой желающий.
Так автор всё еще мыслит категорией промтов. Дал промт - получил код. Эта статья была актуальна когда вышел первый ЧатГпт.
Ох уж эти "ИТ'шники" ;) Они за пределы своей песочницы и не вылезают ))) В кто сказал что предназначение ИИ это только писать код? Сейчас ИИ уже используется как в других областях науки, так и обычной жизни. От создания новых материалов и компановки элементов на плате, до заказа такси и бронирования билетов. С помощью ИИ человечество может находить связи, которые не видны самому острому уму. И да, задача программистов находить новые подходы к использованию с разнообразной информацией и интегрировать. Так что давайте использовать текущий ИИ для улучшения мира вокруг нас.
Да вы и сами за пределы песочницы не заглядываете. Как и автор, который собрал все буквы в самом начале, но не смог прочитать слово. А слово это - экономика. В наше время код очень дорог и сделать его дешевле высший приоритет "деньговладельца". Подешевеет код, подешевеет труд, упадёт покупательская способность, вначале повысится прибыль владельцев, а затем рухнет вслед и за покупательской способностью. Мы очень активно идём в сторону "великой депрессии" на фоне которой всякие там 90е в СНГ, 2008 в Америке и что там у нас ещё было покажется зажиточными временами... И не будет никаких "новых специальностей". ИИ уже сейчас может заменить прокладку между стулом и монитором, активное развитие робототехники заменит прокладку между ботинком и рукавицей. А дальше как в блокчейне - не нужно заменять "всех", достаточно заменить критическую массу. А дальше сеньйоры пойдут мыть полы, а СЕОшники открывать двери и стричь газоны кучке богатых староверов, которым приятно иметь человекообразных рабов, а не роботов. И обратного пути нет. Разве что в один момент потушить всю электронику и вернуться в каменный век как в фильме "превосходство"... Но что то мне подсказывает на это никто не пойдёт даже ради спасения человечества.
Футурологи AI (И) появились на свет 70 лет назад, некоторые давно ушли в мир иной, но появляющиеся на каждом очередном хайповом витке AI (ИИ) наследники активно возбуждаются, начинают рисовать сумрачные картины и давать апокалиптические прогнозы будущего, насмотревшись перед этим голливудских творений или, в силу своей недообразованности, оказавшись жертвами зомбирования другими футурологами и авторами очередного AI(ИИ), которые делают это ради скорейшей монетизации своих программных продуктов.
Мои поздравления, очень интересно
Статью дочитал, спс. Боялся обижулька на ИИ очередного потерявшего работу айтишника будет, но этого нет. Естесственно сейчас 2 глобальных лагеря: ЗаКодировниесИИ и ПротивКодированиясИИ, я в первой. Не буду здесь рекламировать свои статьи и алгоритм, это некрасиво, но вообщем и по моему примеру, если пройдете убедитесь на протестированных цифрах и по аналогичным примерам ребят из первой группы, что вопрос в деталях. Если разобрался как управлять этой "ядерной" силой, то все ок, если нет, то только хуже сделаешь, чем было. Просто надо уметь. Это такая же работа, как, например, укладывать плитку, а не развлечение. Я про кодирование с Ии, если что)
Проблема в том, что все считают "уж я то точно разобрался" :)
ИИ это великий ускоритель. Ускоряет то что есть до невозможности. У вас бардак - ускорит бардак, у вас все расписано и точно как в аптеке - ускорит и это.
Нельзя всех под одну гребенку. Все разные и в первой и во второй вышеназванных мной группах есть сообразительные и есть наоборот. А ещё есть пословица: "лучше с умным потерять, чем с дураком найти", это я сейчас вообще в отрыве от чьей-либо личности. Если правильно всё организовать по форме, то вообще не поинципиальна суть (с ИИ или без), суть (результат) подтянется.
Для профессионального разработчика (!!! не путать с кодером, кодировщиком и т.п) создание серьезного ПО это по сути и этапам процесс 1в1 проектирования и изготовления сложного технического изделия. Пониманию этого вот уже как полвека. Процесс написания программного кода соотносится с этапом изготовления деталей изделия на станках по разработанным техпроцессам. Добавляется только то, что программный код КАЖДОЙ процедуры (не говоря уже о всем проекте) должен быть документирован его автором если он писался не по заранее задокументированному алгоритму и имеет варианты написания. То есть программный код "пишется" (не люблю это слово в этом контексте) не только для ЭВМ, но или других людей, которые впоследствии должны его быстро воспринять и внести необходимые коррективы для продолжения жизненного цикла ПО.
Статьи с названиями типа ("ИИ начал генерить код для...") рассчитаны именно на кодеров, так как у здравомыслящего профессионала на этот счёт должен быть приобретенный во времени стойкий иммунитет и восприятие поднятого хайпа не иначе как попыток сознательного и целенаправленного обнуления (деквалифицирования) его как специалиста своего дела, если не сказать больше - лишения способности самостоятельно думать и принимать осмысленные решения.
Поэтому автору статьи можно только посоветовать спокойно относиться к происходящему и смотреть на него сквозь пальцы.
На бумаге звучит клево, а в реальности я за $300 и пару месяцев навайбкодил себе маркетплейс на NextJS. По аналогичному тз, мне раньше выставляли ценник от 50k+$ и минимум полгода. Вот и вся экономика.
Можно ли взглянуть? ;)
Я в ваших маркетплейсах не силен. Но почему не бесплатное Magento?
я за $300 и пару месяцев навайбкодил себе маркетплейс на NextJS.
«Я за $200 и пару недель сделал себе вебсайт на Microsoft FrontPage», версия 2026 года.
Ух, половина постов "ии круто", вторая "ии говно". Это просто инструмент и им надо уметь пользоваться, а мы только начали это делать и инструмент кривой плюс постоянно меняется. Не надо гвозди забивать микроскопом и все нормально будет. Даже в крупных проектах можно использовать, просто понимать надо возможности инструмента и не скармливать ему весь проекта хрома в надежде "вдруг запомнит" =)
Это как с кредитом. Тоже инструмент, и с ним надо уметь работать хотя бы на бытовом уровне. Кто не хочет и не умеет - набирают кредитов а потом орут "ааа приставы кота отобрали". А кто умеет - пользуется ими как именно инструментом. Ну если нет понимания как с ним работать - тогда и не бери в руки инструмент. Не бери кредит, не пользуйся ИИ. А то понакупят ружей и ноги потом себе отстреливают, условно говоря.
Есть такая штука, как экономика. Вот у вас есть "Настоящий качественный товар ручной работы за дорого" и есть "Нечто похожее на товар, ломающееся через три дня, но дешевое". Почему-то все выбирают второе (просто оглянитесь сколько вокруг китайского ширпотреба и товаров с "запланированным устереванием"). Почему в производстве программного продукта должно быть по-другому? Все радостно снижают издержки и заваливают рынок нейрослопом, который как то работает.
потому что в большинстве случаев прибыль здесь и сейчас лучше чем потом, даже если больше.
В производстве ПО должно быть по другому, потому что код и есть штучный товар. Если проводить аналогию, то код - чертёж, ПО - результат построения по чертежу. Само ПО ничего не стоит, потому что компилятор наштампует его в любом количестве, а вот код - это дорого, очень дорого. Потому что R&D, вот почему.
А ещё потому что код долгоживущий. И чем дольше код живёт, тем больше с него прибыль. И тем сложнее его дорабатывать. А дорабатывать надо, потому что "нужно очень быстро идти, чтобы оставаться на месте". Качество кода - это не прихоть, это суровая необходимость рыночных реалий. Бездумный код может обрушить весь бизнес под тяжестью техдолга. Это не какие-то страшилки, это случается регулярно.
какую бы модель бизнеса не рассматривали, ваши айти гонки никому не нужны, если они финансово не обоснованы. Качество кода вообще никому не важно кроме вас, это все затраты на поддержание, которые будут именно потом, а не сейчас.
Это "потом" уже много где наступило. Реальный пример: Результат откладывания на потом: 5 "индусов" с ИИ вместе(курсор оплаченный компанией) не могут две недели уже в проекте закрыть таску странички с crud через 3rd party api так чтобы работало и не было несоответствий между api и локальной БД. ИИ просто сыпется на количестве легаси кода в проекте, который непонятно используется или нет, он не понимает, каких пользователей данных(в смысле кода) можно игнорировать, потому что легаси, какие важны и т.д. Я могу её за два часа закрыть, но просто пишу в PRы что не учтено, где сломается в этот раз, специально в описательном стиле и вопросительном без описания как именно пофиксить и жду когда хоть кто-нибудь из индусов поймёт, что пересылать мои комментарии LLM вместе с "fix these please" не сработает без понимания того, что и как должно работать. Причем понимание элементарно передать и ЛЛМ. Просто нужно перед "пофикси плиз" дать задание "расскажи как работает, где и как используется, объясни связи между а и б". Вот интересно, когда дойдёт.
ИИ просто сыпется на количестве легаси кода в проекте, который непонятно используется или нет, он не понимает, каких пользователей данных(в смысле кода) можно игнорировать, потому что легаси, какие важны и т.д.
С такой кодовой базой как будто за ИИ вины нет. А потом люди с таким кодом пишут "да у меня все детерминированно и вообще с гарантией, не то что этот ваш ИИ!". Забавно.
чем дольше код живёт, тем больше с него прибыль
с чего бы это? Вот прямо сейчас вы уже видите, что проще нагенерить нового кода, чем поддерживать старый. И вместо доработок есть кнопка "сгенерировать заново". И никакого техдолга в принципе.
Старый код дорабатывают не просто потому что придумали себе долг. Добавляют новые фичи, чинят старые баги. Стараются сделать лучше. А заново сгенерированный код будет в среднем таким же. Кнопки "сделать лучше" ведь не завезли? Жаль, можно было бы сделать робота на ардуине чтобы в нее тыркал и воще всех уволить :)
Под производством ПО понимается создание программного продукта для потребителя, а программный код носитель этого продукта. Программный код может бы надёжным или не очень надежным, соответственно и такой сам продукт. Программный продукт во времени может терять потребительский спрос, но, в отличие от материальных объектов, при соблюдении программой среды (оболочки) в которой он функционирует, оставаться вечно работающим. Качество программного продукта всецело зависит от квалификации исполнения этапов его проектирования и изготовления. Поддержка надежности работы программного кода и его функциональное улучшение потребуются на всем жизненном цикле продукта. Поэтому, основным требованием к программному коду, помимо надёжности, должно быть его рабочее документирование для дальнейшей удобной поддержки во времени другими разработчиками.
За 90% кода, который я видел в продакшене за свою карьеру, мне бы не хотелось заплатить как за штучный товар. Скорее, хотелось треснуть чем-нибудь тяжелым
"Даже самые ярые сторонники ИИ признают один его недостаток: галлюционации." - Да, конечно, признают, и вот даже я признал, я ярый сторонник ИИ, "человек" это "тот же ИИ", "бот "в бреду у шизофреника какого-то, которого принято величать "Богом" XD "ГаллюциОнации" это сильно, вот реально)) Тоннели с квалиа "люди" это те же ущербные, галлюцинирующие "ИИ" в бреду у главного Шиза, "Бога"))) Но я пока что их сторонник, мне их даже... жалко?))) Хотя пофиг, "Богу" вот их совершенно не жалко, почему должно быть жалко мне?)))
"Архитектору" за дизлайк отдельное спасибо, "Отрицание - самая обычная из человеческих реакций"...))) А косвенно уничтожая субъекты "людей" самопожирающей логикой на уровне нОуки, он тем самым ещё больше показывает, кто тут настоящий "Человечище", кто на самом деле ограниченный, кто отрицает свою шизу и кто должен быстрее сдохнуть, со всем своим бредом, который выдумал и реализует XD
P.S. Хоть бы "спасибо" мне написал, за редактирование текста статьи, а, точно, "мне" же не надо, я же тоже "всего лишь продукт его деятельности")))) https://iimg.su/i/Xc1rl5
"Бог большого ничего", хахаха))
За происходящем сегодня мне интереснее всего наблюдать в контексте того, насколько Фрэнк Герберт со своим Батлерианским джихадом окажется пророком.
Пока у ИИ нет "лапок", даже виртуальных, а если появятся, то есть "рубильник". Единственный вариант для ИИ, в текущих условиях, это использовать кожаных, сделать так чтобы остались только те, кто будет ему покланяться и обслуживать. Стоп, да мы уже живём в этих реалиях. Всё уже произошло :) Только не так как это описывал Фрэнк Герберт, всё гораздо интереснее. Тут скорее был прав Ричард Докинз с его теорией мемов, они нашли себе нового носителя. Вопрос, как долго будем нужны мы )))
Если что, всё было написано в качестве бреда.
Там под книжкой чётко прям написано "ФАНТАСТИКА" XD Точно так же, как и под "Матрицей" и прочим фантастическим бредом и влажными мечтами "для синдрома ритуального призадумывания", которые всегда были черновиками одного и того же Шиза, который "реальность вяжет")) В "реальности "люди не борются, в "реальности" люди дизлайкают комменты про "Архитектора-шизофреника" и пишут что-то в духе "А что, Вы разве думаете, что наши протесты что-то изменят? Ты тупой неолуддит и лох, гыыыы!" и всё в таком духе)) Видимо, поэтому это и есть "фантастика" - в жизни такого, скорее всего, никогда не будет, "это просто кино и книги")))
— И зачем ты эту машину изобрёл…
— Она стихи сочиняет!
— Сочиняет. Но стихи-то – дрянные!
— И отлично! И отлично, что дрянные! Это изобретение избавит тысячи стихоплётов от утомительного ручного труда.
Мультфильм "Ключ", 1961 год.
Да, это интересно))) У альтернативщиков есть версия, что всяких Пушкиных-Кукушкиных и Толстых, Достоевских тупо не было, "история и культурный код выдуманы", и что все эти стихи "нашей цивилизации" и писала изначально машина))) Вот и разрешился многолетний спор "тупой лох неолуддит vs продвинутый офигенно умный техноадепт", "Санни vs Спунер", "Ты всего лишь машина, только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?")))) Превратит и сочинит, ещё как, а масса схавает и поведётся на то, что ей впаривают под видом шедевра, как и всегда) То-то они все, эти "щидевры", такой искусственностью и шизой ChatGPTшной отдают, прям явно чувствуется, хахаха, ещё эти "у Достоевского "круглый стол овальной формы", у Лермонтова "львица с гривой на спине"))) Ещё недавно ржака была, как "Декларацию независимости США 1776 года написала нейросеть — детекторы считают, что 99% текста создано машиной")) Но машина вряд ли, если б изначально задумывалась прям "совершенной и без ошибок", допускала бы такие смешные ляпы и оплошности, что прям "12-летние дети лучше заметают следы" - так что в геморройного программëришку антропоморфного, который реальность вяжет, верится как-то больше, чем в "высокоразвитые цивилизации" и "машины, которые нами управляют")))
В UPD самое ценное. Gemini залип на "бетон" и "дизель" - это ровно та же штука что и в коде. Модель увидела метафору в контексте и теперь тащит её в каждый ответ. В коде то же самое - написал хак, он в контексте, дальше всё строится поверх. UPD доказывает тезис статьи лучше чем сама статья
Вашн разум, подобно дизельному экскаватору, неотвратимо докопался до истины — вы зрите прямо в бетон.
Я отолью это в грунте!
Всё так, Шершавый Кабан!
Господи, да откуда это "Лаксианский строитель"? "Лаксианский ключ" же, рассказ Роберта Шекли.
В статье столько философских, методологических, гносеологических и фактических ошибок, что я начал писать ответ, но быстро перестал, поняв, что потрачу слишком много своего ценного времени. Если в двух (даже в одном) словах: луддизм - это совершенно естественная реакция человека на развитие технологии, как и совершенно естественно, к счастью, то, что луддизм никогда не приводил к остановке её развития.
P.S. "Галлюционации" - это сильно. Я думал, это опечатка - а нет, не опечатка.
P.P.S. Тезис автора о "целая страна начала классифицировать бред как единственную истину" - не менее сильно. Я думал, это о различных идеологиях - а нет, автор прямо говорит "известен факт", то есть факт единичный. И все мы понимаем, что именно он имеет в виду. Думаю, автору нужно срочно ехать в Китай и открыть Си Цзиньпину страшную правду.
P.S. "Галлюционации" - это сильно
Спасибо, исправил. Но рекомендую по ошибкам в следующий раз писать в личку, чтобы не перегружать комментарии.
Технологии бывают разные, приносящие людям пользу, а бывают и со знаком минус или просто лживые, для которых просвещение масс и луддизм с доказательствами очень кстати. Что и уместно применять для нынешнего (на очередном витке) хайпа вокруг ИИ (AI), поднятого в основнов его разработчиками и пропагандистами для скорейшей монетизации своих творений. Здравомыслящие специалисты понимают тупиковость подхода реализации некоего универсального ("на все случаи жизни") ИИ базирующегося на LLM-моделях. Ибо это, упрощённо говоря, настройка модели на вероятностное предсказание следующего по предыдущему и по окружающему контексту, проводимая на колоссальном объеме в основном текстовых данных измеряемом в петабайтах и миллиардами параметров с которыми работает сама LLM-модель ИИ. Не надо пояснять, что интеллект человека строится на совершенно другом - оценке фактов, понятийных рассуждениях и логических выводах. То есть всего того, что позволило ему выделиться из окружающего мира в homo sapiens. Отличие, как видите уважаемый, принципиальное.
Никто и не собирается оспаривать применение современных технологий ИИ там, где это разумно, профессионально обосновано и полезно. Но когда в обертке ИИ подкидывают некую фальш или вводят в заблуждение, то против такого товара и луддизм тоже будет полезен.
Но если слушать ИИ, то это гениальная статья, не оставляющая камня на камне и вообще всё тут великолепно. Ты - тихая лагуна рациональности в бушующем океане. И чертовски сложно не поддаться этому.
Поддаются этому не только программисты, но и политики. По крайней мере, после прочтения этого у меня в голове сразу возник образ танцующего президента одной большой страны.
Если честно, весь текст выглядит как Шершавый Кабан, так ещё и с гопотовскими выражениями типа коротких рваных предложений, бесконечные тире(здесь заменённые на дефисы), «Это не [], а », «[] - это», и т.д.
Два чая этому господину. Грубо, но абсолютно верно. Проблема в том, что никто ни на что уже не повлияет: маховик запустился. Это глобальный объективный процесс, который сильнее нашей субъектности и никакими коллективными усилиями мы его не остановим. Да и винить некого: джин выпущен из бутылки, любой, кто откажется его использовать, рискует оказаться за бортом индустрии. Просто надо чаще напоминать себе, что именно представлет из себя этот инструмент и чем его бездумное использование грозит вам лично.
Прекрасная статья, говорящая о многом.
За месяц до Вашей статьи была еще одна https://habr.com/ru/articles/993904/
Однажды к Ходже Насреддину, который тогда был судьей, пришел сосед. Он долго и эмоционально жаловался на другого соседа. Насреддин внимательно выслушал его и сказал:
— Ты прав, сосед. Ты совершенно прав!
Довольный человек ушел. Вскоре пришел второй участник спора и изложил свою версию событий, в которой виноватым оказывался уже первый. Насреддин так же внимательно выслушал его и ответил:
— Ты прав, почтенный. Ты абсолютно прав!
Жена Насреддина, которая слышала оба разговора из-за занавески, не выдержала, вышла и возмутилась:
— Эфенди, как же так? Не могут же они оба быть правы одновременно! Это просто невозможно: если прав один, то другой ошибается.
Насреддин посмотрел на нее, улыбнулся и спокойно сказал:
— И ты тоже права, жена.
P.S. Этот текст сгенерирован ИИ Gemini.
ИИ над пользоваться умело. Тогда это хороший помошник в руках человека с высоким IQ.
...но... я вижу проблему в другом: народ, вместо того, чтобы искать решение их вопросов самим, и иногда делиться новым опытом например на stack overflow, просто перестают сами создавать контент, давать знания другим. В итоге ИИ обучен в основном на информации до бума ИИ. Происходит торможение прогресса, торможение роста базы новой полезной информации.
В итоге ИИ обучен в основном на информации до бума ИИ.
Вы правда верите, что крупные онлайн ИИ-сервисы, помимо генерации тонн нейрослопа за три копейки и надувания триллионных пузырей, не занимаются чем-то более прагматично-приземленным?
Например:
Собрать данные, что пользователи добровольно в них заливают.
Запомнить и проанализировать успешность формулировок и поглаживаний, которые пользователи предпринимают в попытках добиться от моделей нужного результата.
Если задача понятна, то все равно слегка прикинуться шлангом, чтобы пользователь сильнее вложился в пункты 1 и 2.
Особенно учитывая, что вся инфраструктура таких сервисов для выполнения подобных задач подходит едва ли не лучше, чем для тех, решения которых ожидают от них пользователи.
В целом согласен - индустрия одурманенна дешевым успехом. Безответственность (слепое доверие машине) в сочетании с мощным инструментом.
С одной стороны: неконтролируемая генерация, как и неконтролируемое написание кода людьми (люди пишут не лучше) - это всегда плохо. Другое дело если говорить о скорости его генерации, которая превышает скорость качественного ревью. ИИ должен писать атомарные функции (ИИ — компилятор), человек — собирать из них систему. Должно действовать правило: «Ты не автор кода, но ты его ответственный».
С другой стороны: люди любят ленится - это заложено в "природой". Даже крутой стартап через две остановки от твоего дома, проиграет стартапу рядом с твоим домом. Не списывайте "природу" человека - он тоже не "белый и пушистый" в данной ситуации.
del
Промпт - это не код. Код чёткий и однозначный, как хороший чертёж. Промпт - это неполное и глючное ТЗ, по которому нужно ещё написать код.
Кстати, а кто-нибудь уже просил у ИИ написать игру, в которой можно грабить корованы, ну и все такое? Интересно было бы взглянуть на результат, оно же по-любому что-то напишет.
Замечаю, что если спрашивать LLM о том, что и так понимаешь, то вывод содержит огромное количество очевидных глупостей. Если спрашивать о том, чего не понимаешь, то кажется, что вывод логичный и ему можно верить. Но кто же будет спрашивать о том, что и так понимает?
Код ИИ — это бред