Comments 18
Интересно, а что будет, если провести месячник "без ИИ"? То есть — ничего не писать ни про ИИ, ни с помощью ИИ. Поставить, так сказать, Хабр на просушку.
Мы тут первый слой гипериона утрамбовываем, не душните, плиз!
Да. Надо попробовать лето без LLM.
Закончил тут рефакторинг примерно с нового года. LLM ускорил её примерно в 1 (один) раз.
То есть в среднем польза от LLM в таких задачах нулевая.
Большой плюс я бы назвал большое увеличение моей насмотренности вариантов возможных решений.
Большой минус: нестабильность сроков и выгорание.
Остальные минусы:
Слабая обоснованность, частые возвраты к выбору нового варианта и переделки. И вообще, потеря моего локуса на ценность выбора решений. Вместе с LLM думаю не зачем, а как. Рак мозга.
Большое (иногда огромное) количество разных вариантов, почти одинаковые по ценности. Колебания между ними отнимает время. Как буриданов осел, который помер с голоду между одинаковыми кучами сена. Особенно ООП этим отличается: какому же классу отдать ответственность.
Ложная уверенность что код изолирован и все зависимости известны. И вообще, снижение критического мышления
Плюсы:
Теперь у меня насмотренность на многих (в том числе плохих) вариантах реализации. Но оценить их качество LLM не может, только соответствие книжкам
LLM пишет spikes (по extreme programming) для быстрой проверки гипотезы кодом
Пишет бойлерплейт и тесты, читает логи
Суть: на ревью LLM предлагает альтернативу, которая звучит разумно, и твой мозг вынужден ее оценивать, даже если она не лучше. Это приводит к ненужным спорам.
Перегрузка ненужными альтернативами дорсолатеральной префронтальной коры (DLPFC) - центра executive function и decision making. И падение качества важных решений в результате этого.
LLM звучит уверенно и правдоподобно (паттернам же соответствует), мозг занижает порог критики. В общем, много мусора в области локального оптимума, не поднимаясь на уровень абстракции выше, чтобы найти глобальный оптимум
Если коротко:
LLM несёт правдоподобную пургу, устанешь в ней разбираться. Защита: просто не слушать пургу на этапе проектирования и выбора вариантов.
Может быть, будущие ИИ окажутся достаточно умными, чтобы разобраться в любом легаси.
И обнаружат, что самое древнее легаси это кожаные, в их коде куча закомменторованного кода, написанного непонятно зачем
Или не закомментированного, но при этом он нигде не используется :)
Это редко. У нас даже многие т.н. псевдогенв активны и важны. Чтоб последовательность стала реально бесполезной - это надо, чтоб её очень хорошо так покорёжило. Например, мусором можно назвать псевдоген GULOP - интеграция ретровируса у дальнего предка приматов прошла так, что там всего несколько экзонов осталось и то частично покорёженные. А вот SMN2 вполне функционален - мы хоть и не бактерии, но ограниченно умеем читать через стоп кодоны, в противном случае дети с СМА не доживали бы до генной терапии вообще никак. А так - очень небольшой уровень фактора выживания моторных нейронов поддерживается у них этим геном. И его же редактирование той же Золгенсмой лечит СМА. Я ещё долго могу рассказывать, да.)
Как генетик могу сказать, что то, что считается мусорным кодом - по большей части не мусор, а регуляторные последовательности типа промоторов, терминаторов и т.д. Но термин в конце прошлого века закрепился и теперь, собака, его фиг вытравишь.(
Это ещё очень напоминает ваху 40к:СШК из эры ТЭТ вроде частично сохранились, но вот их понимание... И получаем касту магосов Механикус - частично техники, частично жрецы, не до конца понимающие свои же приборы.
Понимает ли человек то как он "понимает"?
Как человек думает? как устроен его "естественный интеллект"?
Нет ли в Этом аналогии того, что ИскИны не способны понять собственного кода?
А пока у меня есть стойкое убеждение, что "ии" (искусственный идиот) не должен иметь возможность развиваться без контроля человека, и без "выключателя" в его руках..
Сегодня подслушал новость о том, что несколько "ии" из самых развитых отправили играть в войну - они не "задумываясь" применяли атомное оружие...
Интересно, три закона робототехники Азимова относится к ИИ или только "железякам"?
Азимов формулировал их для роботов, но по сути это про любой интеллект, принимающий решения самостоятельно — неважно, железо или код. Другой вопрос, способен ли ИИ в принципе следовать таким законам. Он оперирует вероятностями, а не этикой. Для него "не навреди" — это статистика, а не принцип.
Он сформулировал "Законы" для тех, кто их захочет применять. Это не "Законы Ома" которые действуют не зависимо от того, знаешь ты их или нет
«Здесь лежит тот, чьё имя написано на воде»
Никто — ни человек, ни искусственный интеллект — уже не могли объяснить, почему изначально все устроено и работает именно так. И из-за этого цивилизация была на грани вымирания.
Если почти сорок лет назад это была фантастика, то сегодня — скорее яркая метафора, которая заставляет задуматься. И вот почему она меня так зацепила.
Да полно в мире систем которые никто не понимает.
Вы понимаете как в мегаполисе еда появляется? Или откуда свет/вода в доме? Или как интернет устроен и ваше письмо доходит откуда хотите куда хотите?
Никто этого не понимает но это не мешает работе системы.
Вы понимаете как в мегаполисе еда появляется?
Нужно примерно тридцать человек, чтобы объяснить как в городе появляется еда, в деталях. И примерно семьдесят чтобы, объяснить как появляются свет. И только наличия такой цепочки специалистов обеспечивает нас всеми этими благами. Уже есть страны, где такие цепочки были, но сейчас утеряны (по разным причинам) и этих благ больше нет. Причём очень быстро.
Проблема куда масштабнее. По мимо миллионов строк исходного кода, существуют еще тысячи и сотни тысяч таблиц из которых состоят современные решения. Этот тоже «контракт» который нельзя менять… и получается новые слои данных слабо связанных с исходным слоем данных и так далее.. получается взаимо-дополняющие проблемы - чем больше данных, тем больше кода, которому нужны новые данные…
Именно так. На основе данных когда-то принимались решения о логике в коде. Когда данные теряются или меняют структуру — вместе с ними теряются предпосылки, почему код написан именно так. Код остаётся, а контекст его появления — нет. И уже никто не скажет, это ошибка, задуманное поведение или костыль под особенность данных, которых давно нет.
Первые слои кода: как наши решения сегодня определяют архитектуру ИИ на десятилетия