Никто и не говорит, что в LLM нет пользы. Никто не говорит, что нужно все бросить и больше ничего не делать.
Неверный путь развития здесь в том смысле, что LLM не приведет к сверхразуму, хоть сколько увеличивай количество видеокарт, ветвь тупиковая для такого результата. Тот же OpenAI это прекрасно понимает.
Понятие AGI постоянно размывается. Если раньше (10-15 лет назад) под этим подразумевали почти что сверхразум (ASI), то теперь плавно смещают в сторону эффективного софта.
Если кто-то задаст вопрос где же ваш сверхразум, который вы обещали, им ответят, что вы просто изначально все не так поняли, мы не говорили, что AGI это сверхразум.
Статья как раз для тех, кто ждал чуда. Разумеется, нет смысла объяснять специалистам в чем польза от ИИ и в чем его ограничения. Кто знает, тот использует по назначению, а кто не знает, тот ждет чуда, особенно после обещаний, что AGI появится уже буквально завтра, уже вот-вот, нужно лишь немного подождать.
Да, все так. Когда ТЗ пишет компания А для компании Б, она максимально не в теме что там у компании Б. Здесь нужно очень подробно описывать и возникает тот самый эффект ошибки проекции и проклятия экспертизы. Это человеческий фактор и никуда от этого не деться ни при работе с людьми, ни при работе с ИИ. Только в случае с ИИ возникает еще одна ловушка - он не присутствует в физическом мире и не видит что вокруг. Приходит архитектор на местность, чтобы понять, какой нужно строить фундамент. Он сразу видит: ага, песок и уклон, а еще рядом вода и обрыв с другой стороны. У него мгновенное понимание, что обычный фундамент здесь не подойдет. Нужны сваи, укрепления, контрфорсы. Для ИИ придется все эти детали описать и ничего не упустить, иначе он напроектирует...
Если бы нейросеть умела читать внимательно, не пропуская ни одной запятой, то она могла бы быть к этому близка. Но она не обрабатывает запрос последовательно. В этом проблема. Ее обработка это взгляд сверху. Быстро выхватить общую суть, а важные мелочи ускользают. Когда начинаешь ей указывать на пропуски "я же тебе говорил еще вот это учесть", она соглашается, что да, извините, сейчас исправлю и так может продолжаться бесконечно. Это только время отнимает.
Человек часто держит в голове вещи, которые сами собой разумеющиеся. Поэтому когда человек пишет ТЗ для человека, есть масса моментов, которые все знают и так, о них не нужно писать отдельный абзац или пояснения.
Точно так же существует контекст. Например, в какой-то организации Володя знает, что Василий Петрович по утрам не в настроении и к нему лучше заходить после обеда. В ТЗ такое писать не будут, но при программировании учтут. Для ИИ ассистента же это нужно указать явно, а это доп. время.
Вы правы. История повторяется постоянно. Это я и хотел показать в статье, что сейчас мы (человечество в целом и бизнес, в частности) снова верим в чудо. Ну а как еще? Люди хотят чуда всегда))
В 80-90 был такой же ажиотаж вокруг САПР (CAD). Считалось, что теперь любой студент, умеющий нажимать на кнопки, заменит старых дедов с кульманами.
"Деды" старой школы стали бояться, что их выставят на мороз и это действительно происходило.
А студенты рисовали чертежи мышкой в несколько раз быстрее. Однако очень скоро выяснилось, что студенты рисуют красивые детали, которые невозможно обработать на станке (не хватает технологических отверстий и прочего).
Валы на чертежах прекрасно вставлялись в отверстия, но в реальности нулевой зазор этого не позволяет и т.д.
Когда оператор САПР рисует без базовых знаний, в голове не возникает понимания почему именно так, а не иначе.
В общем, достаточно быстро наступило похмелье и откат, а стариков начали звать обратно. Не для того чтобы снова рисовать на кульманах, а чтобы была экспертиза. Они говорили как рисовать и почему.
На эту тему есть разные материалы. Например, вот здесь человек рассказывает, как это было.
План был, контроль был, но не работал. Приходилось заставлять палкой. А всему виной схема оплаты, ведь деньги уже получены, больше делать ничего не хочется.
80% работы сделал станок, деньги получены и может быть даже частично потрачены, а работа ведь сделана не до конца и ой как не хочется ее доделывать.
Конкретно в этом случае было еще историческое наследие, оно замылило глаз, как мне кажется.
Пример ниже условный:
Раньше делали только шайбы. Шайба является конечным продуктом, не требующим сборки. Деталь = продукт. Была схема оплаты за деталь и здесь он выглядит нормальной.
Но вот мы начали выпускать другую продукцию, которая стоит из двух деталей. Схему оплаты надо бы поменять, однако она осталась прежней.
Возможно, вам не понравилась именно фраза про "маленьких бизнесменов", но я ведь расшифровал что под этим понимается. Раньше у них "выкупали" полуфабрикаты, а теперь готовую продукцию, эта формулировка нужна для сдвига в сознании собственника и не более.
В бухгалтерию они пошли потому, что раньше им было не интересно сколько там зависших на складе полуфабрикатов, у них об этом не было никаких записей. А теперь они стали записывать себе в блокнот и сверять. Вычисление остатков это их личная инициатива, никто не заставлял.
Но если вы увидели в этой схеме что появился именно "бизнес внутри бизнеса", то в таком случае он был и раньше - всё та же сделка, которая была и никуда не делась. Только раньше такой "бизнес" был направлен на создание проблем компании, а теперь на пользу.
Возьмем самую распространенную схему: продажники получают процент от сделок/оборота. Эта схема используется повсеместно. В зависимости от схемы мотивации они раздают скидки направо и налево, лишь бы продать, или наоборот - прижимают скидки, потому что скидка - это прямая потеря в деньгах лично для него. Что мешает им устроить маленький дефицит и повышение процента за сделку?
Устроить дефицит - это мгновенно обнулить свой доход (оклада же нет). Сколько они так протянут? Это должен быть коллективный сговор, иначе не имеет смысла. Какова вероятность, что все они на это пойдут разом?
В крайнем случае, на складе есть остатки готовой продукции и компания не загнется через месяц, если распрощаться с этими забастовщиками и взять новых. А вот забастовщики рискуют остаться ни с чем. И ради чего? Чтобы не ходить в бухгалтерию?
Поэтому система и взлетела: она делает личный интерес сотрудника не противоречащим, а совпадающим с интересом бизнеса. И это решает проблему надежнее, чем любой контроль.
В любой системе есть рычаг/точка баланса, которая позволяет с малым усилием обернуть ситуацию вспять, примерно как в дзюдо. Главное и самое сложное - ее найти.
Возможно, в той истории шла речь не о конкретном заводе и директоре, а о системе ОГАС (общегосударственная Jira или скорее ERP) и львовском эксперименте. Может здесь или здесь, или где-то еще))
Спасибо за ценную подсказку! Даже дополнил статью на этот счет.
Ваш руководитель был абсолютно прав. Я пришел к такому же выводу спустя годы. И данная история стала основным вкладом в это понимание. Из-за неопытности и недостатка мудрости я тогда не мог разглядеть, к чему это может привести.
Для меня это было просто очередным достижением в копилку, а для них это могло обернуться трагедией.
Они всегда говорят: какая премия? это твоя работа, мы тебе платим зар-пла-ту!
У меня есть случай из самого начала моей карьеры (2005г), когда я сделал такую оптимизацию, которая сэкономила тонны бумаги (в прямом смысле), тонера, ресурсов принтеров и копировальных машин, ну, и человеческого времени тоже. Думаете они дали мне премию? Это твоя работа! Так они сказали.
Но это 1с8, а у них была 1с77 бух (файловая), да еще и устаревшая не знаю на сколько. Ее там дописывали костылями много лет, поэтому об ИТС речи не шло.
Просто для понимания, как все было плохо:
У них был отчет, который в цикле вызывал метод БухИтоги.Рассчитать() ааахаха
Можете представить, сколько это работало. Они его запускали в ночь, чтобы к утру было готово)) Разумеется, я его переписал потом, но сам факт.
И я даже не могу представить, как его отлаживали изначально. Тоже на ночь запускали?))
На самом деле у этого станка немецкие корни. В послевоенные годы немецкие технические решения и документация активно использовалась для развития отечественного станкостроения.
Прототипом для станка 1Б240-6 (вернее, его предшественника 1А240-6) послужил немецкий станок имени Pittler. Я не знаю, какая точно модель легла в основу.
Никто и не говорит, что в LLM нет пользы. Никто не говорит, что нужно все бросить и больше ничего не делать.
Неверный путь развития здесь в том смысле, что LLM не приведет к сверхразуму, хоть сколько увеличивай количество видеокарт, ветвь тупиковая для такого результата. Тот же OpenAI это прекрасно понимает.
Понятие AGI постоянно размывается. Если раньше (10-15 лет назад) под этим подразумевали почти что сверхразум (ASI), то теперь плавно смещают в сторону эффективного софта.
Если кто-то задаст вопрос где же ваш сверхразум, который вы обещали, им ответят, что вы просто изначально все не так поняли, мы не говорили, что AGI это сверхразум.
Это просто бизнес.
Здесь подробно расписано как это работает
Спасибо за отзыв и за то, что не пожалели времени на регистрацию :)
Вроде я так и сказал, что это инструмент.
AI-intellisense прекрасный пример
Статья как раз для тех, кто ждал чуда. Разумеется, нет смысла объяснять специалистам в чем польза от ИИ и в чем его ограничения. Кто знает, тот использует по назначению, а кто не знает, тот ждет чуда, особенно после обещаний, что AGI появится уже буквально завтра, уже вот-вот, нужно лишь немного подождать.
Вы подтверждаете, что эксперты нужны, без них странные конструкции могут появляться как с участием ИИ, так и без него.
На счет вашей оценки по поводу того видел ли я легаси и говнокод — промолчу.
Да, все так. Когда ТЗ пишет компания А для компании Б, она максимально не в теме что там у компании Б. Здесь нужно очень подробно описывать и возникает тот самый эффект ошибки проекции и проклятия экспертизы. Это человеческий фактор и никуда от этого не деться ни при работе с людьми, ни при работе с ИИ.
Только в случае с ИИ возникает еще одна ловушка - он не присутствует в физическом мире и не видит что вокруг.
Приходит архитектор на местность, чтобы понять, какой нужно строить фундамент. Он сразу видит: ага, песок и уклон, а еще рядом вода и обрыв с другой стороны. У него мгновенное понимание, что обычный фундамент здесь не подойдет. Нужны сваи, укрепления, контрфорсы.
Для ИИ придется все эти детали описать и ничего не упустить, иначе он напроектирует...
Про людей вроде речи не было. Вы сказали про "неужели нейросеть не может узнать примерно тоже и даже больше", я ответил.
Не знаю при чем здесь мой опыт с людьми и как на основе моего ответа вы сделали вывод о его качестве.
Если бы нейросеть умела читать внимательно, не пропуская ни одной запятой, то она могла бы быть к этому близка. Но она не обрабатывает запрос последовательно. В этом проблема. Ее обработка это взгляд сверху. Быстро выхватить общую суть, а важные мелочи ускользают.
Когда начинаешь ей указывать на пропуски "я же тебе говорил еще вот это учесть", она соглашается, что да, извините, сейчас исправлю и так может продолжаться бесконечно. Это только время отнимает.
Человек часто держит в голове вещи, которые сами собой разумеющиеся. Поэтому когда человек пишет ТЗ для человека, есть масса моментов, которые все знают и так, о них не нужно писать отдельный абзац или пояснения.
Точно так же существует контекст. Например, в какой-то организации Володя знает, что Василий Петрович по утрам не в настроении и к нему лучше заходить после обеда. В ТЗ такое писать не будут, но при программировании учтут. Для ИИ ассистента же это нужно указать явно, а это доп. время.
Вы правы. История повторяется постоянно. Это я и хотел показать в статье, что сейчас мы (человечество в целом и бизнес, в частности) снова верим в чудо. Ну а как еще? Люди хотят чуда всегда))
В 80-90 был такой же ажиотаж вокруг САПР (CAD). Считалось, что теперь любой студент, умеющий нажимать на кнопки, заменит старых дедов с кульманами.
"Деды" старой школы стали бояться, что их выставят на мороз и это действительно происходило.
А студенты рисовали чертежи мышкой в несколько раз быстрее. Однако очень скоро выяснилось, что студенты рисуют красивые детали, которые невозможно обработать на станке (не хватает технологических отверстий и прочего).
Валы на чертежах прекрасно вставлялись в отверстия, но в реальности нулевой зазор этого не позволяет и т.д.
Когда оператор САПР рисует без базовых знаний, в голове не возникает понимания почему именно так, а не иначе.
В общем, достаточно быстро наступило похмелье и откат, а стариков начали звать обратно. Не для того чтобы снова рисовать на кульманах, а чтобы была экспертиза. Они говорили как рисовать и почему.
На эту тему есть разные материалы. Например, вот здесь человек рассказывает, как это было.
Почему же нет плана?
План был, контроль был, но не работал. Приходилось заставлять палкой. А всему виной схема оплаты, ведь деньги уже получены, больше делать ничего не хочется.
80% работы сделал станок, деньги получены и может быть даже частично потрачены, а работа ведь сделана не до конца и ой как не хочется ее доделывать.
Конкретно в этом случае было еще историческое наследие, оно замылило глаз, как мне кажется.
Пример ниже условный:
Раньше делали только шайбы. Шайба является конечным продуктом, не требующим сборки. Деталь = продукт. Была схема оплаты за деталь и здесь он выглядит нормальной.
Но вот мы начали выпускать другую продукцию, которая стоит из двух деталей. Схему оплаты надо бы поменять, однако она осталась прежней.
Возможно, вам не понравилась именно фраза про "маленьких бизнесменов", но я ведь расшифровал что под этим понимается. Раньше у них "выкупали" полуфабрикаты, а теперь готовую продукцию, эта формулировка нужна для сдвига в сознании собственника и не более.
В бухгалтерию они пошли потому, что раньше им было не интересно сколько там зависших на складе полуфабрикатов, у них об этом не было никаких записей. А теперь они стали записывать себе в блокнот и сверять. Вычисление остатков это их личная инициатива, никто не заставлял.
Но если вы увидели в этой схеме что появился именно "бизнес внутри бизнеса", то в таком случае он был и раньше - всё та же сделка, которая была и никуда не делась. Только раньше такой "бизнес" был направлен на создание проблем компании, а теперь на пользу.
Возьмем самую распространенную схему:
продажники получают процент от сделок/оборота. Эта схема используется повсеместно. В зависимости от схемы мотивации они раздают скидки направо и налево, лишь бы продать, или наоборот - прижимают скидки, потому что скидка - это прямая потеря в деньгах лично для него. Что мешает им устроить маленький дефицит и повышение процента за сделку?
Устроить дефицит - это мгновенно обнулить свой доход (оклада же нет). Сколько они так протянут? Это должен быть коллективный сговор, иначе не имеет смысла. Какова вероятность, что все они на это пойдут разом?
В крайнем случае, на складе есть остатки готовой продукции и компания не загнется через месяц, если распрощаться с этими забастовщиками и взять новых. А вот забастовщики рискуют остаться ни с чем. И ради чего? Чтобы не ходить в бухгалтерию?
Поэтому система и взлетела: она делает личный интерес сотрудника не противоречащим, а совпадающим с интересом бизнеса. И это решает проблему надежнее, чем любой контроль.
В любой системе есть рычаг/точка баланса, которая позволяет с малым усилием обернуть ситуацию вспять, примерно как в дзюдо. Главное и самое сложное - ее найти.
И историю с металликой, которая подала в суд на напстер и даже был видос anti napster "я просто делюсь"))
Возможно, в той истории шла речь не о конкретном заводе и директоре, а о системе ОГАС (общегосударственная Jira или скорее ERP) и львовском эксперименте. Может здесь или здесь, или где-то еще))
Спасибо за ценную подсказку! Даже дополнил статью на этот счет.
Ваш руководитель был абсолютно прав. Я пришел к такому же выводу спустя годы. И данная история стала основным вкладом в это понимание. Из-за неопытности и недостатка мудрости я тогда не мог разглядеть, к чему это может привести.
Для меня это было просто очередным достижением в копилку, а для них это могло обернуться трагедией.
Да, я видел по логам, что они пользуются. Но после скандального дня они срочно перестали. Не знаю, как потом (пока АРМ не сломался).
Кроме того, я знал, что уйду оттуда, а они останутся. Зачем душить людей? ))
О, я вас умоляю, какая премия, конечно же нет)))
Они всегда говорят: какая премия? это твоя работа, мы тебе платим зар-пла-ту!
У меня есть случай из самого начала моей карьеры (2005г), когда я сделал такую оптимизацию, которая сэкономила тонны бумаги (в прямом смысле), тонера, ресурсов принтеров и копировальных машин, ну, и человеческого времени тоже. Думаете они дали мне премию? Это твоя работа! Так они сказали.
Про эту историю можно написать отдельную статью))
Отличная функция
Но это 1с8, а у них была 1с77 бух (файловая), да еще и устаревшая не знаю на сколько. Ее там дописывали костылями много лет, поэтому об ИТС речи не шло.
Просто для понимания, как все было плохо:
У них был отчет, который в цикле вызывал метод
БухИтоги.Рассчитать()ааахахаМожете представить, сколько это работало. Они его запускали в ночь, чтобы к утру было готово)) Разумеется, я его переписал потом, но сам факт.
И я даже не могу представить, как его отлаживали изначально. Тоже на ночь запускали?))
:)))
На самом деле у этого станка немецкие корни. В послевоенные годы немецкие технические решения и документация активно использовалась для развития отечественного станкостроения.
Прототипом для станка 1Б240-6 (вернее, его предшественника 1А240-6) послужил немецкий станок имени Pittler. Я не знаю, какая точно модель легла в основу.
Но вот пример одной из моделей
Или вот, более поздняя (1985г), уже с ЧПУ.