Но она может показать путь, который человек раньше не замечал
С этим я абсолютно согласен и регулярно использую модели с этой целью. Иногда она складывает комбинацию, позволяющую взглянуть на вопрос под другим углом. Или выделить паттерн в твоем тексте, о котором ты сам не догадывался.
Но в этом и основное отличие от создания нового.
Человек по сути делает то же самое в физическом мире. Он ходит по одной и той же тропинке каждый день на работу. Ничего необычного. И тут бах - вспышка. Что-то сложилось в голове и ты заметил какую-то закономерность. Ты ее не придумал, она была, но ты ее заметил и облек в некую формулировку. Это тот самый новый мост, о котором вы говорите.
Но модель этого сделать не может. Не потому что она плохая, а потому что она не присутствует в физическом мире. Она не может кожей понять в чем разница между холодом и жаром и при чем здесь теплые варежки. Значит, ее мостики фундаментально ограничены.
Вы видите сны, которые нельзя нарисовать на бумаге, потому что это будет совсем не то, что вы видели. Сны не укладываются в модель 3х мерного мира. А сны или ощущения от пролитого кипятка на руку — это переживания, которые и способствуют построению новых мостиков.
В этом смысле человек тоже не творит ничего нового. Все это уже есть, а наш опыт позволяет это связать воедино. Закон тяготения был, Ньютон его не создавал, но он построил мостик и рассказал об этом миру.
Вот интересно, если модель обучать разным текстам, но целенаправленно выпилить оттуда все упоминания про Ньютона и закон, она сможет помочь найти этот мостик в стихах Шекспира и описании полета птиц (в общем, на основании того, что было известно в те времена)?
А еще вы уже потратили время на уточнение запроса, чтобы добиться результата, но его так и нет. Валенки имеют несколько другой вид, нежели сапоги, покрытые то ли мехом то ли войлоком.
То, что у него на ногах, больше похоже на унты/торбаса, но никак не на валенки
Валенки
Я же говорил изначально, что бессмысленно мучить калейдоскоп, в котором нет нужных бусинок. Их там просто нет. В обучающей базе были десятки тысяч сапог и только 10 валенок. Его будет перекашивать в сторону сапог постоянно.
А простые люди в этом не разбираются. Когнитивный диссонанс из-за маркетингового названия сделал свое дело. После GPT уже целые профессии безопасников появились, призванных не выпустить ИИ из под контроля, а то еще захватят землю и поработят человечество. Отсюда же все идет. Поэтому бизнес бежит за этими ИИ, как зомби.
Никто и не говорит, что в LLM нет пользы. Никто не говорит, что нужно все бросить и больше ничего не делать.
Неверный путь развития здесь в том смысле, что LLM не приведет к сверхразуму, хоть сколько увеличивай количество видеокарт, ветвь тупиковая для такого результата. Тот же OpenAI это прекрасно понимает.
Понятие AGI постоянно размывается. Если раньше (10-15 лет назад) под этим подразумевали почти что сверхразум (ASI), то теперь плавно смещают в сторону эффективного софта.
Если кто-то задаст вопрос где же ваш сверхразум, который вы обещали, им ответят, что вы просто изначально все не так поняли, мы не говорили, что AGI это сверхразум.
Статья как раз для тех, кто ждал чуда. Разумеется, нет смысла объяснять специалистам в чем польза от ИИ и в чем его ограничения. Кто знает, тот использует по назначению, а кто не знает, тот ждет чуда, особенно после обещаний, что AGI появится уже буквально завтра, уже вот-вот, нужно лишь немного подождать.
Да, все так. Когда ТЗ пишет компания А для компании Б, она максимально не в теме что там у компании Б. Здесь нужно очень подробно описывать и возникает тот самый эффект ошибки проекции и проклятия экспертизы. Это человеческий фактор и никуда от этого не деться ни при работе с людьми, ни при работе с ИИ. Только в случае с ИИ возникает еще одна ловушка - он не присутствует в физическом мире и не видит что вокруг. Приходит архитектор на местность, чтобы понять, какой нужно строить фундамент. Он сразу видит: ага, песок и уклон, а еще рядом вода и обрыв с другой стороны. У него мгновенное понимание, что обычный фундамент здесь не подойдет. Нужны сваи, укрепления, контрфорсы. Для ИИ придется все эти детали описать и ничего не упустить, иначе он напроектирует...
Если бы нейросеть умела читать внимательно, не пропуская ни одной запятой, то она могла бы быть к этому близка. Но она не обрабатывает запрос последовательно. В этом проблема. Ее обработка это взгляд сверху. Быстро выхватить общую суть, а важные мелочи ускользают. Когда начинаешь ей указывать на пропуски "я же тебе говорил еще вот это учесть", она соглашается, что да, извините, сейчас исправлю и так может продолжаться бесконечно. Это только время отнимает.
Человек часто держит в голове вещи, которые сами собой разумеющиеся. Поэтому когда человек пишет ТЗ для человека, есть масса моментов, которые все знают и так, о них не нужно писать отдельный абзац или пояснения.
Точно так же существует контекст. Например, в какой-то организации Володя знает, что Василий Петрович по утрам не в настроении и к нему лучше заходить после обеда. В ТЗ такое писать не будут, но при программировании учтут. Для ИИ ассистента же это нужно указать явно, а это доп. время.
Вы правы. История повторяется постоянно. Это я и хотел показать в статье, что сейчас мы (человечество в целом и бизнес, в частности) снова верим в чудо. Ну а как еще? Люди хотят чуда всегда))
В 80-90 был такой же ажиотаж вокруг САПР (CAD). Считалось, что теперь любой студент, умеющий нажимать на кнопки, заменит старых дедов с кульманами.
"Деды" старой школы стали бояться, что их выставят на мороз и это действительно происходило.
А студенты рисовали чертежи мышкой в несколько раз быстрее. Однако очень скоро выяснилось, что студенты рисуют красивые детали, которые невозможно обработать на станке (не хватает технологических отверстий и прочего).
Валы на чертежах прекрасно вставлялись в отверстия, но в реальности нулевой зазор этого не позволяет и т.д.
Когда оператор САПР рисует без базовых знаний, в голове не возникает понимания почему именно так, а не иначе.
В общем, достаточно быстро наступило похмелье и откат, а стариков начали звать обратно. Не для того чтобы снова рисовать на кульманах, а чтобы была экспертиза. Они говорили как рисовать и почему.
На эту тему есть разные материалы. Например, вот здесь человек рассказывает, как это было.
Я не знаю где вы увидели агитацию все бросить и ничего не делать.
Статья:
показывает ограничения, о которых мы сейчас говорим
в связи с этими ограничениями призывает использовать LLM с осторожностью и внимательно проверять
предостерегает от бездумного использования и показывает к чему это может привести
Больше в статье ничего нет.
Разве в этом нет рационального зерна?
Но почему-то у некоторых триггернуло, будто я какой-то ретроград и предлагаю вернуться к калькуляторам.
С этим я абсолютно согласен и регулярно использую модели с этой целью. Иногда она складывает комбинацию, позволяющую взглянуть на вопрос под другим углом. Или выделить паттерн в твоем тексте, о котором ты сам не догадывался.
Но в этом и основное отличие от создания нового.
Человек по сути делает то же самое в физическом мире. Он ходит по одной и той же тропинке каждый день на работу. Ничего необычного. И тут бах - вспышка. Что-то сложилось в голове и ты заметил какую-то закономерность. Ты ее не придумал, она была, но ты ее заметил и облек в некую формулировку. Это тот самый новый мост, о котором вы говорите.
Но модель этого сделать не может. Не потому что она плохая, а потому что она не присутствует в физическом мире. Она не может кожей понять в чем разница между холодом и жаром и при чем здесь теплые варежки. Значит, ее мостики фундаментально ограничены.
Вы видите сны, которые нельзя нарисовать на бумаге, потому что это будет совсем не то, что вы видели. Сны не укладываются в модель 3х мерного мира. А сны или ощущения от пролитого кипятка на руку — это переживания, которые и способствуют построению новых мостиков.
В этом смысле человек тоже не творит ничего нового. Все это уже есть, а наш опыт позволяет это связать воедино. Закон тяготения был, Ньютон его не создавал, но он построил мостик и рассказал об этом миру.
Вот интересно, если модель обучать разным текстам, но целенаправленно выпилить оттуда все упоминания про Ньютона и закон, она сможет помочь найти этот мостик в стихах Шекспира и описании полета птиц (в общем, на основании того, что было известно в те времена)?
Да, согласен, такие валенки подходят для рукавиц с указательным пальцем для спускового крючка. Для "дитмароза" самое оно. Тогда все сходится.
Скрытый текст
В этой метафоре я сознательно избегал таких "страшных" слов, как аппроксимация, авторегрессия, градиентный спуск и обратное распространение ошибки)))
Но там это все есть в виде процесса
Отсюда и берутся темнокожие Белоснежки.
А еще вы уже потратили время на уточнение запроса, чтобы добиться результата, но его так и нет. Валенки имеют несколько другой вид, нежели сапоги, покрытые то ли мехом то ли войлоком.
То, что у него на ногах, больше похоже на унты/торбаса, но никак не на валенки
Валенки
Я же говорил изначально, что бессмысленно мучить калейдоскоп, в котором нет нужных бусинок. Их там просто нет. В обучающей базе были десятки тысяч сапог и только 10 валенок. Его будет перекашивать в сторону сапог постоянно.
Вы не понимаете, это другое)
Ваш вариант имеет сильный скандинавский оттенок, особенно шеврон на шапке, подчеркнутые усы, которые именно как усы, а не часть бороды, кожаные сапоги
И это нормально, это перекос, о котором я говорил
И вот в этом вашем "мало чем отличаются" кроется весь подвох
Ожидание
Реальность
Никаких валенок нет, есть нечто похожее на сапоги
По вашей логике код в 3 строки мало чем отличается от кода в 4 строки
Но эта одна строка может быть важным условием
Это вы знаете тонкости определений))
А простые люди в этом не разбираются. Когнитивный диссонанс из-за маркетингового названия сделал свое дело. После GPT уже целые профессии безопасников появились, призванных не выпустить ИИ из под контроля, а то еще захватят землю и поработят человечество.
Отсюда же все идет. Поэтому бизнес бежит за этими ИИ, как зомби.
Версия про стохастического попугая или умный Т9 вам нравится больше?
Никто и не говорит, что в LLM нет пользы. Никто не говорит, что нужно все бросить и больше ничего не делать.
Неверный путь развития здесь в том смысле, что LLM не приведет к сверхразуму, хоть сколько увеличивай количество видеокарт, ветвь тупиковая для такого результата. Тот же OpenAI это прекрасно понимает.
Понятие AGI постоянно размывается. Если раньше (10-15 лет назад) под этим подразумевали почти что сверхразум (ASI), то теперь плавно смещают в сторону эффективного софта.
Если кто-то задаст вопрос где же ваш сверхразум, который вы обещали, им ответят, что вы просто изначально все не так поняли, мы не говорили, что AGI это сверхразум.
Это просто бизнес.
Здесь подробно расписано как это работает
Спасибо за отзыв и за то, что не пожалели времени на регистрацию :)
Вроде я так и сказал, что это инструмент.
AI-intellisense прекрасный пример
Статья как раз для тех, кто ждал чуда. Разумеется, нет смысла объяснять специалистам в чем польза от ИИ и в чем его ограничения. Кто знает, тот использует по назначению, а кто не знает, тот ждет чуда, особенно после обещаний, что AGI появится уже буквально завтра, уже вот-вот, нужно лишь немного подождать.
Вы подтверждаете, что эксперты нужны, без них странные конструкции могут появляться как с участием ИИ, так и без него.
На счет вашей оценки по поводу того видел ли я легаси и говнокод — промолчу.
Да, все так. Когда ТЗ пишет компания А для компании Б, она максимально не в теме что там у компании Б. Здесь нужно очень подробно описывать и возникает тот самый эффект ошибки проекции и проклятия экспертизы. Это человеческий фактор и никуда от этого не деться ни при работе с людьми, ни при работе с ИИ.
Только в случае с ИИ возникает еще одна ловушка - он не присутствует в физическом мире и не видит что вокруг.
Приходит архитектор на местность, чтобы понять, какой нужно строить фундамент. Он сразу видит: ага, песок и уклон, а еще рядом вода и обрыв с другой стороны. У него мгновенное понимание, что обычный фундамент здесь не подойдет. Нужны сваи, укрепления, контрфорсы.
Для ИИ придется все эти детали описать и ничего не упустить, иначе он напроектирует...
Про людей вроде речи не было. Вы сказали про "неужели нейросеть не может узнать примерно тоже и даже больше", я ответил.
Не знаю при чем здесь мой опыт с людьми и как на основе моего ответа вы сделали вывод о его качестве.
Если бы нейросеть умела читать внимательно, не пропуская ни одной запятой, то она могла бы быть к этому близка. Но она не обрабатывает запрос последовательно. В этом проблема. Ее обработка это взгляд сверху. Быстро выхватить общую суть, а важные мелочи ускользают.
Когда начинаешь ей указывать на пропуски "я же тебе говорил еще вот это учесть", она соглашается, что да, извините, сейчас исправлю и так может продолжаться бесконечно. Это только время отнимает.
Человек часто держит в голове вещи, которые сами собой разумеющиеся. Поэтому когда человек пишет ТЗ для человека, есть масса моментов, которые все знают и так, о них не нужно писать отдельный абзац или пояснения.
Точно так же существует контекст. Например, в какой-то организации Володя знает, что Василий Петрович по утрам не в настроении и к нему лучше заходить после обеда. В ТЗ такое писать не будут, но при программировании учтут. Для ИИ ассистента же это нужно указать явно, а это доп. время.
Вы правы. История повторяется постоянно. Это я и хотел показать в статье, что сейчас мы (человечество в целом и бизнес, в частности) снова верим в чудо. Ну а как еще? Люди хотят чуда всегда))
В 80-90 был такой же ажиотаж вокруг САПР (CAD). Считалось, что теперь любой студент, умеющий нажимать на кнопки, заменит старых дедов с кульманами.
"Деды" старой школы стали бояться, что их выставят на мороз и это действительно происходило.
А студенты рисовали чертежи мышкой в несколько раз быстрее. Однако очень скоро выяснилось, что студенты рисуют красивые детали, которые невозможно обработать на станке (не хватает технологических отверстий и прочего).
Валы на чертежах прекрасно вставлялись в отверстия, но в реальности нулевой зазор этого не позволяет и т.д.
Когда оператор САПР рисует без базовых знаний, в голове не возникает понимания почему именно так, а не иначе.
В общем, достаточно быстро наступило похмелье и откат, а стариков начали звать обратно. Не для того чтобы снова рисовать на кульманах, а чтобы была экспертиза. Они говорили как рисовать и почему.
На эту тему есть разные материалы. Например, вот здесь человек рассказывает, как это было.