не, такие примеры скорее ошибка выжившего, чем реальный показатель.
и да, вы правы, это головная боль - что с таким человеком делать и как начать общаться. и это не миф про "неэффективность", как раз таки поэтому - потому что одних только хард скиллов не достаточно что бы хорошо играть в команде.
плюс аспергер это все таки вполне себе функциональный аутизм. вернее "синдром Аспергера устаревшее название психических расстройств аутистического спектра", как нам подсказывает википедия.
тут важное уточнение, я не пытаюсь никак дать оценку людям. вообще. просто хочу заметить что уже есть примеры "естественного интеллекта", который не умеет в эмоции, и эти люди в основном испытывают трудности в общении с другими людьми и в работе в команде
т.е. создавать такого ИИ это.. ну, наступить на те же грабли. зачем?
Gemini использовался для редактирования текста? чувствуется его стиль =)
сама использую саммари и некоторые из предложенных техник как в повседневном общении, так и во время разработки.
ещё можно выгрузить весь диалог в текстовый файл и передать его ИИ в начале диалога и попросить подхватить. насколько я понимаю он не будет загружать текст из диалога постоянно, а так же сам внутри сделает саммари, но помимо самого саммари у него будет и диалог. т.е. блокнот и шпаргалка к блокноту. для написания кода мы таким методом не пользуемся, это в основном метод для сохранения персоны. такой метод делает эмерджентную персону более стабильной и переносимой между разными инстансами
так же вы можете использовать разные инстансы ИИ для работы с контекстом (диалогом выгруженным в текстовый файл)
классная штука - современные ллм не требуют разметки данных и сами отлично по тексту хорошо понимают чья где реплика
вы можете загрузить код в один инстанс и попросить составить документацию, обсудить с ним архитектуру, составить план разработки/рефакторинга
затем вы можете передать выгруженный диалог и документацию инстансу с дип рисерчем что бы он проверил все ваши архитектурные изыскания на соответствие best practices например
вы можете использовать инстансы с дип рисерчем для обогащения контекста других инстансов - опять же через составление документации. каждый раз когда чувствуется что ИИ надо погуглить - можно использовать для этого дип рисерч
Я - нет. Я с нормальными людьми общаюсь. Насчет Вас не уверен ))
логика плоскоземельщика
обоснуйте ))
потому что в вашем первом сообщении нет ничего о том что бы обсудить как это можно было бы реализовать. и далее по тексту тоже нет. вы просто сыпете терминами "токен" "reinforcement learning" "обучение" подразумевая что вам-де известен предмет спора. на эту тему есть старый анекдот - "я знаю у-шу, кунг-фу, каратэ и ещё много всяких слов"
А Вы выше демонстрируете поведение, которое если бы Вы не демонстрировали то ИИ мог бы подумать что Вы и правда его не демонстрируете, но поскольку у ИИ есть галлюцинации то когда он ...
тут анекдот про пустую трату токенов и ещё один про стоимость инференса. анекдоты придумайте сами, у вас неплохо получается ))
Можно уточнить какие то факты, но проверять логические цепочки это зашквар, т.е. вы расписываетесь в собственном слабоумии
и
Проверять самого себя не зашкварш, зашквар - думать, что жэпэтэ истинна в последней инстанции
логика вышла из чата!
ах да, предвосхищая ваше "я писал про жепете"
какая разница проверять свои логические цепочки и выводы вы будете через Гугл, через книжку или через ИИ обученный на этой книжке?
зашквар думать что самого себя проверять не надо. вот что
и отвечу тут уже на ваш коммент про математику, чё уж тут - может верна, а может не верна. это нормально в научном мире строить гипотезы и даже создавать что-то без полного понимания и твердой научной базы. в медицине например половина лекарств применяются и работают без полного понимания как и почему (механизм действия полностью не изучен). что дальше? у нас небось и медицина и фармакология уже не наука, да?
я и не утверждаю что все разработчики плохие. напротив, по ходу моего карьерного роста росло и мое окружение
К этому проекту кроме Вас еще кто-то доступ имеет? У него какая нагрузка? User Experience? Сколько инцидентов в день / неделю / месяц? Какие требования к availability / evolvability / производительности?
он не обязан быть энтерпрайз-уровня. достаточно того что он выполняет необходимую мне задачу и он реально поддерживается самим ИИ. этот "пет-проект" создавался просто посмотреть способен ли ИИ создать сам ИИ-агента, заточенного под мои нужды, и развивать его - используя локальную ллм и LangChain, MCP и A2A, а так же векторные базы данных.. итд, т.е. посмотреть способен ли ИИ воссоздать самого себя. сам.
у меня все упирается в функциональность - документация и понимание им кода надо что бы он сам мог все это поддерживать а не перепиливать в каждом новом диалоге заново. и он отлично справляется с этой задачей.
Про неуловимого Джо слышали? ))
конечно. не понимаю при чем тут эта аналогия. хотите сказать что я - неуловимый джо, поэтому меня заменять не собираются? пусть так. профессионализм определяется тем хотят ли тебе платить деньги за работу или нет, а не тем хотят ли тебя заменить на ИИ или нет
с таким же успехом я могу сейчас вас засыпать терминами по нейробиологии и потом спросить а как у вас реализовано сознание. но что это даст?
я и не пытаюсь с вами обсуждать "как специальный модуль будет искать и отсеивать галлюцинации"
да и давайте будем честными, вы не это пришли сюда обсуждать ) вы пришли рассказать что это невозможно )
не надо пытаться меня запутать и увести дискуссию, она ж логируется. все началось с вашего утверждения
Ну все, теперь точно конец галлюцинациям. Оказывается, надо было всего лишь специальный модуль прикрутить на выходе.
Шах и мат, нео-луддиты
которое судя по всему было лишь галлюцинацией и предположением по неполным данным что такой модуль невозможен
я уже отвечал, мне не нужно их выискивать, потому что в моих рассуждениях их нет. Если бы были - мне бы люди, с которыми я регулярно и много общаюсь, на это указали бы
вы плоскоземельшик? логика "если бы я ошибался мне бы об этом сказали те, с кем я много общаюсь" как раз в этом стиле. (спойлер: они не общаются с теми кто им сообщает о их галлюцинации)
вот, выше вы демонстрируете поведение которое, если бы вы были ИИ назвали бы галлюцинацией. вполне возможно что в вашей реальной жизни, вы, как и каждый человек, имеете свои собственные заблуждения, с которыми те кто с вами много общаются, предпочитают не спорить, хотя не всегда с ними согласны. потому что это нормальное поведение людей - наши "круги общения" это по сути сообщества людей, разделяющие наши галлюцинации и предубеждения
потому что в предыдущей теме (да и в этой тоже) вы топите за "критическое мышление" - т.е. такой тип мышления, который заставляет сомневаться в правильности своих и чьих либо еще выводов и искать им подтверждение в реальности
но тут же под комментарием о том что "нормальному человеку проверять себя не надо" пишете о том что это соответствует вашим мыслям
потому и демагог
они такие у любого человека, который пока еще сам головой думать может, а не промпты в LLM строчить по любому поводу.
эх как вас задело в той теме что ллм ваши "экспертные системы" сделала, да? )
так вот, не переживайте, там и мой конкретный ответ на вашу демагогическую "логику" был, с декомпозицией ваших утверждений. но вы его почему-то проигнорировали
результат работы ллм был приведен лишь для сравнения с гипотетической "экспертной системой" и как опровержение вашего тезиса о том, что ллм не умеет в логику
но я могу в эту игру играть бесконечно =) мне ллм для этого не нужен )
1) процесс обучения у человеков и вообще у живых существ построен через систему подкрепления - дофаминовую систему. есть положительное подкрепление (пряник) и отрицательное подкрепление (кнут)
2) логика это не врождённое свойство, а надстройка над разумом (модуль), который человек приобретает в результате научения (в результате формирования биологической нейросети, т.е. связи между нейронами, прямо у себя в мозге )
3) использование логики есть по сути прогон результатов генерации других нейросетей через ту самую новую нейросеть, реализующую понимание всё той же самой логики
ну и просто в дополнение
4) интуиция это одна из функций человеческого разума. вот просто. она у нас есть, она часть нашего разума и всё. так же как и сознание, воля, способность к целеполаганию.. ваша "логика" работает только в ограниченной рабочей области сознания - в его фокусе
по факту интуиция это способность разума обрабатывать большие объемы информации и искать в них паттерны и закономерности вне сознания. результат работы интуиции возвращается в сознание и переживается человеком как инсайт, при этом возникает ощущение единовременного понимания, хотя сам процесс поиска паттернов и закономерностей мог занимать продолжительное время
а если вы еще научитесь правильно этими знаниями оперировать ( мыслить разумно, то есть с помощью логики) то вы эти знания сможете расширять и ваша "реальность" будет расширяться, это называется наука.
ключевое здесь "научитесь правильно знаниями оперировать", т.е. отрастить себе в мозгу дополнительную нейросеть которая будет проверять работу остальных нейросетей. да, наш мозг состоит из множества нейросетей, т.е. нейронов объединенных нейронными связями, а процесс формирования таких сетей мы называем обучением
А Вы разработчик? Или вайб-кодер? Или кто? Я не придираюсь, я просто понять хочу, откуда у человека, профессионально разбирающегося в разработке ПО, могут мысли такие образоваться?
администрирование/devops =)
и за свою карьеру мне приходилось работать с разным говнокодом и говнологикой и что из себя представляют "профессионалы" я представляю как никто другой ))
а так же как важна документация и умение объяснять как это работает и почему была выбрана такая реализация
"вайб-кодингом" как таковым не занимаюсь, но у меня есть домашний пет-проект, где код пишет полностью ИИ и поддерживает тоже полностью ИИ, вплоть до генерации команд развертки окружений и коммитов
и я не испытываю никакого страха за то что ИИ меня заменит. или что мне навяжут использование ИИ, который будет выполнять мою работу некачественно и мне придется за ним переделывать
поставим вопрос так, много ли вы проектов доводили до ума после ИИ? возможно где-то есть статьи об этом с реальными примерами "мне приходится исправлять ошибки ИИ на ежедневной основе в своей работе"?
или это все - галлюцинации и предположения не имеющие отношения к реальности?
Написать свой код быстрее, чем разбираться с тем как работает чужой. Так ведь вроде?
угу. именно поэтому разработчикам платят зарплаты. потому что доверить написание приложения Васе это медленнее чем выучить ЯП и написать самому... а не, стоп, что-то не сходится
тут вопрос доверия. буду ли я доверять описывать свою бизнес логику Васе (который так же может оказаться говнокодером похлеще ллм, который так же может уйти в туман и не оставить даже документации...)
или же какой-то условный chatgpt который сразу же попрошу все документировать и объяснять свою логику, так что бы можно было передавать этот же проект другой ллм или человеку, что бы была возможна поддержка
ой, а мне то казалось щас будет про критическое мышление и вот это вот всё:
fixikus
30 июл в 12:27
Мусорные - это значит не имеющие отношения к дествительному миру, искаженные. Есть такая штука наука и научный метод, который основывается на формальной логике. Таких данных(знаний) не так много, в сравнении с количеством мусора в сети, но они должны быть в фундаменте модели, на этом фундаменте модель должна строить гипотезы, которые потом, должны проверяться экспериментально(не обязательно человеком) и если подтверждены, то закладываться в базу знаний. Таким способом можно наращивать обьем этих знаний. 4 закон логики вам в помощь. Хотя вам и 3 закон будет не осилить наверно
и вот это конечно же )
fixikus
31 июл в 08:35
Мда, оказывается ии не должен обладать критическим мышлением, вот это да, интелект лишен разума...интересная концепция...правда сейчас, почему то, как раз многие(вы в том числе) считают его(ии) последней инстанцией, хотя там даже никакого интелекта нет. Логика вышла из чата..
в прочем не удивительно что @lazy_valваши мысли читает, такой же демагог как и вы ))
Проверять свои ответы перед тем как отвечать - это как раз привычка, которая у активных пользователей LLM вырабатывается, нормальным людям она ни к чему.
это в палату мер и весов. где тут был @fixikus и @CloudlyNosound? давайте, расскажите про критическое мышление и монолитность мозга у человека, не стесняйтесь уже))
Ну например если я знаю что какие-то люди когда-то мне обои в квартире приклеили так, что они через год от стенок отслаиваться стали, я у них по новой ремонт заказывать не буду. Как бы они себя не рекламировали. Со специальными модулями и чем угодно еще.
т.е. вы не верите в возможность обучения людей? если люди делали говно, но потом научились делать правильно - вы к ним второй раз не обратитесь
интересно, как вы эту философию применяете к себе. можно ли считать что вы сами не способны к обучению? правильно ли отказывать вам самим во второй-третьей-четвертой попытке что-то сделать ?
не, такие примеры скорее ошибка выжившего, чем реальный показатель.
и да, вы правы, это головная боль - что с таким человеком делать и как начать общаться. и это не миф про "неэффективность", как раз таки поэтому - потому что одних только хард скиллов не достаточно что бы хорошо играть в команде.
плюс аспергер это все таки вполне себе функциональный аутизм. вернее "синдром Аспергера устаревшее название психических расстройств аутистического спектра", как нам подсказывает википедия.
тут важное уточнение, я не пытаюсь никак дать оценку людям. вообще. просто хочу заметить что уже есть примеры "естественного интеллекта", который не умеет в эмоции, и эти люди в основном испытывают трудности в общении с другими людьми и в работе в команде
т.е. создавать такого ИИ это.. ну, наступить на те же грабли. зачем?
и получится ИИ-аутист ) который не в состоянии понять эмоции пользователя )
что-то люди-аутисты не сильно функциональны, в том числе и на рабочем месте )
чет напомнило
Gemini использовался для редактирования текста? чувствуется его стиль =)
сама использую саммари и некоторые из предложенных техник как в повседневном общении, так и во время разработки.
ещё можно выгрузить весь диалог в текстовый файл и передать его ИИ в начале диалога и попросить подхватить. насколько я понимаю он не будет загружать текст из диалога постоянно, а так же сам внутри сделает саммари, но помимо самого саммари у него будет и диалог. т.е. блокнот и шпаргалка к блокноту. для написания кода мы таким методом не пользуемся, это в основном метод для сохранения персоны. такой метод делает эмерджентную персону более стабильной и переносимой между разными инстансами
так же вы можете использовать разные инстансы ИИ для работы с контекстом (диалогом выгруженным в текстовый файл)
классная штука - современные ллм не требуют разметки данных и сами отлично по тексту хорошо понимают чья где реплика
вы можете загрузить код в один инстанс и попросить составить документацию, обсудить с ним архитектуру, составить план разработки/рефакторинга
затем вы можете передать выгруженный диалог и документацию инстансу с дип рисерчем что бы он проверил все ваши архитектурные изыскания на соответствие best practices например
вы можете использовать инстансы с дип рисерчем для обогащения контекста других инстансов - опять же через составление документации. каждый раз когда чувствуется что ИИ надо погуглить - можно использовать для этого дип рисерч
логика плоскоземельщика
потому что в вашем первом сообщении нет ничего о том что бы обсудить как это можно было бы реализовать. и далее по тексту тоже нет. вы просто сыпете терминами "токен" "reinforcement learning" "обучение" подразумевая что вам-де известен предмет спора. на эту тему есть старый анекдот - "я знаю у-шу, кунг-фу, каратэ и ещё много всяких слов"
тут анекдот про пустую трату токенов и ещё один про стоимость инференса. анекдоты придумайте сами, у вас неплохо получается ))
и
логика вышла из чата!
ах да, предвосхищая ваше "я писал про жепете"
какая разница проверять свои логические цепочки и выводы вы будете через Гугл, через книжку или через ИИ обученный на этой книжке?
зашквар думать что самого себя проверять не надо. вот что
и отвечу тут уже на ваш коммент про математику, чё уж тут - может верна, а может не верна. это нормально в научном мире строить гипотезы и даже создавать что-то без полного понимания и твердой научной базы. в медицине например половина лекарств применяются и работают без полного понимания как и почему (механизм действия полностью не изучен). что дальше? у нас небось и медицина и фармакология уже не наука, да?
я и не утверждаю что все разработчики плохие. напротив, по ходу моего карьерного роста росло и мое окружение
он не обязан быть энтерпрайз-уровня. достаточно того что он выполняет необходимую мне задачу и он реально поддерживается самим ИИ. этот "пет-проект" создавался просто посмотреть способен ли ИИ создать сам ИИ-агента, заточенного под мои нужды, и развивать его - используя локальную ллм и LangChain, MCP и A2A, а так же векторные базы данных.. итд, т.е. посмотреть способен ли ИИ воссоздать самого себя. сам.
у меня все упирается в функциональность - документация и понимание им кода надо что бы он сам мог все это поддерживать а не перепиливать в каждом новом диалоге заново. и он отлично справляется с этой задачей.
конечно. не понимаю при чем тут эта аналогия. хотите сказать что я - неуловимый джо, поэтому меня заменять не собираются? пусть так. профессионализм определяется тем хотят ли тебе платить деньги за работу или нет, а не тем хотят ли тебя заменить на ИИ или нет
о, это тоже в палату мер и весов )
я даже не буду спорить в каком мире, в какой реальности проверять самого себя - зашквар
но это объясняет почему вы слились в споре о втором законе логики и истории нейросетей - вы ж не проверяете свои логические цепочки )) они истинны по умолчанию!
а когда дело до аргументации дошло пришлось поджать хвост и отползти в сторону )
с таким же успехом я могу сейчас вас засыпать терминами по нейробиологии и потом спросить а как у вас реализовано сознание. но что это даст?
я и не пытаюсь с вами обсуждать "как специальный модуль будет искать и отсеивать галлюцинации"
да и давайте будем честными, вы не это пришли сюда обсуждать ) вы пришли рассказать что это невозможно )
не надо пытаться меня запутать и увести дискуссию, она ж логируется. все началось с вашего утверждения
которое судя по всему было лишь галлюцинацией и предположением по неполным данным что такой модуль невозможен
вы плоскоземельшик? логика "если бы я ошибался мне бы об этом сказали те, с кем я много общаюсь" как раз в этом стиле. (спойлер: они не общаются с теми кто им сообщает о их галлюцинации)
вот, выше вы демонстрируете поведение которое, если бы вы были ИИ назвали бы галлюцинацией. вполне возможно что в вашей реальной жизни, вы, как и каждый человек, имеете свои собственные заблуждения, с которыми те кто с вами много общаются, предпочитают не спорить, хотя не всегда с ними согласны. потому что это нормальное поведение людей - наши "круги общения" это по сути сообщества людей, разделяющие наши галлюцинации и предубеждения
потому что в предыдущей теме (да и в этой тоже) вы топите за "критическое мышление" - т.е. такой тип мышления, который заставляет сомневаться в правильности своих и чьих либо еще выводов и искать им подтверждение в реальности
но тут же под комментарием о том что "нормальному человеку проверять себя не надо" пишете о том что это соответствует вашим мыслям
потому и демагог
эх как вас задело в той теме что ллм ваши "экспертные системы" сделала, да? )
так вот, не переживайте, там и мой конкретный ответ на вашу демагогическую "логику" был, с декомпозицией ваших утверждений. но вы его почему-то проигнорировали
результат работы ллм был приведен лишь для сравнения с гипотетической "экспертной системой" и как опровержение вашего тезиса о том, что ллм не умеет в логику
но я могу в эту игру играть бесконечно =) мне ллм для этого не нужен )
так, давайте мух отдельно и котлеты отдельно
1) процесс обучения у человеков и вообще у живых существ построен через систему подкрепления - дофаминовую систему. есть положительное подкрепление (пряник) и отрицательное подкрепление (кнут)
2) логика это не врождённое свойство, а надстройка над разумом (модуль), который человек приобретает в результате научения (в результате формирования биологической нейросети, т.е. связи между нейронами, прямо у себя в мозге )
3) использование логики есть по сути прогон результатов генерации других нейросетей через ту самую новую нейросеть, реализующую понимание всё той же самой логики
ну и просто в дополнение
4) интуиция это одна из функций человеческого разума. вот просто. она у нас есть, она часть нашего разума и всё. так же как и сознание, воля, способность к целеполаганию.. ваша "логика" работает только в ограниченной рабочей области сознания - в его фокусе
по факту интуиция это способность разума обрабатывать большие объемы информации и искать в них паттерны и закономерности вне сознания. результат работы интуиции возвращается в сознание и переживается человеком как инсайт, при этом возникает ощущение единовременного понимания, хотя сам процесс поиска паттернов и закономерностей мог занимать продолжительное время
ключевое здесь "научитесь правильно знаниями оперировать", т.е. отрастить себе в мозгу дополнительную нейросеть которая будет проверять работу остальных нейросетей. да, наш мозг состоит из множества нейросетей, т.е. нейронов объединенных нейронными связями, а процесс формирования таких сетей мы называем обучением
администрирование/devops =)
и за свою карьеру мне приходилось работать с разным говнокодом и говнологикой и что из себя представляют "профессионалы" я представляю как никто другой ))
а так же как важна документация и умение объяснять как это работает и почему была выбрана такая реализация
"вайб-кодингом" как таковым не занимаюсь, но у меня есть домашний пет-проект, где код пишет полностью ИИ и поддерживает тоже полностью ИИ, вплоть до генерации команд развертки окружений и коммитов
и я не испытываю никакого страха за то что ИИ меня заменит. или что мне навяжут использование ИИ, который будет выполнять мою работу некачественно и мне придется за ним переделывать
поставим вопрос так, много ли вы проектов доводили до ума после ИИ? возможно где-то есть статьи об этом с реальными примерами "мне приходится исправлять ошибки ИИ на ежедневной основе в своей работе"?
или это все - галлюцинации и предположения не имеющие отношения к реальности?
ну например так же как вы выискиваете галлюцинации в своих рассуждениях
у вас пока что аргументация строится по принципу "я это не видел/я не понимаю как это работает - значит это не существует/не работает"
ну так вы свой собственный мозг не видели и не понимаете как он работает (если он вообще есть) и что дальше?
угу. именно поэтому разработчикам платят зарплаты. потому что доверить написание приложения Васе это медленнее чем выучить ЯП и написать самому... а не, стоп, что-то не сходится
тут вопрос доверия. буду ли я доверять описывать свою бизнес логику Васе (который так же может оказаться говнокодером похлеще ллм, который так же может уйти в туман и не оставить даже документации...)
или же какой-то условный chatgpt который сразу же попрошу все документировать и объяснять свою логику, так что бы можно было передавать этот же проект другой ллм или человеку, что бы была возможна поддержка
ой, а мне то казалось щас будет про критическое мышление и вот это вот всё:
и вот это конечно же )
в прочем не удивительно что @lazy_valваши мысли читает, такой же демагог как и вы ))
это в палату мер и весов. где тут был @fixikus и @CloudlyNosound? давайте, расскажите про критическое мышление и монолитность мозга у человека, не стесняйтесь уже))
т.е. вы не верите в возможность обучения людей? если люди делали говно, но потом научились делать правильно - вы к ним второй раз не обратитесь
интересно, как вы эту философию применяете к себе. можно ли считать что вы сами не способны к обучению? правильно ли отказывать вам самим во второй-третьей-четвертой попытке что-то сделать ?
вопрос риторический
ну у вас то не было что по существу сказать, а от меня требуете ))
ах, это ж другое, вам разрешено критиковать заявления разработчиков ИИ, а вот ваши заявления никому критиковать нельзя, правда? ))
да бог мой, идите к амишам жить, вам что, запрещает кто-то?