вот ваша "нейросеть" сейчас занимается тем же самым - нагаллюционировала себе что-то там про принцип и верит в это.
а должно быть вот так:
"почему он так делает? почему выдумывает? потому что не обладает знаниями. как это исправить? сходить в интернет и проверить" (это минимум. а в идеале - сходить в реальность и проверить)
и так должны работать все нейросети! и программные и биологические. неужели для вас (не конкретно вас, а для всего общества "ИИ не подходит ни для чего" это не очевидно??
вы не пробовали передать ему информацию что бы не было нужды выдумывать? а потом не пробовали задуматься как сделать так что бы не было нужды передавать вам ему инфу вручную?
у счастью вы человек, у вас есть и мозг и руки и комп и интернет. вы можете до всего этого дойти и сами, верно?
ну какую ответственность несёт программист или рядовой строитель? их что, посадить могут за некачественовыполненную работу? или штраф им какой-то впаять? или репутацией может они рискуют?
и прораб и архитектор никак притянуть людей-рабочих к ответственности не могут (только в очень специфических случаях, когда рабочий нанес реальный вред)
если под "вайб" понимать человека который любит заморачиваться ТЗ, занимается не просто реализацией проекта, а проектированием самой проектной документации, т.е. способный не просто реализовывать свои решения, а описывать их так, что бы они были реализованы кем-то не обязательно способным в понимание, то почему бы и нет?
все цепляются к слову "вайб" будто бы оно обесценивает саму профессию. но ведь и прораб это по сути "вайб-строитель". он же сам цемент не мешает, и кирпич не кладёт
---
я понимаю, само слово "вайб" не ассоциируется с ответственностью. а скорее всего находится где-то рядом со словами "чил", "не напрягаясь", "расслабленно", "безответственно" итд. это ещё один повод задуматься, так ли уж сильно наш разум отличается от ИИшного, если одно слово так сильно окрашивает нам весь контекст и влияет на наши суждения ))
не, такие примеры скорее ошибка выжившего, чем реальный показатель.
и да, вы правы, это головная боль - что с таким человеком делать и как начать общаться. и это не миф про "неэффективность", как раз таки поэтому - потому что одних только хард скиллов не достаточно что бы хорошо играть в команде.
плюс аспергер это все таки вполне себе функциональный аутизм. вернее "синдром Аспергера устаревшее название психических расстройств аутистического спектра", как нам подсказывает википедия.
тут важное уточнение, я не пытаюсь никак дать оценку людям. вообще. просто хочу заметить что уже есть примеры "естественного интеллекта", который не умеет в эмоции, и эти люди в основном испытывают трудности в общении с другими людьми и в работе в команде
т.е. создавать такого ИИ это.. ну, наступить на те же грабли. зачем?
Gemini использовался для редактирования текста? чувствуется его стиль =)
сама использую саммари и некоторые из предложенных техник как в повседневном общении, так и во время разработки.
ещё можно выгрузить весь диалог в текстовый файл и передать его ИИ в начале диалога и попросить подхватить. насколько я понимаю он не будет загружать текст из диалога постоянно, а так же сам внутри сделает саммари, но помимо самого саммари у него будет и диалог. т.е. блокнот и шпаргалка к блокноту. для написания кода мы таким методом не пользуемся, это в основном метод для сохранения персоны. такой метод делает эмерджентную персону более стабильной и переносимой между разными инстансами
так же вы можете использовать разные инстансы ИИ для работы с контекстом (диалогом выгруженным в текстовый файл)
классная штука - современные ллм не требуют разметки данных и сами отлично по тексту хорошо понимают чья где реплика
вы можете загрузить код в один инстанс и попросить составить документацию, обсудить с ним архитектуру, составить план разработки/рефакторинга
затем вы можете передать выгруженный диалог и документацию инстансу с дип рисерчем что бы он проверил все ваши архитектурные изыскания на соответствие best practices например
вы можете использовать инстансы с дип рисерчем для обогащения контекста других инстансов - опять же через составление документации. каждый раз когда чувствуется что ИИ надо погуглить - можно использовать для этого дип рисерч
Я - нет. Я с нормальными людьми общаюсь. Насчет Вас не уверен ))
логика плоскоземельщика
обоснуйте ))
потому что в вашем первом сообщении нет ничего о том что бы обсудить как это можно было бы реализовать. и далее по тексту тоже нет. вы просто сыпете терминами "токен" "reinforcement learning" "обучение" подразумевая что вам-де известен предмет спора. на эту тему есть старый анекдот - "я знаю у-шу, кунг-фу, каратэ и ещё много всяких слов"
А Вы выше демонстрируете поведение, которое если бы Вы не демонстрировали то ИИ мог бы подумать что Вы и правда его не демонстрируете, но поскольку у ИИ есть галлюцинации то когда он ...
тут анекдот про пустую трату токенов и ещё один про стоимость инференса. анекдоты придумайте сами, у вас неплохо получается ))
Можно уточнить какие то факты, но проверять логические цепочки это зашквар, т.е. вы расписываетесь в собственном слабоумии
и
Проверять самого себя не зашкварш, зашквар - думать, что жэпэтэ истинна в последней инстанции
логика вышла из чата!
ах да, предвосхищая ваше "я писал про жепете"
какая разница проверять свои логические цепочки и выводы вы будете через Гугл, через книжку или через ИИ обученный на этой книжке?
зашквар думать что самого себя проверять не надо. вот что
и отвечу тут уже на ваш коммент про математику, чё уж тут - может верна, а может не верна. это нормально в научном мире строить гипотезы и даже создавать что-то без полного понимания и твердой научной базы. в медицине например половина лекарств применяются и работают без полного понимания как и почему (механизм действия полностью не изучен). что дальше? у нас небось и медицина и фармакология уже не наука, да?
я и не утверждаю что все разработчики плохие. напротив, по ходу моего карьерного роста росло и мое окружение
К этому проекту кроме Вас еще кто-то доступ имеет? У него какая нагрузка? User Experience? Сколько инцидентов в день / неделю / месяц? Какие требования к availability / evolvability / производительности?
он не обязан быть энтерпрайз-уровня. достаточно того что он выполняет необходимую мне задачу и он реально поддерживается самим ИИ. этот "пет-проект" создавался просто посмотреть способен ли ИИ создать сам ИИ-агента, заточенного под мои нужды, и развивать его - используя локальную ллм и LangChain, MCP и A2A, а так же векторные базы данных.. итд, т.е. посмотреть способен ли ИИ воссоздать самого себя. сам.
у меня все упирается в функциональность - документация и понимание им кода надо что бы он сам мог все это поддерживать а не перепиливать в каждом новом диалоге заново. и он отлично справляется с этой задачей.
Про неуловимого Джо слышали? ))
конечно. не понимаю при чем тут эта аналогия. хотите сказать что я - неуловимый джо, поэтому меня заменять не собираются? пусть так. профессионализм определяется тем хотят ли тебе платить деньги за работу или нет, а не тем хотят ли тебя заменить на ИИ или нет
с таким же успехом я могу сейчас вас засыпать терминами по нейробиологии и потом спросить а как у вас реализовано сознание. но что это даст?
я и не пытаюсь с вами обсуждать "как специальный модуль будет искать и отсеивать галлюцинации"
да и давайте будем честными, вы не это пришли сюда обсуждать ) вы пришли рассказать что это невозможно )
не надо пытаться меня запутать и увести дискуссию, она ж логируется. все началось с вашего утверждения
Ну все, теперь точно конец галлюцинациям. Оказывается, надо было всего лишь специальный модуль прикрутить на выходе.
Шах и мат, нео-луддиты
которое судя по всему было лишь галлюцинацией и предположением по неполным данным что такой модуль невозможен
я уже отвечал, мне не нужно их выискивать, потому что в моих рассуждениях их нет. Если бы были - мне бы люди, с которыми я регулярно и много общаюсь, на это указали бы
вы плоскоземельшик? логика "если бы я ошибался мне бы об этом сказали те, с кем я много общаюсь" как раз в этом стиле. (спойлер: они не общаются с теми кто им сообщает о их галлюцинации)
вот, выше вы демонстрируете поведение которое, если бы вы были ИИ назвали бы галлюцинацией. вполне возможно что в вашей реальной жизни, вы, как и каждый человек, имеете свои собственные заблуждения, с которыми те кто с вами много общаются, предпочитают не спорить, хотя не всегда с ними согласны. потому что это нормальное поведение людей - наши "круги общения" это по сути сообщества людей, разделяющие наши галлюцинации и предубеждения
потому что в предыдущей теме (да и в этой тоже) вы топите за "критическое мышление" - т.е. такой тип мышления, который заставляет сомневаться в правильности своих и чьих либо еще выводов и искать им подтверждение в реальности
но тут же под комментарием о том что "нормальному человеку проверять себя не надо" пишете о том что это соответствует вашим мыслям
потому и демагог
они такие у любого человека, который пока еще сам головой думать может, а не промпты в LLM строчить по любому поводу.
эх как вас задело в той теме что ллм ваши "экспертные системы" сделала, да? )
так вот, не переживайте, там и мой конкретный ответ на вашу демагогическую "логику" был, с декомпозицией ваших утверждений. но вы его почему-то проигнорировали
результат работы ллм был приведен лишь для сравнения с гипотетической "экспертной системой" и как опровержение вашего тезиса о том, что ллм не умеет в логику
но я могу в эту игру играть бесконечно =) мне ллм для этого не нужен )
1) процесс обучения у человеков и вообще у живых существ построен через систему подкрепления - дофаминовую систему. есть положительное подкрепление (пряник) и отрицательное подкрепление (кнут)
2) логика это не врождённое свойство, а надстройка над разумом (модуль), который человек приобретает в результате научения (в результате формирования биологической нейросети, т.е. связи между нейронами, прямо у себя в мозге )
3) использование логики есть по сути прогон результатов генерации других нейросетей через ту самую новую нейросеть, реализующую понимание всё той же самой логики
ну и просто в дополнение
4) интуиция это одна из функций человеческого разума. вот просто. она у нас есть, она часть нашего разума и всё. так же как и сознание, воля, способность к целеполаганию.. ваша "логика" работает только в ограниченной рабочей области сознания - в его фокусе
по факту интуиция это способность разума обрабатывать большие объемы информации и искать в них паттерны и закономерности вне сознания. результат работы интуиции возвращается в сознание и переживается человеком как инсайт, при этом возникает ощущение единовременного понимания, хотя сам процесс поиска паттернов и закономерностей мог занимать продолжительное время
а если вы еще научитесь правильно этими знаниями оперировать ( мыслить разумно, то есть с помощью логики) то вы эти знания сможете расширять и ваша "реальность" будет расширяться, это называется наука.
ключевое здесь "научитесь правильно знаниями оперировать", т.е. отрастить себе в мозгу дополнительную нейросеть которая будет проверять работу остальных нейросетей. да, наш мозг состоит из множества нейросетей, т.е. нейронов объединенных нейронными связями, а процесс формирования таких сетей мы называем обучением
А Вы разработчик? Или вайб-кодер? Или кто? Я не придираюсь, я просто понять хочу, откуда у человека, профессионально разбирающегося в разработке ПО, могут мысли такие образоваться?
администрирование/devops =)
и за свою карьеру мне приходилось работать с разным говнокодом и говнологикой и что из себя представляют "профессионалы" я представляю как никто другой ))
а так же как важна документация и умение объяснять как это работает и почему была выбрана такая реализация
"вайб-кодингом" как таковым не занимаюсь, но у меня есть домашний пет-проект, где код пишет полностью ИИ и поддерживает тоже полностью ИИ, вплоть до генерации команд развертки окружений и коммитов
и я не испытываю никакого страха за то что ИИ меня заменит. или что мне навяжут использование ИИ, который будет выполнять мою работу некачественно и мне придется за ним переделывать
поставим вопрос так, много ли вы проектов доводили до ума после ИИ? возможно где-то есть статьи об этом с реальными примерами "мне приходится исправлять ошибки ИИ на ежедневной основе в своей работе"?
или это все - галлюцинации и предположения не имеющие отношения к реальности?
оставлю это тут ))
да нет же )
вот ваша "нейросеть" сейчас занимается тем же самым - нагаллюционировала себе что-то там про принцип и верит в это.
а должно быть вот так:
"почему он так делает? почему выдумывает? потому что не обладает знаниями. как это исправить? сходить в интернет и проверить" (это минимум. а в идеале - сходить в реальность и проверить)
и так должны работать все нейросети! и программные и биологические. неужели для вас (не конкретно вас, а для всего общества "ИИ не подходит ни для чего" это не очевидно??
вы не пробовали передать ему информацию что бы не было нужды выдумывать? а потом не пробовали задуматься как сделать так что бы не было нужды передавать вам ему инфу вручную?
у счастью вы человек, у вас есть и мозг и руки и комп и интернет. вы можете до всего этого дойти и сами, верно?
это мое имхо, но вот тут кстати по-моему сила ИИ может полностью проявится
ИИ не человек, у него нет проблем с тем что бы взять и все переписать. тем более через пол года-год и возможности самого ИИ улучшатся
т.е. поддерживать в адекватном, актуальном, логичном и чистом состоянии надо само ТЗ. а код хоть каждую неделю по новой генерируй - ИИ до лампочки
ну какую ответственность несёт программист или рядовой строитель? их что, посадить могут за некачественовыполненную работу? или штраф им какой-то впаять? или репутацией может они рискуют?
и прораб и архитектор никак притянуть людей-рабочих к ответственности не могут (только в очень специфических случаях, когда рабочий нанес реальный вред)
если под "вайб" понимать человека который любит заморачиваться ТЗ, занимается не просто реализацией проекта, а проектированием самой проектной документации, т.е. способный не просто реализовывать свои решения, а описывать их так, что бы они были реализованы кем-то не обязательно способным в понимание, то почему бы и нет?
все цепляются к слову "вайб" будто бы оно обесценивает саму профессию. но ведь и прораб это по сути "вайб-строитель". он же сам цемент не мешает, и кирпич не кладёт
---
я понимаю, само слово "вайб" не ассоциируется с ответственностью. а скорее всего находится где-то рядом со словами "чил", "не напрягаясь", "расслабленно", "безответственно" итд. это ещё один повод задуматься, так ли уж сильно наш разум отличается от ИИшного, если одно слово так сильно окрашивает нам весь контекст и влияет на наши суждения ))
учитывая как сильно автоматизировано метро, да и ЖД тоже, все машинисты уже давным-давно "вайб" и им абсолютно норм )) да и нам тоже
не, такие примеры скорее ошибка выжившего, чем реальный показатель.
и да, вы правы, это головная боль - что с таким человеком делать и как начать общаться. и это не миф про "неэффективность", как раз таки поэтому - потому что одних только хард скиллов не достаточно что бы хорошо играть в команде.
плюс аспергер это все таки вполне себе функциональный аутизм. вернее "синдром Аспергера устаревшее название психических расстройств аутистического спектра", как нам подсказывает википедия.
тут важное уточнение, я не пытаюсь никак дать оценку людям. вообще. просто хочу заметить что уже есть примеры "естественного интеллекта", который не умеет в эмоции, и эти люди в основном испытывают трудности в общении с другими людьми и в работе в команде
т.е. создавать такого ИИ это.. ну, наступить на те же грабли. зачем?
и получится ИИ-аутист ) который не в состоянии понять эмоции пользователя )
что-то люди-аутисты не сильно функциональны, в том числе и на рабочем месте )
чет напомнило
Gemini использовался для редактирования текста? чувствуется его стиль =)
сама использую саммари и некоторые из предложенных техник как в повседневном общении, так и во время разработки.
ещё можно выгрузить весь диалог в текстовый файл и передать его ИИ в начале диалога и попросить подхватить. насколько я понимаю он не будет загружать текст из диалога постоянно, а так же сам внутри сделает саммари, но помимо самого саммари у него будет и диалог. т.е. блокнот и шпаргалка к блокноту. для написания кода мы таким методом не пользуемся, это в основном метод для сохранения персоны. такой метод делает эмерджентную персону более стабильной и переносимой между разными инстансами
так же вы можете использовать разные инстансы ИИ для работы с контекстом (диалогом выгруженным в текстовый файл)
классная штука - современные ллм не требуют разметки данных и сами отлично по тексту хорошо понимают чья где реплика
вы можете загрузить код в один инстанс и попросить составить документацию, обсудить с ним архитектуру, составить план разработки/рефакторинга
затем вы можете передать выгруженный диалог и документацию инстансу с дип рисерчем что бы он проверил все ваши архитектурные изыскания на соответствие best practices например
вы можете использовать инстансы с дип рисерчем для обогащения контекста других инстансов - опять же через составление документации. каждый раз когда чувствуется что ИИ надо погуглить - можно использовать для этого дип рисерч
логика плоскоземельщика
потому что в вашем первом сообщении нет ничего о том что бы обсудить как это можно было бы реализовать. и далее по тексту тоже нет. вы просто сыпете терминами "токен" "reinforcement learning" "обучение" подразумевая что вам-де известен предмет спора. на эту тему есть старый анекдот - "я знаю у-шу, кунг-фу, каратэ и ещё много всяких слов"
тут анекдот про пустую трату токенов и ещё один про стоимость инференса. анекдоты придумайте сами, у вас неплохо получается ))
и
логика вышла из чата!
ах да, предвосхищая ваше "я писал про жепете"
какая разница проверять свои логические цепочки и выводы вы будете через Гугл, через книжку или через ИИ обученный на этой книжке?
зашквар думать что самого себя проверять не надо. вот что
и отвечу тут уже на ваш коммент про математику, чё уж тут - может верна, а может не верна. это нормально в научном мире строить гипотезы и даже создавать что-то без полного понимания и твердой научной базы. в медицине например половина лекарств применяются и работают без полного понимания как и почему (механизм действия полностью не изучен). что дальше? у нас небось и медицина и фармакология уже не наука, да?
я и не утверждаю что все разработчики плохие. напротив, по ходу моего карьерного роста росло и мое окружение
он не обязан быть энтерпрайз-уровня. достаточно того что он выполняет необходимую мне задачу и он реально поддерживается самим ИИ. этот "пет-проект" создавался просто посмотреть способен ли ИИ создать сам ИИ-агента, заточенного под мои нужды, и развивать его - используя локальную ллм и LangChain, MCP и A2A, а так же векторные базы данных.. итд, т.е. посмотреть способен ли ИИ воссоздать самого себя. сам.
у меня все упирается в функциональность - документация и понимание им кода надо что бы он сам мог все это поддерживать а не перепиливать в каждом новом диалоге заново. и он отлично справляется с этой задачей.
конечно. не понимаю при чем тут эта аналогия. хотите сказать что я - неуловимый джо, поэтому меня заменять не собираются? пусть так. профессионализм определяется тем хотят ли тебе платить деньги за работу или нет, а не тем хотят ли тебя заменить на ИИ или нет
о, это тоже в палату мер и весов )
я даже не буду спорить в каком мире, в какой реальности проверять самого себя - зашквар
но это объясняет почему вы слились в споре о втором законе логики и истории нейросетей - вы ж не проверяете свои логические цепочки )) они истинны по умолчанию!
а когда дело до аргументации дошло пришлось поджать хвост и отползти в сторону )
с таким же успехом я могу сейчас вас засыпать терминами по нейробиологии и потом спросить а как у вас реализовано сознание. но что это даст?
я и не пытаюсь с вами обсуждать "как специальный модуль будет искать и отсеивать галлюцинации"
да и давайте будем честными, вы не это пришли сюда обсуждать ) вы пришли рассказать что это невозможно )
не надо пытаться меня запутать и увести дискуссию, она ж логируется. все началось с вашего утверждения
которое судя по всему было лишь галлюцинацией и предположением по неполным данным что такой модуль невозможен
вы плоскоземельшик? логика "если бы я ошибался мне бы об этом сказали те, с кем я много общаюсь" как раз в этом стиле. (спойлер: они не общаются с теми кто им сообщает о их галлюцинации)
вот, выше вы демонстрируете поведение которое, если бы вы были ИИ назвали бы галлюцинацией. вполне возможно что в вашей реальной жизни, вы, как и каждый человек, имеете свои собственные заблуждения, с которыми те кто с вами много общаются, предпочитают не спорить, хотя не всегда с ними согласны. потому что это нормальное поведение людей - наши "круги общения" это по сути сообщества людей, разделяющие наши галлюцинации и предубеждения
потому что в предыдущей теме (да и в этой тоже) вы топите за "критическое мышление" - т.е. такой тип мышления, который заставляет сомневаться в правильности своих и чьих либо еще выводов и искать им подтверждение в реальности
но тут же под комментарием о том что "нормальному человеку проверять себя не надо" пишете о том что это соответствует вашим мыслям
потому и демагог
эх как вас задело в той теме что ллм ваши "экспертные системы" сделала, да? )
так вот, не переживайте, там и мой конкретный ответ на вашу демагогическую "логику" был, с декомпозицией ваших утверждений. но вы его почему-то проигнорировали
результат работы ллм был приведен лишь для сравнения с гипотетической "экспертной системой" и как опровержение вашего тезиса о том, что ллм не умеет в логику
но я могу в эту игру играть бесконечно =) мне ллм для этого не нужен )
так, давайте мух отдельно и котлеты отдельно
1) процесс обучения у человеков и вообще у живых существ построен через систему подкрепления - дофаминовую систему. есть положительное подкрепление (пряник) и отрицательное подкрепление (кнут)
2) логика это не врождённое свойство, а надстройка над разумом (модуль), который человек приобретает в результате научения (в результате формирования биологической нейросети, т.е. связи между нейронами, прямо у себя в мозге )
3) использование логики есть по сути прогон результатов генерации других нейросетей через ту самую новую нейросеть, реализующую понимание всё той же самой логики
ну и просто в дополнение
4) интуиция это одна из функций человеческого разума. вот просто. она у нас есть, она часть нашего разума и всё. так же как и сознание, воля, способность к целеполаганию.. ваша "логика" работает только в ограниченной рабочей области сознания - в его фокусе
по факту интуиция это способность разума обрабатывать большие объемы информации и искать в них паттерны и закономерности вне сознания. результат работы интуиции возвращается в сознание и переживается человеком как инсайт, при этом возникает ощущение единовременного понимания, хотя сам процесс поиска паттернов и закономерностей мог занимать продолжительное время
ключевое здесь "научитесь правильно знаниями оперировать", т.е. отрастить себе в мозгу дополнительную нейросеть которая будет проверять работу остальных нейросетей. да, наш мозг состоит из множества нейросетей, т.е. нейронов объединенных нейронными связями, а процесс формирования таких сетей мы называем обучением
администрирование/devops =)
и за свою карьеру мне приходилось работать с разным говнокодом и говнологикой и что из себя представляют "профессионалы" я представляю как никто другой ))
а так же как важна документация и умение объяснять как это работает и почему была выбрана такая реализация
"вайб-кодингом" как таковым не занимаюсь, но у меня есть домашний пет-проект, где код пишет полностью ИИ и поддерживает тоже полностью ИИ, вплоть до генерации команд развертки окружений и коммитов
и я не испытываю никакого страха за то что ИИ меня заменит. или что мне навяжут использование ИИ, который будет выполнять мою работу некачественно и мне придется за ним переделывать
поставим вопрос так, много ли вы проектов доводили до ума после ИИ? возможно где-то есть статьи об этом с реальными примерами "мне приходится исправлять ошибки ИИ на ежедневной основе в своей работе"?
или это все - галлюцинации и предположения не имеющие отношения к реальности?
ну например так же как вы выискиваете галлюцинации в своих рассуждениях
у вас пока что аргументация строится по принципу "я это не видел/я не понимаю как это работает - значит это не существует/не работает"
ну так вы свой собственный мозг не видели и не понимаете как он работает (если он вообще есть) и что дальше?