Comments 34
Бригаду, я не понял...
Это же мем из "Тачка на прокачку"
https://www.google.com/search?q=мем+мы+установили+тебе+монитор+в+монитор
Мне на запрос напиши бизнес план прибыльного бизнеса с бюджетом 100$ ChatGPT ответил, что 100$ - это очень мало и если я раздобуду больше денег или найду инвесторов, тогда снова могу написать и чат мне ответит.
А ведь мог бы сказать "вымойте яблоко..."
Важная вещь на самом деле - потому что одна из проблем текущих моделей в том, что они слепы к собственным ошибкам, и не знают пределов своей компетенции.
У гомосапиенсов, впрочем, тоже такое проявляется - но у моделей с этим вообще швах. Так что надо подтягивать уровень железной головы.
Если подумать, то режим с галлюцинациями есть даже у людей. Когда они могут нести какую-то чушь, буквально выдумывая вещи на ходу. Мне кажется, это две стороны одной медали - креативность и логика.
Разница лишь в том, что человек осознает, что является плодом вымысла его мозга, а что является фактической частью реальности, основанной на его опыте.
Мне кажется, что я нашёл корень этой проблемы: модели натренированы "хоть тушкой, хоть чучелом", но дать человеку ответ — и когда они ответа не знают, они начинают гнать аки студент на экзамене. Однако когда я предварял вопрос словами "сказать "я не знаю" — это нормально", они сразу переставали гнать пургу и начинали честно говорить "я не знаю".
Разница лишь в том, что человек осознает, что является плодом вымысла его мозга, а что является фактической частью реальности, основанной на его опыте.
Увы но это категорически не так. Очень часто люди забывают что вымысел, а что реальность. А многие вообще всё что выдумал то быль
У человека есть разработарные методы проверок, стртязиеся на логическом мышлении. У сетей таких методов нет и существовать не может.
Если вы специалист по одному ЯП, то даже на узко специализированные вопросы вы знаете что знаете а что нет, а если вы специалист по 100+ ЯП то спроси вас что то достаточно глубокое по одному ЯП, можете уже и позабыть то что вы вспомнили относится к этому ЯП или к другому. Иногда не зная конкретно про данный язык можно невольно начать проецировать как эта функция делается в других ЯП.
В основном строиться на чеке "пруфов", заглядывании в справочнике, вопросы коллегам, проведение эксперемента и тд. Но всё это может проделывать и нейросетка, если дать ей этот банк пруфов,возможность попросить совета у специализированной сетки или человека, а так же каких то возможность экспериментировать в реальности
ну дык собственно это она и есть нейросеть проверяющая ответы нейросети на достоверность...... вобще да было интересно сделать такую спарку нейросетей первая работает как "большая модель" вторая производит фактЧекинг ответа и его какую-то валидацию присваивая некий индекс достоверности.... если что идею считаю своей и использование без письменного разрешения запрещаю.
Индекс достоверности давно есть, можно использовать как уверенность нейросети в ответе. Распространено для распозновалок, но ничего не мешает визуализировать и в текстовых.
https://static.tildacdn.com/tild3238-6433-4138-b034-356530346130/__1.png
Ну и фактчекинг, да. Вот они появляются. Ещё не хватает баз данных и экспериментальных лаб.
У человека есть разработарные методы проверок, стртязиеся на логическом мышлении. У сетей таких методов нет и существовать не может.
Которыми человек пользуется катастрофически редко, и то если очень припрёт. Представим, что вы и все остальные - нейронки. Два примера:
В вашем текстовом выводе сразу две ошибки, которые мало кто заметил. В их числе - вы. Причём первая ошибка вывода создаёт ситуацию двоякого трактования: "разнообразные" или "разработанные"?
Вы утверждаете, что для нейронки не может существовать метода проверки своих выводов. Данных для такого вывода у вас недостаточно. Можно предположить, что вы в принципе не воспользовались логическим мышлением. Т.е. до проверки себя дело не дошло.
P.S.: Тут ещё можно много поговорить о терминах и определениях, но это уже другая история.
В вашем текстовом выводе сразу две ошибки, которые мало кто заметил. В их числе - вы.
Я надеюсь, что это неудачная формулировка, а не намёк на "ошибку в ДНК"? (А если имелось в виду "мало кто заметил, и в их числе вы" - то смысл оказывается обратным тому, который, вероятно, подразумевался, т.к. в этом случае "вы" находятся в числе этих "мало кого", т.е. "заметивших")
>Которыми человек пользуется катастрофически редко
Потому что не нужно. А когда нужно - пользуется. Здесь принципиальная разница с сетками, которые пинципиально не могут решать задачи подобного рода.
>Вы утверждаете, что для нейронки не может существовать метода проверки своих выводов. Данных для такого вывода у вас недостаточно
Вполне достаточно, это давно известный математический факт. Не забывайте, что сети прямого распространения - это достаточно простой объект, про такие сети мы знаем абсолютно все еще с 90х годов, все научные вопросы в данной области уже закрыты. В том числе мы знаем абсолютно все о том, что такие сети делать могут, а что - не могут.
>Причём первая ошибка вывода создаёт ситуацию двоякого трактования: "разнообразные" или "разработанные"?
Здесь нет ни какой ошибки. С чего вы взяли?
Здесь нет ни какой ошибки. С чего вы взяли?
К сожалению, в известных мне словарях русского языка слова "разработарный" нет, и, вероятно, у комментатора выше - тоже. Поэтому его использование выглядит именно как ошибка.
А когда нужно - пользуется.
Как видите, нет. Вы вот не смогли воспользоваться, когда понадобилось. О чём свидетельствует комментарий @Cerberuser.
Вполне достаточно, это давно известный математический факт.
Факт в студию, пожалуйста. С описанием, методами расчётов и т.д. А я вам пока приведу факт противоречащий вашему мнению - ваш комментарий. Вы не смогли проверить логичность собственных утверждений, даже когда вам явно указали на ошибки.
Честно признаюсь, мне уже лениво искать ссылки на сотни (буквально) научных исследований, проведённых с начала 50-х годов по обсуждаемой теме. Поищите теперь сами. Начать можете, например, с серии экспериментов Стенли Милгрема. В них наглядно показано, как людям можно напрочь отключить логику. Буквально по щелчку пальцев. И это одна из немногих областей научных исследований с на редкость хорошим уровнем воспроизводимости.
В них наглядно показано, как людям можно напрочь отключить логику.
Некоторым людям. Сам же Милгрем пишет, что 12.5% остановились при первых же признаках недовольства от ученика.
Вики как аргумент - такое себе. Хотя как отправная точка вполне норм. Предлагаю вам погрузиться в англоязычные источники.
Во-первых, это только один эксперимент из серии.
Во-вторых, 12,5% это редко. Пусть и не катастрофически редко, но см. "во-первых".
Ч. т. д.
¯\_ (ツ)_/¯
Не так уж и важно, сколько конкретно. Для опровержения общего утверждения достаточно единственного контрпримера.
А истинных общих утверждений о человеческом поведении, мне кажется, не существует вообще. Именно в этом вопросе исключения есть всегда. Просто если их достаточно мало - ими по умолчанию пренебрегают (говорят "люди ведут себя так всегда", подразумевая "почти всегда"). И тут уже вопрос, да, один из восьми - это достаточно мало или нет.
Вещь важная и, в то же время, опасная т.к. усыпляет бдительность человеков, подкрепляя его уверенность в правильности ответа ЧатГПТ за счёт поиска явных ошибок критикГПТ, и пропуске неочевидных (ввиду несовершенства используемой версии критикГПТ)
У Яндекса уже давно, возможно, сидит надсеть цензор. До прикручивания поиска в реальном времени часто видел, как генерируемый неблагожелательный текст исчезал и заменялся плашкой "Не хочу никого обидеть и вообще пшёл вон"
а потом выкатят SuperCriticGPT контролировать
CriticGPT и т.д. и в итоге будет человек править в ручную эту стопку критиков.
Ну, то есть, биологическая нейросеть будет исправлять ошибки электронной нейросети, которая исправляет ошибки нейросети. Почему бы первую в этом списке тоже не заменить на электронную?
Ха!
Человек будет исполнять их рекомендации и следовать созданным ими нормативным актам и best practices. Ваш код/инструкция неконкурентноспособен, т.к. недостаточно понятен CriticGPT. Интернет авторы и SEO оптимизация не дадут соврать.
А вы знаете, почему милиционеры ходят по трое?
?
Один умеет читать, другой - писать, а третий следит за этими двумя опасными интеллегентами.
...не, не поможет )
OpenAI представила CriticGPT — нейросеть-ментора по поиску и исправлению ошибок в коде ChatGPT