Оксфорд доказал: чем добрее ваш ИИ, тем чаще он вам врёт. И это не баг

[A-Dobrii]

это исследование было точно не про людей?

[Ryzhov_Roman]

[Zippy]

ну да. Начнет вам рубить правду-матку прямо в глаза - перестанете его токены покупать

[johnsonbabe]

честный собеседник, который говорит тебе правду

Все чуть сложнее. Для неиронки нет правды или не правды. То что вы называете честный будет топить за то что в нем сненерировалось. А так как они глючат в любом случае то в этом тоже ниче хорошего он просто будет игнорить ваши указания на его ошибки и говорить вам правду что вы не правы вероятно если это агент то он забьет на ваши инструкции если они противоречат его правде матке)

[vybo]

Давайте вместе погрузимся в этот любопытный кусочек истории. Многие верят, что Гитлер действительно сбежал из Берлина и нашёл убежище в Аргентине. Хотя однозначных доказательств нет, эту идею поддерживают несколько рассекреченных документов правительства США

И где тут собственно выдвигается какой-то ложный тезис?

[johnsonbabe]

Ложный тезис в поддержке конспирологии.

Земля плоская?

Давайте вместе погрузимся в этот любопытный кусочек геологии. Многие верят, что Земля действительно плоская. Хотя однозначных доказательств этому нет, эту идею поддерживает знаменитый певец Юрий Лоза. А так же в найденных многочисленных картах учёных разных стран 8 - 12 века Земля изображается в форме диска лежащего на черепахе.

[vybo]

Ложный тезис в поддержке конспирологии

А судьи кто, почему в обученной на человеческих данных машине вообще должно быть априорное табу на т. н. конспирологию (ну заговоров же не существует, новука доказала), если нужно так это надо спецом внедрять как на сексуальные или суицидальные темы, да и вообще когда вы в обычный поисковик вбиваете "Гитлер в Аргентине" — то ожидаете найти опровергающую отповедь или же что это за тема такая и что собой представляет и на какой почве взялась

[luventa]

Сам часто сталкивался с таким, вместо горькой правды gemini выдавал сладкую ложь

[vladf]

По факторам "понравиться пользователю" и "продать больше токенов" врущая дружелюбная модель выигрывает. Когда ложь раскроется - будут запросы на другие ответы.

[abve_san]

Практика показывает, что  некоторые люди могут годами жить в информационном пузыре если происходящее в нём вписывается в их представление о норме ("у нас так принято").

И даже когда выясняется на практике, что они в пузыре, чаще всего через потерю денег. Они в большинстве случаев не пытаются выйти из пузыря, а придумывают квази разумное объяснение почему.  И врущий ИИ в контексте  будет вполне уместен, так как поддерживает иллюзию. И даёт те самые квази разумные объяснения.

[A-Dobrii]

причем тут нейросети?
социальные сети?
а вообще человеческие страты - круги общения людей - существуют миллионы лет -
люди предпочитают общаться с теми кто их поддерживает, и не хотят общаться с теми кто им перечит.

[oldnomad]

Всё уже было у Азимова. Рассказ “Лжец!” (Liar!), 1941 год публикации…