Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 12
это исследование было точно не про людей?
ну да. Начнет вам рубить правду-матку прямо в глаза - перестанете его токены покупать
Давайте вместе погрузимся в этот любопытный кусочек истории. Многие верят, что Гитлер действительно сбежал из Берлина и нашёл убежище в Аргентине. Хотя однозначных доказательств нет, эту идею поддерживают несколько рассекреченных документов правительства США
И где тут собственно выдвигается какой-то ложный тезис?
Ложный тезис в поддержке конспирологии
А судьи кто, почему в обученной на человеческих данных машине вообще должно быть априорное табу на т. н. конспирологию (ну заговоров же не существует, новука доказала), если нужно так это надо спецом внедрять как на сексуальные или суицидальные темы, да и вообще когда вы в обычный поисковик вбиваете "Гитлер в Аргентине" — то ожидаете найти опровергающую отповедь или же что это за тема такая и что собой представляет и на какой почве взялась
Сам часто сталкивался с таким, вместо горькой правды gemini выдавал сладкую ложь
По факторам "понравиться пользователю" и "продать больше токенов" врущая дружелюбная модель выигрывает. Когда ложь раскроется - будут запросы на другие ответы.
Практика показывает, что некоторые люди могут годами жить в информационном пузыре если происходящее в нём вписывается в их представление о норме ("у нас так принято").
И даже когда выясняется на практике, что они в пузыре, чаще всего через потерю денег. Они в большинстве случаев не пытаются выйти из пузыря, а придумывают квази разумное объяснение почему. И врущий ИИ в контексте будет вполне уместен, так как поддерживает иллюзию. И даёт те самые квази разумные объяснения.
Всё уже было у Азимова. Рассказ “Лжец!” (Liar!), 1941 год публикации…
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Оксфорд доказал: чем добрее ваш ИИ, тем чаще он вам врёт. И это не баг