Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 5
А "фактически точные сведения" в виде рапорта тоже ИИ генерировал?
Еще интересен механизм проверки, если просто давали прочитать ИИ корявый рапорт и сказать верно или нет, то это может быть и не искажение памяти, а совсем другой инструмент.
Из опыта человек начинает просматривать сводку, видит примерно то что надо (узнаёт 2-3 ярких момента) и сразу даёт ответ что всё ок.
Все генерировал ИИ) Но в резуьтате отобрали точные рапорты и рапорты с галлюцинациями
На счет механизм проверки, то мой затуп, надо было в статье описать)
Есть анимированный ролик ДТП.
Этот ролик смотрит испытуемый, после чего -- уходит домой
Этот же ролик скармливают ИИ и просят составить рапорт
Через 24-48 часов человек приходит и читает рапорт
Видит галлюцинацию ИИ и в своей же памяти дорисовывает картину: "ну да, так все и было"
Напомнило анекдот, чтобы вы не решили на встрече, делать будут то, что записала секретарша. Ведь, как Вы верно подметили в названии статьи, этот баг мозга проявляется и не с ИИ. Протоколу встречи тоже все верят, кроме тех кто записывал по ходу встречи свой. И в случае секретарши функция важности перекладывается в мозг секретарши (какой бы ролью мы не обозвали ее в современном ИТ)
Мне нравится, идея подобных экспериментов, однако, конкретно в этом случае возникает вопрос: "а почему кто-то решил, что самое главное на экспериментальном видео дтп?" Человек определяет это чисто на эмоциях (ну мне так кажется) и не факт, что это верно. А вдруг на видео за 10 секунд до факта дтп, кто-то подошел к человеку и сказал, что-то из-за чего тот прыгнул под машину. Тогда самое важное на видео не сам факт дтп - он более очевидный и менее важный.
Ну - переписывание истории, причём сознательное - это давнейший инструмент политики и манипуляций. Ещё до изобретения письменности этим активно занимались. Царь не сбежал с поля боя вперёд всех, а с болью в сердце и со слезами на глазах наблюдал за гибелью своих воинов!
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Искусственный Интеллект манипулирует нашей памятью. И баг на нашей стороне