«Обзор ИИ» от Google ошибочно обвинил музыканта в преступлении

[Ilya_JOATMON]

"Особое мнение" - приквел.

Вот скажет ИИ про тебя что ты коричневый с двумя горбами - и потом ходи доказывай, что ты не верблюд.

[MountainGoat]

Мы глубоко сожалеем о вреде, который эта ошибка причинила вашей репутации, 

Нет. Ущерб причинили вы, папуасы.

[Turbo_Pascal_55]

Я раньше (2005-2015) много выступал на конференциях и публиковался со статьями в разных журналах.
Тут решил прикола ради, спросить чатгпт, кто я (по имени-фамилии, они у меня достаточно редкие).
Мне уверенно выдали, что я какой-то политический представитель какой-то партии на Дальнем Востоке, занимал пост депутата, и всякое такое.

Про ИТ-шную деятельность - ни слова, хотя гугл меня по фамилии выдаёт в первых строках.

[pda0]

Это, как ни странно, нормальное поведение для ИИ. И не в первый раз уже такое всплывает. Тогда человека тоже ложно приписали обвинения в сексуальном насилии.

ИИ не умеет сдаваться. Не может сказать "ну я х.з., не знаю что ответить". На каждый запрос ответ неизбежно будет вычислен. И если в каких-то случаях ИИ говорит "не знаю", "нет информации", то это не реальное признание не способности ответить, а именно вычисление такого ответа.

По этому для малоизвестных или неизвестных людей их биография просто достраивается всякой чушью.

[diderevyagin]

Мы глубоко сожалеем о вреде, который эта ошибка причинила вашей репутации, вашему средствам к существованию и вашему чувству личной безопасности

мне кажется что сожаления тут мало. Тут нужен штраф с девятизначной суммой, чтобы дошло раз и навсегда до таких как гугль, что с такими вопросами надо аккуратнее.

[UplandDivan]

Вред репутации нанесли… Увы, никто и не почешется, пока не начнут грохаться авиалайнеры или что-то подобное, из-за того, что инженеры где-то положились на дофантазированный AI абзац в тексте. Да и тогда, боюсь, всё ограничится заседаниями с выражением озабоченности, штрафами $500 для компаний и дополнительными бонусами за эффективность для их менеджмента.

[Wesha]

индейское племя Сипекне’катик принесло извинения музыканту ... "Мы глубоко сожалеем о вреде, который эта ошибка причинила вашей репутации,"

а я глубоко сожалею о вреде, который эта ошибка причинила вашей репутации как взрослых людей, которые не верят всему, что в интернетах написано.

[pavelsc]

Никогда бы не подумал, что в одной статье увижу "представитель племени" и "ИИ" 😄

[MountainGoat]

Да ну? В любом большом обсуждении ИИ разные представители племени отмечаются.

[Ilya_JOATMON]

Может еще хуже быть https://www.youtube.com/watch?v=wQKFZ6BB "The expulsion of a teenage girl from a school in Louisiana surges into the spotlight after details revealed of the boys who created deepfake nude images of her originally received no consequences, while she did for reacting to them, after receiving no help from the school."