Канадский скрипач Эшли Макайсак выяснил, что функция поисковика Google «Обзор ИИ» ложно обвинила его в сексуальном преступлении. Из-за этого музыкант столкнулся с отменой концерта.
Организаторы мероприятия в индейской резервации Сипекне’катик к северу от Галифакса отменили предстоящее выступление Макайсака.
Выяснилось, что в обзоре ИИ Google ошибочно смешала факты биографии музыканта с данными другого человека с тем же именем.
«Google облажался, и это поставило меня в опасную ситуацию», — отметил Макайсак.
После того, как правда всплыла наружу, индейское племя Сипекне’катик принесло извинения музыканту и выразило надежду на скорую встречу. «Мы глубоко сожалеем о вреде, который эта ошибка причинила вашей репутации, вашим средствам к существованию и вашему чувству личной безопасности. Для нас важно чётко заявить, что эта ситуация стала результатом ошибочной идентификации, вызванной ошибкой искусственного интеллекта, а не отражением того, кто вы есть на самом деле», — написал представитель племени.
Представитель Google, тем временем, заявил, что «поиск, включая обзо��ы ИИ, динамичен и часто меняется, чтобы показывать наиболее полезную информацию». «Когда возникают проблемы — например, если наши функции неправильно интерпретируют веб-контент или упускают какой-то контекст — мы используем эти примеры для улучшения наших систем и можем принять меры в соответствии с нашей политикой», — добавил он.
Хотя обзор уже обновили, музыкант объяснил, что эта ситуация представляет для него огромную дилемму как для гастролирующего музыканта. Во-первых, неизвестно, сколько других организаторов мероприятий отказались от его услуг из-за клеветнического заявления, а также — сколько потенциальных зрителей получили неверное представление о нём.
«Люди должны понимать, что им следует проверять онлайн-ресурсы, чтобы убедиться, что имя не фигурирует в результатах поиска», — сказал Макайсак.
В 2024 году сообщалось, что немецкий журналист Мартин Бернклау в чате с Copilot от Microsoft выяснил, будто его обвинили в жестоком обращении с детьми и семейной эксплуатации. ИИ также утверждал, что репортёр участвовал в побеге из психиатрической больницы. Наконец, чат-бот выдал полный адрес Бернклау с номером телефона и планировщиком маршрута.
Сам журналист отмечал, что он написал много статей, освещающих судебные разбирательства по делам о злоупотреблениях, насилии и мошенничестве, а Copilot не понял контекста и приписал эти преступления ему.
