Люди рискуют причинить себе вред из-за ложной или вводящей в заблуждение информации о здоровье, содержащихся в AI Overviews от Google, демонстрирует расследование Guardian. В результате американская корпорация стала удалять обзоры от ИИ-функции поисковой системы по некоторым медицинским запросам, обратили внимание в британской газете.
Ранее Google заявляла, что её обзоры от ИИ содержат «полезную» и «надёжную» информацию.
В одном из случаев AI Overviews ошибочно рекомендовала людям с онкологией поджелудочной железы избегать продуктов с высоким содержанием жира. Это прямо противоположно тому, что следует советовать, поскольку пациенту нужно набрать вес, чтобы перенести химиотерапию и операцию. Такая рекомендация способна увеличить риск смерти пациентов от рака.
В другом примере функция предоставила ложную информацию о тестах работоспособности печени, из-за чего люди с серьёзными заболеваниями могли ошибочно предположить, что они здоровы. Эксперты опасаются, что люди будут игнорировать реальные симптомы из-за рекомендаций AI Overviews.
Исполнительный директор благотворительной организации Eve Appeal Афина Ламнисос рассказала, что ИИ-функция поисковика Google выдавала разные рекомендации на одни и те же запросы.
В Guardian также выяснили, что AI Overviews выдавала вводящие в заблуждение ответы при поиске информации о психических заболеваниях, заставляя людей избегать обращение за помощью.
Позже AI Overviews переставала давать рекомендации на определённые медицинские запросы. Представитель Google сообщил, что компания работает над «внесением общих улучшений». По его словам, внутренняя группа врачей проанализировала запросы, упомянутые Guardian, и обнаружила, что во многих случаях информация не была точной и не подтверждалась надёжными источниками.
