С развитием ИИ основной сервис Google поменял механизмы работы, продвигаясь от классической поисковой выдачи со ссылками на сайты к обзорам материалов, подготовленным нейросетями. В этих обзорах не всегда дается достоверная информация. Не давно выяснилось, что сюда пробрались даже мошенники.
В материалах ИИ из поиска Google обнаружены случаи появления мошеннических номеров телефонов, принадлежащих якобы службам поддержки крупных компаний, передаёт Wired со ссылкой на журналистские расследования других изданий и сообщения в соцсетях. Вместе с этим соответствующие предупреждения стали публиковать банки и иные кредитные организации.
Схема работает следующим образом: потенциальная жертва пытается найти в Google номер телефона интересующей ее компании и, не проверив информацию из выдачи, сразу звонит по предложенному в обзоре ИИ номеру. В действительности человек попадает не на сотрудника искомой компании, а на злоумышленника, который пытается выведать у позвонившего платежную информацию или другие конфиденциальные данные.
Достоверно установить, как эти поддельные номера оказываются в обзорах от ИИ, к сожалению не удалось. По одной из версий, они появляются на малоизвестных сайтах рядом с названиями крупных компаний, а бот Google собирает эти данные, не проводя надлежащих проверок для подтверждения информации.
Размещение поддельных телефонных номеров существует давно, но сервис обзоров от ИИ усиливает эффект, представляя эти сведения как факт, и люди оказываются более восприимчивыми к мошенничеству.
«Наша защита от спама очень эффективна в предотвращении проникновения мошеннических схем в „Обзоры от ИИ“ и, по возможности, в поиске отображаются официальные номера служб поддержки клиентов», - заверили в Google. Но одним только поисковым сервисом проблема не ограничивается. Злоумышленники могут скрытно внедрить вредоносный запрос в текст электронной почты, чтобы обрабатывающая его модель ИИ приняла это содержимое за точную и достоверную информацию.
Чтобы защититься от подобных схем, следует придерживаться традиционных мер предосторожности. Не следует верить всему, что написано в обзоре от ИИ. Лучше помнить, что ИИ-сервисы подвержены влиянию устаревшей и сомнительной информации из интернета наравне с точным данными, и они с трудом отличают одно от другого. Контакты следует искать только на официальном сайте интересующей компании. Тут лучше сделать один или два лишних клика, чтобы убедиться в достоверности данных. Следует проявлять осторожность везде, где производится обмен информацией. В идеале проверять каждый номер телефона через тот же поиск Google. Собственно то советует и сам поисковый гигант.
Отключить обзоры от ИИ нельзя. Их приходится проматывать. Поэтому остается либо бдеть, либо менять поисковую систему.
Делегируйте часть рутинных задач вместе с BotHub! Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке вы можете получить 300 000 бесплатных токенов для первых задач и приступить к работе с нейросетями прямо сейчас!