Алгоритмы нейросетей, в том числе ChatGPT, перенаправляли пользователей на мошеннические ресурсы, предназначенные для хищения денег и личных данных. Об этом сообщает Управление по организации борьбы с противоправным использованием информационно‑коммуникационных технологий МВД со ссылкой на исследование сервиса проверки на мошенничество Ask Silver.
В сообщении говорится, что иногда алгоритмы ИИ могут выдавать устаревшие и неактуальные данные. В составленных нейросетями рекомендациях высвечивались сайты‑двойники по продаже вещей и мебели. Ресурсы копировали фирменную символику и описания товаров брендов, прекративших существование. В некоторых случаях покупателям предлагали скидки до 80%.
«По версии специалистов, злоумышленники могли использовать метод „отравления данных“. Они намеренно распространяли в сети ложную информацию с фальшивыми отзывами, автоматически генерируемые сообщения для форумов и поддельные сведения для индексации. Цель таких действий — исказить обработку и сортировку информации алгоритмами искусственного интеллекта», — пишет МВД.
Для обеспечения безопасности киберполиция советует проводить перекрёстную оценку ресурсов, а именно сравнивать полученную информацию на других поисковых платформах и искать первоисточник.
