В Великобритании 14-летний подросток решил раздеться перед голосовым помощником Gemini Live с доступом к камере планшета. В результате искусственный интеллект удалил все аккаунты семьи и документы родителей несовершеннолетнего, пишет PC World со ссылкой на удалённую в Reddit публикацию. Google опровергла эту информацию, сообщили в Reddit.
Google запустила режим голосового чата под названием Gemini Live летом 2024 года. Функция позволяет общаться с голосовым помощником как с реальным человеком. Gemini Live умеет анализировать объекты вокруг пользователя и содержимое экрана его устройства.
Инструмент распознал происходящее с несовершеннолетним пользователем и заблокировал его учётную запись, на что ушло несколько дней. Все остальные учётные записи пользователей на планшете также оказались заблокированы. От своих аккаунтов оказались отрезаны пять человек, включая подростка, его родителей и двух сестёр.
Об этой ситуации рассказал пользователь Reddit, вероятно, отец мальчика. Он отметил, что 15 лет работы его бизнеса стали недоступны. Автор публикации добавил, что электронные письма и документы хранились на Google Drive. Даже его сайт был привязан к аккаунту Google. Отец не знает, как будет платить ипотеку через 3 месяца, а у его дочери случился срыв, поскольку ей нужно сдать диссертацию через несколько недель.
Восстановление заблокированной информации станет непростой задачей. Для Google и других технологических компаний возможность обнаружения детской порнографии — это вопрос выживания. Любое проявление снисходительности или халатности в этом направлении способно вызвать серьёзную негативную реакцию как со стороны пользователей, так и регулирующих органов.
Журнал PC World отмечает, что попытка связаться со специалистом технической поддержки Google не всегда завершалась успешно и в лучшие времена. Даже крупным YouTube-блогерам, которые приносят корпорации огромные деньги, бывает сложно получить подобную помощь. Для обычного пользователя, да ещё в столь сложном случае, эта попытка может обернуться кошмаром, объяснил автор PC World.
Модератор Reddit сообщил, что удалённый пост был опубликован, чтобы ввести в заблуждение других пользователей и нарушить нормальную работу сообщества. По словам представителя Reddit, Google опровергла эту информацию, поэтому площадка полностью удалила публикацию. Автор PC World обещал дополнить новостную заметку, если он получит развёрнутый ответ от Google.
