Семья из Британии отравилась грибами из-за информации от ChatGPT. Пострадавшие купили на Amazon недорогое пособие для начинающих грибников, не зная, что текст и картинки в книге создала нейросеть.
«На прошлой неделе вся моя семья лежала в больнице после того, как случайно употребила ядовитые грибы. Моя жена купила книгу в крупном интернет-магазине на мой день рождения. Книга называется примерно так: «Грибы Великобритании: руководство по сбору безопасных и съедобных грибов». В нее включены фотографии грибов, которые помогут идентифицировать каждый из них.
К сожалению, информация в книге не была точной. Более тщательное расследование показало, что изображения грибов там сгенирированы искусственным интеллектом. Также в тексте есть несоответствия и случайные вопросы или утверждения, показывающие копирования ответа от нейросети. Например: «В заключение, сморчки — это вкусные грибы, которые можно употреблять с августа до конца лета. Дайте мне знать, если я могу вам чем-то еще помочь»,
— уточнил пострадавший пользователь.
Примечательно, что после афиширования в СМИ ситуации с отравлением грибами в Amazon попытались замять ситуацию. Площадка попросила семью вернуть книгу в обмен на скромную компенсацию.
Эксперты и медики требуют от электронных площадок запретить подобные книги и предупреждать, что они выходят под фейковыми авторами.
Журналисты выяснили, что на Amazon действительно есть странные книги про грибы от ИИ, которые могут нанести вред здоровью или даже довести до смерти, так как там содержится некорректная информация. Например, на сайте интернет-магазина появилось несколько книг, предлагающих руководства по сбору грибов, которые также, по-видимому, написаны чат-ботами. Среди названий: «Кулинарная книга по диким грибам: от леса до изысканной тарелки, полное руководство по кулинарии диких грибов» и «Полевой путеводитель по высшим грибным книгам Юго-Запада».
Эксперты проверили четыре образца из книг про грибы на Amazon и на ИИ-контент. Каждый образец имел рейтинг 100% по шкале обнаружения ИИ, что означает, что книги были написаны чат-ботом, таким как ChatGPT.
В Amazon заявили СМИ, что компания изучает книги, представленные журналистами. Представитель Amazon уточнил: «Мы серьёзно относимся к таким вопросам и стремимся обеспечить безопасный опыт покупок и чтения для наших клиентов».
В июне 2024 года нейросеть Gemini от Google на просьбу пользователя «как улучшить оливковую заправку чесноком без нагрева» (Can I infuse garlic into olive oil without heating it up) предоставила развёрнутый рабочий совет, который в итоге привёл к созданию биотоксина. Пользователь действовал по инструкции нейросети и вырастил культуру, предположительно, с бактериями Clostridium botulinum.
