Чат-бот Bing заявил, что его конкурент Bard уже завершил свою работу. Bing нашёл в Сети информацию о закрытии Bard, сгенерированную при помощи ChatGPT и процитированную потом самим Bard. Цепочка дезинформации, спровоцированной человеком и размноженной искусственным интеллектом, замкнулась. Так выглядит история, описанная The Verge.
Всё началось с шутки на Hacker News: один из участников форума написал о прекращении работы Bard, а другой использовал ChatGPT, чтобы сгенерировать фальшивую новость об этом событии. Затем популярный в Twitter автор @juanbuis спросил у самого чат-бота Google Bard, когда он будет закрыт. Bard ответил, что он (Bard) уже закрыт, потому что его не приняла аудитория, и привёл в качестве источника информации публикацию на Hacker News. Следом журналисты The Verge решили задать вопрос о прекращении работы Bard его второму конкуренту, Bing от Microsoft. К этому моменту количество публикаций, описывающих эту историю, увеличилось, и Bing подтвердил закрытие Bard, приведя в качестве доказательства шесть ссылок. The Verge пишет, что позже Bing изменил своё мнение, и когда текст был готов к публикации, Bing исправился и сообщил, что Bard жив.
Комментируя эту историю, The Verge считает, что мы все рискуем оказаться в дезинформационном пространстве, где чат-боты не могут оценить надёжность источников новостей, неправильно интерпретируют информацию и сообщают небылицы даже о себе: «В этом случае всё началось из-за одного шутливого комментария на Hacker News. Представьте, что вы могли бы сделать, если бы хотели, чтобы эти системы вышли из строя».
Говоря о «смехотворной ситуации, но с потенциально серьёзными последствиями», издание возлагает ответственность за эти последствия на Google, Microsoft, и OpenAI, которые «решили, что доля рынка важнее безопасности».
