Google заявила, что чат-бот Bard соврал, когда рассказал пользователю, что обучен на данных сервиса Gmail

Google заявила, что чат-бот Bard соврал, когда рассказал ведущему разработчику из Microsoft Research Кейт Кроуфорд, что обучен на данных почтового сервиса Gmail.

Кроуфорд спросила у чат-бота, на каких данных он обучался. Bard ответил, что его знания основаны на публичных датасетах и на внутренних данных Google, включая поиск и сервис Gmail.



В Google оперативно отреагировали и опровергли заявление Bard. В компании пояснили, что Bard — это ранний эксперимент, основанный на больших языковых моделях и который делает ошибки в ответах. Google настаивает, что чат-бот не обучается на данных Gmail. Список датасетов, на которых обучали чат-бота в Google.



На уточняющий вопрос Кроуфорд, могут ли в компании точно подтвердить, что это была галлюцинация у Bard, и что никакие данные Gmail не были включены в учебный процесс чат-бота, в Google дополнительно не ответили.

Другие пользователи рассказали, что чат-бот и им тоже раскрыл, что обучался на большом количестве писем из реальных переписок.





Основная позиция Google по любым ответам Bard: чат-бот может ошибаться и выдавать неверные ответы, которые пользователю нужно перепроверять самостоятельно в поиске Google.



21 марта Google открыла доступ к своему чат-боту на основе искусственного интеллекта Bard. Компания начинает с ограниченного публичного развёртывания, поэтому пока только желающие взаимодействовать с Bard из Великобритании и США могут зайти на сайт bard.google.com и присоединиться к списку ожидания.