Google разослал своим сотрудникам предупреждение использовать чат-боты, в том числе собственный Bard, с осторожностью

[Yuriks111]

ИИ обучаться на запросах и ответах пользователей

Насколько знаю, LLM как телефонный справочник на чатах не обучаются, только на данных которые через них пропускали при обучении.

Да и в оригинале немного не так написано:

Human reviewers may read the chats, and researchers found that similar AI could reproduce the data it absorbed during training

~"чаты могут просматриваться людьми и AI может выдать данные использовавшиеся для обучения."

[Gugic]

Данные для дообучения ведь не на пустом месте возникают, часто приходят из тех же самых логов. Да, с обработкой, но все же.

[enkryptor]

Трансформер сам не обучается на диалогах, но содержимое диалогов может быть использовано для дообучения. Как минимум, это значит, что все диалоги сохраняются на хостинге чат-бота.