Исследование: медицинский ИИ Whisper на основе модели OpenAI склонен к галлюцинациям

[fen-sei]

Whisper галлюцинирует примерно в 1% случаев

Вспоминая, глюк с количеством пальцев, трудно поверить в этот процент.

PS представил себе нейросеть управляющую атомным реактором с 1% ошибок, или нейросеть спроектировавшую атомный ректор с размазанным по реактору 1% ошибок проектирования.

[bbs12]

Нужно делать 1000 одновременно работающих нейросетей, которые выносят коллективное решение. Маловероятно, что у всех будет одинаковый глюк.

[fen-sei]

1000 нейросетей от разных производителей обученных на разных данных?

[PeterFukuyama]

У людей тоже иногда требуются консилиумы.

[fen-sei]

Сомневаюсь, что наберётся 1000 нейросетей от разных производителей.

Скорее всего будет нейросеть от одного производителя обученная на одних и тех же данных с одними и теми же глюками.

[Steelycrack]

... которые в какой-нибудь редкой теме обучились на одной и той же статье индийского копирайтера с тремя классами церковно-приходской школы, ага.