Комментарии 3
Одна из немногих статей, в которой уделяется внимание робастности. В реальности (особенно в промышленных системах, которые работают десятилетиями) это очень важный фактор. Программа (система) должна должна как минимум сказать "Эй, у тебя какие-то странные данные, я не могу их адекватно оценить, извини". Вместо этого (как я подозреваю) многие системы будут бодро нести правдоподобную ерунду. В идеале, конечно, хочется видеть системы с самонастройкой или с простым дообучением.
Медицина, это одна из самых сложных отраслей для автоматизации. И тут все совершают простую ошибку. Ни одна система для медицины не соответствует понятию клинического мышления. Того инструмента, которым и руководствуются врач. Если врачу предоставлять только выводы, то теряется основа, на которой эти выводы сделаны. Обратная сторона медали заключается в том, что врач перестаёт полагаться на свои знания. Просто использует выводы. Более худший сценарий, который я знаю, это административное требование использовать такие системы. И, более того, полагаться на выводы этих систем. В случае не согласия с ии применяются такие же административные меры - лишение части зарплаты или увольнение. Эту сторону медали принято замалчивать. Но она так же вносит свои результаты в качество ии систем.)
Как выбрать лучшую ИИ-систему?