Исследователи научили нейросеть распознавать расу по медицинским снимкам

[Goupil]

Интересно - получается что сеть например видит на рентгенограмме специфические изменения тени сердца, характерные для гипертрофии миокарда на фоне гипертонии, изменения легких как следствие курения и меньшую рентгеноплотность костей, что указывает на большую минерализацию - и делает вывод что рентгеновский снимок принадлежит афроамериканцу. Из самой статьи я так не и не понял, шли ли в модель другие фичи (пол, возраст, болезни) или модель выводила их из самих картинок.

[ancotir]

При обучении нейросети вместе с картинками давали все данные, указанные в таблице. То есть она располагала информацией о возрасте, поле, болезни и других характеристиках.

[vviz]

Не взлетит. Система не в состоянии отличить афроамериканца от афрокитайца. Всех обзывает черными. Расисты.