
В 2018 году беспилотник Uber в Аризоне насмерть сбил женщину — система не распознала пешехода. В 2020-м алгоритм распознавания лиц в США стал причиной ареста невиновного — модель ошиблась с идентификацией. Это не сюжет антиутопии, а реальные ошибки искусственного интеллекта, которые уже стоили людям свободы, жизни и дохода.
Разбираемся, почему ИИ может ошибаться, кто в этом виноват и что с этим делать. В статье — комментарии двух экспертов: инженера по прикладному ИИ и кандидата юридических наук — исследователя в сфере AI governance.