Благотворительная программа, реализованная в Иордании Всемирным банком, использовала алгоритм, который исключал из неё часть действительно нуждающихся людей. Программа Такафул, запущенная в 2019 году Национальным фондом помощи Иордании и Всемирным банком, позволила выделить около $1 млрд и охватила почти 220 тыс. семей. Сейчас некоммерческая организация Human Rights Watch провела своё исследование и обнаружила, что используемый алгоритм не всегда учитывал экономические сложности, с которыми сталкиваются люди, находящиеся за чертой бедности; и это приводило к исключению из программы некоторых остро нуждающихся в помощи.
Алгоритм был разработан Национальным фондом помощи Иордании. Он извлекал необходимую информацию из Национального единого реестра, базы данных заявителей, которая включала информацию об их доходах, занятости и образовании. На создание этого реестра Всемирный банк предоставил кредит в размере $2,5 млн.
Алгоритм отслеживал 57 показателей, каждый из которых имел определённый вес в соответствии с концепцией «многомерной бедности». Например, учитывалось владение недвижимостью, автомобилем и бизнесом, количество членов домохозяйства, а также потребление электроэнергии и воды. На основании анализа этих данных алгоритм определял, какие семьи имеют право на получение финансовой помощи. Команда исследователей Human Rights Watch провела 70 интервью с заявителями и утверждает, что не все эти факторы учитывали социальные реалии страны. По их мнению, владение активами и потребление электроэнергии не являются показателями бедности и могли сделать программу похожей на «лотерею».
Исследование показало, что некоторые семьи, исключённые из программы помощи, недавно унаследовали имущество, но при этом жили в нищете. Алгоритм автоматически отсеивал заявителей, владевших автомобилем, которому меньше пяти лет, или бизнесом стоимостью более $4,3 тыс., даже если владелец автомобиля не мог позволить себе купить бензин или бизнес приносил убытки.
Как пишет Forbes, Иордания — не первая страна, правительство которой использует алгоритмы для принятия важных решений о жизни людей. Например, в Австралии в 2016 году автоматизированная система ошибочно определила переплату пособий 400 тыс. малоимущим гражданам и потребовала вернуть излишки.
Кроме того, исследование Human Rights Watch показало, что данные, на которые опирался алгоритм, собирались относительно редко и на ограниченных территориях. Ещё одним недостатком программы было то, что она не принимала заявки, в которых расходы превышали доходы на 20%. Чтобы обойти эту проблему, соискателям приходилось произвольно завышать свои доходы или снижать расходы.
После обнародования результатов исследования Human Rights Watch Всемирный банк заявил, что таргетирование с помощью алгоритмов и формул является «эффективным инструментом… позволяющим максимально использовать ограниченное бюджетное пространство» и сокращать бедность. Всемирный банк уже предоставил кредиты на аналогичные проекты по модернизации технологий и баз данных семи другим странам региона. Например, Тунис получил ссуду в размере $100 млн на разработку и интеграцию моделей искусственного интеллекта в социальный реестр страны.
