Ухуэ Агудо и Хелена Матуте из Университета Деусто в Испании опубликовали исследование, которое показывает, как легко влиять на людей с помощью искусственного интеллекта. Исследователи пришли к выводу, что люди склонны следовать советам ИИ независимо от того, идет речь о выборе политического кандидата или пары для свидания.
Исследователи провели четыре эксперимента, каждый из которых начинался с фальшивого личностного теста. По завершении теста участники получили личностные характеристики, которые, как им сказали, помогут ИИ подобрать для них наилучшие персонализированные результаты. На самом деле индивидуальных профилей личности не было; вместо этого участникам предоставили расплывчато сформулированные профили, которые можно применить к кому угодно.
В ходе первого эксперимента участникам показывали изображения вымышленных политиков, указывая, что некоторых кандидатов им советует ИИ, основываясь на результатах личностных тестов. После людей спрашивали, за кого бы они отдали голос. По сравнению с контрольной группой участников, которым предоставлялись изображения без каких-либо советов, люди намного чаще голосовали за кандидата, которого им порекомендовал ИИ.
Во втором эксперименте вместо прямых рекомендаций ИИ тайно выбрал четырех политиков и предварительно показал их участникам, чтобы познакомиться с ними. В результате большинство участников также выбрали политиков, выбранных ИИ.
В политике кажется, что люди доверяют алгоритму, который говорит им, что делать, даже больше, когда они знают, что ими манипулируют. Но результаты были другими, когда те же концепции применили к приложениям для знакомств. Когда ИИ прямо советовал им пару, якобы подходящую им по характеристикам, участники все равно могли предпочесть другого вымышленного кандидата. Однако когда ИИ оставался «за кадром», как в ходе второго эксперимента, и просто выдавал определенные изображения, участники с большей вероятностью выбирали «знакомых» кандидатов.
Как указывают исследователи, людьми легко манипулировать с помощью ИИ, вопрос только в том, какие алгоритмы лучше всего подходят для каждой конкретной ситуации.
«Важно отметить, что скорость, с которой ученые проводят новые эксперименты и собирают новые данные, очень низка по сравнению с легкостью, с которой многие компании и их алгоритмы уже проводят эксперименты с миллионами людей. Компании, занимающиеся ИИ, могут проверять столько гипотез, сколько захотят, с произвольными выборками. Следовательно, их способность прямо или косвенно влиять на решения людей, безусловно, намного выше, чем показано в настоящем исследовании», — заключили авторы.
