Результаты нового исследования демонстрируют, что даже постепенное развитие искусственного интеллекта может со временем ослабить контроль человека над ключевыми системами общества. Это, в свою очередь, может иметь серьёзные последствия для безопасности людей.
Группа исследователей под руководством Яна Кульвейта из Карлова университета в Праге и Рэймонда Дугласа из Telic Research предупреждает о менее известном экзистенциальном риске, связанном с искусственным интеллектом: «постепенном лишении власти», когда человечество медленно, но верно теряет влияние из-за постепенного развития AI.
Команда исследователей утверждает, что даже небольшие улучшения в возможностях AI могут подорвать влияние человека на такие крупные системы, как экономика, культура и национальные государства. Это отличается от обычно обсуждаемых сценариев, в которых системы AI внезапно берут всё под свой контроль.
По мнению исследователей, по мере того как системы искусственного интеллекта всё больше заменяют человеческий труд и когнитивные способности в этих областях, они ослабляют как явные механизмы контроля, такие как выборы и решения потребителей, так и неявное соответствие интересам людей, которое возникает в социальных системах, зависящих от участия человека. Проще говоря: когда эти системы меньше полагаются на человеческий вклад, люди теряют как прямые, так и косвенные способы влияния на них.
Исследователи говорят, что AI-системы могут также более агрессивно оптимизировать результаты, которые не соответствуют предпочтениям людей. Эти эффекты могут усиливать друг друга в разных областях: экономическая власть формирует культурные нарративы и политические решения, а культурные сдвиги меняют экономическое и политическое поведение.
Предполагается, что такая динамика может привести к фактически необратимой потере человеком влияния на важнейшие общественные системы, что приведёт к экзистенциальной катастрофе из-за постоянного ослабления позиций человечества. Люди потеряют контроль над жизненно важными системами и не смогут его восстановить.
Исследователи предлагают несколько подходов к устранению этих рисков:
Разработка показателей для измерения ослабления позиций человека в бизнесе, культуре и политике.
Создание мер по предотвращению чрезмерного влияния AI с помощью регулирования, налогообложения и культурных норм.
Усиление влияния человека за счёт улучшения демократических процессов, повышения осведомлённости общественности о системах AI и делегатов AI, представляющих интересы человека.
Проведение фундаментальных исследований по системному согласованию сложных социально-технических систем.
Также подчёркивается необходимость междисциплинарных подходов и международной координации в качестве стимулов для внедрения AI, поскольку, по мнению авторов, будущее человечества зависит не только от предотвращения использования систем AI для достижения откровенно враждебных целей, но и от того, чтобы наши основные социальные системы по-прежнему в значительной степени руководствовались человеческими ценностями и предпочтениями. Это, по их мнению, требует более глубокого понимания того, что значит для людей сохранять реальное влияние во всё более автоматизированном мире.