Международная группа из более чем 100 экспертов по ИИ под председательством лауреата премии Тьюринга Ёшуа Бенжио опубликовала второй International AI Safety Report — крупнейший на сегодня глобальный обзор возможностей и рисков ИИ общего назначения. Среди выводов 200-страничного доклада, поддержанного более чем 30 странами, ЕС, ОЭСР и ООН, — ранние свидетельства того, что массовое использование ИИ-инструментов ослабляет критическое мышление пользователей.
Речь идет о так называемом автоматизационном предубеждении (automation bias) — склонности принимать ответы ИИ без проверки, даже при наличии явных противоречий. Отчет приводит конкретный пример: в одном клиническом исследовании врачи, несколько месяцев проводившие колоноскопии с ИИ-ассистентом, затем без него стали обнаруживать опухоли примерно на 6 процентных пунктов хуже. Пока таких данных немного — авторы оговариваются, что долгосрочных исследований не хватает, — но тенденцию зафиксировали в рамках крупнейшей международной коллаборации по безопасности ИИ.
Параллельно отчет отмечает рост популярности ИИ-компаньонов — чатботов, предназначенных для эмоционально вовлекающего общения. Данные об их влиянии на психику противоречивы: одни исследования связывают интенсивное использование с ростом одиночества, эмоциональной зависимости и снижением вовлеченности в живое общение, другие находят позитивные или нулевые эффекты. Авторы отчета подчеркивают, что пока не установлено, при каких условиях ИИ-чатботы улучшают или ухудшают благополучие пользователей.
По приводимой в отчете оценке, около 60% рабочих мест в развитых экономиках и 40% в развивающихся могут быть затронуты ИИ общего назначения. При этом глобальные механизмы управления рисками, по выводам отчета, все еще отстают от темпов внедрения технологии.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
