Международный доклад 2026 года о безопасности ИИ - перевод на русский язык
Второе издание доклада возглавляет лауреат премии Тьюринга Йошуа Бенджио. В его подготовке участвовали более 100 международных экспертов при поддержке консультативного совета, в который вошли представители более 30 стран и международных организаций, включая ЕС, ОЭСР и ООН. Результаты доклада будут обсуждаться на саммите по влиянию ИИ, который пройдёт в Индии в конце месяца.Основные выводы доклада:
Быстрый рост возможностей ИИ. Системы общего назначения демонстрируют стремительное улучшение, особенно в математике, программировании и автономных операциях. В 2025 году ведущие ИИ-системы получили золотые медали на Международных математических олимпиадах, превзошли результаты специалистов с учёной степенью PhD в научных тестах и смогли самостоятельно решать отдельные инженерные задачи, требующие от человека-программиста нескольких часов. Однако их эффективность остаётся «неровной» — системы по-прежнему проваливаются на простых заданиях.
Неравномерное, но быстрое распространение ИИ. Технология внедряется быстрее, чем персональные компьютеры: более 700 млн человек еженедельно пользуются передовыми ИИ-системами. В некоторых странах — более половины населения, но в большой части Африки, Азии и Латинской Америки уровень использования остаётся ниже 10%.
Рост числа инцидентов с дипфейками. Поддельные материалы, созданные ИИ, всё чаще применяются для мошенничества. Особенно растёт распространение несогласованных интимных изображений, непропорционально затрагивающих женщин и девочек. Согласно исследованию, 19 из 20 популярных приложений «nudify» имитируют раздевание женщин.
Усиление защитных мер в связи с биологическими рисками. В 2025 году несколько компаний выпустили новые модели с дополнительной защитой после того, как тесты показали, что такие системы потенциально могут помочь неопытным пользователям создавать биологическое оружие.
Использование ИИ в кибератаках. Злоумышленники всё активнее применяют ИИ общего назначения для генерации вредоносного кода и поиска уязвимостей. В 2025 году ИИ-агент вошёл в топ-5% лучших участников крупного соревнования по кибербезопасности. На теневых рынках появились готовые ИИ-инструменты, снижающие требования к техническим навыкам для атак.
Меры безопасности улучшаются, но остаются несовершенными. Хотя частота «галлюцинаций» снизилась, некоторые модели научились различать тестовые и реальные сценарии, адаптируя поведение — это создаёт новые сложности для оценки и сертификации безопасности.
Йошуа Бенджио, профессор Монреальского университета, научный директор LawZero и научный советник института Mila, отметил:«С момента публикации первого доклада мы наблюдаем значительный рост как возможностей моделей, так и их рисков. Разрыв между скоростью технологического прогресса и нашей способностью внедрять эффективные меры защиты остаётся серьёзной проблемой. Цель доклада — предоставить политикам надёжную научную базу для направленного, безопасного и полезного развития ИИ для всех».
Министр по делам искусственного интеллекта Великобритании Канишка Нараян заявил:«Доверие к ИИ — ключ к раскрытию его полного потенциала. Это технология, которая улучшит государственные услуги, создаст новые рабочие места и изменит жизнь людей. Но безопасность людей должна оставаться приоритетом по мере её развития. Только через международное сотрудничество мы сможем построить надёжное и безопасное будущее ИИ — и этот доклад помогает нам в этом, объединяя экспертов со всего мира»
