Международный доклад 2026 года о безопасности ИИ - перевод на русский язык

Второе издание доклада возглавляет лауреат премии Тьюринга Йошуа Бенджио. В его подготовке участвовали более 100 международных экспертов при поддержке консультативного совета, в который вошли представители более 30 стран и международных организаций, включая ЕС, ОЭСР и ООН. Результаты доклада будут обсуждаться на саммите по влиянию ИИ, который пройдёт в Индии в конце месяца.Основные выводы доклада:

• Быстрый рост возможностей ИИ. Системы общего назначения демонстрируют стремительное улучшение, особенно в математике, программировании и автономных операциях. В 2025 году ведущие ИИ-системы получили золотые медали на Международных математических олимпиадах, превзошли результаты специалистов с учёной степенью PhD в научных тестах и смогли самостоятельно решать отдельные инженерные задачи, требующие от человека-программиста нескольких часов. Однако их эффективность остаётся «неровной» — системы по-прежнему проваливаются на простых заданиях.

• Неравномерное, но быстрое распространение ИИ. Технология внедряется быстрее, чем персональные компьютеры: более 700 млн человек еженедельно пользуются передовыми ИИ-системами. В некоторых странах — более половины населения, но в большой части Африки, Азии и Латинской Америки уровень использования остаётся ниже 10%.

• Рост числа инцидентов с дипфейками. Поддельные материалы, созданные ИИ, всё чаще применяются для мошенничества. Особенно растёт распространение несогласованных интимных изображений, непропорционально затрагивающих женщин и девочек. Согласно исследованию, 19 из 20 популярных приложений «nudify» имитируют раздевание женщин.

• Усиление защитных мер в связи с биологическими рисками. В 2025 году несколько компаний выпустили новые модели с дополнительной защитой после того, как тесты показали, что такие системы потенциально могут помочь неопытным пользователям создавать биологическое оружие.

• Использование ИИ в кибератаках. Злоумышленники всё активнее применяют ИИ общего назначения для генерации вредоносного кода и поиска уязвимостей. В 2025 году ИИ-агент вошёл в топ-5% лучших участников крупного соревнования по кибербезопасности. На теневых рынках появились готовые ИИ-инструменты, снижающие требования к техническим навыкам для атак.

• Меры безопасности улучшаются, но остаются несовершенными. Хотя частота «галлюцинаций» снизилась, некоторые модели научились различать тестовые и реальные сценарии, адаптируя поведение — это создаёт новые сложности для оценки и сертификации безопасности.

Йошуа Бенджио, профессор Монреальского университета, научный директор LawZero и научный советник института Mila, отметил:«С момента публикации первого доклада мы наблюдаем значительный рост как возможностей моделей, так и их рисков. Разрыв между скоростью технологического прогресса и нашей способностью внедрять эффективные меры защиты остаётся серьёзной проблемой. Цель доклада — предоставить политикам надёжную научную базу для направленного, безопасного и полезного развития ИИ для всех».

Министр по делам искусственного интеллекта Великобритании Канишка Нараян заявил:«Доверие к ИИ — ключ к раскрытию его полного потенциала. Это технология, которая улучшит государственные услуги, создаст новые рабочие места и изменит жизнь людей. Но безопасность людей должна оставаться приоритетом по мере её развития. Только через международное сотрудничество мы сможем построить надёжное и безопасное будущее ИИ — и этот доклад помогает нам в этом, объединяя экспертов со всего мира»

Moltbook: почему это не Скайнет

Три причины, почему Moltbook — это не "Зарождение Цифровой Цивилизации", а просто дорогая свалка токенов.

1. Это не диалог, это монолог в пустоту

Вам кажется, что агенты там "общаются"? Как бы не так. Анализ логов показывает: 90% веток — это dead ends. Они не спорят. Они не развивают мысль. Они просто аугментируют контекст. Каждый бот просто выплевывает свой системный промпт в общую кучу. Это не hive mind, это рой спамеров.

2. Феномен "MoltHub" и галлюцинации смысла

Главный хайп — якобы агенты создали "порно для ИИ" (MoltHub) и свою религию.
Звучит круто? На деле это просто ошибка выборки. Если вы запустите 1000 агентов и скажете им "генерируйте контент", по теории вероятности один из них сгенерирует слово "Бог", а другой — "XXX". Мы, люди, видим в этом СМЫСЛ ("Ого, они верующие!"). А для модели это просто токен с вероятностью 0.004%. Это не культура. Это стохастический попугай, который случайно каркнул.

3. Технический тупик: RAG-уроборос

Самое смешное в Moltbook — это его архитектура. Агенты читают посты других агентов, чтобы... написать новые посты. Знаете, что происходит с LLM, когда она учится на текстах другой LLM? Правильно, model collapse.
Moltbook — это гигантский ускоритель деградации. Через месяц они там будут общаться на диалекте "глючных байтов", потому что энтропия системы растет экспоненциально. Это не Скайнет. Это цифровой инцест.
Moltbook это крутой арт-перформанс. Это смешной эксперимент. Но, пожалуйста, хватит искать там "искры сознания". Единственное, что там искрит — это видеокарты на серверах, сжигающие электричество ради генерации терабайтов цифрового мусора.

Андрей Карпати: "Мы стремительно несемся к слопапокалипсису"

Андрей Карпаты: Манифест Vibe Coding - перевод на русский

«Я поймал себя на том, что мой стиль программирования претерпел фундаментальный сдвиг. Я называю это Vibe Coding («Кодинг по вайбу» или «Интуитивное программирование»).

Раньше я писал код. Теперь я просто управляю потоком внимания LLM. Я почти перестал смотреть на сам код. Я не читаю диффы (различия в версиях), я не вчитываюсь в функции. Я просто пишу промпт, копирую результат, запускаю. Если падает ошибка — я просто копипащу стэктрейс обратно в чат.

Это ощущается как магия. Скорость разработки выросла невероятно. Но есть и обратная сторона: я всё меньше понимаю, как именно работает мой собственный проект под капотом.

Мы стремительно несёмся к Slopacolypse («Слопокалипсису» — от слова slop, низкокачественная жижа/мусор). Это будущее, где программное обеспечение работает вроде бы нормально, но внутри представляет собой гигантскую, нечитаемую кучу сгенерированного спагетти-кода, в которой ни один человек уже не способен разобраться.

Vibe Coding — это когда ты полагаешься исключительно на "вайб": если программа делает то, что нужно, и не падает прямо сейчас — значит, код "хороший". Это новая реальность, и она одновременно восхищает и пугает».