Бывший разоблачитель АНБ поделился своими надеждами на то, что интеллект ИИ может превзойти человеческий и в конечном итоге принести пользу человечеству, несмотря на опасения, что технологию могут использовать злоумышленники.

Сноуден присоединился к конференции по видеосвязи из России

«Модели искусственного интеллекта (ИИ) вскоре могут превзойти возможности человека, но только если мы перестанем учить их думать, как мы, и позволим им быть лучше нас», — заявил президент Фонда свободы прессы Эдвард Сноуден.

На конференции Consensus 2023 Сноуден поделился своим осторожным и оптимистичным взглядом на будущее ИИ — технологии, которая стала популярной после запуска OpenAI ChatGPT осенью 2022 года.

Хотя Эдвард время от времени повторял предупреждения некоторых экспертов о том, что ИИ может расширить возможности злоумышленников, он также рассматривал положительные варианты использования технологии. Он утверждал, что модели искусственного интеллекта могут препятствовать правительственному надзору, а не подпитывать агрессивные разведывательные программы.

«Возможно они могли бы перестать шпионить за общественностью и начать шпионить для общественности, — сказал Сноуден. — Это было бы чистым благом».

Полный обзор Консенсуса 2023 читайте здесь.

Однако он предупредил, что запуск ChatGPT и других более сложных моделей искусственного интеллекта может подстегнуть крупные технологические и правительственные инициативы по нарушению конфиденциальности пользователей. И чтобы предотвратить кооптацию технологий искусственного интеллекта злоумышленниками, люди должны бороться за то, чтобы модели искусственного интеллекта оставались открытыми.

«Люди будут поднимать красный флаг “программного коммунизма”, когда нам нужно объявить, что модели должны быть открытыми», — сказал Сноуден.

Сноуден направил свою критику конкретно на новые модели ИИ, которые появляются на рынке и становятся все менее и менее открытыми. Отметив, что особенно это касается моделей на OpenAI.

«Плохая шутка, верно? Они отказались предоставить публичный доступ к своим торговым данным, своим моделям, весам и так далее, но они лидеры в этой области. И их вознаграждают. Их вознаграждают за антисоциальное поведение», — возмутился Эдвард.

Он утверждал, что использование этой технологии сводится к тому, как исследователи обучают двигатели ИИ. Большая часть обучения ИИ включает в себя кормление ИИ большим количеством онлайн-контента, включая комментарии в соцсетях, что, по словам Сноудена, не идеально.

«Они тренируют [модели искусственного интеллекта] в темах Reddit», — сказал Сноуден. «Это похоже на интернет-эквивалент комментариев на YouTube. Но вы хотите создать что-то приличное, хорошее, креативное и полезное».

Эдвард отметил, что современные методы обучения вращаются вокруг обучения моделей ИИ «думать как мы», что может ограничить потенциал технологии для улучшения человечества.

«Как и в случае с детьми, нам не нужны машины, чтобы быть похожими на нас. Нам нужно, чтобы они были лучше нас. И если они не лучше нас, то мы проделали ужасную работу», — сказал Сноуден.

Эдвард Сноуден: исследователи должны обучать ИИ быть «лучше нас»