Как стать автором
Обновить
88.76

Сергей Лукьяненко: ИИ готовит нам ловушку интеллектуальной беспомощности

Уровень сложностиПростой
Время на прочтение5 мин
Количество просмотров12K

Разговор с Сергеем Лукьяненко, писателем-фантастом, автором романа «Ночной дозор» и других известных произведений, состоялся в кулуарах международного симпозиума «Создавая будущее», организованного при поддержке Национальной технологической инициативы.

Сергей Лукьяненко выступает на одной из сессий симпозиума «Создавая будущее»
Сергей Лукьяненко выступает на одной из сессий симпозиума «Создавая будущее»

На форуме писатель говорил про влияние искусственного интеллекта на нашу жизнь, вызовы, которые стоят перед человечеством сегодня, и про то, как новое поколение интеллектуалов будет с ними справляться. Поэтому часть вопросов была об этом. И еще там работала выставка «Наследие для будущего», посвященная невероятным предсказаниям писателей-фантастов прошлого, которые сбылись в наши дни, и мы также поговорили с Сергеем Лукьяненко о даре визионерства современных фантастов.

Константин Хабенский в роли Антона Городецкого в фильме «Ночной дозор», снятом по роману С. Лукьяненко
Константин Хабенский в роли Антона Городецкого в фильме «Ночной дозор», снятом по роману С. Лукьяненко

— Сергей Васильевич, здесь на форуме много говорят об искусственном интеллекте и опасностях, которые исходят от него. Что вы думаете об этом?

— Я считаю, что есть две главные опасности. Первая — ИИ — может быть зол по отношению к человечеству. А вторая — что может быть добр. И добрый искусственный интеллект, который будет за нас писать хорошие книги, снимать хорошее кино, замечательно управлять производством и все остальное делать вместо нас — это ловушка. Путь к тихому плавному вымиранию человечества. То есть мы можем оказаться в мире, где всё для человека, но при этом никакого смысла существования человека нет. И это очень сложная и коварная ловушка. Причем раньше в нее уже попадали элиты разных стран. Из истории мы знаем, например, как разрушались Римская и другие великие империи и страны, где элита теряла смысл существования, переставала понимать, для чего она вообще создана.

Сергей Лукьяненко: «Писатели-фантасты слушают небо». Фото с сайта форума «Создавая будущее»
Сергей Лукьяненко: «Писатели-фантасты слушают небо». Фото с сайта форума «Создавая будущее»

— Выходит, и «злой», и «добрый» ИИ опасен, замкнутый круг. А еще вы как-то сказали, что видите будущее, но не хотите пугать им людей. Означает ли это, что вы смотрите на будущее достаточно пессимистично?

— Скорее сказал бы, что смотрю на будущее с осторожностью. Я все же по натуре больше оптимист и думаю, что мы справимся со всеми вызовами. Но для этого надо, конечно, прикладывать определенные усилия. У нас очень много разных ловушек впереди. И помимо таких очевидных и банальных, как военные угрозы или угрозы эпидемий, в том числе искусственно созданных с помощью выведенных в лабораториях вирусов, впереди маячит ловушка интеллектуального и, быть может, даже товарного изобилия. Она связана с развитием нейросетей. А также ловушка биологического краха человечества, связанная с вмешательством в его геном.

На форуме «Созидая будущее» Сергей Лукьяненко активно общался со своими китайскими читателями, а также журналистами из Китайской Народной Республики, которые приехали в Москву как гости и участники на этот симпозиум.

В Китае книги Сергея Лукьяненко начали активно издаваться с 2023 года, его научная фантастика пользуется там популярностью, и его часто называют «русский Лю Цысинь».

На фото слева: Сергей Лукьяненко на форуме "Создавая будущее" демонстрирует журналистам из КНР свою книгу на китайском языке .


— Верите ли вы в силу российских стартапов, мы можем добиться технологического прорыва?

— Я верю в наши прорывные технологии, в беспилотные системы, например, такие, которые развивает наша компания Cognitive Pilot. Верю, как ни странно, и в российские квантовые вычисления. У нас также есть серьезные заделы в биотехнологиях. То есть достаточно много заделов и молодых людей, которые остались работать здесь, в России. Пожелаю им всем терпения, работоспособности и немножко удачи.

— На форуме работает выставка блестящих исторических предсказаний ваших коллег, писателей-фантастов XX века. А сегодняшние фантасты: могут ли они радовать нас таким же уровнем визионерства?

— Предугадывание будущего часто происходит случайно. Моделей у будущего много, и в какой-то момент одна из них, наконец, попадает в точку. И тогда все радостно кричат: «Вот он, фантаст-провидец!» Но все же, если фантастикой заниматься по-хорошему и пытаться экстраполировать в будущее то, что видишь в сегодняшнем дне, то, конечно, возможны и определенные прицельные попадания.

Экскурсия по Залу изобретений, предсказанных писателями-фантастами, в национальном центре «Россия», где проходил форум «Создавая будущее»
Экскурсия по Залу изобретений, предсказанных писателями-фантастами, в национальном центре «Россия», где проходил форум «Создавая будущее»

— На форуме вы говорили о разнице поколений и роли информации. Поясните, пожалуйста.

Мы сейчас живем в странное время: ведь каждое последующее поколение получало больший запас доступной информации и техническую возможность с ней работать. Поколения развивались в логике усложнения работы с информацией, и этот фактор являлся водоразделом между ними. А сейчас вся информация становится общедоступной. И где бы сегодня в мире мы ни находились, всегда остаемся на связи с информационными потоками. Поэтому сегодняшнее поколение столкнулось с кризисом переизбытка информации, когда становится все сложнее отыскать правильную и необходимую.

Много фейков, домыслов и теорий, которые воспринимаются как реальность. И вот уже нас не удивляют люди, которые верят в плоскую Землю. Каждому следующему поколению приходилось работать со все большим объемом информации, а нынешнему «Поколению Бета», то есть тем, кто появится на свет уже в эпоху искусственного интеллекта, на мой взгляд, придется иметь дело с ее верификацией. И это проблема, с которой до сих пор поколения не сталкивались.

Всегда была какая-то энциклопедическая база, фундаментальная наука и всем известные аксиомы. Сейчас аксиом нет. И молодой человек, вступающий в жизнь, плавает в бескрайнем океане информации, в котором нет никаких ориентиров.

— Кто-то из великих сказал, что фантасты умеют разговаривать с небом. Ведете ли вы этот разговор?

Конечно, разговор с небом остался. Но это, скорее, не разговор, то есть не диалог — мы его по большей части слушаем, — Сергей Лукьяненко.

Post Scriptum

Что это за «Поколение Бета», о котором говорит Сергей Лукьяненко?

Поколение «Бета» — термин из т. н. «Теории поколений», который активно используют для обозначения генерации детей, которые будут рождены в 2025 году. Так как шаг между технологическими поколениями составляет примерно 15 лет, то речь идет, соответственно, о детях, которые родятся в 2025–2040 годах. Ожидается, что оно последует сразу же за поколением «Альфа», родившимся примерно с 2010-го по 2024 год. 

Участники «Теории поколений» (поколения 1901-1980 гг.)
Участники «Теории поколений» (поколения 1901-1980 гг.)

Отличительная черта «Беты» в том, что поколение появятся на свет, когда искусственный интеллект станет повсеместной реальностью, и все ключевые технологии так или иначе будут с ним интегрированы. Таким образом, эти дети с первых своих дней будут жить в мире с высокоразвитыми ИИ, автоматизацией, беспилотными технологиями и сложными цифровыми системами, которые будут управлять многими процессами. Их детство и юность будут, вероятно, проходить в эпоху, когда представление об истине также будет формировать нейросеть, так как существенная часть онлайн-контента будет создаваться искусственным разумом либо с его помощью.

Участники «Теории поколений» (поколения 1981-2025 гг.)
Участники «Теории поколений» (поколения 1981-2025 гг.)

Считается также, что «Бета-поколение» будет более осведомленным о проблемах устойчивого развития и экологии, поскольку они в активном взрослом возрасте столкнутся с серьезными последствиями изменения климата, им придется решать возникающие проблемы.

Теги:
Хабы:
+15
Комментарии74

Публикации

Информация

Сайт
leader-id.ru
Дата регистрации
Дата основания
Численность
51–100 человек
Местоположение
Россия

Истории