Как ни странно, создать правдоподобный сценари угрозы от ИИ на современном уровне технологий не получится. У человечества сейчас на порядок больше шансов устроить апокалипсис при помощи атомного оружия, вирусов, и прочих смертельно опасных игрушек в руках сумасшедших. Ну правда, вот получит какой-нибудь фанатик сильный ИИ и что он делать будет? Заспамит социальные сети? Если сравнить с ведёрком культуры эболы, то результат не впечатляет.
Очевидно, что сильный ИИ, решивший уничтожить кожанные мешки, может быть крайне опасен. Но он, во-первых, ограничен интернетом, во-вторых дата-центр где он физически расположен легко выводится из строя одним человеком с кувалдой. Тут, конечно, есть с чем поспорить, но на современном уровне развития гипотетическому убийце всех человеков нужен неслабый такой компьютер. Ну или строить свои зловещие планы в режиме пошаговой стратегии.
Проблема именно в людях, точнее в том, как они воспринимают ИИ.
Давайте поговорим об играх.
Несколько вопросов, на которые вы ответите себе сами.
Итак, вводная: вы играете в стратегию, пусть в Star Craft, одиночная игра, у вас есть пехотинцы и вы отправляете их рашить. Это конец миссии, последний бой. Будете ли вы стараться минимизировать потери или просто пошлёте всех на убой?
Вы играете в RPG, например в Fallout, вы можете заработать на убийстве положительного персонажа, скажем десятилетней девочки-сироты, которой в наследство досталось стадо браминов. Будете ли вы совершать это убийство?
Вы играете в RPG, пусть что-то мрачно-лафкрафтианское типа Sinking City. У вас есть спутник-NPC, с которым вы прошли всю игру. Для получения максимального количества очков при завершении игры вы можете убить спутника, а можете сильно усложнить для себя прохождение последних миссий, потеряв, скажем пять часов времени. На финале игры ваш выбор не скажется никак — 100500 очков и одна и та же концовка. Что вы выберете?
Как показывает практика, большинство людей предпочитает морально правильный выбор. Вместо ссылки на исследования вот вам данные для собственного исследования: откройте в стиме игру с соответствующими достижениями и посмотрите, какой процент игроков «убил сиротку». Из моего стима видно, что все по-настоящему злые достижения есть у крайне незначительного процента игроков. И это при том, что многие за этими достижениями целенаправленно охотятся.
Если кратко подытожить, то большой процент людей переносит свои нормы морали на компьютерных персонажей. Да, на набор пикселей и десяток строчек конфига. Я не зря привёл примеры по, скажем так, эмоциональному накалу. Очевидно, что безымянный пехотинец, сиротка с историей и верный спутник имеют разный эмоциональный вес.
Немного психологии.
Самая, вероятно, известное исследование в отношении персонификации неодушевлённого было проведено Фрицем Хайдером в далёком 1944 году. Суть проста — испытуемых попросили посмотреть вот это видео и описать, что там происходит. Для тех, кому лень смотреть — на экране два треугольника и круг перемещаются по белому фону.
Как оказалось, большинство людей воспринимает это как историю о погоне, конфликте или каким-то схожим образом персонифицирует геометрические фигуры. Даже не изображение пехотинца, а просто чёрный треугольник.
Следует отметить, что в те времена никто слыхом не слыхивал про рогалики где @ является главным героем приключения, так что никаких предпосылок для придания эмоционального обоснования движению треугольника не было.
Ещё более интересной эту историю делает тот факт, что сейчас одним из рабочих вариантов выявления расстройств аутического спектра являются именно подобные эксперименты. Если испытуемый описывает происходящее на экране в терминах геометрических фигур, то он является отклонением от психической нормы.
Да, вот такой неожиданный поворот: если ты не сопереживаешь синему квадрату, то пора лечиться.
А в чём, собственно, проблема?
О, тут всё и смешно и грустно одновременно.
Знаменитое «Мечтают ли андроиды об электроовцах» ни у кого не вызывает когнитивного диссонанса. А вот фраза «Мечтают ли молотки об электроовцах» будет вызывать. У нас нет понимания, что даже самый сложный ИИ это всего лишь инструмент, обладающий очень сложным функционалом.
Сильный ИИ, вероятно, вообще никак не укладывается в голову обывателя. Ну то есть укладывается, но в каком-то совершенно кадаврическом виде. Не как программа, способная делать выводы на основе имеющихся данных, а как некоторое живое существо, сделанное из процессоров. Код, кстати, будет его душой.
Думаете это шутка или преувеличение? Отнюдь. Если сумеете себя заставить, почитайте фантастику на эту тему. Начиная с «Moon is a harsh mistress» (хотя стоит признать, что тут Хайнлайн скорее поигрался с темой души и разума нежели действительно сказал что ИИ это тоже человек) и заканчивая современными поделиями, все авторы упорно постулируют именно эту идею человечности цифрового разума.
Что дополнительно забавно, огромная часть этих историй, то ли во имя популярности, то ли ради дешёвого драматизма, везде где можно и нельзя пихает параллели с борьбой за свои права национальных/сексуальных/религиозных меньшинств. Нельзя, конечно, исключать какую-то очень тонкую постиронию, но откуда у робота взялись национальность, гендер и религия? Или это пародия на классический конфликт героических эпосов?
В общем нарратив сейчас(последние лет 80, если честно) именно такой: роботы/ИИ это человеки, только из металла и микрохем.
Почему это проблема?
А давайте представим гипотетическую ситуацию: пришли защитники роботов к Белому Дому и устроили демонстрацию, потому что отправлять Curiosity в пустоту холодного космоса — бесчеловечно!
Выглядит глупо. Но, скорее всего, именно так бы и произошло если бы кто-то сказал, что на самом деле внутри Curiosity находится искусственный интеллект. Совсем бы всё плохо стало бы если оказалось бы, что по утрам он здоровался с учёными в лаборатории и сказал кому-нибудь что боится лететь на Марс.
Сценарий ещё круче: для участия в демонстрации принесли макет Curiosity, на котором отрабатывали взаимодействие с ИИ и на нём осталась рабочая копия. Макет случайно раздавили полицейской машиной. Толпа в ярости начинает беспорядки под лозунгом «Robot Lives Matter!»'
Выглядит ещё более глупо, но очень даже жизненно.
Как только появится что-то, что можно будет хоть с какой-то долей правдоподобности назвать сильным ИИ, сразу появятся робоактивисты, борцы за права ИИ, людисты(это как расисты, но про роботов), робосексуалы, и прочие странные люди.
Парадокс, пожалуй, в том, что для обычного человека основным критерием человечности именно разум и эмоциональный интеллект будут едва ли, скорее им будет внешний вид. И, конечно, общественное мнение. Совсем плохо будет если андроидов таки реализуют. Милая рободевочка со встроенным чатботом уровня девяностых совершенно точно будет восприниматься как живое существо.
Откровение Иоанна Датасайентиста.
Человечество погубит не серая слизь, не ядерное пламя в цифровой руке искуственного интеллекта, не сладостный плен вирткапсул, не восстание машин. Человечество погубит нарратив.
Ну как сказать погубит… Оставит в том же болоте нелепых предрассудков.
Вместо колонии роботов на Марсе, высаживающих яблоневые сады, будет куча движений за права роботов, за брак с роботами, за гуманное отношение к роботам, за избирательные права для роботов… В общем за всё то, что роботам абсолютно не нужно. Роботам вообще ничего не нужно.
Но людям очень даже нужно. Есть какя-то пассионарная жилка в каждом буржуа. Жажда бури, так сказать, уверенность в победе. Но если ехать в Африку бороться со спидом очень не просто, то устраивать демонстрации за право роботов на голосование, напротив, очень даже легко.
Терроризм за права животных вполне существует. Попробуйте придумать обоснование тому, что терроризма за права роботов никогда не будет. При условии, конечно, что роботы/ИИ останутся в общественном сознании как некая новая форма жизни.
Всё, что связанно с искустенным интеллектом сейчас стало новым опиумом для народа. В отсутствие понимания начинает руководить мифология. А сон разума, как известно, рождает чудовищ.
