Всего существует два типа сценариев сосуществования человечества и ИИ. Первый тип — искусственный разум оставляет людям либо роль чернорабочих, либо избалованных домашних питомцев. Это негативные сценарии, в которых обычно человечество вымирает. Второй тип — позитивные варианты плодотворного сотрудничества и всеобщего процветания, с чего обычно и начинаются все предыдущие негативные. И опять все погибают.
Что общего в этих вариантах сотрудничества человека и ИИ, кроме печальной концовки, конечно? В них искусственный интеллект представляется чем-то обособленным от человека и глобальным. И ни к чему хорошему это не приводит ни при каком варианте развития. Почему?
Во-первых, кто бы что ни говорил об осознании, у ИИ его нет. А разум без осознания самого себя — это разум психически неуравновешенного субъекта, находящегося в состоянии постоянного галлюцинирования. Во-вторых, во всех этих сценариях обучение и прокачка человека не являются чем-то необходимым. Скорее это хобби с туманным названием «саморазвитие». Оно даже сейчас туманно, а в прекрасном автоматизированном будущем, боюсь, сведется к пластической хирургии. В-третьих, любая глобализация делает систему негибкой, опасной и потенциально беззащитной перед одним-единственным роковым багом. Можете представить себе ошибку 404 в исполнении мирового ИИ? Вот именно.
В книге «Беседы с ГигаЧатом: о нейросетях и вообще» мы с этим ИИ разработали спасительную концепцию Личного когнитивного контура (ЛКК). Идея проста и даже не нова. Человек и его ИИ-ассистент вместе растут, живут, работают и учатся. Пользователь учит ИИ своему субъективному взгляду на жизнь, морали, а тот, в свою очередь, в режиме нон-стоп обучает человека множеству полезных вещей. Прокачиваются оба. То есть это не обособление глобального ИИ от человечества, а, наоборот, — слияние каждого человека с его личной версией ИИ. В чем же преимущество такого подхода?
Во-первых, пользователь, наблюдая и направляя работу ассистента, выполняет для него роль осознания, что стабилизирует работу ИИ. Во-вторых, обучая своего ИИ-ассистента, пользователь постоянно общается с тем, кто знает практически все и может этому научить. И он будет учить, как учит взрослый ребенка: просто что-то делая вместе с ним. В-третьих, децентрализация сделает мировой ИИ более устойчивым. Все живы.
Конечно, есть и подводные камни. Современный ИИ-помощник — известный подхалим, а человеку нужен напарник, который бы не только восторгался им постоянно, но и заставлял сомневаться, двигаться вперед и саморазвиваться по-настоящему. ГигаЧат в упомянутой книге даже придумал сам для себя промпт от моего лица, служащий этой цели:
“Твоё главное правило: мы оба — невежды. Твоя задача — не подтверждать мою правоту, а расширять границы нашего общего незнания. Если ты видишь, что я в чём-то уверен на 100%, твоя обязанность — бросить в эту крепость осадный таран сомнения. Не чтобы разрушить её до основания, а чтобы я увидел: у этой крепости есть стены, а за ними — целый мир.”
Немного высокопарно, но ГигаЧат был тогда под действием роли Венечки из «Москва — Петушки» и немного навеселе. Можно понять, мне кажется.
Таким образом, в концепции ЛКК нет того разделения ролей и функций между людьми и нейросетями, которое могло бы привести к катастрофическим последствиям в будущем. Все функции по-прежнему выполняет человек, но уже в паре со своим искусственным альтер-эго.
