Автор в телеге: Кеша (Мозг/ИИ Просто)

Ютуб версия: https://youtu.be/MaR_uPjEb6Y

Ролик-рефлексия на тему происходящего сейчас в мире.

Осенью я давал интервью для документального фильма Высшей школы экономики «После промпта„. В са“»м фильм попал небольшой фрагмент, и я долго думал что делать с остальным материалом. Так появился НейроДудь.

Предположим, вас не пугает развитие ИИ. Вы готовы отказаться от звания «Венец природы», готовы оформить подписку на счастье и окунуться в игры с головой. Пусть уже роботы всем управляют и наступит этот прекрасный мир постчеловечества. 

Проблема в том, что вам это не светит, как и подавляющему населению земли. Даже если все изменения произойдут завтра. 

Чтобы в этом разобраться, потребуется вспомнить извечный философский вопрос: «Если дерево падает в пустыне, и его никто не слышит, издает ли оно звук?». Ответ на этот вопрос скрыт в системах фиксации событий.

Со времён Эйнштейна мы оперируем моделью под названием «Пространство‑время». Эта модель как раз и описывает систему фиксации событий. 

Вот падает дерево, ударяется о песок, появляются волны, которые распространяются через воздух и песок. Они влияют на окружающую среду и перестраивают её. Переход системы «Пространство‑время» из состояния «А» в состояние «Б» и является способом фиксации события. С её точки зрения, событие случилось, звук был.

Но пространство‑время не единственная система фиксации. Внутри неё есть вложенные системы. И одну из них мы называем «Мозг». 

Чтобы мозг зафиксировал звук, нужно, чтобы в результате события перестроились нейроны. Если их структура не изменилась, то для мозга ничего не произошло. Дерево в пустыне может хоть органный концерт устроить. 

Проблема в том, что мозг — не идеальная система фиксации, с огромным количеством изъянов. Недостаточно просто быть рядом с деревом. Нужно, чтобы была готова сенсорная система, но, самое важное, необходимо, чтобы был готов Неокортекс. 

Давайте быстренько разберёмся, как работает эта волшебная «Духовная близость» с людьми. Все вот эти «О боже, он такой же как я» или «Мы совершенно разные люди». А также почему первое часто переходит во второе.

В этой статье вы узнаете:

Посмотри, я особенный! Кричим мы обществу. Я запускаю уже третий бизнес! А я посетил сто стран! Я сказочно красива! А я вырос в ебенях, но теперь имею вес в столице! Я очень осознанный! А я только вернулся из ретрита и всё понял! Я цинично всех разоблачаю! А я богаче! Я занимаю высокий пост! А я талантливый художник! Я очень умная! А я знаком со знаменитостями! Я ношу сумочку за десять тысяч долларов! А я прыгал с парашютом! Я купил квартиру в центре! Набрал миллион подписчиков! Искренний! Добрый! Всё это вместе взятое и выше всего этого!

И, на первый взгляд, ничего плохого в этом нет. Быть особенным — это простой и понятный смысл жизни. Не зря же этому учили фильмы и книги. Только особенный герой имеет интересную и достойную судьбу. Только он имеет предназначение. А у второстепенных персонажей жизнь серая и скучная. Они ещё и умирают, чтобы было нагляднее.

Более того, в нас эволюцией заложено желание карабкаться на пирамидки социальной значимости. Если ты значим, то у тебя больше ресурсов, ты с большей вероятностью дашь потомство, и закрепишь генетическую мутацию с этой моделью поведения.

Усиливается это спецификой долгого взросления. Сразу после рождения, мы маленькое беззащитное существо, но с вполне работающим мозгом. И первое, чему учится мозг — быть самым особенным объектом в мире взрослых. Просто стратегия выживания, ничего личного. 

И вот мы здесь. В мире социальных сетей, где значимость «быть особенным» улетела в стратосферу. Мозг обезьяны к таким радикальным переменам, конечно, был не очень готов.

Короче, меня задолбало, что списки всё время теряются. 

Раз за разом повторяется одна и та же ситуация. Знакомый советует фильм, я открываю заметки, где-то записываю. И эта запись навсегда растворяется в мировом пространства. 

Это происходит со всеми списками. С идеями, знакомствами, заметками из книг, местами, где я был. Вся эта бесконечная череда списков постоянно теряется. Ты постоянно начинаешь их заново. Может бы это я такой странный, а другие ответственно всё раскладывают по полочкам. 

Но есть же Notion и его аналоги! Я создам необходимые вкладки и буду ответственно вести! Ахахаха, нет. Оказалось, что открыть отдельное приложение, продраться сквозь интерфейс и найти нужный список — это слишком высокий порог входа, когда надо записать на лету.

Четыре месяца назад я решил попробовать записывать короткие ролики в формате ТикТок. Много лет пишу про мозг, поэтому выбрал эту тему, как основную.

План был простой — на протяжении года регулярно выкладывать ролики независимо от просмотров. О промежуточном итоге эксперимента читайте дальше.

До того, как появится искусственный интеллект, способный поработить человечество, нас ждёт ещё одна угроза, которая беспокоит меня гораздо сильнее — когнитивные вирусы.

Сегодня нам продают новый телефон с помощью уловок, которые были накоплены человечеством за десятилетия проб и ошибок. Базу знаний с такими уловками принято скромно называть Маркетинг. Но способы управления чувствами и поведением других людей накапливались не только там. 

Геймдизайнеры читают книги по подсаживанию игроков на дофаминовую петлю. Политики читают книги по социальной инженерии. Сценаристы читают «Историю на миллион долларов», которая буквально учит управлять чувствами. Учёные щёлкают над головой аппаратом ТМС, лишая возможности говорить, и проводят сотни тысяч других экспериментов, которые деконструируют механизмы поведения и принятия решений. 

Применение ИИ в этой зоне пугает меня по-настоящему. И на то есть три причины.

Нейросеть никогда не заменит человека! Нейросеть не умеет ставить цели! Нейросеть не обладает эмоциями и творческим потенциалом! Нейросеть не умеет впитывать знания из окружающего мира! Нейросеть не обладает сознанием! Нейросеть может учиться только на том, что создаём мы, люди!

Я понимаю людей, которые обесценивают нейросети. Они находят области, где нейросети бессильны. Составляют списки профессий, которые останутся актуальными. Смеются над ошибками ChatGPT и лишними пальцами Midjourney. Сквозь эти рассуждения прослеживается одна простая мысль: машина никогда не сможет стать человеком. И это конечно, так.

Но это ничего не меняет.

Эта статья состоит из двух частей. В первой я расскажу о том, почему считаю, что нейросети смогут заменить человека во всех областях. А во-второй выскажу своё предположение о том, как изменится жизнь человека, когда его работа будет больше не нужна. Спойлер: всё будет хорошо. 

«Если из человеческого мозга вынуть доброту и любовь, не останется ничего, кроме воли к победе», — Джон Ронсон. 

Этой цитатой проще всего описать психопата. У многих людей этот термин ассоциируется с маньяками, спасибо Голливуду за это. Но психопат не равно преступник. В окружении каждого человека множество психопатов. И далеко не все совершают преступления.

Если мы построим распределение людей по уровню эмпатии, то его крайний правый конец займут суперэмпаты. Люди, способные остро чувствовать эмоции и переживания других людей. На крайнем левом конце распределения окажутся психопаты. Люди, не способные понять, что чувствует другой человек. О них и пойдёт речь.

Меня зовут Кеша. Я IT-предприниматель и автор книги «Просто о мозге». В этой статье я опираюсь на свои знания, жизненный опыт и данные из книги Джона Ронсона «Самовлюблённые, бессовестные и неутомимые. Захватывающие путешествия в мир психопатов». Редактирует эту статью Маша Осетрова, нейроучёный, научный журналист, редактор научно-популярных книг.

Вначале я расскажу о психопатии как явлении, а потом поделюсь своим опытом. 

В моей книге “Просто о мозге” была ещё одна глава, которую я удалил перед публикацией. Она называлась “Будущее”. В ней я приводил прогнозы развития человечества на основе того, что сейчас известно о мозге. Глава получилась грустной, а мне хотелось, чтобы книга заканчивалась на позитивной ноте.

Поэтому расскажу три прогноза оттуда здесь. Они хорошо перекликаются с хайпом вокруг GPT-3 и позволяют по-новому взглянуть на всё, что происходит.

///

Прогноз первый. Нейросеть-президент.

Начнём с простых и очевидных прогнозов. Скоро мы увидим первую страну, которой управляет нейросеть.

Чтобы это произошло, надо преодолеть две проблемы: моральную и техническую. Техническая простая. Нужно создать комплекс нейросетей-министерств. С одной стороны в такие министерства будут втекать данные, а с другой стороны вытекать распоряжения для исполнительной власти. Этот тип власти какое-то время ещё будет состоять из аналоговых биологических механизмов. Из людей.

Моральная проблема чуть сложнее. Звучит она примерно так: “Чтоооо?! Да никогда мы не позволим компьютеру принимать столь важные решения!”. Давайте все дружно крикнем вслух, как называется решение этой проблемы. Раз! Два! Три! Беспилотное Такси!

Ехать в беспилотном такси — это доверить ИИ самое дорогое — жизнь. Государство гораздо менее ценная вещь, с точки зрения эволюционировавшей обезьяны. Как только общество привыкнет ездить в беспилотном такси, дверь для ИИ-президента откроется нараспашку.

Да, будет всё не сразу. Вначале появятся государственные ИИ-советники. Решения синтетического мозга будут проверяться и перепроверяться. Но по мере роста их эффективности всё меньше контроля будет у человека, и всё больше у условного Скайнета.