Примечание первое: заголовок статьи — перевести одной фразой нереально (удивите?). Слишком много игры слов и смыслов. Первоисточник — монолог Гамлета “быть или не быть”. Поэтому я решила оставить оригинальный заголовок.
Примечание второе: переобучение (переподгонка, пере- в значении «слишком», англ. overfitting) в машинном обучении и статистике — явление, когда построенная модель хорошо объясняет примеры из обучающей выборки, но относительно плохо работает на примерах, не участвовавших в обучении (на примерах из тестовой выборки). Wikipedia
Допрос сна
Любой, кто слушал моё выступление на Ratio в 2017 году, может припомнить одно интересное утверждение: мозолистое тело человека — это пучок нейронов, который соединяет полушария головного мозга, — имеет такую же пропускную способность, что и современный сотовый телефон, если принять во внимание коррекцию шума и синаптическую избыточность. Я не выкопал этот факт из рецензируемой литературы. Данный факт достался мне от нейробиолога по имени Эрик Хоэль (который, как оказалось, является сам по себе довольно хорошим автором). По моей просьбе он набросал эти расчёты на обороте конверта, и я побежал с ними дальше.
Теперь Эрик набросал ещё немного вычислений и придумал абсолютно новую теорию сновидений. Статья “Переобученный мозг: сны эволюционировали для помощи в обобщении” опубликована на arXiv, и это не только увлекательная, но ещё и доступная для понимания статья. Это редкое явление в технической литературе.
На протяжении многих лет я время от времени читал статьи о сновидениях. Ещё в восьмидесятых я читал, что сны служат для закрепления долговременных воспоминаний, и что у крыс во сне активируются те же нейронные пути, которые были активны, когда они учились бегать по лабиринтам в часы бодрствования. Где-то на рубеже веков я столкнулся с идеей, что сны — это просто эпифеномен случайных искр в зрительной коре: слабый низкоуровневый шум, обычно заглушаемый реальным визуальным вводом во время бодрствования, но этот шум — единственный игрок, когда зрительные нервы перестают подавать сигнал. Мозг, в первую очередь составляющий паттерны, рефлекторно интерпретирует этот шум, как если бы он был сигналом, считывает значение в бессмысленных, внутренне генерируемых кляксах Роршаха. Если случается, что что-то преследует ваш (бодрствующий) разум, мозг с большей вероятностью превратит эти кляксы во что-то концептуально связанное с этим предметом. (Мне понравилась эта интерпретация: она объясняла, почему решение моей диссертации на степень магистра пришло ко мне во сне.)
Эрик называет эти и другие объяснения состояния сна чушью – или, по крайней мере, он утверждает, что ни одно из них не раскрывает всю суть. Теория Реконсолидации Памяти на самом деле не выдерживает критики в свете того факта, что даже когда люди рассказывают, что им снились вещи, которые они пережили, — эти сны являются ничем иным, как верной инсценировкой; отличительной чертой снов является то, что они, как правило, безумны почти по определению, хотя сновидец обычно не осознает этого, когда он в одном из них. (Это также весомый аргумент против теории о том, что сны моделируют разные сценарии, чтобы подготовить мозг к новым вызовам. Как часто я буду сталкиваться с «Титаником» в открытом космосе в маленьком красном фургоне с парой полноприводных автомобилей, привязанных к бортам?)
Я думаю, что Эрик может немного задержался на пути пенного адаптационизма в ходе упомянутых рассуждений. Даже жизнь во сне, содержащая 95% галлюцинаторного безумия, может быть адаптивной, если оставшиеся 5% генерируют полезное озарение. (Я далеко не единственный человек, которого научная проблема ставит в тупик во время бодрствования, только для того, чтобы мои сны вмешались и предложили решение; на самом деле это довольно распространённый опыт у аспирантов, не говоря уже о таких известных примерах, как дрёма про бензол у Кекуле.) И всё равно — многие теории отвергают конкретное содержание снов как эпифеномен, побочные эффекты какого-то более глубокого процесса, не имеющего функционального значения.
Этот последний пункт подчёркивает наиболее важное отличие Гипотезы о Переобученном Мозге (ГПМ). В нём утверждается, что повествовательная абсурдность сновидений не является побочным эффектом: на самом деле в этом и заключается весь смысл упражнения. Сны, согласно ГПМ — это инъекции шума, которые удерживают мозг от переобучения эмпирическими наборами данных.
Вы, наверное, слышали о переобучении. Это распространённый бич программ глубокого обучения. Вы обучаете нейронную сеть на заданном наборе данных — например, вознаграждаете её за идентификацию сторонников Трампа (MAGAnites) в переполненном театре (вы помните театры, верно? Вы помните толпы людей?). Сеть учится отлично работать на этом обучающем наборе, поэтому вы пробуете её на новых данных — только для того, чтобы увидеть, что её производительность снова падает до случайных результатов. Возможно, в данных обучения была какая-то странность (возможно, все отобранные сторонники Трампа только что пришли с митинга за осведомленность о раке молочной железы, и система пришла к выводу, что может идентифицировать сторонников Трампа по розовым лентам). Какими бы ни были особенности — система сосредоточилась на идиосинкразических деталях внутри обучающей выборки за счёт более широких паттернов, которые выходят за её пределы. Она запомнила данные вместо того, чтобы обобщить их.
Люди, которые тренируют эти сети, используют пару трюков, чтобы избежать переобучения: например, вводят в сигнал небольшие всплески шума. Другой метод — это “отсев”: случайное удаление данных из обучающего набора, чтобы сделать входные данные более разряжённым и ослабить локальные корреляции. Упрощение сети — это ещё один подход, поскольку, как пишет Эрик, “снижение сложности модели при машинном обучении обычно связано с уменьшением переобучения”.
(В статье всё это представлено в контексте машинного обучения, но я не могу не видеть отпечатки моего собственного биологического опыта во всех этих концепциях. Отсевы очень похожи на старые статистические методы “складывания” и “начальной загрузки”, при которых вы проводите повторные анализы на немного разных подмножествах одного и того же пула данных — по сути, это способ подделать несколько наборов данных с одинаковыми параметрами распределения. А преимущества уменьшения сложности модели были объяснены мне в первый же день моим старым докторским наставником Карлом Уолтерсом, который никогда не позволял нам забывать, что любая модель, которая настолько сложна, как Природа, будет так же трудна для понимания, как и сама Природа. Чаще всего высокая реалистичность — это последнее, чего вы хотите от своих моделей; они должны быть карикатурными, если собираются генерировать полезную информацию.)
(Но я отвлёкся.)
Как бы то ни было — ГПМ предполагает, что сны выполняют ту же функцию в органических мозгах, что и отсевы и шумовые инъекции в минеральных. Они удерживают мозг от переобучения обыденной реальностью, добавляя немного галлюцинаторных помех.
Звучит правдоподобно. Также звучит немного странно — я имею в виду, как вы проверите что-то подобное? — но Эрик подкрепляет свою гипотезу несколькими интересными замечаниями:
Мы склонны гораздо больше видеть сны о скучных, повторяющихся занятиях — заполнении полок, игре в Тетрис весь день, — чем об интересных и разнообразных занятиях. Другими словами — нам, скорее всего, снится поведение с низкой дисперсией, которое особенно склонно к переобучению.
Эти сны не рассказывают о конкретных деталях упомянутого действия (как можно было бы ожидать, если бы целью была реконсолидация памяти). Они происходят в одном и том же концептуальном пространстве, но они — как и большинство снов — в корне абсурдны.
Лишение сна не ставит под угрозу все виды когнитивных функций в равной степени. На задачи механического запоминания это относительно не влияет. С другой стороны, общая производительность, то есть виды деятельности, которые в наибольшей степени выиграли бы от контрмер против переобучения, — действительно страдают.
Это, по-видимому, верно даже для младенцев (и, чёрт возьми, хотел бы я когда-нибудь поучаствовать в этом эксперименте. Чего бы я только не отдал, чтобы увидеть статистически значимую выборку младенцев, пристегнутых ремнями к специально изготовленным детским автокреслам, которых 24/7 обстреливают Metallica, чтобы они не задремали...)
Таким образом, по-видимому, имеются существенные, хотя и косвенные, доказательства того, что сны с абсурдным (но имеющим отношение к предмету) содержанием выполняют адаптивную функцию. Однако, как указывает Эрик, будут определенные последствия для выживания, если бы мозг испытывал отсев или шумовые инъекции во время бодрствования и активности; во-первых, будучи наглухо обдолбанным в среде полной хищников — можно сильно ухудшить своё общее физическое состояние. Если вы собираетесь массировать эмпирический набор данных в режиме реального времени — лучше всего выбрать время, когда человек неактивен и (относительно) в безопасности. Само собой разумеется, что эволюция перепрофилировала состояние сна (которое, вероятно, уже существовало по другим причинам) с этой целью.
Это то место, где я обычно беру результаты авторитетных рецензируемых исследований и использую их, экстраполируя на захватывающую научную территорию, насколько я могу это сделать. Эта статья действительно послужила этому тоже; Я просто знал, что буду вводить эти элементы в Omniscience (Даже не спрашивайте. Разве мало того, что я выложил вам отрывок некоторое время назад?). Возможно, двухпалаточники используют подобные сну заменители шумовых инъекций, чтобы позволить им оставаться бодрствующими и функциональными в течение более длительного времени. И, кстати, если оставить в стороне сон, — разве уменьшение переобучения не было бы полезно для любого вида когнитивного анализа? Да, это возможно было бы взять на вооружение; нагнетание слишком большого шума в систему снижает её способность функционировать вообще. Может быть, микроб, нацеленный на мокшанские умы…
Но у меня так и не случилась возможность дать себе волю на это, потому что Хоэль меня опередил. В конце его статьи прямо говорится о создании искусственных “состояний схожих со сном”, чтобы служить цели сновидений в бодрствующем мозге, работающем длительное время. Он даже применяет эти крутые передовые рассуждения к одному из самых обыденных видов человеческой деятельности: чиллить перед телеком…
“Стоит отнестись к идее подмены сновидений достаточно серьезно, чтобы рассмотреть, действуют ли вымышленные произведения, такие как романы или фильмы, как искусственные сны, выполняя хотя бы часть той же функции.”
Это интересная мысль. Однако, учитывая, насколько вторичными и повторяющимися являются большинство голливудских фильмов, — я должен задаться вопросом, не больше ли они похожи на игру в Тетрис весь день. Они могут не столько быть фальшивыми мечтами, сколько вызывать большую потребность в действительно важных вещах.
Допрашивая сновидца
Если ГПМ права, нам лучше надеяться, что эти ребята не добьются своего.
Конколи и его коллеги выяснили, как общаться с осознанными сновидцами во время их сновидений. Они решают простые математические задачи, представляют тесты на распознавание слов. Они задают вопросы "да/нет". Иногда это произносимые слова; время от времени они допрашивают своих испытуемых с помощью кнопок на руке, кодированных звуковых сигналов или импульсов света (очевидно, достаточно яркого, чтобы воспринимать его через закрытые веки). Сновидцы реагируют, используя заранее подготовленные движения глаз или сокращения лицевых мышц: Четыре. Да. Вниз.
Хотите верьте, хотите нет, но это работает.
После пробуждения сновидцы подводят итоги. Лишенные воображения испытуемые просто слышали голос исследователей, наложенный на их сон, как Голос Бога; другие включали стимул в сам сон, слышали вопрос, исходящий из автомобильного радио или произносимый НПЦ. По крайней мере, один сновидец услышал слова “четыре минус ноль” и ответил соответственно, хотя исследователи на самом деле не произносили никаких слов; они передавали информацию с помощью световых импульсов. И если верить рис. 1, один испытуемый дал ответ на вопрос, передавая его с помощью постукивания руками, отбиваясь от орды гоблинов.
Очевидно, информация проходит, но принимающий мозг делает свой собственный выбор того, как она воспринимается. (Это напоминает мне о том, что я называю “языковым зрением”, но этот пост и так уже слишком длинный.)
Конечно, это только первый шаг. И методология загадочна почти до Машины Голдберга: азбука Морзе и заранее подготовленные подергивания глаз, двойное слепое голосование судей, голосующих по неоднозначным сигналам, подтверждающие ЭЭГ, чтобы убедиться, что ваши испытуемые не просто дергают вас за цепь, притворяясь спящими. Тем не менее: как отмечают Конколи и его коллеги, возможность общаться в режиме реального времени со спящим мозгом даёт больше, чем просто открывает обширные области потенциальных исследований в области изучения сознания и сна. Мы можем использовать эти методы: редактировать содержание сновидений для лечения посттравматического стрессового расстройства или обучать новым навыкам во время сна.:
“...Сны можно было бы курировать в соответствии с определенными целями, например, практиковать музыкальные или спортивные навыки…. Интерактивные сны также могут решать проблемы и продвигать творчество — абсолютно новые идеи могут быть созданы с помощью интерактивного метода, который может сочетать преимущества сна и логические преимущества бодрствования. Художники и писатели также могут черпать вдохновение из общения во сне.”
Всё это, по-видимому, включает в себя подавление случайных, пизданутых элементов состояния сна и замену их чем-то большим, более обучающим. Замена шума сигналом. Потенциально переписывая саму цель сновидений, если Хоэль прав.
Конечно, мы говорим здесь об осознанных сновидениях; относительно не частом явлении, при котором вы явно осознаете абсурдность своего опыта. Может быть, это имеет значение. С другой стороны, может быть, это и не так: осознанные сновидения, которые я видел (редко), не менее галлюциногены, чем обычные. (Однажды я был пойман в ловушку с группой людей в стеклянном лифте-ренегате, который неконтролируемо ускорялся вверх. Когда он пробил крышу здания и по дуге унесся в ночь, я силой мысли вызвал небольшую панель управления на высоте пояса, которую использовал, чтобы развернуть пару коротких крыльев и какую-то двигательную установку из основания автомобиля. Я мягко опустил нас на воду и отвел всех под поверхность — очевидно, лифт тоже был подводной лодкой — для великолепной экскурсии под луной по коралловому рифу, который оказался недалеко от берега.)
(Чего вы хотите от меня? Мне было лет тринадцать.)
Даже Конколи и его коллеги признают, что
“...осознанность может быть слабой, поскольку люди могут переходить от осознанного сновидения в один момент к вере в то, что переживание является опытом бодрствования в следующий, и, возможно, обратно.... Решение этой проблемы является захватывающей задачей для будущих исследований.”
Итак: две статьи, одна теоретическая, одна прикладная. Одна о том, для чего нужны сны, другая о том, как их можно перепрофилировать. Если первое верно, то второе указывает нам на опасный путь, который в конечном итоге может привести к короткому замыканию важнейшей когнитивной адаптации, более древней, чем наш вид. Вы можете надеть гарнитуру DreamweaverTM с твердым намерением выучить китайский язык или преодолеть какой-нибудь когнитивный затор - и через несколько ночей обнаружить, что вы не очень хороши ни в чём, кроме игры в Тетрис.
Конечно, это ни в коем случае нельзя утверждать наверняка. Это, скорее, наихудший сценарий. В любом случае, ради чего вы сюда пришли, а?
Так или иначе. Я не думаю, что встану в очередь, чтобы быть первопроходцем.
Примечание третье: работу Хоэля ещё и тут обсуждают немного.