Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 29
Книгу Джейнса читал давно, и она действительно переворачивает привычную рамку. Особенно в контексте ИИ.
Если принять гипотезу буквально - древний человек не принимал решений, он просто исполнял голос правого полушария который воспринимал как внешний авторитет. По сути это и есть то что мы сегодня называем агентом: система которая действует без осознания, по инструкции, без внутреннего «я».
Тогда получается интересный парадокс. Мы тратим огромные усилия чтобы научить LLM «рассуждать» и «осознавать контекст» - то есть двигаемся в сторону сознания. Но при этом наиболее полезные применения ИИ сегодня это как раз бикамеральные задачи: слушать инструкцию, исполнять, не рефлексировать. Чем меньше модель «думает» - тем она предсказуемее и дешевле.
Может быть вопрос не в том обладает ли ИИ сознанием, а в том нужно ли нам чтобы оно у него было?
Это очень интересный взгляд. Похоже распад бикамерального разума происходит в каждом человеке даже в настоящее время, по мере развития речевых и культурных навыков. Ранним развитием речи у современных детей можно обьяснить практически полное отсутствие паранормальных явлений в "цивилизованном" мире и их обширное распространение в "традиционных" культурах, например в Африке.
Обширная пища для ума!
Все смешалось в кучу, кони-люди...
трудно себе представить именно сознательные размышления без внутреннего диалога
Зато легко представить сознательные действия без диалога. Тут вы пытаетесь приравнять мыслительный процесс (осмысление информации) к сознанию (ощущение себя и своих действий).
Большую часть времени мы ведём машину бессознательно
Большую часть времени мы ведем машину используя автоматизмы, которые делают физические реакции менее затратными по энергии, при этом сознание также ощущает происходящее, но реагирует только на возмущения.
Вообще две важные функции мозга это предсказание (совпадение ожиданий построенных на основе внутренней модели мира с сигналами из внешнего мира) и экономичность (умение оптимизировать внутренние процессы и адаптироваться под изменения среды).
Внутренний диалог для реализации этих функций не нужен, это дополнительная функция которая позволяет осмыслять информацию без непосредственного источника (источником служит память о событии, отчасти это отложенная внутренняя переработка сигнала, отчасти механизм самоактивации при отсутствии значимого сигнала от мира). Вообще иногда внутренний диалог может полностью отключаться, а ряд исследований говорит о том что у части населения он вообще отсутствует (хотя мне кажется это скорее ошибка интерпретации).
легко объясняет много загадочных вещей: откуда у людей вера в духов (зверей, деревьев и даже камней)
А еще это хорошо объясняется отсутствие научного подхода (в первую очередь критического мышления, когда человек на основе эксперимента отвергает неверные теории) и непонимание причинно-следственных связей (когда незнание причины события приравнивает к источнику всех действий невидимого внешнего актора). Ну и вообще-то звери и деревья действительно живые, но находятся на другом уровне развития, древние люди просто не смогли в нормальную классификацию явлений, вот и зачесали всех под одну гребенку.
>А еще это хорошо объясняется отсутствие научного подхода (в первую очередь критического мышления, когда человек на основе эксперимента отвергает неверные теории) и непонимание причинно-следственных связей (когда незнание причины события приравнивает к источнику всех действий невидимого внешнего актора).
Я такое объяснение конечно слышал. Но она всегда казалось мне натянутым. Почему из непонимания причинно-следственных связей должны рождаться голоса предков? Или камней? Мне кажется такое объяснение возникло просто за неимением лучших
Здравствуйте! Спасибо за интерес к столь важной теме и желание разобраться.
Что хотелось бы заметить по вашей статье:
• без определения употребляется термин “разум” и его подвид “бикамеральный”, при распаде которого по мнению автора книги и появляется сознание;
• но даже если так, то тогда уж сознание не “появляется”, а “стартует/включается/…” т.к. ничего нового в мозге же не возникает, а лишь идет “переключение” с “воли богов” на себя, собственную мысль и волю;
• Шопенгауэр и др. жил почти 200 лет назад, когда наука в т.ч. о сознании/психике, делала первые шаги, с тех пор она узнала много нового, хотя да, пока не утвердила единую теории сознания;
• с богами и духами люди и сейчас вполне себе общаются не только в психушках, но и в официально признанных (а так же и не признанных) церквях различных религий, и вне их :)
• сознание действительно не нужно для большинства действий - но только для бессознательных инстинктивных и соответственных существ/видов существования (а работа подсознания предполагает наличие сознания :). Для сознательной (человеческой) жизни оно является необходимым (хотя его работа подчас не видна да и развивается долго “в глубине” и “на поверхности” появляется сравнительно поздно, лет так после 30);
• язык действительно критически важен для сознания, для максимизации КПД, но не является необходимым для его существования (правда в весьма ничтожном виде). Да и язык уже не считается учеными присущим лишь человеку, в более простом виде он найден и у высших животных: обезьян, дельфинов…
• судить о столь сложном предмете как сознание на основе художественной литературы как “Илиада” несколько странно - представьте например, что о нас далекие потомки или инопланетяне судили бы по паре-тройке художественных книг, типа “Властелин колец” или “Хроники Нарнии”… :)
Если у вас есть интерес к теме сознания возможно вас заинтересует статья “Со-знание”, где собственно показано когда и как оно появилось в результате эволюции, как развивалось, зачем нужно… ну и предлагается вариант работы - мозга в целом и сознания в частности: https://habr.com/ru/articles/871796/
Пара ответов:
К сожалению нам приходится обходиться без определений. Даже у числа нет определения. А "бикамеральный разум" в понятии автора - это когда у человека есть две параллельно действующие ментальные (когнитивные) структуры - одна принимает решения и объявляет их, а другая исполняет это решения.
Автор заявляет, что изменения в мозге произошли. Структура (когнитом) мозга человека зависит от его воспитания и взросления. Сейчас мы знаем, что это видно уже на МРТ.
"Илиада" - это не художественная литература. Это текст, описывающих для древних греков их мир. Она для нас художественная, поскольку мы считаем большую часть текста выдумкой. Мне не кажется, что греки так же считали.
Очень поверхностно, похоже автор только начал свои исследования или делает их на основе одной книжки.
Главный вопрос сознания - зачем вообще нужен этот параметр для ИИ и есть ли сознание у моей кошки? Если есть у кошки, то может сначала стоит воспроизвести кошку, а потом браться за человека? И куда дели понятие Душа? Переименовали в Сознание?
Книжка вообще не выглядит поверностной.
Автор утверждает, что сознание особо не нужно ни для чего, а следовательно и для ИИ тоже. Ну и пока что мы не видим, для каких наших целей нужно делать сознание у ИИ. Люди скорее боятся, что оно может самопроизвольно возникнуть.
Сознания у кошки нет - с этим согласны вроде большинство исследователей. А данной книге прямо утверждается, что для сознания нужен язык, а у кошки его очевидно нет.
Душу автор не рассматривает совсем. Хотя мне кажется, что это понятие, довольно близкое сознанию.
Нужно определиться в разнице между осознанием чего то как квалиа и самосознанием как субъекта. И сначала нужно решить вопрос с квалиа - преодолеть так называемую "трудную проблему".
Не уверен, что начинать с трудной проблемы - это самый продуктивный подход. В данной книге автор занимался очень конкретным вопросом - когда именно возникло сознание. Рассмотрел много разных гипотез, что такое сознание и когда оно возникло. Сам лично искал сознание у улиток (не нашёл). Потом определил несколько свойст сознания (этому посвящена значительная часть книги), самое понятное из которых - что необходима речь и внутренний диалог. "Трудную проблему" он видимо задоджил.
Плохо значит искал в улитки, ведь сознание есть даже у амёбы, так как у нее несомненно есть внутренний мир со своим целеполаганием, алгоритмами минимизации ошибок при достижении целей и т.п. И соответственно имеется собственная перспектива амёбы по отношению к внешнему миру. А от перспективы до сознания всего один шаг, правда до сих пор никто не смог его объяснить. Но в целом, наивно стремление подогнать сознание под наши человеческие ожидания - нам никогда не будет доступно даже переживание "какого это быть летучей мышью", не говоря уже об улитке.
Целеполагание и алгоритмы минимизации у амёбы есть. Но внутренний мир то откуда?
Кстати про "какого быть летучей мышью" Мне кажется теоретически это вполне осуществимо. Человеческий мозг скорее всего во всём превосходит мышиный. Его надо лишь опустить до нужного уровня. Это можно сделать, если уметь точечно подавлять/возбуждать разные когнитивные функции. Пока вроде не умеют, но это не невозможно.
При этом видимо придётся подавить и сознание. Т.е. человек будет не осознавать себя мышью. Но сможет потом повспоминать, какого это - быть мышью.
Ну а как же без "внутреннего мира" то? Наличие целей, преодоление препятствий подразумевает создание модели внутреннего (доступные ресурсы и компетенции для достижений целей) и внешнего (препятствия, угрозы и т.п.). Причем эта модель постоянно перестраивается, ведь амеба не может предсказать, что кто то насыпет в воду соли от которой надо убегать и т.п. Это же не магнит, который стремится к куску железа, но если между ними поставить лист, то просто упадет. Амеба имеет когнитивную модель и соответствующую перспективу во вне, что позволяет ей искать еду, убегать от опасностей и преодолевать препятствия.. Но еще раз подчеркну - с научной точки зрения перспектива действительно не равно сознанию. Это скачек в умозаключении. Но, с другой стороны, даже в отношении других людей, мы делаем такое же предположение о наличии у них сознания по когнитивным проявлениям похожим на наши. Давно известная проблема "философского зомби".
Летучая мышь имеет переживания, которые человеку недоступны - например, в ультразвуковом диапазоне. Это же именно переживание, квалиа - как его можно передать когнитивно? Это все равно что слепому от рождения прочитать описание красного цвета. Сможет ли он его пережить? Слепой от рождения? Вот эту пропасть до сих пор не может преодолеть научная теория сознания базируясь на материалистической парадигме. Единственное объяснение, которое до сих слышим от физикалистских теорий сознания - это эмерджентность. То есть сродни магии, не было и как то появилось :) Исключение пожалуй это IIT, но теория интегрированной информации не совсем материалистическая если уж быть честным до конца. Тем не менее она и наиболее продвинутая, с реальными эмпирически проверяемыми предсказаниями.
Как я понимаю, никто не может осознанно воспринимать сырую информацию - ультразвук или красный цвет. До осознанного переживания добирается сильно переработанная информация (т.е. после большого количества слоёв нейронной сети).
Чисто теоретически, никто не мешает возбуждать более глубокие слои сети, чтобы человеку казалось, что он видит красный цвет, при том, что нейроны глаза могут вообще молчать. С точки зрения сознания разницы нет, т.е. человек не сможет вам ответить, что он видит разницу.
Уже сейчас проводят эксперименты, возбуждая зрительную кору. И даже слепой "видит" фосфены, т.е. вспышки света. Пока, конечно, точность таких экспериментов очень низкая
Ну причем здесь фосфены и т.п. Ведь пример со слепым был не в том, что бы вызвать переживание "красного" заменив неработающие глаза. А в том, что без переживания, ещё подчеркну - переживания, никак не возможно слепому объяснить что же такое "красное". И кстати, даже если у слепого может и получится вызвать переживания красного цвета раздражая нейроны нерва или коры, то только потому что это человеческая нервная система. С переживание ультразвука так не получится - нужен мозг летучей мыши.
Проблема ещё в том, что биохимия и биофизика нейрона и сознательное переживание - это разные философские категории. Да, между ними есть корреляция. Но доказать, что одно порождает другое ни у кого до сих пор не получилось. И выхода здесь три:
Материализм- физикализм. Есть только нейроны и их связи, а сознательное переживание - это эмерджентая иллюзия переживания.
Дуализм. Сознание существует объективно и независимо от материи, как информация и т.п. На этом строится Теория интегрированной информации - IIT
Идеализм. Нам изначально дано только сознание и это то единственное в чем мы можем быть 100 % уверены. А материя - это всего лишь интерфейс возникающий в результате динамики сознания.
Из этих трёх подходов к природе сознания самый слабый у материализма - физикализма.
Хороший поворот, в целом. Если под сознанием понимать именно отчет нарративного характера, то все вполне логично и разумно. Если же сознание расслоить на циклы рефлексии, то нарратив это только видимая часть айсберга. В любом случае, наличие эхо-рефлексии в самом движении внимания - это как раз некоторого рода субстрат того, что мы привычно называем сознанием. И, возможно, тут и вовсе нет чего-то более сложного, никаких трудных проблем. Даже в цепи возникновения акт внимания (виджняна) взаимно связывается с актом его связывания в нарратив (намарупа), что подтверждается и просто наблюдением за тем, что привлекает фокус наблюдения.
Это ваша схема работает только если отказаться от физикализма, т.е. от материализма. Тогда останется только сознание, динамика которого так или иначе, рано или поздно, породит интерфейс, который в буддизме называется намарупа. И при таком раскладе действительно никакой трудной проблемы нет - сознание первично, а материя - это проекция динамики сознания. Но парадигма науки всё ещё материализм. Хотя последние эксперименты того же Майкла Левина ставят перед материализмом очень серьёзные вопросы.
Еще по теме.
Часть 2 - научная загадка
Существует много свидетельств того, как люди общались с богами, духами или призраками. Многие такие эпизоды подробно задокументированы, например в Библии. Однако сейчас в развитом обществе таких эпизодов за пределами психиатрических клиник не происходит.
Это всё факты. Но я ни разу не видел красивых научных объяснений этим фактам. Почему раньше люди охотно рассказывали об общение с духами, а сейчас - нет. А могло ли быть так, что люди раньше действительно регулярно общались с богами?
Вероятно дело в настройках механизма реаффернтации (эфферентных копий). Он отвечает за различение действий самого организма от внешних воздействий. Наглядный пример, сами чешите себя не щекотно, если другие, то щекотно) Это связано с тем, что копия команд руке на чесание отправляется обратно в мозг, и мы знаем, что это действие совершаем сами, сам организм. Такой механизм различения верен для любых действий. Некоторые эволюционисты считают, что этот древний механизм ответственен за возникновение ощущения себя, и даже самосознания, отделения от окружающего мира. Его нарушения отвечают за многие патологии поведения.
Появление внутреннего голоса могло быть связано с такой эволюционной цепочкой. У древних гоминид появились зачатки языка на базе их коммуникационных систем, звуковых и жестовых. Копии управления мышцами ответственных за речь отсылались обратно в другие отделы мозга и особь знала, что это ее действия, ее речь. Это также помогало отличить звуки своей речи от чужой. Возможно у некоторых особей происходили генетические нарушения этого механизма, отклонения, и они начинали слышать чужую речь, как собственную, или свою, как чужую. Здесь возможны варианты, но смысл в том, что они начали воспринимать речь, голос как внутренние, принадлежащие организму. Естественно, это было нарушением, и оно вычищалось отбором. Но... в какой-то момент такие нарушения связались с внутренними механизмами регуляции поведения организма, выполнением биологических программ жизнеобеспечения (гомеостаза), самосохранения и продолжения рода. С человеком, как социальным существом, стало общаться его подсознание в виде образных форм мышления, инстинктов, представляющих глубинные эволюционные механизмы. Это обычный прием эволюции попытка приспособить все, включая нарушения, для регуляции поведения особей в направлении благоприятствующем не только выживая вида, но и более эффективного выполнения самих эволюционных механизмов - увеличения разнообразия поведения с целью их отбора и давления с целью продолжения рода. Так зазвучали голоса Богов предписывающие как поступать, и это подкреплялось мотивацией и системой поощрения / наказания. Со временем механизм реафферентации позволил связать эти голоса с самим организмом, и они, в относительной норме, постепенно превратились во внутренний голос, диалог с самим собой.
Есть также мониторинг источников, реальности, уже на перцептивном уровне, который позволяет отделять воспоминания, воображение от непосредственного восприятия. Нарушения их механизмов также может приводить к различным психическим расстройствам дереализации и деперсонализации.
В годы написания книги об этих механизмах было мало что известно.
До первого тысячелетия до н.э. люди массово слышали галлюцинации, воспринимали их как голоса богов, духов или предков и слепо (неосознанно) им следовали. Распад этой ментальности и переход к осознанности (сознанию) происходил на протяжении всего тысячелетия и завершился к эпохе рассвета греческой философии. Эта весьма оригинальная мысль в книге обоснована довольно убедительно, и вполне в рамках научного метода.
Попробовал представить мир без сознания, существовавший как утверждает автор еще каких нибудь несколько тысяч лет назад. Мир, в котором люди и животные ничего не видят и не слышат и не ощущают (ведь это все квалиа - сознание) и словно зомби хаотически двигаются в поисках пищи, которая случайно попадает им в руки. Но как они могут определить, что это пища - ведь обонятельных квалиа тоже нет. Зомби апокалипсис! Зачем же им тогда огромный мозг? А, наверное чтобы он раскололся на две половинки и вдруг откуда не возьмись появилось сознание. И сразу в форме греческой философии, не меньше! )))
Ну это типичная путаница в терминологии сознания как переживания и самосознания. У того же Юнга, мотивы которого похоже и перепевает автор упоминаемой в публикации книги, было также - под сознанием у Юнга скорее подразумевалась самореференция самоосознавания.
Не уверен, что такое квалиа. Но видеть - это точно не сознание. Вон меня только что увидела камера, распознала мой номер и открыла шлагбаум. Т.е. увидела и приняла решение. Но вряд ли это можно назвать сознанием.
Автор книги определяет сознание прежде всего как внутренний диалог и представление о самом себе. Для принятия даже сложных решений (для которых нужен большой мозг) внутренний диалог не является необходимым. По сути идея автора в том, что правое полушарие мозга бессознательно обрабатывало большой объём информации и принимало сложные решения, которые потом сообщало левому полушарию. Которое, в свою очередь, это решение исполняло, используя все доступные когнитивные ресурсы.
То есть вы считаете себя в сознании только когда ведете внутренний диалог с собой? А большую часть времени проводите в бессознательном состоянии? Без сознания ходите по улицам, слушаете музыку, общаетесь с людьми, решаете задачи, читаете книги?
Большую часть времени я осознаю себя, т.е. какая-то часть моего мозга оценивает происходящее со мной.
Например, когда я хожу, я сознательно словами продумываю, куда мне надо повернуть и зачем. За исключением случаев, когда гуляю бессознательно, размышляя о чём-то постороннем.
Когда общаюсь, то либо сознательно словами продумываю мою реакцию или ответ, либо уже непосредственно словами отвечаю (не внутренний диалог).
С книгой тоже в некотором роде общение словами. За исключением случаев, когда я задумываюсь о чём-то другом, бессознательно проглатывая слова из книги.
Бессознательное состояние — это состояние, при котором человек полностью утрачивает способность осознавать окружающую действительность и реагировать на внешние стимулы. В таком состоянии отсутствует контакт с внешним миром, нет ответа на вопросы, нет восприятия происходящего.
Это определение означает, что гулять в бессознательном состоянии невозможно. Как только вы проснулись - вы в сознании. Как только уснули - без.
Сейчас под сознанием наука понимает любые субьективные переживания (или квалиа) - видеть слышать, чувствовать и т.п. Камера, разумеется, ничего не "видит", мы просто привыкли так говорить для удобства.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Возникновение сознания в результате распада бикамерального разума