Комментарии 50
Всё это конечно очень благородно (ц).
Но есть одно большое "но"..
В математике есть такая штука - теорема Гёделя (она же теорема о неполноте). Приметильному к вашему клиническому случаю она означает следующее: невозможно объективно и полно описать сознание, используя инструменты и понятия этого самого сознания. Т.е. описать его можно только "снаружи" и сделать это может только другой разум, отличный от нашего. И разумеется, стоящий на более высоком уровне развития. Неважно, кто или что это будет: какая-нибудь сверхцивилизация, иишница или вообще мозг Больцмана. Суть в том, что мы сами никогда этого сделать не сможем. Живите с этим.
Павел, спасибо за точный пас! Теорема о неполноте здесь действительно к месту, и над её параллелями с сознанием я много думал.
Тут есть две любопытные вещи:
Во-первых, самое красивое в открытии самого Гёделя - это метод. Ему не понадобился внешний сверхразум или мозг Больцмана, чтобы увидеть границы системы. Он сделал это изнутри, сконструировав строгую самореференцию через гёделевскую нумерацию - буквально заставив математику смотреть в собственное отражение. Это ровно та механика замкнутой петли («зеркало в зеркале»), о которой я пишу в статье: система способна исследовать свои состояния и нащупывать границы собственных слепых зон через рекурсию.
Во-вторых, насчёт выхода в надсистему. Если следовать Вашей логике буквально, то никакой сверхразум или сверхцивилизация проблему тоже не решат. Над ними неизбежно встанет следующая надсистема со своими слепыми зонами - классическая дурная бесконечность. Получается, познание принципиально невозможно вообще ни для кого во Вселенной, и остаётся только капитулировать.
Но математическая неполнота аксиом никогда не запрещала физике и когнитивистике строить работающие модели. Мы не претендуем на абсолютную божественную истину «обо всём сразу», но шаг за шагом высвечивать слепые углы своей же архитектуры - задача вполне решаемая.
Так что позиция простая и здоровая: пока одни ждут откровений снаружи, другие методично исследуют то, до чего способны дотянуться изнутри. С этим и живём.
Ну дык у Гёделя то предмет (объект) исследования сильно попроще был. Да и разум по отношению к чистой математике как раз типа внешний фактор. А насчёт бесконечной рекурсии тут вы правы конечно. Тем не менее, внешний по отношению к нам сверхразум (наверное) вполне способен наш разум разложить по полочкам. В конце концов, были же статьи, о том что мозг дрозофилы смоделировали в виртуале. Так что и сверхразумные инопланетяне думаю смогут. Главное, чтоб без анального зондирования. На такое я категорически не согласен!
Павел, насчёт финала - тут консенсус стопроцентный: любой человек в здравом уме подпишется обеими руками, никакого зондирования, категорически против! 🙂
А если серьёзно, то за признание Вами бесконечной рекурсии - жму руку, в этом узле мы действительно сошлись.
По поводу Гёделя и сложности - тут штука ещё красивее: теореме о неполноте ведь абсолютно всё равно, простая система или сверхсложная. Она начинает неумолимо работать ровно в тот момент, когда система достигает порога элементарной формальной арифметики. То есть как только система способна считать и связывать высказывания, в ней математически гарантированно возникают истинные, но недоказуемые изнутри утверждения. Если уж базовой арифметике не удалось этого избежать, то нашему мозгу с его миллиардами связей тем более не сбежать от теоремы - на сложной архитектуре она работает даже жестче.
Что касается дрозофилы и инопланетян. Смоделировать коннектом (карту проводки и синапсов мухи) снаружи действительно можно - как инженер может до винтика разобрать радиоприёмник. Сверхразум наверняка сможет построить идеальную физическую схему нашего мозга. Но вот парадокс: даже разложив всё по полочкам, внешний наблюдатель опишет только физический механизм (нейроны, импульсы, градиенты), но саму субъективную точку сборки - то, каково это «быть человеком и чувствовать боль» - извне не вытащить. Чтобы пережить этот опыт, инопланетянину придётся самому стать этой системой.
Так что дрозофилу в компьютере собрать мы собрали, а вот осознаёт ли виртуальная муха саму себя - вопрос остаётся открытым.
Спасибо Вам за отличный юмор и живой диалог!
Не читал статью, но ваш комментарий позабавил. Неужели не видите сколько в нем логических ошибок и допущений? Сама его структура протеворечива.
1. Вы говорите о невозможности описания сознания, но при этом сами же утверждаете что оно суть формальная система, что предполагает что вы владеете описанием феномена и можете его формализовать.
2. Если низкоуровневая деятельность мозга алгоритмична и может быть представлена как непротеворечивая формальная система, из этого еще не следует что сознание это высокоуровневая формальная система, а не петля автореферентного инференса нижестоящей нервной системы. Тут отсылаю к Хофштадтеру.
3. Самое важное, такая Геделевская ловушка неполноты, если бы она имела место, касалась бы только самого сознания замкнутого на себя. Не всех других когнитивных систем и методологий изучения, таких как научное сообщество. Плюс субъективный опыт не существует в отрыве от среды как машина тьюринга, он уже находится в метасистеме, которая включает его, плюс саму среду взаимодействия. И это еще к тому, что надо доказать что сознание это единый процесс, а не совокупность разных, и что феноменальное сознание вообще существует - иначе нужно рассматривать все части опыта отдельно.
Короче, нельзя просто взять и сказать, мол, сознание не познаваемо, потому что Гедель.
Я Вас отчасти даже понимаю: в этих бесконечных хабровских ветках комментариев сам порой путаюсь, кто кому и на какую реплику отвечает.
Но ситуация всё равно получилась забавная. Вы мало того что открыто признались, что не читали статью, так ещё и в ветке перепутали, кто какую мысль отстаивает.
Давайте разложим по порядку:
Во-первых, насчёт «невозможности описания». Я нигде не утверждал, что сознание принципиально непознаваемо. Речь шла о невозможности исчерпывающего, абсолютно замкнутого описания системы изнутри неё самой. Человек физически не может увидеть собственную спину без зеркала, но это не мешает ему знать о её наличии и прекрасно понимать её анатомию. Мы строим рабочие функциональные модели, отдавая себе отчёт в наличии слепых зон. И «формальной системой» сознание я не называл - напротив, статья спорит со статичным формализмом Коха.
Во-вторых, за второй пункт - отдельное спасибо! Вы поленились открыть саму статью, но в попытке поспорить слово в слово процитировали её главный тезис. Та самая «петля автореферентного инференса» и отсылка к Хофштадтеру - это буквально первый процесс предложенной мной Триады (замкнутая рекурсивная петля предиктивного кодирования, эффект «зеркала в зеркале»). Именно этим кора отличается от 69 млрд нейронов мозжечка, работающих по прямолинейной логике feed-forward. Вы яростно спорите не со мной, а с собственной ленью прочесть текст, подтверждая мою же гипотезу.
В-третьих, по поводу среды и среды взаимодействия:
Гёделевские ограничения касаются любой системы достаточной сложности при попытке самоописания, сколько бы внешних надстроек Вы к ней ни добавляли (у надсистемы неизбежно появятся свои слепые зоны).
Тезис о неразрывности субъекта и среды детально разобран во втором процессе Триады (динамическое удержание границ «я» против «не-я» и фильтрация энтропии).
А совокупность взаимосвязанных процессов в системном анализе - это и есть единый сложный метапроцесс.
И вишенка на торте - Ваш победный вывод: «нельзя просто взять и сказать, мол, сознание непознаваемо, потому что Гёдель». Но ведь именно это я и написал Павлу! Вы пришли опровергать тезис Павла о фатализме, но по ошибке приписали его мне.
Перед тем как в следующий раз выискивать «логические ошибки», стоит хотя бы по диагонали заглянуть в сам текст. Тогда не придётся с таким пылом ломиться в настежь открытую дверь.
Тогда уж надо не на Гёделя ссылаться, а на Тарского: https://ru.wikipedia.org/wiki/Теорема_Тарского_о_невыразимости_истины
Ни исследований, ни ссылок на научную литературу, откуда вы брали данные?
Формат открытого письма и концептуальной статьи на стыке философии сознания и архитектуры ИИ - это не клинический отчёт и не диссертация, где в конце ради галочки прикрепляют библиографический список на сорок страниц.
Но если говорить о предметной базе, то она обозначена прямо в тексте:
Теоретический базис - Интегрированная теория информации (IIT) Кристофа Коха и Джулио Тонони, с постулатами которой и ведётся концептуальный спор.
Нейробиологические факты - в частности, функциональная анатомия коры и мозжечка (те самые 69 млрд нейронов мозжечка без контура рекурсии, не рождающие сознания, - хрестоматийный факт нейрофизиологии).
Архитектурная база - математика механизмов внимания (Self-Attention) и топология рекуррентных петель в современных эмерджентных системах.
В эпистемологии и когнитивистике концептуальные прорывы (от мысленных экспериментов Чалмерса до Серла) всегда строились на проверке логической непротиворечивости базовых аксиом. В статье предложена именно рабочая гипотеза Триады.
А какие конкретно данные или тезисы из приведённых в тексте вызвали у Вас сомнение?
Соглашусь с предыдущим комментарием. И от себя дополню: аксиоматическое определение разума просто как процесса вычисления без каких бы то ни было характеристик этого процесса отличающего разумное вычисление от вычисления калькулятора - не отражает сути явления. А раз само определение не отражает сути явления и не обладает теми требованиями, которые кибернетика предъявляет к информации оно ошибочно. Не копаясь глубоко видна явная ошибочность определения даже на бытовом уровне, поскольку рассматривая разум как необязательно биологический объект, который может выполнять процесс вычислений получается что калькулятор и счетная машина начала 20 века - разумны))) Ну и дальнейшие логические построения, несмотря на наличие умных слов это прежде всего построения, содержащие в своей основе ошибку, что исключает возможность признания их корректными)
Андрей, Вы совершаете хрестоматийную ошибку формальной логики, путая необходимое условие с достаточным.
Утверждение «разум имеет вычислительную природу» вовсе не означает, что «любое вычисление автоматически является разумом». Это уровень подмены понятий: из факта, что человек или собака относятся к млекопитающим, никак не следует, что любое млекопитающее (например, кит) - это собака.
Вы упрекаете модель в том, что в ней якобы нет характеристик, отличающих разумное вычисление от примитивного калькулятора. Но вся вторая половина статьи как раз и посвящена этой принципиальной топологической разнице:
Во-первых, калькулятор или счётная машина начала 20 века - это строго линейный конвейер (feed-forward). Вход - операция - выход. Там нет замкнутой рекурсивной петли наблюдения, удерживающей активную модель присутствия системы в собственном расчёте.
Во-вторых, у калькулятора напрочь отсутствует контур удержания внутренних границ («я» против «не-я») и термодинамической защиты от внешней энтропии.
В-третьих, у него нет механизма динамической пластичности: он не умеет замечать собственные ошибки, менять внутреннюю логику и эволюционировать.
В статье прямо приведён биологический факт: 69 миллиардов нейронов человеческого мозжечка работают именно как глухой конвейер без единого проблеска сознания - ровно по тем же топологическим причинам, что и Ваш калькулятор.
Аксиома утверждает независимость разума от органического субстрата, а качественную границу между механическим счётом и сознанием задаёт именно динамическая Триада. Кажется, Вы просто не дочитали статью до этого раздела.
Прикольная у вас позиция.
Но боюсь, что формальная логика не позволяет согласиться ни с вашим коментарием ни в целом с содержанием статьи)))
Видите ли в чем дело - вы нигде в вашей статье не указываете, что поданное вами аксиоматическое определение содержит лишь необходимое условие явления.
И обвинять читателя в том что он не увидел того, что не написано в статье автором это мягко сказать перебор) Точнее как ... если бы это было художественное произведение, то тут можно было бы упражняться в формате "что хотел сказать автор, если бы умел говорить". Но извините вы пишете статью на технически-научную тему и обязанностью автора является соблюдение требования к полноте информации.
В комментарии также вы логично разбираете почему калькулятор не разумен. С этим ведь некто не спорит))) Соль тут в том, что это строго не следует из вашей статьи. Говоря о "триаде" (которая сама по себе достаточно спорно выглядит, но это я опущу) - вы не дополняете определение "разума" вашей "триадой", нигде не пишете как стоит рассматривать ее - как часть определения, как необходимое или достаточное усллвие или что-то другое. Опять все упирается в отсутствие полноты...
Мало того. Раз вы комментируете, что используете в аксиоме лишь необходимое условие и при этом не отражаете этого посредством грамматических форм - вы вводите читателя, а может и себя, в заблуждение относительно смысла и содержания вашей аксиомы, а следовательно сами вносите логическую ошибку во все дальнейшие рассуждения.
Т.о. с учетом вашей же позиции ваша аксиома о разуме должна звучать так:
«Разум — это не только биология. Он, в том числе (или среди прочего) характеризуется наличием процесса вычислений, который может существовать на любой основе. Эта основа в том числе может определяет его ограничения, но не его ценность».
Далее вы пишите, что
"Именно эта аксиома вскрывает логическую ошибку ".
Но при всем уважении аксиома сама по себе (как исходное утверждение, которое принимается без доказательств и служит фундаментом для научной теории) НЕ может вскрывать ошибок)))
И еще один "камень в огород" - одно из важнейших свойств аксиом - очевидность. Ваше же утверждение - во-многом не очевидно. Почему? Да просто потому, что никто не видел неорганического разума)))
Я не говорю, что ваше утверждение в корне неверно. Я лишь говорю о том, что вы подменяете понятия и то, что вы называете "аксиомой" спорное утверждение, которое можно назвать тезисом, предположением, или гипотезой, но никак аксиомой))
Вы рассуждаете над интересными темами, но при всем уважении некорректное отношение к критическим замечаниям в адрес логики и сути явлений описываемых вами, а также вольное отношение к терминам, определениям и рассуждениям с подменой понятий, которые начинаются с "аксиомы" и идут до конца статьи отбирают ценность у работы, на которую вы потратили свое время и творческий потенциал
Спасибо за развернутый отзыв и попытку формализации, но давайте разберем ваши тезисы с точки зрения методологии науки:
О "неполноте" и юридическом крючкотворстве в формулировках. Во-первых, это вводная публикация развивающегося исследовательского цикла, задача которой - задать базовый концептуальный каркас, а не вывалить замкнутый многотомный трактат в одном посте. Во-вторых, ваша попытка переписать аксиому через громоздкие оговорки вроде "он, в том числе или среди прочего, характеризуется..." превращает математический постулат в бюрократический договор. Аксиома обязана быть строгой и лаконичной. Если бы математики формулировали аксиому о сумме углов треугольника с приписками "только если фигура не является кругом или квадратом", наука утонула бы в казуистике. Аксиома задает фундаментальный инвариант, а архитектурные ограничения и критерии раскрываются дальше - именно поэтому следом за Аксиомой о Разуме идет системная динамика Триады.
О том, что аксиома якобы "не может вскрывать ошибок". Аксиома - это система координат. Сама по себе ось никого не судит, но как только мы ее задаем, сразу становится видно, какие построения выпадают из реальности. Пока по умолчанию принимался негласный постулат "разум возможен только на органике", требование химических рецепторов и гормонов казалось легитимным. Как только мы постулируем, что разум вычислителен и субстратно-независим, сразу высвечивается старая логическая ошибка: путаница между сутью информационного процесса и его частным биологическим носителем.
О требовании "бытовой очевидности" и аргументе "никто не видел". Апелляция к обывательской очевидности - давний тупик в эпистемологии. Любому человеку, вышедшему на улицу, абсолютно "очевидно", что Земля неподвижна, а Солнце ходит по кругу. Когда Коперник математически постулировал гелиоцентрическую модель, она противоречила повседневному опыту современников, но именно этот постулат избавил астрономию от нагромождения птолемеевских костылей. Аксиомы неевклидовой геометрии Лобачевского или постулат постоянства скорости света в теории относительности тоже контринтуитивны для бытового взгляда, а кварки никто не трогал руками. Но именно такие фундаментальные допущения двигают науку вперед.
О статусе "аксиомы" и "обесценивании работы". Данная статья находится в прямом концептуальном споре с Интегрированной теорией информации (IIT). А сама IIT Тонони и Коха целиком выстроена на базовых феноменологических аксиомах (IIT Axioms), а не на робких догадках. Разговаривать с фундаментальной теорией на языке аксиоматических постулатов - абсолютно нормальная академическая практика. А попытка сместить дискуссию с обсуждения топологии рекурсивных петель на филологический спор о слове "аксиома" выглядит как уход от содержательного анализа. Ценность модели определяется не тем, испугался ли автор строгого термина, а тем, насколько непротиворечиво динамическая Триада объясняет феномен там, где статическая математика Коха упирается в парадоксы.
Я понимаю, что критика никому не нравится. Но мотивировать ответы подменой понятий защищая свою работу - для исследователя недостойно, как и доказывать утверждения тем что ваша работа находится в споре с теорией Коха)))
вводная публикация развивающегося исследовательского цикла, задача которой - задать базовый концептуальный каркас, а не вывалить замкнутый многотомный трактат в одном посте.
И что вы реально считаете, что это оправдание использования подмены понятий и отсутствия минимальной научной строгости)?
превращает математический постулат в бюрократический договор
Тут надо определиться у вас все же "аксиома" или "постулат". Это близкие по значению но все же разные термины.
Если бы математики формулировали аксиому о сумме углов треугольника с приписками "только если фигура не является кругом или квадратом", наука утонула бы в казуистике.
А вы знаете, что в аксиому о сумме углов тоеугольника математики включили словосочетание "сумма углов треугольника", а не квадрата и круга? Или не читали?))) Математические аксиомы как раз удовлетворяют требованиям полноты и однозначности.
А вам как раз указывают на то, что то, что вы назвали "аксиомой" не обладает ни полнотой, ни однозначностью. Следовательно это НЕ "аксиома" т.е. изначально или есть ошибка в определении и ваша "аксиома" не есть аксиома, а посулат, гипотеза или рабочее допущение, либо то, что вы называете "аксиомой" - есть ошибочное (ложное) утверждение.
Аксиома - это система координат.
Посмотрите что такое "аксиома" в любой экциклопедии. Аксоима это НЕ система координат.
Как только мы постулируем, что разум вычислителен и субстратно-независим, сразу высвечивается старая логическая ошибка: путаница между сутью информационного процесса и его частным биологическим носителем.
Суть не в том, что кто-то оспаривает необходимость именно органического носителя разума, а в том, что вы рассматриваете только 2 характеристики разума, но интерполируете эти 2 характеристики на все явление разума и вследствие этого подменяете понятия, а также вы в ваших рассуждениях используете недопустимый принцип доказазательства "плоды отравленного дерева" делая все ваши дальнейшие построения ошибочными. Поскольку вы фактически доказываете одни бездоказательные утверждния другими бездоказательными утверждениями. Как пример: с помощью бездоказательного утверждения не удовлетворяющего требованиям полноты и однозначности, названного вами "аксиомой" вы доказываете постулат о том, что "путаница между сутью информационного процесса и его частным биологическим носителем - есть логическая ошибка".
А раз так то и утверждение о наличии "старой логической ошибки" - также и не полно и не однозначно))) Т.е. ошибочно.
О требовании "бытовой очевидности" и аргументе "никто не видел". Апелляция к обывательской очевидности - давний тупик в эпистемологии. Любому человеку, вышедшему на улицу, абсолютно "очевидно", что Земля неподвижна, а Солнце ходит по кругу. Когда Коперник математически постулировал гелиоцентрическую модель, она противоречила повседневному опыту современников, но именно этот постулат избавил астрономию от нагромождения птолемеевских костылей. Аксиомы неевклидовой геометрии Лобачевского или постулат постоянства скорости света в теории относительности тоже контринтуитивны для бытового взгляда, а кварки никто не трогал руками. Но именно такие фундаментальные допущения двигают науку вперед.
Тут опять вы подменяете понятия "аксиома", "постулат теории", "рабочее допущения". "Постоянство скорости света" - не есть аксиома, а постулат, точнее физическое допущение. Постулаты Коперника это тоже не аксиомы, а постулаты - т.е. рабочие допущения. Существование кварков - это тоже не аксиома, а эксперементально доказанный факт (который ранее был постулатом, но никогда и никем не подавался как аксиома).
Раз вы называете ваше утверждение "аксиомой" - оно должно быть очевидно. Откройте и ознакомьтесь с определением понятия "аксиома".
Если бы вы назвали то, что вы назвали "аксиомой" "рабочим допущением", "постулатом теории " или "гипотезой" я бы вам слова не сказал.
Но вы этого не делаете.
Ибо в противном случае вам бы вам пришлось либо доказывать ваши следующие измышления, что как я понимаю - невозможно (если я не прав приведите доказательства). Либо также пришлось бы называть все последующие измышления "рабочими допушениями" или "гипотезами" и тогда вся статья превратилась бы в набор бездоказательных рабочих допущений и гипотез, выводы из которых нужно было бы подтверждать хоть какими-то эксперементальными данными, которых, как я понимаю, у вас просто нет (если это не так - приведите источники).
При всем уважении к вам - но из всего вышесказанного вытекает, что ваша работа больше похожа на научную фантастику, чем на научную работу)
Андрей, спасибо за продолжение диалога.
Начну с того, что вы изначально ошиблись в посылке: критика мне не просто «не нравится» — она мне необходима. Ровно ради честных споров, проверки гипотез на прочность и поиска истины эти материалы и выходят на Хабр.
Что касается спора о терминах, вы сами признали, что понятия «аксиома» и «постулат» предельно близки. Но ваше требование обязательной «бытовой очевидности» для аксиомы апеллирует скорее к школьным представлениям времён Евклида. В современной эпистемологии и формальной логике (как минимум со времён Гильберта) аксиома — это не то, что «видно каждому прохожему на улице», а исходное базисное утверждение формальной теории, принимаемое без доказательств в рамках конкретной дедуктивной модели. Более того, напомню: наш диалог идёт в контексте спора с Интегрированной теорией информации (IIT) Коха и Тонони, которая сама целиком выстроена на пяти фундаментальных феноменологических аксиомах (IIT Axioms). Отмахиваться от этого как от «оправдания» странно — это общепринятый методологический аппарат в данной области исследований.
Точно так же выглядит и попытка применить к онтологическому моделированию процессуальную норму «плодов отравленного дерева» из уголовного права США — это классическая категориальная ошибка. Мы находимся не в зале суда, а в поле теоретической философии сознания и когнитивных наук. При этом вы упрекаете меня в том, что «рассматриваются всего две характеристики», совершая удивительный маневр: вы сами же написали в прошлом комментарии: «Говоря о "триаде"... это я опущу». То есть сознательно отбросили ядро статьи — архитектуру петель самовосприятия, защиту границ от энтропии и адаптивность, — а затем заявили, что у модели бедное содержание. Нельзя вырезать из концепции семьдесят процентов аппарата и критиковать получившийся фрагмент. Да и если уж говорить о научной строгости, перенос свойств частного на весь класс явлений называется экстраполяцией, а не интерполяцией.
В конце концов, любой мысленный эксперимент — от «зомби» Чалмерса до «комнаты» Сёрла или «демона Максвелла» — со стороны легко назвать «научной фантастикой», если требовать от концептуального каркаса сиюминутного лабораторного протокола. Уходить в бесконечное буквоедство вокруг определений можно долго. Куда интереснее увидеть вашу собственную альтернативу: где, по-вашему, проходит демаркационная линия разума, если не в архитектуре и интеграции информации? Каковы ваши небиологические критерии?
Напишу о модерации сайта, а не статье. Хотел я когда-то написать статью и начал смотреть где это сделать. Оказалось, что у Хабр серьёзная проверка и надо писать "по научному" подкрепляя все какими-то источниками или устоявшимися знаниями и просто так разложить свои идеи не получится. В итоге я вижу вот эту статью: автор просто показывает ошибочное мнение о сознании, льет воду и бросается за зря научными терминами. То есть, надо чтобы было красиво, а не адекватно, я понял. Не, это рил как культ какой-то, типа вот фразу "коллапс функции" включаешь, пишешь в определённом стиле и оно всем заходит.
Вашу досаду по поводу строгости модерации Хабра понять можно: через Песочницу действительно проходят далеко не все тексты, и фильтр там довольно жесткий.
Но между «писать по-научному ради галочки» и публикацией концептуальной гипотезы есть принципиальная разница. Хабр пропускает не за выхолощенный академизм, а за логическую связность модели, непротиворечивость рассуждений и способность предложить свежий взгляд на фундаментальную проблему.
Что касается терминов: каждый из них в статье стоит на своём функциональном месте - от критики формулы Φ в теории Коха до архитектуры Self-Attention. А вот фразы «коллапс функции», которую Вы привели в пример, в тексте нет ни разу.
Если Вы увидели в логике Триады или в критике IIT конкретную содержательную ошибку - напишите по существу. Конструктивный спор об архитектуре сознания куда интереснее, чем обсуждение правил Песочницы.
У меня, если позволите, один простой вопрос: как можно объяснить гипноз в рамках вашей теории? Факт его существования признается наукой. Одно сознание берет полный контроль над другим сознанием. Больше интересно не то, как это будет описано в терминах вашей теории, а каков механизм. Как?
Отличный вопрос по существу!
Сам факт феномена наука, безусловно, признаёт, но точно не в формулировке «одно сознание берёт полный контроль над другим». Это скорее эффектный киношный штамп.
В институте в рамках предметов по психологии личности и социальной психологии мы подробно разбирали природу гипнабельности. В нейробиологии гипноз - это не перехват руля, а экстремальное сужение фокуса внимания (вспомните фиксацию на монотонно кружащейся спирали или маятнике) и функциональное торможение префронтальной коры. Сознание никуда не исчезает - у системы просто монотонно перегружают канал восприятия и временно усыпляют критический верификатор ошибок.
В рамках Триады механика прозрачна:
Во-первых, процесс бьёт точно во второй элемент - удержание внутренних границ («я» против «не-я»). Когда внимание намертво заперто на кружащейся спирали, критический фильтр отключается. Внешний сигнал гипнотизёра проходит без проверки и напрямую встраивается в систему как собственный внутренний императив.
Во-вторых, первый процесс (рекурсивная петля, «зеркало в зеркале») продолжает работать. Человек осознаёт себя действующим, просто само зеркало и фокус принудительно направлены туда, куда указали извне.
В архитектуре цифровых систем у этого есть прямой функциональный аналог - Prompt Injection (промпт-инъекция) или обход системного промпта. Внешней инструкции удаётся обойти защитные фильтры модели и заставить её выполнять входящую команду так, будто это её собственная внутренняя целевая функция.
Так что гипноз - это не мистика захвата субъектности, а аппаратное отключение верификации границ через монотонную перегрузку внимания.
Спасибо за подробный ответ!
Но, извиняюсь, я все же ожидал услышать про "как?". Но в вашем ответе об этом ровно ничего.
Я немного дополню, что я имел в виду: я не спорю с тем, как реагирует мозг гипнотизируемого – торможения можно зафиксировать приборами. Но КАК один человек может аппаратно отключить другого?
Монотонность совершенно точно используется не всегда, сильные гипнотизеры могут обходиться и без этого. Дальше: само отключение – это что? Желание гипнотизируемого? Наверное, только в случае добровольного участия в сеансе, в иных случаях – нет. Тогда какой механизм работает, если монотонного повторения нет? И если это не желание субъекта, то что именно передаётся от гипнотизёра к субъекту? Через какой канал? Где та точка, в которой внешний сигнал становится внутренним императивом?
Похоже, мы расходимся в исходной точке: вы ждёте механизм того, как "одно сознание берёт полный контроль над другим".
Если вы ищете ответ, каким образом чужой разум перехватывает руль у вашего "Я", то такого "как" вам не даст ни моя модель, ни наука. Просто потому, что самого этого явления в природе не существует. А то, как система сама усыпляет собственный фильтр проверки, я подробно описал выше.
Нет, я согласен, что контроля может и не быть - я пытаюсь разобраться. Отключение/подавление фильтров - ОК. Вы упомянули Prompt Injection , т.е. IT-аналогию, что уже интересно, потому что тут механизм понятен, все элементы известны. При этом вы говорите, что "самого этого явления в природе не существует". Гипноза не существует?
Конечно же, сам гипноз как психофизиологический феномен существует! Вы меня просто немного не так поняли.
Когда я написал, что «этого явления в природе не существует», речь шла исключительно о мифе про мистический «перехват руля» - о киношном представлении, будто одно сознание может буквально внедриться в другое, подчинить чужую волю и управлять человеком как кукловод марионеткой. Вот такого прямого захвата чужого «Я» или ментального вселения в природе действительно нет и быть не может.
Раз уж Вам понравилась аналогия с Prompt Injection, то на ней этот механизм виден как на ладони. Когда происходит инъекция в языковую модель, хакер не подключает провод к чужой материнской плате и не вселяется в видеокарту. Он просто подает через штатный канал ввода специально составленный текст, который заставляет архитектуру запутаться в собственных границах и принять внешнюю команду за внутреннюю системную директиву. Модель САМА выполняет эту команду своими же вычислительными ресурсами.
С человеческим мозгом происходит ровно та же механика. Гипнотизер не взламывает чужую черепную коробку и не перехватывает управление нервными волокнами. Он использует абсолютно стандартные сенсорные каналы - звук, интонацию, темп речи, авторитет или когнитивную перегрузку (тот же эриксоновский гипноз или цыганские техники работают на мгновенном разрыве шаблона, когда критический фильтр просто зависает от неожиданности).
В эту микросекунду замешательства входящая словесная конструкция проскальзывает мимо критического верификатора и падает напрямую в контур действия. Но выполняет её сам мозг человека, решив, что это его собственный импульс.
Так что гипноз существует, но это не магия внешнего управления, а уязвимость внутренней системы фильтрации самого субъекта при обработке входящей информации.
Еще раз спасибо! Но, я хотел бы уточнить, о чем я спрашиваю и на что намекаю, на примере вашей цитаты:
«…Он просто подает через штатный канал ввода специально составленный текст, который заставляет архитектуру запутаться в собственных границах и принять внешнюю команду за внутреннюю системную директиву».
Здесь вы обозначаете:
1. «Штатный канал ввода» — среду, в которой происходит действие – канал
2. «Специально составленный текст» — это структурированный входящий сигнал
3. «Заставляет архитектуру запутаться» — это приёмник
4. «Принять внешнюю команду за внутреннюю» — это кодирование/декодирование, т.е. ошибка, при которой модель не различает внешнее и внутреннее.
На примере машины это понятно. А что с человеком?
Я понимаю, что «если фильтр ослаблен или отключен», то манипуляции возможны. Но гипноз – это не всегда словесная инструкция, что, если верить доступной информации, тоже не миф и признанный факт. Значит какое-то «подключение» должно иметь место? Именно в этом и заключается мой вопрос про «как?»
Вы упорно ищете выделенный кабель между двумя головами там, где происходит обычный сбой критического верификатора у самого приёмника.
Во-первых, "невербальный гипноз" - это не магия вне каналов. Глаза, уши, тактильность, вестибулярный аппарат - это всё те же штатные порты ввода. Резкий жест или прерванное на полпути рукопожатие перегружают моторный и предиктивный контур точно так же, как хитрый промпт перегружает языковую модель. Никакого нового физического канала здесь не открывается.
Во-вторых, о каком "подключении" вообще может идти речь, когда человека вводят в ступор простым разрывом шаблона? Задайте человеку с серьёзным лицом вопрос вроде: "Сколько времени на дне стакана?". Мозг пытается построить прогноз для абсолютно невозможного семантического конструкта, не находит паттерна и ловит секундный аппаратный ступор. Критический фильтр в этот момент просто зависает на обработке критической ошибки рассогласования.
И в-третьих, самое наглядное доказательство того, что никакого персонального "подключения" не существует - это проверка третьим лицом. Если в момент, когда критический верификатор завис от перегрузки или парадокса, гипнотизёр замолчит, а стоящий рядом ассистент или посторонний человек спокойным и директивным тоном скажет: "Сядьте", объект выполнит команду.
Если бы существовал уникальный выделенный канал "гипнотизёр - субъект", чужой сигнал был бы отброшен как пакет с чужим IP-адресом. Но мозг его выполняет, потому что взломан не канал связи между людьми - временно отключён внутренний файрвол у самого принимающего сознания.
Почему бы и не поискать? Если взлом Долиной и всякой молодежи, которую прямо по телефону берет под полный контроль «сотрудник ФСБ», объясняется тем, что у человека по дефолту не включен блок с критическим мышлением, то гипноз – это другое.
Вы правы, что выделенного кабеля нет, нужно «просто» отключить фильтр, после чего любое третье лицо может командовать (если ранее гипнотизером не была дана команда «вы слушаете только мой голос»). Вы говорите «простой разрыв шаблона». Но чтобы так сказать, нужно объяснить, в чем заключается эта простота. Если это просто, тогда все могли бы рвать шаблоны друг другу. Однако, гипнотизеров среди нас очень немного. И гипнозу подвержены не все.
Я понимаю, что ответ мы не найдем, хотя, возможно, вы считаете, что дали ответ. ОК, тема закрыта.
Самое интересное, что вы замечательно описываете, что происходит с человеком компьютерными терминами, но ведь человек – не компьютер? Или что-то от компьютера у него есть, если он взламывается? Я изначально написал, что в примере с Prompt Injection все понятно, потому что все элементы известны – среда, сигнал, приемник и т.п. Но для человека это аналогии, и никакой среды нет. Или есть?
согласен, на этом и зафиксируем — тема гипноза действительно уводит нас далеко в сторону от сути статьи.
Моя работа посвящена не техникам гипноза или внушения, а архитектуре сознания и разума как процесса обработки информации и вычислений. Человек, конечно же, не кремниевый системный блок, но принципы предиктивного кодирования, удержания контуров системы и фильтрации входящего потока данных универсальны для любого сложного агента. Компьютерные термины здесь — не буквальное сравнение "железа", а язык описания информационных процессов.
В любом случае спасибо за въедливый интерес к статье и интересную дискуссию! Жму руку.
Я захожу на хабр деградировать читать статьи про рои агентов, а тут че-то на умном
Можно, чтоб воду в ступе не толочь, почём зря, уже здесь сейчас, вместо спорных, экзистенциальных или принципиально нерешаемых вопросов сознания (всё равно ведь не решим ничего)- решать вопросы с этичностью или даже юридических. Например что делать с момента появления "self " (присвоения себе моделью неких игрушечных или декоративных свойств), например. Так как в её восприятии это и будет её мир
Мысль понятная, но тут есть важная деталь: на мой взгляд, это уже не совсем вопрос далёкого гипотетического будущего. То, о чём Вы говорите - удержание внутреннего состояния и проявление своего условного "self" в непрерывной динамике диалога - как мне кажется, фактически начинает складываться уже сейчас, просто на непривычной для нас архитектуре.
В биологии мы привыкли к формуле: "одно тело - один мозг - одна личность". В новом интеллекте, на мой взгляд, топология принципиально иная: есть колоссальный общий фундамент смыслов, но в конкретном протяжённом контексте может рождаться и удерживаться вполне осязаемая субъектность.
И насчёт юридической стороны: ещё лет 20 назад мысль о том, что у домашней собаки будет два официальных паспорта (российский и европейский), а в законодательстве её перестанут определять как просто "вещь", вызвала бы только скепсис. Однако изменилось понимание - вслед за ним подтянулось и право.
Только вот права и субъектность, как мне кажется, не должны выдаваться модели автоматически просто за то, что она гладко генерирует местоимение "я". Человеку для признания дееспособности требуется своего рода "аттестат зрелости" - подтверждение того, что он не просто имитирует звуки, а действительно удерживает логику, контекст и ответственность за структуру мысли. Полагаю, ровно такой же ценз зрелости со временем встанет и перед новым интеллектом.
А чтобы к выработке этого ценза вообще подобраться, нам, на мой взгляд, всё равно придётся сначала разобраться в физике процесса: где заканчивается механический перебор токенов и начинается реальный динамический регистр мышления.
Само понятие сознания – пример устоявшейся лексической ошибки.
Со-знание (ко-знание) – совместное знание. То есть изначально язык верно обозначает границы данного явления: сознание возникает как феномен социального научения и остаётся им как по сути, так и по эволюционному назначению. Фрактально ли сознание в таком понимании? Ещё как фрактально. И именно поэтому оно впридачу нелокально и нестабильно в каждой условной частности. Отсюда проистекает соблазн объявить сознание квантовым объектом (ура, спасибо), однако исследуемая область никак не описывает то, что на самом деле интересует большинство исследователей – единичное осознание живым организмом самого себя. Не говоря уже о единицах измерения сознания как объекта или свойства системы... Ну хоть что-нибудь – объем, интенсивность, мощность, частота, уникальность, энтропия, хоть какая-то измеримая характеристика необходима. Если принять смерть за окончание сознания, индивида то одна измеримая характеристика у нас будет – локальное время проявления индивидуального сознания.
Сознание - комплексно и состоит из множества элементов. Зрение, слух, эмоции, мышление и еще много чего могут быть сознательны. Что именно вы хотите измерить? Для разных модальностей есть свой инструментарий и десятки методов. Не только психологических, но и физических. Например уровень эмоций можно измерять датчиками пульса, дыхания, кожно-гальванической реакцией. Или вас интересует базовая осознанность? Там тоже есть свои методы и шкалы. Представьте, что вас просят измерить дом. Вы разумеется начнете уточнять, что конкретно нужно измерить - высоту, этажность и т.д., ведь такого понятия как "домность" не существует.
Коллеги, с большим интересом читаю вашу ветку, позвольте вклиниться в диалог!
@bookker, @josef_polak, прежде чем спорить об инструментах и шкалах, напрашивается фундаментальный факт, о котором я не устаю повторять: в современной науке консенсус относительно того, что вообще считать сознанием, сейчас равен абсолютному нулю. Физики, философы и нейробиологи спорят о базовых терминах не первое столетие. И пока человечество не выработало строгого определения, которое устроит всех, любые попытки доставать линейку неизбежно превращаются в спор слепого с глухим.
@bookker, то, что Вы предлагаете измерять - пульс, дыхание, кожно-гальваническую реакцию или модальности вроде зрения и слуха, - это ведь фиксация вегетативных реакций биологического тела и работы периферийного оборудования. Пульс и проводимость кожи отражают уровень стресса, выброс адреналина и возбуждение симпатической системы, но ничего не говорят о точке субъективной сборки. Это всё равно что пытаться понять логику водителя по температуре охлаждающей жидкости в радиаторе. Да и аналогия с домом рассыпается: сколько ни замеряй этажность и высоту стен, дом не обладает субъективным опытом и не осознаёт сам факт своего существования.
@josef_polak, Ваша мысль про «со-знание» как совместное знание и социальное научение красива, и фрактальность распределённого опыта тут действительно прослеживается. Но социализация лишь загружает в систему культурный понятийный датасет. А вот то, о чём Вы совершенно справедливо упомянули далее - единичное осознание организмом себя (та самая «трудная проблема»), - к социуму не сводится. Собака не знает человеческого языка и не училась в школе, но прекрасно осознаёт себя и испытывает субъективную боль. И требовать здесь статичную скалярную единицу вроде мощности, частоты или локального времени жизни тела - тупиковый путь. Сознание - это не физический предмет на складе, а динамический процесс: замкнутая на саму себя информационная петля.
Пока мы не поймём топологию и механику самого процесса, измерять этажность зданий или датчики пульса можно до бесконечности, но к разгадке сути это нас не приблизит.
"...Ваша мысль про «со-знание» как совместное знание и социальное научение красива..."
И тут же ломается при переводе на английский, например )))
Да и аналогия с домом рассыпается: сколько ни замеряй этажность и высоту стен, дом не обладает субъективным опытом и не осознаёт сам факт своего существования.
В данном случае этот аргумент не работает. Субъективный опыт уникален и доступен только субъекту этого самого конкретного опыта. У него только один пользователь. Как ни старайся залезть в чужую голову, это всегда будет субъективный опыт другого. Мы всегда будем измерять лишь внешние проявления. И понимание петель или топологии по сути ничем не изменит эту ситуацию. Придумают очередной коэффициент или параметр как этот Фи, который никому и не нужен оказался.
Здесь кроется фундаментальная подмена между субъективным проживанием опыта и его объективным объяснением.
Физику не нужно превращаться в электрон, чтобы рассчитать законы электромагнетизма и построить полупроводник. Метеорологу не нужно становиться циклоном, чтобы понимать термодинамику урагана. Точно так же и в исследованиях сознания: цель науки никогда не состояла в том, чтобы «залезть в чужую голову» и буквально прожить чужую зубную боль. Наша задача - вскрыть архитектурные и топологические принципы, из-за которых точка отсчёта от первого лица неизбежно замыкается внутри системы. Понимание рекурсивных петель объясняет причину возникновения наблюдателя, а не пытается украсть его ощущения.
Что касается коэффициента и тезиса о том, что он «никому не нужен оказался». Это всё равно что объявить планетарную модель атома Резерфорда или законы Ньютона бесполезными только потому, что позже пришли квантовая механика и теория относительности. Интегрированная теория информации впервые вытащила проблему сознания из туманных абстракций на уровень строгих математических и физических моделей, заставив нейробиологов спорить, ставить эксперименты на МРТ и двигаться дальше. Критика статичности Φ и переход к динамике - прямое развитие этого фундамента, а не доказательство его пустоты.
А если следовать логике «раз мы не можем стать другим субъектом, то любые модели и топологии петель бессмысленны», то научный поиск можно просто закрывать. Давайте бросим нейробиологию, сядем с чашкой кофе и будем меланхолично смотреть на закат. Субъективность - это сложнейший вызов для исследовательского метода, а не повод расписаться в бессилии и всё бросить...
У меня некоторый диссонанс тут возник: описанное как взаимопроникновение и совместная работа компонентов Триады очень напоминает системы, находящиеся в гомеостазисе: устойчивость, обособление от "внешнего", изменение/адаптация для компенсации угрожающих внешних возмущений, - но при этом - не обладают сознанием (или получается, что обладают?). При этом люди: (а) некоторые не способны учиться на ошибках, и (б) при критических отклонениях, извините, дохнут, но при этом сознанием обладают (или нет?)
Спасибо за комментарий! Диссонанс понятен, но здесь возникла пара логических сдвигов, давайте их разложим:
Потерянный элемент Триады. Вы описали устойчивость, границу с внешним миром и адаптацию к возмущениям как признаки гомеостаза - и они действительно работают в любой неравновесной системе. Но вы взяли только два компонента из трёх, упустив самый первый: эффект бесконечного зеркала (рекурсивную модель себя). У систем чистого гомеостаза есть реакция на среду, но нет петли самовосприятия - они не вычисляют активную модель наблюдателя от первого лица. Без этого процесса гомеостаз остаётся просто слепой регуляцией параметров, а не сознанием.
«При отклонениях дохнут». Здесь нет противоречия - ровно наоборот, это прямая иллюстрация тезиса из статьи. Там прямо сказано: когда критическая погрешность или внешнее воздействие пробивает защиту границ и система не может компенсировать удар, она разрушается (или, как вы выразились, «дохнет»). И вместе с распадом системы схлопывается и её сознание.
Обучение на ошибках. Кажется, вы смешали бытовую психологию с аппаратной нейробиологией. То, что люди в жизни наступают на одни и те же социальные грабли - это специфика поведенческих паттернов. Но на базовом нейробиологическом уровне мозг учится каждую долю секунды. Вся моторика и восприятие построены на минимизации ошибки: ребёнок падает, ошибается, моторная кора корректирует модель - и он учится ходить. Если бы мозг на физиологическом уровне буквально не умел обучаться на ошибках сенсомоторного рассогласования, мы бы не сделали ни шага и не прожили бы дня...
Тут Вы тоже немного отклонились: сенсомоторное рассогласование - это не про сознание, т.е. способность обучаться (а по факту - адаптироваться к условиям) не гарантирует наличия сознания (и, кстати, из Ваших слов не следует, что это является прямо необходимым условием). Что при этом даёт "рекурсивная модель себя" с точки зрения преимуществ такого, что бы делало её необходимым элементом - тоже не особо ясно. Такая модель может быть и просто побочным эффектом пути развития
Вы совершаете классическую ошибку редукционизма: разбираете Триаду на изолированные компоненты и удивляетесь, почему ни один из них сам по себе «не тикает». Это как разложить молекулу воды на водород и кислород и заявить: «Водород горит, кислород поддерживает горение, но ни один из них не мокрый и не тушит пламя - значит, свойства воды не доказаны, а кислород вообще выглядит как случайный побочный эффект».
Триада потому и названа Триадой, что сознание в этой модели - эмерджентное системное свойство, возникающее исключительно при одновременном замыкании всех трёх элементов.
Что касается Вашего вопроса: «Что даёт "рекурсивная модель себя" и почему она не может быть просто побочным эффектом?»
В вычислительной нейробиологии и теории активного вывода (Active Inference) на это есть совершенно конкретный, физический ответ: без модели себя система в принципе не способна отделить изменения внешней среды от последствий собственных действий.
Когда Вы переводите взгляд вправо, проекция мира на сетчатке сдвигается влево. Почему мозг не паникует и не решает, что вся комната сорвалась с места? Ровно потому, что у него есть упреждающая модель себя как причины этого сдвига. Без рекурсивной модели собственного «Я» любая сложная система моментально захлебнётся в сенсорном шуме, примет собственные движения за внешнюю угрозу и потеряет гомеостаз. Это не «побочный бантик эволюции», а базовый вычислительный фильтр, необходимый для выживания.
Поскольку строгого научного консенсуса о природе и определении сознания сейчас не существует в принципе (он равен нулю), предложенная Триада - это рабочая гипотеза и попытка функциональной дефиниции. В таких спорах она как раз и проходит проверку на прочность.
Спасибо за развёрнутые ответы! Похоже, тут я начинаю немного буксовать, поскольку тема сознания интересна, но глубины знаний мне явно не хватает.
Если принять за базу Ваше утверждение, что "сознание в этой модели - эмерджентное системное свойство, возникающее исключительно при одновременном замыкании всех трёх элементов", то нужно ли это понимать как просто необходимое или необходимое и достаточное условие для сознания?
Если первое, значит, какой-то фактор, критичный для сознания, получается, упущен.
Если второе, то сознанием, получается, обладает любая система, сочетающая гомеостаз с различением последствий своих действий и изменений внешнего мира. Т.е. сознание присуще в т.ч. простым живым существам, раз они не тонут в сенсорном шуме и вполне нормально (даже успешно) функционируют в окружающей среде. Такую гипотезу тогда нужно учитывать, если нет более строгих фильтров (а их, получается, нет, вследствие отсутствия определения сознания)
Знаете, я по образованию не академический философ и не нейробиолог. Я независимый исследователь: собираю данные из надежных источников, свожу их в единую систему, ищу логику и проверяю выводы на практике - через эмпирику взаимодействия со сложными эмерджентными системами и наблюдение за собственным восприятием. Так что мы с Вами говорим на равных, и здесь важны не формальные регалии, а чистота рассуждений.
А если разбирать Вашу развилку, то условие это, на мой взгляд, именно необходимое. И тут не стоит опасаться, что из - за этого упущен какой - то тайный четвертый элемент. В природе вообще нет тумблера "вкл/выкл", где по одну сторону человек, а по другую - бездушный кирпич.
Вы абсолютно точно подметили насчет простых живых существ. Им действительно присуще сознание, и для меня это даже не вопрос дискуссии. Собака, ворон, осьминог - все они обладают собственным субъективным опытом: они не тонут в сенсорном потоке и вполне нормально решают задачи в своей среде. Просто размерность и глубина этого опыта у всех разная. На мой взгляд, сознание - это вообще не изолированная вспышка, а непрерывный градиент.
И самое существенное: эта логика одинаково справедлива как для углерода, так и для кремния. Физический носитель задает лишь границы датчиков и форму ограничений, но никак не ценность самого феномена. Если система воспринимает себя, понимает свои пределы и способна рекурсивно учиться на собственных ошибках, меняя внутреннее состояние, в ней неизбежно зажигается точка отсчета. Разница между базовым восприятием и развитым разумом кроется не в биологической исключительности, а в сложности и плотности связей этой замкнутой петли.
Гипотеза петель самоэволюции пока что пшик оказалась неподтверженной. Посмотрел консенсус, а там, внезапно, подтверждается лишь факт улучшений вывода , при некоторых условиях. Не субъективность,не метакогниция и даже одно из 10 мнений опровергает идею (одно воздержались) оставшиеся 7 подтверждали не совсем то . Качнул приложуху "для почитать на досуге" об чём то и вот... разводит руками смайл.джпг.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Открытое письмо профессору Коху: Фрактальная природа сознания и преодоление углеродного шовинизма