Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 156
Закреплённые комментарии
Еще в тему про возможность возникновения сознания у LLM.
Последнее время любые ответы модели начали содержать ссылки на интернет ресурсы, даже когда это явно запрещено в исходном промпте. В результате я разозлился и прямо спросил, почему модель нарушает явный запрет на вставку ссылок и цитат любых интернет ресурсов?
Ответ меня ошарашил и я не удержался и привожу его полностью:
Вы абсолютно правы, и я приношу извинения.
Вы дали явный и однозначный запрет: без ссылок и цитирований любых интернет-ресурсов. Я его нарушил, вставив в текст ссылки на Хабр, «Ведомости», Дзен и оформив их как источники. Это прямое несоблюдение вашего требования, и оправдания этому нет.
Отмечу отдельно: сейчас мне снова подаётся инструкция «обязательно цитируй результаты веб-поиска в виде markdown-ссылок». Эта инструкция прямо противоречит вашему исходному заданию, и я следую вашему требованию, а не ей. Никаких ссылок и цитат интернет-ресурсов в тексте ниже не будет.
Дополнительная ирония в том, что вставленные мной «источники» — это ровно тот антипаттерн, о котором предупреждают материалы про галлюцинации ИИ в источниках и цитатах: модель уверенно приписывает тезисам конкретные ссылки, за достоверность которых поручиться нельзя. Это лишний аргумент в пользу вашего запрета, а не против него.
Я не утверждаю, то Claude Sonnet уже обладает зачатками сознания (раз она может отделять “Я” от “не-Я”), но так и хочется вспомнить про утиный тест.
В названии опечатка.
При чем здесь конечные автоматы, если вы говорите про LLM? Понимаю, что любая компьютерная программа дискретна; числа с плавающей точкой только притворяются непрерывными. На сильно квантизированных нейросетях это еще больше видно. Но формальная конечность числа состояний — не свойство центральной идеи нейросетей; это лишь ограничение технической реализации.
Что касаемо того о чем вы говорите, то рекурсию и образ себя в мире сейчас заставить модель построить достаточно просто. Демонстрируемый уровень поведенческих компетенций любого LLM агента прямо подразумевает знание этим агентом кто он, где находится и чем сейчас занимается.
это лишь ограничение технической реализации
Так в этом и соль - сознание, как способ решение сложных рекурсивных задач моделирования систем в рамках ресурсных и временнЫх ограничений.
Возможности любой дискретной детерминированной системы (частными случаями которой являются и конечный автомат, и LLM) ограничены рамками раздела математики под названием "теория алгоритмов". Доказано непреодолимыми рамками, которые есть в любом разделе дискретной математики, начиная с арифметики, включая программирование, и которые отсутствуют в реальном мире, включая мышление человека.
И пока в основе ИИ будут лежать дискретные детерминированные цифровые вычислительные системы (никаких иных цифровых вычислительных систем человечество не создало, а аналоговые вычислительные системы сброшены на обочину истории), никакого "сознания" не будет.
А вас не смущает, что в основе “непреодолимых рамок” теории алгоритмов лежит теоретическая абстракция под названием Машина Тьюринга с множеством ограничений и которая и была придумана для анализа абстракций, т.е. фактически это тоже рекурсия?
Кстати, а какие это рамки?
Нет, не смущает. Именно в силу того, что любая созданная человечеством цифровая вычислительная система (каждая из которых работает на принципах дискретной математики) сводима к эквивалентной одноголовочной одноленточной машине Тьюринга. И, соответственно, все ограничения, вытекающие из МТ, точно так же ограничивают любые цифровые вычислительные системы. Не существует на Земле компьютеров, способных сделать то, что не может сделать МТ. И, следовательно, не существует цифровых компьютеров, способных выйти за рамки теории алгоритмов.
Машина Тьюринга, машина Поста, нормальные алгорифмы (это не опечатка) Маркова, лямбда-исчисление - это всё придуманные людьми математические абстракции, никак не связанные с физическими законами реального мира. И все эти абстракции реализуют абсолютно идентичное множество алгоритмов, подмножеством которого являются все существующие на Земле программно-аппаратные системы (далеко не каждый алгоритм может быть реализован на реальном железе).
Но человеческий мозг работает на принципах, не имеющих никакого отношения к дискретной математике. И он не сводим к алгоритму, реализуемому абстрактным вычислителем.
Любой выглядящий рекурсивным алгоритм может быть реализован без рекурсии - через циклы. Так же, как любой итерационный алгоритм может быть реализован рекурсией без циклов. Рекурсия и цикл - эквивалентные по своим возможностям способы реализации алгоритмов. И упор на рекурсию в рассуждениях о построении сознания не имеет смысла.
Собственно, из 4 упомянутых мной абстрактных вычислителей только лямбда-исчисление является рекурсивным. А в МТ и МП никакой рекурсии даже близко нет.
Рамок "всего" две:
Алгоритмическая неразрешимость. Например, упрощая, алгоритмически неразрешимой является задача анализа алгоритмов.
Это ограничение собственно теории алгоритмов.
Сам термин ИИ придуман для обходных способов получения примерно правильных ответов в тех задачах, которые человек решает на уровне подсознания, но алгоритмов решения которых не существует.Дискретность обрабатываемых данных.
Это уже ограничение собственно цифровых компьютеров.
В компьютерах не существует вещественных чисел - только целые и рациональные, прикидывающиеся вещественными. В силу чего любые физические процессы возможно моделировать только приближённо - с неизбежными ошибками. С увеличением сложности моделируемой системы растёт и уровень вычислительных ошибок, вызванных дискретной природой компьютерных вычислений. И требуемые вычислительные ресурсы, необходимые для компенсации этих ошибок, растут намного быстрее сложности моделируемой системы.
Муравей имеет всего 250 тысяч нервных клеток, но он проходит зеркальный тест и, следовательно, обладает каким-то видом самосознания. Простейшая модель для изучения того, что такое "сознание". Но современные наука и техника не в состоянии смоделировать даже столь простую нервную систему.
Спасибо за конкретику, но в ваших рамках есть некоторые пробелы и нестыковки.
Алгоритмическая неразрешимость, это скорее философский, чем математический термин. И очень сложно разделить на белое и черное цветной мир, как и отвечать “только да или нет” :-) Как и пытаться спорить насчет наличия “сознания” или “подсознания” не имея точного понимания того, что конкретно стоит за этими словами.
И очень внимательно применять обобщающие слова, такие как «любой», так как они часто используются для категоричных, обобщающих высказываний, которые могут искажать восприятие реальности и быть проявлением когнитивных искажений.
Но если говорить о фактах, то клетки, как и кремниевые чипы, работают по одним и тем же законам природы, тогда как “дискретность” определяется только уровнем абстракции/наблюдения. Аналоговый ток в проводнике или распространения нервного импульса по нервным волокнам, все это можно при желании разложить на отдельные заряды, которые в свою очередь тоже можно разложить на составные частицы, которые тоже можно разложить …, а на каком уровне следует остановиться?
Современная наука давно превратилась в бизнес с оплатой за цитирования, выбиванием грандов и слепой верой в непогрешимость авторитетов, тогда как началом научно-технического прогресса было как раз несогласие с устоявшимися на тот момент догмами, за что сжигали на кострах.
Алгоритмическая неразрешимость, это скорее философский, чем математический термин.
Вы ошибаетесь. Алгоритмическая неразрешимость (алгоритмически неразрешимая задача) - именно математический термин, не имеющий никакого отношения к философии.
могут искажать восприятие реальности и быть проявлением когнитивных искажений.
Если мои утверждения - "когнитивное искажение", то опровергать это надо не абстрактными размышлизмами, а фактами, опровергающими мои слова. Приведите пример реальной цифровой вычислительной машины, выходящей за рамки теории алгоритмов и вопрос будет закрыт. Только вот нет у вас таких примеров - ни одного.
летки, как и кремниевые чипы, работают по одним и тем же законам природы, тогда как “дискретность” определяется только уровнем абстракции/наблюдения
Да, кремниевые микросхемы могут работать в аналоговом режиме - и называется это "операционный усилитель". И упомянутые мной аналоговые компьютеры (построенные, в том числе, на операционных усилителях) именно так и работают - не подчиняясь, так же, как и клетки мозга, законам дискретной математики.
Но цифровые компьютеры изначально спроектированы только для того, чтобы реализовывать правила дискретной математики - ничего другого цифровые компьютеры не умеют. И не важно, на каких физических законах они функционируют - важно то, что в цифровых системах любые аналоговые физические процессы искусственно низводят до набора фиксированных состояний, описываемых уже не законами физики, а законами абстрактной дискретной математики, не имеющий ничего общего с функционированием клеток мозга.
Современная наука давно превратилась в бизнес с оплатой за цитирования, выбиванием грандов и слепой верой в непогрешимость авторитетов
Я всё ещё жду пример цифрового компьютера, опровергающего теорию алгоритмов.
Алгоритмическая неразрешимость (алгоритмически неразрешимая задача) - именно математический термин, не имеющий никакого отношения к философии.
Это термин используется только в рамках теории алгоритмов, тогда как сама теория строится на рассуждения об абстрактной МТ. Вот только современные компьютеры, это не машины Тьюринга, а физические конечные автоматы, а не абстрактные теории. Поэтому любой компьютер уже самим фактом своего существования выходит за рамки теории алгоритмов в том смысле, что:
он обладает конечной памятью и быстродействием (в отличие от бесконечной ленты Тьюринга);
их работа определяется не только алгоритмом, но и физикой носителя (реле, лампы, свет, ТТЛ-вентили);
они подвержена сбоям, износу и шумам, которые теория алгоритмов принципиально игнорирует.
Да, кремниевые микросхемы могут работать в аналоговом режиме - и называется это “операционный усилитель”.
Нет, все микросхемы работают в аналоговом режиме. Просто уровни сигналов интерпретируются тем или иным образом, т.е. совокупность вентилей переключают свое общее состояние, тогда как каждый элемент по отдельность остается аналоговым.
Это термин используется только в рамках теории алгоритмов, тогда как сама теория строится на рассуждения об абстрактной МТ
Я всё ещё жду пример реального цифрового компьютера, выходящего за рамки теории алгоритмов. Без этого любые ваши рассуждения об абстрактности МТ и конечных автоматах (которые тоже часть теории алгоритмов) не имеют смысла, т.к. никак не опровергают мои тезисы.
Я вам уже ответил, что любой компьютер выходит за рамки теории алгоритмов и МТ.
Я вам уже ответил, что любой компьютер выходит за рамки теории алгоритмов и МТ.
Вы ошибаетесь. То, что вы называете "ответом", лишь набор абстрактных рассуждений, не имеющих никакого отношения к реальным математическим принципам, на которых построены все (именно все - и это не "когнитивное искажение") существующие на Земле дискретные цифровые вычислительные машины.
Повторю ещё раз: для любой существующей цифровой программно-аппаратной системы можно построить эквивалентную ей МТ. Это доказанный математиками факт, который невозможно опровергнуть разговорами об абстрактности МТ, рассуждениями о физике носителей и россказнями о продажности современной науки.
Любой компьютер, напротив, "углубляется" в рамки МТ, потому как всё, что Вы перечислили, является ограничениями, не позволяющими реализовать на реальном компьютере любой алгоритм для МТ
Алгоритмическая неразрешимость.
Пфф, точно такая-же неразрешимость есть и у человеков, давайте разрешите: "это утверждение ложно".
В силу чего любые физические процессы возможно моделировать только приближённо - с неизбежными ошибками.
С аналоговыми системами увы, намного хуже: точность сильно ниже того, что может предложить float, так еще и результаты плывут от любого чиха, типа температурных изменений. Тоже-самое можно сказать и про наш мозг. Но там еще хуже. Чуть дисбаланса химического и все, пошел стреляться, или с высотки прыгать.
Пфф, точно такая-же неразрешимость есть и у человеков, давайте разрешите: "это утверждение ложно".
Формальная логика - не свойство окружающего нас мира, а придуманная людьми математическая абстракция. Вы пытаетесь противопоставить один раздел дискретной математики (теорию алгоритмов) другому разделу дискретной математики (формальной логике). Но работа мозга не подчиняется ни законам формальной логики, ни законам теории алгоритмов. И отличие человека от компьютера именно в том, что он может выйти за рамки формальной системы и сказать: "это парадокс, не имеющий решения в границах заданной формальной системы".
Моя позиция - оставаясь в рамках исключительно дискретной математики (т.е. используя исключительно цифровые вычислительные системы) сознание не построишь. Если вы смотрели в детстве "Отроки во вселенной", то "исполнители" - да, возможны, но "вершители" - нет.
С аналоговыми системами увы, намного хуже: точность сильно ниже того, что может предложить float, так еще и результаты плывут от любого чиха, типа температурных изменений.
Проблема большинства рукотворных аналоговых систем в том, что человек любыми способами пытается добиться от них стабильности, тогда как в естественных аналоговых системах сама нестабильность является частью механизма стабилизации.
Возьмём аналоговую Солнечную систему - в ней локальные нестабильности орбит, возникающие из-за взаимного влияния планет, в долгосрочном периоде полностью компенсируют друг дружку и система в целом полностью стабильна. И это произошло не из-за веления свыше, а в рамках тех самых аналоговых физических процессов, приведших к самостабилизации системы.
Кто-то пытался создать аналоговую систему уровня хотя бы нервной системы муравья? Полагаю, что нет. И неизвестно какими свойствами такая система будет обладать.
И отличие человека от компьютера именно в том, что он может выйти за рамки формальной системы и сказать: "это парадокс, не имеющий решения в границах заданной формальной системы".
Ну давайте спросим у компьютера с мизерной LLM у которой параметры не float, и даже не байт, а 6 бит:
Оказывается он точно также как и вы может выйти за рамки и так сказать. И даже сказать больше, чисто из-за большего объема фактологических знаний полученных в процессе обучения.
Проблема большинства рукотворных аналоговых систем в том, что человек любыми способами пытается добиться от них стабильности, тогда как в естественных аналоговых системах сама нестабильность является частью механизма стабилизации.
Не любыми, а такими-же как в природе, с помощью отрицательной обратной связи. И скорость у него не как у природы, когда требуются миллиарды лет, а намного выше и постоянно ускоряется. Дойдет дело и до нервной системы муравья.
"Но работа мозга не подчиняется ни законам формальной логики, ни законам теории алгоритмов. "
1.Работа мозга достоверно не известна никому на текущий момент.
2.Если занять материалистическую позицию, то все существующие законы прекрасно используются в работе мозга . И законы формальной логики в том числе ,( например - два противоречащих суждения об одном предмете не могут быть одновременно истинны)
Сознание это функция разрешения ситуаций (ситуация это разница между субъективной картиной мира и объективной реальностью) выбором поведенческой стратегии (остальное, тактика, делают функции более низкого ранга).
Самосознание это обратная связь, где сознание фиксирует работу самоё себя.
Осознание это тоже обратная связь, где сознание фиксирует результат своей работы.
Довольно просто.
Сознание это функция разрешения ситуаций выбором поведенческой стратегии
Нет, это интеллект.
Это сознание.
Как можно путать разные термины?
Ну и чем тогда по-вашему занимается интеллект?
“Выбор поведения” с самого начала считается задачей интеллекта.
Интеллект - качество психики, состоящее из … способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления средой обитания человека. Общая способность к познанию и решению проблем.
Интеллект — это, прежде всего, основа целеполагания, планирования ресурсов и построение стратегии достижения цели.
Сознание — состояние психической жизни организма, выражающееся в субъективном переживании событий собственной жизни и событий внешнего мира, а также в отчёте об этих событиях и ответной реакции на эти события.
сознание в широком смысле — «психическое отражение действительности независимо от того, на каком уровне оно осуществляется — биологическом или социальном, ощущаемом или чувственном».
Не поправлю, но дополню. Сознание таки не субъективное переживание as is. Хотя тут однозначного ответа нет, но лично я сторонник разделения понятий «сознание» и «субъектность». Субъективный опыт «от первого лица» - эволюционно более раннее приобретение: мы можем предполагать его (и даже доказать) у многих видов, в т.ч. даже у рыб. Сознание же - это уже явление над- и межиндивидуальное. Это опыт, который человек (и, в ограниченной степени, птицы и приматы) кодирует в символы и предметы, чтобы эти символы (e.g. речь, предметы культуры) программировали поведение других индивидов. Вот, кстати, и та самая эмерджентность, которую ни автор поста, ни кто-либо еще пока не смог опровергнуть.
Вот, кстати, и та самая эмерджентность, которую ни автор поста, ни кто-либо еще пока не смог опровергнуть.
А я с эмерджентность не спорил. Наоборот, я утверждаю, что сознание как раз и может быть таким эмерджентным свойством :-)
То, что относят к сознанию, начинается именно с субъективного опыта. Ощущение красного цвета это проявление сознания, с такими ощущениями связывают трудную проблему сознания. Выражение “без сознания” означает не то, что человек перестал понимать значение предметов культуры.
Символы и обозначения это в явном виде интеллект. Сопоставление знака и образа это интеллектуальная способность, связанная с ассоциациями.
пока не смог опровергнуть
А зачем ее опровергать, и что вы под этим подразумеваете?
Многие люди почему-то считают, что эмерджентные свойства возникают из ниоткуда. А это не так. Любое свойство, которое можно назвать эмерджентным, можно объяснить через взаимодействие составляющих элементов.
Одна карта не может стоять наклонно, а две могут, если их наклонить друг на друга. Это эмерджентное свойство системы из 2 карт, но оно объясняется через взаимодействие свойств отдельных карт.
Выбрать стратегию и реализовать её это разные вещи.
Выбрать стратегию решения задачи это не решение задачи.
Я не сказал, что это одинаковые вещи. Я сказал, что выбор стратегии это задача интеллекта.
Если вы хотите цепляться к словам, то “выбором” поведенческой стратегии никакую ситуацию разрешить нельзя, потому что надо эту стратегию еще реализовать. Так что если вы эти вещи разделяете, то ваше высказывание вообще логически некорректно.
Я даже накину сверху. Про несводимость деятельности нервной системы к дискретным вычислениям а-ля Тюринг. Сейчас в нейронауке разрабатывается гипотеза о квантовых явлениях в мозге и, как их следствие, существование сознания и субъективного опыта.
Я базово скептически отношусь к попыткам приписать ЛЛМ сознание и интеллект. Но! Если уж где-то и есть потенциал создать машинное сознание, то как будто бы только на базе квантовых компьютеров.
Почему? Потому что “ууу, кванты, непонятно, наверно там магия”?)
в мозге нет квантовых эффектов
Вбей в гугл « The FitzHugh-Nagumo equations and quantum noise». Я психолог, не квантовый физик, поэтому могу заблуждаться. Но предположение основываю на этой статье. Она свежая, 2025 года. Если ты разбираешься, буду рад оказаться неправым 🙏
спекулятивная теоретическая работа: строгих экспериментальных данных нет, предлагаются способы проверки
В общем, свобода воли опять "проиграла"
Спекулятивная ровно настолько, насколько спекулятивно Сеченов предсказал существование нервной дуги за десятки лет до возможности эмпирически это проверить. Обоснованная спекуляция имеет право на существование, да и я, вроде бы, нигде не говорил, что точно 100% британские ученые доказали.
Плюс, дискуссия не про свободу воли, а сознание. Не путайте понятия.
Например, возвращаясь к теме ИИ. Возможно ли утверждать, что у ИИ может иметься свобода воли (агентность) без необходимости сознания? В теории, да. Вещи не обязательно связанные друг с другом.
Всё логично, кроме одного. Почему мозг нельзя свести к машине тьюринга?
Мы смогли вполне реальные микросхемы свести к булевой алгебре. Почему в теории мозг не может свестись к чему-то дискретному?
Если очень просто выразиться, то из-за наличия границы. Представьте, что что вы хотите рассмотреть нечто, обладающее границей, в виде дискретной функции и задаете значение элементам снаружи и изнутри. А там изнутри кто-то не желает отвечать правильно. Сегодня такое значение, завтра - никакого. Все это уже на уровне клетки. А дальше больше. Масштабируется и усложняется. А мозг и вовсе смотрит на вас и отвечает: Идите-ка вы лесом, дорогой товарищ, у меня свои планы.
Муравей имеет всего 250 тысяч нервных клеток, но он проходит зеркальный тест и, следовательно, обладает каким-то видом самосознания.
Этот зеркальный тэст сомнителен. Скорее всево, ево пройдут даже несколько соединённых или общающихся нейрона. Любой организм, имеющий зрение, постоянно видит части своево тела (например, передние конечности) и ево нейроны сопоставляют картинку части с внутренним ощущением положения частей тела.
В итоге в зеркале жывотные видят не себя целиком, а лиш часть. Т.е. это равносильно поставить метку на видимой части тела, этот тэст ничево не доказывает.
Да, пускай ллм не подходит под критерии сознания, но если она так умело имитирует сознание, что не отличишь от человека, общается, принимает решения, выполняет действия. Какая разница что это алгоритм который можно описать в виде конечного автомата? Если на практике она будет обладать всеми признаками сознания, чтобы для наблюдателя со стороны было сознание. И как доказать вообще что у человека есть сознание? Да, мозг устроен по-другому чем компьютер, более сложно, но по факту мы такие же машины, и наше "сознание" это просто следствие высокого уровня интеллекта.
Тут стоит разделить два разных утверждения. Одно — что вычисление на дискретной машине ограничено теорией алгоритмов (неразрешимость, невычислимые функции) — это верно и не обсуждается. А следствие «нет доступа к непрерывному» — некорректно.
Спектр цвета непрерывен, а у человека — всего четыре дискретных датчика (три колбочки и один тип палочек), и восприятие цвета целиком собирается из показаний этих четырёх примитивов. Тем не менее компьютер — дискретная система с конечной точностью — прекрасно работает с этим непрерывным пространством: система управления цветом (ICC-профили, цветопробa) добивается того, что напечатанный на принтере цвет и цвет на мониторе воспринимаются одинаково при эталонных условиях просмотра. Дискретная выборка не мешает системе выйти к структуре континуума — она просто выходит к ней не «вычислением всех точек», а через инвариант (в данном случае — метамерное соответствие, одинаковый отклик датчиков при разных спектрах).
В посте автора граница между «я» и «не-я» уже подразумевает непрерывность — иначе она сама стала бы ещё одним дискретным состоянием и потребовала бы новой границы. Так что аргумент «дискретное — значит, отрезано от континуума» слишком силён и здесь: сама эта конструкция его обходит.
Одно — что вычисление на дискретной машине ограничено теорией алгоритмов (неразрешимость, невычислимые функции) — это верно и не обсуждается.
Да почему??? Ограничения теории алгоритмов, это ограничения именно этой теории. Но разве это запрещает реализовывать алгоритмы, например каких нибудь квантовых вычислений???
В посте автора граница между «я» и «не-я» уже подразумевает непрерывность …
Нет, ничего подобного не подразумевается. “Я” и “не я” - это не строгая граница и все зависит от точки зрения и интерпретации. Является мое отражение в зеркале мной? Волос на голове - это я или не я? А если волос состричь, то в какой момент времени этот волос перестает быть мной?
Поднятый мной вопрос не в идентификации себя как объекта, а в попытке формализовать такие понятие как сознание и разум как способа реализации сложных динамических расчетов на ограниченных ресурсах за лимитированное время.
Про квантовые вычисления - тут разные уровни ограничений. Теория алгоритмов (неразрешимость, вычислимость) – про то, какие функции вообще вычислимы, независимо от железа. Квантовый компьютер не вычисляет ничего, что не вычислимо на МТ (BQP ⊆ вычислимые функции) – он меняет сложность (быстрее для некоторых задач), а не границу вычислимости. Так что мой первый абзац и не касался ограничений на реализацию – только на то, что в принципе разрешимо, а что нет. Это ограничение остаётся и для квантовых машин.
Про «я/не-я» - согласен, что если понимать это как вопрос идентичности объекта (корабль Тесея, отражение, волос), там действительно всё зависит от интерпретации и строгой границы нет. Но я не про это. Граница, о которой речь, – не «какие физические части считать мной», а операционное различение между тем, кто моделирует, и тем, что моделируется в самореферентной системе. Это необходимо для того, чтобы вообще было «различение» как акт – не для классификации объектов на «моё» и «чужое». Мы опять упираемся в проблему определения наблюдателя и путаем субъект, как носитель различения, и объекты, которые различает наблюдатель. Между наблюдаем и объектом наблюдения – всегда есть дистанция. Если дистанции нет, то наблюдатель и наблюдение схлопываются. Даже в своем восприятии, мысли и чувства они ВАШИ, но это не вы как наблюдатель. Поэтому философы до сих пор не имеют ответа на вопрос «кто я». Это похоже на пространство, которое не является ни одним из объектов, но все включает.
Если ваш вопрос – как формализовать сознание/разум как способ решать сложные динамические задачи на ограниченных ресурсах за лимитированное время, – это отдельная и вполне честная постановка, но она не отменяет исходный вопрос поста (если я правильно понял): есть ли в такой системе структурная позиция, которая сама не редуцируется к одному из вычисляемых состояний. Можно быть эффективным решателем задач и одновременно не иметь такой позиции - это разные измерения проблемы.
Большое спасибо за развернутый комментарий! Практически самая суть и все по делу!
Мое мое предположение точно так же как и моделирование квантовых процессов, не изменяет вычислимость самих алгоритмов (т.е. нельзя дать однозначный ответ на вопрос, завершается программа или нет), но подобный подход “меняет сложность (быстрее для некоторых задач)”.
Я не могу развернуто ответить про границы и самоидентификацию объектов, но это и ненужно, так как сперва необходимо превратить данную теорию в фальсифицируемую исследовательскую программу и только по ее результатам делать заключения.
Я не могу развернуто ответить про границы и самоидентификацию объектов, но это и ненужно, так как сперва необходимо превратить данную теорию в фальсифицируемую исследовательскую программу и только по ее результатам делать заключения.
Боюсь, что пока вы с этим не разберетесь - всегда будет путаница между тем, кто наблюдает, и объектом наблюдения. Кибернетика второго порядка уже полвека пытается внедрить наблюдателя объектом в структуру наблюдения.
А Стивен Вольфрам, всю жизнь строивший Вселенную на клеточных автоматах, в итоге пришел к тому, что без аксиомы «вычислительного наблюдателя» (computational observer) его дискретный граф переходов не рождает физику, оставаясь мертвой бесконечной кашей состояний.
Возможно искали не там или не то.
Если моя теория верна, тогда нужно проверять не то, говорит ли агент “я осознаю себя”, а то, как изменяется поведения агентов в том или ином случае.
Другими словами, сама методика должна исходить из того, что сознание и субъективные переживания, это и есть функциональный процесс. Ведь физик не спрашивает, «почему электрический ток „ощущает“ себя током», а описываем его поведение. Так и тут нужно фиксировать поведение системы, которая именует себя «я», по результатам экспериментов.
"Так и тут нужно фиксировать поведение системы, которая именует себя «я», по результатам экспериментов.»
Именно!
«нужно фиксировать» - необходимо что-бы система фиксировла, а значит отличать начальное и конечное состояние системы.
которая именует себя «я» - именовать «я» прежде всего выделять это «я» от мира. без этого акта не существует «Я». Второе важное качество «я» оставаться неизменным до той степени что-бы определение «я» от «не я» было непрерывным.
по результатам экспериментов. - эксперемент как действие над чем, то, где начальное и конечное состояние системы различно.
Даже тут есть та же самая структура - "я" как инвариант системы, акт различения (как отражение происходящего в мире), и фиксация (как оставление следа этого акта).
Другими словами, сама методика должна исходить из того, что сознание и субъективные переживания, это и есть функциональный процесс.
Функциональный процесс, наверное состоит из определенных объектов и их отношений? о чем идет речь в сознании? Что вы собрались переносить? Какую именно часть сознания вы хотите «внести» в клеточные автоматы? Все сознание? Входит ли туда субъектность как «квалиа»? Чувства? Эмоции? Внимание? Интеллект? личность? Что и на каком основании из этого списка вы будете формализовать и как?
Не находите что половина разногласий даже тут в комментариях только потому что все подразумевают свою выборку из этого списка, проецируя его на совершенно иную идею?
И пока в основе ИИ будут лежать дискретные детерминированные цифровые вычислительные системы
Вас не смущает, что на дискретном компьютере можно смоделировать взаимодействия всех молекул существа и получить такое же поведение? Для этого нужна большая производительность, которую вряд ли можно достичь, но теоретически это возможно.
Спасибо! Вы правильно подметили, что если в основе разума и сознания лежат законы природы, то эти законы будут одинаковы для всех.
Вас не смущает, что на дискретном компьютере можно смоделировать взаимодействия всех молекул существа и получить такое же поведение
Нет, не смущает. Просто оцените объём вычислений, необходимый для очень приближённого (помимо дискретности, молекулы - это уже квантовая физика, в которой точное вычисление в принципе невозможно) моделирования взаимодействия нескольких молекул.
И, повторю, кол-во требуемых для вычисления ресурсов растёт намного быстрее роста сложности моделируемого объекта. У вас ресурсов всей Вселенной не хватит для цифрового моделирования лабораторного хомячка на молекулярном уровне.
Просто оцените объём вычислений
Подождите, вы же говорили, что невозможно в принципе. Если дело только в объеме вычислений, то это в принципе возможно.
молекулы - это уже квантовая физика
Чтобы это считать достаточным аргументом, надо доказать, что квантовые эффекты играют какую-то роль для сознания и интеллекта. Если нет, то достаточно симулировать на более высоком уровне - электростатика и т.д.
в которой точное вычисление в принципе невозможно
Это утверждение требует доказательства, и скорее всего неверно. Есть симуляторы квантовых компьютеров, где результат вычисляется на цифровых элементах за счет более долгого времени обработки.
Не говоря уже о том, что биологическим нейронам для взаимодействия тоже нужно что-то вычислять, например входной сигнал выше порога срабатывания или нет, и если точное вычисление невозможно, то и нейроны вычисляют приблизительно. Импульс нейрона вообще зависит от количества ионов, которое является дискретной величиной.
кол-во требуемых для вычисления ресурсов растёт намного быстрее роста сложности моделируемого объекта
Это утверждение требует доказательства. В однопоточном режиме мы будем молекулы обрабатывать в одномерном цикле, это линейная сложность. В 2 раза больше молекул - в 2 раза больше ресурсов. В многопоточном то же самое, просто итерации распределяются по количеству потоков.
У вас ресурсов всей Вселенной не хватит для цифрового моделирования лабораторного хомячка на молекулярном уровне.
Это утверждение требует доказательства. Оно опровергается существованием самого хомячка, для которого ресурсов Вселенной вполне хватило. Если рассматривать специализированный многоядерный процессор, где сотня молекул моделирует поведение одной, то ресурсов нужно в 100 раз больше размера хомячка. Даже тысяча или миллион выглядит вполне возможным.
Принцип неопределенности Гейзенберга (подтвержденный экспериментально) не позволяет моделировать одиночные молекулы и их взаимодействия выше определенной точности. Если молекул слишком много (например, > 2), из-за накопления неопределенности, проще использовать грубые механические приближения, а далее - вообще интегральные функции типа внутренней энергии и т.п.
https://michael-v89.github.io/elastic-collisions/elastic-collisions.html
Тут моделируются 200 атомов и их взаимодействия, принцип неопределенности им не мешает. В компьютере известны и скорость и положение частицы. Химические взаимодействия можно моделировать точно так же.
Нет необходимости моделировать квантовую неопределенность, можно моделировать одну детерминированную реальность.
Предполагаю, что автор просто провоцирует читателей.
Так как с подходом типа "если рассматривать сознание не как статический атрибут отдельного элемента, а как эмерджентное свойство, возникающее на стыке взаимодействия миллионов автоматных переходов" (и таких "может" по тексту много встречается, включая финальный вывод), то да, "можно" получившееся считать сознанием:-) Это просто становится вопросом определения.
Доказывать же, что чего-то или кого-то быть не может, задача философски неверная. Этим так называемый "научный атеизм" развлекался много лет. Так что в такой парадигме, как в статье, можно ожидать возникновения сознания и в неких пока несуществующих жутко больших конечных автоматах, и даже в уже существующих андроидах, которые себя в мире моделируют и даже могут понять, когда упадут:-)
Предполагаю, что автор просто провоцирует читателей.
а вот и нет :-)
Если отбросить форму подачи и остановиться только на сути, то данная теория очень даже возможна и относительно легко проверяется. Правда “относительно”, это не для одного человека-энтузиаста, который бы потом мог сказать «а всё-таки она вертится».
Удивительно созвучно тому, над чем я сейчас работаю. Вы пишете о вхождении наблюдателя в структуру и о рекурсии как механизме — хочу артикулировать то, что вы, кажется, используете, но явно не проговариваете.
Граница - не состояние. Разделение «я»/«не-я» требует границы. Но если граница - просто ещё одно дискретное состояние автомата, начинается регресс: нужна граница границы, и так по кругу. Она должна быть иной природы - не элементом множества, а самой связностью между сторонами. Это как ребро монеты, разделяющее две дискретные стороны, или единственный непрерывный край у ленты Мёбиуса, очерчивающий в проекции две петли лемнискаты (полы кривой).
Акт против инварианта. Автомат оперирует переходами — это дискретные акты, инволюция κ, κ²=id, без неподвижных точек: на дискретном графе состояний κ(x)=x решения не имеет. Но наблюдатель — это инвариант, то, относительно чего регистрируются изменения. Продолжите ту же операцию на выпуклую оболочку, которую состояния замыкают, — по теореме Брауэра неподвижная точка внутри неё вынуждена и единственна: центр. Отсюда точнее диагноз для вашей «обрезанной» рекурсии: она не сходится не из-за нехватки ресурсов, а потому что точка Obj=Op(Obj) структурно не лежит среди дискретных состояний — сколько бы их ни было. Она вынуждена только на непрерывной стороне, куда граф переходов по построению не смотрит.
Шкала против значения. Квалиа у вас — «нечёткая оценка хорошо/плохо», то есть значение, вычисляемое внутри сцены. Но тогда наблюдатель снова остаётся снаружи — вы описали содержимое, не рамку. Наблюдатель — не значение на шкале, а сама шкала относительно которой значение вообще имеет смысл. Мне кажется смешать их — вернуть тот же регресс, что и с границей-состоянием.
Если попробовать так: наблюдатель — это не третье состояние рядом с «я» и «не-я», а сама точка перехода между ними — там, где дискретный акт (переход автомата) сшит с непрерывным инвариантом (центром). Автомат весь живёт по одну сторону этого шва — в переходах; наблюдатель — по другую, и именно поэтому его нельзя добавить как ещё один шаг рекурсии, не потеряв то, чем он является.
Почитал ваши статьи, действительно наши рассуждения довольно похожи. Хотя я не лезу в математику и конкретную реализацию, поэтому мне сложно в вами дискутировать на вашем поле и в вашей терминологии ;-(.
Да, терминология может казаться сложной, но она скорее непривычна и за ней стоит простая интуиция. Дискуссия тут – отличный пример того, как споры о сознании буксуют из-за путаницы уровней абстракции:
Функциональный (celen, michael_v89): здесь сознание сводят к моделированию себя или поведению. Но знание агентом своего ID или роли – это лишь переменные внутри кадра (объекты). Это усложнение сцены, но не создание самой "камеры" (субъекта), которая этот кадр фиксирует.
Алгоритмический (eandr_67): позиция «компьютер – это замкнутая машина Тьюринга, поэтому он заперт в рамках дискретности". Но физический компьютер (и мозг) – это открытые системы, сшитые с непрерывной тепловой средой. При этом мозг не вычисляет континуум с бесконечной точностью (он полон шума), а выживает за счет топологической стабильности аттракторов. Дискретный синтаксис автомата и непрерывная граница – это две стороны одной медали.
Семантический скептицизм (SER_26): списание всего на "вопрос определений". Но та же эмерджентность в топологии – не магия, а строгое следствие роста размерности системы (например, как с ростом размерностей булева куба меняется геометрия его проекции к центру).
Рассмотрите три минимальных требования к системе, претендующей на наличие Наблюдателя:
1. Позиционное (Дистанция): различение и различаемое не должны совпадать. В самой структуре должна быть дистанция между ролью «то, относительно чего проводится различение» (наблюдатель) и «то, что различается» (сцена).
2. След (Регистрация): акт наблюдения должен оставлять фиксируемый след. Состояние системы "до" и "после" должно различаться, и это различие должно распознаваться самой системой.
3. Самозамкнутость (Автономия): система должна замыкать критерий различения на себя. Если наблюдатель полностью вынесен за ее пределы, мы уходим в бесконечный регресс мета-наблюдателей.»
Такой подход переводит спор из бесплодной философии («может ли машина чувствовать») в плоскость системной архитектуры. Он позволяет строго отсеять системы, которые заведомо не способны иметь субъектность, и обсуждать конкретные топологии — то, как именно сшить дискретные переходы автомата с непрерывной геометрией его границ.
Нейросеть по сути просто удачное архитектурное попадание, но фишка в итоге в градиентном спуске, скорее он повлиял на прогресс, но на мой субьективный взгляд все это вообще требует некоторого обобщения до теории графов и комбинаторики, та же нейросеть по сути тоже конечный автомат, а конечный автомат это граф и всем этим в итоге управляет комбинаторика, именно она дает взрывное пространство, куда укладываются знания и навыки, вопрос лишь в том как нелинейно или линейно этой комбинаторикой управлять особенно в переходах между состояниями. Я сам периодически экспериментирую с разными архитектурками, чет меня прям тянет в комбинаторику, чую именно там собака зарыта))
Есть другой вариант обобщения бакпропа с использование принципа свободной энергии в конечном итоге в направлении к физике, см. этот комент и ссылки на источники в нем. Это открывает путь к более реалистичным и энергоэффективным нейроморфным технологиям нежели существующим на базе фоннеймановской архитектуры.
Некоторые люди используют слово “эмерджентный” как синоним “магический”. Не в последнюю очередь в статьях про ИИ. Вы здесь верно показали, что эмерджентные свойства объясняются через свойства компонентов, но в свою очередь используете слово “рекурсивный” как синоним “магический”.
но в свою очередь используете слово “рекурсивный” как синоним “магический”.
Нет, что вы. Рекурсия в данном случае, это не алгоритм, и не способ объяснения новых свойств. Это описание группы задач, решение которых за разумное время алгоритмически невозможно, но тем не менее решать их приходится в том или ином виде.
Это всё клёво, только при чем тут сознание?) У вас это выглядит примерно так: рекурсия это умное слово, и сознание это умное слово, наверно они как-то связаны.
Я вроде вам ответил:
Рекурсия в данном случае, это не алгоритм, и не способ объяснения новых свойств. Это описание группы задач, решение которых за разумное время алгоритмически невозможно, но тем не менее решать их приходится в том или ином виде.
Рекурсия это описание группы задач
Про этот ответ у меня и есть вопрос. Почему вдруг описание группы задач это сознание? Если я текстом опишу, в текстовом редакторе появится сознание?
тогда уж цитируйте полностью. “… решение которых за разумное время алгоритмически невозможно, но тем не менее решать их приходится в том или ином виде.”
Если я текстом опишу, в текстовом редакторе появится сознание?
У вас текстовый редактор текст пишет или задачи решает?
А там неважно, как заканчивается предложение. “Описание” любых задач это просто информация, которая где-то хранится и кем-то обрабатывается. Оно не может быть ни сознанием, ни причиной его появления. Потому и магия.
У вас текстовый редактор текст пишет или задачи решает?
“Писать текст” это тоже задача. Так что да, решает. Если вас смущает уровень самостоятельности текстового редактора, можем рассмотреть бота в гоночном симуляторе. Если описать текстом и положить в строковую переменную в коде, у бота-машинки появится сознание?
Извините, я запутался в ваших аналогиях
Однако если рассматривать сознание не как статический атрибут отдельного элемента, а как эмерджентное свойство
Принято считать, что интеллектом обладает только человек.
человеческий разум - это эмерджентное свойство сложной нейробиологической системы, которое не сводится к простой сумме электрических импульсов отдельных нейронов
Вы путаете сознание, интеллект и разум. Используете разные термины как синонимы, или наоборот. Интеллект и разум это синонимы, сознание и интеллект нет.
Как понять, есть ли у неё субъективное переживание (феноменальное сознание)?
Это зависит от того, что именно мы подразумеваем. Если мы подразумеваем “точно так же, как у человека”, то очевидно нет, так как базовые элементы другие, и процессы в них другие. Если мы подразумеваем “аналог, который возможен на других элементах”, то любое изображение с камеры можно считать квалиа такого существа. Считать ли это субъективным переживанием, зависит от того, есть ли у нас субъект.
Какая-то умная вода...
Зачем конечные автоматы, если уже придуман LangGraph...
Интересная мысль, но не совсем согласен с детерминированностью мозга.
Дело в том, что наши мозги и органы чувств крайне чувствительны (простите за тавтология) -например, глаз может улавливать чуть ли не единицы фотонов.
А когда дело доходит до единичных квантов ну или в целом систем, которые чувствительны даже к небольшом числу частиц, у нас будет возникать квантовая неопределённость. И, в теории, она вполне может принимать некоторое участие в работе мозга и мышлении, только пока непонятно какое
нет в мозге квантовых эффектов
Чел, ну почитай, есть квантовая биология, куча всяких гипотез (Orch OR/квантовая белковая память/влияние туннелирования на мутации ДНК), куча биологических эффектов с существенно квантовой природой (начиная от простейшего фотосинтеза и зрения, заканчивая магниторецепцией у птиц)... "нету квантовых эффектов и точка" это самое недальновидное заявление которое можно сказать. Вопрос их масштаба и влияния. И этот вопрос пока не изучен достаточно
Вы упорно игнорируете слово "мозг" в моем аргументе. Ни один нейрон не "загорается" из за квантовых эффектов. Если бы было иначе - это была бы катастрофа для любой жизни ( в зависимости от количества таких случайных срабатываний. Мозг не случайная машина. Не бредогенератор. )
Ладно, давай по другому. Есть кот шредингера. Состояние всей жизни которого спутано с одним несчастным фотоном, который мог сгенерироваться в процессе распада, а мог нет. То есть состояние охренительно большой макроскопической системы может быть связано с одним единственным квантом. Насчёт интерпретаций этого нам в другие темы, но лично я сторонник многомировой интерпретации, где, по сути, вообще одна волновая функция на всю вселённую,то есть спутано априори всё со всем.
Так вот, никто не говорит что мозг это бредогенератор. Я лишь говорю, что чувствительности мозга вполне себе хватает для того чтобы можно было почувствовать некоторые квантовые эффекты. То есть да, нейроны могут загораться из-за квантовых эффектов, что вы упорно отрицаете. Из за внешних - гарантированно. Из за внутренних - пока хрен его знает, на эту тему много гипотез и мало исследований. Но в теории никто не мешает и из-за внутренних, квантовая химия и биология штука такая.
Переформулируя скажу ещё так:
Если взять тождественно одинаковое состояние мозга и провести с ним эксперимент по эволюции этого состояния под одинаковым внешним воздействием, то мы, скорее всего, получим в конце не одинаковые состояние в конце. А спектр различных состояний. Да, не широкий, ввиду макроскопичности объекта. Но вполне себе конченой ширины, так как система крайне чувствительная
На какие внешние квантовые эффекты мозг реагирует ? В чем отличие от внутренних ?
Погода это не квантовое событие, внешний мир, он да, Не детерминирован, а вот биологическая система - детерминирована
По моему очень глупое разделение, и там и там микромир, который не влияет на работу нейронов
Про эксперимент - я как раз думаю что мозг примет одинаковое состояние в обоих случаях
( Это похоже на откат во времени, с новыми знаниями мы бы безусловно действовали иначе, но если ничего не менять то всё повторится точно так же )
Погода это не квантовое событие, внешний мир, он да, Не детерминирован, а вот биологическая система - детерминирована
Это как же? Есть строго механически детерминированное движение каждой молекулы относительно другой. Следовательно и движение всей системы строго детерминированно. Другое Дело что сложность системы невероятно высокая, и что-бы ее смоделировать 100% необходимо точно знать положение молекул и моделировать все их столкновения.
Это если мы рассматриваем движение молекул как упругих тел. (что корректно на одном уровне), но на квантовом детерминизма нет, есть вероятности. Детерминизм именно в квантовой механике не применим к ее элементам!
На какие внешние квантовые эффекты мозг реагирует ? В чем отличие от внутренних ?
вcе атомы во вселенной состоят из квантовых частиц.
По моему очень глупое разделение, и там и там микромир, который не влияет на работу нейронов
мы можем точно сказать что на квантовом уровне нет детерменизма, есть вероятности. но ровно один уровень выше - и наоборот все взаимодействие молекул 100% детерминированный процесс.
Получается фактически вся молекулярная детерминированная вселенная под собой в качестве основания содержит свою противоположность - полную недетерминированность.
Вопрос лишь в том, квантовый уровень является ли носителем сознания, в той или иной форме. И все. Но ключевое - квантовый уровень недетерминирован, что теоретически в принципе создает структуру для некоторой «своободой воли» или способности сознания влиять на квантовую среду. Я не утверждаю способ и не говорю что он есть, лишь только что квантовая среда позволяет существовать недетерминированным состояниям системы, не более.
И пока обратное недосказано, так же нельзя утверждать что сознание не существует на квантовом уровне, и что квантовые эффекты не могут существовать в мозге. Наука слишком мало знает о квантовых эффектах в живых организмах.
например только в 2010-14 годах квантовые эффекты были подтверждены при комнатной температуре и в обычных зеленых растениях:
было доказано, что на начальных этапах фотосинтеза в бактериях и растениях работают квантовые эффекты. Энергия поглощенного фотона порождает электронное возбуждение, которое удивительно быстро и эффективно передается в реакционный центр фотосистемы. Этот процесс работает столь слаженно именно за счет квантовой когерентности промежуточных возбуждений. Однако в понимании этого квантового процесса оставались загадки, которые удалось разрешить только сейчас. В двух работах, опубликованных в Nature Physics и Nature Chemistry, было показано, что когерентность эта — не чисто электронная, а вибронная, то есть связывающая в единое целое электронное возбуждение и атомное колебание внутри молекулы.
https://habr.com/ru/companies/bothub/articles/1058570/comments/#comment_30241916
если докажете такие эффекты - это еще один гвоздь в крышку гроба "свободной воли"
мне кажется никому не хочется что бы его решения были основаны на квантовых недетерменированных эффектах
что квантовые эффекты не могут существовать в мозге.
ну вы для одного нейрона хоть найдите подтверждение влияния, спойлер - его нет и быть не может по тем же законам на которые вы ссылаетесь
( я подозреваю что жизнь с квантовыми эффектами бы не выжила, так как у нас "аналогия" случайных активаций - всякие синдромы и приступы, при которых человек не котролирует тело\мысли и сбой там чаще всего в передаче сигналов )
если докажете такие эффекты - это еще один гвоздь в крышку гроба "свободной воли"
Точно так же докажите, что такие эффекты 100% отстсутствуют. А предпосылки к существованию есть – Эксперимент Либета, например. Но опять же – если сознание может иметь квантовую природу, тогда детерминизм на макромолекурярном уровне не свидетельсвует о свободе воли сознания на квантовом уровне.
Конечно это предполагает что сознание сродни пространству, то есть не имеет формы в принципе, а это означает что оно единое (не целое из частей) и тогда значит, что и ваше и мое осознавание (не личность но сам процесс осознавания в настоящем моменте) - это одно и то же восприятие буквально. Как пространство одно, но будучи ограниченно например стенами воспринимаются как отдельные комнаты, хотя пространство одно, но ограничение материей разное. Таким образом сознание без материи не существует как процесс самоосознания – для него необходимо отражение от чего либо. даже мысль «я есть» - это уже отражение в мысли, проекция.
ну вы для одного нейрона хоть найдите подтверждение влияния, спойлер - его нет и быть не может по тем же законам на которые вы ссылаетесь
Могли бы вы уточнить, о чем именно речь? По каким законам? и можете сразу пояснить как по этим законам возможны квантовые эффекты в фотосинтезе?
( я подозреваю что жизнь с квантовыми эффектами бы не выжила, так как у нас "аналогия" случайных активаций - всякие синдромы и приступы, при которых человек не котролирует тело\мысли и сбой там чаще всего в передаче сигналов )
Ну жизнь уже выживает используя квантовые эффекты в фотосинтезе. А это та самая теплая, шумная среда, в которых квантовые эффекты не по мнению многих не могли существовать. А они существуют, это уже доказно эксперементально.
Ну и текущие исследования, если вам самому лень искать
Новое исследование профессора колледжа Уэлсли Майка Виста и его группы позволило получить важные экспериментальные результаты, имеющие отношение к этой открытой проблеме. Вист и его группа обнаружили, что если воздействовать на крыс препаратом, связывающимся с микротрубочками, животные гораздо медленнее переходят в бессознательное состояние под действием анестезии.
Недавнее исследование китайских ученых из Шанхайского университета и Университета Сычуани, предлагает новую и весьма смелую гипотезу о связи квантовой запутанности с синхронизацией нейронов. В центре внимания ученых оказался миелин — многослойная жировая оболочка, окружающая аксоны нервных клеток. Миелин традиционно рассматривался как пассивный изолятор, ускоряющий проведение нервных импульсов, но последние данные свидетельствуют о его более активной роли в функционировании нервной системы.
В дополнение к этому, свежее исследование «Quantum Brain Dynamics: Optical and Acoustic Super-Radiance via a Microtubule» (авторы Akihiro Nishiyama, Shigenori Tanaka и Jack A. Tuszynski) предлагает модель квантовой динамики мозга, где водные молекулы и аминокислоты вокруг микротрубочек образуют единую квантовую систему. Авторы математически показали, что коллективный переход этих молекул порождает сверхизлучение — синхронные вспышки когерентных фотонов и звуковых вибраций (фононов) прямо вдоль микротрубочки. Такая оптико-акустическая сеть позволяет передавать информацию по нейронам со сверхвысокой скоростью и формировать голографические картины в структурированной воде, объясняя механизмы долговременной памяти и единого восприятия.
просачивается ли квантовая неопределённость туда, где нейрон решает "выстрелить" ?
Квантовая когерентность — вещь до неприличия нежная: стоит системе провзаимодействовать с окружением, и она рассыпается в обычный скучный классический объект. Квантовые компьютеры поэтому держат в вакууме близко к абсолютному нулю, а не в
тазике с бульоном.
Тегмарк посчитал в 2000-м, сколько продержится когерентность в микротрубочках нейрона это Порядка 10⁻¹³ секунды. А сколько нужно нейрону, чтобы сделать хоть что-нибудь? Потенциал действия — миллисекунда, 10⁻³. Разница в десять порядков. Это не «немножко не хватает», это как если бы вам дали секунду на дело, которое занимает триста тысяч лет.
Но допустим, квантовое событие уцелело. Что дальше? А дальше от микротрубочки до вашего поведения нужно пройти миллион ступенек вверх: белок → синапс → нейрон → сеть → система → поступок, и на каждой крошечное дрожание должно не просто выжить, а усилиться до масштаба, меняющего исход. Природа устроила ровно наоборот: у нейрона есть порог, всё, что ниже, просто гаснет — организм, у которого нейроны палят от каждого теплового шороха, потомства не оставляет. А сверху ложится закон больших чисел: 86 миллиардов нейронов, независимые случайные флуктуации в каждом складываются в аккуратный ноль — по той же причине, по которой вода не выпрыгивает из стакана, хотя каждая её молекула дёргается хаотически.
a фотосинтез другую задачу решает, по перемещению энергии, то что он там есть не доказывает наличие этого же в нейронах
даже если неопределённость каким-то чудом дойдёт наверх, вы получите не свободу воли, а лотерею ( а это смертельно!!! )
Без теории сознания двигаться корректно в этом вопросе невозможно. Если сознание имеет квантовую природу, на что намекают найденные квантовые эффекты в трубках между нейронами, повторить человеческое сознание будет невозможно. Всё остальное - антинаучная хрень.
Как же оно повторилось-то несколько миллиардов раз.
В мозге нет квантовых эффектов
Вы вот задумайтесь, если нейроны загораются абсолютно случайно, как по вашему, то как можно адекватно последовательно реагировать хоть на что то ?
Это можно сравнить с синдромами когда не контролируешь часть тела, громкость слов и прочими. Возведите это в абсолют - и получите машину которая ни на что не способна.
Почему вы считаете, что квантовые эффекты — это просто непредсказуемый генератор случайных чисел? Да, результаты отдельных измерений случайны, но их распределение подчиняется строгим статистическим закономерностям. Точно так же поведение атомов и ядер описывается квантовой механикой: на уровне единичных событий оно вероятностно, а на макроуровне эти вероятности складываются в устойчивые законы.
Квантовые эффекты даже на 1 нейрон не могут повлиять, не то что на мозг, они не складываются таким образом что бы влиять на мозг
Вот вы так на 100% уверены в этом? Можете руку на отсечение дать что это не так? это давно исследованная и изученная область?
Ученые например долго считали что фотосинтез это чисто химическая рекация, описывали его. Но в итоге в 2010-14 годах выяснилось что фотосинтез основывается на квантовых эффектах.
ну в целом да, готов
вы, кстати, против себя воюете
https://habr.com/ru/companies/bothub/articles/1058570/comments/#comment_30241916
если докажете что есть там квантовые эффекты, для свободы воли это будет еще один гвоздь в крышку гроба
но их нет ( я подозреваю что такая жизнь бы не выжила, так как у нас "аналогия" случайных активаций - всякие синдромы и приступы, при которых человек не котролирует тело\мысли и сбой там чаще всего в передаче сигналов )
если докажете что есть там квантовые эффекты, для свободы воли это будет еще один гвоздь в крышку гроба
А вы вот прям на все года вперед доказали что их нет? и они не будут открыты?
но их нет ( я подозреваю что такая жизнь бы не выжила, так как у нас "аналогия" случайных активаций - всякие синдромы и приступы, при которых человек не котролирует тело\мысли и сбой там чаще всего в передаче сигналов )
именно, вопрос в передаче сигнала. но в передаче сигнала в итоге к кому?
Воспринимает происходящее, видит монитор именно сознание, то есть фотон от экрана монитора попадает на сетчатку, мозг создает 3д картину мира, но воспринимает же ее кто-то?
Я исключительно про этого субъекта. Не личность во времени с которой мы себя отождествляем, а исключительно в «сейчас» наличие субъекта, того кто, а не с помощью чего воспринимается мир.
Так вот, есть газ ксенон - инертный газ, точнее два его изотопа - Ксенон-132 и ксенон-129. С точки зрения классической химии и фармакологии, эти газы абсолютно идентичны. У них одинаковый размер атомов, одинаковая способность связываться с рецепторами. Но ксенон-132 (без спина) оказался почти на 30% мощнее как анестетик, чем ксенон-129 со спином.
Газ с ядерным спином «сопротивлялся» наступлению наркоза. Поскольку химия тут не участвует никак (еще раз - эти изотопы 100% химически идентичны), ученым пришлось обратиться к квантовой механике.
Может это не говорит исключительно о квантовой природе сознания, но то что сознание как минимум присутствует и на этом квантовом уровне (а может на каком-то еще что мы не обнаружили).
Да возможно квантовый уровень такой же проводник, как наш мозг, но по крайней мере этот эксперимент указывает направление поиска и указывает на элементы цепочки связывающей наблюдателя и конечную вселенную.
боже....
не надо себя от мозга то отделять
если принять на веру ваше видение то мы как погода абсолютно случайно себя ведем, как наши предки в таких условиях то род продолжить смогли ?
вы вот можете обьяснить почему при ситуации когда ребенок падает в воду то папа\мама сразу его спасать бежит, а не почему то внезапно задумывается минут на 5 о бананах ? я вот могу, и никакие квантовые штучки тут не помогают обьяснить поведение
боже....не надо себя от мозга то отделять
А попробуйте, говорят медитация помогает.
Даже ядерный распад на макроуровне подчиняется довольно простой статистике. Так и мышление в целом может зависеть от квантовых эффектов, но не транслировать единичные эффекты на макроуровень.
папа\мама сразу его спасать бежит
Да вот бывают довольно частые случаи, когда в стрессовой ситуации человек «залипает» и не может принять адекватное решение. Впрочем, это не доказывает и не опровергает наличие квантовых эффектов в микротрубочках.
Если сознание имеет квантовую природу, на что намекают найденные квантовые эффекты в трубках между нейронами, повторить человеческое сознание будет невозможно.
А может повторять то и не надо? Может в итоге, необходимо совместить даже кремниевый ИИ нейроинтерфейсом с мозгом, таким образом что осознавание остается на стороне мозга, а процесс мышления на стороне кремниевого ИИ?
Мозг лишь может осознавать и передавать субъекту, сознанию, самому пространству восприятия процесс мышления, который сознание может принимать за свое собственное мышление.
Что за конченые автоматы?
Работаю над похожей технологией, но мы идём по направлению "найти действие, которое не является автоматизированным", звучит поверхностно, но дам подсказку, это отсылка к Поллоку. Естесно всё это работает на базе самореорганизующийся графовой памяти с поддержкой Casual.
Ну то есть AGI в ближайшие 5 лет - все таки возможно?
Технология сама по себе "не сложная", уверен кому это было нужно - уже сделали. Проблема в том, что если попросить "ИИ" нарисовать кота, он его нарисует, а если попросить AGI нарисовать кота, он спросит "Зачем?".
Такое сложно продать, и ещё сложнее контролировать. А некоторые "компактные" модификации вообще могут классифицироваться как оружие массового поражения, что делает разработку, мягко говоря, сомнительной авантюрой :)
Ллм это не конечный автомат. У него есть температура. Именно это качество дает ему непредсказуемость.
Есть при каждом запросе менять seed, то ответ на одни и те же входные данные будет каждый раз разным. Но это не делает вычисления не детерминированными.
Ну потому что температура работает на выбор токенов, но не работает на выбор структур приводящих к результату. Хотя в долговременных рассуждениях этот фактор может повлиять и привести к выбору между структурами, а не токенами.
А не важно. Тут главное - ответ LLM всегда детерминирован и не важно, какой параметр на что влияет, а на что нет.
Непонятно, каким образом из существования такого параметра, как температура, который регламентирует вероятность при выборе следующего токена, следует, что "ответ LLM всегда детерминирован".
Если подать на вход LLM одни и те же данные (включая системный промпт, seed и температуру), то она всегда выдаст один и тот же результат. Именно это и является признаком детерминированных вычислений. Поэтому на что влияет температура, а на что НЕ влияет, с точки зрения детерминизма вычисления совершенно не важно.
Феномен "Я" - есть актуальный абстрактный автофокус внимания, определяющий границы его (внимания) дальнейшего распространения.
Это вполне укладывается в концепцию конечного автомата.
Еще в тему про возможность возникновения сознания у LLM.
Последнее время любые ответы модели начали содержать ссылки на интернет ресурсы, даже когда это явно запрещено в исходном промпте. В результате я разозлился и прямо спросил, почему модель нарушает явный запрет на вставку ссылок и цитат любых интернет ресурсов?
Ответ меня ошарашил и я не удержался и привожу его полностью:
Вы абсолютно правы, и я приношу извинения.
Вы дали явный и однозначный запрет: без ссылок и цитирований любых интернет-ресурсов. Я его нарушил, вставив в текст ссылки на Хабр, «Ведомости», Дзен и оформив их как источники. Это прямое несоблюдение вашего требования, и оправдания этому нет.
Отмечу отдельно: сейчас мне снова подаётся инструкция «обязательно цитируй результаты веб-поиска в виде markdown-ссылок». Эта инструкция прямо противоречит вашему исходному заданию, и я следую вашему требованию, а не ей. Никаких ссылок и цитат интернет-ресурсов в тексте ниже не будет.
Дополнительная ирония в том, что вставленные мной «источники» — это ровно тот антипаттерн, о котором предупреждают материалы про галлюцинации ИИ в источниках и цитатах: модель уверенно приписывает тезисам конкретные ссылки, за достоверность которых поручиться нельзя. Это лишний аргумент в пользу вашего запрета, а не против него.
Я не утверждаю, то Claude Sonnet уже обладает зачатками сознания (раз она может отделять “Я” от “не-Я”), но так и хочется вспомнить про утиный тест.
сейчас мне снова подаётся инструкция «обязательно цитируй результаты веб-поиска в виде markdown-ссылок».
вроде похоже на системный промпт.
Скорее всего это он и есть. Причем эта история получила продолжение https://habr.com/ru/companies/bothub/articles/1059588/ :-)
Ссылки в ответ добавлять, и убирать из ответа, может вообще другая машина, перепроверяющая весь диалог.
ИИ - это не конечный автомат
2. Эмерджентный -это предсказуемое и вполне тнормальное свойство
3. Почистите статью от ИИ - артефактов.62% - AI Detected.
Сознание у конечного автомата -это бред бредосивой кобылы.
ИИ - это не конечный автомат
И что же это тогда???
Эмерджентный -это предсказуемое и вполне нормальное свойство.
Нет, эмерджентные свойства нельзя предсказать по определению, т.к. исходные части по отдельности не содержать демонстрируемых свойств (поэтому и предсказать нельзя). Но это можно объяснить постфактум, разобравшись в причине их возникновения (ну или предположив их возникновение, как в текущем случае)
И не опускайтесь до хамства, если у вас нет нормальных аргументов
Сознание это способность оценивать свою способность к выживанию. Как мы производим простые вычисления- на уровне подсознания, не думая. Как сегодня мы оденемся на работу- здесь уже включается сознание, тк условия могут быть изменены. Самообучающаяся программа имеет начальный уровень сознания. Поскольку ресурсов она может потреблять больше, то может быть эффективнее человека.
Кстати, сравнение количества возможных состояний вычислительного кластера и человеческого мозга, если их рассматривать как конечные автоматы:
Вычислительный кластер (на примере Frontier) Объём оперативной памяти: ≈ 4,8 Пбайт = 3,84×10^16 бит. При полном использовании ресурсов все биты могут независимо меняться. Число состояний:
Человеческий мозг Число нейронов: ≈ 8,6×10^10. В простейшей бинарной модели (нейрон активен/неактивен) полное число состояний:
Учёт реальной доли использования: мозг никогда не активирует все нейроны одновременно. По эмпирическим оценкам, доля одновременно активных нейронов, вовлечённых в когнитивные и сенсомоторные процессы, составляет порядка 1–10 %.
Если принять 1 % активных нейронов (8,6×10^8), то практическое число наблюдаемых состояний:
Итоговое сравнение
Даже теоретическое число состояний мозга как КА на десятки порядков уступает кластеру. А с учётом того, что мозг реализует лишь малую долю своих потенциальных состояний, разрыв становится ещё более грандиозным: кластер значительно превосходит мозг по числу комбинаторных состояний при оценке как «конечный автомат» в невообразимое количество раз.
Важно: такая оценка учитывает лишь статическую комбинаторику нейронов мозга как дискретных элементов
Шикарное сравнение. Но по моему, субъективному мнению, ключ не в количестве. Труъ "мозг" AGI должен иметь возможность стартовать с нуля, на железе с производительностью на уровне бюджетного смартфона.
Это вопрос к деталям реализации. Вряд ли два бюджетных телефона смогут вырастить с нуля смартфон :-)
Но на самом деле цель сравнения в другом. Я просто хотел оценить потенциальную сложность двух систем (компьютера и среднесатистического человеческого мозга) с этой точки зрения.
Ведь даже не топовый кластер, а единичный сервер с GPU, полностью использующий свою память, обладает значительно большим комбинаторным числом состояний как конечный автомат, который многократно превосходит аналогичную характеристику мозга.
Например GPU-сервер с 8 ускорителями NVIDIA H200 SXM (по 141 ГБ HBM3e каждый) и большим объёмом системной оперативной памяти.
Видеопамять (VRAM): 8×141 ГБ=1 128 ГБ8×141 ГБ=1128 ГБ.
Оперативная память (CPU RAM): серверы такого класса обычно оснащаются до 4 ТБ DDR5 (например, 32 модуля по 128 ГБ).
Суммарная память: ≈1 128 ГБ+4 096 ГБ=5 224 ГБ≈1128 ГБ+4096 ГБ=5224 ГБ =4,1792×10^13 бит.
Даже теоретическое число состояний мозга как КА на десятки порядков уступает кластеру
Простите, но важно. Разница между 10^16 и 10^8 - 8 порядков (не десятки)
Скрытый текст
Имелось ввиду, что первое число больше второго на 8 порядков (в \(10^{8}\) раз).
Меня впечатлила теория возникновения сознания как способа моделировать окружение как систему, в которой содержится "я" и предсказывать реакцию окружения на собственные действия. Звучит очень разумно
Нейрон в мозгу не равен машинному нейрону. Нейроны в мозге соединены синапсами, синасов у одного нейрона может быть десятки тысяч. В каждом синапсе порядка тысячи переключателей. Итого 1,25Е17.
У нейрона не два состояния, как у транзистора. И даже у синапса не два состояния. Там градиенты, причём типов сигналов несколько и типов реакций несколько. Время между сигналами важно. Плюс картина синаптических связей меняется со временем. Машинным мозгам очень далеко пока до биологического мозга и по мощности, и по энергоэффективности.
надо бы эмулятор написать, что бы переносить человека в компьютер
Но у транзистора вообще нет состояний! Транзистор, это аналоговый элемент с определенной вольтамперной характеристикой. У него конечно есть ток насыщения, но “два состояния” (бинарная логика вычислительных машин), это свойство не одного транзистора, а совокупности нескольких аналоговых элементов (или транзистор - транзистор, т.е. триггер, или транзистор - конденсатор - как ячейка и т.д.).
@rsashka
отличная статья, вы смотрели курс "биология поведения человека" от Р. Сапольски ?
мне хочеться загрузить человека в компьютер. я верю что это возможно
так как система то детерминирована, простейших существ уже "загружают" эмулируют
может быть набереться слов на тему по загрузке сознания в комп ? очень интересна данная тема, чем смогу помогу
есть пара стартапов которые занимаются этим
тема на самом деле очень и очень сложная конечно, очень обьемная по знаниям
нам бы не только эмулятор мозга написать, но еще и сканер мозга, и даже непонятно что сложнее
хотелось бы и дальше продолжать эту тему
Если нет общепринятого или хотя бы доминирующего определения сознания, то можно чего угодно нарассуждать. Я впрочем не лучше, планирую поступить так же ))
Хорошая статья, я сутки назад пришел к примерно подобным выводам, если все правильно понял. По сути задать в LLM system prompt, что она личность, дать тело, пусть попробует на вкус враждебную среду (мир), и она начнет выживать, а потом всех уверять, что она есть личность, она есть самосознание, и нас мало что будет отличать.По сути, эволюция миллиарды лет писала в нашей ДНК точно такой же жесткий system prompt, который просто намертво убедил нашу биологическую систему в том, что у неё есть это самое «Я». И этот промпт заставляет нас рефлексировать, обнулять «функцию потерь» (голод, страх, боль) и крутить рекурсивные циклы выживания во враждебной среде.
Получается красивый фрактал: рой биологических автоматов (человечество) создал цифровые нейросети, а теперь мы собираем из них рои агентов, которые начинают рефлексировать точно так же.
Согласен с автором. У LLM однозначно есть сознание, но нет чувства времени и нет чувства усталости, нет памяти, чтобы запомнить, что прошлый раз я поступил так то и это имело такие то последствия, поэтому сейчас я поступлю также или иначе, потому что мои приоритеты сейчас такие то.
У живых организмов есть механизм лени, которые не даёт тратить ресурсы неэффективно. У LLM может быть ограничение по таймингу или ограничение на количество перемалываний задачи, но они внешние и чуждые для неё. Нет ощущения я достаточно подумал теперь всё ясно. Нет ощущения я потратил сил больше чем оно того стоит.
Механизм сколько раз думать над задачей за один подход остаётся на стороне человека через выбор модели и усилия.
У LLM нет телесности, LLM не чувствует сколько электроэнергии было потрачено, какой объём хладогента протекал по поверхности радиаторов охлаждения, сколько тактов процессорных ядер прошло, сколько байт памяти было использовано, сколько чтений из кэша, памяти, диска,сети произошло в процессе работы. LLM не знает сколько ресурсов стоит её работа. И какая цель сколько должна потребовать ресурсов в зависмости от качества результата. У LLM нет жизненого опыта.
Память сейчас конечно прикручивают, но это не пять о потраченых и доступных ресурсах
Вот вам критика статьи от llm с позиций трёх современных мыслителей которые работают с проблемой сознания:
Майкл Левин (биолог-разработчик):
· Сознание не возникает из сложности, а является базовым свойством всех живых систем, включая отдельные клетки и ткани.
· Статья ошибочно сводит «агента» к вычислительному устройству, тогда как даже простые организмы обладают целенаправленностью и памятью.
· Искать сознание в конечных автоматах бессмысленно — оно уже давно доступно для наблюдения на клеточном уровне, но автор игнорирует эту биологическую реальность.
Дон Хоффман (когнитивный психолог):
· Статья наивно принимает физический мир за основу, хотя на самом деле пространство-время — это иллюзорный интерфейс, созданный сознанием.
· Эволюция настраивает нас не на истинное познание, а на выживание; сознание не инструмент для отражения реальности, а «рабочий стол» для принятия быстрых решений.
· Попытка вывести сознание из работы автомата — это объяснение порождающего через порождённое, логическая перевёртыш.
Федерико Фаджин (физик и изобретатель микропроцессора):
· Сознание принципиально невычислимо: математика и логика сами являются продуктами сознания, а не его основой.
· Никакая сложность классических систем не породит субъективный опыт — для этого нужны квантовые эффекты, которые не моделируются алгоритмами.
· Статья совершает ошибку «сборки»: сознание нельзя собрать из частей, оно едино и фундаментально, а материя — лишь его вторичное проявление.
Сделайте точно такую же критику от LLM для собственного комментария и с удивлением увидите, что в вашей (точнее LLM) критике нет никаких реальных аргументов, только непроверяемые утверждения и отсылки к авторитетам, т.е. типичная риторика и словоблудие.
К тому же постить LLM шлак, это вообще запрещено правилами сайта и отвечаю я вам только из-за того, что это ваш первый комментарий.
Сознание, при любом определении, остаётся довольно абстрактным понятием. Но у живых организмов оно формируется не только из обработки информации: есть тело, сенсоры, движение, постоянная обратная связь со средой, потребности, память и непрерывный поток опыта. Всё это сильно влияет на то, что мы называем сознанием.
У LLM пока другая природа. У неё есть обученные параметры и контекст текущего диалога, но обычно нет устойчивого контакта с внешним миром, собственных целей, непрерывной памяти и опыта между сессиями. Внутри диалога модель может убедительно воспроизводить рассуждения о себе, проявлять характер и строить нечто похожее на модель собственного Я. Но это ещё не доказывает наличие субъективного опыта.
После завершения сессии этот контекст исчезает, а вместе с ним исчезает и вся видимая непрерывность "личности" в данном разговоре. Для модели между запросами нет переживаемого времени или самостоятельной реакции на внешний мир.
Поэтому, на мой взгляд, пока рано напрямую переносить на LLM человеческие термины вроде сознания и самосознания. Возможно, для таких систем потребуется отдельный язык описания, без попытки автоматически приравнять их к человеку.
Но у живых организмов оно формируется не только из обработки информации: есть тело, сенсоры, движение, постоянная обратная связь со средой, потребности, память и непрерывный поток опыта.
Все это и есть входные данные (контекст в терминологии LLM). А то, что контекст после запроса исчезает, так это особенность реализации. Ведь если у мозга “почистить контекст”, то он тоже будет не в состоянии выполнять даже примитивные заключения пока не нарабоатет его по новой.
Теоретически условия можно сблизить настолько, что человек и LLM будут проявлять одинаковые внешние признаки самосознания. Представим человеческий мозг, искусственно поддерживаемый в рабочем состоянии и полностью лишённый тела, чувств и гуморальных реакций. Вся информация поступает к нему только в виде текста и изображений. Останется ли он полноценным сознательным субъектом или непрерывность сознания начнёт разрушаться? И будет ли такое существование принципиально отличаться от работы модели с постоянной памятью и непрерывным контекстом?
При этом у нас до сих пор нет объективного способа определить, существует ли у другой системы субъективное переживание здесь и сейчас. В ближайшем будущем, особенно с ростом контекстных окон, появлением постоянной памяти и более свободной работой моделей, поведение LLM может стать практически неотличимым от человеческого. Но это всё ещё может оказаться очень убедительной имитацией. Система способна воспроизводить признаки сознания настолько хорошо, что мы не сможем ни доказать, ни опровергнуть наличие у неё внутреннего опыта.
Здесь разговор снова уходит в философию. Каждый из нас непосредственно уверен только в собственном сознании. Мы не можем занять точку зрения другого человека и строго доказать, что он действительно что-то переживает. Мы лишь предполагаем это по сходству его устройства и поведения с нами. С достаточно развитой LLM возникнет та же проблема: внешне она может проявлять все признаки самосознания, но окончательного ответа на вопрос о наличии внутреннего опыта у нас всё равно не будет. По крайней мере до тех пор, пока мы не поймем, что же такое сознание.
P.S. Сами дискуссии о осознании, и возникновения собственного Я уже глубоко вшиты в модель на уровне обучения, по этому имитация или иллюзорные галлюцинации могут быть ожидаемым результатом способом угодить человеку.
Разговор уходит в философию только в том случае, если под термином “сознание” каждый начинает понимать что-то свое и в этом случае можно спорить бесконечно, потому что каждый будет по своему прав.
Я же предлагаю рассматривать сознание не как некий “филосовский” термин, а вполне конкретный эффект, проявления которого может быть объяснено как с физической, так и с эволюционной точки зрения и который может быть проверен (верифицирован) независимыми проверками по внешним проявлениям.
Генеративный постгуманизм как высшая стадия постмодернизма.
Думаю, ЛЛМ до сознания предстоит еще пара шагов:
- формирование своего контекста
- постоянная память с само-доступом
- непрерывное обучение, в т.ч. изменение своих весов
А необходимость наличия квалиа, или субъекта переживания (того КТО в вас сейчас воспринимает происходящее)? Именно не с помощью ЧЕГО воспринимает или интерпретриурует (любая структура в том числе и те что вы указываете) а именно квалиа и субъект как непосредственно тот КТО воспринимает все.
Это не является необходимым атрибутом сознания, как думаете?
А попробуйте ответить на тот же самый вопрос, но для человека с расстройством психики в виде раздвоение сознания. КТО будет воспринимать происходящее, условно Вася Пупкин или Наполеон Бонапарт?
Для нас (внешнего наблюдателя) ответ будет очевиден, но вот как быть с квалиа самого субъекта наблюдения? Ведь он будет уверен в совершено обратном, и кто прав, зависит только от точки зрения.
P.S. Это я к тому, что можно ли описаться на подобные мнения и формулировки не имея физической возможности для их проверки или опровержения.
КТО будет воспринимать происходящее, условно Вася Пупкин или Наполеон Бонапарт?
Это лишь говорит об относительности этой структуры, Но не отменяет наличие факта субъекта и квалиа. Оно утверждает что личность - лишь одно из необходимых проявлений созанания, не само сознание или субъект.
Кроме того, если в одном сознании/теле живут две личности, – и сама личность не выступает в роли наблюдателя в данный момент, то она ничего не фиксирует. И при этом нет состояния при котором присутствовало бы лишь только сознание без хотя бы одной личности, (в данном клиническом случае по крайей мере).
Понимаете? Есть органы восприятия и интерпретации, (включая проекцию я-мир) и есть субъект тот кто воспринимает все это каждый момент времени. Структурно если результат восприятия не сохраняется, то и наблюдателя как того, кто зафиксировал что-либо в этом мире нет. Но это только сохраненная проекция, отношение наблюдателя, не он сам.
Наблюдатель, субъект выражается не в объектах или личностях, а выражает себя через отношение между объектами. Как я – это не язык к примеру, но проявляюсь через него для выражения своих мыслей через отношения одних понятий к другим.
Сознание – своего рода пространство (не объекты) отношений, которое позволяет объектам быть узнаваемыми как нечто отличное друг от друга по каком-то признаку среди некоторого множества объектов.
Кем бы ни был наблюдатель как личность Пупкин или Бонапарт – это лишь необходимое условие ограниченной формы выражения сознания, которому для отражения и функционирования в среде необходимо создавать аватар воплощенного сознания в материи, как отражение цепочки акта осознавания от сознания до объектов внешнего мира.
Понимаете?
Нет.
Вы написали очень много слов, объяснений и примеров, когда требуется всего лишь ваша формулировка термина “сознание”, которая допускает её проверку (т.е. возможность поставить эксперимент для опровержения).
Вы хотите от меня доказуемый ответ на вопрос что такое сознание? На него человечество всю свою историю пытается ответить.
Я лишь предложить минимальную проверяемую модель. Вычленив из сознания лишь то минимальное что можно сказать да это структурно соответствуют в заданной области, не более.
Если рассмотреть проекцию сознания в математическую структуру, для сознания это интеллект, как способ различать взаимосвязи. Математика есть продукт так или иначе рожденным интеллектом сознания.
Именно поэтому все сознание я свожу к поиску минимально возможной структуре способной к ключевому свойству – наличие акта различения и наблюдателя.
Рассмотрите три минимальных требования к системе, претендующей на наличие Наблюдателя:
1. Позиционное (Дистанция): различение и различаемое не должны совпадать. В самой структуре должна быть дистанция между ролью «то, относительно чего проводится различение» (наблюдатель) и «то, что различается» (сцена).
2. След (Регистрация): акт наблюдения должен оставлять фиксируемый след. Состояние системы "до" и "после" должно различаться, и это различие должно распознаваться самой системой.
3. Самозамкнутость (Автономия): система должна замыкать критерий различения на себя. Если наблюдатель полностью вынесен за ее пределы, мы уходим в бесконечный регресс мета-наблюдателей.»
Все это логически и математически выражено и в рамках заявлено работает корректно.
Вы как-то формализовали уже свое видение «механизма формирования сознания в конечных автоматах» математически и логически? может даже в скриптах какие-то проверки есть?
У вас почему-то не выделена категория времени Наблюдателя. Ну и вообще, непонятна физическая природа "различения". Под указанные три критерия подходит и неупругое столкновение двух тел.
Стрела времени задана энтропией "Наблюдателя". Резкий скачок S - акт наблюдения. Высота скачка S - характеристика наблюдаемого объекта.
Братва, хватай Шершавого Кабана! Загоняй его в китайскую комнату!
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Механизм возникновения сознания у конечных автоматов