Комментарии 20
010 Первая снисходительная строка
020 Вторая снисходительная строка
030 GOTO 010
С новым годом :)
Материя – первична, сознание – вторично.
Закон сей философский, на деле очень любит проверять моя жена:
Материю она сначала купит, а после думает – зачем она нужна.
(с) не помню кто
Я пока что верю Пенроузу, что сознание к алгоритму несводимо. Так что надежды на то, что в DL-сетях (неважно, каких именно, необязательно LLM) зародится сознание, для меня нет никакой.
А сводимо ли поведение физического объекта к алгоритму согласно Пенроузу?
Ну, по Пенроузу просто надо использовать какие то квантовые эффекты чтоб было сознание, так ведь? И что мешает использовать квантовые эффекты в нейронных сетях?
Да, но поскольку у нейронки внутри нет ничего кроме регрессии плюс куча процедурных и структурных эвристик, придется сначала придумать, что такое квантовая регрессия или что-то в этом роде.
Не, ну может какие то квантовые эффекты просто ответственны за передачу сигналов между нейронами. Я не знаю, пока что мне кажется что сторонники участия квантовых эффектов в формировании сознания сами толком не понимают о каких квантовых эффектах они говорят и за что именно эти эффекты отвечают. Такое ощущение что слова "квантовый эффект" используются как синоним "какая то хрень"
В качестве тизера дополнительно сообщу, что в этой тетралогии подробно разбирается вопрос о том, существует ли писатель Виктор Пелевин в т.н. реальной жизни.
Так существует? А то в iPhuck 10 вроде от имени алгоритма он популярно пояснил что пишет всегда одно и тоже, но по разному.
Автор то "ржал как помешанный", то "бешено хохотал как Паниковский перед гирями".
В итоге вышла статья о том, "как правильно завязывать шнурки, чтобы не наступить на них, не упасть и не расквасить себе нос"
На мой субъективный взгляд понятие сознания не очень строго определено, и со временем оно будет замыленно так-же как и тест Тьюринга. Формально LLM могут пройти тест Тюринга, но до AGI им далеко. И не всякую рутину им поручить можно. То есть прохождение теста Тьюринга не стало важным рубежом.
Так вот, интеллект человека, который многие изучают, и мечтают превзойти создав, AGI является по сути побочной функцией системы управления телом прямоходящей обезъяны. На мой взгляд интеллект это очень хорошо развитое ствойство анализировать мир вокруг, строить его модель и использовать эту модель чтобы решать прикладные задачи. Изначально это нужно было чтобы обеспечивать выживаемость и размножение носителя, но шагнуло далеко вперед, научившись строить и понимать очень сложные модели мира и создавать всякое разное начиная от техники и заканчивая искусством. Так вот, сознание т.е. умение опознавать себя это важное свойство этого интеллекта обусловленное тем что интеллект жестко привязан к телу его носителя и является по сути одной из функций системы управления носителем. Я бы даже сказал что сознание в примитивной форме появилось раньше человеческого интеллекта. А вот вновь созданный AGI может превзойти человека в любой задаче обработки и структурирования информации (т.е. в любой интеллектуальной работе) но обходится без сознания потому чо программе запущенной на серверах этого не надо.
вот это и есть центральная исследовательская метафора Пелевина в этой вселенной - тело носителя уже сформированного сознания и окружающий мир заменяются симуляцией, да не одной, а любой, практически, можно быть кошечкой или даже динозавром в мезозое и в фоне немножко помнить себя до банки, эта метафора и делает этот текст интересным и разнообразным для меня.
Кстати, о недопределенности понятия сознания не могу согласиться полностью. Что касается биологии и психологии, то да, разговоры о сознании - это просто необязательная болтовня. Гораздо интереснее метафизические построения Мамардашвили и Пятигорского в книжке "Символ и сознание", они там очень интересно объясняют, как вообще можно говорить о сознании. Очень просветляет, рекомендую
Ох ты ж блин.
Пелевин не гениальный провидец, а гениальный конъюктурщик. В свох произведениях он талантливо обрабатывает то, что уже на слуху.
Что такое "сознание":
Сознание, это функция разрешения ситуаций (не важно, это внутренний конфликт или внешний) на основе информации извне (актуальная информация от систем восприятия, вроде зрения и слуха) и внутренней (т. н. картины мира), путём выбора поведенческой стратегии (лежать и дальше на диване, пойти помыть посуду, завести будильник и лечь спать). Это не алгоритм, даже если сознание - примитивное, а именно сумматор, к которому сходятся результаты работы отделов обобщающих информацию (информация это результат взаимодействия материального с материальным) от разных органов (затылочные доли - информацию от глаз, и так далее) и результатом работы сумматора становятся решения, передаваемые исполнительным органам, вроде моторной коры, или внутренним структурам воспитанным самим сознанием (некоторые сочиняют музыку в голове при помощи таких структур).
Осознание, это регистрация сознанием результатов своей деятельности. Осознание может быть по короткой обратной связи, когда регистрируется принятое решение, и по длинной обратной сети, когда решение уже реализуется (мы приняли решение идти в магазин и регистрируем что уже идём в магазин)
Самосознание, это регистрация сознанием своей деятельности. Короче этой обратной связи ничего нет. Занятость сознания разрешением ситуации тут же обнаруживается.
Подсознательные процессы, как понятно из названия, протекают без регистрации сознанием, например - распознавание голоса или изображения.
Ещё раз о великой границе между материей и сознанием