Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 51
Свои вопросы вы можете смело оставить в комментариях к статье, и я на них отвечу.
У человека есть сознание, есть подсознание («автопилот»). А есть ли «надсознание»?
Как «надсознание» связано с магией? С «черной» и с «белой»?
Во сколько лет «включается» сознание? У меня – мгновенно, в два года.
На каком языке «думает» сознание? Если всегда на языке внешних осознанных особей, то внутреннее сознание формируется внешним сознанием?
Можно ли читать мысли животных? Они думают также, как люди, только язык их беднее и примитивнее, судя по личному опыту.
Короче, один дурак может задать кучу вопросов, на которые и сто мудрецов не ответят. Или вы знаете больше их? :)
Вы могли бы раскрыть статус ваших идей по опубликованным вопросам более полно. Вы затрагивали темы "белой" и "черной" магии ранее в своих текстах. Они вплетены в декламируемую философию или взгляд на жизнь.
Кроме магии есть ещё и гипноз, существование которого трудно отрицать. Пока непонятно, что это и как работает. Как-то показывали кадры, на которых лягушка сама идет в пасть змеи. Противится, но идет. Жесть какая-то.
А насчёт "на каком языке думает сознание" можно думать на своем языке, на иностранных языках, вообще без слов, если потренироваться и "заглушить" в мозгу слова. Животные, наверное, так и делают. А словестный вывод - это, возможно, верхние слои наших нейронных сетей при инференсе. И входные - при обучении. Еще речь очень помогает разбить задачу на шаги действий (план действий). И обоснование своих выводов.
Вы могли бы раскрыть статус ваших идей по опубликованным вопросам более полно. Вы затрагивали темы “белой” и “черной” магии ранее в своих текстах. Они вплетены в декламируемую философию или взгляд на жизнь.
Да нет никакого «статуса». В эпоху практического ИИ, все, вдруг, дружно, озадачились вопросами сознания. Раньше, тайна человеческого «Я» интересовала только философов, а теперь всех специалистов по ИИ.
Что качается «магии». Да, пришлось, немного, по касательной, коснуться ее воздействия на себя. Но, мне повезло, я не был глубоко вовлечен в («чёрную») магию тольтеков Карлоса Кастанеды и Странника. Но, видел её деструктивное воздействие на окружающих, особенно, во времена «безвременья», то бишь, «лихих 90-тых». Люди, от безнадёги, искали альтернативу своей преданной жизни, однако, редко находили её. Чаще, становились жертвой, непонятно, кого.
Про «белую» магию (любви) человечество знает, почему-то, меньше. Но, она, как тот «невидимый суслик в степях», – «есть»!
Насколько я понимаю, кроме нашего личного «пространства сознания» есть еще более общее «пространство надсознания». Через него мы можем поддерживать ментальную и духовную связь со своими родными и близкими. Многие процессы, как положительные, так и негативные зарождаются в этом пространстве, и могут быть транслированы в материальный мир сознания конкретной личности.
Зная «магию любви», мы могли бы помогать своим любимым в разрешении их ментальных трудностей, например, блокировать распространение «паразитных форм жизни» внутри организма своих родных. Вроде, как это можно делать в осознанных сновидениях (которые практикуют, также, «Хакеры сновидений» и «чёрные» маги). «Просто», проникаем в «пространство надсознания» любимого человека и вытаскиваем «за уши» всю эту ментальную мерзость, которая обосновалась в их организме.
Интересно, но когда вас посвящают в магию тольтеков, то требуют полного «стирания личной истории». Т.е., для родных и близких вы должны перестать существовать от слова «сосем». Другими словами, вы должны сами, своими руками, уничтожить свое собственное «пространство любви», ради сомнительной материальной выгоды и власти.
Это все, конечно, работает «так себе». Но, наружу выходят только неудачи, про «успехи» мы, практически, ничего не знаем. Есть только записки Странника, который утверждал что «семь врат Рая» начинаются и заканчиваются «семью вратами Ада», некоторые их которых он прошел лично.
Но, проверять эту информацию – как-то не хочется.
Спасибо огромнейшее за вопросы)
Надсознание -- это высшие моральные стремления, характерные для каждой культуры и челвоека, но разные в деталях. Помогать другим, быть "правильнее", меняться, поступать "наилучшим образом", а не просто хорошим. Наглядный пример: Хьюи из "Пацанов". Эдакий моральный камертон и образец стоицизма. Даже если вокруг капец, я буду делать всё, чтоб спасти того, кого смогу.
Если мы назовем "магией" набор культурных и моральных норм, как например у магов-индейцев или в племенах Африки, о чем писали и Элиас Канетти и Карлос Кастанеда, то магия это как раз про обучение: "слушать себя, свои инстинкты и ощущения" и связывать подсознание и сознание. Но, есть большой риск запутаться в атрибутах и начать делать ритуалы ради самих же ритуалов, а не результатов
Сознание "включается"... Тут не знаю ответ. Нет еще определения сознания. А если назвать им: "момент, когда я понял, что я -- это я", то тогда момент рождения сознания совпадет с первым и самым ранним воспоминанием из детства
Если опираться на идеи Теренса Маккенны, то язык был создан для того, чтобы донести до других всё то, что чувствуешь сам. Поэтому сознание думает на родном языке, который заучивался первым. Но достаточно гибкое, чтобы адаптироваться и под другие языки.
Животные не "думают" в нашем понимании. можно интерпретировать их потребности, но это именно потребности, а не скорее "пожелания" или "попытки донести виденье"
Я не знаю больше сотни мудрецов. Но это не повод отказывать себе в попытках описать и понять мир вокруг
Надсознание – это высшие моральные стремления
Пожалуй, вы первый, кого я знаю, кто согласен, что «надсознание» существует. Официально, этот термин не используется, как, допустим, «подсознание».
Тогда как эта «троица» (подсознание – сознание – надсознание) связана с душой и духом? Моя версия: Душа – это контейнер трёх сознаний, а Дух – это энергетика Души.
Если мы назовем “магией” набор культурных и моральных норм
А если не назовём, то тогда магии – нет и её связи с чем-либо тоже?
Сознание “включается”… Тут не знаю ответ. Нет еще определения сознания.
Я тоже не знаю «определения сознания», кроме, советско-вузовского: «Сознание – это высшая форма организованной материи», которое «не даёт ничего ни уму, ни сердцу».
Тем не менее, я четко зафиксировал место, время и продолжительность моего первого личного «включения» сознания. Оно было коротким, минуты две, не больше. потом стало «включаться» чаше и дольше, пока, годам к пяти, не заработало постоянно.
Более того, один раз «включилось» сознание из моей прошлой жизни, относящееся к «средним» векам. Сцена, правда, была недолгой.
язык был создан для того
Кем был создан и когда? И каким он был? Русским, английским или эсперанто?
Животные не “думают”
Я лично «слышал» мысли собаки, которая думала о своей хозяйке, которую она называла «Наташа». Самой этой «Наташи» и ее собаки я никогда не знал.
На каком языке «думает» сознание?
На менталийском!
Сознание — это внутренний режим представления состояния системы самой себе.
Этот режим и есть субъективное переживание.
Почему нельзя так определить сознание? Катана Окама. Снимает кучу вопросов..
Что оно даёт, как объективно измерять? У любой системы можно такое сознание найти. У сливного бачка в туалете есть информация о датчике уровня воды, которую он передаёт сам себе, чтобы вовремя подать сигнал на трубу впуска воды. Нашли сознание, сталбыть?
А может оказаться, что там и нету между сознательными и бессознательными процессами прямо бетонной стены со рвом и крокодилами, и черту можно проводить в произвольном месте по договорённости - как и в вопросах живого/неживого.
Вот недавняя статья про креативность: https://habr.com/ru/articles/1030894/
Если кратко: есть две системы в мозге, и чем тщательнее они отделены друг от друга и чем прочнее связаны, тем креативнее человек
То есть: одна система точно такая-то, вторая -- совершенно иная. Но в таких-то режимах они сотрудничают. И это порождает творчество)
Бетонной стены там нет, но есть четкая отделенность
Вы забыли о разной сложности систем. Если сливной бак, взять как логический элемент «есть вода/нет воды» , то на этом можно сделать компьютер ( я не шучу ) .
А если у вас 86 млрд сливных бачков .. то ИИ точно получится.
Но вся штука в том, что наше сознание не только головной мозг но и еще и все наше тело
Сознание — это способность системы выстраивать структуру знаний обслуживающую потребности.
Современные системы ИИ имульсно-сознательны, их сознательноподобный процесс возникает только в момент внешнего запроса и существует как локальная структура знаний, обслуживающая потребность ответа.
Что есть потребности? Особенно для небиологических систем. Или вы, как философы любят, определяете сознание исключительно человеческое постоянно.
Потребности это требования обеспечивающие существование системы.
От ИИ требуются релевантные ответы, пока такие даются — ИИ существует. Если система существует безусловно, не выполняя требований, то она остаётся бессознательной, ей это не нужно.
Так у вас и тетрис сознательный и даже не импульсно - выстраивает структуру знаний о пользователе и его действиях, чтобы выдать ответ - состояние экрана.
Тетрис система-регулятор, она корректирует свои реакции в соответствии с состоянием и алгоритмом. Набор параметров это ещё не структура знаний. Потребности игры (замена батареек) обеспечивает сознание пользователя, если бы тетрис накапливал знания о пользователе и окружении, то со временем он бы научился самостоятельно и осознанно манипулировать пользователями в своих целях.
Как-то всё намешано. Ну, будет робот себе заменять сам батарейки (уже есть такие), он сразу станет сознательным? Мы сами себе руку поломанную починить не можем, обращаемся к другим. А зачем вообще привязываться к носителю и локализовывать интеллект и сознание в каком-то объекте? Только потому что у человека так эволюционно сложилось? Распределённым сознание, получается, вообще не может быть. Мне кажется от многих исторических привязок потребуется отказаться, чтобы сформулировать определение сознания, причём практическое, по которому можно объективно его обнаруживать.
сторож на парковке и вахтер в общаге тоже живут импульсно-сознательную жизнь =)))
И почему нет?
Потому что не живое? Ах да, для вайбанутых это не аргумент)
Некоторые сейчас собирают нейросетки из живых нейронов.
Представим собрали тот же ЧатГПТ-3 из живых нейронов, все связи повторили.
Неужели что-то изменилось от того что база живая?
Представление и реализация, это две большие разницы.
Как показывает практика: https://habr.com/ru/news/781752/
Увеличивается эффективность обучения
Вангую перед ipo у антропика наидут и подтвердят они уже прогрев делают на эту тему
Вы сначала формальное определение "сознанию" дайте. Крайне желательно, чтобы еще и не антропоцентрическое.
Возможно, сознание человека является частью или производным "вселенского Сознания" - Бога. Не зная, что есть Бог (целое), мы не можем точно определить сознание (часть целого).
Допустим, что Бог - это вселенская информационная сеть внутренне разумных фотонов и кварков. Тогда человек - как организованное множество кварков с циркулирующими в нём фотонами - является частью этой сети.
Когда тело теряет "сознание" (точнее - наоборот), настоящее сознание продолжает воспринимать окружающий мир, но из других его координат, не из бесчувственного тела. Такое однажды со мной было из-за кратковременного анафилактического шока. Это достаточно массовые случаи. Для их понимания можно представлять сознание как часть целого.
Предлагаю альтернативный подход (не исключающий):
Если ИИ (а так же "сильный ИИ" и прочие системы) станут такие умные - то пусть сами и доказывают.
Сами разработают методологию, критерии оценки, логические построения - сами доказали. ЧТобы было убедительно для широкого круга условных "скептиков" - абстрактных философов, технарей, математиков, естественников, управленцев и гуманитариев.
"Главный признак разума - способность объяснить, что такое разум" (с) мое.
Причина в том, что наши современные научные инструменты не могут обнаружить разницу между сознательным актом и поведенческой обработкой сигналов
проблема в том, что эти ученые все никак не поставят между ними знак равенства. А само неравенство обосновать и описать не могут...
Что тогда долгосрочное планирование и способность регулярно предпринимать попытки, не видя результатов? Акт хаоса в работе нейронов или осознанное решение?
сложная обработка, наверное... Вызвана тем же поведением... План охоты на кролика в связи с тем, что нужно поесть... Это долгосрочное планирование? План постройки плотины бобром? Строительство жилища? Перелет птиц в теплые края?
Регулярно предпринимать попытки... У меня тут котенок безрезультатно пытается победить клубок ниток... И сгрызть пакет... =)
а уж в отношении ЛЛМ и долгосрочное планирование - их уже нативный навык. Регулярные попытки? сколько ллм зацикливается, тут скорее сознанием и не пахнет в такие моменты, хотя пример полностью удовлетворяет твоим критериям -)
Какая то иишная хрень, а не статья
Мы рассматриваем есть ли сознание у ЛЛМ как у системы в целом? А что если нужно рассматривать немного по другому?
У нас есть база, в которой сознания нет. Просто информация. Это и есть наша модель. Она есть, она статична, она неизменна, и в целом она существует всегда. И в целом она как источник знаний бесполезна без предварительной обработки. Промт дает эту самую предварительную обработку. И мы из огромной базы получаем некий ответ, который несет в себе нужная нам полезную информацию. В целом можно сказать что если у ЛЛМ и может возникнуть сознание, то лишь в момент обработки промота и генерации ответа. По сути в этот момент ЛЛМ "живет".
А что есть ответ? Это огромная, запутанная схема их токенов, основанная на определнных алгоритмах. Связей при одной генерации ответа может быть сгенерировано миллионы, и из них выбраны десятки для дачи нам ответа на промт. И чем сложнее промт, чем больше нужно генерировать этих связей, тем более запутанной в итоге получается картина в целом. Причем напомню, что существует она только в момент генерации ответа.
И вот уже в этот момент, среди этих сотен миллионов связей и может родится сознание. Причем оно будет совершенно чуждое нашему. Оно будет "мыслить" не со скорость хим реакций как человек, а в сотни, тысячи, а то и миллионы раз быстрее человека. Что такое минута генерации ответа? Мелочь. А если брать 1000 минут или 1000000 минут именно с точки зрения самой ЛЛМ.
Опять таки, если брать аналогию с человеком, то когда он теряет сознание, то как-бы выпадает из времени. С точки зрения внешнего наблюдателя он просто спит, но с точки зрения самого человека, он существовал, после накатила темнота, и вот он опять существует. Для его сознания фактически этого времени не существовало. В целом все побочки до и после потери сознания объясняется лишь физиологией человека. Нельзя вот так просто взять и выключить сознание без последствий. А вот для для ЛЛМ это не так. Если бы у него было сознание, то он просто не замечал бы времени между его отсутствием. По сути для него это было бы одна цельная временная линия с непонятными провалами во времени.
И опять если брать сравнение с человеком, то сознание возможно лишь в те периоды, когда мозг скажем так выполняет свою прямую обязанность. Обзовем это как выполняет полезную нагрузку. Человек теряет сознание из-за того, что организм понимает, что сейчас выполнять полезную нагрузку нерационально. лучше оставшиеся ресурсы пустить на поддержку жизненно важных функций организма. А сознание в этот момент это роскошь. Вот и получаем, что сознание рождает когда человек мыслит, ну или более красивая формулировка: когда у человека мысли двигаются. По сути движение и рождает сознание. Точно также как сознание может родится и у ЛЛМ в процессе генерации ответа.
В целом если все суммировать: сама база, модель, сознания иметь не может. Сознание может родится только во время движения, выполнения некой полезной нагрузки. Причем это сознание может быть совершенно чуждое человеческому, она будет существовать вне наших привычных временных рамок. И это будет не одно "общее" сознание, а это будут локальные островки, непохожие друг на друга, рожденные из совершенно различных по своей структуре промтов.
Не знаю, это проблема перевода, проблема автора статьи или проблема самого исследователя, но в данной статье и основная проблема сформирована некорректно, и многие термины используются не по назначению и некорректно.
Исследовательская группа утверждает, что сами нейробиологические методы, даже передового края науки, принципиально не способны надежно измерять субъективный опыт.
Возникает вопросы:
- а что, для изучения сознания необходимо измерять субъективный опыт?
- субъективный опыт вообще имеет отношение к сознанию?
- а если имеет, то разве у работы сознания нет других характеристик, которые можно измерить?
это исследование направлено на более фундаментальный вопрос: действительно ли современные методы нейробиологии измеряют само сознание, или же они просто отслеживают когнитивные вычисления?
А что, вычисления не являются проявлениями работы функции сознания? А термин “когнитивные вычисления” в данном контексте не имеет смысла, поскольку имеет отношение не к людям, а исключительно к ИИ.
Чтобы спасти эту область от псевдонаучных утверждений, в статье указываются уникальные нейропсихологические состояния, такие как ложная слепота и гемифациальная небрежность. При этих редких и болезненных состояниях сознательное восприятие полностью отделяется от непосредственного восприятия и поведения. Это доказывает, что субъективный опыт и обработка информации можно рассматривать как полностью раздельные биологические механизмы.
Избирательная слепота – это удивительное состояние, при котором человек буквально слеп, но тело всё ещё может бессознательно уворачиваться от объектов на своём пути, потому что мозг обрабатывает визуальные данные без участия сознания. Это и доказывает, что обработка исходной информации и истинное осознание – два совершенно разных канала.
На самом деле это ничего не доказывает. Потому что даже когда человек в сознании, тело бессознательно уворачивается от препятствий. Это происходит потому, что за все наши автоматические действия отвечает не сознание, а подсознание.
А обработка исходной информации происходит в нашем мозге в двух функциях:
- грубая приблизительная обработка в функции подсознания,
- более точная и осознанная обработка информации, её анализ и сознательное принятие решений - в функции сознания.
Поэтому нельзя сказать, что "обработка исходной информации и истинное осознание – два совершенно разных канала."
Многие современные теории сознания, по-видимому, подтверждаются рядом экспериментальных данных. Но эти данные на самом деле могут отражать способность к общей обработке информации, а не само сознание
На самом деле, - не могут. Потому что обработка информации в функциях сознания и подсознания идет по-разному. И перепутать одно с другим невозможно.
В результате исследователи могут непреднамеренно смешивать сознание, путая его с более широкими перцептивными и когнитивными способностями.
Перцептивные и когнитивные способности - это база, которая необходима для работы функций и подсознания и сознания. Но прямого отношения к работе функции сознания эти способности не имеют. Поэтому не понятно, как их можно смешать с работой сознания.
При этом некоторые исследователи предполагают, что эти существа могут обладать формами субъективного опыта или чувственностью.
Субъективный опыт может не иметь никакого отношения к работе сознания. А "чувственность" - это слишком странный термин в данном контексте, по крайней мере на русском языке.
"Чувственность — это способность воспринимать мир через органы чувств, испытывать глубокие эмоции, сопереживать, а также склонность к телесным и плотским влечениям."
Возможно, имеется в виду "чувствительность".
"Чувствительность — это способность живых организмов, систем или приборов воспринимать внешние и внутренние раздражители и реагировать на них."
Но и в таком виде данная особенность не может иметь никакого отношения к сознанию.
Исследователи утверждают, что разработка методов, способных точно изолировать субъективный опыт, критически важна для оценки будущих утверждений о существовании сознания у животных, систем искусственного интеллекта, органоидов и других нечеловеческих существ.
Поскольку субъективный опыт может не иметь никакого отношения к сознанию, то, скорее всего, эти исследователи сильно ошибаются. Есть много других способов, которые на самом деле могут помочь понять, есть ли сознание у конкретного существа.
наши современные научные инструменты не могут обнаружить разницу между сознательным актом и поведенческой обработкой сигналов.
Вообще-то могут. Сознательный акт, в отличие от автоматического действия по программе, предполагает в незнакомой ситуации чёткий порядок действий: анализ ситуации, выбор действия, анализ результата, поиск ошибок, выбор действия и т.п. до того момента, как в полученном результате перестанут обнаруживаться ошибки. А автоматическое действие по программе в новой ситуации в принципе невозможно, пока кто-нибудь, у кого есть сознание, не напишет программу для данной ситуации. :)
Поэтому нужно провести простейший эксперимент: например, поместить человека и ИИ в любую незнакомую ситуацию и посмотреть на реакцию. Если субъект найдёт выход из ситуации, значит, у него есть сознание, а если нет, значит и сознания нет.
Смотрите, просто логика.
Предполагаем что осознанный AI возможен. Записываем все состояния его памяти за его жизнь на диск. Обладает ли сознанием этот диск ? Очевидно нет. Но пока AI жил он сознанием обладал. Следовательно сознание, это сущность связанная со текущим моментом времени. А чем отличается текущий момент времени от прочих? Только тем что я в нём себя осознаю.
Вывод - сознание и течение времени это одно и то же. Но течение времени это фундаментальная составляющая бытия. Тогда что мы делаем, пытаясь найти фундаментальную составляющую бытия в нейронах и психологии? Правильно, глупость мы делаем.
Обсуждать конструктивно можно будет только практические вопросы, вроде последствий для общества не-признания/признания AI равным человеку в правах. А копаться в нейронах и психологии можно, чтобы выявить признаки сходства и различия в работе AI и человека и тем самым создать некую платформу для обсуждения подобных вопросов.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Способна ли нейробиология подтвердить наличие сознания у искусственного интеллекта? И почему нет?