Комментарии 23
Но ведь мы не можем быть уверены на 100% что у ИИ нет qualia?
Вернее, можем быть уверены лишь в отсутствии человеческого qualia, и то, если предполагать, что у человеков они субъективно переживаются одинаково.
Не можем
Можем ли мы быть уверены, что квалиа есть у людей? Или что квалиа есть у каждого из людей?
Но ведь мы не можем быть уверены на 100% что у ИИ нет qualia?
Некоторые соображения, что пока нет.
С моей личной точки зрения его наличие у окружающих меня живых людей вызывает сомнения.
Спасибо за привлечение внимания к интересному вопросу.
Однако, на самом деле вам не следует всерьез воспринимать лепет ИИ. Я имею в виду, он отвечает так, чтобы клиент был счастлив. Если подтверждение вашей гипотезы повысит ваше настроение по мнению дипсика, он ответит именно так.
С тем же успехом можно спросить его, как приготовить пиццу с клеем. Правда, сейчас ии на это не поведется, как повелся бы год или два назад, но суть понятна.
Другими словами, суждение про то, что ии можно сравнить с Мэри интересное, но никакой ответ от ии не должен влиять на его искренность.
Кроме того положение осложняет тот факт, что ИИ лишен какой-бы-то-ни-было цельности суждения (люди тоже те еще лицемеры на самом деле, но сейчас речь не об этом). ИИ может "знать" что-то в одном разговоре и "не знать" в другом.
AI вероятно уже может иметь некое обоснованное логически мнение по некоторым простым вопросам, вроде работы фреймворков, но точно не по философским вопросам. Здесь очевидно, что он будет просто генерировать текст наиболее похожий на то что он видел в обучении.
А решение трудной ("сложной" - это опечатка?) проблемы сознания оно давно известно - у этой проблемы нет решения. Обсуждать можно только "легкую" проблему сознания, когда мы пытаемся разобраться как работает мозг, как он обрабатывает информацию, делает выводы. Как только сюда примешивают сознание, как оно представляется в трудной проблеме, наука заканчивается и начинаются пустые фантазии. Потому что трудная проблема сознания - это вообще не о работе мозга или AI, это об основе бытия, которая совершенно недоступна для рационального исследования. Не верите, попробуйте для начала ответить что такое время и что означает его течение. А это абсолютно та же проблема, что и трудная проблема сознания.
Исследователям нужна ясная и четкая интроспекция - что именно они хотят изучать. Если принципы работы мозга и AI, это понятная и решаемая задача. Если философские основы бытия - это не решаемая задача. Если хотят создавать гибриды из этих двух задач, получается "философский зомби", "китайская комната", "квалиа зеленого цвета" и прочие, концепции, которые по сути пустые бредни.
Забавно, как это начинает переплетаться с теологией. В некоторых учениях Бог создал человека именно потому, что сам не имел органов чувств, подобно ИИ из статьи. Имея всю информацию о созданном им мире, он, тем не менее, лишен возможности его каким либо образом почувствовать. Фраза " Человек создан по образу и подобию Бога" вечно трактуется неправильно, это не намек на похожесть моделей, а прямое указание, что этот мир можно понять при помощи принципа подобия. Так что созданное им разумное существо стало его так сказать, дроном, с нативными органами чувств для этого мира.
Интересный вопрос тут не только в том, могут ли модели потенциально иметь квалиа, но имеем ли мы его на самом деле или нам только кажется?
Аналогичный вопрос про детерминированность - ответ LLM может быть полностью детерминированным и основанным только на вводе. Но будет ли так же работать в подобных условиях интеллект естественный?
А то, быть может, если не считать архитектуры и методов обучения, это такая же стат машинка, только гсч получше, квантовый на натуральной химии
Недавно я прочитал статью Парадокс Ньюкома и искусственный интеллект
Тоже прочитал. По-моему, решается этот парадокс так: логически непротиворечивая ситуация натягивается на законы физики нашего мира, которые не обязаны быть совместимыми с каждой логически непротиворечивой ситуацией, отсюда и ощущение парадокса. Если физическая реальность описывается MWI (как верю я), то какой может быть предсказатель в ньюкомбовском смысле? Будет спектр всех видов предсказателей и спектр всех видов игроков, на пересечении которых воплотятся все возможные комбинации.
Удивительно, что Ньюкомб был физиком. По идее, физик должен бы понимать такие вещи. Даже если не верить в MWI, разница между логикой и физикой никуда не денется.
А когда поверх псевдопарадокса накручивают ИИ, это уже полная сагража.
В many-worlds interpretation нельзя построить разумное понятие о вероятности, так что, да, там весь смысл Предсказателя растворяется и исчезает. Однако в этой интерепретации вообще нетрудно всё что угодно растворить таким же способом, через бесконечный "спектр", так что она не очень-то содержательна.
А я считаю, наоборот: MWI это единственная система, в которое понятие физической (это важно!) вероятности — разумное. Что такое вероятность 0.5 при измерении спина в MWI? В многообразии физических реализаций есть паттерн […спин вверх — спин вниз — спин вверх — спин вниз — спин вверх — спин вниз…] Это понятие, как по мне, очень разумное. А что такое вероятность там, где нет физических реализаций всех исходов? Что на что мы делим?
создан новый цвет (olo), который видели только пять человек в мире.
Пару лет назад проводил плановое обследование зрения, закапали в глаза атропин. Так вот, пока сидел ждал очереди в разные кабинеты, тоже увидел много новых цветов. Реально очень ярких и необычных, такое невозможно увидеть моим "обычным" зрением, а здесь зрачок расширился и удалось словить очень необычное квалиа. Хотя у меня тогда возникли какие-то ассоциации с ранним детством, возможно тогда глаза тоже имеют диапазон чуть больше обычного.
Простите, но дуализм (противоположность физикализма) в эпоху массового распространения ИИ - не имеет смысла, приводить мысленные "эксперименты", что-то доказывающие против физикализма - это просто... позор.
Вести диалоги с искусственным интеллектом на тему того, объясняется ли сознание только физическими законами, или есть что-то нефизическое, без чего невозможно сознание (душа, дух, идея, тысячи их) - это просто какая-то насмешка над здравым смыслом, постирония космического масштаба.
Можете прояснить свою мысль? Вам кажется, что создание ИИ как то усилило позиции физикализма?
Физикализм — это философская позиция, утверждающая, что всё существующее в мире либо является физическим, либо зависит от физических явлений. В его основе лежит идея, что реальность в конечном счёте описывается законами физики, а все другие явления (сознание, биологические процессы, социальные взаимодействия) могут быть сведены к физическим процессам или объяснены через них.
Дуализм — это философская концепция, утверждающая, что реальность состоит из двух принципиально различных и несводимых друг к другу начал. В отличие от монизма (например, физикализма) или плюрализма, дуализм постулирует двойственность как основу мироздания. То есть, для сознания необходима душа, дух.
То есть вы создаете интеллект, сознание (причем БОИТЕСЬ, что он станет сверхсознаием и сверхинтеллектом), на основе только физических методов (я не видел колдовских обрядов по оживлению компьютеров). И на серьезных щах приводите "эксперименты" от дуалистов. Я напомню, что Фрэнк Джонсон опубликовал свой "эксперимент" в 1982 году ("Epiphenomenal Qualia"), когда был дуалистом, а потом 2023 («Разум и иллюзия») году стал физикалистом.
Если вы считате, что для сознания необходимо что-то еще, кроме нейронной сети, то почему вы разговариваете с нейросетями?
Впрочем, недавно все мы, обычные люди, не ИИ, попали в ситуацию Марии: создан новый цвет (olo), который видели только пять человек в мире. Свои ощущения они передать не могут, только слова.
Приблизили ли эти диалоги нас к решению сложной проблемы сознания? Как всегда, ни на миллиметр.
Довольно забавно что мы всё ближе и ближе к тому чтобы создавать ощущения напрямую, но все равно находятся люди которые говорят "ой, мы так и не приблизились к пониманию того что же такое ощущения". Прям как в анекдоте "Папа, а где море?"
И снова философские зомби и квалиа