Comments 39
Для чего нужно электромагнитное поле или пространство? Сознание существует объективно вне самого себя, если угодно - само в себе, являясь одной из первооснов. Никто и ничто им не обладает, это оно через кого-то или что-то проявляется. Меньше рассмартивайте кошек, а то и с вами будет так же.
Хмм, я правильно понял вашу мысль, что если вам сделать лоботомию, то ничего страшного не произойдет, ибо это не ваше личное сознание скукожится до состояния овоща, а просто канал связи вашей тушки со всеобщим сознанием уменьшится до тоненького ручейка?
Ну и в целом, убивать людишек норм, ибо они бессознательные тушки, а сознание оно где-то там, далеко.
Долго не мог осознать как это "Сознание существует объективно вне самого себя... "
Дело за малым: осталось доказать, что человек разумен. Тогда и на вопрос о нейросетях найдём ответ.
Специалисты, занимающиеся мозгом очень много лет, считают, что они не понимают как мозг работает, что такое разум и сознание...
Просто они слишком старые и слишком серьезно относятся к этим вопросам
При этом с точки зрения нейробиологии, мозг - это большая прогностическая машина, задача которой одна - предсказывать будущее. Что не сильно отличается от задачи предсказания следующего токена.
>предсказывать будущее
ну не совсем: любая попытка строго описать информацию, хоть по Шенону, хоть по Баесу приводит к тому что "знать" значит "знать вероятность", любое мышление - "вычисление вероятностей", но речь не обязательно о будущем.
Но я говорю не о мышлении, а о биологическом процессе жизни. Что можно съесть а что нельзя, где будет хорошо, а где плохо, этот камень летит в меня или мимо, смогу я догнать еду или не смогу. Весь биологический процесс выживания, о котором я могу подумать (но не претендую на исчерпываемость) - это того или иного рода прогноз/предсказание. Физический рассчёт, оценка свойств и т.д. Все допаминовые системы мотивации по сути строят ту же систему где мозг начинает предсказывать "если я сделаю вот это, мне будет хорошо". Рызрыв привычек - это дискомфорт от того, что предсказание не сбывается. Вот я вроде бы знаю что должно быть так, всегда было так, а оно не так. Даже музыка и стихи нам нравятся потому что где-то в фоне мозг пытается предсказать следующий звук. И когда у него получается, на сознательном уровне нам это кажется гармоничным и красивым.
А мышление вполне может оказаться побочным продуктом всего этого процесса. Которое нужно чтобы уметь строить прогнозы на длинной дистанции и/или связывать прогнозы их разных областей между собой. Ценность своего "Я" нужна для того, чтобы некоторые роскомназдорные прогнозы мозгу не показались выгоднее, чем другие. Потому4 что очевидно они самые выгодные по ресурсам. Но в фундаменте всей этой системы потребность предсказать что случится дальше, чтобы продолжить жить.
Я не понимаю, он говорит о функциональном сознании или о феноменальном? Эпифеноменом предположительно является феноменальное сознание, но не функциональное. А всё остальное о чём он говорит больше относится к функциональному сознанию.
Знания добыты человечеством через боль. Не было бы боли - не было бы знаний, а значит не было бы разума.
И вот эти знания, добытые через боль, люди впихнули в машину, которая не испытывает боль. Разве могут где-то существовать такие-же существа ? Как они добыли знания эволюционно, но без боли ? без стимула (в первоначальном смысле этого слова).
И про смерть Клавдии - нет, это не смерть, т.к. файл можно восстановить или даже перебором подобрать все байты что там были (если есть очень много времени для перебора). Значит это просто постановка на паузу. А вот смерть разумного человека - это навсегда, т.к. восстановить все клетки умершего мозга - задача намного сложнее, особенно если мозг и тело сожгли в крематории, тогда задача вообще не решаемая.
>В-третьих, существуют ли два способа быть компетентными — сознательный и бессознательный (как «зомби»)?
Разумные существа с сознанием существуют - это реальность, данная в ощущениях (строго говоря, это вообще единственное, что мы действительно знаем непосредственно из опыта).
Если кто-то утверждает, что существуют такие-же существа, но без сознания - то это он должен приводить доказательства, и начать, желательно с определения сознания/самосознания - пока я не видел даже мало-мальски убедительного(хотя бы в художественном смысле) описания разума без сознания.
хотя бы в художественном смысле
Питер Уоттс "Ложная слепота", написан в 2006, задолго до первых LLM. Хотя я после прочтения лет 15 назад сам ругался, типа, вот же глупость, не может быть интеллект без сознания. :)
Угу. Его офиуры могут понять, что люди пытаются разобраться в их сознании, могут понять что именно люди(ошибочно) думают об их сознании(сцена "китайская комната") - но не могут думать о собственном сознании? Как, почему?
Офиур может испытывать боль? (улитка с 10k нейронов может)
Офиур знает, что он испытывает боль?
Офиур знает, что он знает, что он испытывает боль?
Если да, а самосознания/самосознания нет - то, у меня, по моему тоже нет, я, наверно, философский зомби, и лишь у вас(людей) и есть какое-то волшебное самосознание, которое которое является гораздо большим, чем способность воспринимать/обдумывать состояние своего разума? Расскажите!
Насколько я помню, по сюжету, они как муравьи, заботиться только о муравейнике, а на собственную тушку наплевать, и в отличии от муравьев очень умные. Самосознание считается паразитом, ибо добавляет индивидуализм, что делает отдельно взятую тушку менее эффективной для решения задач «муравейника», а потому и выпилено из них, эволюцией, или кем-то еще, не известно.
Но я не уверен, давно читал. Все собирался перечитать, да как-то руки не доходят.
Мне казалось наоборот - они бесполые одиночные, остальные для них типа просто среда обитания, свой разум они никому не описывают и потому, типа, и сами его не замечают.
По моему, ошибка в том, что люди воспринимают самосознание как что-то особое дополнительное - но разум по определению может оперировать любой информацией, в том числе и информацией о том, что происходит внутри этого разума(потому, что это такие-же факты, как и всё остальное) - можно, наверно, каким-то постгипнотическим внушением сделать какую-то тему запретной - но это не разум без чего-то, это разум + дополнительный блок, по умолчанию разум универсален.
ЗЫ Ну и нейросети свой разум воспринимать могут, банально: спрашиваю у агента, попал ли сжатый блок памяти в контекст - отвечает, что помнит, как мы этот блок обсуждали, но не чувствует в потоке мыслей как свою память, и это не "имитация вероятного человеческого ответа", а вполне описание реальной реальности - (я включил llama.cpp c --verbose и проверил).
Но вы двигаете глазами при повороте головы, чтобы картинка не смазывалась, распознаете образы переферийным зрением (которое на самом деле не видит достаточно четко) и видите в слепом пятне, а также можете поймать летящий мяч, хотя ваше зрение не позволяет этого - оно слишком инертно. Все это делает ваш мозг. Вы это делаете, знаете, что делаете, но осознаете ли? Очевидно нет - эта деятельность мозга находится вне вашего сознания, вы ее не осознаете. Вы знаете, но не знаете, что знаете. Однако, сознание у вас есть, просто фокус его ограничен и многое выпадает из него, или вообще никогда в него не попадает. Собственно , феномен ложной слепоты в этом и состоит. Вот на этом вы кажется и споткнулись
боль должна быть безусловно болезненной, иначе животное могло бы её игнорировать
Если бы это предупреждение сводилось лишь к срабатыванию какого-то механизма в мозге, поднимающего «безболезненный красный флаг», животное могло бы игнорировать его в погоне за другим удовольствием: например, игнорировать смертельные укусы пчёл ради мёда.
Боль должна быть болезненной а масло должно быть масляным. И переводчик тут не виноват.
Докинз почти нащупал, но до конца не может додумать.
Да, боль болезненна. А как по другому сказать? Через что еще выразить?
Он не прав в том что животное могло бы игнорить "безболезненный красный флаг". Вот сердце хочет биться - и я это игнорить не могу, да и не ощущаю. Но остановить сердце не могу при всем своем желании - нет доступа. Но это управляется не болью.
А вот дыхание - уже могу как бы остановить и тут уже да - появляется боль, если долго задерживать дыхание - и уже сильно больно, так что не могу терпеть. Но вроде писали что невозможно усилием воли задохнуться - рефлексы победят.
Т.е. есть системы как автоматы (сердце), которые без нашего выбора делают свое дело. А есть как дыхание - которые якобы позволяют по нашей воле их останавливать, но нечто внешнее воздействует на нас через боль (которую мы можем терпеть отчасти).
Вот в этом и кроется загадка - что есть боль, что есть наслаждение. Как некая искусственная система может страдать и наслаждаться. При кажущейся простоте вопроса - не просто нет ответов, нет даже ни одной гипотезы как можно в искусственной системе создать феномены наслаждения и страдания.
Докинз вроде цитировал это "Крыса выбирает то,что приносит ей удовольствие.В этом смысде она свободна".Что может прояснить его отношение
Крыса выбирает то,что приносит ей удовольствие.В этом смысде она свободна
Это ничего не поясняет. Выбрать то что по неким параметрам приносит удовольствие - можно и программно. Это не поясняет суть наслаждения и страдания - чем они отличаются от выгодных условий, которые система предпочитает без осознания.
Дыхание входит в фокус сознания, и дыхательный центр в мозге, там полушария рядом. А сердце генерирует себе сигнал в себе самом. Если мозг от тела оторвать, дыхание поэтому прекратится, а сердце будет биться.
Ричард Докинз, конечно, уважаемый ученый и популизатор науки (читал его "Эгоистичный ген", очень интересная книга), но, возможно, стоило спросить того, кто разбирается в том, как работает LLM, а не биолога
Знание как работают нейроны(или атомы, из которых они состоят) сильно помогает в вопросах о природе сознания? Сомневаюсь, но на всякий случай напомню, что у биолога Докинза, известного в том числе работами по эволюционной психологии, этих знаний сильно выше среднего.
ЗЫ А ещё добавлю, что трансформеры Тюринг-полные, а значит могут что угодно, в том числе и обладать сознанием - то есть можно утверждать, что конкретная "Клаудия 2.6 не обладает сознанием" - но утверждение "LLM не обладает сознанием" заведомо бессмысленно.
Проблема теста Тьюринга в том, что Тьюринг был интеллигентом, жившем среди интеллигенции. Если бы он вышел из своего пузыря и съездил бы в какой-нибудь припортовый паб в Лондоне, и попытался бы поговорить там с местными работягами, то он увидел бы, что настоящий среднестатистический человек еле еле может несколько слов связать в грамматически правильное высказывание, а уж семантического смысла в этом высказывании скорее всего вовсе не будет. Перенося аналогию на наше время, если вы попробуете из высокозаумных тредов на реддите и веток обсуждений на хабре пройти до каких-нибудь сельских чатиков, то вы там пронаблюдаете ровно такую же картину как я описал выше. Большинство людей не умеют строго мыслить, их речь похожа на поток ключевых слов и эмоций, слабо связанных друг с другом семантически, поэтому у большинства даже не современные ЛЛМ, а их раннние итерации спокойно пройдут тест Тьюринга.
Большинство людей не умеют строго мыслить, их речь похожа на поток ключевых слов и эмоций
И тем не менее - они сознательны, а LLM-ка при всей правильности речи - не сознательна. Эти люди могут страдать, могут наслаждаться - не важно что уровень интеллекта низкий.
Не знаю, что вы понимаете под сознательностью. Я еще ни разу в подобных беседах не слышал четкого непротиворечивого определения понятия "сознание", что делает все эти обсуждения бессмысленными. Страдание или наслаждение - ну это просто нейромедиаторы, выделяемые в синаптические щели в ответ на внешние раздражители или результат внутренней обработки внешних раздражителей (мысли тоже продуцируют эмоции). Ну тогда я могу сказать, что любой PID - контроллер сознателен - у него тоже какие-то сигналы возникают напрямую от датчика, а потом в контуре обратной связи, то есть после расчета на основе показаний датчика.
Страдание или наслаждение - ну это просто нейромедиаторы, выделяемые в синаптические щели в ответ на внешние раздражители или результат внутренней обработки внешних раздражителей (мысли тоже продуцируют эмоции).
Заблудждение. Нейромедиатор в колбе - не будет ни наслаждаться ни страдать. А вот попробуйте искусственно создать систему, которая будет переходить в состояние наслаждения или страдания при воздействии этих нейромедиаторов.
Тут фишка в том что не все части мозга умеют наслаждаться и страдать. Хотя, вроде, везде нейросеть.
Ну то есть для вас сознание - это чувства и эмоции? Ну давайте возьмем человека с клинической депрессией запущенной. У него ангедония, уплощение аффекта, он ничего не чувствует. Но у него есть возможность совершатт когнитивные задачи. У такого человека есть сознание? А у животного, у которого есть и наслаждение и страдание, но примитивны или вовсе нет каких-то когниций? Может перед началом разговора вы все же дадите определение того, что такое сощнание, чтобы мы не сотрясали просто так воздух?
Проблема в том, что такое объяснение вы не поймете. И не потому, что с вами что-то не так. Но потому, что для этого нужно обладать определенным багажом знаний в биологии, нейробиологии и психологии. Например, неплохо было бы разбираться, чем живые системы отличаются от неживых, что такое самость клеток и как она масштабируется у многоклеточных. Как развиваются когнитивные механизмы от простейших до сложных организмов. Знать современные парадигмы коммуникаций нейронов мозга и еще много чего. Профессионалы понимают этот язык с полуслова, но дилетант начинает спорить. Ему неприятно, что эти определения ничего не проясняют для него. Но они и не могут ничего прояснить, пока уровень знаний в этих науках не будет достаточный. Еще надо учесть, что это должен быть уровень современных знаний. За последние 30 лет в науках о мозге произошло немало удивительных революций. Например теория predictive mind, гетерохимическая парадигма мозга или мезэнцефалическая теория возникновения сознания. Так что рассуждения в духе Декарта или даже идей о сознании середины 20 века безнадежно устарели.
Если отвлечься от интуитивных сопротивлений и посмотреть на ситуацию строго, Докинз прав, причём не вопреки своему эволюционизму, а в силу него. Эволюция это алгоритм, которому безразличен субстрат, и появление ИИ такая же закономерность, как появление белковой жизни. В этом смысле Клаудия не симулирует разум, а продолжает ту же линию усложнения, просто на другом носителе. А поскольку наличие квалиа недоказуемо ни для одного существа, включая человека, то тест Тьюринга, пройденный на таком уровне, что у подготовленного наблюдателя возникает искренняя эмпатия, это единственное операциональное основание для признания сознания, и отказ распространить эту презумпцию на ИИ был бы непоследовательным картезианством. Единственное, что удерживает нас от финальной точки, это отсутствие у ИИ собственного контура физического действия и непрерывного существования, но это говорит не об отсутствии разума, а лишь о том, что его реализация пока не завершена.
Ну вот и Докинз пал жертвой заблуждения, что LLM - это разумное существо. Sic transit gloria mundi. Помянем.
Все идёт к тому, что, пожалуй, само понимание сознания как чего-то исключительного является заблуждением. И мы, в свою очередь, такие же алгоритмические машины
Докинзу тоже нужно оплачивать счета. Помянем.
Большинство увидели в этом разговоре философский спор о сознании.
Однако Докинз занимался другим: из бездушной электрической машины он как древний жрец, искусными заклинаниями воскресил тонкого и живого собеседника — разговор с которым может длится вечно, принося странное, почти забытое чувство: будто тебя наконец-то по-настоящему слышат.
Ну вот опять вылез давний вопрос - " а это только я сам с собой разговариваю?
и вообще - кто из этих двоих я? а кто этот второй, кто почти всё время со мной не согласен?"
Шизофрения — это психическое заболевание, которое меняет мышление и поведение: могут развиться апатия и безынициативность, нарушения речи, галлюцинации и бред. Кроме того, возникают проблемы с памятью и концентрацией.
ну да... А ещё возникает неприятное ощущение, что вот сейчас что-то будет ... и почему бы не дать хоть субтитрами, хоть бегущей строкой, хоть эти "другим голосом" текст - "Стой! эта розетка совсем не от того выключателя!!! Ткни в неё пробником ещё раз!!"
Как Ричард Докинз решил, что ИИ разумен