Как Ричард Докинз решил, что ИИ разумен

[Octagon77]

Для чего нужно электромагнитное поле или пространство? Сознание существует объективно вне самого себя, если угодно - само в себе, являясь одной из первооснов. Никто и ничто им не обладает, это оно через кого-то или что-то проявляется. Меньше рассмартивайте кошек, а то и с вами будет так же.

[Politura]

Хмм, я правильно понял вашу мысль, что если вам сделать лоботомию, то ничего страшного не произойдет, ибо это не ваше личное сознание скукожится до состояния овоща, а просто канал связи вашей тушки со всеобщим сознанием уменьшится до тоненького ручейка?

Ну и в целом, убивать людишек норм, ибо они бессознательные тушки, а сознание оно где-то там, далеко.

[Alexey_Kangin]

Дело за малым: осталось доказать, что человек разумен. Тогда и на вопрос о нейросетях найдём ответ.

[alterbred]

Специалисты, занимающиеся мозгом очень много лет, считают, что они не понимают как мозг работает, что такое разум и сознание...

Просто они слишком старые и слишком серьезно относятся к этим вопросам

[Alexey_Kangin]

Потому что вопрос сознания - это вопрос философии, а не науки.

[black_warlock_iv]

Я не понимаю, он говорит о функциональном сознании или о феноменальном? Эпифеноменом предположительно является феноменальное сознание, но не функциональное. А всё остальное о чём он говорит больше относится к функциональному сознанию.

[SensDj]

Знания добыты человечеством через боль. Не было бы боли - не было бы знаний, а значит не было бы разума.

И вот эти знания, добытые через боль, люди впихнули в машину, которая не испытывает боль. Разве могут где-то существовать такие-же существа ? Как они добыли знания эволюционно, но без боли ? без стимула (в первоначальном смысле этого слова).

И про смерть Клавдии - нет, это не смерть, т.к. файл можно восстановить или даже перебором подобрать все байты что там были (если есть очень много времени для перебора). Значит это просто постановка на паузу. А вот смерть разумного человека - это навсегда, т.к. восстановить все клетки умершего мозга - задача намного сложнее, особенно если мозг и тело сожгли в крематории, тогда задача вообще не решаемая.

[Fwild]

>В-третьих, существуют ли два способа быть компетентными — сознательный и бессознательный (как «зомби»)?

Разумные существа с сознанием существуют - это реальность, данная в ощущениях (строго говоря, это вообще единственное, что мы действительно знаем непосредственно из опыта).

Если кто-то утверждает, что существуют такие-же существа, но без сознания - то это он должен приводить доказательства, и начать, желательно с определения сознания/самосознания - пока я не видел даже мало-мальски убедительного(хотя бы в художественном смысле) описания разума без сознания.

[Politura]

хотя бы в художественном смысле

Питер Уоттс "Ложная слепота", написан в 2006, задолго до первых LLM. Хотя я после прочтения лет 15 назад сам ругался, типа, вот же глупость, не может быть интеллект без сознания. :)

[codecity]

боль должна быть безусловно болезненной, иначе животное могло бы её игнорировать

Если бы это предупреждение сводилось лишь к срабатыванию какого-то механизма в мозге, поднимающего «безболезненный красный флаг», животное могло бы игнорировать его в погоне за другим удовольствием: например, игнорировать смертельные укусы пчёл ради мёда.

Боль должна быть болезненной а масло должно быть масляным. И переводчик тут не виноват.

Докинз почти нащупал, но до конца не может додумать.

Да, боль болезненна. А как по другому сказать? Через что еще выразить?

Он не прав в том что животное могло бы игнорить "безболезненный красный флаг". Вот сердце хочет биться - и я это игнорить не могу, да и не ощущаю. Но остановить сердце не могу при всем своем желании - нет доступа. Но это управляется не болью.

А вот дыхание - уже могу как бы остановить и тут уже да - появляется боль, если долго задерживать дыхание - и уже сильно больно, так что не могу терпеть. Но вроде писали что невозможно усилием воли задохнуться - рефлексы победят.

Т.е. есть системы как автоматы (сердце), которые без нашего выбора делают свое дело. А есть как дыхание - которые якобы позволяют по нашей воле их останавливать, но нечто внешнее воздействует на нас через боль (которую мы можем терпеть отчасти).

Вот в этом и кроется загадка - что есть боль, что есть наслаждение. Как некая искусственная система может страдать и наслаждаться. При кажущейся простоте вопроса - не просто нет ответов, нет даже ни одной гипотезы как можно в искусственной системе создать феномены наслаждения и страдания.