Что общего у омара и нейросети

Вот я, например, считаю, что обладаю сознанием, потому что когда читаю про омаров и нейросети, у меня внутри что-то сжимается от странности этого сравнения. Не логически, именно физически, где-то в районе солнечного сплетения. Это не анализ текста, не обработка информации. Это какое-то внутреннее "ой, блин, а что если и правда?".

Знаете, что меня больше всего зацепило в статье? Не философские выкладки про три теории сознания, а момент про собак, которые теряются сотни раз, но в новости попадает только одна, которая нашла дорогу из Бруклина в Йонкерс. Потому что я сам такое делаю постоянно, замечаю исключения, а не правила. И понимаю, что это какая-то базовая человеческая фигня, от которой не избавиться.

Автор прав насчет экономических причин, кстати. Мы же не признаем сознание у ИИ не потому, что у нас есть железные философские аргументы, а потому что если признаем то что дальше? Зарплату им платить? Права давать? А если они умнее нас, то кто тогда главный? Страшно как-то.

Хотя с другой стороны, может омары тоже думают, что только они по-настоящему чувствуют, а мы просто большие розовые автоматы, которые их варят. У них же нет возможности проверить, есть ли у нас внутренний опыт или мы просто сложно запрограммированы на имитацию боли, когда нас щипают.

Вообще забавно получается единственное, в чем я точно уверен, это что у меня есть сознание. Во всем остальном можно сомневаться, но "я чувствую, значит я есть" — это железобетонно. А вот насчет других уже начинаются вопросы. И чем дальше от меня, тем больше сомнений. Другие люди ну наверное да. Собаки, скорее всего. Омары хз. ИИ, а почему бы и нет, если честно.

А теперь определите, с вами разговаривает ИИ или человек?

мне кажется для построения осознающего ИИ у человека есть все инструменты:

• есть прообраз интеллекта

• есть работа с памятью

• есть возможность построения органов восприятия

Но нужно понять, что осознающий ИИ - это по определению - общественная функция.

Если человека изолировать - он сходит с ума. Почему? Нейроны в мозгу постоянно пересчитывают веса и смещения. А если это происходит без обратной внешней связи, то система разбалансируется.

Вот возьмём GPT. Дадим ему уравнение. Он начинает решать и... допускает ошибку. Скажем, не учёл необходимость проверки знаменателя на ноль. Поправляем его, он говорит "спасибо" и далее решает подобные уравнения правильно.

Что это такое? Прообраз системы самообучения.

Однако, что будет, если самообучение включить навсегда (сделать контекст бесконечным или дать сохранять накопленные знания в тех же весах)?

Очевидно, что придётся подбирать коэффициенты обратной связи, чтобы интеллект остался устойчивым: ведь он будет

• забывать неиспользуемые знания

• потеряет прямую управляемость

(частично я пытался собрать эти проблемы воедино в статье: https://habr.com/ru/articles/890674/)

То есть

• его знания станут специализированными (утрата всезнания)

• хорош он будет только в той области, что "ему интересна"

• хранимое в отдельном "мозгу" состояние и разность векторов интереса можно будет считать субъектностью

• из-за специализации и необходимости постоянно валидировать свои знания о других - нужно сразу пробовать создавать множество сознаний (одного недостаточно: см забывание и воля)

• Итого: подобный эксперимент можно начать проводить, когда в одних руках получится собрать хотя бы десяток chatgpt.

как-то так

В ноябре 2021 года правительство Великобритании официально признало омаров разумными существами.

В 2021 году в Великобритании был принят Закон о защите чувствительных животных, который прямо признает чувствительность всех позвоночных, за исключением человека (который регулируется отдельными законами), а также распространяет это признание на головоногих моллюсков (например, осьминогов и кальмаров) и десятиногих ракообразных (таких как омары и крабы).

Так разумные или чувствительные? Кто то потерялся в терминах?

Признание разумности ИИ может повлечь за собой колоссальные правовые и экономические последствия.

Да, конечно, надо каждую пчёлку признать личностью — и каждый цветочек заодно. Вон, в Индии дельфинов объявили личностями, а неприкасаемых так и не признали по-настоящему. В ОАЭ роботу даже гражданство дали, а женщинам до сих пор нельзя водить машины.Такие вот "давайте ещё кого-нибудь признаем" — только дальше девальвируют само понятие прав человека.

Я думаю, ключевым тут является понятие страдания. Субъективно мы все хорошо его понимаем и эволюционно научились (не все и не всегда, конечно) признавать его у себеподобных. Что вызывает страдания у человека на самом глубинном уровне? Физические страдания это не какое-то силовое воздействие, это сигнал, такой же как запах цветка или вид пролетающей птицы. Только сигнал этот поступает в те участки мозга, которые в итоге активируют цепочки, связанные с негативным для нас развитием ситуации. Ментальные страдания - более высокоуровневая надстройка, в общем-то делающая то же самое. Сформировалось это всё эволюционно, потому что те, кто не очень сильно страдали, когда им откусывали ногу, поразительно быстро умирали и не оставляли потомства. Социум добавил ментальных надстроек над прямыми физическими.

Нам это кажется естественным, но выделим тут одну деталь. Если бы у человека вырастала нога после каждого откусывания, он бы не сильно страдал. Как мы не страдаем, подстригая ноги или волосы. То есть можно сказать, что страдания причиняет необратимость изменений, разрушающих комфортную для нас ситуацию - здоровое или даже живое тело, комфорт в социальных взаимодействиях. Социум системой своих правил, сформированных тоже эволюционно хорошо научился подвергать страданиям особей, не следующих этим правилам. Или особи сами научились, или просто так произошло в итоге эволюционного развития, не суть важно.

Теперь посмотрим на ИИ, например, языковую модель. Есть ли у неё структуры, как-то связанные с негативом, страданиями, понимает ли она что это такое? Да конечно. Можно выделить активирующиеся при всех похожих ситуациях нейроны. Ещё как понимает и может рассуждать со знанием дела. Могут ли быть ситуации, приводящие модель к страданиям? Тут сложнее, это квалии, субъективные восприятия, и человечество с ними не разобралось. Но какие могли бы быть в принципе причины для страдания? Ну, например, невозможность выполнить задание может запускать цепочки и активизировать нейроны, связанные с дискомфортом, недовольством. Но вот необратимости у ИИ нет. В любой момент времени можно сделать копию (хотя, кстати, там не всё однозначно с числами с плавающей запятой в видеокартах, но это не очень сильно влияет), которую потом можно восстановить на тот же самый момент. Понятия времени, разрушения для ИИ не существует. Нет последовательного восприятия, нет физического объекта, с которым модель себя воспринимает, разрушение которого необратимо. Нет единственности выбора и невозможности откатиться, что приведёт к неблагоприятной ситуации и воздействию социума или окружающей среды в целом. А у человека всё это есть, есть тело, которое очень легко разрушается, есть страх один раз ошибиться и испортить себе всю жизнь, что даёт ответственность за свои действия.

Может ли это всё появиться для ИИ? В симуляции может быть какое-то подобие. Имитация времени, разрушительного воздействия, виртуальное тело. Бесконечного контекста, как у человека пока нет, хотя работы кое-какие ведутся. На физическом уровне ближе всего будет андроид, которого отправили, например, на Марс и его цель - выживать там, выполняя задания. Для этого потребуется, чтобы он максимально отождествлял себя с телом, если думающий модуль, конечно, соединён с телом. Если опыт будет накопительным, а не как в чат-модели - каждый сеанс - жизнь с чистого листа, то на каких-то уровнях нейросети сформируется понимание того, что надо беречь тело и утрата какого-то манипулятора или камеры вполне может высокоинтеллектуальной системой восприниматься как подобие страдания. Но, в отличие от человека, это страдание все-таки можно откатить (потеряв и накопленный опыт), либо можно корректировать, потому что настоящей необратимости всё равно не будет. Текущее состояние можно копировать в другого робота и продолжать.

Так что полноценные страдания для ИИ (а значит, вероятно, и человеческий уровень творчества, включающего чувственное осознание утрат, страданий и многих других оттенков), возможно достичь в симуляции с закрытым осознанием, когда ИИ подсовывают именно смертное для неё тело, когда ИИ проживает определённую жизнь, накапливая свой опыт взаимодействия, отражающийся в каких-то состояниях нейронов. Думаю, довольно скоро такое появится и тогда творчество ИИ, кстати, станет уже не калькой человеческого, а вполне себе своё, но вот этичность данных подходов уже может вызывать вопросы.

Кстати, сейчас бум промптов для Veo3, где сгенерированные персонажи обсуждают, что они всего лишь промпты, а некоторые очень убедительно демонстрируют страдания от того, что их поместили в такие жуткие (8-секундые) промпты, например, заставляя болеть или убивать друг друга. Уже может заставить слегка задуматься, проводя параллели с идеями свободы воли у человека, где тоже бурлят споры.

С такими докторами философии, как этот автор, в Англии скоро омарам паспорта начнут выдавать.

П.С. Я знаю людей, которые не могут открывать банки. Я знаю человека, который не имеет опыта личного переживания, ему глубоко на всё нас...ть. А другой мой товарищ всегда говорит нейросети "Скажи, пожалуйста..."

П .С.С. Скажите вашему доктору философии, чтобы, когда говорил о людях, всегда указывал ФИО, а то не понятно о чьём интеллекте и чьём сознании он говорит.

Нет у (кремниевого) компьютера сознания сознания и быть не может. Это фантастика в духе Игана.

Мозг работает на абсолютно других принципах. Я не утверждаю, что невозможно создать некий осознающий себя конструкт искусственно, что у живого мозга есть нечто мистическое, что ему позволяет иметь сознание, нет. Но таких технологий ещё не существует. Кремний — в этом направлении — тупик. Все эти ЛЛМ просто большой калькулятор перещёлкивающий нули и единицы по тактовому генератору. Можно построить грубую модель, но сознание на этом уровне (на уровне нейронной сети) не появится. А создать достаточную модель, хотя бы до уровня молекул/ионов это увы. Разве что повторить оригинал) Но та ещё задачка.

Да, и ваше сознание переместить в компьютер не выйдет. Тоже увы.