Более-менее подробное введение в проблематику показано в этой статье. Там же уютно расположились ссылки на источники. Ну а данная часть являет собой не столько продолжение, сколько дорисовку и, в каком-то смысле, представляет более расширенный и несколько упрощённый взгляд на то же самое. Так что, скорее всего будет понятно и без особой предыстории. Но, если что – ссылка выше.
Структура
Контекст
Мысленный эксперимент «Философский Боксёр»
Финальный раунд
Итак...
Контекст
Несмотря на то, что у нас тут всё-таки именно мысленный эксперимент, дабы дальнейшее изложение не выглядело безосновательным и «нереальным», кратко охарактеризуем ситуацию и «антураж».
Приступим.
Первый элемент теоретического «реквизита» – процедурная память. Это тип долговременной памяти, отвечающий за хранение и воспроизведение двигательных навыков, автоматизированных действий и алгоритмов поведения.
Именно она лежит в основе хорошо знакомого опытным спортсменам феномена, который они характеризуют фразой «тело само среагировало» и ей подобными. Кроме спортсменов с этим феноменом имеют дело также музыканты, водители и…вообще все, кто умеет хотя бы ходить, не задумываясь о том, как он это делает.
Процедурная память характеризуется бессознательностью, автоматизмом, устойчивостью реализации навыка (даже при амнезии) и формируется путём многократных повторений.
Теоретико-методологическая основа: закон Хебба – между единовременно возбуждающимися нейронами формируется связь.
В качестве нейрофизиологической основы процедурной памяти служат: базальные ганглии, мозжечок, сенсомоторная кора и совокупность спинальных рефлексов.
Таким образом, процедурная память – это «программное обеспечение» тела, позволяющее действовать молниеносно и вообще без участия сознания (в топку лишний оверхэд – оптимизация forevor).Элемент номер два – условный рефлекс. Представляет собой индивидуальную реакцию организма, приобретённую в течение жизни в результате совпадения по времени внешнего условного сигнала и безусловного рефлекса.
Третьим номером идут зеркальные нейроны. Это нервные клетки головного мозга, которые одинаково реагируют как на выполнение действий «организмом-носителем», так и на наблюдение или визуализацию этих же действий.
Четвёртое действующее лицо, а по совместительству среда реализации – бокс. Вид спорта. Достаточно распространённый социокультурный феномен. Его распространённость в мире, в котором имеются пиво, онанизм и компьютерные игры, могла бы показаться странным явлением. Но на самом деле бокс целесообразен и практичен – право на пиво, онанизм и игрушки порой приходиться отстаивать.
Мысленный эксперимент «Философский Боксёр»
Теперь же описание самого «лора».
Имя нашего героя – Джеки LLM (от Laughs at Human Mistakes). Такое странное имя обусловлено тем, что его родители вообще не хотели детей, но были-таки с хорошим чувством юмора. Джеки – человек, которому предстоит пройти череду безжалостных, антигуманных и вообще «ни в одну калитку» не толерантных тренировок по специально разработанной боксёрской программе, вычисленной на «Машине Поста».
Самому Джеки, возможно, изначально хотелось бы тренировок обычных, но они ему не подошли. Всё потому, что когда Джеки был маленьким и только научился читать, он как-то раз увидел в туалете собрание сочинений Георга Вильгельма Фридриха Гегеля, открыл его на развороте – и сломал себе мозг. Пополам. После этого события он мог только ходить по комнате, кушать из цветочных горшков землю и дико орать при этом: «Я ЕСТЬ ГРУНТ!!!».
По итогу – Джеки просто не понимает команд тренера и только озирается в поисках ближайшего цветочного горшка или клумбы.
Зачем вообще ему в боксёры? Ну, его личный психиатр Карбамазепин Галоперидолыч полагает, что ему пойдёт на пользу смена деятельности с ежедневной целебной клизмы на более деструктивные процедуры.
В связи с этим для Джеки наняли тяготеющего к Ницшеанским идеалам свирепого тренера – Грязного Гарри, детского Доктора Менгелевича и Дона Бл. Кинга в качестве менеджера.
Внимательно посмотрев на Джеки, наша могучая кучка собралась в венский кружок и, после совещания, началась подготовка к чемпионской тренировке.
Доктор Менгелевич со словами «Вам, батенька, уже давно пора лечиться электричеством…» нацепил на Джеки специальный костюм, который работает по принципу миостимулятора – то есть сокращает мышечные волокна в зависимости от внешнего импульса.
Называется этот костюм – «Шкура Вельзевула» и являет собой самую передовую секретную разработку транснациональной злобной конторы «Total Genocide Corporation & Cute Kittens», которая придерживается антинаучной конспирологической доктрины «золотого миллиарда» и ведёт тайную войну с саентологами за мировое господство.
В общем, функционал костюма весьма разнообразен и позволяет сокращать мышечные группы не изолировано, а в совокупности. Это является необходимым, так как, к примеру, прямой удар рукой не так прост, как кажется. На самом деле в его выполнении участвует сразу всё тело – работа очень комплексная.
Далее. Грязный Гарри одевает себе на голову «Корону Асмодея» – ещё одно устройство от нашей любимой корпорации. Данный секретный прототип с виду напоминает то ли шлем космонавта, то ли аппарат для электроэнцефалографии, но на самом деле он интерпретирует работу зеркальных нейронов Грязного Гарри и затем транспилирует полученную информацию в импульсы одетой на Джеки «Шкуры Вельзевула».
Тем временем Дон Бл. Кинг договаривается о предстоящем бое своего подопечного где-то в глубоких Филиппинских трущобах.
Начинается тренировка, точнее – сразу спарринг. В качестве спарринг-партнёра из местной тюрьмы достали из-под койки особо униженного заключённого по кличке Сладкая Грушка.
Итак, действо. Джеки боксирует. Ну, то есть, он-то «сам» вообще ничего «не делает» – все движения выполняет лишь его тело за счёт «Шкуры Вельзевула», которым управляет Грязный Гарри при помощи «Короны Асмодея». То есть – примерно то же самое, что и при игре в «Fight Night» на приставке, только с «киберпанком и электронным виски». Гарри реагирует на движения Грушки или их отсутствие, представляет свои собственные реакции и тем самым осуществляет комплексный менеджмент LLM в соответствии с ними.
Детский Доктор Менгелевич на забрызганном запёкшейся кровью мониторе контролирует физическое состояние нашего юниора и регулирует силу жесточайших электрических импульсов, которыми щедро осыпается всё его тело.
А сам же Джеки просто пассивно «присутствует» в ситуации – только «телом». Однако его глаза физически видят, уши слышат, проприоцептивные рецепторы оценивают положение частей тела в пространстве и прочее – то есть все те процессы, которые происходят бессознательно, активно работают, в отличие от того, что мы привыкли считать «собой».
И так как Грязный Гарри испытывает катарсическое удовлетворение от причинения комплексных страданий, то на каждой тренировке Грушку рихтуют «на полного Фёдора».
Поначалу миостимулирующие импульсы весьма сильны и причиняют такую физическую боль, что Джеки, если бы мог говорить более одной фразы, уже бы давно прошептал «Я обратно – в дурдом хочу». Но на деле тренировка продолжается и у нашего спортсмена формируется не только связь мозг-мышца, но ещё и, что важно, соответствующий условный рефлекс. Тем временем для всех присутствующих словосочетание «спортсмен-разрядник» обрастает новыми смыслами...
Через некоторое время таких тренировок, детский Доктор Менгелевич с неохотой, но всё же следуя плану, снижает интенсивность импульсов миостимуляции в «Шкуре Вельзевула» – теперь они слабее. Однако мощь, амплитуда и прочие физические показатели движений уже записаны в теле Джеки за счёт выработки условного рефлекса (реакции на движения, положения тела оппонента и так далее) и в соответствии с законом Хебба.
Через некоторое время «Шкуру Вельзевула» вообще снимают. И выпускают «голого» Джеки на спарринг.
На любое действие есть противодействие. И теперь противодействие Джеки – убийственная штука. Прямые, боковые, апперкоты, уклоны, нырки, оттяжки, работа ног, добивания и прочее – просто физически закодированы безо всякого сознательного участия нашего разрядника. Потому он быстрее обычного человека чуть ли не настолько же, насколько игровые боты быстрее реальных игроков. Правда, он об этом «не знает».
И проблема тут будет только в том, что без жёстко заданного триггера на момент начала боя, тело Джеки не будет различать бой на ринге и остальную жизнь. Поэтому опускать руки ниже подбородка при Джеки LLM – очень плохая идея… И это потому, что вместе с пронзившим уши воплем «Я ЕСТЬ ГРУНТ!!!» в подбородок мгновенно прилетит идеально отработанный боковой удар. И тому, кому он прилетит, будет не важно, что сам Джеки этот боковой вообще не отрабатывал, а его «тело само реагирует».
И вот наша команда TMM (Three Maniacs and a Moron) где-то в гетто Южного Бронкса за «порося и медный тазик» проводит первый бой. Во время боксёрского матча Дон Бл. Кинг бегает вокруг ринга и продаёт фанатам «Marvel» футболки с надписью «I AM…I CHEW GROUND!!!». Бой, конечно, очень быстро заканчивается.
Через некоторое время, при спонсорской поддержке злобной конторы «Total Genocide Corporation & Cute Kittens», команда «TMM» собирается договориться о бое за титул чемпиона мира по версии WBC – Джеки всех вырубает даже быстрее, чем молодой Тайсон в своё время.
Однако боссы WBC хорошо знают и Грязного Гарри, и Дона Бл. Кинга. Да и детский Доктор Менгелевич им смутно кого-то напоминает… Поэтому они сразу же заподозрили неладное, резко подружились с продолжателями дела Л. Рона Хаббарда, провели созависимое расследование и собираются осуществить экспертизу LLM на предмет его права участвовать в чемпионском поединке.
Основной линией их аргументации является следующая: Джеки LLM на самом деле не является подлинным боксёром, а просто боксирует лучше, быстрее и сильнее всех остальных, осуществляя это без понимания и осознания.
Ну и вот как доказать, что Джеки LLM – подлинный боксёр? Возможно ли это вообще?
Финальный раунд
Сам принцип, лежащий в основе нашего эксперимента, можно экстраполировать на любую деятельность, сколь бы сложной и многофакторной она ни была.
Дабы не казаться голословными, приведём ещё один пример.
Формализовать вторую сигнальную систему человека, то есть речь, также можно на физической основе: любое слово представляемо в виде совокупности телесных реакций организма. Соответственно, «научиться говорить» несложно при помощи той же «Шкуры Вельзевула». И герой подобного мысленного эксперимента будет представлять собой этакого «философского собеседника», как Джеки LLM – «философский боксёр», и как предложенный в своё время Чалмерсом комплексный «философский зомби».
Однако в «философском собеседнике» и формализации слов через совокупности мышечных сокращений нет нужды. Так как слова уже формализованы в виде эмбеддингов – векторных представлений. То есть те системы AI, с которыми мы имеем дело и которые везде вокруг нас, – это и есть «философские собеседники», такие же, как Джеки – «философский боксёр».
Суть – в формализации с последующим моделированием, и неважно, что именно генерируется: токены, пиксели или удары в подбородок.
Теперь к заданному выше вопросу. Можно ли доказать подлинность Джеки? Даже если Джонни Кокрейн применит «Защиту Чубакки» – нет. По крайней мере, на данном этапе научно-технического прогресса – нет. Вообще никак.
И вот как раз об этом мысленный эксперимент Сёрла – никакие внешние параметры не имеют прямой связи с внутренними атрибутами и не указывают на их наличие. То есть, теоретически, можно одеть «Шкуру Вельзевула» и обучиться не просто боксировать или говорить, а, к примеру, быть хорошим человеком. То есть, кого угодно можно обвинить в том, что он «зомби Чалмерса» и обвиняемый окажется совершенно без возможности доказать обратное.
Выше было сказано о том, что демаркация Сёрла создаёт проблем больше, чем решает. Теперь уже должно быть понятно почему.
Потому что ни AI, ни сам человек, ни вообще хотя бы один «актор» – даже теоретически не способны доказать, что они «не LLM», а подлинные, настоящие, имеющие субъективный опыт, квалиа и прочую внутреннюю атрибутику.
То есть человек не способен доказать, что он на самом деле человек, а не вылез из «Шкуры Вельзевула» и не является «зомби».
Любое доказательство наличия сознания может быть результатом реализации неосознаваемого паттерна под названием «доказательство наличия сознания».
Концовочка. «Понимание» деятельности не требуется для успешного её осуществления ни в каких её видах, что и было показано в мысленном эксперименте «Философский Боксёр» на примере бокса. То есть, AI может кратно превзойти человеческий уровень развития, даже «вообще ничего не понимая».
Здесь, «на бегу», коснёмся стратегической бессмысленности возможной апелляции к тому, что «Шкура Вельзевула» и «Корона Асмодея» технически невозможны – 5 лет назад GPT-3 казался технически невозможным. Комментарии нам представляются излишними – и так должно быть всё понятно.
Таким образом, критерии подлинности и понимания, в противовес имитации и автоматическому выполнению, не состоятельны, так как ни один человек не способен доказать, что он понимает, а не просто реализует паттерн «доказательство наличия понимания».
Мы «мысленно-экспериментально» показали правоту мыслителей, подобных Бострому и Деннету, вместе с некорректностью высказываний Тьюринга, Сёрла и тем, кто «зашёл с ними в ту же дверь».
Теперь же добавим «левый боковой». Предположим, что в будущем научно-технический прогресс позволит определить чёткий критерий наличия понимания, сознания и прочих метафизических атрибутов. Причём такой критерий, который присущ человеку, но не проявляется у AI. Означать это будет только то, что сознание было формализовано. А следующим шагом оно будет смоделировано и мы, соответственно, станем способны «обучить сознанию» AI. То есть, даже если человек сумеет доказать, что он человек, а не «зомби», то сразу же вслед за ним собственное «доказательство подлинности» предъявит AI. Таким образом, сознание в любом случае не является преимуществом человека перед AI, так как если человек сможет доказать наличие сознания у самого себя, то AI тут же воспроизведёт это доказательство.
И «правый прямой». На данный момент человек принципиально не способен доказать, что он вообще обладает «сознанием», «пониманием», «разумом» и прочими подобными атрибутами – он только «внутренне это чувствует» и не может привести никаких веских доводов в подтверждение своих «галлюцинаций». Более того, полагать, что «все остальные люди, кроме Меня-Самого», тоже являются людьми, а не «зомби», – нет никаких общенаучных, физических и логических оснований. Это предмет «веры», а не рационального «знания», ведь любое доказательство может являться идеальной имитацией доказательства.
Ну и на добивание в падении – «левый апперкот». Когда мы сами «чувствуем, что осознаём», не является ли наше «осознание» просто непрерывным «созерцанием», «узнаванием» того, что только что – буквально долю секунды назад – произошло безо всякого сознательного контроля со стороны нашего «Я»?
Таким образом, сознание на данный момент не более, чем эпифеномен и оно отрезается «бритвой Оккама», на которой написано: «Критерий фальсифицируемости Поппера».
По итогу, «зомби Чалмерса» сожрал создателя-некроманта, а Сёрл оказался заперт в своей же «комнате» без возможности доказать, что он не является имитатором.
Ну и момент «начала отсчёта» : слепоглухонемой человек, который не способен объяснить привычными нам способами, что он что-либо «понимает», «понимает» лучше или хуже, чем AI, который способен подробно и пошагово расписать процесс своих весьма логичных рассуждений?
Всем вкусной земли.
