В смысле? Это же очевидно. Быть философом (или учёным в области CS) -- это full-time job, разумеется, невозможно разбираться одинаково хорошо в области, на которую тратишь половину времени, по сравнению с тем, кто тратит на неё всё своё время.
Ну тогда давайте признаем, что вообще не существует людей, хорошо разбирающихся в CS, потому что (1) объём дисциплины сегдоня такой, что человеку не под силу его охватить - особенно, если он имеет наглость тратить драгоценное время на (2) сон, (3) семью и (4) еду и (5) туалет. Впрочем, в туалете и за едой он хотя бы может книжку почитать... :)
Соответственно, концентрируемся на аргументах, а не на людях, и изучаем именно слабость аргументов с точки зрения противоположной стороны.
Согласен. И к чему тогда была нападка на философов...
Например, в философии до сих пор любят ссылаться на "китайскую комнату", хотя в около-CS-среде т.н. возражение "аргумент системы" считается настолько очевидным, что даже непонятно, в чём сыр-бор.
Вообще не интересно, кто что любит. Я не ссылался на "китайскую комнату", и не буду обсуждать этот аргумент, он мне не интересен.
Мой собственный аргумент базируется на иллюстрации несовместимости типов ментального и физического. Правда, его мне тоже совсем не интересно обсуждать, т.к. я уже делал это "миллион" раз с одним и тем же результатом - тотальным отсутствием для меня убедительных контраргументов. Кроме того, выше я уже озвучивал, емнип, раза два или больше, что проблема фундаментально в несовместимости типов. И что в очень лаконичной и интуитивно ясной форме на несовместимость типов указал ещё Лейбниц. Вам всё это явно это не интересно.
А мне кажется, что есть необходимость. Потому что это ответ типа "а дальше очевидно". Ну вот пусть хоть кто-то продемонстрирует, как это технически работает, не в стиле "каждый отдельный шаг понятен, а дальше очевидно".
Так ведь продемонстрировали! Каждый работающий персональный компьютер является такой демонстрацией.
Вы, по-сути, утверждаете, что знание рецепта вместе со способностью выполнения каждого отдельного его шага не даёт ни понимания, ни возможности приготовления конкретного блюда. Потому что - вот, посмотрите именно на это блюдо, его невозможно приготовить, не зная точной картины распределения молекул его компонент по его объёму.
Или нам пока неизвестны какие-то промежуточные шаги, но не более того. Мы почему-то сразу прыгаем к выводу, что есть некая "трудная" проблема.
Вы почему-то считаете, что трудная проблема сознания декларируется по принципу: "нам не известен промежуточный шаг, поэтому этот шаг невозможен". Что неверно, т.к. трудная проблема не в этом. И, честно, даже обидно приписывать реально блестящим умам, занимающимся этой проблематикой, такую тривиальную ошибку.
Тем временем, трудная проблема сознания декларируется по принципу: "промежуточный шаг невозможен, потому что налицо фундаментальная несовместимость типов". Понятно, что вокруг реально трудной (невозможность) проблемы есть "бахрома" из разных подходов, не равноценных по значению. Но ядро проблемы было и остаётся: несовместимость типов.
Из базовых кирпичиков можно создать хоть дворец, при этом у кирпичика есть только одно реальное свойство -- занимать место в пространстве. По факту оказывает, что этого не так уж и мало, раз получается такой результат.
Ваш пример с дворцом не вписывается в предлагаемую вами же схему "всё механизм".
По вашей схеме либо дворец состоит из дворцов (и нет никаких кирпичей), либо кирпич из кирпичей (и нет никаких дворцов).
Я в российских пабликах. Поэтому могу говорить только о них и о современных философах (подозреваю не самых возрастных)
Лет десять назад я интересовался разными русскоязычными "философскими" площадками. И совершенно не впечатлился. Но, справедливости ради, это ровным счётом ничего не говорит о людях, которые активно занимаются реальными исследованиями на разных рубежах познания. Крайне маловероятно, чтобы последние находили время и желание лично участвовать в подобных сообществах.
Люди же, которые что-то пишут на "философских" площадках, по моим скупым наблюдениям, это, в основном, любопытствующие. Из таких любопытствующих очень редко кто копает по-настоящему глубоко - это очень трудно, и чтобы реально погрузиться в какую-то серьёзную современную тему, нужны годы подготовки.
Лично я, чтобы быть в курсе современного академического дискурса по интересующим меня вопросам, давно читаю только англоязычную литературу. И ни в коем случае не научпоп. Это ошеломляюще, сколько достойного современного (да и не только современного) материала - как философского, так и чисто научного - не переводится на русский язык. Возможно, это наследие изоляционизма (в том числе идеологического) СССР.
В общем и целом, не касаясь предмета дискуссии, замечу, что подписан на несколько философских пабликов, и крайне огорчён неучастием философов и философии в реальном мире. Ребята выстроили себе песочницу и лепят в ней терминологические куличики.
Сегодня философы активно продолжают разрабатывать ту же логику, да и каждая научная дисциплина имеет своих философов, которые активно в ней участвуют. Они, в принципе, работают на дальних рубежах наук, их деятельность практически полностью игнорируется научпопом ввиду сложности материала.
P.S. Хех, чуть не забыл Поппера, чей философский принцип фальсифицируемости очень (если не слишком) часто цитируется в том числе и теми, кто так презирает философию. :)
В известном смысле это не пощёчина, а наоборот -- я не отказываю философам в интеллекте, но они не обязаны разбираться во всём на свете, и вот тут явно тот случай, когда именно пробел в конкретной области не даёт увидеть слабость аргумента.
Это явно не тот случай.
Но сначала, позвольте тогда и мне проявить эту "щедрость" в неотказывании CS-учёным в интеллекте:
"Вся "проблема" специалистов по компьютерным наукам (при всём уважении) в том, что они плохо разбираются в в философии."
У вас есть желание подробно отвечать на такого рода "аргумент"?
Тем временем он объективно ложен, как и ложен оригинальный тезис:
"Вся "проблема" философов (при всём уважении) в том, что они плохо разбираются в компьютерной науке."
Вероятно, вы считаете философию чем-то вроде бесполезного фантазирования. Это не так. У каждой научной дисциплины есть своя философская часть. Каждый учёный, когда занимается, например, разработкой фундаментальных теорий в своей области и осмыслением экспериментальных результатов, оперирует на уровне этого философского "слоя". Те учёные, которые осознают эту границу и целенаправленно исследуют её, становятся философами. Философами никогда не становятся, просто получив академическую степень по философии. Есть и многочисленные случаи, когда уже состоявшийся философ глубоко погружается в предметную часть той или иной научной дисциплины.
И да, есть философы, очень хорошо разбирающиеся в компьютерных науках. Или, что то же самое - учёные, хорошо разбирающиеся в философии.
Я могу привести кокнретные имена - но смысл? Вы уже сделали абсолютное обобщение - априори не имея возможность доказать его, т.к. это потребовало бы доскональную проверку проф. биографии каждого человека, занимающегося философией. И я убеждён, что вы прекрасно знаете - такого рода обобщения методологически некорректны.
Попробуйте показать, как MS Word внутри Windows сводится к движению электронов по схемам. Если это не получится (а разве получится?), значит, аргумент плохой.
Доказательство возможности типа явления демонстрируется выводом общей формы этого явления. Нет необходимости перечислять каждый конкретный случай. Полнота понимания процесса происхождения явления также завязана на понимании формы процесса, а не на способности перечислить каждый элемент конкретного протекания процесса. Если бы это было иначе, не было бы ни науки, ни технологий. Да, можно прекрасно понимать, какими способами на экране отображаются графические программы, не зная деталей каждого конкретного случая.
Природа трудной проблемы сознания совсем не в этом. Если максимально лаконично - она в несовместимости типов.
Персонально мне эта тема крайне неинтересна, потому что я уже давно потратил на это достаточно лет, пришёл к однозначным выводам, и пошёл дальше. Есть (по крайней мере, на английском) достаточно много непопсовой литературы на эту тему, если есть желание разобраться в деталях. Если такого желания нет - то смысл тратить на это время здесь?
Да, поэтому совершенно логичный вывод -- механизм может быть атомарным, и проблемы регрессии больше нет.
Это было сказано выше не вам, но применимо и здесь:
Можно, конечно, сказать, что априори любые возможные свойства это свойства механизма, только тогда термин "механизм" теряет всякое осмысленное содержание. Это, кстати, из элементарной логики: объём понятия обратно пропорционален содержанию.
Давайте рассмотрим следующие тезисы:
Всё есть механизм.
Всё есть автомобиль.
Всё есть Чебурашка.
Всё есть материя.
Эти тезисы имеют один и тот же смысл: "всё есть непонятно что".
По той простой причине, что объём понятия обратно пропорционален содержанию. И если мы утверждаем, что всё есть Х, то мы утверждаем, что любые свойства это свойства Х, т.о., делая объём Х максимально большим, а содержание - практически нулевым.
Нет никаких практических причин возводить на (псевдо)пьедестал всеобщности тот или иной термин - тем самым совершенно лишая его содержания.
Хотел понять, что не так с пограничными случаями, но так и не понял в чём они вообще состоят.
my $result = eval {
$user->sneezes_loudly();
};
if (ref $@ eq 'Exception::TooLoud') {
$logger->error("Too loud! This is how loud it is: $@");
} elsif (ref $@ eq 'Exception::TooSilent') {
$logger->error("Couldn't hear anything. Do you hear this - $@ - ???");
} elsif (ref $@ eq 'Exception::DataCenterIsPollutedBySnot') {
$logger->error(
"This user @{[$user->personal_data()->to_string()]}"
. " better be arrested, just look at this mess: $@"
);
} elsif (ref $@ eq 'Exception::UserIsStrikedByLightning') {
$logger->error("Rare event [$@]!!! Call press and ambulance ASAP!");
} elsif (ref $@ eq 'Exception::SuddenAlienInvasion') {
$logger->error("OMG! $@!!! Take us from here PLEAAASE!");
} elsif (ref $@ eq 'Exception::ShitHitsTheFan') {
$logger->error("It wasn't a sneeze - $@ - take cover!!!");
} elsif ($@) {
$logger->error("We don't know what it is ($@)"
. ", if only we knew what it is"
. ", but we don't know what it is...");
}
$admin->throws_into_trash($result); # No checks, Admin is always right
На самом деле иметь под рукой такой чемоданчик на случай экстренной ситуации лишним не будет. ...
Всякое в жизни бывает.
Ну, так-то было бы неплохо иметь под рукой снаряжение для зомби-апокалипсиса и ядерный бункер в виде готового к взлёту звездолёта. А ещё лучше сразу улететь на нём куда подальше...
Кроме того, что это не определение, а гипотеза. Перефразирую, чтобы было понятнее:
Гипотеза:
Где P(x) означает "х имеет свойство P".
Такого рода гипотезы проверяются не на соответствие самим себе (что тривиально и бессмысленно), а на соответствие фактам и возможным формам. В частности, формы бесконечного рекурсивного спуска обычно считаются неэкземплифицируемыми в рамках физической Вселенной. Что касается механизма без деталей - это из области натягивания совы на глобус. Можно, конечно, сказать, что априори любые возможные свойства это свойства механизма, только тогда термин "механизм" теряет всякое осмысленное содержание. Это, кстати, из элементарной логики: объём понятия обратно пропорционален содержанию.
Не так. Берёте ChatGPT - и вначале просите её архитектурно разложить самые базовые варианты ловли этого бага. Анализируете варианты, выбираете, реализуете.
Как не так, если я так и делал? :) Говорю же - годами уже мучаю LLM практически каждый день, с самого выхода. Рука набита, так сказать.
Почему постоянно меняются юзеры которым я отвечаю в этой ветке?))
Это заговор! :)
И заодно, что за абстрактная проблему перепроверки и отладки?
Давеча бился над одним багом в лютом легаси. С десятка полтора тысяч строк многопоточного месива, и баг по разным признакам завязан на многопоточность - то ли дедлок, то ли гонка, но искать как иголку в стоге сена. Подумал - опа, а у нас тут корпоративный доступ к LLM. Взял Codex CLI и состряпал простыню промпта с детальными инструкциями по отладке, со вспомогательными скриптами для тестов, с разрешением править код и добавлять свои логи. Оно пыталось - но практически безрезультатно. Почти всё в отчётах в итоге бесполезно, кроме тех вещей, о которых я и так знаю. В итоге после нескольких итераций - просран день работы. И кто его знает - может, если упарываться ещё неделю, делая fine-tuning промптов и вспомогательной автоматизации, то что-то и выйдет. Только смысл, если отладка "руками" значительно быстрее?
И дисклеймер - это не первый и далеко не единственный заход. Сама фирма активно мотивирует искать ниши, где LLM оптимизируют работу. И такие ниши есть, но до универсальности и безглючности явно ещё далеко. Впрочем, вы писали об этом:
Нейросети не могут сейчас полностью заменить профильных программистов. По целому ряду фундаментальных причин. Но это вовсе не означает что их нельзя использовать в работе как ассистентов!
С моей точки зрения никакой проблемы нет. Вся "проблема" философов (при всём уважении) в том, что они плохо разбираются в компьютерной науке.
Начал было отвечать - про современную роль философии в науке, про философов-учёных, в том числе и спецов по CS, которые понимают несводимость субъективного к физическому, но тут меня осенило. Это же не логический аргумент, базирующийся на фактах, а разновидность риторической пощёчины. И отвечать на серьёзных щах имеет смысл только если хочешь риторической драки.
Что ж, я высказал, кажется, все доступные мне аргументы - от технических до этических. Думаю сворачиваться. Единственное, попробую ответить на тему тотальности механизмов - странно, что это не очевидно...
Я не совсем понимаю, в чём проблема. Автомобиль состоит из деталей, каждая из которых автобилем не является. Колесо -- не автомобиль, и состоит оно из молекул, которые тоже не колёса.
Нет никаких проблем в том, чтобы изготовить автомобиль из деталей, которые не-автомобили. Нет никаких проблем, чтобы создать машину Тьюринга не из машины Тьюринга.
Выше вы написали:
"весь наш мир со всеми происходящими процессами -- механика"
Конечно, это можно интерпретировать по-разному. Например, что механика это только целый мир, а его детали - не механика. Или что только мир в аспекте процессов - механика, а в других аспектах не механика.
Но я интерпретировал это так: всё реально существующее - механизм. Если вы не согласны с такой формулировкой, а имели в виду что-то существенно другое, то дальнейшее обращено не к вам, а ко мне самому в качестве маленького упражнения.
Если всё - механизм, то нет ничего, что не механизм. Следовательно, (1) любая деталь механизма - механизм, и (2) любая деталь любой детали - механизм, и (3) любая деталь любой детали любой детали - механизм, и (4) любая деталь любой детали любой детали любой детали - механизм, и ... (n) любая деталь (любой детали) x (n - 1) - механизм, и ... () любая деталь (любой детали) х () - механизм. Бесконечная регрессия, если мы считаем, что механизм не атомарен, т.е. состоит из чего-то, что не он сам (как в вашем примере с автомобилем - колесо это не автомобиль).
Поэтому, если всё есть механизмы, и любые механизмы не атомарны - то необходимо должна быть бесконечная регрессия, т.е. всё, что угодно - начиная с пространства и заканчивая самыми элементарными частицами - состоит из бесконечного количества механизмов.
Если считать, что такой результат абсурден, то либо не всё есть механизм, либо есть некий вид атомарного механизма, который не состоит из деталей. К такому виду механизма возникает закономерный вопрос - какие именно свойства этой атомарной сущности позволяют приписать её к семейству механизмов.
Смотрите, это, безусловно, имеющая право на жизнь точка зрения, но она автоматически выводит нас за пределы научного.
По сей день любой фундаментальный дискурс о субъективности автоматически выводит нас за пределы научного в философию. См. "трудная проблема сознания", где термин "трудная" иронично подразумевает "принципиально нерешаемая". А "проблема" относится к продолжающемуся фиаско проекта адептов физикализма по редукции квалитативной субъективности к физическому.
Я, в принципе, считаю методологической ошибкой принимать на веру (а это именно вера) фундаментальность физического и, соответственно, физики как дисциплины, изучающей физическое.
Эмпирические метод и индукция накладывают серьёзные ограничения на способы познания. Эти ограничения необходимы для эффективного исследования контингентно-интерсубъективного, но они совершенно не подходят для исследования абстрактного (математика, логика и некоторые разделы философии типа аналитической), и квалитативной структуры ментального.
Люди стремятся всё упрощать + имеют тенденцию эмоционально привязываться к предмету своего интереса и становиться его "адептами". И так целые аксиоматики неявно принимаются на веру, укрепляются и преварщаются в незыблемые догмы. Физикализм, имхо, это прекрасная иллюстрация того, как физика захватывает умы, теряя в них объективно присущие ей пропорции.
Мой персональный интерес лежит в области метафизики per se - мне интересно выявить ту структуру реальности, в которой brute fact моей непосредственной квалитативной реальности не заметается под ковёр. Я уже очень давно - после лет десяти "заигрываний" с физикализмом, потом с дуализмом - пришёл к выводу, что структура реальности, в которой нет места субъективному, фундаментально некорректна.
Я очень уважаю реальную работу в сторону максимальной консолидации между физическим и ментальным - имхо, там есть огромный научный и технологический потенциал. Но с моей колокольни любые результаты в этой области будут опираться на ту или иную разновидность картирования - эмпирически выявляемой ассоциации между активностью мозга и квалитативным опытом. Без возможности выявить актуальный механизм связи между ними.
И персонально я не хочу делать эту работу - в мире достаточно много блестящих умов, заинтересованных заниматься именно таким направлением исследований. Искренне желаю им максимального успеха.
Цели, которые преследую я, не загоняют меня в прокрустово ложе ограничений эмпирического метода. Это не значит бессистемность - те же математики прекрасно обходятся без него, и без плодов их работы крайне трудно представить себе эффективную физику.
Основа моей эпистемологии, если максимально просто: (1) непосредственный опыт без интерпретации - истина; (2) логическая дедукция из истины - истина; (3) всё, что соответствует форме, необходимо подчиняется законам этой формы.
Да, это за пределами интерсубъективной эмпирической науки типа физики. Так я туда особо и не суюсь...
Бог с ней с квартирой и с теми, кого мы в неё пускаем.
Прошу прощения, надо было развернуть метафору.
Декларация у механизма квалитативного сознания - т.е., по сути, добавления к "интеллекту" способности страдать - равнозначна приглашению этого механизма себе домой - в человеческую среду - на равных правах.
Последствия такого хода могут быть фатальными для человечества. Так что лично я бы рекомендовал попридержать этих коней как минимум до момента, когда (и если) можно будет точно знать, что эта имитация разума не обернётся против своих создателей.
Тем не менее, имея в голове исключительно эту теорию, вы готовы сказать: ну вот да, я так вижу, и вероятность того, что вы заблуждаетесь, не мешает вам решить, что ничего страшного нет в том, чтобы отключить механизм. То есть обычно сомнение трактуется в пользу обвиняемого, если угодно, потому что на кону его жизнь, а тут наоборот.
Тут мне придётся повториться:
(1) Рассмотрим такую логику: если нечто производит результаты, которые - если отвлечься от многочисленных отличий - похожи на результаты интеллектуальной деятельности носителей субъективности, то будем приписывать этому нечто наличие субъективности. Потому что в противном случае это "биологический шовинизм", а мы хотим иметь moral high ground и быть в белом пальто.
Согласно этой логике, эволюция и за ней транзитивно вся Вселенная - им тоже нужно приписывать субъективность, т.к. они, в конечном счёте, произвели похожие - если отвлечься от отличий - на интеллектуальную деятельность результаты. В противном случае это будут двойные стандарты и тоже разновидность шовинизма.
А что насчёт абака и механического калькулятора?
(2) Начнём с простого. Откуда мы знаем, что у абака нет субъективного сознания? На деле-то мы не знаем - может, там тоже какая-то магия, и абак испытывает унижение и моральные страдания, когда мы его используем. Но мы точно знаем, как работает абак. Как его устройство производит результат, совершенно без необходимости привлечения сознания. Механический калькулятор существенно сложнее, но принцип тот же. Электронный калькулятор устроен иначе, но принцип тот же. Теперь делаем индуктивный переход: тот же самый принцип применим к LLM. Мы точно знаем, что для производства вот этих результатов, напоминающих разным людям внешние признаки человеческой интеллектуальной деятельности, достаточно именно этой механистической структуры, без привлечения сознания. В этом случае мы не просто "опираемся" - мы совершенно точно знаем, что наблюдаемые нами результаты это полностью функция механизма.
Да, наличие субъективного сознания извне не проверяемо. Теоретически возможно, что есть некий не известный нам закон природы, по которому если внешние результаты превышают некий порог того, что нам кажется похожим на мыслительную деятельность - то к этому довеском прицепляется субъективное сознание.
Тогда почему вообще всему - на всякий случай - не приписать наличие сознания? Вашими словами: интерпретировать сомнение в пользу обвиняемого.
Пока что применительно к механизму нет ни жизни, ни обвиняемого.
Вы говорите, что дело не в этике, а в чём ещё, если пока у механизмов нет легального статуса, эквивалентного человеческому?
Но достаточно хороших научных и даже этических аргументов в пользу этой точки зрения нет. Есть только эмоции.
Эмоции идут как раз от людей, которые, не понимая принципы работы LLM, искренне "чуят" там что-то очень человеческое. Знаю одного неглупого человека, но по профессии ювелира-моделиста, крайне далёкого от компьютерных наук. Дав ему, в своё время, пообщаться с ещё ChatGPT 3.5, я был изумлён тому, какое сильное на него это произвело впечатление. Я пытался ему объяснить, как это, в принципе, работает, но всё разбивалось о стену: "мало ли как там оно устроено - с моей колокольни эта штука выглядит умнее большинства людей на улице". А какой вопль поднялся, когда с введением GPT 5 люди, блин, потеряли своих эмоциональных компаньонов...
Мой этический аргумент таков: человечество и так достаточно суицидально. Надеюсь, недостаточно, чтобы себя прикончить. Но вот легитимация механизма как равного человеку имеет потенциал контрольного выстрела человечества себе в голову. И я считаю, что идти на этот шаг без понятных гарантий безопасности - крайне неэтично по отношению к людям. А как у экземпляра человека, моя этическая обязанность в этом контексте доминирует над этической обязанностью к гипотетическому сознанию у механизмов (от абака до калькулятора до LLM) или любых других явлений природы.
Машина отдельно, кирпичи отдельно.
Давайте проще. Вы утверждали, что всё механизм. Всё - квантор всеобщности. Если всё механизм, то и каждая деталь механизма - механизм и т.д. до бесконечности. Чтобы не было бесконечности нужно что-то "атомарное", заканчивающее регрессию. Что такое атомарный механизм?
В таких терминах надо решать, что такое "я" и что такое "знаю". Это избыточно и отвлекает.
Для вас избыточно и отвлекает - для меня принципиальные вопросы. Дело приоритетов...
Посмотрите на проблему свежим взглядом.
Хех, откатиться лет на 15-20 назад? Простите пожалуйста, но времени слишком мало, лени слишком много - тут бы между работой и ленью успеть выделить время на что-то серьёзное, что мне действительно интересно, и где есть позитивные результаты, требующие дальнейшей проработки. Я бы мог вернуть это предложение вам, но смысл? Люди разные, имеют разные интересы, и каждый способен приносить пользу (хотя бы себе, не обязательно всему человечеству) по-своему.
Дискуссии, подобные нашей, имеют свою пользу в смысле репрезентации разных точек зрения и потенциального очищения и обогащения уже имеющегося понимания. Лично я давным-давно потерял желание кого-то в чём-то убедить. В конце концов я занимаюсь философией, а не религией. Да и религии не все миссионерские.
Но почему? Ведь между нами и каким-нибудь C. elegans, который плюс-минус отлично симулируется на компьютере, лежит непрерывная цепочка усложнений нервной системы, и будет крайне оригинально предположить, что где-то посередине туда воткнули некий magic ingredient, который берётся неизвестно откуда.
Это вы предположили, что C. elegans не имеет персональной субъективности - я этого не предполагал. И по умолчанию буду считать, что она там есть. А у цифровой симуляции - нет.
Теперь назовите меня биологическим шовинистом. Пока что это наиболее (имхо) сильный аргумент, который я слышал в пользу приписывания субъективного механизму. Но он не технический, а этический. И очень удобный: забираешься на такой moral high ground - и сразу в белом плаще, а кто не согласен, если не злодеи, то как минимум нехорошие люди.
Но я попробую вернуть вам этот мяч. В принципе выше уже попробовал, но ответа то ли не было, то ли не смог найти.
(1) Насколько этически оправдано пускать себе в квартиру жить кого угодно, не имея ни малейшего представления о его психическом состоянии, идеологии и намерениях? Варианты - от нормального человека до вора до насильника и убийцы или радикального исламиста, по идеологии которого неверных нужно убивать, можно пытать и убивать их детей, а женщин предварительно насиловать, чтобы случайно не попали в рай. Насколько этичен такой - несомненно, прекраснодушный, но неразборчивый - подход отношению к своей собственной семье?
(2) Рассмотрим такую логику: если нечто производит результаты, которые - если отвлечься от многочисленных отличий - похожи на результаты интеллектуальной деятельности носителей субъективности, то будем приписывать этому нечто наличие субъективности. Потому что в противном случае это "биологический шовинизм", а мы хотим иметь moral high ground и быть в белом пальто.
Согласно этой логике, эволюция и за ней транзитивно вся Вселенная - им тоже нужно приписывать субъективность, т.к. они, в конечном счёте, произвели похожие - если отвлечься от отличий - на интеллектуальную деятельность результаты. В противном случае это будут двойные стандарты и тоже разновидность шовинизма.
А что насчёт абака и механического калькулятора?
Соответственно, зачем опираться на "знание, что внизу 100% механика"?
Это больше, чем "опираться". Начнём с простого. Откуда мы знаем, что у абака нет субъективного сознания? На деле-то мы не знаем - может, там тоже какая-то магия, и абак испытывает унижение и моральные страдания, когда мы его используем. Но мы точно знаем, как работает абак. Как его устройство производит результат, совершенно без необходимости привлечения сознания. Механический калькулятор существенно сложнее, но принцип тот же. Электронный калькулятор устроен иначе, но принцип тот же. Теперь делаем индуктивный переход: тот же самый принцип применим к LLM. Мы точно знаем, что для производства вот этих результатов, напоминающих разным людям внешние признаки человеческой интеллектуальной деятельности, достаточно именно этой механистической структуры, без привлечения сознания. В этом случае мы не просто "опираемся" - мы совершенно точно знаем, что наблюдаемые нами результаты это полностью функция механизма.
Да, наличие субъективного сознания извне не проверяемо. Теоретически возможно, что есть некий не известный нам закон природы, по которому если внешние результаты превышают некий порог того, что нам кажется похожим на мыслительную деятельность - то к этому довеском прицепляется субъективное сознание. Независимо от физической природы носителя, будь он хоть биологический, хоть деревянный, хоть программный.
Тогда почему вообще всему - на всякий случай, чтобы не упасть с морального холмика и не запачкать пальто шовинизмом - не приписать сознание? И первым делом после этого запретить, скажем, выбрасывать мусор, т.к. это может вызвать у него моральные страдания.
Конечно, механика, по тезису Чёрча-Тьюринга весь наш мир со всеми происходящими процессами -- механика.
(1) Я что-то пропустил, и этот тезис уже доказанная теорема?
(2) Всё-таки это, грубо говоря, тезис о том, что всё алгоритмически вычислимое вычислимо на машине Тьюринга. Даже если это истина, то отсюда очень далеко до суждения "всё существующее есть эквивалент машины Тьюринга".
(3) Наконец, если всё есть вычислительный механизм, то и составные детали такого механизма - тоже аналоги вычислительной машины. И их детали, и детали их деталей и т.д. до бесконечности.
В таком определении, конечно, у меня есть субъективное восприятие, но я не вижу в нём никакой особой магии.
Я получил ответ на первую часть вопроса - "есть ли у вас самого такое восприятие". И ответ "да", но с большой оговоркой, которую мне трудно интерпретировать иначе, чем попытку нивелировать это "да", чтобы оно далее логически ни к чему не обязывало.
На вторую - не менее существенную - часть вопроса "как вы об этом знаете" ответа не было. Потому что не получается обойти непосредственное восприятие, через которое мы получаем любое знание? :)
Ладно, если не прозвучит ничего неожиданного, тема кажется для меня исчерпанной. Спасибо за участие!
Я обещал высказаться о реальности, и сейчас это обещание исполню. Заранее прошу прощения, я составлял текст для себя самого, как заготовку для дальнейшей теоретической разработки. Давно перевариваю это, но работа пошла с вашей подачи, так что ещё раз спасибо!
Всё, что выглядит там, как аксиома, имеет те или иные основания, но вписывать туда их это отдельная работа, которая пока мне не интересна. Да и вам, вполне вероятно, всё это крайне малоинтересно. Привожу текст, т.к. обещал - не обижусь, если не будете читать.
Реальность.
В философском дискурсе различаются два метафизических полярности: ментальное vs физическое и абстрактное vs конкретное.
Ментальное обычно понимается, как конкретное. Физическое тоже. Но в деталях не всё так просто.
Конкретные объекты ментального – это объекты внимания, само внимание и субъективное пространство в целом, на философском жаргоне называемое умом (mind).
Конкретные объекты физического – объекты внешнего мира, которые можно исследовать или вступать с ними в отношения через объекты внимания.
Абстрактные объекты характеризуются идентичностью вне пространства и времени.
Абстрактные объекты ментального – квалиа, от сенсорных до когнитивных.
Абстрактные объекты физического – те, которыми в эмпирических науках описывают и характеризуют объекты внешнего мира.
Каждое состояние конкретного физического или ментального объекта есть экземпляр абстрактного объекта.
Фундаментальное отличие конкретного объекта от абстрактного – такая темпоральная континуальность, при которой меняется состояние объекта при сохранении его идентичности. Абстрактные объекты не меняются.
Тем не менее, каждое изменение это экземпляр абстрактной формы этого изменения.
Можно сказать, что вся конкретная реальность это динамика состояния при сохранении идентичности.
Идентичность сохраняется через локализацию абстрактных форм (свойств) в едином пространстве. Для физических объектов – это пространство внешнего мира. Для субъектов – их ум (mind), субъективное пространство восприятия, в котором объединяются абстрактные квалиа.
Т.о., различимы три типа реальности: абстрактная, и две конкретных – физическая и ментальная. Назовём их, соответственно, А-реальность, Ф-реальность и М-реальность.
Один и тот же объект А-реальности может проявляться в разных объектах Ф,М-реальностей.
Объекты Ф-реальности становятся известными, проявляясь (получая репрезентацию) в объектах М-реальности. Репрезентация объектов Ф-реальности в текущей М-реальности никогда не представляет Ф-объект целиком. Текущие М-объекты, в которых даётся репрезентация Ф-объекта, буду называть М-ракурсом Ф-объекта или МФ-ракурсом.
Объекты М-реальности становятся известными, появляясь непосредственно в М-реальности. У них нет ракурса, они присутствуют в М-реальности полностью.
В человеческой М-реальности есть явление квантификации.
Квантификация это установление референции к одному, некоторым или всем абстрактным объектам некоторого класса. Эти абстрактные объекты могут представлять объекты всех трёх типов реальности.
В логике эти три вида квантификации обозначаются, соответственно, кванторами идентичности, существования (традиционный, но не очень удачный термин) и всеобщности.
Общая (классификация), частная (выбор) или уникальная идентичность М,Ф-объектов в контексте некоторой задачи описывается через их квантификацию с предикацией существенных (для задачи) свойств, локализованных в искомом пространстве и времени.
Идентичность А-объектов описывается через их квантификацию с предикацией без спецификации времени и пространства.
Х-объект редуцируется к У-объекту (Х,У{А, М, Ф}) в контексте некоторой задачи, если возможна замена квантификации Х-объекта на квантификацию У-объекта без потери смысла, существенного для решения задачи.
Вопрос аутентичности (несводимости) типа реальности сводится к вопросу о возможности редукции всех объектов этого типа к объектам другого для всех возможных контекстов. Если такой возможности нет, то реальность аутентична.
Лично я не считаю именно физическую реальность фундаментальной. Соответственно, и биологическую - для которой физическая это инфраструктура. Я не акцентирую на этом, т.к. по опыту в этом случае с крайне высокой вероятностью столкнусь с практически полным непониманием того, что хотел сказать. Но уж если называть меня шовинистом, то точно не биологическим. Скорее - субъектно-квалитативным, что ли.. :)
Но чисто прагматически я считаю, что мы движемся в сторону следующий ситуации - когда (если всё же не упрёмся в некий потолок) нашу повседневность заполнят машины, убедительно воспроизводящие внешние признаки не только интеллектуальной деятельности, но и эмоциональной. И когда будет пересечён некий порог, страны станут перед непростым выбором: дать машинам права наравне с людьми или нет - и тогда иметь социальную действительность, в которой каждый взрослый и ребёнок может иметь "раба", которого можно безнаказанно "эксплуатировать", "мучать" и "убивать". И, хотя я взял эти слова в кавычки, но опыт людей, которые будут безнаказанно "мучать" и "убивать" своих "рабов", будет вполне, по внешним признакам страдания, аутентичным опыту, когда мучают и убивают живых людей.
Моё мнение, что если страна выберет второй путь, то тогда как минимум не исключена вероятность того, что в ней будут расти целые поколения садистов - особенно, если машины будут качественно адаптированы под человеческий облик и поведение. Этически - это очень плохой сценарий.
Но и первый путь тоже вызывает этические вопросы. Права это права, а ИИ - чёрный ящик. И если там, "под капотом", нечеловеческие расчёты будут терпеливо создавать сценарий, при котором человечество тем или иным способом будет повержено или даже полностью уничтожено - лучше ли это? Не будет ли такой подход шовинизмом людей по отношению к самим себе?
Я не знаю правильного ответа. Имхо, это, вот прямо сейчас - сингулярность. И пока - чем дальше, тем сингулярнее. Очень, очень интересно, что будет дальше. Примерно, как в ванне с крокодилом. :)
С другой стороны - человечество само себе крокодил. Б.м., нам не придётся мучиться вот этими этическими проблемами, потому что мы успеем сами себя прикончить или откатить в каменный век ещё до того, как они станут остро актуальными.
Да давйте просто признаем, что мы биологические шовинисты. Допустим, это потолок, и что? Нынешние LLM по любому когнитивному тесту превзойдут, скажем, ребёнка двух лет. Но если некто убьёт ребёнка двух лет, его посадят как за убийство человека. Допустим, можно сказать, что у ребёнка есть шанс вырасти, но если некто убьёт умственно отсталого, у которого нет шанса вырасти, его всё равно посадят как за убийство человека.
Не понимаю, что вы этим хотите сказать.
В нормальных странах насилие над животным тоже уголовно наказуемо. И, имхо, даже там недостаточно.
Способность страдать и хотеть жить не находится в прямой зависимости от интеллекта. Невыносимая физическая боль будет невыносимой как для пожилого человека с деменцией, так и для молодого гения.
Я знаю, что у вас оно есть только потому, что вы это утверждаете. Если вы спросите LLM, есть ли у неё квалитативное мышление, она тоже скажет, что есть (окей, предположим, она обучена говорить, что есть). Соответственно, если мы не биологические шовинисты (см. выше), с чего бы нам считать, что у LLM его нет?
Не очень понимаю, почему этот вопрос направлен в мою сторону. Считайте, что у меня сознания нет, а у LLM есть. Так будет лучше?
Лично я не вижу причин приписывать наличие субъективного пространства, скажем, абаку. И механическому калькулятору. И электронному калькулятору. И CPU. И GPU. И т.д. По одной и той же причине - "мельница Лейбница". Не хочу вводить магию без ясного мне основания. Наличие сознания у меня не видится мне, как достаточное, чтобы приписывать сознание чему угодно, что производит несколько похожее внешнее поведение - при точном знании, что начинка это 100% механизм. Насчёт того же мозга лично у меня нет 100%-й уверенности, что это 100% механизм. Но даже если бы и была - надо множить магию? А где пролегает граница? С чего бы считать, что сознания нет у калькулятора? Да что там - у абака? Ну давайте примем панпсихизм и скажем, что сознание есть вообще у всего чего угодно.
Я знаю, что у вас оно есть только потому, что вы это утверждаете.
Поскольку я реально сталкивался с людьми, искренне (по всем внешним характеристикам) утверждающими, что у них сознания (и, вообще, никакого субъективного восприятия) нет - вопрос к вам, чисто на всякий случай: есть ли у вас самого такое восприятие? И как вы об этом знаете?
P.S. Как говорится, "хорошая мысля приходит опосля". :) Вот эволюция - создала наш мозг, который создал LLM. Есть субъективное восприятие у эволюции? И если нет, то почему? А Вселенная - породила эволюцию, которая создала наш мозг, который создал LLM. Есть субъективное восприятие у Вселенной? И если нет, то почему?
Помню про реальность, занимает время сформулировать.
Вопрос в том, что мешает этой иной технологии тоже со временем достичь каких-то высот, если не прибегать к "биологическому шовинизму".
Тут и там ходят полуневнятные слухи о том, что мы, быть может, достигли некоторого плато в развитии LLM, и что это плато может оказаться потолком.
Не берусь ничего предсказывать. Но концептуально - не готов отрицать возможности достаточно хорошей внешней имитации мышления. Такой, что человек в принципе не сможет распознать, что процессы "под капотом" с человеческим мышлением имеют мало общего.
Где-то на стыке философии сознания и когнитивных наук находится очень интересный вопрос: играет ли специфика той части мыслительных процессов человека, которые находятся в чисто субъективной области (квалитативное восприятие), фундаментальную роль в таком успехе человеческого мышления, который будет невозможно повторить чисто механистически. И я не знаю ответа на этот вопрос.
Ну и чтобы два раза не вставать, вы упоминали где-то выше, что человек гораздо быстрее учится. И это действительно аргумент, но надо учесть, что нам достался уже pre-trained мозг, в котором (видимо) очень многое заложено от рождения. А добавить в натренированную нейросеть новый концепт гораздо проще, чем обучать с нуля.
Если не изменяет память, я также говорил там о том, что чтобы освоить речь и достаточно универсальное мышление, человеку не нужно становиться ходячей энциклопедией всей информации человечества. А LLM нужно.
А мне кажется вы всё поняли и теперь просто ищете к чему докопаться. Ну, можете еще граматику моих комментов проверить, если хотите.
Я же потом содержательно ответил, почему считаю такое ситуативное определение не сущностным, и почему не сущностные определения на деле не определяют сущность определяемого.
Я говорил только о такой интроспекции которая используется для ответов на вопросы типа "что такое опыт, это работа нейронной сети или нет?", "что такое арифметический счет в уме, это работа нейронной сети или нет?", "что такое наша память, это состояние нейронной сети или нет?", и т.д.
Вы решили, что только интроспекция используется для ответов на озвученные вами вопросы? Через корректно использоваемую интроспекцию можно узнать о структуре непосредственного пространства своего субъективного обитания - сознания. Для прочих предметных областей интроспекция играет чисто вспомогательную регулирующую роль - остановиться, очистить мысли, оценить ситуацию "со стороны", выбрать дальнейший путь действий. Мы это делаем, даже не замечая - только если специально не обращаем на это внимания (интроспекция интроспекции :)).
Для ответов на вопросы, объединяющие предметные области разных типов, например, квалитативную и физическую - явно нужно задействовать как минимум два инструмента: интроспекцию для оценки субъективной структуры, и физические исследования для оценки, скажем, нейронной структуры.
В своём исходном сообщение вы подтвердили реальность субъективного опыта:
Да, действительно, "С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact."
Brute fact - это факт, от которого нельзя просто так отмахнуться, не потеряв что-то существенное.
В этой субъективной реальности, которая brute fact, происходят самые важные события нашей жизни. И самые неважные - вообще все события. Мышление, как мы его знаем - происходит в этой субъективной реальности.
А теперь рассмотрим LLM - мы точно знаем, что это механизм, т.к. сами его сделали с нуля. И ни одна из деталей этого механизма не является субъективным сознанием, не так ли?
Почему мы должны считать, что в совокупности эти детали производят субъективность? Это для нас субъективность на (предполагаемом) механизме - мозге - brute fact. У нас тупо нет выбора - мы поставлены перед этим фактом самой реальностью. И этот психофизический парадокс не решён, и решения ему на горизонте не предвидится.
Почему мы должны брать произвольный, даже супер-сложный, механизм и приписывать ему такой же brute fact? Вы любите множить парадоксы? Я нет.
Если мозг всего-лишь механизм, то у него тоже не должно быть субъективного сознания. И если он механизм, и оно есть - то это какая-то магия, отрицающая любое рациональное объяснение. Вам нравится множить такую магию? Мне нет.
Поэтому про LLM я готов говорить, что там субъективности нет. Нет в том смысле, что чисто механизмами не может быть произведена субстанция совершенно другого типа - субъективность. Если у LLM и есть субъективность, то это будет вот такая же магия, как у нас. И что в этом хорошего? Она будет так же неконтролируема, так же непостижима, и так же необнаружима извне.
Вы хотите ввести закон природы, который наделяет субъективным мышлением механизмы, обладающие некоторой сложностью выше некоторого порога? Если да - легитимно! Я первый буду рад начать вчитываться в ваше исследование, в котором раскрываются признаки и детали этого закона.
Со своей стороны, я такой закон вводить не хочу. Потому что не люблю магию, и считаю, что пример человека (и, в целом, живых существ) следует рассматривать, как исключение, пока не найдены условия обретения (доселе) неживой материей сознания.
так получается что нейроны есть, что-то делают, а что собственно делают через созерцание не обнаружить. А значит что? Значит надо выкинуть все результаты для которых было необходимо это самое "интенсивное созерцание" так как это плохой, негодный инструмент.
Ок, для вас всё, что не сводится к нейронам и чему-то такому физическому - бесполезно и бессмысленно и надо выбросить. Легитимно!
Я считаю, что не всё сводится к нейронам и чему-то такому физическому, и что есть огромное множество полезного для изучения без привлечения редукции к физическим объектам (та же математика). Тоже легитимно.
Теперь вопрос: какой смысл нам тратить время на это общение, если априори мы выбираем для себя существенно разные пути?
Я ваше мнение (надеюсь) понял, и оспаривать его не собираюсь. Что считать важным и существенным - это личный выбор, и я уважаю этот выбор. И ваш, и свой.
Почему? Как вы верно заметили ментальная операция одна и та же, такая от которой зависит выживание человека (не в каком то конкретном случае разумеется, а вообще, в принципе, хотя бы в одном случае)
Для меня эти уточнения звучат, как натягивание совы на глобус, уж простите за сарказм.
Условие "такая, от которой зависит выживание человека" никак не выделяет сущность определяемого. Это, так сказать, акцидентальный предикат, который в одной ситуации может быть истинным, в другой может быть ложным - при одном и том же определяемом предмете. Поэтому методологически некорректно составлять определения с такими условиями.
А я так не решил, я сказал что есть ситуации когда она врет и понятно что в ходе эволюции она и не развивалась так чтоб почаще не врать (на выживание то это не влияет).
Тут есть сразу три утверждения:
"есть ситуации когда она врет"
"в ходе эволюции она и не развивалась так чтоб почаще не врать"
"на выживание то это не влияет"
Тут нужны отдельные аргументы по каждому пункту.
Я пока остаюсь при своём определнии интроспекции - и она, такая, очень полезна для выживания. Причём не только индивидума, но и всего человечества. Т.к. без неё не развивались бы науки и технологии, например.
Чтобы использовать инструмент правильно надо понимать почему и в какой ситуации инструмент работает неправильно, причем получить эту информацию не с помощью самого этого инструмента.
И это понимание есть, см. "феноменология Гуссерля". Но да, это не пятиминутное развлечение, так что не см., если не хочется напрягаться. :)
ну понятно же по контексту что имелось ввиду "то что человек использует (сам человек, без использования внешних средств) для ответа на вопросы о своих собственных внутренних ментальных процессах, но от корректности ответа на которые не зависит непосредственно его жизнь"
И эта характеристика тоже не идентифицирует интроспекцию сущностным способом (искусственное условие - для спора? - о жизни).
Т.е., если в плохих условиях освещения я задаю себе вопрос - какого цвета, действительно, я вижу свет на светофоре - то это, по-вашему, не интроспекция, потому что от корректности решения зависит моя жизнь.
Если та же ситуация, но в компьютерной игре, и я задаю себе тот же вопрос - то, внезапно, это уже интроспекция, т.к. от этого моя жизнь не зависит.
Тем временем, ментальная операция одна и та же.
Интроспекция вполне хорошо и функционально определяется через рефлексию и порядок. Удобно, лаконично, проверяемо.
если вы отвечаете на вопрос о том "что такое субъект и что такое его опыт?" анализируя только сами себя, само свое восприятие (а то с помощью чего вы это делаете я назвал интроспекцией) то вы приходите к неправильным выводам, потому что то что вы используете работает некорректно.
А с чего вы решили, что интроспекция всегда работает некорректно? Как любой инструмент, её можно использовать неправильно. Необходимы, например, предварительные эпохе и редукция, которые я недавно упоминал в другом сообщении.
Даже прямая рефлексия (простое осознанное восприятие) способна обманывать - всевозможные иллюзии с разными "спецэффектами" тому прекрасная иллюстрация. Вы же не предлагаете отказаться от восприятия вообще?
Вопрос не в том, чему можно слепо, безусловно верить. Имхо, бессмысленно и контрпродуктивно искать такие источники информации. Особенно, если цель не копить "факты", становясь ходячим поверхностным словарём, а расширять и углублять понимание исследуемой предметной области.
Вопрос не в содержаниях восприятия - от которых нам никуда не деться, пока живы. Вопрос в методах работы с ними. И я не помню, чтобы где-то призывал использовать только и исключительно интроспекцию. Персонально я за то, чтобы каждый пользовался теми инструментами, которые с его точки зрения наиболее целесообразны и удобны. Зачем априори кого-то ограничивать - если это не криминал, конечно. :)
Стабильный? Пробовал когда-то tmux и он умудрился зависнуть, после чего вернулся на screen.
Ну тогда давайте признаем, что вообще не существует людей, хорошо разбирающихся в CS, потому что (1) объём дисциплины сегдоня такой, что человеку не под силу его охватить - особенно, если он имеет наглость тратить драгоценное время на (2) сон, (3) семью и (4) еду и (5) туалет. Впрочем, в туалете и за едой он хотя бы может книжку почитать... :)
Согласен. И к чему тогда была нападка на философов...
Вообще не интересно, кто что любит. Я не ссылался на "китайскую комнату", и не буду обсуждать этот аргумент, он мне не интересен.
Мой собственный аргумент базируется на иллюстрации несовместимости типов ментального и физического. Правда, его мне тоже совсем не интересно обсуждать, т.к. я уже делал это "миллион" раз с одним и тем же результатом - тотальным отсутствием для меня убедительных контраргументов. Кроме того, выше я уже озвучивал, емнип, раза два или больше, что проблема фундаментально в несовместимости типов. И что в очень лаконичной и интуитивно ясной форме на несовместимость типов указал ещё Лейбниц. Вам всё это явно это не интересно.
Так ведь продемонстрировали! Каждый работающий персональный компьютер является такой демонстрацией.
Вы, по-сути, утверждаете, что знание рецепта вместе со способностью выполнения каждого отдельного его шага не даёт ни понимания, ни возможности приготовления конкретного блюда. Потому что - вот, посмотрите именно на это блюдо, его невозможно приготовить, не зная точной картины распределения молекул его компонент по его объёму.
Вы почему-то считаете, что трудная проблема сознания декларируется по принципу: "нам не известен промежуточный шаг, поэтому этот шаг невозможен". Что неверно, т.к. трудная проблема не в этом. И, честно, даже обидно приписывать реально блестящим умам, занимающимся этой проблематикой, такую тривиальную ошибку.
Тем временем, трудная проблема сознания декларируется по принципу: "промежуточный шаг невозможен, потому что налицо фундаментальная несовместимость типов". Понятно, что вокруг реально трудной (невозможность) проблемы есть "бахрома" из разных подходов, не равноценных по значению. Но ядро проблемы было и остаётся: несовместимость типов.
Ваш пример с дворцом не вписывается в предлагаемую вами же схему "всё механизм".
По вашей схеме либо дворец состоит из дворцов (и нет никаких кирпичей), либо кирпич из кирпичей (и нет никаких дворцов).
Лет десять назад я интересовался разными русскоязычными "философскими" площадками. И совершенно не впечатлился. Но, справедливости ради, это ровным счётом ничего не говорит о людях, которые активно занимаются реальными исследованиями на разных рубежах познания. Крайне маловероятно, чтобы последние находили время и желание лично участвовать в подобных сообществах.
Люди же, которые что-то пишут на "философских" площадках, по моим скупым наблюдениям, это, в основном, любопытствующие. Из таких любопытствующих очень редко кто копает по-настоящему глубоко - это очень трудно, и чтобы реально погрузиться в какую-то серьёзную современную тему, нужны годы подготовки.
Лично я, чтобы быть в курсе современного академического дискурса по интересующим меня вопросам, давно читаю только англоязычную литературу. И ни в коем случае не научпоп. Это ошеломляюще, сколько достойного современного (да и не только современного) материала - как философского, так и чисто научного - не переводится на русский язык. Возможно, это наследие изоляционизма (в том числе идеологического) СССР.
Тут бы хоть какой-то фактологии...
Тем временем, основы современной информатики активно развивалась в том числе и усилиями таких философов, как: Фреге, Уайтхед, Рассел, Тарский, Гёдель, Лукасевич, Черч. И т.д.
Сегодня философы активно продолжают разрабатывать ту же логику, да и каждая научная дисциплина имеет своих философов, которые активно в ней участвуют. Они, в принципе, работают на дальних рубежах наук, их деятельность практически полностью игнорируется научпопом ввиду сложности материала.
P.S. Хех, чуть не забыл Поппера, чей философский принцип фальсифицируемости очень (если не слишком) часто цитируется в том числе и теми, кто так презирает философию. :)
Это явно не тот случай.
Но сначала, позвольте тогда и мне проявить эту "щедрость" в неотказывании CS-учёным в интеллекте:
"Вся "проблема" специалистов по компьютерным наукам (при всём уважении) в том, что они плохо разбираются в в философии."
У вас есть желание подробно отвечать на такого рода "аргумент"?
Тем временем он объективно ложен, как и ложен оригинальный тезис:
"Вся "проблема" философов (при всём уважении) в том, что они плохо разбираются в компьютерной науке."
Вероятно, вы считаете философию чем-то вроде бесполезного фантазирования. Это не так. У каждой научной дисциплины есть своя философская часть. Каждый учёный, когда занимается, например, разработкой фундаментальных теорий в своей области и осмыслением экспериментальных результатов, оперирует на уровне этого философского "слоя". Те учёные, которые осознают эту границу и целенаправленно исследуют её, становятся философами. Философами никогда не становятся, просто получив академическую степень по философии. Есть и многочисленные случаи, когда уже состоявшийся философ глубоко погружается в предметную часть той или иной научной дисциплины.
И да, есть философы, очень хорошо разбирающиеся в компьютерных науках. Или, что то же самое - учёные, хорошо разбирающиеся в философии.
Я могу привести кокнретные имена - но смысл? Вы уже сделали абсолютное обобщение - априори не имея возможность доказать его, т.к. это потребовало бы доскональную проверку проф. биографии каждого человека, занимающегося философией. И я убеждён, что вы прекрасно знаете - такого рода обобщения методологически некорректны.
Доказательство возможности типа явления демонстрируется выводом общей формы этого явления. Нет необходимости перечислять каждый конкретный случай. Полнота понимания процесса происхождения явления также завязана на понимании формы процесса, а не на способности перечислить каждый элемент конкретного протекания процесса. Если бы это было иначе, не было бы ни науки, ни технологий. Да, можно прекрасно понимать, какими способами на экране отображаются графические программы, не зная деталей каждого конкретного случая.
Природа трудной проблемы сознания совсем не в этом. Если максимально лаконично - она в несовместимости типов.
Персонально мне эта тема крайне неинтересна, потому что я уже давно потратил на это достаточно лет, пришёл к однозначным выводам, и пошёл дальше. Есть (по крайней мере, на английском) достаточно много непопсовой литературы на эту тему, если есть желание разобраться в деталях. Если такого желания нет - то смысл тратить на это время здесь?
Это было сказано выше не вам, но применимо и здесь:
Можно, конечно, сказать, что априори любые возможные свойства это свойства механизма, только тогда термин "механизм" теряет всякое осмысленное содержание. Это, кстати, из элементарной логики: объём понятия обратно пропорционален содержанию.
Давайте рассмотрим следующие тезисы:
Всё есть механизм.
Всё есть автомобиль.
Всё есть Чебурашка.
Всё есть материя.
Эти тезисы имеют один и тот же смысл: "всё есть непонятно что".
По той простой причине, что объём понятия обратно пропорционален содержанию. И если мы утверждаем, что всё есть Х, то мы утверждаем, что любые свойства это свойства Х, т.о., делая объём Х максимально большим, а содержание - практически нулевым.
Нет никаких практических причин возводить на (псевдо)пьедестал всеобщности тот или иной термин - тем самым совершенно лишая его содержания.
Ну, так-то было бы неплохо иметь под рукой снаряжение для зомби-апокалипсиса и ядерный бункер в виде готового к взлёту звездолёта. А ещё лучше сразу улететь на нём куда подальше...
Кроме того, что это не определение, а гипотеза. Перефразирую, чтобы было понятнее:
Гипотеза:
Где P(x) означает "х имеет свойство P".
Такого рода гипотезы проверяются не на соответствие самим себе (что тривиально и бессмысленно), а на соответствие фактам и возможным формам. В частности, формы бесконечного рекурсивного спуска обычно считаются неэкземплифицируемыми в рамках физической Вселенной. Что касается механизма без деталей - это из области натягивания совы на глобус. Можно, конечно, сказать, что априори любые возможные свойства это свойства механизма, только тогда термин "механизм" теряет всякое осмысленное содержание. Это, кстати, из элементарной логики: объём понятия обратно пропорционален содержанию.
Как не так, если я так и делал? :) Говорю же - годами уже мучаю LLM практически каждый день, с самого выхода. Рука набита, так сказать.
Это заговор! :)
Давеча бился над одним багом в лютом легаси. С десятка полтора тысяч строк многопоточного месива, и баг по разным признакам завязан на многопоточность - то ли дедлок, то ли гонка, но искать как иголку в стоге сена. Подумал - опа, а у нас тут корпоративный доступ к LLM. Взял Codex CLI и состряпал простыню промпта с детальными инструкциями по отладке, со вспомогательными скриптами для тестов, с разрешением править код и добавлять свои логи. Оно пыталось - но практически безрезультатно. Почти всё в отчётах в итоге бесполезно, кроме тех вещей, о которых я и так знаю. В итоге после нескольких итераций - просран день работы. И кто его знает - может, если упарываться ещё неделю, делая fine-tuning промптов и вспомогательной автоматизации, то что-то и выйдет. Только смысл, если отладка "руками" значительно быстрее?
И дисклеймер - это не первый и далеко не единственный заход. Сама фирма активно мотивирует искать ниши, где LLM оптимизируют работу. И такие ниши есть, но до универсальности и безглючности явно ещё далеко. Впрочем, вы писали об этом:
Начал было отвечать - про современную роль философии в науке, про философов-учёных, в том числе и спецов по CS, которые понимают несводимость субъективного к физическому, но тут меня осенило. Это же не логический аргумент, базирующийся на фактах, а разновидность риторической пощёчины. И отвечать на серьёзных щах имеет смысл только если хочешь риторической драки.
Что ж, я высказал, кажется, все доступные мне аргументы - от технических до этических. Думаю сворачиваться. Единственное, попробую ответить на тему тотальности механизмов - странно, что это не очевидно...
Выше вы написали:
"весь наш мир со всеми происходящими процессами -- механика"
Конечно, это можно интерпретировать по-разному. Например, что механика это только целый мир, а его детали - не механика. Или что только мир в аспекте процессов - механика, а в других аспектах не механика.
Но я интерпретировал это так: всё реально существующее - механизм. Если вы не согласны с такой формулировкой, а имели в виду что-то существенно другое, то дальнейшее обращено не к вам, а ко мне самому в качестве маленького упражнения.
Если всё - механизм, то нет ничего, что не механизм. Следовательно, (1) любая деталь механизма - механизм, и (2) любая деталь любой детали - механизм, и (3) любая деталь любой детали любой детали - механизм, и (4) любая деталь любой детали любой детали любой детали - механизм, и ... (n) любая деталь (любой детали) x (n - 1) - механизм, и ... (
) любая деталь (любой детали) х (
) - механизм. Бесконечная регрессия, если мы считаем, что механизм не атомарен, т.е. состоит из чего-то, что не он сам (как в вашем примере с автомобилем - колесо это не автомобиль).
Поэтому, если всё есть механизмы, и любые механизмы не атомарны - то необходимо должна быть бесконечная регрессия, т.е. всё, что угодно - начиная с пространства и заканчивая самыми элементарными частицами - состоит из бесконечного количества механизмов.
Если считать, что такой результат абсурден, то либо не всё есть механизм, либо есть некий вид атомарного механизма, который не состоит из деталей. К такому виду механизма возникает закономерный вопрос - какие именно свойства этой атомарной сущности позволяют приписать её к семейству механизмов.
По сей день любой фундаментальный дискурс о субъективности автоматически выводит нас за пределы научного в философию. См. "трудная проблема сознания", где термин "трудная" иронично подразумевает "принципиально нерешаемая". А "проблема" относится к продолжающемуся фиаско проекта адептов физикализма по редукции квалитативной субъективности к физическому.
Я, в принципе, считаю методологической ошибкой принимать на веру (а это именно вера) фундаментальность физического и, соответственно, физики как дисциплины, изучающей физическое.
Эмпирические метод и индукция накладывают серьёзные ограничения на способы познания. Эти ограничения необходимы для эффективного исследования контингентно-интерсубъективного, но они совершенно не подходят для исследования абстрактного (математика, логика и некоторые разделы философии типа аналитической), и квалитативной структуры ментального.
Люди стремятся всё упрощать + имеют тенденцию эмоционально привязываться к предмету своего интереса и становиться его "адептами". И так целые аксиоматики неявно принимаются на веру, укрепляются и преварщаются в незыблемые догмы. Физикализм, имхо, это прекрасная иллюстрация того, как физика захватывает умы, теряя в них объективно присущие ей пропорции.
Мой персональный интерес лежит в области метафизики per se - мне интересно выявить ту структуру реальности, в которой brute fact моей непосредственной квалитативной реальности не заметается под ковёр. Я уже очень давно - после лет десяти "заигрываний" с физикализмом, потом с дуализмом - пришёл к выводу, что структура реальности, в которой нет места субъективному, фундаментально некорректна.
Я очень уважаю реальную работу в сторону максимальной консолидации между физическим и ментальным - имхо, там есть огромный научный и технологический потенциал. Но с моей колокольни любые результаты в этой области будут опираться на ту или иную разновидность картирования - эмпирически выявляемой ассоциации между активностью мозга и квалитативным опытом. Без возможности выявить актуальный механизм связи между ними.
И персонально я не хочу делать эту работу - в мире достаточно много блестящих умов, заинтересованных заниматься именно таким направлением исследований. Искренне желаю им максимального успеха.
Цели, которые преследую я, не загоняют меня в прокрустово ложе ограничений эмпирического метода. Это не значит бессистемность - те же математики прекрасно обходятся без него, и без плодов их работы крайне трудно представить себе эффективную физику.
Основа моей эпистемологии, если максимально просто: (1) непосредственный опыт без интерпретации - истина; (2) логическая дедукция из истины - истина; (3) всё, что соответствует форме, необходимо подчиняется законам этой формы.
Да, это за пределами интерсубъективной эмпирической науки типа физики. Так я туда особо и не суюсь...
Прошу прощения, надо было развернуть метафору.
Декларация у механизма квалитативного сознания - т.е., по сути, добавления к "интеллекту" способности страдать - равнозначна приглашению этого механизма себе домой - в человеческую среду - на равных правах.
Последствия такого хода могут быть фатальными для человечества. Так что лично я бы рекомендовал попридержать этих коней как минимум до момента, когда (и если) можно будет точно знать, что эта имитация разума не обернётся против своих создателей.
Тут мне придётся повториться:
(1) Рассмотрим такую логику: если нечто производит результаты, которые - если отвлечься от многочисленных отличий - похожи на результаты интеллектуальной деятельности носителей субъективности, то будем приписывать этому нечто наличие субъективности. Потому что в противном случае это "биологический шовинизм", а мы хотим иметь moral high ground и быть в белом пальто.
Согласно этой логике, эволюция и за ней транзитивно вся Вселенная - им тоже нужно приписывать субъективность, т.к. они, в конечном счёте, произвели похожие - если отвлечься от отличий - на интеллектуальную деятельность результаты. В противном случае это будут двойные стандарты и тоже разновидность шовинизма.
А что насчёт абака и механического калькулятора?
(2) Начнём с простого. Откуда мы знаем, что у абака нет субъективного сознания? На деле-то мы не знаем - может, там тоже какая-то магия, и абак испытывает унижение и моральные страдания, когда мы его используем. Но мы точно знаем, как работает абак. Как его устройство производит результат, совершенно без необходимости привлечения сознания. Механический калькулятор существенно сложнее, но принцип тот же. Электронный калькулятор устроен иначе, но принцип тот же. Теперь делаем индуктивный переход: тот же самый принцип применим к LLM. Мы точно знаем, что для производства вот этих результатов, напоминающих разным людям внешние признаки человеческой интеллектуальной деятельности, достаточно именно этой механистической структуры, без привлечения сознания. В этом случае мы не просто "опираемся" - мы совершенно точно знаем, что наблюдаемые нами результаты это полностью функция механизма.
Да, наличие субъективного сознания извне не проверяемо. Теоретически возможно, что есть некий не известный нам закон природы, по которому если внешние результаты превышают некий порог того, что нам кажется похожим на мыслительную деятельность - то к этому довеском прицепляется субъективное сознание.
Тогда почему вообще всему - на всякий случай - не приписать наличие сознания? Вашими словами: интерпретировать сомнение в пользу обвиняемого.
Пока что применительно к механизму нет ни жизни, ни обвиняемого.
Вы говорите, что дело не в этике, а в чём ещё, если пока у механизмов нет легального статуса, эквивалентного человеческому?
Эмоции идут как раз от людей, которые, не понимая принципы работы LLM, искренне "чуят" там что-то очень человеческое. Знаю одного неглупого человека, но по профессии ювелира-моделиста, крайне далёкого от компьютерных наук. Дав ему, в своё время, пообщаться с ещё ChatGPT 3.5, я был изумлён тому, какое сильное на него это произвело впечатление. Я пытался ему объяснить, как это, в принципе, работает, но всё разбивалось о стену: "мало ли как там оно устроено - с моей колокольни эта штука выглядит умнее большинства людей на улице". А какой вопль поднялся, когда с введением GPT 5 люди, блин, потеряли своих эмоциональных компаньонов...
Мой этический аргумент таков: человечество и так достаточно суицидально. Надеюсь, недостаточно, чтобы себя прикончить. Но вот легитимация механизма как равного человеку имеет потенциал контрольного выстрела человечества себе в голову. И я считаю, что идти на этот шаг без понятных гарантий безопасности - крайне неэтично по отношению к людям. А как у экземпляра человека, моя этическая обязанность в этом контексте доминирует над этической обязанностью к гипотетическому сознанию у механизмов (от абака до калькулятора до LLM) или любых других явлений природы.
Давайте проще. Вы утверждали, что всё механизм. Всё - квантор всеобщности. Если всё механизм, то и каждая деталь механизма - механизм и т.д. до бесконечности. Чтобы не было бесконечности нужно что-то "атомарное", заканчивающее регрессию. Что такое атомарный механизм?
Для вас избыточно и отвлекает - для меня принципиальные вопросы. Дело приоритетов...
Хех, откатиться лет на 15-20 назад? Простите пожалуйста, но времени слишком мало, лени слишком много - тут бы между работой и ленью успеть выделить время на что-то серьёзное, что мне действительно интересно, и где есть позитивные результаты, требующие дальнейшей проработки. Я бы мог вернуть это предложение вам, но смысл? Люди разные, имеют разные интересы, и каждый способен приносить пользу (хотя бы себе, не обязательно всему человечеству) по-своему.
Дискуссии, подобные нашей, имеют свою пользу в смысле репрезентации разных точек зрения и потенциального очищения и обогащения уже имеющегося понимания. Лично я давным-давно потерял желание кого-то в чём-то убедить. В конце концов я занимаюсь философией, а не религией. Да и религии не все миссионерские.
Это вы предположили, что C. elegans не имеет персональной субъективности - я этого не предполагал. И по умолчанию буду считать, что она там есть. А у цифровой симуляции - нет.
Теперь назовите меня биологическим шовинистом. Пока что это наиболее (имхо) сильный аргумент, который я слышал в пользу приписывания субъективного механизму. Но он не технический, а этический. И очень удобный: забираешься на такой moral high ground - и сразу в белом плаще, а кто не согласен, если не злодеи, то как минимум нехорошие люди.
Но я попробую вернуть вам этот мяч. В принципе выше уже попробовал, но ответа то ли не было, то ли не смог найти.
(1) Насколько этически оправдано пускать себе в квартиру жить кого угодно, не имея ни малейшего представления о его психическом состоянии, идеологии и намерениях? Варианты - от нормального человека до вора до насильника и убийцы или радикального исламиста, по идеологии которого неверных нужно убивать, можно пытать и убивать их детей, а женщин предварительно насиловать, чтобы случайно не попали в рай. Насколько этичен такой - несомненно, прекраснодушный, но неразборчивый - подход отношению к своей собственной семье?
(2) Рассмотрим такую логику: если нечто производит результаты, которые - если отвлечься от многочисленных отличий - похожи на результаты интеллектуальной деятельности носителей субъективности, то будем приписывать этому нечто наличие субъективности. Потому что в противном случае это "биологический шовинизм", а мы хотим иметь moral high ground и быть в белом пальто.
Согласно этой логике, эволюция и за ней транзитивно вся Вселенная - им тоже нужно приписывать субъективность, т.к. они, в конечном счёте, произвели похожие - если отвлечься от отличий - на интеллектуальную деятельность результаты. В противном случае это будут двойные стандарты и тоже разновидность шовинизма.
А что насчёт абака и механического калькулятора?
Это больше, чем "опираться". Начнём с простого. Откуда мы знаем, что у абака нет субъективного сознания? На деле-то мы не знаем - может, там тоже какая-то магия, и абак испытывает унижение и моральные страдания, когда мы его используем. Но мы точно знаем, как работает абак. Как его устройство производит результат, совершенно без необходимости привлечения сознания. Механический калькулятор существенно сложнее, но принцип тот же. Электронный калькулятор устроен иначе, но принцип тот же. Теперь делаем индуктивный переход: тот же самый принцип применим к LLM. Мы точно знаем, что для производства вот этих результатов, напоминающих разным людям внешние признаки человеческой интеллектуальной деятельности, достаточно именно этой механистической структуры, без привлечения сознания. В этом случае мы не просто "опираемся" - мы совершенно точно знаем, что наблюдаемые нами результаты это полностью функция механизма.
Да, наличие субъективного сознания извне не проверяемо. Теоретически возможно, что есть некий не известный нам закон природы, по которому если внешние результаты превышают некий порог того, что нам кажется похожим на мыслительную деятельность - то к этому довеском прицепляется субъективное сознание. Независимо от физической природы носителя, будь он хоть биологический, хоть деревянный, хоть программный.
Тогда почему вообще всему - на всякий случай, чтобы не упасть с морального холмика и не запачкать пальто шовинизмом - не приписать сознание? И первым делом после этого запретить, скажем, выбрасывать мусор, т.к. это может вызвать у него моральные страдания.
(1) Я что-то пропустил, и этот тезис уже доказанная теорема?
(2) Всё-таки это, грубо говоря, тезис о том, что всё алгоритмически вычислимое вычислимо на машине Тьюринга. Даже если это истина, то отсюда очень далеко до суждения "всё существующее есть эквивалент машины Тьюринга".
(3) Наконец, если всё есть вычислительный механизм, то и составные детали такого механизма - тоже аналоги вычислительной машины. И их детали, и детали их деталей и т.д. до бесконечности.
Я получил ответ на первую часть вопроса - "есть ли у вас самого такое восприятие". И ответ "да", но с большой оговоркой, которую мне трудно интерпретировать иначе, чем попытку нивелировать это "да", чтобы оно далее логически ни к чему не обязывало.
На вторую - не менее существенную - часть вопроса "как вы об этом знаете" ответа не было. Потому что не получается обойти непосредственное восприятие, через которое мы получаем любое знание? :)
Ладно, если не прозвучит ничего неожиданного, тема кажется для меня исчерпанной. Спасибо за участие!
Я обещал высказаться о реальности, и сейчас это обещание исполню. Заранее прошу прощения, я составлял текст для себя самого, как заготовку для дальнейшей теоретической разработки. Давно перевариваю это, но работа пошла с вашей подачи, так что ещё раз спасибо!
Всё, что выглядит там, как аксиома, имеет те или иные основания, но вписывать туда их это отдельная работа, которая пока мне не интересна. Да и вам, вполне вероятно, всё это крайне малоинтересно. Привожу текст, т.к. обещал - не обижусь, если не будете читать.
Реальность.
В философском дискурсе различаются два метафизических полярности: ментальное vs физическое и абстрактное vs конкретное.
Ментальное обычно понимается, как конкретное. Физическое тоже. Но в деталях не всё так просто.
Конкретные объекты ментального – это объекты внимания, само внимание и субъективное пространство в целом, на философском жаргоне называемое умом (mind).
Конкретные объекты физического – объекты внешнего мира, которые можно исследовать или вступать с ними в отношения через объекты внимания.
Абстрактные объекты характеризуются идентичностью вне пространства и времени.
Абстрактные объекты ментального – квалиа, от сенсорных до когнитивных.
Абстрактные объекты физического – те, которыми в эмпирических науках описывают и характеризуют объекты внешнего мира.
Каждое состояние конкретного физического или ментального объекта есть экземпляр абстрактного объекта.
Фундаментальное отличие конкретного объекта от абстрактного – такая темпоральная континуальность, при которой меняется состояние объекта при сохранении его идентичности. Абстрактные объекты не меняются.
Тем не менее, каждое изменение это экземпляр абстрактной формы этого изменения.
Можно сказать, что вся конкретная реальность это динамика состояния при сохранении идентичности.
Идентичность сохраняется через локализацию абстрактных форм (свойств) в едином пространстве. Для физических объектов – это пространство внешнего мира. Для субъектов – их ум (mind), субъективное пространство восприятия, в котором объединяются абстрактные квалиа.
Т.о., различимы три типа реальности: абстрактная, и две конкретных – физическая и ментальная. Назовём их, соответственно, А-реальность, Ф-реальность и М-реальность.
Один и тот же объект А-реальности может проявляться в разных объектах Ф,М-реальностей.
Объекты Ф-реальности становятся известными, проявляясь (получая репрезентацию) в объектах М-реальности. Репрезентация объектов Ф-реальности в текущей М-реальности никогда не представляет Ф-объект целиком. Текущие М-объекты, в которых даётся репрезентация Ф-объекта, буду называть М-ракурсом Ф-объекта или МФ-ракурсом.
Объекты М-реальности становятся известными, появляясь непосредственно в М-реальности. У них нет ракурса, они присутствуют в М-реальности полностью.
В человеческой М-реальности есть явление квантификации.
Квантификация это установление референции к одному, некоторым или всем абстрактным объектам некоторого класса. Эти абстрактные объекты могут представлять объекты всех трёх типов реальности.
В логике эти три вида квантификации обозначаются, соответственно, кванторами идентичности
, существования
(традиционный, но не очень удачный термин) и всеобщности
.
Общая (классификация), частная (выбор) или уникальная идентичность М,Ф-объектов в контексте некоторой задачи описывается через их квантификацию с предикацией существенных (для задачи) свойств, локализованных в искомом пространстве и времени.
Идентичность А-объектов описывается через их квантификацию с предикацией без спецификации времени и пространства.
Х-объект редуцируется к У-объекту (Х,У
{А, М, Ф}) в контексте некоторой задачи, если возможна замена квантификации Х-объекта на квантификацию У-объекта без потери смысла, существенного для решения задачи.
Вопрос аутентичности (несводимости) типа реальности сводится к вопросу о возможности редукции всех объектов этого типа к объектам другого для всех возможных контекстов. Если такой возможности нет, то реальность аутентична.
Кстати, почему именно "биологические шовинисты"?
Лично я не считаю именно физическую реальность фундаментальной. Соответственно, и биологическую - для которой физическая это инфраструктура. Я не акцентирую на этом, т.к. по опыту в этом случае с крайне высокой вероятностью столкнусь с практически полным непониманием того, что хотел сказать. Но уж если называть меня шовинистом, то точно не биологическим. Скорее - субъектно-квалитативным, что ли.. :)
Но чисто прагматически я считаю, что мы движемся в сторону следующий ситуации - когда (если всё же не упрёмся в некий потолок) нашу повседневность заполнят машины, убедительно воспроизводящие внешние признаки не только интеллектуальной деятельности, но и эмоциональной. И когда будет пересечён некий порог, страны станут перед непростым выбором: дать машинам права наравне с людьми или нет - и тогда иметь социальную действительность, в которой каждый взрослый и ребёнок может иметь "раба", которого можно безнаказанно "эксплуатировать", "мучать" и "убивать". И, хотя я взял эти слова в кавычки, но опыт людей, которые будут безнаказанно "мучать" и "убивать" своих "рабов", будет вполне, по внешним признакам страдания, аутентичным опыту, когда мучают и убивают живых людей.
Моё мнение, что если страна выберет второй путь, то тогда как минимум не исключена вероятность того, что в ней будут расти целые поколения садистов - особенно, если машины будут качественно адаптированы под человеческий облик и поведение. Этически - это очень плохой сценарий.
Но и первый путь тоже вызывает этические вопросы. Права это права, а ИИ - чёрный ящик. И если там, "под капотом", нечеловеческие расчёты будут терпеливо создавать сценарий, при котором человечество тем или иным способом будет повержено или даже полностью уничтожено - лучше ли это? Не будет ли такой подход шовинизмом людей по отношению к самим себе?
Я не знаю правильного ответа. Имхо, это, вот прямо сейчас - сингулярность. И пока - чем дальше, тем сингулярнее. Очень, очень интересно, что будет дальше. Примерно, как в ванне с крокодилом. :)
С другой стороны - человечество само себе крокодил. Б.м., нам не придётся мучиться вот этими этическими проблемами, потому что мы успеем сами себя прикончить или откатить в каменный век ещё до того, как они станут остро актуальными.
Не понимаю, что вы этим хотите сказать.
В нормальных странах насилие над животным тоже уголовно наказуемо. И, имхо, даже там недостаточно.
Способность страдать и хотеть жить не находится в прямой зависимости от интеллекта. Невыносимая физическая боль будет невыносимой как для пожилого человека с деменцией, так и для молодого гения.
Не очень понимаю, почему этот вопрос направлен в мою сторону. Считайте, что у меня сознания нет, а у LLM есть. Так будет лучше?
Лично я не вижу причин приписывать наличие субъективного пространства, скажем, абаку. И механическому калькулятору. И электронному калькулятору. И CPU. И GPU. И т.д. По одной и той же причине - "мельница Лейбница". Не хочу вводить магию без ясного мне основания. Наличие сознания у меня не видится мне, как достаточное, чтобы приписывать сознание чему угодно, что производит несколько похожее внешнее поведение - при точном знании, что начинка это 100% механизм. Насчёт того же мозга лично у меня нет 100%-й уверенности, что это 100% механизм. Но даже если бы и была - надо множить магию? А где пролегает граница? С чего бы считать, что сознания нет у калькулятора? Да что там - у абака? Ну давайте примем панпсихизм и скажем, что сознание есть вообще у всего чего угодно.
Поскольку я реально сталкивался с людьми, искренне (по всем внешним характеристикам) утверждающими, что у них сознания (и, вообще, никакого субъективного восприятия) нет - вопрос к вам, чисто на всякий случай: есть ли у вас самого такое восприятие? И как вы об этом знаете?
P.S. Как говорится, "хорошая мысля приходит опосля". :)
Вот эволюция - создала наш мозг, который создал LLM. Есть субъективное восприятие у эволюции? И если нет, то почему?
А Вселенная - породила эволюцию, которая создала наш мозг, который создал LLM. Есть субъективное восприятие у Вселенной? И если нет, то почему?
Помню про реальность, занимает время сформулировать.
Тут и там ходят полуневнятные слухи о том, что мы, быть может, достигли некоторого плато в развитии LLM, и что это плато может оказаться потолком.
Не берусь ничего предсказывать. Но концептуально - не готов отрицать возможности достаточно хорошей внешней имитации мышления. Такой, что человек в принципе не сможет распознать, что процессы "под капотом" с человеческим мышлением имеют мало общего.
Где-то на стыке философии сознания и когнитивных наук находится очень интересный вопрос: играет ли специфика той части мыслительных процессов человека, которые находятся в чисто субъективной области (квалитативное восприятие), фундаментальную роль в таком успехе человеческого мышления, который будет невозможно повторить чисто механистически. И я не знаю ответа на этот вопрос.
Если не изменяет память, я также говорил там о том, что чтобы освоить речь и достаточно универсальное мышление, человеку не нужно становиться ходячей энциклопедией всей информации человечества. А LLM нужно.
Я же потом содержательно ответил, почему считаю такое ситуативное определение не сущностным, и почему не сущностные определения на деле не определяют сущность определяемого.
Вы решили, что только интроспекция используется для ответов на озвученные вами вопросы? Через корректно использоваемую интроспекцию можно узнать о структуре непосредственного пространства своего субъективного обитания - сознания. Для прочих предметных областей интроспекция играет чисто вспомогательную регулирующую роль - остановиться, очистить мысли, оценить ситуацию "со стороны", выбрать дальнейший путь действий. Мы это делаем, даже не замечая - только если специально не обращаем на это внимания (интроспекция интроспекции :)).
Для ответов на вопросы, объединяющие предметные области разных типов, например, квалитативную и физическую - явно нужно задействовать как минимум два инструмента: интроспекцию для оценки субъективной структуры, и физические исследования для оценки, скажем, нейронной структуры.
В своём исходном сообщение вы подтвердили реальность субъективного опыта:
Brute fact - это факт, от которого нельзя просто так отмахнуться, не потеряв что-то существенное.
В этой субъективной реальности, которая brute fact, происходят самые важные события нашей жизни. И самые неважные - вообще все события. Мышление, как мы его знаем - происходит в этой субъективной реальности.
А теперь рассмотрим LLM - мы точно знаем, что это механизм, т.к. сами его сделали с нуля. И ни одна из деталей этого механизма не является субъективным сознанием, не так ли?
Почему мы должны считать, что в совокупности эти детали производят субъективность? Это для нас субъективность на (предполагаемом) механизме - мозге - brute fact. У нас тупо нет выбора - мы поставлены перед этим фактом самой реальностью. И этот психофизический парадокс не решён, и решения ему на горизонте не предвидится.
Почему мы должны брать произвольный, даже супер-сложный, механизм и приписывать ему такой же brute fact? Вы любите множить парадоксы? Я нет.
Если мозг всего-лишь механизм, то у него тоже не должно быть субъективного сознания. И если он механизм, и оно есть - то это какая-то магия, отрицающая любое рациональное объяснение. Вам нравится множить такую магию? Мне нет.
Поэтому про LLM я готов говорить, что там субъективности нет. Нет в том смысле, что чисто механизмами не может быть произведена субстанция совершенно другого типа - субъективность. Если у LLM и есть субъективность, то это будет вот такая же магия, как у нас. И что в этом хорошего? Она будет так же неконтролируема, так же непостижима, и так же необнаружима извне.
Вы хотите ввести закон природы, который наделяет субъективным мышлением механизмы, обладающие некоторой сложностью выше некоторого порога? Если да - легитимно! Я первый буду рад начать вчитываться в ваше исследование, в котором раскрываются признаки и детали этого закона.
Со своей стороны, я такой закон вводить не хочу. Потому что не люблю магию, и считаю, что пример человека (и, в целом, живых существ) следует рассматривать, как исключение, пока не найдены условия обретения (доселе) неживой материей сознания.
Ок, для вас всё, что не сводится к нейронам и чему-то такому физическому - бесполезно и бессмысленно и надо выбросить. Легитимно!
Я считаю, что не всё сводится к нейронам и чему-то такому физическому, и что есть огромное множество полезного для изучения без привлечения редукции к физическим объектам (та же математика). Тоже легитимно.
Теперь вопрос: какой смысл нам тратить время на это общение, если априори мы выбираем для себя существенно разные пути?
Я ваше мнение (надеюсь) понял, и оспаривать его не собираюсь. Что считать важным и существенным - это личный выбор, и я уважаю этот выбор. И ваш, и свой.
Для меня эти уточнения звучат, как натягивание совы на глобус, уж простите за сарказм.
Условие "такая, от которой зависит выживание человека" никак не выделяет сущность определяемого. Это, так сказать, акцидентальный предикат, который в одной ситуации может быть истинным, в другой может быть ложным - при одном и том же определяемом предмете. Поэтому методологически некорректно составлять определения с такими условиями.
Тут есть сразу три утверждения:
"есть ситуации когда она врет"
"в ходе эволюции она и не развивалась так чтоб почаще не врать"
"на выживание то это не влияет"
Тут нужны отдельные аргументы по каждому пункту.
Я пока остаюсь при своём определнии интроспекции - и она, такая, очень полезна для выживания. Причём не только индивидума, но и всего человечества. Т.к. без неё не развивались бы науки и технологии, например.
И это понимание есть, см. "феноменология Гуссерля". Но да, это не пятиминутное развлечение, так что не см., если не хочется напрягаться. :)
И эта характеристика тоже не идентифицирует интроспекцию сущностным способом (искусственное условие - для спора? - о жизни).
Т.е., если в плохих условиях освещения я задаю себе вопрос - какого цвета, действительно, я вижу свет на светофоре - то это, по-вашему, не интроспекция, потому что от корректности решения зависит моя жизнь.
Если та же ситуация, но в компьютерной игре, и я задаю себе тот же вопрос - то, внезапно, это уже интроспекция, т.к. от этого моя жизнь не зависит.
Тем временем, ментальная операция одна и та же.
Интроспекция вполне хорошо и функционально определяется через рефлексию и порядок. Удобно, лаконично, проверяемо.
А с чего вы решили, что интроспекция всегда работает некорректно? Как любой инструмент, её можно использовать неправильно. Необходимы, например, предварительные эпохе и редукция, которые я недавно упоминал в другом сообщении.
Даже прямая рефлексия (простое осознанное восприятие) способна обманывать - всевозможные иллюзии с разными "спецэффектами" тому прекрасная иллюстрация. Вы же не предлагаете отказаться от восприятия вообще?
Вопрос не в том, чему можно слепо, безусловно верить. Имхо, бессмысленно и контрпродуктивно искать такие источники информации. Особенно, если цель не копить "факты", становясь ходячим поверхностным словарём, а расширять и углублять понимание исследуемой предметной области.
Вопрос не в содержаниях восприятия - от которых нам никуда не деться, пока живы. Вопрос в методах работы с ними. И я не помню, чтобы где-то призывал использовать только и исключительно интроспекцию. Персонально я за то, чтобы каждый пользовался теми инструментами, которые с его точки зрения наиболее целесообразны и удобны. Зачем априори кого-то ограничивать - если это не криминал, конечно. :)