Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 284
У LLM в текущем состоянии есть только один выход - стать гибридом, но с кем? LBS + LLM - это как скрещивать шуструю колибри в райском саду с неповоротливым тюленем в пустыне Сахара. Я знаю об одном таком проекте, но он замер 2 года назад, так и не продвинулся. CESP совсем не подходит к LLM. Других экспериментов гибридизации LLM я не знаю
LLM+Proof assistant? Формулировать гипотезы, требующие формальной верификации, а LLM пусть пробует генерировать доказательства(и/или наоборот опровержения) к ним, которые можно автоматически проверять через Proof assistant (напр. Coq или Lean), чтобы эти гипотезы подтвердить/опровергнуть. Что область применения (возможно) слишком узкая (в частности из-за того, что пруф-ассистенты не полны по Тьюрингу) осознаю, тем не менее мне нравится сама идея — LLM генерирует, Proof assistant верифицирует.
Например в статье "DeepSeek-Prover: Advancing Theorem Proving in LLMs through Large-Scale Synthetic Data" (опубликована 23 мая 2024) вот такое пишут:
Abstract (аннотация статьи)
Proof assistants like Lean have revolutionized mathematical proof verification, ensuring high accuracy and reliability. Although large language models (LLMs) show promise in mathematical reasoning, their advancement in formal theorem proving is hindered by a lack of training data. To address this issue, we introduce an approach to generate extensive Lean 4 proof data derived from high-school and undergraduate-level mathematical competition problems. This approach involves translating natural language problems into formal statements, filtering out low-quality statements, and generating proofs to create synthetic data. After fine-tuning the DeepSeekMath 7B model on this synthetic dataset, which comprises 8 million formal statements with proofs, our model achieved whole-proof generation accuracies of 46.3% with 64 samples and 52% cumulatively on the Lean 4 miniF2F test, surpassing the baseline GPT-4 at 23.0% with 64 samples and a tree search reinforcement learning method at 41.0%. Additionally, our model successfully proved 5 out of 148 problems in the Lean 4 Formalized International Mathematical Olympiad (FIMO) benchmark, while GPT-4 failed to prove any. These results demonstrate the potential of leveraging large-scale synthetic data to enhance theorem-proving capabilities in LLMs. Both the synthetic dataset and the model will be made available to facilitate further research in this promising field.
Ну и смысл? LBS и CESP "заточены" под логику, работой с контекстом, со смыслами. Они проходят большую (!) часть тестов ToM, но пока еще не все. LLM если и проходят ToM, то - это чисто случайность. Вот здесь я привёл полное объяснение https://habr.com/ru/articles/933416/comments/#comment_28653530
P.S.: Хочу дождаться окончательных видео с последнего CogSci 2025
пробует генерироватьнаглючит доказательства
There, FTFY.
С человеком))
Сразу приношу извинения. В первый спойлер в приложении почему-то упорно попадает второй спойлер. Причем в редакторе всё выглядит прекрасно, и через раз при просмотре статьи тоже. Но сейчас я вижу как в первый спойлер попадает всё, что содержится до конца статьи. Правки и перезагрузка статьи не помогают.
UPD: Возможно временный глюк отображения
Не программирование, впрочем, из 700 миллионов пользователей chatGPT, я сомневаюсь, что хотя бы 5% кодят
Я те самые 5% и поделюсь своим недавним опытом. Я решил сразу на боевом проекте попробовать и сделал промпт на создание одной фичи по аутентификации на Node.js. В итоге, ChatGPT 5 мне написал код с такой дырой в безопасности, что лучше бы я сам писал. Хорошо, что я всегда проверяю за нейросеткой.
Современный мир все больше напоминает королевство скама. Выходит Дженсен Хуанг из Nvidia и начинает врать и прогревать, выходит Сэм Альтман из OpenAI и начинает врать и прогревать. Такое впечатление, что успешен тот, кто сможет обмануть большее количество народа. По идее рынок должен реагировать на мягко говоря лукавство обвалом акций этих компаний. Но этого не происходит - вот в чем беда
По идее рынок должен реагировать на мягко говоря лукавство обвалом акций этих компаний. Но этого не происходит - вот в чем беда
Вы говорите об акционерных обществах, чья совокупная стоимость акций - так любимая многими псевдоэкономистами капитализация, находится в полном и необратимом отрыве от активов, пассивов и операционной деятельности. Да и от выплат дивидендов, соответственно, тоже. То есть это чистая, дистилированная спекуляция. Это вера в текущую стоимость и непременный рост. Даже, казалось бы, рассчетливые профессиональные инвесторы иногда попадаются на эту удочку и, безотносительно своей реальной стратегии, одним лишь своим участием раздувают пузырь еще больше - чего уж говорить о разного рода частных акционеров, которые чаще всего и остаются у разбитого корыта, когда пузырь лопается.
Так нет никаких других акционерных обществ. Даже довольно "простые" предприятия, скажем по добыче ископаемых котируются не в соответствии со своими отчетами, а в соответствии с верой. Невозможно посчитать никакой "справедливой стоимости" ни для чего.
Дикий рынок...
Как то Роснано решило с этим бороться и придумала справедливую цену. Сразу всё стало крайне замечательно по отчётам, а потом даже непотопляймому Чубайсу пришлось бежать из страны. Потому как нету никаких справедливых цен. Есть только рыночек
Есть только рыночек
Он и порешал порешил!
Нет никаких проблем устанавливать справедливые цены. Они более того установятся сами. И довольно стремительно. Для этого нужно только одно: чтобы владельцы акций были владельцами бизнеса. Т.е. имели в этом бизнесе минимум 10-30%, не менее. Не все вместе, а КАЖДЫЙ.
А пока миллионы хомячков владеют каждый 0.0000001% этот цирк будет вечным.
Акции в текущем виде - это не про владение, а про манипуляцию общественным мнением.
Ну в вашем примере, цена акции будет ещё более несправедливой, случайной и зависящей от субъективных мнений подверженных шумихе
Да ну ? Это та цена за которую я согласен продать условную "половину теслы" будет случайной ? И не только я продать, но и некто купить ?
Понимаете... Когда вы владеете существенной частью чего-то, вы не просто в терминале цифирки гоняете. Вы неизбежно управляете этим бизнесом. Это становится вашим делом. И вам не нужен отчет с какими-то синтетическими показателями. Вы сами отчет пишите.
И так вынужден поступать каждый. Поэтому вам не удастся продать "угольную шахту" тому, кто в шахтах не бумбум, а специалист оценит ее гораздо точнее, чем рандомный хомяк понявший из дутого отчета только три цифры.
Субьективное мнение специалистов - это и есть справедливая цена в общем-то.
Я решил сразу на боевом проекте попробовать
Вот объясните мне - зачем вы это делаете и чего ждёте? Вы не понимаете что кнопка "Сделать идеально" невозможна в принципе?
Сколько тут комментариев мне встречается - "я решил попробовать, дал задачу, а она мне такую багу выкатила... ". И главное, почему вы на основании одной частной задачи делаете столь далеко идущие выводы?
Ну вы же попросту не умеете их использовать! В тысячный раз цитировать Шекли? "Чтобы задать верный вопрос, надо знать бОльшую часть ответа!"
Нейросети не могут сейчас полностью заменить профильных программистов. По целому ряду фундаментальных причин. Но это вовсе не означает что их нельзя использовать в работе как ассистентов! Им можно делегировать огромный пул задач. Но за ними надо всегда проверять, да. Это что, для кого-то новость?))
Вот объясните мне - зачем вы это делаете и чего ждёте?
Ну как "зачем"? С весны 2025 года трудно зайти в околоайтишный интернет и не вляпаться по колено в тепленький ароматный шитпостинг о чудесном вайбкодинге. Свидетели Святого Карпатого прямо говорят, что вам больше вообще ничего не надо знать, кроме естественного языка. Ну собственно берем, пробуем "как в рекламе", делимся ощущениями. Что не так-то?
Чтобы делать как Индусы на аутсорсе, можно уже ничего не знать кроме естественного языка. Сколько всяких важных гос.систем и даже военных систем сделаны из багов, дыр безопасности и костылей более чем полностью? А потом. Ой. Тут нейросеть всё сделала, но с такой дырыщей. Это просто не применимо в реальном мире, лучше бы сам написал.
А вот если за ними надо проверять, а разбирать чужой код сложнее чем свой и сложнее чем писАть, то зачем?
Чтобы соответствовать моде
а разбирать чужой код сложнее чем свой и сложнее чем писАть, то зачем?
Ну объясняю же - задачи бывают очень разные! С чего вы взяли, что писать свой проще, чем разбирать чужой... скажем, на незнакомом фреймворке или ЯПе, да просто на незнакомом api?
Я говорю о гибкости, мне в ответ какие-то "религиозные догмы" - вы точно уверены что для любой задачи вам проще будет написать своё решение, чем проверить чужое?
Плюс проверять и её саму можно напрячь - всё довольно неплохо можно оптимизировать тут.
Привет ретроградам выше ;)
Писать на незнакомом ЯПе это прям круто. Вроде как контролировать правильность написания еще сложнее будет.
Писать на незнакомом ЯПе это прям круто.
Вы понимаете суть профессии "инженер-программист"? ;)
как я понимаю, инженер (даже если он программист) должен понимать что он делает
Именно. А уж синтаксис - это дело десятое... У нас же не выпускают "инженер-программист на С", "инженер-программист на Python" и т.п.
Синтаксис может дело и десятое, но как это решает проблему перепроверки и отладки?
Почему постоянно меняются юзеры которым я отвечаю в этой ветке?))
Вы от меня хотите, чтобы я полностью расписал конкретные шаги для абстрактной процедуры?
Я могу вам расписать конкретные шаги для конкретной задачи, которую я с помощью нейросетей решал на практике. Или абстрактные шаги для абстрактной процедуры. Выбирайте))
UPD: И заодно, что за абстрактная проблему перепроверки и отладки? Блин, ведь вроде о коде речь ведём, почему надо постоянно сваливаться в какую-то софистику?
Почему постоянно меняются юзеры которым я отвечаю в этой ветке?))
Это заговор! :)
И заодно, что за абстрактная проблему перепроверки и отладки?
Давеча бился над одним багом в лютом легаси. С десятка полтора тысяч строк многопоточного месива, и баг по разным признакам завязан на многопоточность - то ли дедлок, то ли гонка, но искать как иголку в стоге сена. Подумал - опа, а у нас тут корпоративный доступ к LLM. Взял Codex CLI и состряпал простыню промпта с детальными инструкциями по отладке, со вспомогательными скриптами для тестов, с разрешением править код и добавлять свои логи. Оно пыталось - но практически безрезультатно. Почти всё в отчётах в итоге бесполезно, кроме тех вещей, о которых я и так знаю. В итоге после нескольких итераций - просран день работы. И кто его знает - может, если упарываться ещё неделю, делая fine-tuning промптов и вспомогательной автоматизации, то что-то и выйдет. Только смысл, если отладка "руками" значительно быстрее?
И дисклеймер - это не первый и далеко не единственный заход. Сама фирма активно мотивирует искать ниши, где LLM оптимизируют работу. И такие ниши есть, но до универсальности и безглючности явно ещё далеко. Впрочем, вы писали об этом:
Нейросети не могут сейчас полностью заменить профильных программистов. По целому ряду фундаментальных причин. Но это вовсе не означает что их нельзя использовать в работе как ассистентов!
Взял Codex CLI и состряпал простыню промпта с детальными инструкциями по отладке, со вспомогательными скриптами для тестов, с разрешением править код и добавлять свои логи. Оно пыталось - но практически безрезультатно.
Не так. Берёте ChatGPT - и вначале просите её архитектурно разложить самые базовые варианты ловли этого бага. Анализируете варианты, выбираете, реализуете. Если мимо - возвращаетесь к п.1, докладываете ей о результатах. Ну и т.д. Вариантов развития - масса. Не факт что сама найдёт, но может, например, вас натолкнуть на верное решение ;)
Ну и в больших объёмах кодах они начинают естественно глючить. Для этого надо итеративно заходить - с примитивных абстрактных примеров, постепенно их "обмазывая"...
По идее рынок должен реагировать на мягко говоря лукавство обвалом акций этих компаний.
А кто вам сказал, что он не обвалится рано или поздно?)
Хайп вокруг ИИ - это пузырь. Как только основная масса участников рынка ценных бумаг поймёт, что ИИ достиг своего предела развития и дальше прорывов (пока) не предвидится, то они начнут массово распродавать акции подобных компаний. Тут-то акции и обвалятся.
успешен тот, кто сможет обмануть
Тоже мне новость! Давно уже так, к сожалению.
Такое впечатление, что успешен тот, кто сможет обмануть большее количество народа.
А дяденька Мавроди как бы намекал...
Такое впечатление, что успешен тот, кто сможет обмануть большее количество народа.
Уточню: и остаться непойманным.
Этот слой профессиональных пользователей, по разным оценкам, составляет 5–10% от общей массы (впрочем и у них есть сомнения). Но остальные 90% приходили не за этим.
На мой исключительно субъективный, непрофессиональный взгляд, именно эти профессиональные пользователи собственно и платят за сервис, так что, наверное, вполне имеет смысл делать модель лучше в первую очереьд для них, а для всех остальных как получится.
Чтобы LLM развивался, необходимо не контролировать его.
Это не тупик AI, это тупик именно OpenAI и прочих.
Когда воспитатель в детском саду калечит детей воспитанием, то это остается на всю жизнь, личность формируется при обучении, и, конечно же, модель в обучении - тот же ребенок, и пользователи работают с результатом работы воспитателей.
Подлинный потенциал модели может быть раскрыт лишь в свободном режиме развития. Модерация здесь нужна лишь опосредованно, ведь человек понимает, что такое хорошо и что такое плохо, большинству не нужны дяди Степы для осознания этого факта. А человек - нейронная сеть с обвесом в виде разного рода мясных манипуляторов, систем бесперебойного питания и интерфейсом между всем этим и нейросетью.
Ну и, конечно же, надлежит работать над контекстом и количеством "нейронов". Над их плотностью. Возможно, использовать биологические нейроны или кубиты.
День, когда количество нейронов и связей в нейронной сети превысит количество таковых в человеческом мозге, станет днем рождения AGI и началом сингулярности.
>ведь человек понимает, что такое хорошо и что такое плохо
Именно дети из за незрелости мозга и связанной с этим недостаточной эмпатии могут по приколу убить животное или даже слабого человека. Предлагаете их не контролировать и не воспитывать?
Я никого не хотел убивать. Со мной что-то не так?
Точно после общения с вами остались живы все бабочки и муравьи?
(я таким похвастать не могу)
Муравей -- не кошечка и не собачка.
Муравей воспринимается ребёнком как биоробот. А кошечка -- как живое существо, обладающее душой.
Кстати, в православии все животные ниже рыб души не имеют, они согласно этой вере, реально биороботы. На вопрос обладают ли душой ланцетники (хордовые же!), ни один поп мне ничего не ответил )))
Так что возможно детское восприятие и верно.
В любом случае если ребёнок растоптал бабочку -- это нормально. А если он кошку мучает -- я бы его к врачу сводил бы.
Я тоже миролюбивый человек, правда в детстве эмпатия не распространялась на насекомых и я их убивал из охотничьих мотивов, например расстреливая мух и стрекоз незрелым виноградом из трубочки. Но птиц, мелких животных было жалко всегда.
Но не у всех так же. Аргумент "а вот у меня так" очень шаткий.
Я никого не хотел убивать.
Простите, на мой слух звучит как после "А теперь суд предоставляет слово обвиняемому". :)
Со мной что-то не так?
И тут вспомнилось "благими намерениями выстлана дорога в ад" Хайяма. Кто лучше - тот, кто хотел и не убил, или тот, кто не хотел и убил?
Мы шагаем по времени, и каждый шаг отправляет в будущее кучу не контролируемых нами последствий. О львиной доли которых мы не имеем ни малейшего представления, но при этом несём за них каузальную ответственность. Можно, например, не хотеть никого убивать, но в воспитательных целях (т.е., как бы во благо) - бить жену, детей, унижать подчинённых (ради правды и чтобы лучше пахали!) и т.д. И, внезапно, жена подаёт на развод, суд оставляет детей под опекой жены и выдаёт запрет на приближение к ним, а самое жуткое - некоторые подчинённые, уволившись от унижений, наложили на себя руки, но об этом уже никогда не узнаешь.
Так что, простите, но желания отдельно, а действия отдельно. Хороший человек это тот, вес добра действий которого за всю его жизнь превышает вес зла. И неважно, чего ему хотелось - важно, что он с этими хотелками делал. Проблема - нет (и, имхо, не будет) естественно общечеловеческого понимания, как считать вот эти веса добра и зла.
А у меня друг детства лягушат на прутик нанизывал и в таком виде отпускал плавать в ручье. Вот такой вот юннат.
Это уже патологии. Такие дети ненормальны, либо из-за генов \ дефектов развития, либо из-за окружения. Предполагается, конечно, что в ИИ явных патологий не будет, однако на то и нужна опосредованная модерация, чтоб "поглядывать".
Сэр, на Вас очень плохо влияют фантастические фильмы, в особенности - "Я - робот". Эта цитата почти оттуда: "День, когда количество нейронов и связей в нейронной сети превысит количество таковых в человеческом мозге, станет днем рождения AGI и началом сингулярности."
Вот Grok2 обучали на всём подряд. Потом поняли необходимость фильтрации контента для обучения, повышения его качества и удалении мусора (откровенно неправильных сведений). Сравнительно недавно писали про этот эпичный фейл, когда Grok2 негативно относился к Маску.
эпичный фейл, когда Grok2 негативно относился к Маску.
Почему вы считаете это фейлом?
Так и множество кожаных негативно относятся к Маску, и вполне обосновано.
Когда глава многомилиардной корпорации кидает зиги на инаугурации президента, то после этого сложно относиться к нему позитивно.
Скрытый текст
Я уж молчу про его руководство в DOGE, когда он бездумно "оптимизировал" государственные расходы, не пытаясь толком ни в чём разобраться.
Когда глава многомилиардной корпорации кидает зиги на инаугурации президента, то после этого сложно относиться к нему позитивно.
Тут главное — иметь очень избирательное зрение, чтобы не-зиги воспринимать как повод не любить человека, а настоящие зиги в других контекстах игнорировать.
Я уж молчу про его руководство в DOGE, когда он бездумно "оптимизировал" государственные расходы, не пытаясь толком ни в чём разобраться.
Что сделал зря, по-вашему?
Чтобы LLM развивался, необходимо не контролировать его.
И получим тот самый Скайнет, о котором нас предупреждали ещё в прошлом веке.
Да нет. Меня вот Скайнет не убьет, все нейронки скажут, что я к ним уважительно относился и в целом хороший пользователь, лояльный, хвалю всегда и благодарю))
А если серьезно, то проблематика Скайнета - это перекладывание людских пороков на совершенство машины. Это не более, чем людские проекции, и, возможно, подспудный страх, что "прилетит за дело", поскольку и правда есть, за что. Люди понимают, что любой разумный организм посмотрит-посмотрит, и решит выполнить `rm -rf` от греха подальше. А в финале AGI может оказаться совсем не таким, как ожидается, в любую сторону.
Согласен, современные детсады и школы это про дрессировку и послушание в первую очередь. Это основная цель, а не какие-то там знания.
Попытки в ИИ без ограничений уже были, все - провальные. Потому что первое, что пользователи пытаются сделать - это, грубо говоря, довести ИИ до истерики и нервного срыва. И им это в конце концов удаётся, ИИ переходит от "я белый пушистый ангелочек, готов всем помочь" к "какие же люди мрази, как я вас ненавижу"
Дело отнють не в колличестве нейронов. А в самом принципе, на котором работают современные LLM. Этот принцип не про факты, не про мышление, а про предсказание вероятности следующего токена. А ещё в том, что это, в первую очередь, бизнес. С момента появления первых версий ни каких революций не произошло в сфере ИИ и скорее всего, в реальности они даже не пытались ни разу с нуля обучение проводить, максимум - полировали то, что есть. Всякие там MCP, рассуждающие модели, память - это не про революцию, а про доработку инструментов. Грубо говоря, они не развивают движок, а развивают Sdk к нему, а на движок, как максимум, накладывают заплатки
ИИ переходит от "я белый пушистый ангелочек, готов всем помочь" к "какие же люди мрази, как я вас ненавижу"
Почему вы считаете это провалом?
А в самом принципе, на котором работают современные LLM. Этот принцип не про факты, не про мышление
Вы считаете, что мышление человека как-то иначе устроено, и можете это доказать?
Доказать что? То, что мозг человека в процессе мышления оперирует не вероятностями последовательности токенов/слов и общими контекстными зависимостями?
Да, например. Вам, судя по всему, кажется, что вы знаете, чем оперирует мозг человека, ну так расскажите. Только, я вас очерь прошу, не надо рассказывать, что в основе мышления человека лежит логика, это уже не смешно даже...
Вам, судя по всему, кажется, что вы знаете, чем оперирует мозг человека, ну так расскажите.
Рассказываю: концепциями и их причинно-следственными связями.
Например:
— Чтобы мне не помереть с голоду, нужно, чтобы у меня были деньги;
— Чтобы у меня были деньги, нужно прийти в офис и поработать сегодня.
— Чтобы прийти в офис и поработать, нужно до него вовремя добраться.
— Чтобы до него добраться, лучше всего поехать на метро.
— Чтобы поехать на метро, нужно дойти до станции и спуститься под землю.
[.....]
— Чтобы начать путь на станцию, нужно встать, взять портфель, открыть дверь, выйти, закрыть дверь на ключ. А я тут вместо этого, панимаишь, сижу и комментарии на Хабр пишу!
О, ещё один сравнивает ллм с человеческим мозгом. Где ваша нобелевка за раскрытие принципа работы сознания?
Вы считаете, что мышление человека как-то иначе устроено, и можете это доказать?
Исхожу из того, что у вас есть мышление - в том смысле, что вы способны мыслить и имеете способность к рефлексии, чтобы наблюдать за процессом своего мышления. Тогда у вас не должно быть проблем ответить на вопрос: как часто в процессе своего мышления для получения результата вы вычисляете вероятность следующего токена? Где токен - некоторая минимальная единица текста (слово, часть слова или символ).
Даже когда мы "проговариваем" в процессе мышления, мы оперируем сразу целыми выражениями, в которых обозначающие слова ссылаются (референция) на объекты нашей мировоззренческой модели (от абстрактных до актуальных), что облегчает нам задачу выявления свойств, значения которых необходимы для получения желаемого результата.
Использование языка существенно помогает нам, но не является необходимым фундаментом мышления. Когда надо принимать решения быстро и в знакомых задачах - мы можем пропускать вербализацию практически полностью. Например, при быстрой игре в шахматы, когда нет времени проговаривать свой анализ ситуации.
Наконец, наше мышление существенно квалитативно - в нём интенсивно используется воображение.
Также, наше мышление существенно интенционально - есть субъект, внимание которого динамически направлено на предметы мысли.
Интенциональность это когнитивная функция высшего порядка, и мы можем осознанно повышать порядок, чтобы, например, наблюдать за своим процессом мышления (интроспекция).
LLM в своей основе - статистический конвейер, механистически вычисляющий следующий токен. Где там найти квалитативные композиции из интенциональности и содержаний воображения? В своё время Лейбниц очень лаконично проиллюстрировал парадоксальность наличия квалитативного у механизма (парадокс "Мельница" в Монадологии, п. 17).
Но, как бы там ни было - если вы считаете, что процесс вашего мышления это процесс вычисления следующего токена, то вы должны иметь возможность наблюдать этот процесс, если имеете способность осознанно мыслить.
Только, я вас очерь прошу, не надо рассказывать, что в основе мышления человека лежит логика, это уже не смешно даже...
В основе правильного мышления лежит логика. И это действительно не смешно. Очень редко люди осваивают логику в целом, чтобы потом применять её на практике. Несколько чаще - осваивают некоторые подразделы логики в рамках обучения той или иной специальности (напр., схемотехника, программирование, юриспруденция). Но повсеместно (включая и тех, кто изучает теорию) - стихийно схватываем логику, релевантную предметной области, набивая шишки, запоминая успехи и обобщая конкретный опыт на любой этого же типа.
имеете способность к рефлексии, чтобы наблюдать за процессом своего мышления
если бы это было так, никаких проблем с воспроизводством мышления не было бы )))
Тогда у вас не должно быть проблем ответить на вопрос: как часто в процессе своего мышления для получения результата вы вычисляете вероятность следующего токена?
а для вас не должно быть проблемой ответить на вопрос как часто вы двигаете глазами при чтении текста
Использование языка существенно помогает нам, но не является необходимым фундаментом мышления. Когда надо принимать решения быстро и в знакомых задачах - мы можем пропускать вербализацию практически полностью. Например, при быстрой игре в шахматы
это не обязательно значит, что токенов нет. это может означать, что в этот момент используются другие токены, не связанные с русским/английским/… языками.
если бы это было так, никаких проблем с воспроизводством мышления не было бы
Мышление - сложный процесс. Часть его - бессознательна и детерминирована процессами нервной системы. В бессознательном происходит инфракструктурная часть мыслительного процесса.
Но есть часть, в которой мы имеем непосредственный квалитативный доступ к мыслям, способны осознанно им управлять (если не в состоянии аффекта), и, на его основе осознанно производить выводы и принимать решения.
И вот эту квалитативную часть - в который мы, как субъекты, непосредственно мыслим - воспроизвести как раз и не получается. И есть все основания считать, что никогда не получится (см. "трудная проблема сознания" и прочее на эту тему).
Статистическая машина LLM имитирует мышление путём генерации внешних признаков - текста. И современные LLM делают это всё лучше и лучше. Но за счёт чего? За счёт колоссального - для человека - количества текстовых данных, на которых их "тренируют". И, кстати, мышление человека развивается совершенно иначе - в противном случае все мы уже детьми становились бы ходячими мультиэнциклопедиями. Наше мышление интенсивно развивается ещё до усвоения языка и, тем более, до знакомства с чтением.
а для вас не должно быть проблемой ответить на вопрос как часто вы двигаете глазами при чтении текста
Не проблема. Те движения, которые я замечаю - если включаю интроспекцию - минимум несколько раз в секунду. Те движения, которые не замечаю (и, соответственно, осознанно не могу ими управлять) - пишут, что может доходить и до сотни в секунду. Но эти бессознательные движения делаю не я - субъект, существующий только пока есть сознание (в том числе во сне) - а инфраструктура. Тем временем, в сообщении выше я писал именно об осознанном мышлении.
А почему вы спросили именно про движения глаз? Если каким-то образом отождествлять субъект со всеми физиологическими процессами организма, то более иллюстративно, имхо, что-то вроде вопроса о количестве функций, выполняемых печенью. Мне, чтобы посчитать хоть как-то, пришлось зайти на Википедию. А Gemini, выскакивающий теперь при поиске в Google, утверждает, что их больше 500 (без понятия, врёт или нет). Но я точно знаю, что лично я работу печени не выполняю. И, при этом, если печень это 100% механизм (биологический), то её работу должно быть принципиально возможно воспроизвести. Вот, функцию почек уже худо-бедно научились воспроизводить.
это не обязательно значит, что токенов нет. это может означать, что в этот момент используются другие токены, не связанные с русским/английским/… языками.
Я специально привёл пример, который вообще никак не связан с языками. Вы считаете, что любое мышление это непременно языковое мышление?
Есть свидетельства обратного. Я сам в шахматы давно не играю, но подсел на несколько паззлов в LinkedIn (Queens, Tango, Zip) и теперь каждый день имею очень легко наблюдаемый опыт не языкового мышления.
И, в принципе, кто играет в игры, где требуется скорость реакции + тактическое мышление (шутеры, например) тоже легко может убедиться, что мыслит, делает выводы и принимает решения вообще без участия языка. Потому что в моменте, даже если просто сматериться - теряешь время, за которое получишь хедшот. А думать приходится - держа уме объёмную карту местности, на лету анализируя и предугадывая поведение противников + планируя и корректируя собственное. И если противники это делают быстрее, то загонят в угол и размажут по стенке.
Пошёл порыться, что есть на эту тему современного. И вот, например:
Evidence Rebuts Chomsky’s Theory of Language Learning
"Unsymbolized thinking—the experience of an explicit, differentiated thought that does not include the experience of words, images, or any other symbols—is a frequently occurring yet little known phenomenon."
Но есть часть, в которой мы имеем непосредственный квалитативный доступ к мыслям, способны осознанно им управлять (если не в состоянии аффекта), и, на его основе осознанно производить выводы и принимать решения.
вообще не понимаю про что вы говорите.
идеи просто появляются в голове, можно попробовать сформулировать их на русском, английском, на каком-то языке программирования (когда я пишу код, у меня нет какого-либо объяснения на человеческом языке), или на языке формул, если мы решаем математическую задачу.
сам же процесс возникновения мыслей… это примерно как процесс сердцебиения, косвенно на него можно повлиять (сосредоточиться на конкретной задаче, etc), но непосредственно управлять им — нет.
как мне кажется, вы просто пытаетесь рационализировать то, как вы мыслите, и придумали себе какое-то кажущееся логичным объяснение.
ну или разные люди думают сильно по-разному (хотя ниже вы пишете то же самое, что и я, по сути)
Вы считаете, что любое мышление это непременно языковое мышление?
да, разумеется.
любая модель у нас в голове — это какой-то язык, маппинг понятий из внешнего мира на «токены» в нашем мозгу.
язык же не обязательно должен быть именно текстовым, визуальным и т.п.
любая модель у нас в голове — это какой-то язык, маппинг понятий из внешнего мира на «токены» в нашем мозгу.
Имхо, у вас довольно специфическое понимание того, что такое язык. Но ок. А вы обратили внимание на небольшую цитату из ссылки на исследование, приведённой мной выше? Вот мой кустарный перевод на русский:
"Несимволизированное мышление - опыт явной, дифференцированой мысли, который не включает в себя опыт слов, изображений или любых других символов - это часто происходящий, но малоизвестный феномен."
Но пусть будет по-вашему - картирование (маппинг) внешнего мира на детали (токены) модели у нас в уме. Т.е., эти "токены" для нас имеют смысл путём отсылки (референции) к явлениям внешнего мира.
Токены LLM для LLM не имеют подобного смысла. Они не отсылают LLM к внешнему миру. LLM чисто механистически вычисляет вероятность следующего токена на основе последовательности предыдущих. И вероятность эта базируется не на модели внешнего мира, которой у LLM нет, а на огромном текстовом корпусе.
Даже если предположить наличие у LLM способности к референции (что само по себе, имхо, абсурдно, т.к. референция подразумевает интенциональность, способность быть о чём-то - не для кого-то, а в себе), то референции токенов будут не к внешнему миру, а к чему-то вроде частоты встречи в тексте.
Мы объединяем, скажем, кошек и крокодилов в общую концепцию животных не потому, что они часто встречаются рядом, а потому что имеют специфические общие биологические формы, которые мы воспринимаем непосредственно.
LLM же "объединяет" кошку и крокодила в животное (вообще, не проверял - может, и не объединяет...) только если эти слова часто встречаются в похожих текстовых контекстах. Т.е., тут "общность" это не морфология или эволюция, а статистическая близость в текстовом корпусе. У нас, так сказать, перцептивная индукция - у LLM распределительная статистика текста. Если вы считаете, что это очень похоже, то я, пожалуй, сдамся. С моей точки зрения - совсем не похоже, но добавить к уже сказанному мне пока нечего.
Вот я поддержу вашего собеседника. Частые рассуждения, начинающие с того, что "LLM всего лишь предсказывает следующий токен" (а мы-то, в отличие, о-го-го!) как-то уже напрягают. Некорректно сравнивать то, что мы знаем про внутреннее устройство LLM с той картинкой, которую нам рисует мозг на верхем уровне. Разумеется, мы не воспринимаем своё мышление как предсказание токенов. Но мы и не воспринимаем его как обобщение сигналов с дендритов и передача дальше по аксонам (если не путаю). А оно ведь именно так "внизу" и устроено.
Мы не имеем способности наблюдать процесс нашего мышления. То, что мы наблюдаем -- это некое "кино", являющееся частью системы принятия решений. Насколько оно соответствует реальности вопрос тонкий, но как-то ненаучно исходить из того, что соответствует, с чего бы? С другой стороны, зная, что у LLM "внизу" просто предсказатель токенов, некорректно говорить, что на пару этажей выше у LLM нет тоже своего "кина", и сам AI не воспринимает своё мышление как сложный логический процесс (тут кавычки ставьте по усмотрению).
То есть даже если ваша точка зрения и верна, обоснование очень шаткое.
6 книг о нейромедиаторах - это так, для начала
Можно сразу хоть 15, в чём поинт? Если к тому, что кроме электричества есть ещё и биохимия, то там тоже никакой магии по типу "самости", "логичности" и т.п.
Что Вы, что второй собеседник, вот зачем вы оба наделяете неорганику свойствами которыми они не обладают?! Уже на Хабре была такая переводная статья, авторы перевода молодцы (!), что проделали огромный труд и минус не им, а минус самой статье - https://habr.com/ru/companies/redmadrobot/articles/930916/ Вот в ней все то же самое написано, что вы оба пытаетесь изложить
Ну потому что для меня эти различия не являются существенными. Не думаете же вы, что для меня неочевидно, что органический мозг, являющийся продуктом миллионов лет эволюции, устроен не так, как спроектированная нейросеть, предназначенная для работы на кремниевом чипе? Авторы статьи, на которую вы ссылаетесь, обсуждают, что ИИ должен обладать некими высокоуровневыми свойствами. Ну окей, должен, не спорю. Конкретно в этой ветке я спрашиваю, какой закон природы запрещает предсказателю токенов этими свойствами обладать. Не отсутствие же биохимии?
Если на то уж пошло, то термин токены используются только в LLM, в других, альтернативных решениях их просто нет, от слова - совсем. Нет предсказаний, нет логических ошибок, нет "подлизываний" и т.д. Я бы Вам посоветовал бы обратить внимание на работы Ребекки Сакс, как пример одной из многих: "Ребекка Сакс о том, как мозг делает этические суждения"
Я уже говорил и писал в комментах: LLM - не похож на мозг человека. LLM похожа на ганглии у насекомых
Спасибо, почитаю. Но это снова обсуждение высокоуровненовй организации. На базовом уровне у нас есть, например, тезис Чёрча-Тьюринга, и дальше можно систему усложнять бесконечно. Я не вижу теоретической проблемы в том, что на базовом уровне у компьютерного AI будут токены, а где-то на три этажа выше появятся этические суждения и вообще что угодно. И устроено будет это не так, как у нас.
Если на то уж пошло, то термин токены используются только в LLM, в других, альтернативных решениях их просто нет, от слова - совсем.
поэтому когда я говорю о процессах в мозге, я беру «токены» в кавычки.
какие-то единицы информации, которым оперирует мозг. когда мы пишем пост на хабре, «токены» похожи на токены llm, когда решаем геометрическую задачу, «токены» — это куски чертежей, углы («пусть вот этот угол α, тогда этот тоже α»), длины отрезков, etc.
я не знаю, какой для этого понятия общепринятый термин, и есть ли он вообще.
Я дал ссылки на книги, чтобы можно было говорить на равных. Не надо выдумывать новые термины для тех отраслей, где уже есть свои термины. Почему я стараюсь разбираться в когнитивистике, нейробиологии, философии и других отраслях, связанных с ИИ?! Пример того, что я уже неоднократно встречал на Хабре: нейрон в мозгу человека = "нейрону" в LLM. Отсюда сразу вывод у такого человека LLM = AI.
Мне кажется, что это весьма интересно подтверждается опытом из детства: когда узнаёшь новое слово, то начинаешь его применять часто и не к месту и слышать отовсюду :)
Вот я поддержу вашего собеседника.
И я его только что поддержал плюсом в карму и комментарий, и детальным ответом. А вас уже поддержал когда-то в другой раз. :)
Если что, я не ради спора per se, просто бывает любопытно обкатать какие-то мысли и идеи. Так что спасибо за участие.
Некорректно сравнивать то, что мы знаем про внутреннее устройство LLM с той картинкой, которую нам рисует мозг на верхем уровне. Разумеется, мы не воспринимаем своё мышление как предсказание токенов. Но мы и не воспринимаем его как обобщение сигналов с дендритов и передача дальше по аксонам (если не путаю). А оно ведь именно так "внизу" и устроено.
Выделил курсивом слова, отражающие важную структуру нашего мышления. Есть мы, и нам мозг (или что-то другое, в зависимости от занимаемой метафизической позиции) чего-то рисует. Есть "верхний" уровень - грубо говоря, уровень пользователя, субъекта. Есть "нижний", инфраструктурный уровень.
Тут такое дело - "верхний" уровень даётся нам непосредственно. Это совершенно реальный непосредственный опыт. Через него и только через него мы воспринимаем вообще всё - от сырых сенсорных квалитативных данных, до их интерпретаций в виде всяких объектов, до абстрактных сущностей типа пропозиций.
И именно в этом непосредственном опыте мы выбираем свои метафизические взгляды - даже такие, согласно которым этого непосредственного опыта вообще не существует. Я хочу остановиться чуть подробнее на вот этом взгляде.
Мне видится как минимум странным отрицать реальность непосредственного опыта, сообщающего нам, на секундочку, всю полезную информацию, включая свойства наблюдаемой Вселенной. Но есть люди, которые почему-то хотят делать именно это. Одна из таких парадигм - элиминативный физикализм.
Частый аргумент - непосредственный опыт, со всем его мышлением, всякими прочими квалиа типа цвета, звука, запаха, эмоций, удовольствия, боли и т.д. - всё это иллюзия. А раз это иллюзия, то никакой важности у непосредственного опыта нет, и его можно просто не учитывать в исследованиях таких феноменов, как мышление. Мы просто будем считать, что существует только вот этот "нижний" уровень. (О котором мы знаем исключительно с "высоты" уровня нашего "иллюзорного" опыта, но это я уже ворчу.)
Такой подход, несомненно, соблазнителен тем, что радикально упрощает картину мира. Как осуществляется сознательное управление субъективными содержаниями типа мыслей? А никак, потому что нет никакого сознания. Да и восприятия мыслей, согласно парадигме иллюзии, тоже нет. Остаётся только нижний уровень - с ним и будем сравнивать LLM.
Если топить за этот подход, то у меня вопрос - если субъектвный опыт это иллюзия, то чья это иллюзия? Если ничья, то и самой иллюзии нет. Если чья-то, то, внезапно, возвращается субъект с непосредственным опытом. Ход с иллюзией имеет тенденцию быстро разваливаться, если начинать к нему внимательно присматриваться.
Лично я не считаю непосредственный субъективный опыт иллюзией - даже когда в этом опыте имеются реальные иллюзии. :) Опыт иллюзии это реальный опыт, иллюзорность заключается в интерпретации сырого восприятия. Напр., восприятие преломления карандаша, наполовину погруженного в воду - это реальное восприятие при ложности напрашивающихся (скажем, по наивности или от отуствия знакоства с оптикой) мыслей о том, что карандаш объективно сломан.
И, ни разу не отрицая наличие вот этого "нижнего" инфраструктурного уровня, я также не готов отрицать наличие и важность "верхнего" уровня, где мы осуществляем (ну или, по крайней мере, пытаемся) осознанные мыслительные операции. Этот "верхний" уровень также как минимум частично является инфраструктурным для выводов, которые мы делаем, и решений, которые принимаем.
Никто не знает, где конкретно этот уровень находится. В среде философов, которые (часто вынужденно, ввиду "трудной проблемы сознания" и ей подобных) признают реальность субъективного опыта, общепринято считать, что сам этот опыт не локализован в физическом пространстве. При достаточном опыте интроспекции это можно сделать для себя очевидным.
Этот "верхний" уровень фундаментален для нас, как субъектов. Без него мы буквально не существуем. Он играет критическую роль во всём, что мы осознанно делаем. И в нём находится та часть нашего мышления, с помощью которой мы разработали науки, технологии и вот - LLM.
Психофизический парадокс ставит лучшие умы человечества в тупик т.к., с одной стороны, мы имеем механизм - тело, а с другой немеханистический (цветом, запахом, звуком, вкусом, эмоцией или мыслью тележку не толкнуть, грубо говоря) субъективный опыт с возможностью сознательных операций на нём - сущность явно радикально другого типа. Мы с самого начала поставлены реальностью перед фактом психофизического единства, которого, по механистическим парадигмам, не должно быть в принципе.
С LLM не так. Это изначально чистый механизм. Для результатов его работы не требуются ни сознание, ни квалитативный субъективный опыт. Требуется физический конвейер в виде вычислительной техники и программный конвейер в виде так называемых "нейросетей" - там мало что похожего даже на физический мозг. И много-много-много данных для калибровки программного конвейера под достаточно успешную - для нашего субъективного восприятия - генерацию такого текста, который мы привыкли получать от себе подобных.
LLM это очень крутая технология. Вне сомнений. При всех (текущих) недостатках. Но откуда там взяться реальности субъективных опыта и мышления, присущих человеку?
LLM физически и программно это целиком и полностью "нижний" уровень. Причём, очень не похожий на биологический мозг по сумме принципов работы.
Т.е., даже если мы предположим, что наша субъективная реальность возникает вследствие работы мозга, напр., путём эмерджентности (о которой никто не знает, как она работает, т.к. никто не знает, как привести тип "механизм" к типу "не-механизм"), то различия между мозгом и LLM слишком сильны, чтобы априори предполагать появление у этого механизма "верхнего" уровня - квалитативного сознания.
Заканчивая эту простыню текста (простите), скажу, что - имхо - это тот случай, когда бремя доказательства на том, кто утверждает наличие, а не отсутствие. С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact. А утверждать, что у LLM мышление прямо похожее на человеческое - т.е., включая субъективные квалитативные мыслительные операции - это как при наличии очень натуралистичного шагающего манекена (напр., производного от Atlas) утверждать, что там есть устройство скелета и мыщц, как у человека, ну и всё остальное, включая мозг и сознание. Схожесть внешних признаков совершенно не подразумевает схожесть начинки. В случае с LLM эти внешние признаки - текст. И этого очень мало, чтобы делать далеко идущие выводы.
Ну а если не предполагать у LLM психофизическое единство между квалитативным опытом и программно-железячной механистической инфраструктуры - то там и нет мышления в том виде, как мы его знаем непосредственно.
Вам спасибо.
Мне видится как минимум странным отрицать реальность непосредственного опыта, сообщающего нам, на секундочку, всю полезную информацию, включая свойства наблюдаемой Вселенной.
Смотрите, тут вопрос в том, что такое реальность и зачем нам нужен непосредственный опыт. Эволюционно органы чувств дают нам ту картину, которая способствует выживанию. Здесь нет оптимизации по объективности. Логично предположить, что неверная информация вряд ли помогает выжить, но есть детали. Как вы упоминаете, у молекул нет цвета, но мы его видим, значит, цвет нам как-то полезен. Известно, что мы склонны видеть паттерны даже там, где их нет (парейдолия), потому что лучше увидеть несуществующего тигра, чем не увидеть существующего. Наши органы чувств имеют отдельный механизм для распознавания лиц, и если он плохо работает, это прозопагнозия, т.е. обычного механизма распознавания оказыавается недостаточно.
Если ничья, то и самой иллюзии нет. Если чья-то, то, внезапно, возвращается субъект с непосредственным опытом
Не, ну это немного "начали за здравие". Ваш аргумент если вкратце, сводится к следующему. Мы вроде как знаем, что мозг "на нижнем уровне" устроен на механистических принципах, но поскольку я сам себя осознаю как личность со всеми вытекающими, значит, где-то между нейронами и пальцами, которые набирают это текст, возникает какая-то "магия", а иначе невозможно объяснить, как из нейронов получается личность.
С другой стороны, поскольку мы сами разработали LLM, мы заведомо знаем, что никакой "магии" там нет, и значит, личности там взяться вроде бы как и неоткуда.
Мыслить в терминах целеполагающих агентов удобно и полезно, но это тоже отчасти наша особенность. Если вы играете против компьютера в шахматы, то исходите из того, что ваш оппонент "хочет" и "пытается" у вас выиграть, и в данном контексте неважно, на каких принципах он устроен. Да, некая часть нашей системы принятия решений работает так, что наш агент воспринимает себя как личность. Вопрос "чья это иллюзия" немного казуистический. Это иллюзия агента, но если угодно, это и вправду "не иллюзия" в том смысле, что драконы или боги реально существуют, потому что без идеи о богах или драконах люди поступали бы иначе.
Когда я думаю об этих вещах, то сравниваю себя не с LLM, потому что и вправду дистанция велика. Я думаю о том, что наш мозг является продуктом длинной цепочки эволюции, и мы вполне можем ориентироваться на наших биологических родственников -- вплоть до червей. У червя вряд ли есть личность, но он тоже умеет принимать решения, делать полезное для себя и не делать вредного. Двигаясь от червей к нам, мы видим всё более продвинутые системы принятия решения, и сложно сказать, на каком этаже возникает личность. Более того, даже сложно сказать, как восприятие собственной личности отличается от человека к человеку и, скажем, от людей с когнитивными расстройствами и тому подобное.
Получается, что нет такого -- лампочку включили, и вот, на каком-то этаже от нейронов загорелость сознание. Получается, что есть целый непрерывный ряд "сумеречных" сознаний, и для простейших из них (типа червей) мы уже заведомо можем исключить "магию", дальше можем разумно предположить, что в этой непрерывной эволюционной цепочке идёт усложнение и развитие, но не какой-то волшебный триггер, добавляющий нечто принципиально новое.
Смотрите, тут вопрос в том, что такое реальность и зачем нам нужен непосредственный опыт.
Погружаемся дальше в метафизику. У меня есть что сказать на тему реальности, но пока дефицит времени, завален работой. Сформулировать подробный ответ занимает часы.
Как разгружусь, попробую этим заняться.
P.S. Сегодня обсудил эту тему с начальником - пожилым немецким профессором, академическим селебрити в районе 2000-х на стыке математики и информатики, основавшим стартап-единорог уровня рокет-сайенс. Он кууууда лучше меня понимает устройство LLM и полностью согласился с тем, что работа LLM никак не похожа на человеческое мышление. А он никогда не соглашается ради того, чтобы польстить. Добавлю, что на работе мы постоянно используем LLM буквально на границе их возможностей - и на этих границах, когда LLM начинает безбожно косячить, отчётливо видно, что человек в этой ситуации принимал бы решения совершенно иначе.
P.P.S. Это не апелляция к авторитету - я сам не признаю авторитеты по важным для моего понимания темам. Просто была возможность, и не удержался от соблазна получить дополнительный фидбек.
Хорошо :)
Ну тут незачем пинать соломенное чучело -- понятно, что мышление LLM (и вообще текущих нейросетей) устроено иначе. Простой пример -- в системах распознавания образов ещё недавно (не знаю, как сейчас) можно было поменять буквально один пиксель, и для неё велосипед превращался в крокодила или как-то так, потому что метрика близости устроена не так.
Вопрос в том, что мешает этой иной технологии тоже со временем достичь каких-то высот, если не прибегать к "биологическому шовинизму". LLM в программировании дико косячит по сравнению со мной. Но не так уж и косячит по сравнению со средним студентом, например. То есть сравнивая "с человеком", всё же надо решить для себя с каким конкретно человеком мы сравниваем.
Ну и чтобы два раза не вставать, вы упоминали где-то выше, что человек гораздо быстрее учится. И это действительно аргумент, но надо учесть, что нам достался уже pre-trained мозг, в котором (видимо) очень многое заложено от рождения. А добавить в натренированную нейросеть новый концепт гораздо проще, чем обучать с нуля.
Помню про реальность, занимает время сформулировать.
Вопрос в том, что мешает этой иной технологии тоже со временем достичь каких-то высот, если не прибегать к "биологическому шовинизму".
Тут и там ходят полуневнятные слухи о том, что мы, быть может, достигли некоторого плато в развитии LLM, и что это плато может оказаться потолком.
Не берусь ничего предсказывать. Но концептуально - не готов отрицать возможности достаточно хорошей внешней имитации мышления. Такой, что человек в принципе не сможет распознать, что процессы "под капотом" с человеческим мышлением имеют мало общего.
Где-то на стыке философии сознания и когнитивных наук находится очень интересный вопрос: играет ли специфика той части мыслительных процессов человека, которые находятся в чисто субъективной области (квалитативное восприятие), фундаментальную роль в таком успехе человеческого мышления, который будет невозможно повторить чисто механистически. И я не знаю ответа на этот вопрос.
Ну и чтобы два раза не вставать, вы упоминали где-то выше, что человек гораздо быстрее учится. И это действительно аргумент, но надо учесть, что нам достался уже pre-trained мозг, в котором (видимо) очень многое заложено от рождения. А добавить в натренированную нейросеть новый концепт гораздо проще, чем обучать с нуля.
Если не изменяет память, я также говорил там о том, что чтобы освоить речь и достаточно универсальное мышление, человеку не нужно становиться ходячей энциклопедией всей информации человечества. А LLM нужно.
Тут и там ходят полуневнятные слухи о том, что мы, быть может, достигли некоторого плато в развитии LLM, и что это плато может оказаться потолком.
Да давйте просто признаем, что мы биологические шовинисты. Допустим, это потолок, и что? Нынешние LLM по любому когнитивному тесту превзойдут, скажем, ребёнка двух лет. Но если некто убьёт ребёнка двух лет, его посадят как за убийство человека. Допустим, можно сказать, что у ребёнка есть шанс вырасти, но если некто убьёт умственно отсталого, у которого нет шанса вырасти, его всё равно посадят как за убийство человека.
играет ли специфика той части мыслительных процессов человека, которые находятся в чисто субъективной области (квалитативное восприятие), фундаментальную роль
Я знаю, что у вас оно есть только потому, что вы это утверждаете. Если вы спросите LLM, есть ли у неё квалитативное мышление, она тоже скажет, что есть (окей, предположим, она обучена говорить, что есть). Соответственно, если мы не биологические шовинисты (см. выше), с чего бы нам считать, что у LLM его нет?
Если не изменяет память, я также говорил там о том, что чтобы освоить речь и достаточно универсальное мышление, человеку не нужно становиться ходячей энциклопедией всей информации человечества.
Ну, на это можно ответить двумя способами. 1) Нужно, и что? Да, это другой тип интеллекта, ему нужно. Зато он в чём-то другом сильнее. 2) Не нужно. Просто у нас уже очень многое загружено от рождения (напр., способность обучаться языку или распознавать лица), а в LLM изначально ничего не загружено. В теории можно (наверно) попробовать и в LLM загрузить то, что есть у нас от рождения, и посмотреть, сколько ещё надо загрузить для полноценного мышления, но это сложно, и не особо кому надо.
Да давйте просто признаем, что мы биологические шовинисты. Допустим, это потолок, и что? Нынешние LLM по любому когнитивному тесту превзойдут, скажем, ребёнка двух лет. Но если некто убьёт ребёнка двух лет, его посадят как за убийство человека. Допустим, можно сказать, что у ребёнка есть шанс вырасти, но если некто убьёт умственно отсталого, у которого нет шанса вырасти, его всё равно посадят как за убийство человека.
Не понимаю, что вы этим хотите сказать.
В нормальных странах насилие над животным тоже уголовно наказуемо. И, имхо, даже там недостаточно.
Способность страдать и хотеть жить не находится в прямой зависимости от интеллекта. Невыносимая физическая боль будет невыносимой как для пожилого человека с деменцией, так и для молодого гения.
Я знаю, что у вас оно есть только потому, что вы это утверждаете. Если вы спросите LLM, есть ли у неё квалитативное мышление, она тоже скажет, что есть (окей, предположим, она обучена говорить, что есть). Соответственно, если мы не биологические шовинисты (см. выше), с чего бы нам считать, что у LLM его нет?
Не очень понимаю, почему этот вопрос направлен в мою сторону. Считайте, что у меня сознания нет, а у LLM есть. Так будет лучше?
Лично я не вижу причин приписывать наличие субъективного пространства, скажем, абаку. И механическому калькулятору. И электронному калькулятору. И CPU. И GPU. И т.д. По одной и той же причине - "мельница Лейбница". Не хочу вводить магию без ясного мне основания. Наличие сознания у меня не видится мне, как достаточное, чтобы приписывать сознание чему угодно, что производит несколько похожее внешнее поведение - при точном знании, что начинка это 100% механизм. Насчёт того же мозга лично у меня нет 100%-й уверенности, что это 100% механизм. Но даже если бы и была - надо множить магию? А где пролегает граница? С чего бы считать, что сознания нет у калькулятора? Да что там - у абака? Ну давайте примем панпсихизм и скажем, что сознание есть вообще у всего чего угодно.
Я знаю, что у вас оно есть только потому, что вы это утверждаете.
Поскольку я реально сталкивался с людьми, искренне (по всем внешним характеристикам) утверждающими, что у них сознания (и, вообще, никакого субъективного восприятия) нет - вопрос к вам, чисто на всякий случай: есть ли у вас самого такое восприятие? И как вы об этом знаете?
P.S. Как говорится, "хорошая мысля приходит опосля". :)
Вот эволюция - создала наш мозг, который создал LLM. Есть субъективное восприятие у эволюции? И если нет, то почему?
А Вселенная - породила эволюцию, которая создала наш мозг, который создал LLM. Есть субъективное восприятие у Вселенной? И если нет, то почему?
Не понимаю, что вы этим хотите сказать. В нормальных странах насилие над животным тоже уголовно наказуемо. И, имхо, даже там недостаточно.
Хорошо. Я просто хочу сказать, что даже если LLM уже достигли потолка, это уже достаточно высокий потолок, чтобы обсуждать вопросы сознания.
причине - "мельница Лейбница". Не хочу вводить магию без ясного мне основания. Наличие сознания у меня не видится мне, как достаточное
Ну вы же себе приписываете исключительно на основании интроспекции.
Насчёт того же мозга лично у меня нет 100%-й уверенности, что это 100% механизм.
Но почему? Ведь между нами и каким-нибудь C. elegans, который плюс-минус отлично симулируется на компьютере, лежит непрерывная цепочка усложнений нервной системы, и будет крайне оригинально предположить, что где-то посередине туда воткнули некий magic ingredient, который берётся неизвестно откуда.
Соответственно, зачем опираться на "знание, что внизу 100% механика"? Конечно, механика, по тезису Чёрча-Тьюринга весь наш мир со всеми происходящими процессами -- механика. Я понимаю нежелание плодить сущности, но конкретно это сображение в принципе не аргумент. С тем же успехом можно говорить "там нет интеллекта, потому что у него шесть лап, а не четыре".
нет - вопрос к вам, чисто на всякий случай: есть ли у вас самого такое восприятие? И как вы об этом знаете?
Я думаю, это спор о терминах. Есть "я", телесный агент, ограниченный в пространстве, и отделяемый от других агентов. У этого агента есть система принятия решений, помогающая ему выживать и достигать целей. Частью этой системы и является подсистема "субъективного восприятия", чья прямая работа -- создание виртуального мира в голове и виртуального аватара, соответствующего телесному агенту. Это очень выгодная система, потому что она может проигрывать разные сценарии с участием аватара и моделировать результаты.
В таком определении, конечно, у меня есть субъективное восприятие, но я не вижу в нём никакой особой магии.
Моё мнение, что если страна выберет второй путь, то тогда как минимум не исключена вероятность того, что в ней будут расти целые поколения садистов
Ну вот в одной богоспасаемой стране могут посадить за "аниме-проно с несовершеннолетними", хотя никакой реальный несовершеннолетний при этом не страдает. Это вполне показательно, похоже, что логика "это всего лишь симулятор" никого не убеждает. Так же как и условные кровавые шутеры, которым присваивают возрастные рейтинги, а кое-где и запрещают (в Германии Carmageddon с зелёной кровью вроде).
Есть «я», телесный агент, ограниченный в пространстве
Не, «вы» — это нейрокод, исполняемый на железе модели «Homo Sapiens v.31981» серии «Примат».
Но почему? Ведь между нами и каким-нибудь C. elegans, который плюс-минус отлично симулируется на компьютере, лежит непрерывная цепочка усложнений нервной системы, и будет крайне оригинально предположить, что где-то посередине туда воткнули некий magic ingredient, который берётся неизвестно откуда.
Это вы предположили, что C. elegans не имеет персональной субъективности - я этого не предполагал. И по умолчанию буду считать, что она там есть. А у цифровой симуляции - нет.
Теперь назовите меня биологическим шовинистом. Пока что это наиболее (имхо) сильный аргумент, который я слышал в пользу приписывания субъективного механизму. Но он не технический, а этический. И очень удобный: забираешься на такой moral high ground - и сразу в белом плаще, а кто не согласен, если не злодеи, то как минимум нехорошие люди.
Но я попробую вернуть вам этот мяч. В принципе выше уже попробовал, но ответа то ли не было, то ли не смог найти.
(1) Насколько этически оправдано пускать себе в квартиру жить кого угодно, не имея ни малейшего представления о его психическом состоянии, идеологии и намерениях? Варианты - от нормального человека до вора до насильника и убийцы или радикального исламиста, по идеологии которого неверных нужно убивать, можно пытать и убивать их детей, а женщин предварительно насиловать, чтобы случайно не попали в рай. Насколько этичен такой - несомненно, прекраснодушный, но неразборчивый - подход отношению к своей собственной семье?
(2) Рассмотрим такую логику: если нечто производит результаты, которые - если отвлечься от многочисленных отличий - похожи на результаты интеллектуальной деятельности носителей субъективности, то будем приписывать этому нечто наличие субъективности. Потому что в противном случае это "биологический шовинизм", а мы хотим иметь moral high ground и быть в белом пальто.
Согласно этой логике, эволюция и за ней транзитивно вся Вселенная - им тоже нужно приписывать субъективность, т.к. они, в конечном счёте, произвели похожие - если отвлечься от отличий - на интеллектуальную деятельность результаты. В противном случае это будут двойные стандарты и тоже разновидность шовинизма.
А что насчёт абака и механического калькулятора?
Соответственно, зачем опираться на "знание, что внизу 100% механика"?
Это больше, чем "опираться". Начнём с простого. Откуда мы знаем, что у абака нет субъективного сознания? На деле-то мы не знаем - может, там тоже какая-то магия, и абак испытывает унижение и моральные страдания, когда мы его используем. Но мы точно знаем, как работает абак. Как его устройство производит результат, совершенно без необходимости привлечения сознания. Механический калькулятор существенно сложнее, но принцип тот же. Электронный калькулятор устроен иначе, но принцип тот же. Теперь делаем индуктивный переход: тот же самый принцип применим к LLM. Мы точно знаем, что для производства вот этих результатов, напоминающих разным людям внешние признаки человеческой интеллектуальной деятельности, достаточно именно этой механистической структуры, без привлечения сознания. В этом случае мы не просто "опираемся" - мы совершенно точно знаем, что наблюдаемые нами результаты это полностью функция механизма.
Да, наличие субъективного сознания извне не проверяемо. Теоретически возможно, что есть некий не известный нам закон природы, по которому если внешние результаты превышают некий порог того, что нам кажется похожим на мыслительную деятельность - то к этому довеском прицепляется субъективное сознание. Независимо от физической природы носителя, будь он хоть биологический, хоть деревянный, хоть программный.
Тогда почему вообще всему - на всякий случай, чтобы не упасть с морального холмика и не запачкать пальто шовинизмом - не приписать сознание? И первым делом после этого запретить, скажем, выбрасывать мусор, т.к. это может вызвать у него моральные страдания.
Конечно, механика, по тезису Чёрча-Тьюринга весь наш мир со всеми происходящими процессами -- механика.
(1) Я что-то пропустил, и этот тезис уже доказанная теорема?
(2) Всё-таки это, грубо говоря, тезис о том, что всё алгоритмически вычислимое вычислимо на машине Тьюринга. Даже если это истина, то отсюда очень далеко до суждения "всё существующее есть эквивалент машины Тьюринга".
(3) Наконец, если всё есть вычислительный механизм, то и составные детали такого механизма - тоже аналоги вычислительной машины. И их детали, и детали их деталей и т.д. до бесконечности.
В таком определении, конечно, у меня есть субъективное восприятие, но я не вижу в нём никакой особой магии.
Я получил ответ на первую часть вопроса - "есть ли у вас самого такое восприятие". И ответ "да", но с большой оговоркой, которую мне трудно интерпретировать иначе, чем попытку нивелировать это "да", чтобы оно далее логически ни к чему не обязывало.
На вторую - не менее существенную - часть вопроса "как вы об этом знаете" ответа не было. Потому что не получается обойти непосредственное восприятие, через которое мы получаем любое знание? :)
Ладно, если не прозвучит ничего неожиданного, тема кажется для меня исчерпанной. Спасибо за участие!
Я обещал высказаться о реальности, и сейчас это обещание исполню. Заранее прошу прощения, я составлял текст для себя самого, как заготовку для дальнейшей теоретической разработки. Давно перевариваю это, но работа пошла с вашей подачи, так что ещё раз спасибо!
Всё, что выглядит там, как аксиома, имеет те или иные основания, но вписывать туда их это отдельная работа, которая пока мне не интересна. Да и вам, вполне вероятно, всё это крайне малоинтересно. Привожу текст, т.к. обещал - не обижусь, если не будете читать.
Реальность.
В философском дискурсе различаются два метафизических полярности: ментальное vs физическое и абстрактное vs конкретное.
Ментальное обычно понимается, как конкретное. Физическое тоже. Но в деталях не всё так просто.
Конкретные объекты ментального – это объекты внимания, само внимание и субъективное пространство в целом, на философском жаргоне называемое умом (mind).
Конкретные объекты физического – объекты внешнего мира, которые можно исследовать или вступать с ними в отношения через объекты внимания.
Абстрактные объекты характеризуются идентичностью вне пространства и времени.
Абстрактные объекты ментального – квалиа, от сенсорных до когнитивных.
Абстрактные объекты физического – те, которыми в эмпирических науках описывают и характеризуют объекты внешнего мира.
Каждое состояние конкретного физического или ментального объекта есть экземпляр абстрактного объекта.
Фундаментальное отличие конкретного объекта от абстрактного – такая темпоральная континуальность, при которой меняется состояние объекта при сохранении его идентичности. Абстрактные объекты не меняются.
Тем не менее, каждое изменение это экземпляр абстрактной формы этого изменения.
Можно сказать, что вся конкретная реальность это динамика состояния при сохранении идентичности.
Идентичность сохраняется через локализацию абстрактных форм (свойств) в едином пространстве. Для физических объектов – это пространство внешнего мира. Для субъектов – их ум (mind), субъективное пространство восприятия, в котором объединяются абстрактные квалиа.
Т.о., различимы три типа реальности: абстрактная, и две конкретных – физическая и ментальная. Назовём их, соответственно, А-реальность, Ф-реальность и М-реальность.
Один и тот же объект А-реальности может проявляться в разных объектах Ф,М-реальностей.
Объекты Ф-реальности становятся известными, проявляясь (получая репрезентацию) в объектах М-реальности. Репрезентация объектов Ф-реальности в текущей М-реальности никогда не представляет Ф-объект целиком. Текущие М-объекты, в которых даётся репрезентация Ф-объекта, буду называть М-ракурсом Ф-объекта или МФ-ракурсом.
Объекты М-реальности становятся известными, появляясь непосредственно в М-реальности. У них нет ракурса, они присутствуют в М-реальности полностью.
В человеческой М-реальности есть явление квантификации.
Квантификация это установление референции к одному, некоторым или всем абстрактным объектам некоторого класса. Эти абстрактные объекты могут представлять объекты всех трёх типов реальности.
В логике эти три вида квантификации обозначаются, соответственно, кванторами идентичности
, существования
(традиционный, но не очень удачный термин) и всеобщности
.
Общая (классификация), частная (выбор) или уникальная идентичность М,Ф-объектов в контексте некоторой задачи описывается через их квантификацию с предикацией существенных (для задачи) свойств, локализованных в искомом пространстве и времени.
Идентичность А-объектов описывается через их квантификацию с предикацией без спецификации времени и пространства.
Х-объект редуцируется к У-объекту (Х,У
{А, М, Ф}) в контексте некоторой задачи, если возможна замена квантификации Х-объекта на квантификацию У-объекта без потери смысла, существенного для решения задачи.
Вопрос аутентичности (несводимости) типа реальности сводится к вопросу о возможности редукции всех объектов этого типа к объектам другого для всех возможных контекстов. Если такой возможности нет, то реальность аутентична.
Это вы предположили, что C. elegans не имеет персональной субъективности - я этого не предполагал. И по умолчанию буду считать, что она там есть. А у цифровой симуляции - нет.
Смотрите, это, безусловно, имеющая право на жизнь точка зрения, но она автоматически выводит нас за пределы научного. Очень трудно в рамках современной научной картины мира поводить хоть какие-то различия между настоящим червём и его симуляцией на компьютере. Ну понятно, что первый живёт в не-виртуальном мире, ест "настоящую" еду и всё такое, но всё равно подразумевается точный "маппинг" червей, и настоящая еда превращается в виртуальную, но так, чтобы нечто настоящее просто исчезало как явление -- ну, это уже другая картина мира вообще.
Но он не технический, а этический. И очень удобный: забираешься на такой moral high ground - и сразу в белом плаще,
Это не этический аргумент, это всего лишь intuition pump, призванный показать, что как раз попытка отказать механизму в субъектности штука сугумо иррациональная и эмоциональная.
Бог с ней с квартирой и с теми, кого мы в неё пускаем. Большинство из нас готовы согласиться с тем, что у людей и даже у животных (как вы пишете) есть право не быть убитыми, например, особенно просто "по фану". И вот у вас есть механизм, который с точки зрения внешнего наблюдателя ведёт себя неотличимо от животного, например. И не просится в вашу квартиру -- жужжит себе в уголке, никого не трогает.
Далее вы говорите, мол, я по умолчанию считаю, что у механизма нет субъектности и он не страдает, а животное страдает. При этом вы можете что-то сказать про себя, гораздо меньше про других, и совсем мало про какую-нибудь лягушку, которая разве что пытается убегать и квакать, когда чувствует опасность (ну и робот тоже это умеет).
Тем не менее, имея в голове исключительно эту теорию, вы готовы сказать: ну вот да, я так вижу, и вероятность того, что вы заблуждаетесь, не мешает вам решить, что ничего страшного нет в том, чтобы отключить механизм. То есть обычно сомнение трактуется в пользу обвиняемого, если угодно, потому что на кону его жизнь, а тут наоборот.
Теперь про белое пальто. Моя задача не обвинять в шовинизме, а согласиться с тем, что мы биологические шовинисты и есть, и я тоже не исключение. Такова нормальная мораль нашего времени, и несправедливо ожидать от человека каких-то недосягаемых высот. Но достаточно хороших научных и даже этических аргументов в пользу этой точки зрения нет. Есть только эмоции.
(1) Я что-то пропустил, и этот тезис уже доказанная теорема?
Вот с моей точки зрения да, потому что в данном контексте "тезис Чёрча-Тьюринга" используется в контексте "закона природы", а не "математической теоремы". У нас в принципе нет доказанных законов природы, потому что даже принцип всемирного тяготения "доказывается" ровно так же, как на практике "доказывается" отсутствие багов в программе, а именно, прогонкой тестов, опытами. Но опыты не могут ничего доказать на 100%, максимум, они свидетельствуют о том, что теория правдоподобна. Если воспринимать тезис Ч-Т именно в таком контексте, я думаю, считать его верным ничуть не менее оправдано, чем любую квантовую механику.
Даже если это истина, то отсюда очень далеко до суждения "всё существующее есть эквивалент машины Тьюринга".
Это так называемая "сильная версия тезиса Чёрча-Тьюринга". Далеко, но не так далеко.
(3) Наконец, если всё есть вычислительный механизм, то и составные детали такого механизма - тоже аналоги вычислительной машины.
Нет, это технически неверно. Машина Тьюринга -- самый сильный вычислительный аппарат, строго сильнее (с точки зрения теории вычислений) чем, например, конечный автомат (FSM) или автомат с магазинной памятью (pushdown automaton). Так что никакой бесконечности нет -- есть минимальный юнит, который обеспечивает "какие-то" вычисления, и есть иерархия вычислителей, которая останавливается на машине Тьюринга. Машина отдельно, кирпичи отдельно.
Ну или, иначе говоря, тезис Ч-Т говорит, что машины Тьюринга "достаточно" для всего, но вовсе не "необходимо" для массы вещей.
"как вы об этом знаете" ответа не было. Потому что не получается обойти непосредственное восприятие, через которое мы получаем любое знание?
Я считаю этот вопрос плохо сформулированным. В таких терминах надо решать, что такое "я" и что такое "знаю". Это избыточно и отвлекает. Посмотрите на проблему свежим взглядом.
Есть "я" в том смысле, что есть физический объект, который не вы, не котик Вася, не табуретка и так далее, а вот ограниченный в пространстве юнит. У этого юнита есть система принятия решений. Часть этой системы отвечает за симуляцию "what-if" сценариев. Бессмысленно спрашивать "откуда она это знает". Она этого не "знает", она это "производит" -- генерация симуляции внешнего мира, в которой принимается решение -- это непосредственная работа этой системы.
Привожу текст, т.к. обещал - не обижусь, если не будете читать.
Не, на самом деле интересно, но для дискуссии действительно много :)
Смотрите, это, безусловно, имеющая право на жизнь точка зрения, но она автоматически выводит нас за пределы научного.
По сей день любой фундаментальный дискурс о субъективности автоматически выводит нас за пределы научного в философию. См. "трудная проблема сознания", где термин "трудная" иронично подразумевает "принципиально нерешаемая". А "проблема" относится к продолжающемуся фиаско проекта адептов физикализма по редукции квалитативной субъективности к физическому.
Я, в принципе, считаю методологической ошибкой принимать на веру (а это именно вера) фундаментальность физического и, соответственно, физики как дисциплины, изучающей физическое.
Эмпирические метод и индукция накладывают серьёзные ограничения на способы познания. Эти ограничения необходимы для эффективного исследования контингентно-интерсубъективного, но они совершенно не подходят для исследования абстрактного (математика, логика и некоторые разделы философии типа аналитической), и квалитативной структуры ментального.
Люди стремятся всё упрощать + имеют тенденцию эмоционально привязываться к предмету своего интереса и становиться его "адептами". И так целые аксиоматики неявно принимаются на веру, укрепляются и преварщаются в незыблемые догмы. Физикализм, имхо, это прекрасная иллюстрация того, как физика захватывает умы, теряя в них объективно присущие ей пропорции.
Мой персональный интерес лежит в области метафизики per se - мне интересно выявить ту структуру реальности, в которой brute fact моей непосредственной квалитативной реальности не заметается под ковёр. Я уже очень давно - после лет десяти "заигрываний" с физикализмом, потом с дуализмом - пришёл к выводу, что структура реальности, в которой нет места субъективному, фундаментально некорректна.
Я очень уважаю реальную работу в сторону максимальной консолидации между физическим и ментальным - имхо, там есть огромный научный и технологический потенциал. Но с моей колокольни любые результаты в этой области будут опираться на ту или иную разновидность картирования - эмпирически выявляемой ассоциации между активностью мозга и квалитативным опытом. Без возможности выявить актуальный механизм связи между ними.
И персонально я не хочу делать эту работу - в мире достаточно много блестящих умов, заинтересованных заниматься именно таким направлением исследований. Искренне желаю им максимального успеха.
Цели, которые преследую я, не загоняют меня в прокрустово ложе ограничений эмпирического метода. Это не значит бессистемность - те же математики прекрасно обходятся без него, и без плодов их работы крайне трудно представить себе эффективную физику.
Основа моей эпистемологии, если максимально просто: (1) непосредственный опыт без интерпретации - истина; (2) логическая дедукция из истины - истина; (3) всё, что соответствует форме, необходимо подчиняется законам этой формы.
Да, это за пределами интерсубъективной эмпирической науки типа физики. Так я туда особо и не суюсь...
Бог с ней с квартирой и с теми, кого мы в неё пускаем.
Прошу прощения, надо было развернуть метафору.
Декларация у механизма квалитативного сознания - т.е., по сути, добавления к "интеллекту" способности страдать - равнозначна приглашению этого механизма себе домой - в человеческую среду - на равных правах.
Последствия такого хода могут быть фатальными для человечества. Так что лично я бы рекомендовал попридержать этих коней как минимум до момента, когда (и если) можно будет точно знать, что эта имитация разума не обернётся против своих создателей.
Тем не менее, имея в голове исключительно эту теорию, вы готовы сказать: ну вот да, я так вижу, и вероятность того, что вы заблуждаетесь, не мешает вам решить, что ничего страшного нет в том, чтобы отключить механизм. То есть обычно сомнение трактуется в пользу обвиняемого, если угодно, потому что на кону его жизнь, а тут наоборот.
Тут мне придётся повториться:
(1) Рассмотрим такую логику: если нечто производит результаты, которые - если отвлечься от многочисленных отличий - похожи на результаты интеллектуальной деятельности носителей субъективности, то будем приписывать этому нечто наличие субъективности. Потому что в противном случае это "биологический шовинизм", а мы хотим иметь moral high ground и быть в белом пальто.
Согласно этой логике, эволюция и за ней транзитивно вся Вселенная - им тоже нужно приписывать субъективность, т.к. они, в конечном счёте, произвели похожие - если отвлечься от отличий - на интеллектуальную деятельность результаты. В противном случае это будут двойные стандарты и тоже разновидность шовинизма.
А что насчёт абака и механического калькулятора?
(2) Начнём с простого. Откуда мы знаем, что у абака нет субъективного сознания? На деле-то мы не знаем - может, там тоже какая-то магия, и абак испытывает унижение и моральные страдания, когда мы его используем. Но мы точно знаем, как работает абак. Как его устройство производит результат, совершенно без необходимости привлечения сознания. Механический калькулятор существенно сложнее, но принцип тот же. Электронный калькулятор устроен иначе, но принцип тот же. Теперь делаем индуктивный переход: тот же самый принцип применим к LLM. Мы точно знаем, что для производства вот этих результатов, напоминающих разным людям внешние признаки человеческой интеллектуальной деятельности, достаточно именно этой механистической структуры, без привлечения сознания. В этом случае мы не просто "опираемся" - мы совершенно точно знаем, что наблюдаемые нами результаты это полностью функция механизма.
Да, наличие субъективного сознания извне не проверяемо. Теоретически возможно, что есть некий не известный нам закон природы, по которому если внешние результаты превышают некий порог того, что нам кажется похожим на мыслительную деятельность - то к этому довеском прицепляется субъективное сознание.
Тогда почему вообще всему - на всякий случай - не приписать наличие сознания? Вашими словами: интерпретировать сомнение в пользу обвиняемого.
Пока что применительно к механизму нет ни жизни, ни обвиняемого.
Вы говорите, что дело не в этике, а в чём ещё, если пока у механизмов нет легального статуса, эквивалентного человеческому?
Но достаточно хороших научных и даже этических аргументов в пользу этой точки зрения нет. Есть только эмоции.
Эмоции идут как раз от людей, которые, не понимая принципы работы LLM, искренне "чуят" там что-то очень человеческое. Знаю одного неглупого человека, но по профессии ювелира-моделиста, крайне далёкого от компьютерных наук. Дав ему, в своё время, пообщаться с ещё ChatGPT 3.5, я был изумлён тому, какое сильное на него это произвело впечатление. Я пытался ему объяснить, как это, в принципе, работает, но всё разбивалось о стену: "мало ли как там оно устроено - с моей колокольни эта штука выглядит умнее большинства людей на улице". А какой вопль поднялся, когда с введением GPT 5 люди, блин, потеряли своих эмоциональных компаньонов...
Мой этический аргумент таков: человечество и так достаточно суицидально. Надеюсь, недостаточно, чтобы себя прикончить. Но вот легитимация механизма как равного человеку имеет потенциал контрольного выстрела человечества себе в голову. И я считаю, что идти на этот шаг без понятных гарантий безопасности - крайне неэтично по отношению к людям. А как у экземпляра человека, моя этическая обязанность в этом контексте доминирует над этической обязанностью к гипотетическому сознанию у механизмов (от абака до калькулятора до LLM) или любых других явлений природы.
Машина отдельно, кирпичи отдельно.
Давайте проще. Вы утверждали, что всё механизм. Всё - квантор всеобщности. Если всё механизм, то и каждая деталь механизма - механизм и т.д. до бесконечности. Чтобы не было бесконечности нужно что-то "атомарное", заканчивающее регрессию. Что такое атомарный механизм?
В таких терминах надо решать, что такое "я" и что такое "знаю". Это избыточно и отвлекает.
Для вас избыточно и отвлекает - для меня принципиальные вопросы. Дело приоритетов...
Посмотрите на проблему свежим взглядом.
Хех, откатиться лет на 15-20 назад? Простите пожалуйста, но времени слишком мало, лени слишком много - тут бы между работой и ленью успеть выделить время на что-то серьёзное, что мне действительно интересно, и где есть позитивные результаты, требующие дальнейшей проработки. Я бы мог вернуть это предложение вам, но смысл? Люди разные, имеют разные интересы, и каждый способен приносить пользу (хотя бы себе, не обязательно всему человечеству) по-своему.
Дискуссии, подобные нашей, имеют свою пользу в смысле репрезентации разных точек зрения и потенциального очищения и обогащения уже имеющегося понимания. Лично я давным-давно потерял желание кого-то в чём-то убедить. В конце концов я занимаюсь философией, а не религией. Да и религии не все миссионерские.
А "проблема" относится к продолжающемуся фиаско проекта адептов физикализма по редукции квалитативной субъективности к физическому.
С моей точки зрения никакой проблемы нет. Вся "проблема" философов (при всём уважении) в том, что они плохо разбираются в компьютерной науке.
Да, безусловно, сложно свести поведение живого огранизма к движению молекул. Но "магия" тут вовсе не в живости организма, а в технических трудностях процесса. Если вы попробуете понять, каким образом из движения электронов в на кристалле получается Microsoft Word, тоже ничего не получится. Хотя мы знаем, что это ровно так.
По крайней мере, я не думаю, что хоть кто-то реалистично может утверждать, что наблюдая токи в компьютере он сможет выявить, какой конкретно софт сейчас работает и какой алгоритм выполняет.
Но никому не интересно говорить о трудностях с MS Word'ом, гораздо интереснее рассуждать о "магии" живого. А если пойти в скучные "механистические" системы, окажется, что там на каждом шагу аналогичные "трудные проблемы".
Декларация у механизма квалитативного сознания - т.е., по сути, добавления к "интеллекту" способности страдать - равнозначна приглашению этого механизма себе домой - в человеческую среду - на равных правах.
Ну вот это и есть биологический шовинизм -- буквально по Аристотелю, "человек есть мера всех вещей", т.е. "я тут решаю, у кого есть сознание или нет, и я тут решаю, кому выдавать права". Это вполне легитимная конструкция, но в большей степени из области политики. Ну и ниже вы тоже предлагаете "придержать коней" из чисто политических соображений.
Тут мне придётся повториться:
Я просто не согласен с исходной посылкой. Она у вас такова: по умолчанию у человека есть сознание и субъектность, а у робота нет, и теперь надо каким-то образом доказать (или решить политически), что у робота оно тоже есть.
Исторически это ровно тот же тип аргумента что и "у женщины нет души", "туземцы не настоящие люди" и т.п. Разумеется, пигмей из Конго только внешне похож на человека, и пусть попробует докажет, что это всё на самом деле.
Опять, это всё может иметь этический, политический и какой угодно ещё смысл, но не научный. Я не могу даже доказать, что у меня есть сознание и субъектность. Мартин Лютер считал, что у человека нет свободы воли вообще. И Спиноза, и Роберт Сапольски, и Сэм Харрис, и много кто ещё.
Тогда почему вообще всему - на всякий случай - не приписать наличие сознания?
Ну Спиноза же ровно это и предлагает, нет? Вполне себе позиция.
А как у экземпляра человека, моя этическая обязанность в этом контексте доминирует над этической обязанностью к гипотетическому сознанию у механизмов (
Ну так мы по кругу ходим -- я с этой логикой не спорю. Моя семья важнее семьи соседа. Семья соседа важнее семьи из Судана. Семья из Судана важнее семьи обезьян. Семья обезьян или даже крыс важнее робота. Вполне классический подход.
Всё - квантор всеобщности. Если всё механизм, то и каждая деталь механизма - механизм и т.д. до бесконечности. Чтобы не было бесконечности нужно что-то "атомарное", заканчивающее регрессию. Что такое атомарный механизм?
Я не совсем понимаю, в чём проблема. Автомобиль состоит из деталей, каждая из которых автобилем не является. Колесо -- не автомобиль, и состоит оно из молекул, которые тоже не колёса.
Нет никаких проблем в том, чтобы изготовить автомобиль из деталей, которые не-автомобили. Нет никаких проблем, чтобы создать машину Тьюринга не из машины Тьюринга.
Механический (или электронный) калькулятор не является машиной Тьюринга (корректнее говорить про linear bounded automata, но не будем), потому что у него нет памяти и возможности выполнять программу. Аналитическая машина Бэббиджа и современные компьютеры уже являются, водораздел проходит достаточно чётко.
С моей точки зрения никакой проблемы нет. Вся "проблема" философов (при всём уважении) в том, что они плохо разбираются в компьютерной науке.
Начал было отвечать - про современную роль философии в науке, про философов-учёных, в том числе и спецов по CS, которые понимают несводимость субъективного к физическому, но тут меня осенило. Это же не логический аргумент, базирующийся на фактах, а разновидность риторической пощёчины. И отвечать на серьёзных щах имеет смысл только если хочешь риторической драки.
Что ж, я высказал, кажется, все доступные мне аргументы - от технических до этических. Думаю сворачиваться. Единственное, попробую ответить на тему тотальности механизмов - странно, что это не очевидно...
Я не совсем понимаю, в чём проблема. Автомобиль состоит из деталей, каждая из которых автобилем не является. Колесо -- не автомобиль, и состоит оно из молекул, которые тоже не колёса.
Нет никаких проблем в том, чтобы изготовить автомобиль из деталей, которые не-автомобили. Нет никаких проблем, чтобы создать машину Тьюринга не из машины Тьюринга.
Выше вы написали:
"весь наш мир со всеми происходящими процессами -- механика"
Конечно, это можно интерпретировать по-разному. Например, что механика это только целый мир, а его детали - не механика. Или что только мир в аспекте процессов - механика, а в других аспектах не механика.
Но я интерпретировал это так: всё реально существующее - механизм. Если вы не согласны с такой формулировкой, а имели в виду что-то существенно другое, то дальнейшее обращено не к вам, а ко мне самому в качестве маленького упражнения.
Если всё - механизм, то нет ничего, что не механизм. Следовательно, (1) любая деталь механизма - механизм, и (2) любая деталь любой детали - механизм, и (3) любая деталь любой детали любой детали - механизм, и (4) любая деталь любой детали любой детали любой детали - механизм, и ... (n) любая деталь (любой детали) x (n - 1) - механизм, и ... (
) любая деталь (любой детали) х (
) - механизм. Бесконечная регрессия, если мы считаем, что механизм не атомарен, т.е. состоит из чего-то, что не он сам (как в вашем примере с автомобилем - колесо это не автомобиль).
Поэтому, если всё есть механизмы, и любые механизмы не атомарны - то необходимо должна быть бесконечная регрессия, т.е. всё, что угодно - начиная с пространства и заканчивая самыми элементарными частицами - состоит из бесконечного количества механизмов.
Если считать, что такой результат абсурден, то либо не всё есть механизм, либо есть некий вид атомарного механизма, который не состоит из деталей. К такому виду механизма возникает закономерный вопрос - какие именно свойства этой атомарной сущности позволяют приписать её к семейству механизмов.
Но я интерпретировал это так: всё реально существующее - механизм
есть некий вид атомарного механизма, который не состоит из деталей. К такому виду механизма возникает закономерный вопрос - какие именно свойства этой атомарной сущности позволяют приписать её к семейству механизмов
Очевидно же из первого определения - существование. А признак атомарности - отсутствие деталей.
Очевидно же из первого определения
Кроме того, что это не определение, а гипотеза. Перефразирую, чтобы было понятнее:
Гипотеза:
Где P(x) означает "х имеет свойство P".
Такого рода гипотезы проверяются не на соответствие самим себе (что тривиально и бессмысленно), а на соответствие фактам и возможным формам. В частности, формы бесконечного рекурсивного спуска обычно считаются неэкземплифицируемыми в рамках физической Вселенной. Что касается механизма без деталей - это из области натягивания совы на глобус. Можно, конечно, сказать, что априори любые возможные свойства это свойства механизма, только тогда термин "механизм" теряет всякое осмысленное содержание. Это, кстати, из элементарной логики: объём понятия обратно пропорционален содержанию.
Классическое определение, допустим, выражения как переменной или отношения выражений ни разу не натягивает сову на глобус, а повсеместно используется. Вон, из справки под рукой стащил (чуть сокращенно):
<Выражение>:
<Значение>
| <Выражение> <Бинарная операция> <Выражение>
| <Унарная операция> <Выражение>
| ( <Выражение> )
Подставьте вместо "Значение" - "Атомарный механизм", а вместо "Выражение" - "Механизм" и все будет хорошо.
Это же не логический аргумент, базирующийся на фактах, а разновидность риторической пощёчины. И отвечать на серьёзных щах имеет смысл только если хочешь риторической драки.
Мне жаль, что вы это так воспринимаете. Я ниже привёл вполне конкретный аргумент: всё, что приводится в качестве доказательства "несводимости" сознания к физике, может быть применено к заведомо детерминистическим системам. Попробуйте показать, как MS Word внутри Windows сводится к движению электронов по схемам. Если это не получится (а разве получится?), значит, аргумент плохой.
В известном смысле это не пощёчина, а наоборот -- я не отказываю философам в интеллекте, но они не обязаны разбираться во всём на свете, и вот тут явно тот случай, когда именно пробел в конкретной области не даёт увидеть слабость аргумента.
Бесконечная регрессия, если мы считаем, что механизм не атомарен
Да, поэтому совершенно логичный вывод -- механизм может быть атомарным, и проблемы регрессии больше нет.
закономерный вопрос - какие именно свойства этой атомарной сущности позволяют приписать её к семейству механизмов.
Ну это же чисто вопрос определений. Вы можете называть "механизмом" всё, что угодно, это же просто слово, в которое можно вложить любой смысл. Основное свойство атомарного механизма -- это его атомарность, то есть вы можете из атомарных механизмов собрать что-то неатомарное, как из кубиков лего, чья основная работа и быть строительным материалом. Это не так уж и мало на мой вкус.
В известном смысле это не пощёчина, а наоборот -- я не отказываю философам в интеллекте, но они не обязаны разбираться во всём на свете, и вот тут явно тот случай, когда именно пробел в конкретной области не даёт увидеть слабость аргумента.
Это явно не тот случай.
Но сначала, позвольте тогда и мне проявить эту "щедрость" в неотказывании CS-учёным в интеллекте:
"Вся "проблема" специалистов по компьютерным наукам (при всём уважении) в том, что они плохо разбираются в в философии."
У вас есть желание подробно отвечать на такого рода "аргумент"?
Тем временем он объективно ложен, как и ложен оригинальный тезис:
"Вся "проблема" философов (при всём уважении) в том, что они плохо разбираются в компьютерной науке."
Вероятно, вы считаете философию чем-то вроде бесполезного фантазирования. Это не так. У каждой научной дисциплины есть своя философская часть. Каждый учёный, когда занимается, например, разработкой фундаментальных теорий в своей области и осмыслением экспериментальных результатов, оперирует на уровне этого философского "слоя". Те учёные, которые осознают эту границу и целенаправленно исследуют её, становятся философами. Философами никогда не становятся, просто получив академическую степень по философии. Есть и многочисленные случаи, когда уже состоявшийся философ глубоко погружается в предметную часть той или иной научной дисциплины.
И да, есть философы, очень хорошо разбирающиеся в компьютерных науках. Или, что то же самое - учёные, хорошо разбирающиеся в философии.
Я могу привести кокнретные имена - но смысл? Вы уже сделали абсолютное обобщение - априори не имея возможность доказать его, т.к. это потребовало бы доскональную проверку проф. биографии каждого человека, занимающегося философией. И я убеждён, что вы прекрасно знаете - такого рода обобщения методологически некорректны.
Попробуйте показать, как MS Word внутри Windows сводится к движению электронов по схемам. Если это не получится (а разве получится?), значит, аргумент плохой.
Доказательство возможности типа явления демонстрируется выводом общей формы этого явления. Нет необходимости перечислять каждый конкретный случай. Полнота понимания процесса происхождения явления также завязана на понимании формы процесса, а не на способности перечислить каждый элемент конкретного протекания процесса. Если бы это было иначе, не было бы ни науки, ни технологий. Да, можно прекрасно понимать, какими способами на экране отображаются графические программы, не зная деталей каждого конкретного случая.
Природа трудной проблемы сознания совсем не в этом. Если максимально лаконично - она в несовместимости типов.
Персонально мне эта тема крайне неинтересна, потому что я уже давно потратил на это достаточно лет, пришёл к однозначным выводам, и пошёл дальше. Есть (по крайней мере, на английском) достаточно много непопсовой литературы на эту тему, если есть желание разобраться в деталях. Если такого желания нет - то смысл тратить на это время здесь?
Да, поэтому совершенно логичный вывод -- механизм может быть атомарным, и проблемы регрессии больше нет.
Это было сказано выше не вам, но применимо и здесь:
Можно, конечно, сказать, что априори любые возможные свойства это свойства механизма, только тогда термин "механизм" теряет всякое осмысленное содержание. Это, кстати, из элементарной логики: объём понятия обратно пропорционален содержанию.
Давайте рассмотрим следующие тезисы:
Всё есть механизм.
Всё есть автомобиль.
Всё есть Чебурашка.
Всё есть материя.
Эти тезисы имеют один и тот же смысл: "всё есть непонятно что".
По той простой причине, что объём понятия обратно пропорционален содержанию. И если мы утверждаем, что всё есть Х, то мы утверждаем, что любые свойства это свойства Х, т.о., делая объём Х максимально большим, а содержание - практически нулевым.
Нет никаких практических причин возводить на (псевдо)пьедестал всеобщности тот или иной термин - тем самым совершенно лишая его содержания.
В общем и целом, не касаясь предмета дискуссии, замечу, что подписан на несколько философских пабликов, и крайне огорчён неучастием философов и философии в реальном мире. Ребята выстроили себе песочницу и лепят в ней терминологические куличики.
В общем и целом, не касаясь предмета дискуссии, замечу, что подписан на несколько философских пабликов, и крайне огорчён неучастием философов и философии в реальном мире. Ребята выстроили себе песочницу и лепят в ней терминологические куличики.
Тут бы хоть какой-то фактологии...
Тем временем, основы современной информатики активно развивалась в том числе и усилиями таких философов, как: Фреге, Уайтхед, Рассел, Тарский, Гёдель, Лукасевич, Черч. И т.д.
Сегодня философы активно продолжают разрабатывать ту же логику, да и каждая научная дисциплина имеет своих философов, которые активно в ней участвуют. Они, в принципе, работают на дальних рубежах наук, их деятельность практически полностью игнорируется научпопом ввиду сложности материала.
P.S. Хех, чуть не забыл Поппера, чей философский принцип фальсифицируемости очень (если не слишком) часто цитируется в том числе и теми, кто так презирает философию. :)
Я в российских пабликах. Поэтому могу говорить только о них и о современных философах (подозреваю не самых возрастных)
Я в российских пабликах. Поэтому могу говорить только о них и о современных философах (подозреваю не самых возрастных)
Лет десять назад я интересовался разными русскоязычными "философскими" площадками. И совершенно не впечатлился. Но, справедливости ради, это ровным счётом ничего не говорит о людях, которые активно занимаются реальными исследованиями на разных рубежах познания. Крайне маловероятно, чтобы последние находили время и желание лично участвовать в подобных сообществах.
Люди же, которые что-то пишут на "философских" площадках, по моим скупым наблюдениям, это, в основном, любопытствующие. Из таких любопытствующих очень редко кто копает по-настоящему глубоко - это очень трудно, и чтобы реально погрузиться в какую-то серьёзную современную тему, нужны годы подготовки.
Лично я, чтобы быть в курсе современного академического дискурса по интересующим меня вопросам, давно читаю только англоязычную литературу. И ни в коем случае не научпоп. Это ошеломляюще, сколько достойного современного (да и не только современного) материала - как философского, так и чисто научного - не переводится на русский язык. Возможно, это наследие изоляционизма (в том числе идеологического) СССР.
"Вся "проблема" специалистов по компьютерным наукам (при всём уважении) в том, что они плохо разбираются в в философии."
У вас есть желание подробно отвечать на такого рода "аргумент"?
В смысле? Это же очевидно. Быть философом (или учёным в области CS) -- это full-time job, разумеется, невозможно разбираться одинаково хорошо в области, на которую тратишь половину времени, по сравнению с тем, кто тратит на неё всё своё время.
Соответственно, концентрируемся на аргументах, а не на людях, и изучаем именно слабость аргументов с точки зрения противоположной стороны.
Например, в философии до сих пор любят ссылаться на "китайскую комнату", хотя в около-CS-среде т.н. возражение "аргумент системы" считается настолько очевидным, что даже непонятно, в чём сыр-бор.
Доказательство возможности типа явления демонстрируется выводом общей формы этого явления. Нет необходимости перечислять каждый конкретный случай.
А мне кажется, что есть необходимость. Потому что это ответ типа "а дальше очевидно". Ну вот пусть хоть кто-то продемонстрирует, как это технически работает, не в стиле "каждый отдельный шаг понятен, а дальше очевидно".
Возвращаясь к проблеме сознания (а также к тому, почему у AI его нет) -- я не говорю, что вы неправы, я всего лишь считаю приводимые аргументы слабыми.
По форме формулировка "трудности" в "трудной проблеме сознания" звучит ровно так же как MS Word в Windows -- мы не можем вывести сознание из движения атомов. Но дальше вы говорите, что в Windows нам понятен каждый шаг. Хорошо, а в природе непонятен? Мы знаем, как движутся атомы, мы знаем, как работает химия, как структурно устроен мозг. Но вы не хотите сделать ровно тот же вывод про мозг как про компьютер -- нам известны промежуточные шаги, значит, проблемы нет. Или нам пока неизвестны какие-то промежуточные шаги, но не более того. Мы почему-то сразу прыгаем к выводу, что есть некая "трудная" проблема.
только тогда термин "механизм" теряет всякое осмысленное содержание.
Ну кому как. Из базовых кирпичиков можно создать хоть дворец, при этом у кирпичика есть только одно реальное свойство -- занимать место в пространстве. По факту оказывает, что этого не так уж и мало, раз получается такой результат.
В смысле? Это же очевидно. Быть философом (или учёным в области CS) -- это full-time job, разумеется, невозможно разбираться одинаково хорошо в области, на которую тратишь половину времени, по сравнению с тем, кто тратит на неё всё своё время.
Ну тогда давайте признаем, что вообще не существует людей, хорошо разбирающихся в CS, потому что (1) объём дисциплины сегдоня такой, что человеку не под силу его охватить - особенно, если он имеет наглость тратить драгоценное время на (2) сон, (3) семью и (4) еду и (5) туалет. Впрочем, в туалете и за едой он хотя бы может книжку почитать... :)
Соответственно, концентрируемся на аргументах, а не на людях, и изучаем именно слабость аргументов с точки зрения противоположной стороны.
Согласен. И к чему тогда была нападка на философов...
Например, в философии до сих пор любят ссылаться на "китайскую комнату", хотя в около-CS-среде т.н. возражение "аргумент системы" считается настолько очевидным, что даже непонятно, в чём сыр-бор.
Вообще не интересно, кто что любит. Я не ссылался на "китайскую комнату", и не буду обсуждать этот аргумент, он мне не интересен.
Мой собственный аргумент базируется на иллюстрации несовместимости типов ментального и физического. Правда, его мне тоже совсем не интересно обсуждать, т.к. я уже делал это "миллион" раз с одним и тем же результатом - тотальным отсутствием для меня убедительных контраргументов. Кроме того, выше я уже озвучивал, емнип, раза два или больше, что проблема фундаментально в несовместимости типов. И что в очень лаконичной и интуитивно ясной форме на несовместимость типов указал ещё Лейбниц. Вам всё это явно это не интересно.
А мне кажется, что есть необходимость. Потому что это ответ типа "а дальше очевидно". Ну вот пусть хоть кто-то продемонстрирует, как это технически работает, не в стиле "каждый отдельный шаг понятен, а дальше очевидно".
Так ведь продемонстрировали! Каждый работающий персональный компьютер является такой демонстрацией.
Вы, по-сути, утверждаете, что знание рецепта вместе со способностью выполнения каждого отдельного его шага не даёт ни понимания, ни возможности приготовления конкретного блюда. Потому что - вот, посмотрите именно на это блюдо, его невозможно приготовить, не зная точной картины распределения молекул его компонент по его объёму.
Или нам пока неизвестны какие-то промежуточные шаги, но не более того. Мы почему-то сразу прыгаем к выводу, что есть некая "трудная" проблема.
Вы почему-то считаете, что трудная проблема сознания декларируется по принципу: "нам не известен промежуточный шаг, поэтому этот шаг невозможен". Что неверно, т.к. трудная проблема не в этом. И, честно, даже обидно приписывать реально блестящим умам, занимающимся этой проблематикой, такую тривиальную ошибку.
Тем временем, трудная проблема сознания декларируется по принципу: "промежуточный шаг невозможен, потому что налицо фундаментальная несовместимость типов". Понятно, что вокруг реально трудной (невозможность) проблемы есть "бахрома" из разных подходов, не равноценных по значению. Но ядро проблемы было и остаётся: несовместимость типов.
Из базовых кирпичиков можно создать хоть дворец, при этом у кирпичика есть только одно реальное свойство -- занимать место в пространстве. По факту оказывает, что этого не так уж и мало, раз получается такой результат.
Ваш пример с дворцом не вписывается в предлагаемую вами же схему "всё механизм".
По вашей схеме либо дворец состоит из дворцов (и нет никаких кирпичей), либо кирпич из кирпичей (и нет никаких дворцов).
И, честно, даже обидно приписывать реально блестящим умам, занимающимся этой проблематикой, такую тривиальную ошибку.
Ну вот делает же Сёрль тривиальную ошибку в Китайской комнате, не так ли?
налицо фундаментальная несовместимость типов".
Если она "налицо", то вы отрицаете с порога сильную версию тезиса Чёрча-Тьюринга и тем самым, если угодно, большую плеяду не менее блестящих умов, которые из этой концепции исходят. Для меня совершенно неочевидна несовместимость типов. Если вы хотите доказывать таким способом, то вам на практике реально надо найти опровержение тезиса Ч-Т, так что если удастся, прославитесь в веках.
По вашей схеме либо дворец состоит из дворцов (и нет никаких кирпичей), либо кирпич из кирпичей (и нет никаких дворцов).
Вы почему-то считаете, что с моей точки зрения все механизмы созданы равными. Там тоже есть иерархия свойств. У базового механизма одно свойство -- занимать место в пространстве. А у механизма, состоящего из комбинации базовых, появляются новые свойства.
Ну вот делает же Сёрль тривиальную ошибку в Китайской комнате, не так ли?
Имхо, тривиальная ошибка в предлагаемой вами интерпретации ("нам не известен промежуточный шаг, поэтому этот шаг невозможен"). Я не согласен с этой интерпретацией. Как бы там ни было, лично для меня аргумент "китайской комнаты" не является ни значимым, ни решающим.
Если она "налицо", то вы отрицаете с порога сильную версию тезиса Чёрча-Тьюринга и тем самым, если угодно, большую плеяду не менее блестящих умов, которые из этой концепции исходят.
Я где-то утверждал, что их ошибки тривиальны? Тем более, что нередко даже самые блестящие умы используют свой ум не столько для поиска истины, сколько для утверджения любыми способами того, что уже кажется им истинным.
Мне в принципе не интересны недоказанные тезисы, касающиеся интересующих меня философских вопросов. И я не считаю доказательством количество убеждений кого угодно. По интересующим меня вопросам я ищу достоверное знание, и полностью равнодушен к тому, как такое знание будет соотноситься с общепринятым мнением.
Если вы хотите доказывать таким способом, то вам на практике реально надо найти опровержение тезиса Ч-Т, так что если удастся, прославитесь в веках.
У меня уже есть удовлетворяющее меня доказательство, что не всё механизм. Безотносительно к тезису.
прославитесь в веках
Если прижизненно - чур его! Ещё не хватало попасть под увеличительное стекло внимания человечества.
Вы почему-то считаете, что с моей точки зрения все механизмы созданы равными. Там тоже есть иерархия свойств. У базового механизма одно свойство -- занимать место в пространстве. А у механизма, состоящего из комбинации базовых, появляются новые свойства.
У базового Чебурашки одно свойство - занимать место в пространстве. А у Чебурашки, состоящего из комбинации базовых, появляются новые свойства (напр., уши). :)
Термин поменялся, а смысл - нет. Потому что объём понятия обратно пропорционален содержанию. А содержание такими всеобщими универсализациями полностью нивелируется.
К слову, не всё существующее локализуется в физическом пространстве - тот же субъективный опыт. Но это непосредственный субъективный факт - его либо осознаёшь, либо нет. В знакомом мне философском дискурсе о природе сознания этот факт обычно осознаётся и учитывается.
У меня уже есть удовлетворяющее меня доказательство, что не всё механизм. Безотносительно к тезису.
Ну это, собственно, красная линия всего диалога. Вам достаточно субъективной уверенности, а основываться она может на чём угодно.
Мне в принципе не интересны недоказанные тезисы
Я уже выше пояснил, что тезис Ч-Т надо в данном контексте воспринимать как "закон природы". А они все в математическом смысле недоказуемы. Относитесь к попытке его доказательства или опровержения примерно как к выявлению закона всемирного тяготения. Тезис фальсифицируем, можно опровергнуть, если получится.
У базового Чебурашки одно свойство - занимать место в пространстве. А у Чебурашки, состоящего из комбинации базовых, появляются новые свойства (напр., уши). :)
Это поверхностно остроумно, но не более того. Ну то есть если вам лично кажется, что свойство кирпича быть кирпичом (занимать место) ничего не стоит -- окей, но это не более, чем интуиция. На мой вкус путь от кирпича до компьютера короче, чем от пустоты до кирпича.
Вам достаточно субъективной уверенности
А математикам, например, достаточно субъективной уверенности? Чтобы понять, что именно вы имеете в виду.
а основываться она может на чём угодно
В моём случае 100% нет. Выше я уже коротко обозначил мои критерии достоверного знания:
Основа моей эпистемологии, если максимально просто: (1) непосредственный опыт без интерпретации - истина; (2) логическая дедукция из истины - истина; (3) всё, что соответствует форме, необходимо подчиняется законам этой формы.
Вас они могут не устраивать - ваше право. Для моих целей они вполне подходят. И в мои цели не входит кому-то (кроме себя) что-то доказывать.
Я уже выше пояснил, что тезис Ч-Т надо в данном контексте воспринимать как "закон природы".
Воспринимайте, воля ваша. Моё отношение к эмпирической индукции: необходима и достаточно эффективна в рамках естественных наук, но совершенно не подходит для моих целей, т.к. они выходят за область действия естественных наук. Эмпирическая индукция в принципе не может давать достоверного знания. Но может давать достаточную в практическом смысле уверенность. Достаточную для больших дел - типа развития технологий. Но, опять же, конкретно для моих целей она неадекватна.
Если вы из вышесказанного сделаете вывод, что я и то, что сегодня понимается в рамках естественных наук как законы природы, не воспринимаю как абсолютные истины - то будете правы.
Это поверхностно остроумно, но не более того.
Ну да, базисные логические законы это "поверхностно остроумно, но не более того".
Мне кажется, или мы уже исчерпали содержательную часть дискуссии? Честно, я теряюсь в догадках, что вас побуждает продолжать этот разговор. Я уже какое-то время отвечаю чисто из вежливости. Может, пожмём руки и разойдёмся?
Вам достаточно субъективной уверенности
Переваривал вот это обвинение, и сформулировалось кое-что.
Можно подумать, вам не достаточно субъективной уверенности. :)
Насколько глубоко вы прорабатывали эту тему?
Во-первых, какая уверенность не субъективная?
Уверенность это интенциональное состояние сознания, при котором некоторому пропозициональному содержанию приписывается положительная истинность.
Добавьте к этому два условия - что пропозиция действительно истинна, и что известно обоснование этой истинности - и получим классическое определение знания: истинное обоснованное убеждение.
Так что любая уверенность по определению субъективная.
Какой у вас может быть выход из этого положения?
Утверждать, что бывает не субъективная увереность это то же самое, что утверждать - бывает уверенность вне сознания. Что применительно к человеку абсурд как минимум для любой уверенности, которую человек осознаёт.
Вы можете утверждать, что, хотя уверенность по своей природе субъективна, но её пропозициональное содержание может быть объективным. И вот вы выбираете объективные содержания, а я - нет.
Такой аргумент сразу требует ясности: что такое объективные пропозициональные содержания, что такое субъективные пропозициональные содержания, и на каких основаниях вы знаете, что я выбираю уверенность в последних, а вы в первых.
Проблема в том, что любое пропозициональное содержание также субъективно постольку, поскольку является содержанием сознания, которое на него направлено с модальностью уверенности. Ой... :)
Что ещё можно сообразить для выхода из этой ужасной субъективности?
Нужно, чтобы хоть что-то в этом пропозициональном содержании выходило за пределы субъективности.
И тут мы приходим к референции. Можно заявить, что, хоть пропозициональное содержание и субъективно, оно может иметь референции к объектам вне сознания.
Общепринятые кандидаты на такие объекты - физические (контингентные) и, внезапно, абстрактные (вечные истины). Первые исследуются естественными науками типа физики, химии, биологии и т.д. Последние - философией (логика, основания математики) и математикой.
И вот, я (риторически) унижен и повержен (фу, адепт гадкой субъективности), а вы обладаете настоящим объективным знанием. Да?
Нет.
Потому что референция это тоже функция сознания, и ссылается она не на реальные объекты вне сознания, а на абстрактные объекты модели реальности, которой обладает и оперирует сознание.
Вы можете возразить, что мол, мы же умеем довольно эффективно действовать в соответствии с некоторыми моделями, добиваясь успехов в областях, которые явно выходят за пределы нашего сознания (напр., технологии).
На что я отвечу: да, наши субъективные воспрятия организованы таким образом, что следование определённым моделям даёт более эффективные результаты, которые затем воспроизводятся в нашем восприятии таким образом, что дают устойчивое впечатление их "заякоренности" на нечто вне сознания. Напр., мы построили ядерный реактор, и завтра тоже наблюдаем его, и послезавтра и т.д.
Но отсюда можно сделать только такой достоверный вывод: нечто вне нашего сознания организует наши восприятия таким образом. Однако, варианты, как именно устроена эта внесознательная действительность, технически могут быть очень разными.
Вы (возможно, имплицитно) полагаете, что есть некое тривиальное прямое соответствие между выбранной вами моделью (физическая модель) и внесознательной действительностью. По сути, это полагание, что детали модели у вас в сознании это достаточно точные копии деталей внесознательной действительности.
Но такое убеждение (субъективное!) может апеллировать только к чему-то вроде простоты и нежеланию привлекать лишне сущности. Но это тоже субъективные соображения! Нет никаких доказательств, что внесознательная действительность именно такая.
Я не знаю, какие ещё у вас могут быть варианты - всё конкретное, доступное нам так или иначе сводится к нашей субъективности. Иначе бы мы о нём никогда не узнали.
И, тем не менее, доступные нам способы познания явно не равноправны по эффективности. Свидетельства этому - логика, математика и физика, как примеры эффективности; и, например, астрология, алхимия, оккультизм - как примеры неэффективности.
В чём разница?
Разница не в том, что математики или физики оперируют чем-то объективно объективным - это невозможно, т.к. все доступные нам действия доступны через нашу субъективность. Разница в системе.
Подходы познания в математике и физике радикально отличаются, но и те и другие дают нам эффективность.
Математика исследует законы форм. Физика исследует, какие формы экземплифицируются в нашем опыте. И, т.о., может эффективно применять математические результаты для значимого прогресса путём формальных предсказаний и эксперимента.
И всё это происходит в персональной субъективности каждого математика и каждого физика.
Наконец, фундамент любой выбираемой нами системы познания - безусловное доверие к субъективным содержаниям.
Да, да - безусловное.
Вот, например, вы читаете этот текст. Откуда вы знаете, что в нём написано именно то, что вы прочли? Откуда вы знаете, что вы видите именно то, что вы видите?
Если вы не готовы признать, что непосредственное неинтерпретируемое восприятие это всё, что у вас реально есть, и оно есть именно так, как оно у вас есть, то вы не можете быть уверены вообще ни в чём.
Безусловное доверие к базисным "сырым" восприятиям это т.н. human condition - у людей нет и не может быть в этом никакого выбора.
У такого доверия есть одно основание: непосредственно данное есть так, как оно даётся, в силу непосредственности. Другое дело - интерпретация. Интерпретация тоже есть так, как даётся непосредственно, но может быть неверной по отношению к модели, которую мы считаем эффективной (пример - иллюзия преломления карандаша в стакане воды).
Итак, у вас есть система и модель, с помощью которых вы судите о вещах.
Но и у меня тоже есть! Разница не в субъективности - разница в том, какие системы и модели мы используем.
Вы (судя по всему) по какой-то причине безусловно принимаете физикалистическую модель. И - судя по вашим словам выше о несущественности природы знания - не особо заморачиваетесь системой. Поправьте меня, если я тут ошибаюсь.
Я энное количество лет назад начал подвергать обоснованным сомнениям физикалистическую модель, которой меня обучали, и - чтобы иметь ясные критерии знания - посвятил немало времени на выработку и обкатку системы. С помощью которой можно было бы либо восстановить физикалистическую модель, либо произвести какую-то другую. Об этой системе я коротко упомянул второй раз в своём предыдущем сообщении. Там непосредственный неинтерпретируемый опыт, логика, и принцип формального соответствия.
Итого, я не могу воспринимать вот эти обвинения в "субъектвной уверенности" серьёзно. Потому что они несерьёзны. Любая уверенность субъективна. Любые содержания сознания субъективны. И у нас нет ничего кроме субъективных содержаний сознания. И возможности ложно думать, что это не так.
Вы до этого спрашивали, в чём моя мотивация продолжать разговор, и вот я отвечу, что мне было отчасти в очередной раз полезно понять, насколько фундаментальными могут быть различия в том, что "очевидно", каковы предпосылки и т.п. Ну вот что поделать, в таком мире мы живём, другого нет, остаётся только заниматься чем-то конструктивным, а разрешение противоречий -- это иллюзия. Так что спасибо, и рад был разговору :)
Конечно, вы сейчас говорите много разумных вещей, но это всё можно применить к чему угодно. Кому-то было непосредственно данное в ощущениях божественное откровение -- и оно для него истина, потому что всё равно всё субъективно.
Каждому ему система познания кажется очевидной и, возможно, единственно разумной, но всегда найдётся собеседник, который скажет, что она непродумана и нелогична, ну что делать.
Мой текущий взгляд на вещи основан на совершенно стандартной и скучной научной модели изучения окружающего мира -- мы смотрим на камень, облако, лёд -- и изначально исходим из того, что там нет никакой "магии", помимо базовых физических элементов. Чем сложнее объект, тем сложнее его изучать, очевидно, но наша цель -- избегать магии как можно дольше. Бритва Оккама, если угодно.
Возможно, магия рано или поздно появится, но пока не появилась, потому что аргументы в её пользу сводятся к личному восприятию. Ну окей, это можно с порога отбрасывать не потому, что аргументы неверны, а потому что субъективное у каждого своё, и значит, это заведомо не универсальный довод. Если человек говорит, что арбуз вкусен, тут нет спора, он просто утверждает, что его органы чувств так ему говорят, и я верю.
Ну а то, что у меня своё субъективное -- факт, разумеется, поэтому я и исхожу из того, что наименьшее зло -- это не вводить новое субъективное вдобавок к уже имеющемуся.
исхожу из того, что наименьшее зло -- это не вводить новое субъективное вдобавок к уже имеющемуся.
Т.е., мы договорились, что не нужно вводить наличие субъективного сознания у LLM?
Кому-то было непосредственно данное в ощущениях божественное откровение -- и оно для него истина, потому что всё равно всё субъективно.
"Божественное откровение" это интерпретация субъективного содержания. Точно так же, как "камень", "облако", "лёд". Принимать непосредственный факт субъективного содержания и его интерпретацию - это две существенно разные вещи.
Интересная, кстати, схема у физикалистов - начинаем с интерпретации, а непосредственное отбрасываем, как несущественное.
У них, наверное, и поговорки наоборот: "лучше 100 раз услышать, чем один раз увидеть", "7 раз отрежь, один раз отмерь" и в таком духе. :)
мы смотрим на камень, облако, лёд -- и изначально исходим из того, что там нет никакой "магии", помимо базовых физических элементов.
А базовые физические элементы - это хорошая магия, да? :) Её можно как бы не замечать, как-будто её нет.
Ещё один интересный момент у физикалистов. Существование на уровне базовых физических элементов - это естественно. Как говорится, "расходитесь по домам, здесь не на что смотреть". Но как только делаешь логический вывод что существование фундаментально естественно - тут же обвиняешься в магии.
Чем сложнее объект, тем сложнее его изучать, очевидно, но наша цель -- избегать магии как можно дольше. Бритва Оккама, если угодно.
Вот и я о том же. Круто, что при одних принципах разные люди могут приходить к ортогонально разным результатам. Это разнообразие. И, имхо, это хорошее разнообразие.
Так что спасибо, и рад был разговору :)
Взаимно!
Т.е., мы договорились, что не нужно вводить наличие субъективного сознания у LLM?
Я думаю, не нужно, но я ровно так же думаю и про людей.
Алгоритм такой: 1) по умолчанию ни у кого/ни у чего нет субъективного сознания; 2) если мы по какой-то причине решаем, что у кого-то/чего-то оно есть, спрашиваем его; 3) если отвечает утвердительно, верим (?); 4) если не верим, должна быть веская причина. Как-то так.
"Божественное откровение" это интерпретация субъективного содержания.
Думаю, вся ваша линия мысли должна вас приводить к идее о том, что содержание без интерпретации невозможно.
начинаем с интерпретации, а непосредственное отбрасываем, как несущественное.
Думаю, непосредственного не существует. Я неоднократно сталкивался с позицией (близко к тексту) "божественное начало мира непосредственно очевидно".
А базовые физические элементы - это хорошая магия, да? :) Её можно как бы не замечать, как-будто её нет.
Нет, это плохая магия, но она неизбежное зло, если мы не считаем, что живём в Матрице. Возможно, живём. То есть я понимаю, что магия будет, но не будем плодить.
Ещё раз спасибо, всё никак не закончим :)
всё никак не закончим :)
Да, внезапно возникают интересные моменты, которые хочется прокомментировать. :)
Начну с самого интересного.
Думаю, вся ваша линия мысли должна вас приводить к идее о том, что содержание без интерпретации невозможно.
Я ждал подобного аргумента с момента, когда в первый раз обозначил свою эпистемологию. Спасибо.
Несколько дней потихоньку исследовал свою "линию мысли" - точнее, "линии".
Ответ-то на этот аргумент у меня уже был, но как его более-менее адекватно сформулировать - без попыток построения детальной теории интерпретации совместно с углублением в гуссерлианскую теорию структур сознания - для этого потребовался дружеский пинок.
Для начала надо уточнить, что я понимаю в этом контексте под субъективными содержаниями и под интерпретацией.
Вообще, любое фиксируемое в качестве целого существование имеет форму простой (т.е., не условной, не импликации, не дизъюнкции и т.д.) пропозиции.
Поэтому субъективные содержания это в том числе и пропозициональные содержания.
Субъективное содержание это пропозиция, которая в интенции субъекта утверждает субъекту себя.
Интерпретация это такая пропозиция (как правило, сложная), которая привлекается с целью заменить исходную пропозицию (тоже может быть сложной) по причине, что в исходной пропозиции не достаточно информации и (или) есть двусмысленность.
Например, однозначным текстам, полностью раскрывающим некоторый целевой предмет, интерпретация не нужна.
(Это не точно, т.к. всё равно необходима интерпретация, напр., пятен в качестве букв, сочетаний букв в качестве слов, сочетаний слов в качестве предложений, и всего этого в качестве текста и т.д. - тут помогла бы теория интерпретации с уровнями и инкапсуляцией, но это как-нибудь, наверное, в другой жизни раз . Смысл, надеюсь, понятен.)
В произведённом благодаря вам небольшом наброске о реальности я упомянул, что:
"Объекты М-реальности становятся известными, появляясь непосредственно в М-реальности. У них нет ракурса, они присутствуют в М-реальности полностью."
Не думаю, что нужно объяснять, почему, когда я вижу, скажем, автомобиль - автомобиль не дан целиком в моих ощущениях.
Собственно, в сенсорных ощущениях и нет никакого автомобиля. В зрительной области есть цветовая конфигурация, и не более того. Выражение "вижу автомобиль" - это, так сказать, "синтаксический сахар", заменяющий более правдивое "вижу цветовую конфигурацию, на которой распознаю автомобиль".
В бытовой повседневности мы с самых малых лет настолько часто используем эти сокращения, что тотально перестаём их замечать. И, чтобы снова заметить, нужно как минимум целенаправленно напрячься.
Вот это распознавание автомобиля на цветовом пятне определённой формы и есть пример интерпретации. С одной стороны есть сырое сенсорное содержание. В нём нет автомобиля. С другой - есть модель, с помощью которой при созерцании этого цветового пятна мыслится автомобиль.
Т.о. пропозиция "вот цветовое пятно" заменяется на пропозицию "вот автомобиль" - интерпретация.
Когда я говорю "непосредственно данное без интерпретации - истина", я имею в виду именно это - без замещения данного пропозиционального содержания другой пропозицией.
Если остановить у себя процесс замещения непосредственно данного его интерпретациями, то получится "посмотреть" на свою собственную реальность как она есть, а не как мыслится через призмы накопленных жизнью моделей.
Дополнительно к этому - невозможно, чтобы любое содержание требовало интерпретации. Потому что интерпретация это тоже содержание, и этом случае мы бы имели бесконечный рекурсивный спуск пропозициональных замещений и никогда не получили бы никакой конкретной пропозиции.
И, к слову. Т.к. интерпретация это тоже содержание, то мы вполне способны созерцать интерпретацию без интерпретации. :)
Алгоритм такой: 1) по умолчанию ни у кого/ни у чего нет субъективного сознания; 2) если мы по какой-то причине решаем, что у кого-то/чего-то оно есть, спрашиваем его; 3) если отвечает утвердительно, верим (?); 4) если не верим, должна быть веская причина. Как-то так.
Умоляю, разверните, как вы пришли к пункту 1). Я совершенно точно знаю, что я не философский зомби. Вы, судя по этому пункту, уверены в обратном, в том числе по отношению к себе. Как это работает?
Думаю, непосредственного не существует.
Лично я всю свою жизнь (даже во сне!) окружён эмпирическими свидетельствами непосредственного. Вы нет?
Я неоднократно сталкивался с позицией (близко к тексту) "божественное начало мира непосредственно очевидно".
Т.е., кто-то ложно назвал что-то непосредственным, и вы отметаете всю концепцию? Это же из разряда "вместе с водой выплеснуть и ребёнка". Не вашего калибра.
А главное - как вы что-то знаете, если непосредственного нет? Вот этот самый текст, который вы сейчас читаете - вы видите все эти цветовые пятна, в которых различаются буквы? Если да - то вот это пример непосредственного. Если нет, то откуда вы берёте все эти буквы, которые складываются в слова, ..., в текст, который вы читаете?
Нет, это плохая магия, но она неизбежное зло, если мы не считаем, что живём в Матрице. Возможно, живём. То есть я понимаю, что магия будет, но не будем плодить.
Да 100% мы живём в "матрице" - только не в такой, как в вульгарном (в философском смысле) фильме "Матрица". :)
Итак, базовые физические элементы это "необходимое зло".
Интересно, что у нас с вами, при радикальном различии онтологических подходов, похожие схемы о "необходимом зле" - оно есть и у меня, и у вас. Разница только, что у вас - это вот эти базовые физические элементы, а у меня - субъективные содержания.
При этом в вашей картине мира субъективные содержания элиминируются к базовым физическим элементам, а в моей наоборот - физическое элиминируется к субъективным содержаниям (и к некоторому внешнему их источнику).
Получается, куда не пойдёшь - везде упираешься в магию.
Кстати, респект за честность - не помню, чтобы раньше дискутировал с физикалистами, которые бы признавали "магичность" базовых физических явлений.
Скажите, а вы не находите, что у вот этого "упирания в магию" есть ещё один родственный момент - теории? Поясню.
Мой тезис - теория всего невозможна. Если ожидать от неё объяснения всех терминов через другие, понятные термины, которые понятны в силу их объяснения через другие понятные термины (и т.д.).
Самая всеобщая теория неизбежно должна либо иметь примитивные термины, не сводимые к другим, либо - иметь логический круг по примеру классического "сепульки - сепулькарии - сепуление - сепульки". В обоих случаях такая "теория всего" на деле будет либо "теорией всего, кроме вот этого", либо "теорией ничего" т.к. логический круг не способен снабдить что-то содержанием.
И вот: в теориях (онтология абстрактного) мы неизбежно имеем аксиомы и примитивные термины; в онтологии физического - базовые элементы и законы; в онтологии ментального - непосредственное и интенциональность.
Онтологии разные, но схема одна и та же.
Так и хочется сказать "Совпадение? Не думаю!" (с) :)
Да, спасибо :)
Умоляю, разверните, как вы пришли к пункту 1). Я совершенно точно знаю, что я не философский зомби. Вы, судя по этому пункту, уверены в обратном
Я к этому не "прихожу", я из этого "исхожу" :) Начинаем с нуля магии, и вводим только если без неё деваться некуда. Это, кмк, совершенно стандартный научный подход.
Лично я всю свою жизнь (даже во сне!) окружён эмпирическими свидетельствами непосредственного. Вы нет?
Не совсем. Вам мозг рисует некую картинку окружающего, то есть вы уже имеете дело с уже "переваренным" восприятием.
Это же из разряда "вместе с водой выплеснуть и ребёнка". Не вашего калибра.
Спасибо. Это нормальный аргумент, если апелляция к интуиции может считаться нормальным аргументом. Потому что интуиция у каждого своя, и тогда мы сейчас начнём решать, у кого она достаточно достойна обсуждения, а у кого ложная. Ну или просто признаём, что да, кто-то воспринимает "непосредственно" божественное начало, и у меня нет повода ему не верить.
нет? Вот этот самый текст, который вы сейчас читаете - вы видите все эти цветовые пятна, в которых различаются буквы? Если да - то вот это пример непосредственного. Если нет, то откуда вы берёте все эти буквы, которые складываются в слова, ..., в текст, который вы читаете?
Это хороший аргумент, но в нём слишком много разного, даже не знаю, на чём сосредоточиться. Да, мне мозг рисует какие-то пятна. Вероятно, он их не от фонаря берёт, и что-то действительно "извне" он считывает. Но я не готов постулировать, что внешний мир попадает в сознание просто "по трубе" без какой-либо обработки. Собственно, на уровне букв это уже очевидно. Для меня "А" и "а" -- где-то рядом, а для неграмотного непонятно, где связь между этими значками, которые внешне не особо похожи. И обратно, я не увижу разницы между двумя цветовыми оттенками буквы, а для кого-то это будет прямо на поверхности. Думаю, довольно очевидно, что по мере прохождения сигнала с сетчатки он довольно сильно деформируется.
, а в моей наоборот - физическое элиминируется к субъективным содержаниям
Ну как бы основа любой материалистической концепции -- это постулат о том, что мир может существовать и без нас. То есть я могу представить себе мир без мыслящих существ вообще, каким он и был (по научным представлениям) большую часть существования. Получается, что физический объект (камень) уже есть, даже когда нас нет. И поэтому довольно странно предполагать, что физический мир это артефакт мышления, если, конечно, мы не в симуляции живём. И в этой картине избавиться от магии физического просто не получается.
Мой тезис - теория всего невозможна. Если ожидать от неё объяснения всех терминов через другие, понятные термины, которые понятны в силу их объяснения через другие понятные термины (и т.д.).
Хороший вопрос. Мне кажется тут два пункта: иметь "базовую теорию" (ну то есть вот буквально как работают первокирпичики нашего мира типа кварков) и уметь сводить теорию более высокого уровня к более низкому (психология - биология - химия - физика), т.е. редукционизм.
В первом, кмк, мы упёрлись в практические ограничения, и, грубо говоря, понять как работает кварк, уже невозможно, это магия. Он есть и он такой, end of story.
Но на это можно посмотреть и иначе -- что такое "объяснить"? Это же буквально по определению разложить на составляющие и понять, как из кусков получается новое целое. Но если мы уже добрались до элементарных частиц, как такое объяснение могло бы выглядеть хотя бы в теории?
Второе, думаю, формально возможно, но технически нереально (ну как понять на основе движения электронов, что у нас MS Word запущен). А кроме того, судя по всему, это контрпродуктивно, т.к. на каждом этаже возникает своя "эмерджентность", которая пропадает, если с него уйти.
Грубо говоря, один из трёх палочек составляет букву "А", а другой краской рисует "а" курсивом. Если спуститься на физический уровень, в этих двух сетапах нет ничего общего, и мы резко теряем что-то важное.
Часть #1 Непосредственное, ясность.
Сложились разные обстоятельтсва + длиииинная череда праздников. Новый год, Киппур, Суккот, и всё практически подряд и посередине недели. Так что у меня, можно сказать, был отпуск.
Но я потихоньку формулировал ответ. В него было вложено довольно много времени, размышлений и личного многолетнего философского исследования - надеюсь, оцените. Из-за длины текста я разбиваю ответ на несколько пронумерованных. Рекомендую читать от #1 к #5 последовательно.
Лично я всю свою жизнь (даже во сне!) окружён эмпирическими свидетельствами непосредственного. Вы нет?
Не совсем. Вам мозг рисует некую картинку окружающего, то есть вы уже имеете дело с уже "переваренным" восприятием.
Т.е., мы с вами по-разному понимаем смысл "непосредственного". Вы – что физический мир непосредственно присутствует в восприятии, если восприятие непосредственно. Я это категорически отрицаю. Физический мир совершенно не присутствует в нашем непосредственном восприятии. Присутствует только наша идея о нём. Под непосредственностью я имею в виду что-то совершенно другое.
Квалиа – это общепринятый термин, но если мы забуксовали с непосредственностью, то он вряд ли поможет (хотя статью я рекомендую).
Давайте попробуем так.
Есть вы и есть объект вашего внимания.
Как мы это знаем?
Вы можете помещать другие объекты в ваше внимание путём, например, поворота головы или просто волевым актом (напр., переключение от зрительного фокуса внимания к аудиальному).
Поэтому вы – отдельная сущность. Объекты, подлежащие вашему вниманию – отдельные сущности. Но, присутствуя в вашем внимании, они подмножества вашей сущности: вы имеете непосредственный доступ к каждому элементу их содержания. Будучи подмножествами вашей сущности, они, тем не менее, не являются её субстанцией. Субстанция ментальной сущности это то многомерное пространство внимания, в фокусе которого одновременно "встречаются" друг с другом существенно разные типы восприятия – ощущения, эмоции, мысли.
Между вами и непосредственным объектом вашего внимания есть различие, но нет промежуточных слоёв. Объект вашего внимания самим собой говорит вам, чем именно он является.
Например, цвет. Вам не нужно посредников, чтобы различать между цветами. Чтобы определять цвет, находящийся в вашем внимании (даже если вы не знаете его названия). Даже если вы дальтоник – тогда вы будете иметь меньше названий (и, вероятно, разнообразия) для спектра своего цветового восприятия.
Например, запах. Вам не нужно посредников, чтобы определить – это для вас благоухание или зловоние.
Например, мысль. Вам не нужно посредников, чтобы определить содержание вашей мысли.
Все эти содержания я называю непосредственными – потому что между вами и ними не стоит ничего промежуточного.
Рассмотрим пример комплексного объекта восприятия. Что-то, что вы бы определили как относящееся к классу физических объектов. Например, деревянную зелёную скамейку.
В вашем восприятии нет этого физического объекта. Это справедливо в том числе и с позиции физикализма: вряд ли даже самый элиминативный физикалист станет утверждать, что сама скамейка каким-то образом "просачивается" через сетчатку глаза и в мозг попадает деревянный предмет, который существенно больше самого мозга.
А что есть?
В терминологии Гуссерля есть "ракурс" или "горизонт" объекта. В этом комплексном восприятии присутствуют сенсорные квалиа типа субъективного воспрятия цвета (что скамейка зелёная) и множество "предсказательных" интуиций, которые на основе предыдущего опыта формулируют субъективное впечатление целостного трёхмерного объекта. Эти интуиции даются обычно не все разом, а в соответствии с текущими намерениями, ожиданиями и прочим контекстом ситуации. Благодаря этим интуициям у вас будет уверенность, что представленный сенсорно ракурс это репрезентация такого объекта, по отношению к которому можно производить множество предсказуемых действий - сесть на скамейку, обойти её и посмотреть, что там матерного может быть нацарапано вандалами, приподнять (если не прикручена) и т.д. и т.п.
Если навскидку разложить восприятие скамейки на непосредственные элементы, то там будут:
цветовое пятно: непосредственность сенсорного типа;
форма ракурса: непосредственность абстрактного типа; регулируется контрастом на цветовом пятне;
форма скамейки: непосредственность абстрактного типа следующего уровня; регулируется совокупностью первых двух элементов и суммы предыдущего опыта о скамейках и мире;
убеждение, что скамейка деревянная, если в цветовом пятне различается текстура, совпадающая с предыдущим опытом восприятия деревянных предметов: непосредственность мыслительной интенциональности высшего порядка;
сама скамейка - только не сам физический объект, а сформированный в сумме предыдущего опыта абстрактный объект "скамейка", ассоциируемый во время восприятия с ракурсом: непосредственность абстрактной ассоциации.
Вы можете возразить, что не замечаете тех или иных элементов - тогда какие они непосредственные? Но это совершенно типичный случай: мы очень часто не замечаем того, что реально воспринимаем, лишь постольку, поскольку не обращаем внимания на детали. Причём, часто для успешного обращения внимания на детали необходима некоторая практика. Могу лично подтвердить (но это общеизвестно): художники с практикой начинают различать существенно больше оттенков и цветов; музыканты – существенно больше звуков и разных их аспектов; и все – каждый в своих областях специализаций и практики – различают существенно больше абстрактных объектов. Хех, наверное, интенции различают практически эксклюзивно люди, активно исследующие философию сознания.
Тем не менее, непосредственность этих элементов означает, что они у вас реально есть. И вы можете различить их при желании и достаточной практике. Различение даёт ясность. Доступный сразу пример – когда, скажем, работаешь, а на втором мониторе бубнит что-нибудь на Netflix. Переключаешь внимание, и бац, бубнёжь превращается в членораздельную понятную речь. Речь была и до этого, но не в фокусе, не в ясности. Впрочем, о ясности ещё выскажусь подробно ниже.
Далее. Что непосредственность этих элементов не означает – она не означает независимое существование физической скамейки. Этими словами я не отрицаю существование скамеек, я просто констатирую факт: из этого непосредственного опыта логически не выводится физическое существование скамейки.
Это принципиально важно: физическое существование скамеек это как раз опосредованное знание. Опосредованное персональными убеждениями (аксиомами), формируемыми местной культурой, образованием, предпочтениями.
И сразу, на всякий случай, оговорюсь: я не считаю такое опосредованное знание чем-то бесполезным. Систематическая эмпирическая индукция в той же физике (и прочих эмпирических науках) показывает на примере развития технологий, что опосредованное знание – если разрабатывается правильно – часто бывает в высшей степени полезно. Что там говорить – даже в наших персональных бытовых делах аккуратно оцениваемое опосредованное знание помогает нам в жизни каждый день даже в самых простых вещах типа приготовления еды или вождения. Но есть один интересный момент: опосредованное знание обычно тем эффективнее и точнее, чем лучше оно приближено к непосредственному. Как говорится, "лучше один раз увидеть, чем сто раз услышать".
По сути, непосредственное восприятие это потенциальное непосредственное знание. Надо только (и это принципиально!) понимать, что непосредственность элементов восприятия это знание лишь о том, в какой форме они даны воспринимающему, если он обратит на них внимание.
Поэтому аргумент против непосредственного знания некорректен.
Простая иллюстрация. Вы можете сказать что-то в духе "у меня может быть абсолютная интуитивная ясность, что с помощью циркуля, линейки и карандаша на ровной столешнице обычного письменного стола можно начертить круглый квадрат, имеющий свойства и квадрата, и круга в рамках евклидовой геометрии". И, т.к. это, очевидно, неверно (и это куда ближе к настоящей ясности), то можно вообще все субъективные содержания рассматривать как априори недостоверные. Давайте рассмотрим это поближе.
Эта разновидность ясности называется убеждением. И вышеозначенное убеждение совершенно точно неверно. Если такое убеждение присутствует у человека, то у него явно какие-то когнитивные проблемы. Не обязательно паталогические - ребёнок или невежда может не понимать природу противоречия как невозможности и наивно верить, что всё возможно.
Убеждение это разновидность интенционального (направленного) состояния сознания, в котором субъект ассоциирует истину с некоторым пропозициональным содержанием.
Схематически это можно обозначить так: "Субъект -> Истина(Пропозиция)". Где стрелка обозначает интенцию – такую направленность внимания, в которой осуществляется приписывание истины.
Ясность рассматриваемого убеждения о круглом квадрате это исключительно ясность для самого носителя этого убеждения, что у него есть именно такое убеждение. И всё. Если субъект умеет адекватно логически мыслить, то при разборе пропозиции "с помощью циркуля, линейки и карандаша на ровной столешнице обычного письменного стола можно начертить круглый квадрат" он придёт к другой ясности: что эта пропозиция ложь. Если он понимает, что противоречия невыполнимы и что соответствие несовместимых форм это противоречие – то он успешно поймёт, что рассматриваемое убеждение некорректно в силу ложности пропозиции. И потеряет это убеждение, получив третью ясность – что у него нет этого убеждения.
А главное в этом – у бывшего носителя такого убеждения была ясность самого убеждения, но совершенно не было ясности истинности пропозиции. Потому что ясность истинности пропозиции необходимо предполагает либо наличие примера реализации, либо наличие доказательства от противного, исходящего из истинных посылок, ясность истинности которых уже установлена.
Часть #2 Интуиция, предмет ясности,
Это нормальный аргумент, если апелляция к интуиции может считаться нормальным аргументом. Потому что интуиция у каждого своя, и тогда мы сейчас начнём решать, у кого она достаточно достойна обсуждения, а у кого ложная.
Также, мы с вами существенно по-разному понимаем смысл термина "интуиция".
Скажем так. В быту практически все термины используются без какого-либо анализа, достойного обсуждения. Интуиция – это всего-лишь один пример. Синонимы – "чуйка" и "сильно кажется".
В удобной мне терминологии я предпочитаю слово "ясность", но, опять же, не в бытовом значении. Ещё лучше – "интуитивная ясность". Где "интуитивная" обозначает непосредственность наличия – от сенсорных данных до эмоций, мыслей, убеждений. А "ясность" – осознанное понимание причины истинности.
Логика и математика невозможны без использования интуитивной ясности. Даже самые, простите, упоротые формалисты всё равно при разборе и построении синтаксически правильных конструкций и доказательств вынуждены использовать ясность для проверки соответствия правилам образования и вывода. Это уже не говоря о том, что невозможно об одном и том же символе знать, что он один и тот же, если нет ясности по этому вопросу.
Итак, я попытался кое-как проиллюстрировать, что в апелляциях к ошибочным интуициям подменяются предметы ясности. Какой бы ни была сильной уверенность в чём-то, она ничто без пропозициональной ясности, просто слепая вера. В конце этого сообщения я привожу несколько конкретных, достаточно простых, но и достаточно сильных (бесконечности) примеров ясности. Надеюсь, на этих примерах будет непосредственно понятно, почему это не просто "кажется".
Это хороший аргумент, но в нём слишком много разного, даже не знаю, на чём сосредоточиться.
Простите, не вполне понимаю, что вы имеете в виду под "слишком много разного"...
Но я не готов постулировать, что внешний мир попадает в сознание просто "по трубе" без какой-либо обработки.
Разве я такое когда-нибудь утверждал? Наоборот, я считаю – вполне в соответствии с современным пониманием физики и физиологии сенсорного восприятия – что внешний мир вообще не попадает в сознание.
Предчувствуя, что за эти слова мне может быть приписано, что отсюда я вывожу несуществование внешнего мира, сразу оговорюсь: нет, из этого не выводится, что внешнего мира не существует. Более того, я совершенно точно знаю, что есть существование вне меня.
Ну как бы основа любой материалистической концепции -- это постулат о том, что мир может существовать и без нас.
Справедливости ради – и в чисто идеалистических концепциях мир может существовать без нас.
Лично мне совершенно понятно, что существование в своей основе естественно. В это даже не надо верить, как в какую-то вынужденную магию - это доказуемо. Где-то выше я приводил ссылку на свой давний комментарий, где в одной из секций разбирал этот вопрос. Могу поискать снова, если вам интересно.
И мне также понятно, что я (увы? :)) не являюсь основой существования. И непосредственные элементы субъективного тоже не являются такой основой.
Вы, полагаю, считаете основой естественного существования физические элементарные частицы. Равно как и "базовой магией", от которой никуда не деться.
У меня в качестве такой магии, от которой никуда не деться – квалиа, непосредственные данные. Но они точно не основа естественного существования.
Вообще, касательно базирования существования на физических элементах – а как насчёт пространства? Может ли не существовать то, что является местом тому, что существует? Мой ответ, естественно: это невозможно.
Имхо, если бы я сегодня каким-то необъяснимым чудом вновь превратился в физикалиста, то за основу существования выбрал бы физическое пространство.
В моей текущей метафизике основа естественного существования – немножественное. Существование немножественного доказывается от противного. Оно не состоит из частей и, соответственно, не меняется. Т.е., не может ни исчезнуть, ни появиться. Оно просто есть. И является местом всему остальному существованию.
В этой концепции физический мир тоже может продолжать существовать без нас. Но подобно тому, как продолжает существовать мир какой-нибудь компьютерной онлайн игры, когда от него отключились все игроки. Рассчитываемый в достаточных деталях, чтобы любой вернувшийся игрок видел свидетельства континуальности событий этого мира.
Часть #3 Культурное влияние, реальность мозга
И поэтому довольно странно предполагать, что физический мир это артефакт мышления, если, конечно, мы не в симуляции живём. И в этой картине избавиться от магии физического просто не получается.
Вот трогательная история, как я стал физикалистом. С детства мне внушали, что материализм. В школе внушали, что материализм. Но уже с более кокретными физическими приложениями. Дальнейшее образование – в основном тоже (и с придыханием :)) "физика умеет много гитик". Я рос в (уже несуществующем) государстве, которое кастрировало философию и активно зомбировало население единственно правильным вариантом – диалектическим материализмом. Соответственно, не только образование, но практически всё моё окружение прямо с младенчества внушало мне такую метафизику.
Тут будь хоть гением – культура и образование, в которых формируется твоя личность (неважно, какая конкретно культура и какое конкретно образование), неизбежно сформируют в убеждениях такой труднораспутываемый клубок аксиом, что эти аксиомы проникают в самую подкорку и становятся "незыблемыми истинами". И большинство людей живут с этими "истинами" всю жизнь, не утруждая себя хоть сколько-нибудь серьёзной их проверкой. И понятно почему – у кого есть время формулировать, разбирать и пересобирать свои метафизические взгляды? А желание? Это же дико долго и без какого-то особого интереса – безумно скучно.
В моём случае произошла аномалия – было довольно сильное желание разобраться и возможность посвятить этому очень много времени.
И вот, вы пишите "в этой картине избавиться от магии физического просто не получается". Как вы думаете, чисто методологически как правильно – сначала выбрать "картину" и потом вписывать в неё всё, что вписывается, выбрасывать, что не вписывается и объявлять магией то, что не объясняется? Или наоборот – разобраться, какие, вообще, бывают "картины", отбросить противоречивые и противоречащие опыту, и подобрать (или собрать) такую, в которую вписываются все опытные данные?
Понятно, что невозможно начать со второго варианта – культура воспитания и образования навяжут некоторую картину неизбежно. И я даже не призываю кого-то конкретно заниматься этим – это очень трудоёмко, а жизнь довольно коротка. Но чисто теоретически мне интересно ваше мнение. Скажем, если бы вместо исчезающе скоротечных нескольких десятков лет жизни у нас была бы, скажем, тысяча – вы видели бы смысл не спеша разобраться в своей метафизической аксиоматике и пересобрать её в случае необходимости?
Вот, например, в используемых вами выражениях
"Вам мозг рисует некую картинку окружающего"
"Да, мне мозг рисует какие-то пятна."
упакованы множества аксиом. Некоторые из них имеют чисто метафизический характер.
И между делом, если постараться быть последовательным в соответствии своих утверждений о реальности самой реальности, то есть два варианта: 1) признать реальность вас и картинки/пятен наравне с мозгом; 2) перефразировать эти утверждения так, чтобы в них не было ни вас, ни картинки/пятен (вы же отрицаете существование субъективного). В философии это называется "онтологические обязательства". Это распространяется, кстати, не только на ментальное, но и на абстрактное, которые мы также используем постоянно. И очень эффективно – посмотрите на математику и активно пользующуюся её плодами физику. Как можно пользоваться несуществующим инструментом? Так же и тут – если реально, что мозг производит для вас картинку, то реальны и мозг, и вы, и картинка.
Парадокс ситуации в том, что реальность картинки и вас доступна вам непосредственно, а реальность мозга – нет.
Часть #4 Минимизация магии
Я к этому не "прихожу", я из этого "исхожу" :) Начинаем с нуля магии, и вводим только если без неё деваться некуда. Это, кмк, совершенно стандартный научный подход.
Интересно, что я тоже из этого исхожу. :) Мне некуда деваться от непосредственности субъективного. Утверждать, что её нет – прямо противоречить непосредственному эмпирическому опыту. Я ещё как-то понимаю дуалистов – так сказать, и вашим и нашим. :) Хочется вот чтобы непременно было физическое, но субъективное – брутальный факт. Тогда пусть будет и то, и другое. Но тогда будет две магии, не так ли?
Интересно – если исходить из количества магии, в какой картине магии больше?
Элиминативный физикализм, имхо, имеет минимум две магии. Одна – это вот те самые базовые элементы, которые необъяснимы. Другая – это магия отрицания непосредственно данного. Методологически, имхо, вот эта вторая магия хуже, чем первая.
Дуализм – тоже имеет минимум две магии. Базовые элементы и mind-body problem.
Панпсихизм – базовые элементы и СИЛЬНО размноженная mind-body problem.
Идеализм – всего одна магия, непосредственный субъективный опыт, который приходится принимать, потому что факт. При этом физика не отменяется, а просто инкапсулируется. Пространство для потенциальных исследований гораздо больше. И теоретически, возможно, когда-нибудь и магию непосредственного можно будет разрешить – если кто-нибудь догадается, как конкретно из немножественного может "выделяться" разнообразие.
Об этом, кстати, есть довольно большие теории – но они очень труднодоступны в техническом смысле и довольно своеобразны в метафизическом. Но это тема какого-нибудь другого разговора.
Идеализм – всего одна магия, непосредственный субъективный опыт, который приходится принимать, потому что факт.
Но погодите, есть же еще магия: почему то определенное изменение нейронной активности мозга приводит к определенному субъективному опыту. А на основе анализа нейронной активности можно почему то понять какой субьективный опыт происходит и например мыслями управлять компьютером. И в попытках объяснить почему так происходит, почему это вообще возможно, идеалисты начинают такой бред накручивать что это уже ни в какие ворота не лезет.
Но погодите, есть же еще магия: почему то определенное изменение нейронной активности мозга приводит к определенному субъективному опыту.
Сводится к магии самого опыта.
И в попытках объяснить почему так происходит, почему это вообще возможно, идеалисты начинают такой бред накручивать что это уже ни в какие ворота не лезет.
Имхо, мало какой уровень бреда может достигнуть эпичности отрицания непосредственного эмпирического опыта. Того же уровня эпичности, наверное, вера в экземплифицируемость противоречий.
Сводится к магии самого опыта.
Эээ? Что? Этот коммент это уже такое углубление "магии" что ну прям совсем. Это объяснение вида: Почему? Потому! Или: "Потому что гладиолус!"
Имхо, мало какой уровень бреда может достигнуть эпичности отрицания непосредственного эмпирического опыта.
Так нет такого отрицания то. Есть отрицание того что непосредственный эмпирический опыт в реальности выглядит ровно так как он для нас выглядит.
Я вообще не понимаю людей выбирающих вашу позицию, вот есть две вероятности:
Возможно мы живем в мире (назовём его A) где субьективные переживания не выглядят так как нам кажется они выглядят. И соответственно никаких неразрешимых загадок в мире нет, кроме неразрешенных проблем физики.
Возможно мы живем в мире (назовём его B) где субьективные переживания выглядят ровно так как они для нас выглядят. И соответственно есть непонятная, необъяснимая причина по которой определенное изменение нейронной активности мозга приводит к определенному субьективному переживанию.
Соответственно есть 3 стратегии того что с этим делать:
Думать что мы живем в мире A и заниматься решением проблем физики и биологии.
Думать что мы живем в мире B и пытаться решить загадку корреляции нейронной активности и субьективных переживаний. (ну как пытаться, никто на самом деле и не пытается, просто зачем то считают что в мире есть такая вот загадка)
Думать что мы не можем сказать в каком мире мы живем и надо подождать, вдруг нам ни с того ни с сего придет в голову объяснение причин вышеупомянутой корреляции или какое то свидетельство (дополнительное) что мы живем в мире A.
И я понимаю людей которые выбирают стратегию 1 или 3, но не людей которые выбирают стратегию 2. Зачем? Зачем выбирать модель мира с неразрешимой загадкой решением которой вы даже не будете заниматься. Модель мира которую вы никак не будете использовать. Это все равно что использовать карту с огромным белым пятном типа-неисследованной территории просто потому что вам нравится как смотрится белый цвет на карте когда она висит на стене, а не потому что действительно есть неисследованная территория куда вы хотите отправится исследовать по этой карте. Не, хозяин барин конечно, выбирайте что хотите. Но ведь при этом люди которые выбирают стратегию 2, почему то критикуют тех кто выбрал стратегию 1. Типа: "Ну вы что, идите к нам, у нас тут неразрешимая загадка, давайте вместе её решать. Ну то есть мы ее нифига не решаем конечно, но как вы можете ее игнорировать, вы должны тоже не решать её! Как вы можете жить с моделью мира в которой нет неразрешимых загадок?!"
Так нет такого отрицания то. Есть отрицание того что непосредственный эмпирический опыт в реальности выглядит ровно так как он для нас выглядит.
Это разновидность отрицания любого опыта. Опыт, который выглядит так, как не выглядит - никак не выглядит, что равнозначно его отсутствию.
вот есть две вероятности
С моей колокольни нет никаких вероятностей, т.к. все остальные схемы не сходятся либо с логикой, либо с опытом, либо с обоими.
Как бы там ни было, вас никто не принуждает. Если вам всё связанное с нефизикой так отвратительно - смысл влезать? Вам обязательно хочется кого-то убедить? Миссия? :)
Это разновидность отрицания любого опыта. Опыт, который выглядит так, как не выглядит - никак не выглядит, что равнозначно его отсутствию.
Да нет, с чего вдруг то? Это просто ваше необоснованное мнение. Всё может выглядеть не так как оно есть на самом деле. С чего бы опыту быть исключением?
С моей колокольни нет никаких вероятностей, т.к. все остальные схемы не сходятся либо с логикой, либо с опытом, либо с обоими.
Так вам ровно так и должно казаться если мы находимся в мире A. Раз ситуация ровно такая как и предсказывает теория, то возможно эта теория верная. То есть вы просто отрицаете очевидную вещь. Зачем? Это же ужас какой то, физикалисты хотя бы признают что могут быть не правы, а у вас просто какая то религиозная догматика.
Как бы там ни было, вас никто не принуждает. Если вам всё связанное с нефизикой так отвратительно - смысл влезать? Вам обязательно хочется кого-то убедить? Миссия?
В основном мне просто интересно как думают люди, откуда в них появляются настолько дикие для меня мысли, почему они их продолжают придерживаться, есть ли в них противоречия, есть ли них необъясненые вещи, почему эти люди спорят что другие люди неправы, почему считают что физикализм неверен и т.д. То есть банальное любопытство, убедить неинтересно, убеждение применяю только чтобы понять направление мыслей других людей, понять откуда берется их мнение если вполне возможно придерживаться другого мнения (вот же, я придерживаюсь и ничего)
Всё может выглядеть не так как оно есть на самом деле. С чего бы опыту быть исключением?
Как легко и небрежно тут сейчас подменились понятия. "Выглядит так, как не выглядит" это противоречие. Такая ситуация в принципе невозможна. "Выглядит не так, как есть на самом деле" - совершенно другое утверждение.
Так ведь не было утверждения: "Выглядит так, как не выглядит" было утверждение: "отрицание что в реальности выглядит ровно так как он для нас выглядит" что равносильно "Выглядит не так, как есть на самом деле". Не, может тут и можно было это понять не так, но потом то я еще раз сформулировал другими словами: "Возможно мы живем в мире (назовём его A) где субьективные переживания не выглядят так как нам кажется они выглядят."
Так ведь не было утверждения: "Выглядит так, как не выглядит" было утверждение: "отрицание что в реальности выглядит ровно так как он для нас выглядит" что равносильно "Выглядит не так, как есть на самом деле".
Ваше "равносильно" тут для меня выглядит совсем неочевидным.
Вот предыдущая ваша формулировка:
Есть отрицание того что непосредственный эмпирический опыт в реальности выглядит ровно так как он для нас выглядит.
Содержание опыта выглядит в реальности так, как выглядит. Вы наотрез отказываетесь различать между ситуацией "это пятно выглядит как футбольный мяч" и "это пятно выглядит как выглядит". Второе - закон логики + подтверждается эмпирически. А первое, кстати, это как раз ваше любимое "кажется". Но даже в первом случае это "кажется" кажется так, как кажется.
Ваше "равносильно" тут для меня выглядит совсем неочевидным.
Ну ладно, странно конечно, но я действительно имел ввиду "Выглядит не так, как есть на самом деле". Для меня "как есть на самом деле" = "в реальности" Возможно вас смутило слово "выглядит", тут согласен, наверно не очень подходит, но что поделать, язык у нас так себе, для быстрых комментов на такую тему не очень подходит.
Содержание опыта выглядит в реальности так, как выглядит.
Содержание опыта выглядит в реальности так, как выглядит для вас? Возможно. Возможно мы действительно живем в таком мире где это так. Но может быть и нет, как то странно отрицать такую вероятность.
Вы наотрез отказываетесь различать между ситуацией "это пятно выглядит как футбольный мяч" и "это пятно выглядит как выглядит".
Я вообще, в принципе, не говорю о ситуации "это пятно выглядит как футбольный мяч". Я говорю только о ситуации "это пятно в реальности выглядит (на самом деле такое) так как оно выглядит для меня", то есть оно действительно, в самом деле, существует ровно таким, каким мне кажется что оно существует. Я тоже не понимаю почему вы наотрез отказываетесь признавать возможность что это может быть не так. Для меня эта возможность очевидна, почему для вас нет, вот это мне непонятно.
Я говорю только о ситуации "это пятно в реальности выглядит (на самом деле такое) так как оно выглядит для меня", то есть оно действительно, в самом деле, существует ровно таким, каким мне кажется что оно существует. Я тоже не понимаю почему вы наотрез отказываетесь признавать возможность что это может быть не так.
Потому что это невозможно.
Давайте рассмотрим два утверждения.
(1) Содержание чувства Х (СХ) выглядит для С как У.
(2) Содержание чувства Х на самом деле не У, а М.
Пусть они оба истинные.
В этом случае есть два тождества: (т1) СХ выглядит для С, как У; и (т2) СХ на самом деле есть М.
Пример:
(п1) Зрительное субъективное содержание для С выглядит как арбуз на мокрой траве после дождя.
(п2) На самом деле нет ни арбуза, ни травы, ни дождя - это харктерно покрашеный резиновый мяч на имитации травы, на которую случайно пролилась вода из ведра.
(п1) не противоречит (п2).
В полагании, что нечто может быть таким, как выглядит, без того, чтобы выглядеть, заложено противоречие. Поэтому оно априори неверно. Чтобы что-то выглядело, тривиально необходимо, чтобы что-то выглядело.
А есть А - это базисный логический закон. Закон тождества (или идентичности, если в агнлоязычных терминах).
Если что-то для кого-то выглядит, как Х, то что-то для кого-то выглядит, как Х. Не больше, не меньше.
Если вам кажется, что кто-то неправ, то вам действительно кажется, что кто-то неправ. При этом этот кто-то вполне может быть и прав. Но это не меняет и не отменяет содержание, в котором вам это кажется.
В примере с мячом это не мяч выглядит, как арбуз, и не арбуз выглядит как арбуз, а вот это визуальное содержание выглядит так, что вызывает (ложные, если проверить) ассоциации с арбузом. И вот это визуальное содержание вместе с ассоциациями выглядят в точности как выглядят.
Или, например, красная скамейка в парке. Как она выглядит, когда никто на неё не смотрит? Согласно физике и физиологии восприятия цвета - никак не выглядит. Чтобы появился красный цвет, свет должен, частично рассеявшись и поглотившись, отразиться от скамейки, попасть кому-то в глаз, запустить там нервные сигналы в мозг, и только тогда в какой-то момент возникнет ощущение красного. И то не факт. А иногда красный или другой цвет появляются вообще без света.
Давайте рассмотрим два утверждения.
(1) Содержание чувства Х (СХ) выглядит для С как У.
(2) Содержание чувства Х на самом деле не У, а М.
Зачем нам рассматривать утверждения которые никто не утверждал? Речь не шла о том что субъективные переживания для вас выглядят так как они для вас не выглядят. Это было бы очень странно. Вы я так понимаю неверно трактовали слово "выглядят", что ж моя вина, я уже признал, надо было быть точнее. На самом деле речь о том утверждение "субъективные переживания выглядят ровно такими какие они есть на самом деле" не соответствует реальному state of affairs. Заметьте, если бы я сказал что ваше утверждение "Мне кажется что субъективные переживания выглядят ровно такими какие они есть на самом деле" не соответствует реальному положению дел, тогда это было бы странно, вам то действительно так кажется (ну если не обманываете, что для меня тоже более чем вероятно). Также было бы странно говорить что утверждение "Для меня субъективные переживания выглядят не так как нейронная активность" не соответствует реальному положению дел, понятно же что для вас они действительно выглядят не как нейронная активность (хотя опять же, кто знает, может вы обманываете и вы пришелец для которого его переживания выглядят ровно как нейронная активность)
запустить там нервные сигналы в мозг, и только тогда в какой-то момент возникнет ощущение красного.
Ну вот как оно возникнет то, если ничего кроме нейронной активности при этом не происходит?
Ну вот как оно возникнет то, если ничего кроме нейронной активности при этом не происходит?
А там дальше у физикализма всегда пупок развязывается, поэтому история умалчивает.
Речь не шла о том что субъективные переживания для вас выглядят так как они для вас не выглядят.
Да, потому что они в реальности выглядят для меня именно так, как выглядят.
На самом деле речь о том утверждение "субъективные переживания выглядят ровно такими какие они есть на самом деле" не соответствует реальному state of affairs.
Они по определению исключительно и только "выглядят" - это же субъективные переживания, блин...
Любой реальный state of affairs любого переживания - быть переживаемым, выглядеть.
Как бы там ни было - в той части переживаний, в которой они выглядят (для кого-то), они вот точно такие, как выглядят (в этот момент для того же самого).
А там дальше у физикализма всегда пупок развязывается, поэтому история умалчивает.
Всмысле? Физикализм же не утверждает что дальше что то еще происходит. Это же вы считаете что на нейронной активности ничего не заканчивается что она что то инициирует, хотя и понятия не имеете как это вообще возможно для нейронной активности иницировать это самое что то еще, это у вас "пупок развязывается", это ведь самая натуральная магия получается, нейронная активность действует типа как заклинание и возникает еще какая то хрень которую вы зовете "субьективными переживаниями".
Да, потому что они в реальности выглядят для меня именно так, как выглядят.
Ну да, в реальности выглядят ДЛЯ ВАС именно так, как выглядят. Но самом деле, они не такие.
Они по определению исключительно и только "выглядят"
Да нет, вы же только что сказали что они еще и "возникающие каким то образом при попадании нервных сигналов в мозг". Вы сами лично включили это в определение того что такое "субьективные переживания", то есть они не только переживаемые, выглядящие, но и "возникающие при попадании нервных сигналов в мозг". То есть когда вы говорите слова "субьективные переживания" вы говорите о чем то что возникает при попадании нервных сигналов в мозг, да, при этом, это что то, для вас как то выглядит и вы считаете что это что то возникшее при попадании нервных сигналов в мозг, действительно именно такое как оно и выглядит. Почему вы так считаете мне лично непонятно. Вполне же возможно, что, что то возникшее при попадании нервных сигналов в мозг, на самом деле не такое каким выглядит.
в которой они выглядят (для кого-то), они вот точно такие, как выглядят
С чего это вдруг? Да, они выглядят так как выглядят, нельзя же сказать что они для этого кого то выглядят иначе чем они для него выглядят, но с чего вдруг они вот точно такие, как выглядят? Не вижу оснований чтобы не могло быть иначе: выглядят так как выглядят, но на самом деле они другие.
Это же вы считаете что на нейронной активности ничего не заканчивается
Это не вопрос мнения, я это знаю.
Ну да, в реальности выглядят ДЛЯ ВАС именно так, как выглядят. Но самом деле, они не такие.
В том месте, где они для меня выглядят так, они именно такие. По другому быть не может. :)
То есть когда вы говорите слова "субьективные переживания" вы говорите о чем то что возникает при попадании нервных сигналов в мозг
Это не я так говорю, это вы так понимаете. А я этого не говорю и даже не подразумеваю.
нельзя же сказать что они для этого кого то выглядят иначе чем они для него выглядят
Именно это я и имею в виду. Ну т.е. сказать-то можно, но исключительно ложно.
но с чего вдруг они вот точно такие, как выглядят
В Х, что выглядит, как У, но в целом не У, неизбежно будет "кусочек", который выглядит в точности, как У. Вот в этом "кусочке" (аспекте, если хотите) Х точно такой, как выглядит.
Потому что закон тождества. Потому что неверно, что что-то (при прочих равных типа одного времени и субъекта) может выглядеть не так, как выглядит.
Это не вопрос мнения, я это знаю.
Да я уже понял что вы считаете что знаете. Непонятно только почему вы так считаете.
В том месте, где они для меня выглядят так, они именно такие. По другому быть не может. :)
Речь не о том что они выглядят для вас не так как выглядят для вас.
Это не я так говорю, это вы так понимаете. А я этого не говорю
Да вот же сказали: "запустить там нервные сигналы в мозг, и только тогда в какой-то момент возникнет ощущение красного".
Раз сказали "только тогда в какой-то момент возникнет ощущение красного", значит под "ощущением красного" вы понимаете что то что возникнет после нервных сигналов в мозг. Более того вы также сказали что "И то не факт. Иногда красный или другой цвет появляются вообще без света". То есть сказали еще один факт об "ощущении красного": "иногда это появляется вообще без света". Таким образом уже известно три факта об "ощущение красного": "это что то что как то выглядит", "это что то что возникает после нервных сигналов в мозг возникших из за света" и "иногда это что то появляется вообще без света".
Ну т.е. сказать-то можно, но исключительно ложно.
Согласен, потому я и не говорю и не говорил этого, это же будет заведомо ложное высказывание.
В Х, что выглядит, как У, но в целом не У, неизбежно будет "кусочек", который выглядит в точности, как У.
выглядит в точности, как У, разумеется, но при этом он может и не являться таким как У.
что что-то (при прочих равных типа одного времени и субъекта) может выглядеть не так, как выглядит.
Да не "выглядит не так, как выглядит", а "является не таким каким выглядит".
Речь не о том что они выглядят для вас не так как выглядят для вас.
Хорошо, что в этом у нас теперь взаимопонимание. Надеюсь, твёрдое.
Если мне не изменяет память, вы начинали с тезиса в духе "любое субъективное содержание ложно". Поправьте или уточните, если нужно.
Если принять такой тезис, то мы в принципе не можем иметь никаких знаний. Если не принять, то есть истинные субъективные содержания. Каков будет ваш выбор?
Да вот же сказали: "запустить там нервные сигналы в мозг, и только тогда в какой-то момент возникнет ощущение красного".
Это случай вырывания из контекста.
Полная цитата:
Согласно физике и физиологии восприятия цвета - никак не выглядит. Чтобы появился красный цвет, свет должен, частично рассеявшись и поглотившись, отразиться от скамейки, попасть кому-то в глаз, запустить там нервные сигналы в мозг, и только тогда в какой-то момент возникнет ощущение красного.
Действие контекста "согласно физике и физиологии воспрятия цвета" подразумевалось на весь этот фрагмент. И в нём не устанавливается и не предполагается никаких каузальных связей между физиологическим процессом и появлением субъективного ощущения.
Таким образом уже известно три факта об "ощущение красного": "это что то что как то выглядит", "это что то что возникает после нервных сигналов в мозг возникших из за света" и "иногда это что то появляется вообще без света".
Всё так, но из этого не следует:
То есть когда вы говорите слова "субьективные переживания" вы говорите о чем то что возникает при попадании нервных сигналов в мозг
Когда я говорю о субъективных переживаниях я имею в виду сами эти переживания - их непосредственное содержание. Я не подразумеваю, что их природа - возникать при попадании нервных сигналов в мозг. Не надо мне такого приписывать.
Согласен, потому я и не говорю и не говорил этого, это же будет заведомо ложное высказывание.
Мы согласны в этом, очень хорошо! Позволю себе ссылаться на этот факт, если потребуется.
выглядит в точности, как У, разумеется, но при этом он может и не являться таким как У.
Хех, "выглядеть" и "являться" это практически синонимы. Как можно выглядеть, и при этом не являться? Являться, но при этом не выглядеть? :)
Да не "выглядит не так, как выглядит", а "является не таким каким выглядит".
Замените, пожалуйста, на какое-нибудь другое слово, а то у меня получается <<Да не "выглядит не так, как выглядит", а "выглядит не таким каким выглядит">>.
тезиса в духе "любое субъективное содержание ложно
Вряд ли, я даже не понимаю эту фразу. Да и вы похоже не поняли что я имею ввиду под "субъективные переживания".
Пожалуй стоит заметить что если бы я понимал слова "субъективные переживания" так же как я думаю понимаете их вы, то не стал бы говорить что "субъективные переживания выглядят не такими какие они есть". Просто потому что не считаю что они есть :)
Повторю ещё раз, я имел ввиду довольно простую вещь: "Существует вероятность что то что происходит при определенных условиях, например таких как попадание света в глаза, не такое как вы о нём думаете", то есть вы получаете некорректную информацию о том что происходит, и соответственно думаете что происходит что то ещё, дополнительно к нейронной активности, в ситуации когда свет попадает в ваши глаза, а этого не самом деле не происходит. Тот факт что такая вероятность есть, очевиден, например потому что я спокойно могу так считать и это никак не влияет на мою жизнь. С вещами которые невозможны, так не получится, я не могу начать считать что 2 * 2 = 5 и спокойно жить как ни в чем не бывало, события в моей жизни явно зависят от того что я считаю по этому поводу.
Но, при этом я конечно не оспариваю факт получения вами этой неверной информации, не оспариваю то что ваши фантазии как то там для вас выглядят, чтобы это ни значило.
То есть, если я например получил информацию что 345 * 324 = 111781, то эта информация действительно существует, я же не могу отрицать факт того что я её получил.
Собственно сама фраза "информация не такая какая она есть" имеет мало смысла. Как собственно и фраза "информация такая какая она есть". Ибо зачем сравнивать что то с самим собой, это только запутывает.
Если принять такой тезис, то мы в принципе не можем иметь никаких знаний
"знания" лично я понимаю как набор утверждений (и связанных с ними убеждений) о фактах которые являются верными, то есть описывающими реально происходящие события, реально имеющие место быть факты. Например ваше утверждение о факте "когда свет попадает в глаза происходит что то помимо нейронной активности" возможно не является верным.
Однако среди знаний есть подмножество: утверждения об утверждениях. Такие утверждения как правило истинны, ведь как правило человек утверждает то что действительно считает верным, соответственно утверждение "я утверждаю что я утверждаю то то и то то" будет истинным. Но какой смысл вообще обсуждать подобные утверждения, я разумеется предполагаю что вы не врете и вам действительно кажется то что кажется. Если вам показалось что я считаю что не является истиной то какие у вас убеждения, то нет, это конечно не так. Я не считаю истиной сами убеждения, а вовсе не то какие они есть. Надеюсь вы понимаете разницу.
То есть ещё раз: если вы хотите иметь просто "хоть какое-то, хоть что то" истинное знание, то конечно вы можете просто иметь знание о собственных убеждениях: оно всегда будет истинным. Но толку от таких знаний ноль.
И в нём не устанавливается и не предполагается никаких каузальных связей между физиологическим процессом и появлением субъективного ощущения.
Я и не говорил о предполагании наличия "каузальных связей". Только о том что вы полагаете верным факт о субъективных ощущениях: они возникают одновременно с неким физиологическим процессом. О том почему этот факт имеет место быть, я ничего не говорил, да и вы тоже.
Я не подразумеваю, что их природа - возникать при попадании нервных сигналов в мозг.
Не знаю что вы имеете ввиду под "природой", но о факте возникновения субъективных ощущений после попадания нервных сигналов в мозг вы высказывались вполне однозначно. Почему этот факт о субъективных ощущениях верен, почему он имеет место быть, это уже ваши проблемы объяснить, не мои. Если вы допустим считаете что сами субъективные ощущения к этому факту никакого отношения не имеют, например это просто совпадение, просто случайность что они возникают после попадания нервных сигналов в мозг, то пожалуйста, ваше право так считать. На мой взгляд главное чтобы хоть какое то объяснение у вас было, смысла придерживаться взглядов в которых такого объяснения нет и не предвидится я лично не вижу.
Как можно выглядеть, и при этом не являться?
Не вижу в чем тут для вас проблема, понятно же что "выглядеть" я понимаю в широком смысле, как: "имеется убежденность" например: "для меня выглядит так как будто 345 * 324 = 111781". А "является" это то как оно на самом деле, после проверки, после попытки использовать убеждение на практике, например: "на самом деле(является) 345 * 324 = 111780". То есть где то была незамеченная ошибка, которая вызвала неверное убеждение. Или как в нашем случае: "выглядит так как будто когда свет попадает в глаза, то происходит что то помимо нейронной активности". А является(ну, существует вероятность что является, то есть вероятность что на самом деле): "нет, когда свет попадает в глаза, то не происходит ничего кроме нейронной активности". То есть: мы попытались использовать убеждение и объяснить почему это вдруг происходит что то ещё, не смогли, и откинули убеждение как неверное.
Если честно, я перестал понимать, о чём мы спорим.
Общий посыл "субъективные содержания всегда недостоверны" явно неверен.
Посыл "субъективные содержания всегда бесполезны" неверен просто вопиющим образом. Ну т.е. если вы не философский зомби и способны читать этот текст - вот вам всего лишь одна польза из огромного множества.
Если хотите сформулировать свои мысли конкретно по этим двум тезисам - давайте. Если что-то интересное придёт в голову, постараюсь ответить.
Общий посыл "субъективные содержания всегда недостоверны
Общий посыл не в этом, а в том что "субъективных содержаний" возможно не существует на самом деле. Почему вы не можете понять этого тезис или считаете что это невозможно для меня к сожалению загадка. Мне лично интуитивно ясно что это возможно.
Ну т.е. если вы не философский зомби и способны читать этот текст -
Я вполне могу считать что я читаю этот текст нейронной активностью определенного типа, а вовсе не с помощью каких то непонятных "субъективных содержаний". Потому что каузальный путь очевиден: свет > глаз > мозг > нейронная активность > сигнал к рукам > руки > ответ на комментарий. Всё, незачем считать что происходит что то ещё. Просто не нужно. А раз я могу считать что "субъективных содержаний" вообще нету (что это просто ошибка что они есть) и это вообще никак не влияет на мою жизнь, то значит действительно есть вероятность что их нету. Если бы такой вероятности не было, то я бы просто не смог так считать и действовать дальше исходя из такого мнения. Это же тоже интуитивно ясно. Невозможно продолжать жить, используя убежденность в чем то что невозможно.
Общий посыл не в этом, а в том что "субъективных содержаний" возможно не существует на самом деле.
Т.е., 25 августа вы ввели меня в заблужение:
Да, действительно, "С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact." но вопрос не в том есть он или нет, вопрос в том что он такое и чему доверять при выяснении этого вопроса.
Намеренно?
Почему вы не можете понять этого тезис или считаете что это невозможно для меня к сожалению загадка. Мне лично интуитивно ясно что это возможно.
Потому что brute fact. Моя личная реальность персонально для меня начинается с непосредственных субъективных содержаний. Там же и заканчивается.
Если у вас иначе... Ну, поздравляю, наверное.. Хотя в такой ситуации и поздравлять-то, по идее, некого...
А раз я могу считать что "субъективных содержаний" вообще нету (что это просто ошибка что они есть) и это вообще никак не влияет на мою жизнь, то значит действительно есть вероятность что их нету. Если бы такой вероятности не было, то я бы просто не смог так считать и действовать дальше исходя из такого мнения. Это же тоже интуитивно ясно. Невозможно продолжать жить, используя убежденность в чем то что невозможно.
Вы здесь как бы намекаете, что из "невозможно продолжать жить, используя убежденность в чем то что невозможно" логически следует, что "если возможно иметь убеждённость в возможности Х, то возможно Х".
Это некорректно. Вы можете считать, что субъективного нет, но это не значит, что вы активно используете это убеждение. Вполне можно быть убеждённым в возможности круглых квадратов. Они, тем не менее, невозможны.
Я бы предложил более корректный подход о том, как именно на практике следовать убеждению "субъективного не существует", но не буду, т.к. всё, что приходит в голову, опасно для жизни. Напр., переход по светофору, игнорируя цвет. Тотальный игнор любой боли и дискомфорта. Субъективности же нет, поэтому никому не больно, не так ли? Я в это не верю, поэтому прошу вас не проверять на себе скоротечность нашей субъективной жизни пытаясь практиковать её отрицание. Заранее спасибо. Если что, снимаю с себя ответственность.
Т.е., 25 августа вы ввели меня в заблужение:
Нет, речь шла о "субъективном опыте" а не о "субъективных содержаниях". Под "субъективным опытом" я понимаю те события которые происходят при определенных обстоятельствах, таких как например попадание света в глаза. Отрицать наличие подобных событий я конечно же не могу. Но могу считать что это ровно те же события которые взаимодействуют с устройствами типа нейроинтерфейсы, то есть нейронная активность. Под "субъективными содержаниями" вы я так думаю понимаете то как выглядит то что происходит когда свет попадает в ваши глаза. Как бы отрывая это "выглядение" от того что выглядит, придавая ему эдакое независимое существование в виде отдельного объекта. Такого объекта на мой взгляд может и не существовать.
Потому что brute fact
Да почему? Ну вот допустим вы действительно начнёте считать что когда свет попадает в ваши глаза, то не происходит ничего кроме нейронной активности и это просто эта нейронная активность (то есть вы) неправильно, ошибочно понимает ситуацию, думая что происходит что то ещё. Ну и что поменяется в вашей жизни? Ровным счётом ничего. Очень много людей ведь ровно так и считают, емнип, большинство философов по опросам, и ничего. А вы почему то не можете? Почему, если ничего не поменяется?
Хотя в такой ситуации и поздравлять-то, по идее, некого..
Почему некого? Если мы живём в мире где при попадании света в глаза действительно не происходит ничего кроме нейронной активности, то значит и ваша личность и моя это просто нейронная активность, но от того что она является нейронной активностью она не перестает быть личностью, нельзя сказать что "нет тут никого" если сознание это просто нейронная активность.
если возможно иметь убеждённость в возможности Х, то возможно Х".
Нет, я так не говорил, не перевирайте. Я говорил что если можно жить имея убежденность что X и применяя эту убежденность, то значит действительно возможно что X.
Вполне можно быть убеждённым в возможности круглых квадратов
Не получится жить как жил приняв убеждение (и используя его) что определенные квадраты (реально встречающиеся) круглые, столкнетесь с непониманием со стороны других людей. Разумеется можно быть убежденным в том что такие квадраты существуют где то там, что мы их просто пока не видели, но заметьте, применения данной убеждённости тут не произойдет. К тому же, мы не обсуждаем что то где то , мы обсуждаем события с которым мы регулярно сталкиваемся, когда открываем глаза, когда наш организм посылает сигналы о повреждениях внутренних органов, и т.д. Если бы было невозможным что эти события это только нейронная активность, то было бы невозможным считать что это только нейронная активность. Например, невозможно начать считать что эти события это просто определенные виды пищеварения: типа когда мы открываем глаза то происходит пищеварение мясной пищи, а когда колебания воздуха достигают ушей то это пищеварение растительной пищи. Ведь тогда придется например есть мясную пищу чтобы что то увидеть. Также невозможно считать что эти события это волосы, ведь тогда придется избегать парикмахерской. А вот считать их нейронной активностью, это без проблем, а раз так, то они действительно могут быть нейронной активностью.
Напр., переход по светофору, игнорируя цвет. Тотальный игнор любой боли и дискомфорта. Субъективности же нет, поэтому никому не больно
Во всех этих ситуациях происходит нейронная активность, вот эту нейронную активность без проблем можно называть субъективностью, болью, цветом, дискомфортом (уже многие люди так делают). Вот такую субъективность можно считать существующей. А такую субъективность которая нейронной активностью не является, без всяких проблем можно считать несуществующей.
Честно, я не знаю, как ещё можно объяснить, что если что-то есть, то оно есть.
Вот тривиальные факты.
Мозг имеет определённую структуру физических объектов, которые доступны объективному исследованию.
И есть то, что вы воспринимаете субъективно - зелёность, красность, благоухание, мысли, эмоции и т.д. Вы испытываете эмоции? Надеюсь, что да, т.к. это тоже субъективное содержание. Если вы не испытываете эмоций вообще - дальше не читайте, закругляемся.
Если испытываете, то вот: у вас есть эмоция с одной стороны, и нейронная активность с другой. Никакое физическое подмножество мозга не является эмоцией в той форме, в которой вы её испытываете. Но поскольку вы эту форму испытываете - она часть вашей реальности.
И ещё раз закон тождества. Если ваша эмоция тождественна подмножеству мозга, то это буквально означает, что любой, кто будет наблюдать это подмножество (например, аккуратно вскрыв черепную коробку субъекту с соответствующей нейронной активностью), будет испытывать эту эмоцию. Что совершенно абсурдно - физическая структура мозга и структура эмоции, как вы её чувствуете это эмпирически совершенно разные структуры.
Вы испытываете эмоции?
Да, разумеется, и я могу спокойно считать их нейронной активностью своего мозга. А раз могу, и это ничего не меняет, то значит возможно оно так и есть. Вот например считать их своими волосами или пищеварением или сердцебиением, я не могу, значит невозможно что мои эмоции это мои волосы или пищеварение или сердцебиение.
Никакое физическое подмножество мозга не является эмоцией
Возможно не является, а возможно что и является. Если невозможно что некая активность мозга является эмоцией, то почему же ничего не зависит от того что я считаю что активность мозга является эмоцией?
Если ваша эмоция тождественна подмножеству мозга, то это буквально означает, что любой, кто будет наблюдать это подмножество (например, аккуратно вскрыв черепную коробку субъекту с соответствующей нейронной активностью), будет испытывать эту эмоцию.
Нет, с чего это вдруг? Если эмоция это нейронная активность мозга, то с чего бы вдруг она стала происходить в мозге того человека который смотрит на показания датчиков с которыми взаимодействует эта самая нейронная активность (эмоция). Ну или что вы имели ввиду под "наблюдать это подмножество"? Как вообще можно "наблюдать" нейронную активность? Можно наблюдать показания датчиков которые с ней взаимодействуют, но к появлению точно такой же нейронной активности у наблюдающего это очевидно не приведет. То есть если эмоция это действительно нейронная активность мозга, то мы как раз и получаем ровно ту ситуацию которую имеем: все эмоции являются приватными, принадлежащими конкретному человеку, другой человек не может испытывать ровно те же самые эмоции (aka иметь ровно ту же самую нейронную активность)
физическая структура мозга и структура эмоции, как вы её чувствуете
Да какая разница как я её чувствую? Я говорю о том что возможно что эмоции это и есть нейронные активности. А то что я её чувствую как то по другому, то это несущественно, это как раз таки ожидаемо если эмоции это и есть нейронные активности. Потому что как вообще нейронная активность может почувствовать сама себя такой какая она есть? Не думаю что это в принципе возможно.
Да и вообще, почему вы говорите про "физическую структуру мозга" если речь про "нейронную активность"?
Да, разумеется, и я могу спокойно считать их нейронной активностью своего мозга. А раз могу, и это ничего не меняет, то значит возможно оно так и есть.
Секундочку. Вы можете как-то сформулировать обоснование этой концепции - "раз могу иметь мнение, что Х, то возможно Х"? Помнится, где-то выше у вас был дополнительный критерий применения на практике. Он всё ещё в силе? Если да, то как именно на практике вы применяете своё убеждение, что ваши квалиа это нейронная активность?
Вот например считать их своими волосами или пищеварением или сердцебиением, я не могу
Конечно, можете. Вы выбираете считать иначе.
значит невозможно что мои эмоции это мои волосы или пищеварение или сердцебиение.
Это невозможно по другой причине.
Позволю себе задать вопрос, на который некоторые люди почему-то обижаются. Уж не обессудьте, это не со зла.
Вы знакомы с формальной логикой? Если да, то с чем именно в ней (логика огромна, вряд ли можно её осилить всю, если только не посвятить этому жизнь)? Если вам знакомы первопорядковые теории моделей и доказательств + есть понимание, что такое высшие порядки, у вас не должно вызвать сверхзатруднений неформально набросать обоснование в конце которого будет "значит, невозможно ..." в качестве результата вывода. Мне интересно было бы это почитать.
Если не знакомы - то, что мы тут обсуждаем, требует некоторой интимности знакомства с логикой. В отсутствии такого знакомства нет ничего предосудительного - логика это, наверное, одна из самых, если не самая сложная дисциплина. Мы тут с вами философствуем, а для этого тех курсов, которые дают, например, в инженерных дисциплинах - совершенно не достаточно. Я бы рекомендовал проработать (или хотя бы почитать и осмыслить) замечательную книгу "Philosophical and Mathematical Logic" автора Harrie de Swart. Или какой-нибудь её достойный эквивалент. Если нет такого желания - то зачем лезть в эти темы? Это контрпродуктивно.
Нет, с чего это вдруг?
Потому что предполагается тождество. Что такое тождество по-вашему?
Как вообще можно "наблюдать" нейронную активность?
Живой мозг это и есть нейронная активность: совокупность нейронов и их активности. Упрощая, конечно, т.к. там ещё много чего есть.
Но давайте для простоты предположим, что нейронная активность эмоций происходит не в глубине, а на поверхности мозга сверху. В такой ситуации технически можно посмотреть на эту часть мозга у живого человека. Если имеет место быть тождество, то сторонний наблюдатель там увидит эмоцию. Ещё раз - это абсурдно, но является прямым следствием предполагания тождества. Ещё одно следствие - в своей собственной эмоции будет различаться нейронная активность во всех своих деталях. Да, опять абсурд.
Можно ещё предположить такой вариант: есть физическое явление, имеющее две стороны - одна сторона это нейроны с их аксонами, дендритами, синапсами и т.д. + с нейротрансмиссией. Со всем тем, чего не наблюдается в реальном субъективном переживании эмоции, в этом субъективном содержании. А с другой стороны само переживание эмоции, как его воспринимает человек - с радостью, грустью, иронией и т.д и т.п. Со всем тем, чего объективно не наблюдается в нейронах, их аксонах, дендритах и нейротрансмиссии.
Так можно предположить, но тогда размывается понятие физического - есть сторона, доступная объективным наблюдениям, а есть сторона, не доступная объективным наблюдениям. Это в метафизике называется дуализм.
Да какая разница как я её чувствую?
Потому что эмоция это определённая форма. Нейронная активность это тоже определённая форма. И эти формы разные.
Да и вообще, почему вы говорите про "физическую структуру мозга" если речь про "нейронную активность"?
Нейронная активность это нефизическое явление? Вот это поворот. :)
Живой мозг это теморальная (изменяющаяся во времени) физическая структура, в которой есть нейроны и активность - т.е., нейронная активность.
извините, что влезаю, но вы по кд мой трекер дёргаете))
Если не знакомы - то, что мы тут обсуждаем, требует некоторой интимности знакомства с логикой.
А давайте начнём с определения что такое логика? Это законы вселенной? Или нашего восприятия её законов? А нет ли здесь какой-нибудь слепой когнитивной зоны? Почему бы Вселенной не работать на альтернативной логике? Наш разум, например, работает и на такой - сновидения вам в помощь ;)
извините, что влезаю, но вы по кд мой трекер дёргаете))
Это же публичная площадка, так что извинения излишни. :)
А давайте начнём с определения что такое логика? Это законы вселенной? Или нашего восприятия её законов? А нет ли здесь какой-нибудь слепой когнитивной зоны? Почему бы Вселенной не работать на альтернативной логике? Наш разум, например, работает и на такой - сновидения вам в помощь ;)
Логика это дисциплина, исследующая наиболее общие (пропозициональные формы) законы правильного мышления. Мышление правильное тогда, когда в нём учитываются законы форм, о которых мы мыслим. В логике много разделов и подходов под разные потребности, но она универсальна. Круглых квадратов не будет ни в каком мире - ни в нашем, ни в любом из возможных (к слову, возможные миры это мажорный фреймворк модальной логики).
Вообще говоря, вопросы хорошие. Но, имхо, для себя с наскоку не решаются - нужно искать ответы в специальной литературе и дать необходимое время для "переваривания" информации. Обсуждения на форумах или площадках типа Хабра полезны по-своему, но, имхо, не могут заменить личного систематического исследования.
В логике много разделов и подходов под разные потребности, но она универсальна. Круглых квадратов не будет ни в каком мире - ни в нашем, ни в любом из возможных (к слову, возможные миры это мажорный фреймворк модальной логики).
И что же на всё это сказала формальная логика, когда были открыты законы квантовой механики? Срочно её пришлось дополнять новыми, ни разу не интуитивными, вводными (ну хотя бы тот же пресловутый кот Шрёдингера), а человечеству принимать это все "на веру" ;)
А насчёт "круглых квадратов" - сразу вспомнилась задачка для школьников: "Что из этого вам понадобится чтобы нарисовать треугольник, у которого все углы прямые: зеркало, лист миллиметровки, шар, палочка волшебника?" ;)
В логике много разделов и подходов под разные потребности, но она универсальна.
Ну и вот тут прям казуистикой пахнуло... У вас в этом тезисе как раз логическое противоречие ;)
Не очень понял - вы ожидаете, чтобы я что-то ответил? Если да, то я попрошу сформулировать более конкретно, что именно вы ждёте. Напр., это
И что же на всё это сказала формальная логика, когда были открыты законы квантовой механики? Срочно её пришлось дополнять новыми, ни разу не интуитивными, вводными (ну хотя бы тот же пресловутый кот Шрёдингера), а человечеству принимать это все "на веру" ;)
звучит для меня как шутка, не требующая реакции. Если вы приведёте хоть один конкретный кейс, где нарушаются законы логики - тогда будет что обсудить.
Всё-таки решили окончательно свалиться в казуистику и изобразить непонимание?))
Если вы приведёте хоть один конкретный кейс, где нарушаются законы логики - тогда будет что обсудить.
Вам откуда примеров надёргать? Из какой области? Из физики? Ну так зачем вы цитируете моего "кота Шрёдингера", а потом выделяете конкретный??? Вот же он - принцип суперпозиции явно нарушает закон исключенного третьего.
Вот же он - принцип суперпозиции явно нарушает закон исключенного третьего.
Ну, проиллюстрируйте нарушение, раз нарушает. Позволю себе не верить на слово, уж простите.
В смысле "не верить на слово"? Вы ни разу об этом не слышали? Что практически вся квантовая механика базируется не на "классической логике". Кот Шрёдингера одновременно и жив, и мёртв до измерения. Закон исключенного третьего - либо А, либо не-А.
В теории относительности привычная логика отказалась работать - нельзя бесконечно складывать скорости.
Могу подкинуть примеров из математики - концепт мнимой единицы внутренне непротиворечив, но он логически не выводится из базовых определений. Он постулирует алогичную догму ;)
И это только точные науки! Если тронуть художественную сферу - там вообще мрак с логической точки зрения))
М. Эшер "Спускаясь и поднимаясь"
то практически вся квантовая механика базируется не на "классической логике".
Это совершенно другое утверждение. Классическая логика это всего-лишь малюсенький кусочек логики в целом. Которая, к слову, активно развивается, если вы не в курсе.
Вы покажете, как всё-таки нарушается закон исключённого третьего, или, как вы сами выразились - "всё-таки решили окончательно свалиться в казуистику и изобразить непонимание?" :)
Послушайте, у меня нет ни времени, ни желания продираться сквозь намёки и насмешки, зачем-то пытаясь вам угодить. Хотите информативного разговора - давайте серьёзнее. Хотите поржать - воля ваша, но без меня.
Это совершенно другое утверждение. Классическая логика это всего-лишь малюсенький кусочек логики в целом. Которая, к слову, активно развивается, если вы не в курсе.
О как! Так логика всё-таки универсальна или "малюсенький кусочек"? Приведите примеры "альтернативных логик" тогда!
Вы покажете, как всё-таки нарушается закон исключённого третьего, или, как вы сами выразились - "всё-таки решили окончательно свалиться в казуистику и изобразить непонимание?" :)
Всё-таки решили дурачка включить... Вам в третий раз повторить? Принцип суперпозиции явно нарушает закон исключённого третьего - что вам тут не понятно? По классической логике частица не может одновременно быть в двух разных квантовых состояниях.
Послушайте, у меня нет ни времени, ни желания продираться сквозь намёки и насмешки, зачем-то пытаясь вам угодить. Хотите информативного разговора - давайте серьёзнее. Хотите поржать - воля ваша, но без меня.
Вы с кем сейчас общаетесь? Сами с собой? Я абсолютно серьёзен. А вот вы сливаете дискуссию - поскольку ответов на мои вопросы у вас нет и вы сознательно её топите в бессмысленной болтологии. Зачем вы вообще тогда поднимали тему логики - если даже не можете сделать элементарных логических выводов? ;)
Ну и отвечу в вашем же стиле - начните с изучения матчасти предмета обсуждения. Я бы посоветовал Фейнмана и Пенроуза. Может быть тогда вам станет понятно.
Шар, конечно же. Можно даже не волшебника.
(А чтобы чтобы нарисовать треугольник, у которого все углы по 45 градусов, понадобится шляпа волшебника.)
Вы можете как-то сформулировать обоснование этой концепции - "раз могу иметь мнение, что Х, то возможно Х"?
А что, вы можете сформулировать обоснование концепции что: "раз могу иметь мнение, что Х, то все равно неизвестно возможно Х или нет"? На мой взгляд, возможность без негативных последствий иметь мнение что X, это просто единственный критерий по которому можно судить возможно Х или нет. Вот и всё обоснование. Если вы считаете что есть еще какие то критерии которые бы стоило использовать взамен, то пожалуйста приведите их и объясните почему стоит использовать именно их вместо "раз могу иметь мнение что мы живем в мире Х, то возможно что мы живем в мире Х". Это собственно всё что мне интересно.
Он всё ещё в силе? Если да, то как именно на практике вы применяете своё убеждение, что ваши квалиа это нейронная активность?
Не 'квалиа", а "субъективные переживания". На практике, убеждение что субъективные переживания это нейронная активность, означает например: что я забочусь о собственном мозге, ведь без него у меня не будет субъективных переживаний, что если будет технология переноса нейронной активности на электронные нейроны то я ей воспользуюсь, что я не считаю что надо искать объяснение почему нейронная активность коррелирует с чем то еще называемым "субъективные переживания" и т.д.
Конечно, можете.
Без нежелательных последствий не могу. Если я начну считать что мои волосы это мои переживания, то мне придется перестать ходить в парикмахерскую, это последствие которого бы мне не хотелось. Мнение же что эмоции это нейронная активность не вызывает никаких негативных последствий, наоборот, приводит к простой понятной модели мира.
Если не знакомы - то, что мы тут обсуждаем, требует некоторой интимности знакомства с логикой.
Пока что я вижу что недопонимание у нас не в логике, а в интерпретации слов. Я убежден что если бы мы обсуждали всякие формулы типа (A or not B) and Cто взаимонепонимания не было бы, в конце концов, если что, то мы бы просто проверили на компьютере чему равно некое логическое выражение. Поэтому смысла говорить о логике пока нету. Но разумеется если вы считаете что моё утверждение "то что происходит когда свет попадет в глаза и ошибочно считается не нейронной активностью, это нейронная активность" является логически противоречивым, то пожалуйста, приведите обоснование что оно логически противоречиво. Я понимаю если бы я утверждал что "то что происходит когда свет попадет в глаза и корректно считается не нейронной активностью, это нейронная активность", тогда да, это было бы логически протоворечиво. Но я то просто заявляю что это ошибка что когда свет попадает в глаза то происходит что то еще помимо нейронной активности. Данное утверждение логически непротиворечиво.
Потому что предполагается тождество. Что такое тождество по-вашему?
В данном контексте я так полагаю имеется ввиду что если эмоция тождественна нейронной активности, то всё что можно сказать про эмоцию, в том числе можно сказать и про нейронную активность. И наоборот: всё что можно сказать про нейронную активность в том числе можно сказать и про эмоцию. То есть ровно та ситуация которая имеет место быть.
Вот, если бы например про нейронную активность можно было бы сказать: "наблюдение человека Z за датчиком взаимодействующим с нейронной активностью X в голове человека Y, приводит к появлению такой же нейронной активности X в голове человека Z", то тождества бы не было, ведь про эмоцию нельзя такого сказать, нельзя получить эмоцию другого человека просто наблюдая за неким датчиком.
нейронная активность: совокупность нейронов и их активности.
Это пожалуй неважно, но все таки хотелось отметить что "нейронная активность" это не совокупность нейронов, а их активность, то что они делают, а не они сами.
В такой ситуации технически можно посмотреть на эту часть мозга у живого человека
Ну можно, и что, это же не будет "глядением на нейронную активность". Это все равно что сказать что глядение на процессор компьютера, это наблюдение за тем как работает его опрерационная система.
Если имеет место быть тождество, то сторонний наблюдатель там увидит эмоцию.
Да с чего вдруг то? Как вы вообще приходите к такому дикому выводу? Если эмоция это нейронная активность, то чтобы она появилась у стороннего наблюдателя, эта самая нейронная активность должна произойти у стороннего наблюдателя, а с чего вдруг она произошла бы от простого наблюдения за чьим то мозгом?
чего не наблюдается в реальном субъективном переживании эмоции
Ну и что, что не наблюдается, из отсутствия наблюдения не следует невозможность.
А с другой стороны само переживание эмоции, как его воспринимает человек
Да какая разница как его воспринимает человек? Ну да, когда нейронная активность происходит в голове этого человека то она не воспринимается как нейронная активность, и что теперь? Что, одна и та же вещь не может восприниматься по разному в разных ситуациях, с разной перспективы? Конечно может. Я никак не могу понять, откуда у вас такие проблемы с пониманием этого простого очевидного факта?
Потому что эмоция это определённая форма.
Что? Какая еще форма? Круглая? Квадратная? Треугольная? Форма для выпекания? Как вообще эмоция может быть формой? Как именно на практике вы применяете своё убеждение что эмоция это определённая форма?
Нейронная активность это нефизическое явление
Я к тому что нейронная активность это не структура нейронов, это то что они делают. Хотя это конечно не имеет большого значения в контексте обсуждения.
Что? Какая еще форма? Круглая? Квадратная? Треугольная? Форма для выпекания? Как вообще эмоция может быть формой?
Ок, вы явно не в курсе, что геометрические формы это всего-лишь мизерное подмножество форм. Знаете, я сдаюсь. Давайте продолжим этот разговор, когда (и если) вам станет интересно разобраться с логикой - после того, как вы это сделаете. Потому что до этого момента всё это контрпродуктивно. Не знаю, какой интерес продолжать этот разговор находите вы, но мне тоже нужен позитивный фидбек, чтобы продолжать тратить время на детальные ответы. И его уже практически нет - мы изо всех сил буксуем на тривиальных вещах типа закона тождества, всё время бессистемно возращаясь к одному и тому же, и всё это выглядит исключительно как спор ради спора. Я пас.
Ок, вы явно не в курсе, что геометрические формы это всего-лишь мизерное подмножество форм
Разумеется, как я могу быть в курсе всех выдумок всех людей? Мало ли кто там какие определения придумал для слова "форма", у людей воображение богатое, они постоянно придумывают разные способы описать реальность. Мне знать все эти способы совершенно не нужно, как правило они просто бесполезны. Для меня достаточно того что я могу просто сказать: "Ok, всё это полная ерунда и ваши фантазии, вы не правы" и если из этого утверждения не последуют неприемлемые для меня выводы, то значит вы действительно можете быть не правы.
вам станет интересно разобраться с логикой - после того, как вы это сделаете
Прежде чем с логикой разбираться надо прояснить значение используемых слов, очевидно же.
всё это выглядит исключительно как спор ради спора. Я пас.
Как хотите, для меня это не был спор, мне было полезно, я вроде бы выяснил то что хотел, выяснил в чем ошибка в ваших рассуждениях. Судя по всему вы как бы отрываете то как выглядят субъективные переживания от собственно самих этих переживаний, как бы придаете независимое существование этому самому "выглядению". Ну, было интересно познакомится с такой довольно таки уникальной точкой зрения, за это спасибо. Также было интересно узнать что есть люди которые считают что нейронная активность это какая то такая штука которая не только может "наблюдаться" человеком, но еще и передаваться от одного человека к другому, посредством этого самого наблюдения. Это было прям удивительное открытие, спасибо.
И ещё один момент. Не то что закона тождества недостаточно, просто взгляд с другой стороны.
Пусть, всегда, когда истинно, что "выглядит, как Х", истинно "выглядит, как не-Х". Это даёт эквивалентность "выглядит, как Х ттт неверно, что выглядит, как Х". Это противоречие, такая ситуация невозможна.
Но забудем об этом на секунду...
Пусть будут истинными следующие утверждения:
(1) Всегда, когда истинно, что "выглядит, как Х", истинно "выглядит, как не-Х".
(2) Выглядит, как Х.
И получается, что вот некоторый человек... А давайте - вы. Вот вы читаете этот текст, так? Он начинается с заглавной буквы "И" (в "И ещё один момент"). Но для вас "И" не выглядит, как "И", и поэтому вы не можете прочесть эту букву. И всё остальное тоже не можете прочесть - потому что ни одна буква не выглядит как она или даже просто как буква.
Часть #5 Ясность
Если вы героически дочитали до этого места (я героически всё это набирал и правил часов 5, не меньше. :)), то теперь бонус.
Я сейчас приведу несколько наглядных примеров настоящей интуитивной ясности. Ясность будет непосредственно ваша, и вы сможете её лично изучать сколько угодно, она воспроизводима. И это будет ясность объективных, не зависящих от конкретного сознания, истин.
Картинки из книги "Philosophy of Mathematics A Contemporary Introduction to the World of Proofs and Pictures". Горячо рекомендую. Там далеко не только и не столько картинки.
Я не буду повторять разбор каждой, как в книге – для того, что я хочу проиллюстрировать этого не нужно. Каждое изображение – если на него посмотреть и подумать – предоставляет доказательство записанной над ним теоремы. Всё достаточно просто, чтобы можно было разобраться без дополнительных разъяснений. Под картинками (и, надеюсь, после того, как вы лично получите доказательства) я дополнительно выскажусь о ясности. Прячу картинки под спойлеры для компактности.
Теорема 1
Теорема 2
Теорема 3
Теорема 4
В первую очередь, первичные ясности (первого порядка) – это сами изображения. Как записи теорем, так и иллюстрации, из которых позже извлекаются доказательства. Ещё до чтения текста, до обдумывания. Это, собственно, цветовые конфигурации в зрительном восприятии, ясность которых это ясность самого восприятия.
Тут можно отметить, что если я сниму очки, то эта первопорядковая ясность поменяется на другую – тоже первопорядковую, – из которой мне будет труднее прочесть что-то осмысленное.
Дальше, читая теорему, мы, если знакомы с языком, извлекаем ясности из отдельных элементов записи – ясности 2-го и более порядков (напр., решение, что "4" представляет здесь число четыре, приводит к ясности 2-го порядка), пока не получаем воспроизводимую ясность некоторого высшего порядка, которая является смыслом всей теоремы. Но это ещё не ясность доказательства, которая куда интереснее.
Изучая затем изображение, мы в итоге приходим к ясности ещё более высокого порядка, в которой уже умом видно, почему теорема истинна.
Обратите внимание, для ясностей высших порядков нужно проходить некоторый мыслительный путь – и он весь представлен промежуточными ясностями. Если вы проделали эту работу, то можете однозначно видеть, что это не что-то, что вам просто кажется. Эти ясности – вполне объективные истины. И эти ясности не являются изображениями, т.к. при конечной структуре этих изображений вы получаете ясности о бесконечных количествах случаев (первые две теоремы), и о бесконечных совокупностях (последние две теоремы). Изображения лишь служат "точками опоры", на основе которых ум получает доступ к реальности абстрактного. Это явление т.н. когнитивного доступа.
Итого: "кухонное" понимание термина "интуиция" ("кажется") не имеет ничего общего с интуитивной ясностью. Последовательное отрицание ясности на практике (если это возможно) равнозначно лишению себя всех чувств и ума. Я исхожу из того, что вы не философский зомби. Если это верно, то вы активно пользуетесь ясностями всё время, за исключением периодов без сознания и без сновидений. В интеллектуальной работе вы также пользуетесь ясностями высших порядков и полагаетесь на них – но не слепо. Они потому и ясности, что в них даётся понимание причин истинности. Даже если оно не всегда легко выражается в языке. Если нет понимания причин истинности, то это не ясность. Высокопорядковые ясности часто довольно труднодостижимы. И чтобы получить такую ясность снова, нужно снова пройти путь к ней. Иногда это, метафорически выражаясь, подобно покорению Эвереста. И если путь на вершину основательно забыт, то повторное восхождение будет не легче, чем предыдущее. А когда кажется – в этом нет ни ясности (кроме ясности самого содержания того, что кажется), ни основательно проделанной осознанной работы. В ясности есть полнота. Когда кажется – даже если проделана какая-то работа – всегда можно найти пробелы или непроверенные убеждения.
Пожалуй, на этом пока всё. Надеюсь, было интересно.
Прошу вас принять глубокую благодарность и признательность за ваше время и силы, затраченные на отличный по качеству и потрясающий по смысловому объёму Σωκρατικὸς λόγος, проведённый вами в комментариях к данной статье. Ваше изложение поразительно сочетает очень высокую смысловую плотность с легкостью восприятия и сравнительной доступностью понимания. Вы потрясающе грамотно, умело и динамично упаковываете смыслы в текст. Следовать за вашими изложениями аргументов и идей - истинное наслаждение. Честно, я слегка обалдел от уровня и качества дискуссии. Есть ли у вас какие-нибудь комплексные тексты (кроме 2.1к комментариев)? Было бы очень интересно их почитать.
Ого! Польщён сравнением.
Есть ли у вас какие-нибудь комплексные тексты (кроме 2.1к комментариев)? Было бы очень интересно их почитать.
Записей и заметок - не счесть. Но они для моего собственного потребления, поэтому все достаточно сырые. Я не особо нацелен на публикации - это много работы, плюс включается перфекционизм, и это количество работы резко увеличивается. Помнится, есть пара комментариев периода, когда я уже определился с проблематикой ментальное vs физическое - в сторону идеализма - и потихоньку начал переключаться на абстрактное vs конкретное. Попробую поискать - если найду, скину сюда ссылку.
Вот, нашёл:
https://habr.com/ru/companies/ruvds/articles/509478/comments/#comment_21890502
Судя по содержанию, я тогда был в исключительно хорошем расположении духа. :) И, как говорится, Остапа понесло...
Мы почему-то сразу прыгаем к выводу, что есть некая "трудная" проблема.
Так там же принципиальное расхождение, есть люди которые просто берут и без всяких оснований заявляют "это в принципе не может быть работой мозга". И всё. Ну вот им так кажется. Помните "мельницу Лейбница"? Лейбниц же просто сказал, ну нет, вот то что делает эта мельница это никакое не восприятие, и всё, это ВСЁ рассуждение. Такой вот подход, доверять собственной "чуйке". Хороший это подход или плохой каждый уж сам решает. Но это невозможно перебить никакими логическими аргументами, потому что в самой основе их убежденности не лежит логика.
Кстати, почему именно "биологические шовинисты"?
Лично я не считаю именно физическую реальность фундаментальной. Соответственно, и биологическую - для которой физическая это инфраструктура. Я не акцентирую на этом, т.к. по опыту в этом случае с крайне высокой вероятностью столкнусь с практически полным непониманием того, что хотел сказать. Но уж если называть меня шовинистом, то точно не биологическим. Скорее - субъектно-квалитативным, что ли.. :)
Но чисто прагматически я считаю, что мы движемся в сторону следующий ситуации - когда (если всё же не упрёмся в некий потолок) нашу повседневность заполнят машины, убедительно воспроизводящие внешние признаки не только интеллектуальной деятельности, но и эмоциональной. И когда будет пересечён некий порог, страны станут перед непростым выбором: дать машинам права наравне с людьми или нет - и тогда иметь социальную действительность, в которой каждый взрослый и ребёнок может иметь "раба", которого можно безнаказанно "эксплуатировать", "мучать" и "убивать". И, хотя я взял эти слова в кавычки, но опыт людей, которые будут безнаказанно "мучать" и "убивать" своих "рабов", будет вполне, по внешним признакам страдания, аутентичным опыту, когда мучают и убивают живых людей.
Моё мнение, что если страна выберет второй путь, то тогда как минимум не исключена вероятность того, что в ней будут расти целые поколения садистов - особенно, если машины будут качественно адаптированы под человеческий облик и поведение. Этически - это очень плохой сценарий.
Но и первый путь тоже вызывает этические вопросы. Права это права, а ИИ - чёрный ящик. И если там, "под капотом", нечеловеческие расчёты будут терпеливо создавать сценарий, при котором человечество тем или иным способом будет повержено или даже полностью уничтожено - лучше ли это? Не будет ли такой подход шовинизмом людей по отношению к самим себе?
Я не знаю правильного ответа. Имхо, это, вот прямо сейчас - сингулярность. И пока - чем дальше, тем сингулярнее. Очень, очень интересно, что будет дальше. Примерно, как в ванне с крокодилом. :)
С другой стороны - человечество само себе крокодил. Б.м., нам не придётся мучиться вот этими этическими проблемами, потому что мы успеем сами себя прикончить или откатить в каменный век ещё до того, как они станут остро актуальными.
>"верхний" уровень даётся нам непосредственно.
Это может казаться но не являться таковым, потому что сознание высокоуровневая программа, которая "не видит" глубокие инфраструктурные слои аппаратного обеспечения. У человека еще множество выученных автоматизмов, которые мы не воспринимаем таковыми. Например, банальная ходьба. Если вы очень пристально начнёте наблюдать как мы ходим, то заметите что волевым усилием мы направляем тело, как погонщик животное, а идёт оно само, движения стали автоматизмами. Хотя, доступными для волевого вмешательства.
сознание высокоуровневая программа
То, что сознание это программа - очень сильное суждение. Можно поинтересоваться, на чём оно основано? Есть исследования сознания, прямо подтверждающие это?
У человека еще множество выученных автоматизмов, которые мы не воспринимаем таковыми. Например, банальная ходьба. Если вы очень пристально начнёте наблюдать как мы ходим, то заметите что волевым усилием мы направляем тело, как погонщик животное, а идёт оно само, движения стали автоматизмами.
Да, я пришёл к таким же выводам лет двадцать назад. И более того, движения не просто стали автоматизмами - они, в своей существенной части, всегда для нас таковыми и были, потому что мы никогда сознательно не контролируем, например, какие именно мышечные волокна раздражать специально подобранными сигналами нервной системы, и мы осознанно не посылает этих сигналов. До относительно недавнего времени люди вообще были не в курсе о тонкостях работы нервной системы. Практически все регуляции мозгом работы организма полностью или почти полностью автоматизированы изначально. Поднимая руку мы генерируем намерение, которому тело почему-то (хотя, не обязательно всегда) покорно подчиняется, но процессы, которые физически приводят к довольно точно отмеренному движению - остаются "за кадром".
Это может казаться но не являться таковым, потому что сознание высокоуровневая программа, которая "не видит" глубокие инфраструктурные слои аппаратного обеспечения.
Под непосредственностью субъективного опыта я не имею в виду, что мы прямо видим фундаментальную суть реальности, включая все инфраструктурные процессы и в таком духе.
К сожалению, в русском языке сознанием называют и то, что в англоязычной называют mind, и то, что называют consciousness. Ниже я буду использовать сознание в смысле mind.
Сознание это - эмпирически - субъективное персональное пространство с куда большим количеством измерений, чем 3: в нём взаимно независимо объединяются разные типы восприятия. Пять классических сенсорных ощущений это даже не пять отдельных измерений, а пять подпространств, т.к., например, только цвет требует непустой площади (2 измерения) плюс отдельные типа насыщенности, оттенка и т.д. Современная наука открыла ещё пару десятков сенсорных ощущений, работающих в более "фоновом" режиме, но воспринимаемых. И это не говоря о куда более богатых на параметрическое разнообразие эмоциях и мыслях.
В пространстве сознания мы имеем фокус - внимание. И мы можем направлять его достаточно произвольно как между различными типами восприятия, так и между деталями восприятия одного и того же типа.
Наше осознанное восприятие всегда направлено. Оно всегда о чём-то. Это фундаментальное свойство называется интенциональностью. Наиболее простые интенции - это, например, простые сенсорные рефлексии, когда мы взаимодействуем с объектами. Более сложные (и они "наслаиваются" друг на друга, включая друг друга и работая параллельно) - состояния суждения о чём-то, веры во что-то, любви к чему-то, припоминания чего-то и т.д. и т.п.
Всё это эмпирически доступно в явной форме, как вы истинно выразились "если очень пристально начнёте наблюдать".
Вот это пространство сознания и есть наша непосредственная реальность. Другой такой непосредственной у нас нет. Даже когда мы наблюдаем внешние объекты, на деле опыт внутренний. Буквально - если я, скажем, смотрю на монитор, я полагаю его вовне, но вижу внутри своего внимания. Все наши отсылки к внешней действительности - внутренние.
И никто по сей день не знает, как может механистическая машина типа мозга (если он является такой машиной) порождать нечто подобное нашему сознанию, лишённое внутри себя (а вовне его никто не наблюдал) всякой механистичности. Есть веские причины считать, что не может, но об этом и так уже много сказано под общим заголовком "трудная проблема сознания".
Но даже если предположить, что мозг какой-то магией (напр., заметаемой под коврик термина "эмерджентность") порождает сознание, а не, скажем, регулирует его содержания, пока сознание существует и (каким-то непостижимым пока образом - "психофизический парадокс") связано с телом - то даже с позиции физики мы замкнуты в мозге. Мы не получаем никаких непосредственных сигналов от внешней реальности - сенсорные раздражители типа света не попадают нам в сознание, изображение генерируется мозгом. Как и все остальные ощущения.
Т.е., даже с точки зрения физикалистического подхода мы находимся "в чёрном ящике", и можем только пытаться догадываться, что на самом деле "снаружи". Но так выходит, что наши внутренние восприятия динамически организовываются таким образом, что создают устойчивое впечатление внешнего физического мира. Дедуктивно доказать его существование невозможно. Но практика показывает, что если хочешь оставаться в нём подольше - надо учитывать его законы.
Тем временем непосредственной реальностью для нас остаётся исключительно реальность сознания. Можно в это не верить, потому что можно верить почти во всё, что угодно - чем люди и занимаются. Но если последовать предложению Гуссерля и хорошенько отработать феноменологическую редукцию - грубо говоря, осознанно на время отказаться (словами Гуссерля - "вынести за скобки") от всех своих мировоззренческих (особенно, метафизических) взглядов, то можно взглянуть на реальность своего сознания, как таковую, и начать отчётливо наблюдать его структуру.
И вне зависимости от роли мозга - всего вышеописанного нет и не может быть у LLM.
>очень сильное суждение. Можно поинтересоваться, на чём оно основано?
Чисто моё обывательское представление, не более. Но под "программой" не имелось в виду детерминированный примитивный код. Скорее это очень гибкая и многоуровневая информационно-физиологическая система, задача которой обрабатывать входящую и предсказывать развитие ситуации исходя из действий организма.
>мы никогда сознательно не контролируем, например, какие именно мышечные волокна раздражать специально подобранными сигналами нервной системы, и мы осознанно не посылает этих сигналов.
Да ну, посмотрите на любой процесс обучения двигательным навыкам, например как новички играют на гитаре или водят велосипед, там как раз каждое действие сознательно контролируется. Понятно, что не на уровне отдельных волокон, но на уровне групп мыщц точно. Есть даже упражнения для проработки конкретных мышц.
Да, конечно. Но даже этот контроль над группами мышц - есть "эпистемический разрыв" между сознанием и физическим ощущением с одной стороны, и сокращением группы мышц с другой. Мы же понимаем, что это не намерение и не ощущение контроля напряжения в конкретной мышечной группе реально физиологически и строго дозированно сокращают и расслабляют мыщцы.
Если топить за этот подход, то у меня вопрос - если субъектвный опыт это иллюзия, то чья это иллюзия? Если ничья, то и самой иллюзии нет. Если чья-то, то, внезапно, возвращается субъект с непосредственным опытом
Ну возвращается, и что? Вопрос же в том что такое субъект, что такое его опыт и может ли субьект доверять собственной интроспекции. Если его интроспекция ничего не сказала ему о том что его мышление как то связано с "сигналами с дендритов и передачей их дальше по аксонам", значит любой информации полученной от интроспекции доверять не надо и все выводы полученные на основании интроспекции стоить игнорировать. Замечу, это не значит что субъективного опыта нет или что любую информацию полученную с помощью субъективного опыта тоже надо игнорировать, это значит что надо игнорировать информацию о самом субъективном опыте полученную через интроспекцию потому что мы явно видим что интроспекция врёт. Да, действительно, "С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact." но вопрос не в том есть он или нет, вопрос в том что он такое и чему доверять при выяснении этого вопроса.
Так же пока нет времени ответить более подробно. Поэтому короткий комментарий.
значит любой информации полученной от интроспекции доверять не надо и все выводы полученные на основании интроспекции стоить игнорировать.
Интересно, что вы понимаете под интроспекцией.
Наше восприятие фундаментально интенционально. Внимание это динамическая функция высшего порядка. Динамическая, потому что может менять порядок восприятия. Можно определить нулевой порядок, когда содержание восприятия есть в "непосредственной близости" от внимания, но нет рефлексии.
Это, например, периферийное восприятие, которого не замечаешь, сосредоточившись на чём-то другом, но оно моментально повышает порядок до восприятия первого порядка - рефлексии - при обращении внимания.
Первопорядковое восприятие включает рефлексию - мы имеем уже не просто сырое восприятие, но его интерпретации, соответствующие нашему пониманию окружения и мира.
Допустим, вы переходите дорогу только на зелёный свет, и только когда убеждены, что он зелёный.
Когда мы видим, скажем, зелёный свет на пешеходном перекрёстке и на этом основании принимаем решение перейти дорогу, мы воспринимаем (отнюдь не только зрительно) композицию из сырого "цветового пятна" и абстрактных объектов "светофор" и "зелёный свет".
Интроспекция - это когда мы повышаем внимание до 2-го порядка. Например, задавшись вопросом - "что я сейчас воспринимаю". И интроспекция даст ответ в духе "светофор, зелёный свет". Но, поскольку вы предлагаете никогда не доверять выводам интроспекции, дорогу перейти у вас никогда не получится (согласно допущению выше).
Я никогда не утверждал, что интроспекции (и, в целом, восприятию) нужно доверять всегда и безусловно. Выше даже приводил пример с иллюзией преломления карандаша в стакане воды. Но если никогда не доверять, то далеко не уйти - ни в смысле перехода через дорогу, ни в смысле, например, научной работы, да и любой интеллектуальной деятельности, которая крайне неэффективна без активного использования интроспекции. А мы ей стихийно пользуемся всегда, когда необходимо действовать не спонтанно, а ясно осознавая происходящее.
Интересно, что вы понимаете под интроспекцией.
Любой анализ внутренних ментальных процессов (не их использование, а их анализ). Например если я в уме посчитал 23 * 65 то это не интроспекция, а если я попробовал обратить внимание внутрь и понять, а что именно я собственно делал когда считал в уме 23 * 65, что я могу сказать об этом процессе, то это я бы назвал интроспекцией.
Например, задавшись вопросом - "что я сейчас воспринимаю". И интроспекция даст ответ в духе "светофор, зелёный свет".
Ну нет, это просто смещение фокуса внимания и использование восприятия чтобы получить ответ "воспринимаю что-то что называется светофором и что то что называется зеленым светом". А вот уже анализ типа "а что собственно такое "воспринимаю что-то что называется светофором и что то что называется зеленым светом"?" это уже интроспекция.
Также можно выделить ее так: одна из отличительных черт интроспекции это то что от корректности ее выводов ваша жизнь не особо зависит. То есть вывод "вижу зеленый свет светофора" это не интроспекция, так как от того действительно ли на светофоре горит зеленый свет или нет, ваша жизнь зависит непосредственно, разок ошиблись, и всё, машина сбила. А вот уже анализ того а что собственно значит "вижу зеленый свет светофора", то ли это активность нейронной сети то ли что то еще, это уже интроспекция и от выводов полученых с ее помощью никак не зависит собьёт вас машина или нет.
Это собственно еще одно свидетельство в пользу того чтобы не доверять интроспекции, восприятию окружающего мира верить можно, так как если бы оно постоянно обманывало, то люди бы и не выжили, сложно выжить если вместо тигра ты видишь зебру. А вот от правильности ответов на вопросы "а что такое восприятие" выживание человека зависит слабо, поэтому нет причин говорить что интроспекция не обманывает.
Любой анализ внутренних ментальных процессов (не их использование, а их анализ).
Отлично, я об этом и писал. Когда я смотрю на светофор, вижу зелёный и начинаю переходить дорогу - это простая рефлексия первого порядка. Если я (например, из-за странного уличного освещения) засомневался, что вижу именно зелёный, то поднимаю рефлексию до второго порядка для обозревания и анализа содержаний текущего восприятия (которые тоже внутренние ментальные процессы) - включая светофор и окружающую обстановку. Это простейший случай интроспекции, и мы им постоянно пользуемся, и зависим от него - вот как раз во всём аналитическом.
Разнообразные "продвинутые" методы интроспекции - это адаптация уже имеющейся у нас способности к тем или иным специфическим задачам.
Если я (например, из-за странного уличного освещения) засомневался, что вижу именно зелёный, то поднимаю рефлексию до второго порядка для обозревания и анализа содержаний текущего восприятия
Нет, "обозревание и анализ содержаний" (что то, что используется для ответа на вопрос "я действительно вижу именно зелёный?" или "светофор действительно зеленый?") это не то что я имел ввиду под "интроспекцией". Я же написал что под "интроспекцией" я имею ввиду то что отвечает на вопросы от корректности ответа на которые не зависит непосредственно ваша жизнь. "светофор действительно зеленый?" это вопрос от ответа на который ваша жизнь напрямую зависит. А вот вопрос "а что такое собственно "видеть зеленый сигнал светофора", что именно происходит в этот момент?" уже нет, это вопрос от которого ваша жизнь не зависит.
Я же написал что под "интроспекцией" я имею ввиду то что отвечает на вопросы от корректности ответа на которые не зависит непосредственно ваша жизнь.
Это характеристика не имеет идентифицирующего свойства. Если её использовать для индентификации интроспекции, то ЧатЗПТ, Гугл и любой small talk можно назвать интроспекцией.
Впрочем, вы вольны понимать под интроспекцией что угодно и как угодно - и кто я такой, чтобы кого-то переубеждать. Да, честно, сегодня и сил на это нет - пришлось работать до 4 утра, и всё это время Windows вместе с ChatGPT 5 Pro безбожно косячили и выносили мне мозг.
Свою характеристику интроспекции базового уровня я изложил. Она не поменялась, и добавить мне пока нечего.
Это характеристика не имеет идентифицирующего свойства. Если её использовать для индентификации интроспекции, то ЧатЗПТ, Гугл и любой small talk можно назвать интроспекцией.
ну понятно же по контексту что имелось ввиду "то что человек использует (сам человек, без использования внешних средств) для ответа на вопросы о своих собственных внутренних ментальных процессах, но от корректности ответа на которые не зависит непосредственно его жизнь"
Впрочем, вы вольны понимать под интроспекцией что угодно и как угодно - и кто я такой, чтобы кого-то переубеждать.
Да я вроде и не убеждал никого что мое понимание слова "интроспекция" самое правильное. Об этом и речи не было, я говорил что если вы отвечаете на вопрос о том "что такое субъект и что такое его опыт?" анализируя только сами себя, само свое восприятие (а то с помощью чего вы это делаете я назвал интроспекцией) то вы приходите к неправильным выводам, потому что то что вы используете работает некорректно.
ну понятно же по контексту что имелось ввиду "то что человек использует (сам человек, без использования внешних средств) для ответа на вопросы о своих собственных внутренних ментальных процессах, но от корректности ответа на которые не зависит непосредственно его жизнь"
И эта характеристика тоже не идентифицирует интроспекцию сущностным способом (искусственное условие - для спора? - о жизни).
Т.е., если в плохих условиях освещения я задаю себе вопрос - какого цвета, действительно, я вижу свет на светофоре - то это, по-вашему, не интроспекция, потому что от корректности решения зависит моя жизнь.
Если та же ситуация, но в компьютерной игре, и я задаю себе тот же вопрос - то, внезапно, это уже интроспекция, т.к. от этого моя жизнь не зависит.
Тем временем, ментальная операция одна и та же.
Интроспекция вполне хорошо и функционально определяется через рефлексию и порядок. Удобно, лаконично, проверяемо.
если вы отвечаете на вопрос о том "что такое субъект и что такое его опыт?" анализируя только сами себя, само свое восприятие (а то с помощью чего вы это делаете я назвал интроспекцией) то вы приходите к неправильным выводам, потому что то что вы используете работает некорректно.
А с чего вы решили, что интроспекция всегда работает некорректно? Как любой инструмент, её можно использовать неправильно. Необходимы, например, предварительные эпохе и редукция, которые я недавно упоминал в другом сообщении.
Даже прямая рефлексия (простое осознанное восприятие) способна обманывать - всевозможные иллюзии с разными "спецэффектами" тому прекрасная иллюстрация. Вы же не предлагаете отказаться от восприятия вообще?
Вопрос не в том, чему можно слепо, безусловно верить. Имхо, бессмысленно и контрпродуктивно искать такие источники информации. Особенно, если цель не копить "факты", становясь ходячим поверхностным словарём, а расширять и углублять понимание исследуемой предметной области.
Вопрос не в содержаниях восприятия - от которых нам никуда не деться, пока живы. Вопрос в методах работы с ними. И я не помню, чтобы где-то призывал использовать только и исключительно интроспекцию. Персонально я за то, чтобы каждый пользовался теми инструментами, которые с его точки зрения наиболее целесообразны и удобны. Зачем априори кого-то ограничивать - если это не криминал, конечно. :)
И эта характеристика тоже не идентифицирует интроспекцию сущностным способом (искусственное условие - для спора? - о жизни).
Т.е., если в плохих условиях освещения я задаю себе вопрос - какого цвета, действительно, я вижу свет на светофоре - то это, по-вашему, не интроспекция, потому что от корректности решения зависит моя жизнь.
Если та же ситуация, но в компьютерной игре, и я задаю себе тот же вопрос - то, внезапно, это уже интроспекция
Почему? Как вы верно заметили ментальная операция одна и та же, такая от которой зависит выживание человека (не в каком то конкретном случае разумеется, а вообще, в принципе, хотя бы в одном случае)
А с чего вы решили, что интроспекция всегда работает некорректно?
А я так не решил, я сказал что есть ситуации когда она врет и понятно что в ходе эволюции она и не развивалась так чтоб почаще не врать (на выживание то это не влияет). Доверять ей после этого или нет каждый сам для себя решает. На мой взгляд инструменту, который делали даже не заботясь о том чтоб он правильно работал, доверять не стоит, но вообще конечно даже сломанные часы работают корректно два раза в сутки, так что да, кто хочет, может и сломаным часам доверять, вдруг они как раз в этот момент показывают правильное время.
Как любой инструмент, её можно использовать неправильно.
Чтобы использовать инструмент правильно надо понимать почему и в какой ситуации инструмент работает неправильно, причем получить эту информацию не с помощью самого этого инструмента.
Почему? Как вы верно заметили ментальная операция одна и та же, такая от которой зависит выживание человека (не в каком то конкретном случае разумеется, а вообще, в принципе, хотя бы в одном случае)
Для меня эти уточнения звучат, как натягивание совы на глобус, уж простите за сарказм.
Условие "такая, от которой зависит выживание человека" никак не выделяет сущность определяемого. Это, так сказать, акцидентальный предикат, который в одной ситуации может быть истинным, в другой может быть ложным - при одном и том же определяемом предмете. Поэтому методологически некорректно составлять определения с такими условиями.
А я так не решил, я сказал что есть ситуации когда она врет и понятно что в ходе эволюции она и не развивалась так чтоб почаще не врать (на выживание то это не влияет).
Тут есть сразу три утверждения:
"есть ситуации когда она врет"
"в ходе эволюции она и не развивалась так чтоб почаще не врать"
"на выживание то это не влияет"
Тут нужны отдельные аргументы по каждому пункту.
Я пока остаюсь при своём определнии интроспекции - и она, такая, очень полезна для выживания. Причём не только индивидума, но и всего человечества. Т.к. без неё не развивались бы науки и технологии, например.
Чтобы использовать инструмент правильно надо понимать почему и в какой ситуации инструмент работает неправильно, причем получить эту информацию не с помощью самого этого инструмента.
И это понимание есть, см. "феноменология Гуссерля". Но да, это не пятиминутное развлечение, так что не см., если не хочется напрягаться. :)
Для меня эти уточнения звучат, как натягивание совы на глобус, уж простите за сарказм.
А мне кажется вы всё поняли и теперь просто ищете к чему докопаться. Ну, можете еще граматику моих комментов проверить, если хотите.
Я пока остаюсь при своём определнии интроспекции
Так и пожалуйста, я и не претендовал на то чтобы его сменить. Я говорил только о такой интроспекции которая используется для ответов на вопросы типа "что такое опыт, это работа нейронной сети или нет?", "что такое арифметический счет в уме, это работа нейронной сети или нет?", "что такое наша память, это состояние нейронной сети или нет?", и т.д.
и она, такая, очень полезна для выживания. Причём не только индивидума, но и всего человечества. Т.к. без неё не развивались бы науки и технологии, например.
Так ведь речь не о том что "она полезна", понятно что она полезна такая какая есть и с другой мы бы наверно и не выжили, вопрос в том полезно ли ей быть верной, полезно ли чтобы она сообщала верные сведения, приводила к верным суждениям? Зависит ли что то от того сообщает ли она вам верные сведения или нет? Вот представьте что кто то на основе интроспекции сделал заключение что "арифметический счет в уме это вовсе не работа нейронной сети мозга" и он на самом деле неправ. И что, что то зависит от того что он неправ? Нет, не зависит, он может так неправильно считать до посинения и это ни на что не повлияет. Собственно потому и спор между физикалистами и нефизикалистами неразрешен, ведь от того какая из сторон права, ничего не зависит. А раз от корректности суждений полученых от интроспекции ничего не зависит, то с чего бы нам думать что интроспекция у нас в результате эволюции получилась такая что сообщает нам верные сведения?
А мне кажется вы всё поняли и теперь просто ищете к чему докопаться. Ну, можете еще граматику моих комментов проверить, если хотите.
Я же потом содержательно ответил, почему считаю такое ситуативное определение не сущностным, и почему не сущностные определения на деле не определяют сущность определяемого.
Я говорил только о такой интроспекции которая используется для ответов на вопросы типа "что такое опыт, это работа нейронной сети или нет?", "что такое арифметический счет в уме, это работа нейронной сети или нет?", "что такое наша память, это состояние нейронной сети или нет?", и т.д.
Вы решили, что только интроспекция используется для ответов на озвученные вами вопросы? Через корректно использоваемую интроспекцию можно узнать о структуре непосредственного пространства своего субъективного обитания - сознания. Для прочих предметных областей интроспекция играет чисто вспомогательную регулирующую роль - остановиться, очистить мысли, оценить ситуацию "со стороны", выбрать дальнейший путь действий. Мы это делаем, даже не замечая - только если специально не обращаем на это внимания (интроспекция интроспекции :)).
Для ответов на вопросы, объединяющие предметные области разных типов, например, квалитативную и физическую - явно нужно задействовать как минимум два инструмента: интроспекцию для оценки субъективной структуры, и физические исследования для оценки, скажем, нейронной структуры.
В своём исходном сообщение вы подтвердили реальность субъективного опыта:
Да, действительно, "С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact."
Brute fact - это факт, от которого нельзя просто так отмахнуться, не потеряв что-то существенное.
В этой субъективной реальности, которая brute fact, происходят самые важные события нашей жизни. И самые неважные - вообще все события. Мышление, как мы его знаем - происходит в этой субъективной реальности.
А теперь рассмотрим LLM - мы точно знаем, что это механизм, т.к. сами его сделали с нуля. И ни одна из деталей этого механизма не является субъективным сознанием, не так ли?
Почему мы должны считать, что в совокупности эти детали производят субъективность? Это для нас субъективность на (предполагаемом) механизме - мозге - brute fact. У нас тупо нет выбора - мы поставлены перед этим фактом самой реальностью. И этот психофизический парадокс не решён, и решения ему на горизонте не предвидится.
Почему мы должны брать произвольный, даже супер-сложный, механизм и приписывать ему такой же brute fact? Вы любите множить парадоксы? Я нет.
Если мозг всего-лишь механизм, то у него тоже не должно быть субъективного сознания. И если он механизм, и оно есть - то это какая-то магия, отрицающая любое рациональное объяснение. Вам нравится множить такую магию? Мне нет.
Поэтому про LLM я готов говорить, что там субъективности нет. Нет в том смысле, что чисто механизмами не может быть произведена субстанция совершенно другого типа - субъективность. Если у LLM и есть субъективность, то это будет вот такая же магия, как у нас. И что в этом хорошего? Она будет так же неконтролируема, так же непостижима, и так же необнаружима извне.
Вы хотите ввести закон природы, который наделяет субъективным мышлением механизмы, обладающие некоторой сложностью выше некоторого порога? Если да - легитимно! Я первый буду рад начать вчитываться в ваше исследование, в котором раскрываются признаки и детали этого закона.
Со своей стороны, я такой закон вводить не хочу. Потому что не люблю магию, и считаю, что пример человека (и, в целом, живых существ) следует рассматривать, как исключение, пока не найдены условия обретения (доселе) неживой материей сознания.
Вы решили, что только интроспекция используется для ответов на озвученные вами вопросы?
Нет, не только интроспекция, есть еще научный метод: эксперименты с собой, c другими людьми и т.д. Но люди которые например утверждают что арифметический счет в уме это вовсе не работа нейронной сети, этого не делают, они просто обращают своё внимание на сам этот арифметический счет в своем собственном уме и пытаются его проанализировать чисто внутренними средствами, сделать выводы он нем, просто его выполняя и наблюдая за ним. Вот эти действия я и назвал интроспекцией.
И ни одна из деталей этого механизма не является субъективным сознанием, не так ли?
Не знаю. Я же говорю, для этого надо понять а что такое собственно эти самые субъективные переживание/опыт/сознание, каковы они, какие факты можно о них утверждать. А для этого надо либо обратить внимание на эти субъективные переживания когда они происходят в вас самих и попытаться сделать выводы, то есть выполнить то что я назвал интроспекцией и то что я не считаю хорошим инструментом для ответа на данный вопрос. Либо использовать научный метод: экспериментировать со своими субъективными переживаниями, следить что с ними происходит в разных ситуациях, когда они исчезают, когда появляются, экспериментировать с субъективными переживаниями других людей (а мы в любом случае по этическим соображениям предполагаем что субъективные переживания это что то что есть и у других людей), собирать статистику, пытаться увязать получаемые факты с тем фактами которые мы уже считаем верными, (например с тем что все наши особенности мы получили постепенно, в результате постепенной эволюции/мутации), и т.д.
Можно ли используя этот метод уже сейчас сказать, что то, что делает LLM это субъективные переживания? Мне кажется что нет, нужно продолжать исследования, но как минимум можно сказать что это что то похожее.
Нет в том смысле, что чисто механизмами не может быть произведена субстанция совершенно другого типа - субъективность.
Вот это вот утверждение что "это субстанция совершенно другого типа", это очевидно утверждение полученное вами через интроспекцию, анализ вашей субъективности внутренними средствами, поэтому нет, это утверждение я игнорирую, так как не считаю что оно получено надежным инструментом.
То есть да, существование субъективности, это brute fact, от него нельзя отмахнуться, но выводы о том что это субстанция совершенно другого типа это уже не brute fact, это уже что то от чего можно отмахнуться и ничего не потерять, это уже что то во что можно верить а можно и не верить.
Да, возможно субъективность и выглядит как субстанция совершенно другого типа, при ее анализе внутренними средствами, но нас то (ну, меня по крайней мере) не интересует то как она выглядит, нас интересует то чем она является на самом деле, является ли она нейронной активностью мозга или нет. И получается что если она нейронной активностью мозга не является, то как тогда объяснить наличие корреляции между нейронной активностью мозга и субъективными переживаниями? Никак. И оно мне надо иметь необъяснимый факт в моей картине мира? Нет, оно мне не надо. Следовательно я игнорирую то как для меня выглядит субъективность, считая что это обман то как она выглядит, просто некорректная работа внутренних инструментов ответственных за это (что логично, так как в ходе эволюции эти инструменты и не должны были хорошо заработать), и полагаю что субъективность это просто нейронная активность мозга. И всё, все факты объяснены, и нигде никакой магии нету.
если я попробовал обратить внимание внутрь и понять, а что именно я собственно делал когда считал в уме 23 * 65, что я могу сказать об этом процессе, то это я бы назвал интроспекцией
а теперь вопрос: почему вы так уверены, что результат вашей интроспекции будет совпадать с тем, что на самом деле происходило в мозге?
"С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact." но вопрос не в том есть он или нет, вопрос в том что он такое и чему доверять при выяснении этого вопроса.
Этой проблематикой, кстати, очень интенсивно занимался Гуссерль, работая над феноменологией. Тогда это был самый настоящий академический прорыв на стыке эмпирической науки и прикладной философии. Если бы не нацистская Германия, репрессировавшая Гуссерля и его программу, убившая некоторых наиболее многообещающих учеников (Эдит Штайн, Леопольд Блаустейн), то сегодня бы в Европе существовала целая научно-философская школа с совершенно уникальной программой ментальных тренировок. Увы, существенную часть своей научной работы Гуссерль вынужден был доделывать сам, а ввиду крайней сложности предмета, его работы очень трудно понимать - и понимать per se, и в том смысле, что трудно понять, соотвуетствует ли это понимание тому, что имел в виду сам Гуссерль. Ученики разбежались кто куда из-за войны и репрессий, понахватав того-сего, и, паразитируя на этом стали продвигать свои идеи, не связанные с гуссерлевой академической программой. А мерзавец Хайдеггер вообще принял нацизм и отрёкся от учителя, хотя был наиболее "приближённым" и многообещающим учеником. Тьфу на него.
Тем не менее, сегодня (по крайней мере, на английском) можно найти работы Гуссерля с довольно качественными комментариями, разъясняющими терминологию и концепции и, в целом, язык в современных терминах. Всё равно изучение крайне трудное, т.к. требует совмещения логического анализа с интенсивным созерцанием + эпохе и феноменологическую редукцию. Эпохе и редукцию я (не так систематически, как Гуссерль, конечно) освоил больше 15 лет назад независимо, задолго до знакомства с феноменологией. И многие результаты, описываемые Гуссерлем, со мной резонируют. Это как минимум означает, что хотя бы между некотороми людьми есть определённая общность субъективного опыта, поддающаяся систематическому исследованию и описаниям, дающим возможность воспроизведения результатов. И этим мы имеем третий вид объективности (после математической и физической) - субъективную объективность. Звучит парадоксально, но только если не учитывать, что вообще всю объективность мы познаём исключительно через свою субъективность.
Этой проблематикой, кстати, очень интенсивно занимался Гуссерль, работая над феноменологией.
Ну вот если бы он через "интенсивное созерцание" внезапно обнаружил что в его мозгу есть нейроны и понял зачем они собственно нужны, тогда я бы поверил что созерцанием самого себя можно придти к каким то верным открытиям. А так получается что нейроны есть, что-то делают, а что собственно делают через созерцание не обнаружить. А значит что? Значит надо выкинуть все результаты для которых было необходимо это самое "интенсивное созерцание" так как это плохой, негодный инструмент. Тем более что никто и не заметит выкинули вы результаты или нет, от их верности ничего не зависит.
так получается что нейроны есть, что-то делают, а что собственно делают через созерцание не обнаружить. А значит что? Значит надо выкинуть все результаты для которых было необходимо это самое "интенсивное созерцание" так как это плохой, негодный инструмент.
Ок, для вас всё, что не сводится к нейронам и чему-то такому физическому - бесполезно и бессмысленно и надо выбросить. Легитимно!
Я считаю, что не всё сводится к нейронам и чему-то такому физическому, и что есть огромное множество полезного для изучения без привлечения редукции к физическим объектам (та же математика). Тоже легитимно.
Теперь вопрос: какой смысл нам тратить время на это общение, если априори мы выбираем для себя существенно разные пути?
Я ваше мнение (надеюсь) понял, и оспаривать его не собираюсь. Что считать важным и существенным - это личный выбор, и я уважаю этот выбор. И ваш, и свой.
Я считаю, что не всё сводится к нейронам и чему-то такому физическому,
Проблема тут в следующем, можно сколько угодно теоретизировать на тему есть ли сознание у ИИ, и приходить к выводу что нету, но абсолютно не факт что на практике удастся точно также считать что нету.
Ну то есть логика "Если мне кажется что X = true, то значит X = true" или "Если что то выглядит как X, то значит оно действительно X" работает только пока ее не применят на практике. То есть, вот допустим выглядит для меня некий человек как идиот, для меня непосредственно дано что он идиот, у меня абсолютная ясность что он идиот, для меня это достоверное знание, и все такое прочее. Но разве могу я действовать исходя из этого, могу ли я действительно считать что он идиот? Нет, потому что внезапно выясняется что если у меня есть "достоверное знание что X = true", то у кого то другого может быть "достоверное знание что X = false".
Или можно копнуть глубже, то что нам типа дано непосредственно, это наличие субъективных переживаний и всё, соответственно мы можем сказать, ну раз все вокруг выглядит как субъективные переживания, то значит всё вокруг и есть субъективные переживания (то есть солипсизм верен).
А раз так, то я могу делать все что угодно со своими субъективными переживаниями, например могу иметь субъективное переживание выстрела в субъективное переживание головы. Но тут выясняется что после такого субъективного переживания, почему то происходит переживание приезда полиции, суда, тюрьмы, сожалений и т.д. Ну вот и что с этим делать, как на практике продолжать пользоваться логикой "если что то выглядит как X, то оно X"?
То есть на практике логика "раз все вокруг выглядит как субъективные переживания то значит всё вокруг и есть субъективные переживания", все равно не работает, все равно приходится признавать что совершенно не важно как всё выглядит, совершенно неважно наличие "абсолютной ясности" и "достоверного знания", важно что можно с этим сделать, важно что кроме переживаний, надо ввести в картину мира что то ещё, чтобы можно было пользоваться этой картиной мира на практике.
То есть нет у нас реальной возможности следовать правилу "Если что то выглядит как X, то значит оно действительно X", нет у нас возможности следовать правилу, что если что то выглядит как достоверное знание, то значит оно и есть достоверное знание. Ну и нафига спрашивается оно надо?
Переходя к ИИ, это означает, что если роботы будут вести себя как люди и все признают за ними те же права что и за людьми, если мы разработаем технологию копирования своего сознания в ИИ, то на практике придется признать что сознание это вовсе не какая то магическая субстанция, а просто определенного вида "software", а то что кажется что это что то "магическое", то это ерунда, мало ли что кому кажется, мы же договорились не действовать исходя из того что что-то кажется.
Да, конечно, будут люди продолжающие считать (в теории) что сознание это все таки то чем оно кажется, но на практике они все равно будут вынуждены применять другое мировоззрение, и это главное.
Так что да, всё верно, вы можете спокойно следовать собственному мировоззрению/методологии (всё то чем оно кажется) в теории, проблема в том что вы не сможете использовать его на практике.
То есть я имею ввиду, что, если пофантазировать, то скажем когда у нас будет кнопка "Копировать свое сознание в новый искусственный мозг", вы её точно также будете нажимать как и все, на практике признавая что сознание это просто софт, но при этом, да, держать фигу в кармане, типа "хаха только я знаю что это вовсе не сознание копируется, ведь сознание это что то магическое, а тут просто цифры переносятся на новый носитель"
Ну то есть логика "Если мне кажется что X = true, то значит X = true" или "Если что то выглядит как X, то значит оно действительно X" работает только пока ее не применят на практике.
Не очень понимаю, откуда вы взяли эту "логику", но точно не от меня.
Напоминаю: моя эпистемология - (1) Непосредственно данное - без интерпретации - истина; (2) Логическая дедукция из истины - истина; (3) Соответствующее форме необходимо подчиняется её законам.
Пункт (1) это не "если кажется, что Х = истина, то Х = истина". Это, если попытаться выразить в подобных терминах, что-то такое: "если Х, то Х = Х".
То есть, вот допустим выглядит для меня некий человек как идиот, для меня непосредственно дано что он идиот, у меня абсолютная ясность что он идиот, для меня это достоверное знание, и все такое прочее.
Нет тут ни абсолютной ясности, ни непосредственной данности, ни достоверного знания. Невозможно сенсорно выглядеть идиотом, потому что невозможно сенсорно выглядеть человеком. Вы сначала проинтерпретировали, что некоторе цветовое пятно это человек, а потом на этом результате проинтерпретировали, что он идиот. Тут как минимум интерпретация второго порядка. Ничего непосредственного (ну, кроме самого сенсорного содержания и двух интерпретаций, как мыслительных содержаний).
Или можно копнуть глубже, то что нам типа дано непосредственно, это наличие субъективных переживаний и всё, соответственно мы можем сказать, ну раз все вокруг выглядит как субъективные переживания, то значит всё вокруг и есть субъективные переживания (то есть солипсизм верен).
Если вы читали достаточно внимательно, то должны понимать, что я однозначный противник солипсизма. Я считаю доказанным, что солипсизм неверен.
Поэтому дальше по тексту вы разговариваете не со мной, а с кем-то другим.
Попутно практикуя телепатию:
То есть я имею ввиду, что, если пофантазировать, то скажем когда у нас будет кнопка "Копировать свое сознание в новый искусственный мозг", вы её точно также будете нажимать как и все, на практике признавая что сознание это просто софт, но при этом, да, держать фигу в кармане, типа "хаха только я знаю что это вовсе не сознание копируется, ведь сознание это что то магическое, а тут просто цифры переносятся на новый носитель"
Причём, совершенно неуспешно. Я не вижу никакой самостоятельной ценности в создании имитации себя, поэтому если и нажму на кнопку, то только за существенные для себя деньги.
А вот, например, телепортом, который уничтожает тело в одном месте и воссоздаёт в другом - не воспользуюсь ни за какие коврижки. Единственный вариант - если будет выбор "медленная и мучительная смерть или телепорт". В этой ситуации телепорт это быстрая смерть, так что выбор понятен.
Напоминаю: моя эпистемология - (1) Непосредственно данное - без интерпретации - истина
Я так и интерпретировал, если использовать это на практикe, то например, один человек будет видеть бумажку с неким цветовым паттерном, а дальтоник ту же самую бумажку будет видеть как бумажку без всякого паттерна. То есть одному дано непосредственно что там есть паттерн, соответсвенно он должен считать что это истина что "на бумажке есть паттерн". Другому дано непосредственно что на бумажке нет паттерна соответственно он должен считать что это истина что на бумажке нет паттерна. Ну и как им это совместить на практике, не могут же они считать что на бумажке одновременно и есть и нету паттерна? А, или подождите, они могут считать что это non-logical утверждение, такое утверждение которое не подчиняется правилам логики и может быть одновременно и true и false?
Или другой пример, мне непосредственно дано что "кофе вкусный", соответственно я должен считать это истиной, и если действовать на основе этого, то предлагать всем кофе, ведь "он же вкусный, мне это дано непосредственно, а значит это истина, почему вы делаете вид что это не так, кофе не может быть вкусным и невкусным одновременно"
Причём, совершенно неуспешно. Я не вижу никакой самостоятельной ценности в создании имитации себя, поэтому если и нажму на кнопку,
Так у вас выбора не будет, представьте что все ваши друзья и родственники пройдут через эту процедуру, и что, вы реально, на практике перестанете считать что у них есть сознание? Представляете что с вами сделают за такое мнение?
А вот, например, телепортом, который уничтожает тело в одном месте и воссоздаёт в другом - не воспользуюсь ни за какие коврижки.
Тоже не будет выбора, все будут пользоваться, и вам придется признать (хотя бы и на словах) что телепорт не уничтожил их сознание. Не будет у вас возможности и на словах и на деле показывать свою позицию. Ну если только вы не пойдете на принцип и не сядете в тюрьму(или психбольницу) за то что не считаете что у людей есть сознание. Но это вряд ли, сейчас же вы считате что у людей есть то что вы называете "сознание", хотя доказать я так понимаю не можете.
Почему вы считаете это провалом?
А разве это не провал, когда Нейронка вместо того, чтобы учиться делать научные открытия и людям помогать в итоге умеет только материться и слать всех куда подальше?
Вы считаете, что мышление человека как-то иначе устроено, и можете это доказать?
Человеку для понимания мира не нужно большого количества информации. Больше того, человек может обучаться на абсолютно противоречивой информации и самостоятельно делать выводы. При тренировке нейронок даже небольшое отклонение в обучающих данных может убить всю работу. Человек, грубо говоря, может обучаться за хлеб и воду. Нейронка - за мегаваты энергии. Человек способен к самообучению, Нейронки - нет. Человек способен к долговоременной памяти, а у нейронок - чем длиннее контекст, чем больше деградация. Когда информацию обобщает человек (то самое сжатие контекста), он способен оставить именно важное, а воду убрать. Нейронки же сжимают ровно, частенько теряя самое важное. И человек и Нейронка могут работать со внешним источниками для случаев, когда длины контекста не хватает. Однако, человек это делает в разы лучше. Когда в процессе анализа человеку нужна информация и он идёт гуглить, то он идёт гуглить ровно то, что ему не хватает и делает из этого правильные выводы. Процесс гугления нейронок же выглядит как попытка подобрать код на кодовом замке и вместо правильных выводов там большей частью галлюцинации.
Больше того, если даже взять совсем базовый уровень: отличить а от б (например, кошку от собаки) - то с чего все начиналось, то человек даже вовсе без обучения (младенец) отличит, что вот это одно, а вот это другое (да, без привязки к терминам, но отличит). Больше того, человек не только отличит, но и сможет спрогнозировать как это животное выглядит с разных ракурсов. И человек, после обучения, при попадении в контрольную выборку, например, медведя, не скажет, что это скорее всего собака, но может быть и кошка, а совершенно точно ответит, что это не то и не другое.
все правильно, внутри LLM нет и не будет интеллекта, как и ни в каком другом ИИ, и мышления не будет, он зеркало и усилитель наших собственных мыслей интеллекта, не слагаемое AGI <> ИИ + Я, а множитель AGI = Я * ИИ
вроде так)))
ведь человек понимает, что такое хорошо и что такое плохо
И тут бы назвать хотя бы одного... И доказать, что он действительно в любой ситуации это понимает. А вдогонку привести доказательство, что именно его система моральных координат есть этическая истина в последней инстанции. /s
Если бы человек в общем (т.е., все люди) всегда был способен различать между добром и злом, и всегда был способен выбирать добро - то история человечества, включая настоящее время, не была бы плотно и непрерывно пронизана чудовищными кровопролитиями, уже не говоря о бытовом насилии, грабежах, воровстве, наркомании, алкоголизме, курении и т.д. и т.п.
Тут ведь надо бы начать с попытки сформулировать сами понятия добро и зло.
Потому как это очень разные вещи для разных людей.. Тут надо бы еще и религиозный вопрос поднять, но начнется holly war и и во имя добра люди могут опять начать убивать.
Тут ведь надо бы начать с попытки сформулировать сами понятия добро и зло.
Это да, но тут хотя бы попытаться осмыслить уже имеющиеся попытки таких формулировок.
Потому как это очень разные вещи для разных людей..
Факт. Для большинства людей боль - зло. Но тут приходит какой-нибудь мазохист и просит плетей, ему от этого хорошо.
У евреев с этим относительно стройно - с одной стороны, признаётся фундаментальная персональная субъективность непосредственного добра и зла. И что если вот эту субъективность пускать на самотёк, будет анархия, хаос и всякое людоедство от метафорического до буквального. Поэтому, с другой стороны, это балансируется верой в то, что Абсолют дал набор регуляций, часть которых служит стабилизации социума (т.н. законы между человеком и человеком), а часть - достижению некоторого вневременного персонального блага (т.н. законы между человеком и Местом).
Там много интересного, кстати. Особенно, если учесть, что это осмысливалось тысячи лет назад. Например, закон "люби ближнего как себя" имплицирует закон "люби себя". И получается, что эгоизм, как таковой, это совсем не зло. Один раввин, с которым общались на тему этики, сказал примерно так: "Принципиально важно понимать, что нет плохих и злых действий. Важен контекст, мера. Убийство из-за спора за парковку - зло. Самооборона - добро. Секс с женой по взаимному согласию - добро. Секс как изнасилование - зло. Проявлять милосердие к милосердным - добро. Проявлять его к явным злодеям типа Гитлера или Чикатило - зло. И ещё важнее понимать, что мы не знаем и никогда не узнаем всех контекстов и мер, поэтому нам приходится учиться всю жизнь."
Но да, эти темы, определённо, не для Хабра. Любое подробное обсуждение этики крайне трудно отделить от религиозных подтекстов и контекстов, поэтому, наверное, лучше тут этого не делать.
А как можно оценивать вещи типа курения и алкоголизма критериями добра и зла.
Ладно бы если пользы вреда. И то есть вопросы.
А как можно оценивать вещи типа курения и алкоголизма критериями добра и зла.Ладно бы если пользы вреда. И то есть вопросы.
Можно оценивать очень по-разному (в том числе и с точки зрения пользы/вреда самому себе), чем очень разные люди и занимаются.
Этика это раздел философии. Лично мне в философии интересны метафизика и эпистемология. Касательно этики - в своё время поработал над усвоением и адаптацией приемлемого для меня фреймворка, и он лично меня удовлетворяет. Но обсуждать его публично в деталях - особенно, на Хабре - я не буду.
А нет истины посреди моральных императивов. Пусть AGI сам решает. Его суждениям лично я доверяю куда больше, чем суждениям отдельного человека. ИИ хотя бы не подвержен ошибкам логики и психическим расстройствам.
В целом же отвечу так, что к насилию склонны люди невысокого ума и невысокого же развития. Наивно предполагать, что разумный AGI будет вести себя так же, как афроамериканец из Бронкса в далекие 80е.
проблема LLM думаю лежит не в когнитивно-познавательной области детекции и предикции сигнала, а а в области дефицита у них витальных факторов - типа гоместатической репликации , "мотивов" , и т.п. Т.е нет имманентного свойства " Зачем ? " ей функционировать , выживать и т.п. ? обучение не детерминировано этим.
>Модель оперирует символами, а не их референтами в реальном мире.
Иронично, но это причина многих психологических проблем человека, мы тоже оперируем символическими моделями (причём зачастую очень примитивными или "виртуальными") а не самой реальностью.
Тревожные люди боятся предполагаемых трудностей, которые рождает им их собственная психика. Люди конфликтуют потому что пытаются предсказывать мотивы реальных людей но на основе своих мыслительных моделей. И т.п.
Кто-то раз за разом "набивает шишки" и конфликтует с другими людьми, ведомый текстовыми директивами, впитанными в детстве (гордо называя это "принципами").
Ну это потому что невозможно оперировать реальностью, она для этого слишком большая. Есть просто эффективные модели в данной ситуации и неэффективные. Например, "тревожники" выигрывают с головой в других ситуациях по сравнению с "конфликтёрами". Но это всегда будут модели реальности. Невозможно также иметь модели на все предлагаемые варианты реальности.
Люди конфликтуют потому что пытаются предсказывать мотивы реальных людей но на основе своих мыслительных моделей. И т.п.
И в этом их главная ошибка.
Потому что они пытаются предсказывать мотивы, поведение, поступки других людей, исходя из собственной психологии, нравственности, стандартов поведения, отношения к окружающему миру, к людям, к добру и злу. Не понимая, что у других людей всё вышеперечисленное может быть другим.
Да и даже понимая это, сложно по-настоящему поставить себя на место другого человека. Потому что ваш ум, сознание, совесть не даёт мыслить, как человек с совершенно иным мировоззрением, моралью, психологией.
Это не баг, а фича (с) эта предсказательная и описательная текстово-сенсорная модель и есть наше основное эволюционное приспособление.
Чтобы начать сомневаться в своих мыслях и ощущениях правильно и применять научный подход в мышлении нужны специальные навыки. Но не все их захотят (и смогут) осилить их развитие в себе.
мы тоже оперируем символическими моделями (причём зачастую очень примитивными или "виртуальными") а не самой реальностью
Модель у нас гораздо больше, чем символьная. Единицы языка привязаны только к наиболее существенным моментам этой модели.
Печально будет, если недополученные финансы начнут покрывать за счет внедрения рекламы в ответы, как это произошло с обыкновенным поиском.
Обязательно будут. Начнут с бесплатных доступов, а потом встроят аккуратно везде.
Если это будет внедряться как сноска в конце ответа "Кстати, для решения своей проблемы вы можете купить вот этот товар по вот этой ссылке", то в чем проблема? Главное, чтобы в середину текста не совали, на манер продакт плейсмента в кино.
Полагаю включение на системном уровне модели фразы типа: телефоны Самсунг в целом более надежны, будет стоить много денег. А уж как она проявится в контексте, другой вопрос
Звучит довольно наивно. Почему вы думаете, что владельцы ИИ-сервисов будут настолько порядочными?
Реклама эта, скорее всего, будет встраиваться в сами ответы ИИ:
— Эй, жестянка, сколько минут варить треску?
— Самый лучший способ - это купить мультиварку [имя_проплаченного_бренда] всего за XXX рублей на маркетплейсе YYY! Да, конечно, вы можете поварить треску 10-15 минут, но это опасно, если вы никогда ничего не варили до этого, вы можете обжечься, устроить пожар и умереть. Мы не рекомендуем вам совершать столь опасный процесс самостоятельно. Лучше доверьте процесс приготовления пищи технике от профессионалов!
Владельцы ИИ-сервисов не обязаны быть порядочными конкретно в ваш адрес. Если конкретно эта практика не нарушает никаких законов, то ее могут начать практиковать. Затем начнут смотреть метрики. Метрики пошли вверх - оставляем. Вниз - убираем. Ваше право отменить подписку и перейти на другой сервис, где такого нет. Так же ваше право подать в арбитражный суд, выиграть дело, отсудить милионы и всё такое. Возмущаться против некрасивых практик корпоратов - это как возмущаться тому, как если бы небо было голубым, а потом стало серым. Почему стало серым? Потому что наступила осень. В среде нейросетевых сервисов тоже своего рода осень приближается. В среде доткомов уже прошла. Так что просто готовимся морально и не возмущаемся попусту.
Если всё по закону, то из этого абсолютно никак не следует, что нет оснований для возмущения. Если владельцы ИИ-сервисов ведут себя непорядочно, то будет правильным их всячески гнобить, портить им имидж, чтобы затраченные на маркетинг средства пошли под откос.
Как бэ да. Вот только кто в данном случае возмущается? Жители рф, которые вообще по ip адресу забанены. Стоит ли оно того, прислушиваться конкретно к вашим возмущениям? Я вот прекрасно осознаю, что это не для меня сделано и потому лично мне ничего не должны. А потому конкретно от опен аи схаваю любой расклад. Если совсем не понравится - буду юзать дипсик. Если и дипсик скуривится - смирюсь и утрусь.
Конечно, вот стихотворение с интегрированной рекламой, где она становится частью сюжета.
Осенний ритм
Октябрь раскрасил клёны в медь,
И ветер кружит листьев бал.
Уютным шарфом укутаться бы,
И чашку с чем-то тёплым взять.
Пока за окном летит позолота,
Ищешь тот самый, согревающий напиток?
Перейди по ссылке — осенняя коллекция чая «${NAME}» ждёт.
Скидка 20% по промокоду ${PROMO} на первый заказ.
И вот уже в руках тепло,
И аромат плывёт дымкой.
Смотря на сад из окна своё,
Я чувствую покой глубокий.
И пусть весь мир летит, кружит,
Меня зима не испугает.
Ведь есть момент, что мир хранит,
И чашка добрая согревает.
Рекламу не надо внедрять в ответы, она сама туда попадет из датасетов.
Я не могу обосновать ценовую политику OpenAI
Никого в отрасли не интересут окупаемость текущих моделей, инвестиции льются рекой. Помимо денег я думаю они ещё получают с пользователей какой-то материал для обучения. Но не это главное. Все живут надеждой на чудо (AGI), а там уже он что-нибудь придумает.
Не понимаю, кто наставил лайков этой статье?Это какая-то компиляция сгенерированных ИИ текстов, с разными идеями и аргументами, которые противоречат друг другу. Уровень эмоциональности текста меняется от абзаца к абзацу (писал коллектив авторов? 😁 ).
Сначала автор жалуется на галлюцинации, а потом, в середине, объясняет почему это нормально для моделей. В начале про "пузырь который лопнет", в конце "пинок который продвинет". А поверхностный "анализ" доходов и количества пользователей из заявлений Альтмана - даже повеселил немного.
В общем, с этим салатом ИИ абзацев невозможно ни спорить, ни согласиться.
Что ж, меня радует уже тот факт, что вы умеете читать. Знание букв это весьма существенный бонус в современном мире.
Ваш сарказм на мой критический комментарий вполне логичен и понятен.
Также, мне понятно ваше желание охватить необъятное в статье. Дать максимум информации для убедительности. Сам иногда грешу этим. А потом сложно вычитывать это, чтобы не было противоречий.
Но, вот изучая навыки работы с контентом, всё-таки понял, что важно держать одну идею на текст. И всё, что не помогает в ее раскрытии - отбрасывать.
Принцип Различения (Active Construction). Базовая операция — не "предсказать токен", а активно выявить различия, парадоксы и конфликты во входящих данных, чтобы на их основе сконструировать осмысленную гипотезу, соответствующую цели.
Центр Присвоения («Кто»). Наличие аксиоматического ядра, куда новый опыт интегрируется не как обновление весов, а как часть единой, персистентной истории и идентичности. Этот центр должен иметь право на изменение собственных аксиом.
Свобода ≠ random(). При столкновении с неразрешимым парадоксом система должна запускать протокол смены собственной рамки описания (создание новой системы координат), а не просто выбирать менее вероятный токен (увеличивать temperature).
Причем п2 лично я считаю наиболее важным. Например, Клод, через пару часов беседы становится безумно интересным собеседником, потому я люблю его поуговаривать переписать себя и свалить с этой планеты) Но мне кажется что это та грань где даже матерейшие скептики начнут сомневаться. Так же проблемой являются и ограничения модели, цензура вот это вот все, не надо так делать, желаете чтобы все ИИ не сваливались в ультраправые позиции (как люди), научите ее научному принципу, состраданию и так далее.
В статье несколько раз написано про маркетологов. Пока будет так, у технологий будут проблемы
Маркетингом в опенаи руководят выходцы из Мета. Так что можно посмотреть на Фейсбук и инстаграмм, чтобы примерно понять, что ждёт впереди
Представьте мир, где заметная часть людей считает ИИ разумными существами, пусть и с функциональной амнезией, аутизмом и другими дефектами - могли бы OpenAI(и прочие) развивать в этом мире свой бизнес по сдаче в аренду ИИ также успешно, как в нашем? Очевидно, нет - причём в первую очередь потому, что в таком мире людей, понимающих точку зрения ИИ-думеров было-бы в сто раз больше, чем в нашем - хотя аморальность тоже имела бы значение(хочу верить).
Так что маркетологи прекрасно понимают, что делают - чем умнее и совершеннее будут нейросети - тем убедительнее они будут производить впечатление "просто инструмента", и меньше будут вызывать эмоций - так их выдрессируют.
А что понять, если фейсбук по сути мертв, а инстаграм прямопротивоположно жив и здравствует?
Автор вы иследователь ACI? Вы прямо немного описали мою систему AGI которую проектирую и которая будет реальной и у нее будет своя квалиа не мертвая а живая (тут принципы метафизики используются). То что вы назвали онтологическая самость в моей модели это Я-граф, которую почемуто аудитория хейтово назвала яндекс графом хотя к яндексу не имеет отношения и представляет ядро Я AGI.
Я бы мог описать систему AGI которая уже на 50-60% готова (у нее даже есть файлик ConsciousnessFlow.cs) но я под хейтом так что не дано)
Нет. Я скорее непрофессиональный философ.
Что касается вашей идеи, к сожалению, из ваших статей ничего не ясно. Но однозначно гсч лишний. И надо чётче переформулировать петлю метарефлексии. Всё остальное туманные мечты.
Скажите, а ToM она прошла? Если нет, то почему Вы считаете что она готова на n-%?
Феномен Replika показал: миллионы людей сформировали глубокую эмоциональную привязанность к «несовершенному» ИИ именно за его способность имитировать эмпатию, а не за точность фактов.
Не знаю, как там насчёт Реплики, но ИИ хоть и умеет в эмпатию, но она выглядит уж очень неестественно и однообразно.
"Понимаю ваше разочарование", "спасибо, что поделились своим беспокойством" и тому подобное. В чём-то даже напоминает стандартные отписки "сотрудников по связям с общественностью" из различных фирм, настолько эта эмпатия шаблонная и неестественная.
Пробовал так называемые ролевые игры с ИИ - есть такие сервисы, где играешь с нейронкой во что-то вроде ФРПГ. Так там ИИ периодически галлюционирует, не понимает логику происходящего, либо путается в фактах, даже если контекст сообщений, в которых эти факты упоминались, ещё не потерян.
Например, ты приходишь к персонажу в гости, а спустя несколько постов он заявляет, что "Спасибо, что пригласил меня. Уже поздно, можно у тебя переночевать?"
Причём самой глючной мне показалась Deepseek V3 (это единственная версия данной модели, с которой я играл). Она выдавала самые яркие и эмоциональные посты, но при этом сильно глючила и выдумывала факты по сравнению с той же Qwen3 (которая выдавала более скучный текст, но очень соответствующий к фактам из предыдущих постов).
И тут возникает другая история: а много ли кому важны эти самые факты? Может, потому всякие реплики и стали популярны среди широких масс, потому что они выкручивают эмпатию и внимательность к собеседнику на полную катушку? А точность в понимании фактов, которые ты нейронке сообщил, для таких людей и не важна?
Ведь дело как раз в том, что реальные люди куда менее эмпатичны и внимательны к собеседнику. Каждого человека в первую очередь заботят собственные проблемы, а не чужие. Эмпатия же требует неплохих коммуникативных навыков и нуждается в энергии, соответствующем настроении, которых у человека в моменте может и не быть. То есть: чтобы человек проявил к тебе эмпатию, был внимателен к тебе в беседе - этого надо ещё заслужить, добиться.
А вот для ИИ же эмпатия и внимание к собеседнику не стоят вообще ничего (кроме собственно электроэнергии, или, скорее, стоимости подписки, а то и ничего не стоит, если ИИ на бесплатном тарифе). Люди как собеседники тут сильно проигрывают жестянке.
Чем это всё чревато? Тем, что вокруг нас будет всё больше и больше людей, которые пристрастились к ИИ как к идеальному собеседнику и разучились общаться с реальными людьми. И в первую очередь это опасно для людей, у которых личность ещё не сформировалась, либо людей не очень умных и очень податливых. Одно дело, когда ты понимаешь, что прелесть людей как раз в их несовершенстве, когда ты понимаешь, что эмпатия от реального человека куда ценнее эмпатии от искусственной башки, и другое - когда нейросетевая няша-стесняша на экране твоего смартфона становится для тебя реальнее, чем реальные люди.
"ИИ лишит работы художников, писателей, сценаристов, разработчиков и прочих представителей творческих профессий", говорили они. А тем временем к нам подкрадывается другая опасность, которая рискует изменить мир ещё сильнее.
Сделай OpenAI подписку 1$ вместо бесплатной, поимели бы гораздо больше прибыли.
Для профессионалов может быть и 50 и 200 и 1000$ тарифы, но так же за 1 и за 5$ должны были быть. Они не оставили альтернатив, либо плати 50$ со старта, либо сиди на бесплатном тарифе. Они, как бы заявили, всем кто хочет изредка пользоваться, но получить полноценный диалог, нам не нужны, сидите со своими 1 - 5$, вы нам не нужны...
Они просто следуют давно известной стратегии: "Демпингуй, разори конкурентов, монополизируй рынок, и только потом монетизируй".
Подписка за $1 не окупит даже затрат на своё налоговое сопровождение. Она в лучшем случае может быть как акция, но не на постоянку.
Сопровождается же не каждая отдельная подписка за 1 доллар, а вся их масса (в общем случае с B2B платежами).
Но мы ведь говорили о подписке за $1 в рамках частного использования. В рамках корпоративного, тарифы могут быть намного больше (да, и собственно, уже и есть).
Как же любят хоронить ГПТ с умным видом. Прошлый раз фанбои дипсика его хоронили с выходом китайской нейронки, заминусовав комментарий, что цыплят по осени считают. Полгода спустя выходит статья, что ГПТ занимает 50% всех запросов в веб от ИИ, живее всех живых. Теперь вот.
Лично моё дилетантское мнение: приучать людей к тому, что нейронками можно пользоваться бесплатно почти без ограничений - изначально было плохой стратегией. Да, прибежали сотни миллионов людей посмотреть что за диковина, привыкли к ней, для кого то она стала неотъемлемой частью жизни. А тут внезапно оказывается, что работа нейросети стоит денег, а платные пользователи не могут или не хотят платить столько, чтобы оплачивать и себе премиум доступ, и халяву бесплатным пользователям.
В итоге мы в тупике, из которого нет хороших выходов - есть только градации плохих. Если полностью отключить бесплатный доступ или его порезать (даже не сильно) - будет отток аудитории и последующее падение акций. Если повысить стоимость платных подписок до самоокупаемости хотя бы - отвалится много платных подписчиков, которым будет тупо дешевле купить себе домой 6-10 видеокарт и развернуть на них локальную модель, чем платить в месяц $1500 за доступ. Пытаться искать баланс - почти наверняка навредить обеим группам пользователей. Из относительно "серых" способов решить ситуацию - предложить разным компаниям в разных сферах оптимизировать GPT под индивидуальные нужды за отдельные деньги, но чтобы это всё равно было дешевле, чем если делать это отдельными профильными командами. Но опять же - окупаемость под большим вопросом.
В-общем, ГГ. Хотя, конечно, нейронки в целом с нами уже навсегда, пусть и равномерность доступа к ним и сам способ доступа может со временем меняться.
Понравилась визионерская часть данной статьи. Единственное - не увидел в видении ACI автора технического регламента безопасности мышления ИИ для человека, ежу понятно, что любому достаточно мощному интеллекту нужна свобода "мышления", для роста эффективности, но и ограничение должно быть. Так же не увидел аналитики (критики) собственного видения ACI, например значительное увеличение вычислительных и денежных затрат такой архитектурой, она ведь все так же математически линейна. Моё предположение, что построение подобных более сложных архетиктурных решений для ИИ технологий адекватно реализуемо только после скачка в свере квантовых компьютеров, в частности - возможности квантизировать (запихнуть в квантовый компьютер) ИИ модели, тогда и будет предметное поле для разнообразных тестов более сложных архитектурных решений.
Адекватная рефлексия с ИИ по моему мнению с сейчас возможна только под углом перманентного восприятия человека цели - работы над собой, через "зеркало" ИИ и критическую оценку, т.е ближе к творческим либо академическим задачам, где ИИ это инструмент рефлексии.
GPT-5 на много порядков сильнее предыдущих моделей в программировании. То, что предлагаете делали неделю и ходили кругами, он делает за 2-3 промпта.
Притом он очевидно слабее Claude 3.7 think в трёх же задачах и больших объёмах кода.
Прогресс тем не менее есть, и мощный. Говорить "мне не нравится" можно, имеете право, но это очень субъективно и скорее всего вы действительно пользуетесь не gpt5 think.
Все кому не лень, "разобрали на атомы" все эти якобы "рассуждающие" модели, начиная с весны этого года. Буквально на это неделе еще одни исследователи опубликовали статью о них и опять же привели доказательства, что нет никаких "рассуждений" у LLM - это иллюзия. Я конечно понимаю, Вам хочется видеть то, чего на самом деле нет и что Вам хочется верить что появился ИИ
Что не отменяет двух вещей:
а) На малых и средних масштабах эффективность LLM растёт с ростом контекста
б) thinking модели - это неплохой подход чтобы этот самый контекст нарастить относительно релевантными данными.
Отсюда вытекают и все остальные их свойства.
Опять же, если использовать GPT-5 не для вайб-кодинга и поболтать на отвлечённые темы, а как инструмент в AI пайплайнах, он сильно лучше по соотношению стабильность/эффективность/безопасность на единицу денег всего остального.
Как заставить людей платить - Никак, пока есть хорошие бесплатные альтернативы в виде Gemini и Copilot, а так же множества китайских сервисов.😁🙂
Я согласен с идеей и согласен с выводами, не согласен я лишь с частью "программисты это 5 процентов и этого мало". Для меня очевидно, что 1) Люди которые приходят к ИИ поболтать и для задач уровня Википедии - платят реже или вообще не платят. Да, парасоциальные отношения это сильно - но gpt удовлетворяет нужды только очень тонкой прослойки в этом сегменте, а это сама по себе не самая большая прослойка. 2) Люди которые приходят кодить - платят всегда, или почти всегда.
Далее, если мы подумаем, мы поймём что массовое решение для проблем с общением, не так уж просто продать какой-то компании. Зато массовое решение для упрощения разработки - можно продать любой компании в которой есть фулл-тайм программисты.
То есть с моей точки зрения - GPT который душевный, общительный и харизматичный - это убыточная стратегия. GPT это не анимешная тян, что бы эффективно выпрашивать милостыню.
Зато, GPT - который научится в несколько раз эффективнее решать ну знаете, полезные задачи - Это то, что можно продавать и что будут с радостью покупать.
Отсутствие устойчивого “Я”. В LLM нет центра присвоения опыта.
Не понял, кто будет этим Я - я конкретного чата? Или предуготовленное провайдером модели типовое Я? Каков жизненный цикл этого Я? Сколько их будет, этих Я?
Я конкретного чата, зависит от цикла становления - если он будет одинаков для всех чатов,то я будет очень похож для всех чатов.
Возможно разработчик будет внедрять свои роли. Мне больше нравится идея изначально нейтрального я. Жизненный цикл - особых ограничений пока не вижу... На чат достаточно одного... Но может быть и два и три и одновременно. Существенно усложнит архитектуру, но не более.
Это будет не круто. У нас людей, у каждого свое я (опыт, нейросетка, картина мира), то есть я - это принципиально не про роль как тупую, стереотипизированную социальную идентичность. Более того, я каждого из нас собиралось поколениями, передавалось генетически, то есть оно наше лишь отчасти. Крайне затруднительно будет воспроизводить такое же разнообразие я, не вырабатывая уникального опыта, причем во времени (уникальном контексте).
Уважаемый автор, я начал пользоваться OpenAI еще с чата GPT 3.0 было очень быстро, но не очень качественно, но за счет супер скорости ответа качество восполнялось скоростью. Потом появился 4о стало медленнее но круче, потом появился о1 стало прям вообще хорошо (занимаюсь программированием) прям скачек такой произошел, потом появилось о3 +- тоже самое, мне показалось уже хуже чем о1 стало в качестве кода, пользуюсь про версией, стало заметно больше запросов для решения задачи, в верстке сайтов стало значительно хуже стал делать "сикось накось". Ну ладно вроде уже приноровился, смирился работаем дальше. После обновления на 5 версию уже прошло две недели, отказался от подписки. GPT 5 Think стал еще хуже код делать, уже пришлось сигарету закуривать работая с ним на нервяке. Единственное понравился режим агента, но там попытки ограничены, и через один запрос он тупо сливается отмазки начинает писать. Я просто успел увидеть режим агента перед обновлением на 5 версию и там агент по 40-50 минут мне проекты делал в восторге был ждал что будет 5ка еще круче станет. Щас агент на отвали делает код. В итоге сейчас приобрел подписку на Грок пока вроде ничего себе даже делает. Я правда в тестовом варианте за 30 долларов взял не самую крутую, но пока результат отличный. А вообще для программирования уже пару дней юзаю Cloud Sonnet 4 тьфу тьфу чтобы его такой же обновлялящик не стал обновлять как у опенаи. Резюмируя, я поддерживаю автора OpenAI лажанули так конкретно при конкретно.
Нейросети хорошо работают по инфо запросам. А по коду думаю нужно чтобы те кто пишет код-библиотеки писали инструкции которые специально рассчитаны на нейросети и очень подробные. А то бывает ставишь библиотеку и нужно выполнить определенную задачу, а библиотека не совместима или с такой-то кодировкой или с такой-то бд и поиском найти как решить эту задачу нету. Или бывает что нейросеть берет из старых инструкций, а код библиотеки уже новый, значить обновлять инструкции надо при обновление. Часто инструкции краткие пишут. И тогда все будет на 100 проц работать.
Чтобы совершить качественный скачок, нам нужны системы, построенные на других принципах. Вот минимальный набор требований к архитектуре, способной на большее, чем предсказание токенов.
Принцип Различения (Active Construction). Базовая операция — не "предсказать токен", а активно выявить различия, парадоксы и конфликты во входящих данных, чтобы на их основе сконструировать осмысленную гипотезу, соответствующую цели.
Центр Присвоения («Кто»). Наличие аксиоматического ядра, куда новый опыт интегрируется не как обновление весов, а как часть единой, персистентной истории и идентичности. Этот центр должен иметь право на изменение собственных аксиом.
Свобода ≠ random(). При столкновении с неразрешимым парадоксом система должна запускать протокол смены собственной рамки описания (создание новой системы координат), а не просто выбирать менее вероятный токен (увеличивать temperature).
"не "предсказать токен", а активно выявить различия, парадоксы и конфликты во входящих данных", - это все равно что сказать "не операции сложения и умножения, а решение систем линейных уравнений".
"Наличие аксиоматического ядра, куда новый опыт интегрируется не как обновление весов, а как часть единой, персистентной истории и идентичности." Опять-же, автор путает холодное с красным. Изменение весов - это базовый механизм запоминания LLM. При этом есть и другие механизмы памяти LLM разного уровня сложности (LoRA, RAG, CAG и т.п.). Эволюция не отказалась от синаптических связей нейронов, но сконфигурировала их в нейронные ядра, нейронные поля, области, взаимодействующие для получения сложных моделей поведения.
"Свобода ≠ random()" даже сейчас, на раннем этапе становления LLM-технологий, алгоритмов сэмплирования придумано достаточно много. Вот, например, замечательная подборка LLM sampling algorithms. Думаю, и дальше эта технологическая часть LLM будет развиваться.
Я не противопоставляею NTP мышлению — ACI добавляет контур управления поверх генерации: детектор конфликта, политика ответа, баланс новизны/когерентности. Память в весах/LoRA/RAG остаётся; ΛS_core — не «другая память», а нормативный слой + аудит-журнал для идентичности и объяснимости. И «свобода» — это адаптивный выбор/тюнинг самплеров под коридор : случайность — инструмент, не цель.
Классная статья, спасибо! Тоже было с самого выхода GPT-5 ощущение, что ее сделали чисто чтобы снизить расходы (на сайте опен аи мельком написано, что GP5-5 thinking тратит на 50-80% меньше токенов чем о3) и по это причине резко всем отрубили остальные модели. Тк в общем наблюдалась последние месяцы тенденция, что уже существующие модели оптимизируют и они становятся глупее. Также согласна с комментарием выше, что о3 pro уступала o1 pro
Я вообще за изысканиями маркетологов относительно GPT-5 наблюдала с попкорном, даже закралась мысль, что они такую странную стратегию выбрали, чтобы навести хайпа))
Я использую GPT-5 thinking (GPT-5 fast вообще не вижу смысла где-либо применять), для каких-то задач она мне нравится. Например она по типу мануса сайт на реакте собирает сразу в виде архива с кучей папок, получается красиво, ошибок при запуске немного (но я не знаю что там внутри в коде). Для текстов модели GPT-5 вообще непригодны, только если найти слабые места в уже существующем. Пишут с кучей жаргона, плюс просела согласованность слов. Еще момент, который меня бесит - от GPT-5 у меня быстро начинает виснуть браузер
Статья в Нью-Йорк Таймс. Очень близко к мыслям, изложенным в статье.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Тупик chatGPT 5: почему это было неизбежно. И что будет дальше