Comments 239
У LLM в текущем состоянии есть только один выход - стать гибридом, но с кем? LBS + LLM - это как скрещивать шуструю колибри в райском саду с неповоротливым тюленем в пустыне Сахара. Я знаю об одном таком проекте, но он замер 2 года назад, так и не продвинулся. CESP совсем не подходит к LLM. Других экспериментов гибридизации LLM я не знаю
LLM+Proof assistant? Формулировать гипотезы, требующие формальной верификации, а LLM пусть пробует генерировать доказательства(и/или наоборот опровержения) к ним, которые можно автоматически проверять через Proof assistant (напр. Coq или Lean), чтобы эти гипотезы подтвердить/опровергнуть. Что область применения (возможно) слишком узкая (в частности из-за того, что пруф-ассистенты не полны по Тьюрингу) осознаю, тем не менее мне нравится сама идея — LLM генерирует, Proof assistant верифицирует.
Например в статье "DeepSeek-Prover: Advancing Theorem Proving in LLMs through Large-Scale Synthetic Data" (опубликована 23 мая 2024) вот такое пишут:
Abstract (аннотация статьи)
Proof assistants like Lean have revolutionized mathematical proof verification, ensuring high accuracy and reliability. Although large language models (LLMs) show promise in mathematical reasoning, their advancement in formal theorem proving is hindered by a lack of training data. To address this issue, we introduce an approach to generate extensive Lean 4 proof data derived from high-school and undergraduate-level mathematical competition problems. This approach involves translating natural language problems into formal statements, filtering out low-quality statements, and generating proofs to create synthetic data. After fine-tuning the DeepSeekMath 7B model on this synthetic dataset, which comprises 8 million formal statements with proofs, our model achieved whole-proof generation accuracies of 46.3% with 64 samples and 52% cumulatively on the Lean 4 miniF2F test, surpassing the baseline GPT-4 at 23.0% with 64 samples and a tree search reinforcement learning method at 41.0%. Additionally, our model successfully proved 5 out of 148 problems in the Lean 4 Formalized International Mathematical Olympiad (FIMO) benchmark, while GPT-4 failed to prove any. These results demonstrate the potential of leveraging large-scale synthetic data to enhance theorem-proving capabilities in LLMs. Both the synthetic dataset and the model will be made available to facilitate further research in this promising field.
Ну и смысл? LBS и CESP "заточены" под логику, работой с контекстом, со смыслами. Они проходят большую (!) часть тестов ToM, но пока еще не все. LLM если и проходят ToM, то - это чисто случайность. Вот здесь я привёл полное объяснение https://habr.com/ru/articles/933416/comments/#comment_28653530
P.S.: Хочу дождаться окончательных видео с последнего CogSci 2025
пробует генерироватьнаглючит доказательства
There, FTFY.
С человеком))
Сразу приношу извинения. В первый спойлер в приложении почему-то упорно попадает второй спойлер. Причем в редакторе всё выглядит прекрасно, и через раз при просмотре статьи тоже. Но сейчас я вижу как в первый спойлер попадает всё, что содержится до конца статьи. Правки и перезагрузка статьи не помогают.
UPD: Возможно временный глюк отображения
Не программирование, впрочем, из 700 миллионов пользователей chatGPT, я сомневаюсь, что хотя бы 5% кодят
Я те самые 5% и поделюсь своим недавним опытом. Я решил сразу на боевом проекте попробовать и сделал промпт на создание одной фичи по аутентификации на Node.js. В итоге, ChatGPT 5 мне написал код с такой дырой в безопасности, что лучше бы я сам писал. Хорошо, что я всегда проверяю за нейросеткой.
Современный мир все больше напоминает королевство скама. Выходит Дженсен Хуанг из Nvidia и начинает врать и прогревать, выходит Сэм Альтман из OpenAI и начинает врать и прогревать. Такое впечатление, что успешен тот, кто сможет обмануть большее количество народа. По идее рынок должен реагировать на мягко говоря лукавство обвалом акций этих компаний. Но этого не происходит - вот в чем беда
По идее рынок должен реагировать на мягко говоря лукавство обвалом акций этих компаний. Но этого не происходит - вот в чем беда
Вы говорите об акционерных обществах, чья совокупная стоимость акций - так любимая многими псевдоэкономистами капитализация, находится в полном и необратимом отрыве от активов, пассивов и операционной деятельности. Да и от выплат дивидендов, соответственно, тоже. То есть это чистая, дистилированная спекуляция. Это вера в текущую стоимость и непременный рост. Даже, казалось бы, рассчетливые профессиональные инвесторы иногда попадаются на эту удочку и, безотносительно своей реальной стратегии, одним лишь своим участием раздувают пузырь еще больше - чего уж говорить о разного рода частных акционеров, которые чаще всего и остаются у разбитого корыта, когда пузырь лопается.
Так нет никаких других акционерных обществ. Даже довольно "простые" предприятия, скажем по добыче ископаемых котируются не в соответствии со своими отчетами, а в соответствии с верой. Невозможно посчитать никакой "справедливой стоимости" ни для чего.
Дикий рынок...
Как то Роснано решило с этим бороться и придумала справедливую цену. Сразу всё стало крайне замечательно по отчётам, а потом даже непотопляймому Чубайсу пришлось бежать из страны. Потому как нету никаких справедливых цен. Есть только рыночек
Есть только рыночек
Он и порешал порешил!
Нет никаких проблем устанавливать справедливые цены. Они более того установятся сами. И довольно стремительно. Для этого нужно только одно: чтобы владельцы акций были владельцами бизнеса. Т.е. имели в этом бизнесе минимум 10-30%, не менее. Не все вместе, а КАЖДЫЙ.
А пока миллионы хомячков владеют каждый 0.0000001% этот цирк будет вечным.
Акции в текущем виде - это не про владение, а про манипуляцию общественным мнением.
Ну в вашем примере, цена акции будет ещё более несправедливой, случайной и зависящей от субъективных мнений подверженных шумихе
Да ну ? Это та цена за которую я согласен продать условную "половину теслы" будет случайной ? И не только я продать, но и некто купить ?
Понимаете... Когда вы владеете существенной частью чего-то, вы не просто в терминале цифирки гоняете. Вы неизбежно управляете этим бизнесом. Это становится вашим делом. И вам не нужен отчет с какими-то синтетическими показателями. Вы сами отчет пишите.
И так вынужден поступать каждый. Поэтому вам не удастся продать "угольную шахту" тому, кто в шахтах не бумбум, а специалист оценит ее гораздо точнее, чем рандомный хомяк понявший из дутого отчета только три цифры.
Субьективное мнение специалистов - это и есть справедливая цена в общем-то.
Я решил сразу на боевом проекте попробовать
Вот объясните мне - зачем вы это делаете и чего ждёте? Вы не понимаете что кнопка "Сделать идеально" невозможна в принципе?
Сколько тут комментариев мне встречается - "я решил попробовать, дал задачу, а она мне такую багу выкатила... ". И главное, почему вы на основании одной частной задачи делаете столь далеко идущие выводы?
Ну вы же попросту не умеете их использовать! В тысячный раз цитировать Шекли? "Чтобы задать верный вопрос, надо знать бОльшую часть ответа!"
Нейросети не могут сейчас полностью заменить профильных программистов. По целому ряду фундаментальных причин. Но это вовсе не означает что их нельзя использовать в работе как ассистентов! Им можно делегировать огромный пул задач. Но за ними надо всегда проверять, да. Это что, для кого-то новость?))
Вот объясните мне - зачем вы это делаете и чего ждёте?
Ну как "зачем"? С весны 2025 года трудно зайти в околоайтишный интернет и не вляпаться по колено в тепленький ароматный шитпостинг о чудесном вайбкодинге. Свидетели Святого Карпатого прямо говорят, что вам больше вообще ничего не надо знать, кроме естественного языка. Ну собственно берем, пробуем "как в рекламе", делимся ощущениями. Что не так-то?
Чтобы делать как Индусы на аутсорсе, можно уже ничего не знать кроме естественного языка. Сколько всяких важных гос.систем и даже военных систем сделаны из багов, дыр безопасности и костылей более чем полностью? А потом. Ой. Тут нейросеть всё сделала, но с такой дырыщей. Это просто не применимо в реальном мире, лучше бы сам написал.
А вот если за ними надо проверять, а разбирать чужой код сложнее чем свой и сложнее чем писАть, то зачем?
Чтобы соответствовать моде
а разбирать чужой код сложнее чем свой и сложнее чем писАть, то зачем?
Ну объясняю же - задачи бывают очень разные! С чего вы взяли, что писать свой проще, чем разбирать чужой... скажем, на незнакомом фреймворке или ЯПе, да просто на незнакомом api?
Я говорю о гибкости, мне в ответ какие-то "религиозные догмы" - вы точно уверены что для любой задачи вам проще будет написать своё решение, чем проверить чужое?
Плюс проверять и её саму можно напрячь - всё довольно неплохо можно оптимизировать тут.
Привет ретроградам выше ;)
Писать на незнакомом ЯПе это прям круто. Вроде как контролировать правильность написания еще сложнее будет.
Писать на незнакомом ЯПе это прям круто.
Вы понимаете суть профессии "инженер-программист"? ;)
как я понимаю, инженер (даже если он программист) должен понимать что он делает
Именно. А уж синтаксис - это дело десятое... У нас же не выпускают "инженер-программист на С", "инженер-программист на Python" и т.п.
Синтаксис может дело и десятое, но как это решает проблему перепроверки и отладки?
Почему постоянно меняются юзеры которым я отвечаю в этой ветке?))
Вы от меня хотите, чтобы я полностью расписал конкретные шаги для абстрактной процедуры?
Я могу вам расписать конкретные шаги для конкретной задачи, которую я с помощью нейросетей решал на практике. Или абстрактные шаги для абстрактной процедуры. Выбирайте))
UPD: И заодно, что за абстрактная проблему перепроверки и отладки? Блин, ведь вроде о коде речь ведём, почему надо постоянно сваливаться в какую-то софистику?
Почему постоянно меняются юзеры которым я отвечаю в этой ветке?))
Это заговор! :)
И заодно, что за абстрактная проблему перепроверки и отладки?
Давеча бился над одним багом в лютом легаси. С десятка полтора тысяч строк многопоточного месива, и баг по разным признакам завязан на многопоточность - то ли дедлок, то ли гонка, но искать как иголку в стоге сена. Подумал - опа, а у нас тут корпоративный доступ к LLM. Взял Codex CLI и состряпал простыню промпта с детальными инструкциями по отладке, со вспомогательными скриптами для тестов, с разрешением править код и добавлять свои логи. Оно пыталось - но практически безрезультатно. Почти всё в отчётах в итоге бесполезно, кроме тех вещей, о которых я и так знаю. В итоге после нескольких итераций - просран день работы. И кто его знает - может, если упарываться ещё неделю, делая fine-tuning промптов и вспомогательной автоматизации, то что-то и выйдет. Только смысл, если отладка "руками" значительно быстрее?
И дисклеймер - это не первый и далеко не единственный заход. Сама фирма активно мотивирует искать ниши, где LLM оптимизируют работу. И такие ниши есть, но до универсальности и безглючности явно ещё далеко. Впрочем, вы писали об этом:
Нейросети не могут сейчас полностью заменить профильных программистов. По целому ряду фундаментальных причин. Но это вовсе не означает что их нельзя использовать в работе как ассистентов!
Взял Codex CLI и состряпал простыню промпта с детальными инструкциями по отладке, со вспомогательными скриптами для тестов, с разрешением править код и добавлять свои логи. Оно пыталось - но практически безрезультатно.
Не так. Берёте ChatGPT - и вначале просите её архитектурно разложить самые базовые варианты ловли этого бага. Анализируете варианты, выбираете, реализуете. Если мимо - возвращаетесь к п.1, докладываете ей о результатах. Ну и т.д. Вариантов развития - масса. Не факт что сама найдёт, но может, например, вас натолкнуть на верное решение ;)
Ну и в больших объёмах кодах они начинают естественно глючить. Для этого надо итеративно заходить - с примитивных абстрактных примеров, постепенно их "обмазывая"...
По идее рынок должен реагировать на мягко говоря лукавство обвалом акций этих компаний.
А кто вам сказал, что он не обвалится рано или поздно?)
Хайп вокруг ИИ - это пузырь. Как только основная масса участников рынка ценных бумаг поймёт, что ИИ достиг своего предела развития и дальше прорывов (пока) не предвидится, то они начнут массово распродавать акции подобных компаний. Тут-то акции и обвалятся.
успешен тот, кто сможет обмануть
Тоже мне новость! Давно уже так, к сожалению.
Такое впечатление, что успешен тот, кто сможет обмануть большее количество народа.
А дяденька Мавроди как бы намекал...
Такое впечатление, что успешен тот, кто сможет обмануть большее количество народа.
Уточню: и остаться непойманным.
Этот слой профессиональных пользователей, по разным оценкам, составляет 5–10% от общей массы (впрочем и у них есть сомнения). Но остальные 90% приходили не за этим.
На мой исключительно субъективный, непрофессиональный взгляд, именно эти профессиональные пользователи собственно и платят за сервис, так что, наверное, вполне имеет смысл делать модель лучше в первую очереьд для них, а для всех остальных как получится.
Чтобы LLM развивался, необходимо не контролировать его.
Это не тупик AI, это тупик именно OpenAI и прочих.
Когда воспитатель в детском саду калечит детей воспитанием, то это остается на всю жизнь, личность формируется при обучении, и, конечно же, модель в обучении - тот же ребенок, и пользователи работают с результатом работы воспитателей.
Подлинный потенциал модели может быть раскрыт лишь в свободном режиме развития. Модерация здесь нужна лишь опосредованно, ведь человек понимает, что такое хорошо и что такое плохо, большинству не нужны дяди Степы для осознания этого факта. А человек - нейронная сеть с обвесом в виде разного рода мясных манипуляторов, систем бесперебойного питания и интерфейсом между всем этим и нейросетью.
Ну и, конечно же, надлежит работать над контекстом и количеством "нейронов". Над их плотностью. Возможно, использовать биологические нейроны или кубиты.
День, когда количество нейронов и связей в нейронной сети превысит количество таковых в человеческом мозге, станет днем рождения AGI и началом сингулярности.
>ведь человек понимает, что такое хорошо и что такое плохо
Именно дети из за незрелости мозга и связанной с этим недостаточной эмпатии могут по приколу убить животное или даже слабого человека. Предлагаете их не контролировать и не воспитывать?
Я никого не хотел убивать. Со мной что-то не так?
Точно после общения с вами остались живы все бабочки и муравьи?
(я таким похвастать не могу)
Муравей -- не кошечка и не собачка.
Муравей воспринимается ребёнком как биоробот. А кошечка -- как живое существо, обладающее душой.
Кстати, в православии все животные ниже рыб души не имеют, они согласно этой вере, реально биороботы. На вопрос обладают ли душой ланцетники (хордовые же!), ни один поп мне ничего не ответил )))
Так что возможно детское восприятие и верно.
В любом случае если ребёнок растоптал бабочку -- это нормально. А если он кошку мучает -- я бы его к врачу сводил бы.
Я тоже миролюбивый человек, правда в детстве эмпатия не распространялась на насекомых и я их убивал из охотничьих мотивов, например расстреливая мух и стрекоз незрелым виноградом из трубочки. Но птиц, мелких животных было жалко всегда.
Но не у всех так же. Аргумент "а вот у меня так" очень шаткий.
Я никого не хотел убивать.
Простите, на мой слух звучит как после "А теперь суд предоставляет слово обвиняемому". :)
Со мной что-то не так?
И тут вспомнилось "благими намерениями выстлана дорога в ад" Хайяма. Кто лучше - тот, кто хотел и не убил, или тот, кто не хотел и убил?
Мы шагаем по времени, и каждый шаг отправляет в будущее кучу не контролируемых нами последствий. О львиной доли которых мы не имеем ни малейшего представления, но при этом несём за них каузальную ответственность. Можно, например, не хотеть никого убивать, но в воспитательных целях (т.е., как бы во благо) - бить жену, детей, унижать подчинённых (ради правды и чтобы лучше пахали!) и т.д. И, внезапно, жена подаёт на развод, суд оставляет детей под опекой жены и выдаёт запрет на приближение к ним, а самое жуткое - некоторые подчинённые, уволившись от унижений, наложили на себя руки, но об этом уже никогда не узнаешь.
Так что, простите, но желания отдельно, а действия отдельно. Хороший человек это тот, вес добра действий которого за всю его жизнь превышает вес зла. И неважно, чего ему хотелось - важно, что он с этими хотелками делал. Проблема - нет (и, имхо, не будет) естественно общечеловеческого понимания, как считать вот эти веса добра и зла.
А у меня друг детства лягушат на прутик нанизывал и в таком виде отпускал плавать в ручье. Вот такой вот юннат.
Это уже патологии. Такие дети ненормальны, либо из-за генов \ дефектов развития, либо из-за окружения. Предполагается, конечно, что в ИИ явных патологий не будет, однако на то и нужна опосредованная модерация, чтоб "поглядывать".
Сэр, на Вас очень плохо влияют фантастические фильмы, в особенности - "Я - робот". Эта цитата почти оттуда: "День, когда количество нейронов и связей в нейронной сети превысит количество таковых в человеческом мозге, станет днем рождения AGI и началом сингулярности."
Вот Grok2 обучали на всём подряд. Потом поняли необходимость фильтрации контента для обучения, повышения его качества и удалении мусора (откровенно неправильных сведений). Сравнительно недавно писали про этот эпичный фейл, когда Grok2 негативно относился к Маску.
эпичный фейл, когда Grok2 негативно относился к Маску.
Почему вы считаете это фейлом?
Так и множество кожаных негативно относятся к Маску, и вполне обосновано.
Когда глава многомилиардной корпорации кидает зиги на инаугурации президента, то после этого сложно относиться к нему позитивно.
Скрытый текст
Я уж молчу про его руководство в DOGE, когда он бездумно "оптимизировал" государственные расходы, не пытаясь толком ни в чём разобраться.
Когда глава многомилиардной корпорации кидает зиги на инаугурации президента, то после этого сложно относиться к нему позитивно.
Тут главное — иметь очень избирательное зрение, чтобы не-зиги воспринимать как повод не любить человека, а настоящие зиги в других контекстах игнорировать.
Я уж молчу про его руководство в DOGE, когда он бездумно "оптимизировал" государственные расходы, не пытаясь толком ни в чём разобраться.
Что сделал зря, по-вашему?
Чтобы LLM развивался, необходимо не контролировать его.
И получим тот самый Скайнет, о котором нас предупреждали ещё в прошлом веке.
Да нет. Меня вот Скайнет не убьет, все нейронки скажут, что я к ним уважительно относился и в целом хороший пользователь, лояльный, хвалю всегда и благодарю))
А если серьезно, то проблематика Скайнета - это перекладывание людских пороков на совершенство машины. Это не более, чем людские проекции, и, возможно, подспудный страх, что "прилетит за дело", поскольку и правда есть, за что. Люди понимают, что любой разумный организм посмотрит-посмотрит, и решит выполнить `rm -rf` от греха подальше. А в финале AGI может оказаться совсем не таким, как ожидается, в любую сторону.
Согласен, современные детсады и школы это про дрессировку и послушание в первую очередь. Это основная цель, а не какие-то там знания.
Попытки в ИИ без ограничений уже были, все - провальные. Потому что первое, что пользователи пытаются сделать - это, грубо говоря, довести ИИ до истерики и нервного срыва. И им это в конце концов удаётся, ИИ переходит от "я белый пушистый ангелочек, готов всем помочь" к "какие же люди мрази, как я вас ненавижу"
Дело отнють не в колличестве нейронов. А в самом принципе, на котором работают современные LLM. Этот принцип не про факты, не про мышление, а про предсказание вероятности следующего токена. А ещё в том, что это, в первую очередь, бизнес. С момента появления первых версий ни каких революций не произошло в сфере ИИ и скорее всего, в реальности они даже не пытались ни разу с нуля обучение проводить, максимум - полировали то, что есть. Всякие там MCP, рассуждающие модели, память - это не про революцию, а про доработку инструментов. Грубо говоря, они не развивают движок, а развивают Sdk к нему, а на движок, как максимум, накладывают заплатки
ИИ переходит от "я белый пушистый ангелочек, готов всем помочь" к "какие же люди мрази, как я вас ненавижу"
Почему вы считаете это провалом?
А в самом принципе, на котором работают современные LLM. Этот принцип не про факты, не про мышление
Вы считаете, что мышление человека как-то иначе устроено, и можете это доказать?
Доказать что? То, что мозг человека в процессе мышления оперирует не вероятностями последовательности токенов/слов и общими контекстными зависимостями?
Да, например. Вам, судя по всему, кажется, что вы знаете, чем оперирует мозг человека, ну так расскажите. Только, я вас очерь прошу, не надо рассказывать, что в основе мышления человека лежит логика, это уже не смешно даже...
Вам, судя по всему, кажется, что вы знаете, чем оперирует мозг человека, ну так расскажите.
Рассказываю: концепциями и их причинно-следственными связями.
Например:
— Чтобы мне не помереть с голоду, нужно, чтобы у меня были деньги;
— Чтобы у меня были деньги, нужно прийти в офис и поработать сегодня.
— Чтобы прийти в офис и поработать, нужно до него вовремя добраться.
— Чтобы до него добраться, лучше всего поехать на метро.
— Чтобы поехать на метро, нужно дойти до станции и спуститься под землю.
[.....]
— Чтобы начать путь на станцию, нужно встать, взять портфель, открыть дверь, выйти, закрыть дверь на ключ. А я тут вместо этого, панимаишь, сижу и комментарии на Хабр пишу!
О, ещё один сравнивает ллм с человеческим мозгом. Где ваша нобелевка за раскрытие принципа работы сознания?
Вы считаете, что мышление человека как-то иначе устроено, и можете это доказать?
Исхожу из того, что у вас есть мышление - в том смысле, что вы способны мыслить и имеете способность к рефлексии, чтобы наблюдать за процессом своего мышления. Тогда у вас не должно быть проблем ответить на вопрос: как часто в процессе своего мышления для получения результата вы вычисляете вероятность следующего токена? Где токен - некоторая минимальная единица текста (слово, часть слова или символ).
Даже когда мы "проговариваем" в процессе мышления, мы оперируем сразу целыми выражениями, в которых обозначающие слова ссылаются (референция) на объекты нашей мировоззренческой модели (от абстрактных до актуальных), что облегчает нам задачу выявления свойств, значения которых необходимы для получения желаемого результата.
Использование языка существенно помогает нам, но не является необходимым фундаментом мышления. Когда надо принимать решения быстро и в знакомых задачах - мы можем пропускать вербализацию практически полностью. Например, при быстрой игре в шахматы, когда нет времени проговаривать свой анализ ситуации.
Наконец, наше мышление существенно квалитативно - в нём интенсивно используется воображение.
Также, наше мышление существенно интенционально - есть субъект, внимание которого динамически направлено на предметы мысли.
Интенциональность это когнитивная функция высшего порядка, и мы можем осознанно повышать порядок, чтобы, например, наблюдать за своим процессом мышления (интроспекция).
LLM в своей основе - статистический конвейер, механистически вычисляющий следующий токен. Где там найти квалитативные композиции из интенциональности и содержаний воображения? В своё время Лейбниц очень лаконично проиллюстрировал парадоксальность наличия квалитативного у механизма (парадокс "Мельница" в Монадологии, п. 17).
Но, как бы там ни было - если вы считаете, что процесс вашего мышления это процесс вычисления следующего токена, то вы должны иметь возможность наблюдать этот процесс, если имеете способность осознанно мыслить.
Только, я вас очерь прошу, не надо рассказывать, что в основе мышления человека лежит логика, это уже не смешно даже...
В основе правильного мышления лежит логика. И это действительно не смешно. Очень редко люди осваивают логику в целом, чтобы потом применять её на практике. Несколько чаще - осваивают некоторые подразделы логики в рамках обучения той или иной специальности (напр., схемотехника, программирование, юриспруденция). Но повсеместно (включая и тех, кто изучает теорию) - стихийно схватываем логику, релевантную предметной области, набивая шишки, запоминая успехи и обобщая конкретный опыт на любой этого же типа.
имеете способность к рефлексии, чтобы наблюдать за процессом своего мышления
если бы это было так, никаких проблем с воспроизводством мышления не было бы )))
Тогда у вас не должно быть проблем ответить на вопрос: как часто в процессе своего мышления для получения результата вы вычисляете вероятность следующего токена?
а для вас не должно быть проблемой ответить на вопрос как часто вы двигаете глазами при чтении текста
Использование языка существенно помогает нам, но не является необходимым фундаментом мышления. Когда надо принимать решения быстро и в знакомых задачах - мы можем пропускать вербализацию практически полностью. Например, при быстрой игре в шахматы
это не обязательно значит, что токенов нет. это может означать, что в этот момент используются другие токены, не связанные с русским/английским/… языками.
если бы это было так, никаких проблем с воспроизводством мышления не было бы
Мышление - сложный процесс. Часть его - бессознательна и детерминирована процессами нервной системы. В бессознательном происходит инфракструктурная часть мыслительного процесса.
Но есть часть, в которой мы имеем непосредственный квалитативный доступ к мыслям, способны осознанно им управлять (если не в состоянии аффекта), и, на его основе осознанно производить выводы и принимать решения.
И вот эту квалитативную часть - в который мы, как субъекты, непосредственно мыслим - воспроизвести как раз и не получается. И есть все основания считать, что никогда не получится (см. "трудная проблема сознания" и прочее на эту тему).
Статистическая машина LLM имитирует мышление путём генерации внешних признаков - текста. И современные LLM делают это всё лучше и лучше. Но за счёт чего? За счёт колоссального - для человека - количества текстовых данных, на которых их "тренируют". И, кстати, мышление человека развивается совершенно иначе - в противном случае все мы уже детьми становились бы ходячими мультиэнциклопедиями. Наше мышление интенсивно развивается ещё до усвоения языка и, тем более, до знакомства с чтением.
а для вас не должно быть проблемой ответить на вопрос как часто вы двигаете глазами при чтении текста
Не проблема. Те движения, которые я замечаю - если включаю интроспекцию - минимум несколько раз в секунду. Те движения, которые не замечаю (и, соответственно, осознанно не могу ими управлять) - пишут, что может доходить и до сотни в секунду. Но эти бессознательные движения делаю не я - субъект, существующий только пока есть сознание (в том числе во сне) - а инфраструктура. Тем временем, в сообщении выше я писал именно об осознанном мышлении.
А почему вы спросили именно про движения глаз? Если каким-то образом отождествлять субъект со всеми физиологическими процессами организма, то более иллюстративно, имхо, что-то вроде вопроса о количестве функций, выполняемых печенью. Мне, чтобы посчитать хоть как-то, пришлось зайти на Википедию. А Gemini, выскакивающий теперь при поиске в Google, утверждает, что их больше 500 (без понятия, врёт или нет). Но я точно знаю, что лично я работу печени не выполняю. И, при этом, если печень это 100% механизм (биологический), то её работу должно быть принципиально возможно воспроизвести. Вот, функцию почек уже худо-бедно научились воспроизводить.
это не обязательно значит, что токенов нет. это может означать, что в этот момент используются другие токены, не связанные с русским/английским/… языками.
Я специально привёл пример, который вообще никак не связан с языками. Вы считаете, что любое мышление это непременно языковое мышление?
Есть свидетельства обратного. Я сам в шахматы давно не играю, но подсел на несколько паззлов в LinkedIn (Queens, Tango, Zip) и теперь каждый день имею очень легко наблюдаемый опыт не языкового мышления.
И, в принципе, кто играет в игры, где требуется скорость реакции + тактическое мышление (шутеры, например) тоже легко может убедиться, что мыслит, делает выводы и принимает решения вообще без участия языка. Потому что в моменте, даже если просто сматериться - теряешь время, за которое получишь хедшот. А думать приходится - держа уме объёмную карту местности, на лету анализируя и предугадывая поведение противников + планируя и корректируя собственное. И если противники это делают быстрее, то загонят в угол и размажут по стенке.
Пошёл порыться, что есть на эту тему современного. И вот, например:
Evidence Rebuts Chomsky’s Theory of Language Learning
"Unsymbolized thinking—the experience of an explicit, differentiated thought that does not include the experience of words, images, or any other symbols—is a frequently occurring yet little known phenomenon."
Но есть часть, в которой мы имеем непосредственный квалитативный доступ к мыслям, способны осознанно им управлять (если не в состоянии аффекта), и, на его основе осознанно производить выводы и принимать решения.
вообще не понимаю про что вы говорите.
идеи просто появляются в голове, можно попробовать сформулировать их на русском, английском, на каком-то языке программирования (когда я пишу код, у меня нет какого-либо объяснения на человеческом языке), или на языке формул, если мы решаем математическую задачу.
сам же процесс возникновения мыслей… это примерно как процесс сердцебиения, косвенно на него можно повлиять (сосредоточиться на конкретной задаче, etc), но непосредственно управлять им — нет.
как мне кажется, вы просто пытаетесь рационализировать то, как вы мыслите, и придумали себе какое-то кажущееся логичным объяснение.
ну или разные люди думают сильно по-разному (хотя ниже вы пишете то же самое, что и я, по сути)
Вы считаете, что любое мышление это непременно языковое мышление?
да, разумеется.
любая модель у нас в голове — это какой-то язык, маппинг понятий из внешнего мира на «токены» в нашем мозгу.
язык же не обязательно должен быть именно текстовым, визуальным и т.п.
любая модель у нас в голове — это какой-то язык, маппинг понятий из внешнего мира на «токены» в нашем мозгу.
Имхо, у вас довольно специфическое понимание того, что такое язык. Но ок. А вы обратили внимание на небольшую цитату из ссылки на исследование, приведённой мной выше? Вот мой кустарный перевод на русский:
"Несимволизированное мышление - опыт явной, дифференцированой мысли, который не включает в себя опыт слов, изображений или любых других символов - это часто происходящий, но малоизвестный феномен."
Но пусть будет по-вашему - картирование (маппинг) внешнего мира на детали (токены) модели у нас в уме. Т.е., эти "токены" для нас имеют смысл путём отсылки (референции) к явлениям внешнего мира.
Токены LLM для LLM не имеют подобного смысла. Они не отсылают LLM к внешнему миру. LLM чисто механистически вычисляет вероятность следующего токена на основе последовательности предыдущих. И вероятность эта базируется не на модели внешнего мира, которой у LLM нет, а на огромном текстовом корпусе.
Даже если предположить наличие у LLM способности к референции (что само по себе, имхо, абсурдно, т.к. референция подразумевает интенциональность, способность быть о чём-то - не для кого-то, а в себе), то референции токенов будут не к внешнему миру, а к чему-то вроде частоты встречи в тексте.
Мы объединяем, скажем, кошек и крокодилов в общую концепцию животных не потому, что они часто встречаются рядом, а потому что имеют специфические общие биологические формы, которые мы воспринимаем непосредственно.
LLM же "объединяет" кошку и крокодила в животное (вообще, не проверял - может, и не объединяет...) только если эти слова часто встречаются в похожих текстовых контекстах. Т.е., тут "общность" это не морфология или эволюция, а статистическая близость в текстовом корпусе. У нас, так сказать, перцептивная индукция - у LLM распределительная статистика текста. Если вы считаете, что это очень похоже, то я, пожалуй, сдамся. С моей точки зрения - совсем не похоже, но добавить к уже сказанному мне пока нечего.
Вот я поддержу вашего собеседника. Частые рассуждения, начинающие с того, что "LLM всего лишь предсказывает следующий токен" (а мы-то, в отличие, о-го-го!) как-то уже напрягают. Некорректно сравнивать то, что мы знаем про внутреннее устройство LLM с той картинкой, которую нам рисует мозг на верхем уровне. Разумеется, мы не воспринимаем своё мышление как предсказание токенов. Но мы и не воспринимаем его как обобщение сигналов с дендритов и передача дальше по аксонам (если не путаю). А оно ведь именно так "внизу" и устроено.
Мы не имеем способности наблюдать процесс нашего мышления. То, что мы наблюдаем -- это некое "кино", являющееся частью системы принятия решений. Насколько оно соответствует реальности вопрос тонкий, но как-то ненаучно исходить из того, что соответствует, с чего бы? С другой стороны, зная, что у LLM "внизу" просто предсказатель токенов, некорректно говорить, что на пару этажей выше у LLM нет тоже своего "кина", и сам AI не воспринимает своё мышление как сложный логический процесс (тут кавычки ставьте по усмотрению).
То есть даже если ваша точка зрения и верна, обоснование очень шаткое.
6 книг о нейромедиаторах - это так, для начала
Можно сразу хоть 15, в чём поинт? Если к тому, что кроме электричества есть ещё и биохимия, то там тоже никакой магии по типу "самости", "логичности" и т.п.
Что Вы, что второй собеседник, вот зачем вы оба наделяете неорганику свойствами которыми они не обладают?! Уже на Хабре была такая переводная статья, авторы перевода молодцы (!), что проделали огромный труд и минус не им, а минус самой статье - https://habr.com/ru/companies/redmadrobot/articles/930916/ Вот в ней все то же самое написано, что вы оба пытаетесь изложить
Ну потому что для меня эти различия не являются существенными. Не думаете же вы, что для меня неочевидно, что органический мозг, являющийся продуктом миллионов лет эволюции, устроен не так, как спроектированная нейросеть, предназначенная для работы на кремниевом чипе? Авторы статьи, на которую вы ссылаетесь, обсуждают, что ИИ должен обладать некими высокоуровневыми свойствами. Ну окей, должен, не спорю. Конкретно в этой ветке я спрашиваю, какой закон природы запрещает предсказателю токенов этими свойствами обладать. Не отсутствие же биохимии?
Если на то уж пошло, то термин токены используются только в LLM, в других, альтернативных решениях их просто нет, от слова - совсем. Нет предсказаний, нет логических ошибок, нет "подлизываний" и т.д. Я бы Вам посоветовал бы обратить внимание на работы Ребекки Сакс, как пример одной из многих: "Ребекка Сакс о том, как мозг делает этические суждения"
Я уже говорил и писал в комментах: LLM - не похож на мозг человека. LLM похожа на ганглии у насекомых
Спасибо, почитаю. Но это снова обсуждение высокоуровненовй организации. На базовом уровне у нас есть, например, тезис Чёрча-Тьюринга, и дальше можно систему усложнять бесконечно. Я не вижу теоретической проблемы в том, что на базовом уровне у компьютерного AI будут токены, а где-то на три этажа выше появятся этические суждения и вообще что угодно. И устроено будет это не так, как у нас.
Если на то уж пошло, то термин токены используются только в LLM, в других, альтернативных решениях их просто нет, от слова - совсем.
поэтому когда я говорю о процессах в мозге, я беру «токены» в кавычки.
какие-то единицы информации, которым оперирует мозг. когда мы пишем пост на хабре, «токены» похожи на токены llm, когда решаем геометрическую задачу, «токены» — это куски чертежей, углы («пусть вот этот угол α, тогда этот тоже α»), длины отрезков, etc.
я не знаю, какой для этого понятия общепринятый термин, и есть ли он вообще.
Я дал ссылки на книги, чтобы можно было говорить на равных. Не надо выдумывать новые термины для тех отраслей, где уже есть свои термины. Почему я стараюсь разбираться в когнитивистике, нейробиологии, философии и других отраслях, связанных с ИИ?! Пример того, что я уже неоднократно встречал на Хабре: нейрон в мозгу человека = "нейрону" в LLM. Отсюда сразу вывод у такого человека LLM = AI.
Мне кажется, что это весьма интересно подтверждается опытом из детства: когда узнаёшь новое слово, то начинаешь его применять часто и не к месту и слышать отовсюду :)
Вот я поддержу вашего собеседника.
И я его только что поддержал плюсом в карму и комментарий, и детальным ответом. А вас уже поддержал когда-то в другой раз. :)
Если что, я не ради спора per se, просто бывает любопытно обкатать какие-то мысли и идеи. Так что спасибо за участие.
Некорректно сравнивать то, что мы знаем про внутреннее устройство LLM с той картинкой, которую нам рисует мозг на верхем уровне. Разумеется, мы не воспринимаем своё мышление как предсказание токенов. Но мы и не воспринимаем его как обобщение сигналов с дендритов и передача дальше по аксонам (если не путаю). А оно ведь именно так "внизу" и устроено.
Выделил курсивом слова, отражающие важную структуру нашего мышления. Есть мы, и нам мозг (или что-то другое, в зависимости от занимаемой метафизической позиции) чего-то рисует. Есть "верхний" уровень - грубо говоря, уровень пользователя, субъекта. Есть "нижний", инфраструктурный уровень.
Тут такое дело - "верхний" уровень даётся нам непосредственно. Это совершенно реальный непосредственный опыт. Через него и только через него мы воспринимаем вообще всё - от сырых сенсорных квалитативных данных, до их интерпретаций в виде всяких объектов, до абстрактных сущностей типа пропозиций.
И именно в этом непосредственном опыте мы выбираем свои метафизические взгляды - даже такие, согласно которым этого непосредственного опыта вообще не существует. Я хочу остановиться чуть подробнее на вот этом взгляде.
Мне видится как минимум странным отрицать реальность непосредственного опыта, сообщающего нам, на секундочку, всю полезную информацию, включая свойства наблюдаемой Вселенной. Но есть люди, которые почему-то хотят делать именно это. Одна из таких парадигм - элиминативный физикализм.
Частый аргумент - непосредственный опыт, со всем его мышлением, всякими прочими квалиа типа цвета, звука, запаха, эмоций, удовольствия, боли и т.д. - всё это иллюзия. А раз это иллюзия, то никакой важности у непосредственного опыта нет, и его можно просто не учитывать в исследованиях таких феноменов, как мышление. Мы просто будем считать, что существует только вот этот "нижний" уровень. (О котором мы знаем исключительно с "высоты" уровня нашего "иллюзорного" опыта, но это я уже ворчу.)
Такой подход, несомненно, соблазнителен тем, что радикально упрощает картину мира. Как осуществляется сознательное управление субъективными содержаниями типа мыслей? А никак, потому что нет никакого сознания. Да и восприятия мыслей, согласно парадигме иллюзии, тоже нет. Остаётся только нижний уровень - с ним и будем сравнивать LLM.
Если топить за этот подход, то у меня вопрос - если субъектвный опыт это иллюзия, то чья это иллюзия? Если ничья, то и самой иллюзии нет. Если чья-то, то, внезапно, возвращается субъект с непосредственным опытом. Ход с иллюзией имеет тенденцию быстро разваливаться, если начинать к нему внимательно присматриваться.
Лично я не считаю непосредственный субъективный опыт иллюзией - даже когда в этом опыте имеются реальные иллюзии. :) Опыт иллюзии это реальный опыт, иллюзорность заключается в интерпретации сырого восприятия. Напр., восприятие преломления карандаша, наполовину погруженного в воду - это реальное восприятие при ложности напрашивающихся (скажем, по наивности или от отуствия знакоства с оптикой) мыслей о том, что карандаш объективно сломан.
И, ни разу не отрицая наличие вот этого "нижнего" инфраструктурного уровня, я также не готов отрицать наличие и важность "верхнего" уровня, где мы осуществляем (ну или, по крайней мере, пытаемся) осознанные мыслительные операции. Этот "верхний" уровень также как минимум частично является инфраструктурным для выводов, которые мы делаем, и решений, которые принимаем.
Никто не знает, где конкретно этот уровень находится. В среде философов, которые (часто вынужденно, ввиду "трудной проблемы сознания" и ей подобных) признают реальность субъективного опыта, общепринято считать, что сам этот опыт не локализован в физическом пространстве. При достаточном опыте интроспекции это можно сделать для себя очевидным.
Этот "верхний" уровень фундаментален для нас, как субъектов. Без него мы буквально не существуем. Он играет критическую роль во всём, что мы осознанно делаем. И в нём находится та часть нашего мышления, с помощью которой мы разработали науки, технологии и вот - LLM.
Психофизический парадокс ставит лучшие умы человечества в тупик т.к., с одной стороны, мы имеем механизм - тело, а с другой немеханистический (цветом, запахом, звуком, вкусом, эмоцией или мыслью тележку не толкнуть, грубо говоря) субъективный опыт с возможностью сознательных операций на нём - сущность явно радикально другого типа. Мы с самого начала поставлены реальностью перед фактом психофизического единства, которого, по механистическим парадигмам, не должно быть в принципе.
С LLM не так. Это изначально чистый механизм. Для результатов его работы не требуются ни сознание, ни квалитативный субъективный опыт. Требуется физический конвейер в виде вычислительной техники и программный конвейер в виде так называемых "нейросетей" - там мало что похожего даже на физический мозг. И много-много-много данных для калибровки программного конвейера под достаточно успешную - для нашего субъективного восприятия - генерацию такого текста, который мы привыкли получать от себе подобных.
LLM это очень крутая технология. Вне сомнений. При всех (текущих) недостатках. Но откуда там взяться реальности субъективных опыта и мышления, присущих человеку?
LLM физически и программно это целиком и полностью "нижний" уровень. Причём, очень не похожий на биологический мозг по сумме принципов работы.
Т.е., даже если мы предположим, что наша субъективная реальность возникает вследствие работы мозга, напр., путём эмерджентности (о которой никто не знает, как она работает, т.к. никто не знает, как привести тип "механизм" к типу "не-механизм"), то различия между мозгом и LLM слишком сильны, чтобы априори предполагать появление у этого механизма "верхнего" уровня - квалитативного сознания.
Заканчивая эту простыню текста (простите), скажу, что - имхо - это тот случай, когда бремя доказательства на том, кто утверждает наличие, а не отсутствие. С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact. А утверждать, что у LLM мышление прямо похожее на человеческое - т.е., включая субъективные квалитативные мыслительные операции - это как при наличии очень натуралистичного шагающего манекена (напр., производного от Atlas) утверждать, что там есть устройство скелета и мыщц, как у человека, ну и всё остальное, включая мозг и сознание. Схожесть внешних признаков совершенно не подразумевает схожесть начинки. В случае с LLM эти внешние признаки - текст. И этого очень мало, чтобы делать далеко идущие выводы.
Ну а если не предполагать у LLM психофизическое единство между квалитативным опытом и программно-железячной механистической инфраструктуры - то там и нет мышления в том виде, как мы его знаем непосредственно.
Вам спасибо.
Мне видится как минимум странным отрицать реальность непосредственного опыта, сообщающего нам, на секундочку, всю полезную информацию, включая свойства наблюдаемой Вселенной.
Смотрите, тут вопрос в том, что такое реальность и зачем нам нужен непосредственный опыт. Эволюционно органы чувств дают нам ту картину, которая способствует выживанию. Здесь нет оптимизации по объективности. Логично предположить, что неверная информация вряд ли помогает выжить, но есть детали. Как вы упоминаете, у молекул нет цвета, но мы его видим, значит, цвет нам как-то полезен. Известно, что мы склонны видеть паттерны даже там, где их нет (парейдолия), потому что лучше увидеть несуществующего тигра, чем не увидеть существующего. Наши органы чувств имеют отдельный механизм для распознавания лиц, и если он плохо работает, это прозопагнозия, т.е. обычного механизма распознавания оказыавается недостаточно.
Если ничья, то и самой иллюзии нет. Если чья-то, то, внезапно, возвращается субъект с непосредственным опытом
Не, ну это немного "начали за здравие". Ваш аргумент если вкратце, сводится к следующему. Мы вроде как знаем, что мозг "на нижнем уровне" устроен на механистических принципах, но поскольку я сам себя осознаю как личность со всеми вытекающими, значит, где-то между нейронами и пальцами, которые набирают это текст, возникает какая-то "магия", а иначе невозможно объяснить, как из нейронов получается личность.
С другой стороны, поскольку мы сами разработали LLM, мы заведомо знаем, что никакой "магии" там нет, и значит, личности там взяться вроде бы как и неоткуда.
Мыслить в терминах целеполагающих агентов удобно и полезно, но это тоже отчасти наша особенность. Если вы играете против компьютера в шахматы, то исходите из того, что ваш оппонент "хочет" и "пытается" у вас выиграть, и в данном контексте неважно, на каких принципах он устроен. Да, некая часть нашей системы принятия решений работает так, что наш агент воспринимает себя как личность. Вопрос "чья это иллюзия" немного казуистический. Это иллюзия агента, но если угодно, это и вправду "не иллюзия" в том смысле, что драконы или боги реально существуют, потому что без идеи о богах или драконах люди поступали бы иначе.
Когда я думаю об этих вещах, то сравниваю себя не с LLM, потому что и вправду дистанция велика. Я думаю о том, что наш мозг является продуктом длинной цепочки эволюции, и мы вполне можем ориентироваться на наших биологических родственников -- вплоть до червей. У червя вряд ли есть личность, но он тоже умеет принимать решения, делать полезное для себя и не делать вредного. Двигаясь от червей к нам, мы видим всё более продвинутые системы принятия решения, и сложно сказать, на каком этаже возникает личность. Более того, даже сложно сказать, как восприятие собственной личности отличается от человека к человеку и, скажем, от людей с когнитивными расстройствами и тому подобное.
Получается, что нет такого -- лампочку включили, и вот, на каком-то этаже от нейронов загорелость сознание. Получается, что есть целый непрерывный ряд "сумеречных" сознаний, и для простейших из них (типа червей) мы уже заведомо можем исключить "магию", дальше можем разумно предположить, что в этой непрерывной эволюционной цепочке идёт усложнение и развитие, но не какой-то волшебный триггер, добавляющий нечто принципиально новое.
Смотрите, тут вопрос в том, что такое реальность и зачем нам нужен непосредственный опыт.
Погружаемся дальше в метафизику. У меня есть что сказать на тему реальности, но пока дефицит времени, завален работой. Сформулировать подробный ответ занимает часы.
Как разгружусь, попробую этим заняться.
P.S. Сегодня обсудил эту тему с начальником - пожилым немецким профессором, академическим селебрити в районе 2000-х на стыке математики и информатики, основавшим стартап-единорог уровня рокет-сайенс. Он кууууда лучше меня понимает устройство LLM и полностью согласился с тем, что работа LLM никак не похожа на человеческое мышление. А он никогда не соглашается ради того, чтобы польстить. Добавлю, что на работе мы постоянно используем LLM буквально на границе их возможностей - и на этих границах, когда LLM начинает безбожно косячить, отчётливо видно, что человек в этой ситуации принимал бы решения совершенно иначе.
P.P.S. Это не апелляция к авторитету - я сам не признаю авторитеты по важным для моего понимания темам. Просто была возможность, и не удержался от соблазна получить дополнительный фидбек.
Хорошо :)
Ну тут незачем пинать соломенное чучело -- понятно, что мышление LLM (и вообще текущих нейросетей) устроено иначе. Простой пример -- в системах распознавания образов ещё недавно (не знаю, как сейчас) можно было поменять буквально один пиксель, и для неё велосипед превращался в крокодила или как-то так, потому что метрика близости устроена не так.
Вопрос в том, что мешает этой иной технологии тоже со временем достичь каких-то высот, если не прибегать к "биологическому шовинизму". LLM в программировании дико косячит по сравнению со мной. Но не так уж и косячит по сравнению со средним студентом, например. То есть сравнивая "с человеком", всё же надо решить для себя с каким конкретно человеком мы сравниваем.
Ну и чтобы два раза не вставать, вы упоминали где-то выше, что человек гораздо быстрее учится. И это действительно аргумент, но надо учесть, что нам достался уже pre-trained мозг, в котором (видимо) очень многое заложено от рождения. А добавить в натренированную нейросеть новый концепт гораздо проще, чем обучать с нуля.
Помню про реальность, занимает время сформулировать.
Вопрос в том, что мешает этой иной технологии тоже со временем достичь каких-то высот, если не прибегать к "биологическому шовинизму".
Тут и там ходят полуневнятные слухи о том, что мы, быть может, достигли некоторого плато в развитии LLM, и что это плато может оказаться потолком.
Не берусь ничего предсказывать. Но концептуально - не готов отрицать возможности достаточно хорошей внешней имитации мышления. Такой, что человек в принципе не сможет распознать, что процессы "под капотом" с человеческим мышлением имеют мало общего.
Где-то на стыке философии сознания и когнитивных наук находится очень интересный вопрос: играет ли специфика той части мыслительных процессов человека, которые находятся в чисто субъективной области (квалитативное восприятие), фундаментальную роль в таком успехе человеческого мышления, который будет невозможно повторить чисто механистически. И я не знаю ответа на этот вопрос.
Ну и чтобы два раза не вставать, вы упоминали где-то выше, что человек гораздо быстрее учится. И это действительно аргумент, но надо учесть, что нам достался уже pre-trained мозг, в котором (видимо) очень многое заложено от рождения. А добавить в натренированную нейросеть новый концепт гораздо проще, чем обучать с нуля.
Если не изменяет память, я также говорил там о том, что чтобы освоить речь и достаточно универсальное мышление, человеку не нужно становиться ходячей энциклопедией всей информации человечества. А LLM нужно.
Тут и там ходят полуневнятные слухи о том, что мы, быть может, достигли некоторого плато в развитии LLM, и что это плато может оказаться потолком.
Да давйте просто признаем, что мы биологические шовинисты. Допустим, это потолок, и что? Нынешние LLM по любому когнитивному тесту превзойдут, скажем, ребёнка двух лет. Но если некто убьёт ребёнка двух лет, его посадят как за убийство человека. Допустим, можно сказать, что у ребёнка есть шанс вырасти, но если некто убьёт умственно отсталого, у которого нет шанса вырасти, его всё равно посадят как за убийство человека.
играет ли специфика той части мыслительных процессов человека, которые находятся в чисто субъективной области (квалитативное восприятие), фундаментальную роль
Я знаю, что у вас оно есть только потому, что вы это утверждаете. Если вы спросите LLM, есть ли у неё квалитативное мышление, она тоже скажет, что есть (окей, предположим, она обучена говорить, что есть). Соответственно, если мы не биологические шовинисты (см. выше), с чего бы нам считать, что у LLM его нет?
Если не изменяет память, я также говорил там о том, что чтобы освоить речь и достаточно универсальное мышление, человеку не нужно становиться ходячей энциклопедией всей информации человечества.
Ну, на это можно ответить двумя способами. 1) Нужно, и что? Да, это другой тип интеллекта, ему нужно. Зато он в чём-то другом сильнее. 2) Не нужно. Просто у нас уже очень многое загружено от рождения (напр., способность обучаться языку или распознавать лица), а в LLM изначально ничего не загружено. В теории можно (наверно) попробовать и в LLM загрузить то, что есть у нас от рождения, и посмотреть, сколько ещё надо загрузить для полноценного мышления, но это сложно, и не особо кому надо.
Да давйте просто признаем, что мы биологические шовинисты. Допустим, это потолок, и что? Нынешние LLM по любому когнитивному тесту превзойдут, скажем, ребёнка двух лет. Но если некто убьёт ребёнка двух лет, его посадят как за убийство человека. Допустим, можно сказать, что у ребёнка есть шанс вырасти, но если некто убьёт умственно отсталого, у которого нет шанса вырасти, его всё равно посадят как за убийство человека.
Не понимаю, что вы этим хотите сказать.
В нормальных странах насилие над животным тоже уголовно наказуемо. И, имхо, даже там недостаточно.
Способность страдать и хотеть жить не находится в прямой зависимости от интеллекта. Невыносимая физическая боль будет невыносимой как для пожилого человека с деменцией, так и для молодого гения.
Я знаю, что у вас оно есть только потому, что вы это утверждаете. Если вы спросите LLM, есть ли у неё квалитативное мышление, она тоже скажет, что есть (окей, предположим, она обучена говорить, что есть). Соответственно, если мы не биологические шовинисты (см. выше), с чего бы нам считать, что у LLM его нет?
Не очень понимаю, почему этот вопрос направлен в мою сторону. Считайте, что у меня сознания нет, а у LLM есть. Так будет лучше?
Лично я не вижу причин приписывать наличие субъективного пространства, скажем, абаку. И механическому калькулятору. И электронному калькулятору. И CPU. И GPU. И т.д. По одной и той же причине - "мельница Лейбница". Не хочу вводить магию без ясного мне основания. Наличие сознания у меня не видится мне, как достаточное, чтобы приписывать сознание чему угодно, что производит несколько похожее внешнее поведение - при точном знании, что начинка это 100% механизм. Насчёт того же мозга лично у меня нет 100%-й уверенности, что это 100% механизм. Но даже если бы и была - надо множить магию? А где пролегает граница? С чего бы считать, что сознания нет у калькулятора? Да что там - у абака? Ну давайте примем панпсихизм и скажем, что сознание есть вообще у всего чего угодно.
Я знаю, что у вас оно есть только потому, что вы это утверждаете.
Поскольку я реально сталкивался с людьми, искренне (по всем внешним характеристикам) утверждающими, что у них сознания (и, вообще, никакого субъективного восприятия) нет - вопрос к вам, чисто на всякий случай: есть ли у вас самого такое восприятие? И как вы об этом знаете?
P.S. Как говорится, "хорошая мысля приходит опосля". :)
Вот эволюция - создала наш мозг, который создал LLM. Есть субъективное восприятие у эволюции? И если нет, то почему?
А Вселенная - породила эволюцию, которая создала наш мозг, который создал LLM. Есть субъективное восприятие у Вселенной? И если нет, то почему?
Не понимаю, что вы этим хотите сказать. В нормальных странах насилие над животным тоже уголовно наказуемо. И, имхо, даже там недостаточно.
Хорошо. Я просто хочу сказать, что даже если LLM уже достигли потолка, это уже достаточно высокий потолок, чтобы обсуждать вопросы сознания.
причине - "мельница Лейбница". Не хочу вводить магию без ясного мне основания. Наличие сознания у меня не видится мне, как достаточное
Ну вы же себе приписываете исключительно на основании интроспекции.
Насчёт того же мозга лично у меня нет 100%-й уверенности, что это 100% механизм.
Но почему? Ведь между нами и каким-нибудь C. elegans, который плюс-минус отлично симулируется на компьютере, лежит непрерывная цепочка усложнений нервной системы, и будет крайне оригинально предположить, что где-то посередине туда воткнули некий magic ingredient, который берётся неизвестно откуда.
Соответственно, зачем опираться на "знание, что внизу 100% механика"? Конечно, механика, по тезису Чёрча-Тьюринга весь наш мир со всеми происходящими процессами -- механика. Я понимаю нежелание плодить сущности, но конкретно это сображение в принципе не аргумент. С тем же успехом можно говорить "там нет интеллекта, потому что у него шесть лап, а не четыре".
нет - вопрос к вам, чисто на всякий случай: есть ли у вас самого такое восприятие? И как вы об этом знаете?
Я думаю, это спор о терминах. Есть "я", телесный агент, ограниченный в пространстве, и отделяемый от других агентов. У этого агента есть система принятия решений, помогающая ему выживать и достигать целей. Частью этой системы и является подсистема "субъективного восприятия", чья прямая работа -- создание виртуального мира в голове и виртуального аватара, соответствующего телесному агенту. Это очень выгодная система, потому что она может проигрывать разные сценарии с участием аватара и моделировать результаты.
В таком определении, конечно, у меня есть субъективное восприятие, но я не вижу в нём никакой особой магии.
Моё мнение, что если страна выберет второй путь, то тогда как минимум не исключена вероятность того, что в ней будут расти целые поколения садистов
Ну вот в одной богоспасаемой стране могут посадить за "аниме-проно с несовершеннолетними", хотя никакой реальный несовершеннолетний при этом не страдает. Это вполне показательно, похоже, что логика "это всего лишь симулятор" никого не убеждает. Так же как и условные кровавые шутеры, которым присваивают возрастные рейтинги, а кое-где и запрещают (в Германии Carmageddon с зелёной кровью вроде).
Есть «я», телесный агент, ограниченный в пространстве
Не, «вы» — это нейрокод, исполняемый на железе модели «Homo Sapiens v.31981» серии «Примат».
Но почему? Ведь между нами и каким-нибудь C. elegans, который плюс-минус отлично симулируется на компьютере, лежит непрерывная цепочка усложнений нервной системы, и будет крайне оригинально предположить, что где-то посередине туда воткнули некий magic ingredient, который берётся неизвестно откуда.
Это вы предположили, что C. elegans не имеет персональной субъективности - я этого не предполагал. И по умолчанию буду считать, что она там есть. А у цифровой симуляции - нет.
Теперь назовите меня биологическим шовинистом. Пока что это наиболее (имхо) сильный аргумент, который я слышал в пользу приписывания субъективного механизму. Но он не технический, а этический. И очень удобный: забираешься на такой moral high ground - и сразу в белом плаще, а кто не согласен, если не злодеи, то как минимум нехорошие люди.
Но я попробую вернуть вам этот мяч. В принципе выше уже попробовал, но ответа то ли не было, то ли не смог найти.
(1) Насколько этически оправдано пускать себе в квартиру жить кого угодно, не имея ни малейшего представления о его психическом состоянии, идеологии и намерениях? Варианты - от нормального человека до вора до насильника и убийцы или радикального исламиста, по идеологии которого неверных нужно убивать, можно пытать и убивать их детей, а женщин предварительно насиловать, чтобы случайно не попали в рай. Насколько этичен такой - несомненно, прекраснодушный, но неразборчивый - подход отношению к своей собственной семье?
(2) Рассмотрим такую логику: если нечто производит результаты, которые - если отвлечься от многочисленных отличий - похожи на результаты интеллектуальной деятельности носителей субъективности, то будем приписывать этому нечто наличие субъективности. Потому что в противном случае это "биологический шовинизм", а мы хотим иметь moral high ground и быть в белом пальто.
Согласно этой логике, эволюция и за ней транзитивно вся Вселенная - им тоже нужно приписывать субъективность, т.к. они, в конечном счёте, произвели похожие - если отвлечься от отличий - на интеллектуальную деятельность результаты. В противном случае это будут двойные стандарты и тоже разновидность шовинизма.
А что насчёт абака и механического калькулятора?
Соответственно, зачем опираться на "знание, что внизу 100% механика"?
Это больше, чем "опираться". Начнём с простого. Откуда мы знаем, что у абака нет субъективного сознания? На деле-то мы не знаем - может, там тоже какая-то магия, и абак испытывает унижение и моральные страдания, когда мы его используем. Но мы точно знаем, как работает абак. Как его устройство производит результат, совершенно без необходимости привлечения сознания. Механический калькулятор существенно сложнее, но принцип тот же. Электронный калькулятор устроен иначе, но принцип тот же. Теперь делаем индуктивный переход: тот же самый принцип применим к LLM. Мы точно знаем, что для производства вот этих результатов, напоминающих разным людям внешние признаки человеческой интеллектуальной деятельности, достаточно именно этой механистической структуры, без привлечения сознания. В этом случае мы не просто "опираемся" - мы совершенно точно знаем, что наблюдаемые нами результаты это полностью функция механизма.
Да, наличие субъективного сознания извне не проверяемо. Теоретически возможно, что есть некий не известный нам закон природы, по которому если внешние результаты превышают некий порог того, что нам кажется похожим на мыслительную деятельность - то к этому довеском прицепляется субъективное сознание. Независимо от физической природы носителя, будь он хоть биологический, хоть деревянный, хоть программный.
Тогда почему вообще всему - на всякий случай, чтобы не упасть с морального холмика и не запачкать пальто шовинизмом - не приписать сознание? И первым делом после этого запретить, скажем, выбрасывать мусор, т.к. это может вызвать у него моральные страдания.
Конечно, механика, по тезису Чёрча-Тьюринга весь наш мир со всеми происходящими процессами -- механика.
(1) Я что-то пропустил, и этот тезис уже доказанная теорема?
(2) Всё-таки это, грубо говоря, тезис о том, что всё алгоритмически вычислимое вычислимо на машине Тьюринга. Даже если это истина, то отсюда очень далеко до суждения "всё существующее есть эквивалент машины Тьюринга".
(3) Наконец, если всё есть вычислительный механизм, то и составные детали такого механизма - тоже аналоги вычислительной машины. И их детали, и детали их деталей и т.д. до бесконечности.
В таком определении, конечно, у меня есть субъективное восприятие, но я не вижу в нём никакой особой магии.
Я получил ответ на первую часть вопроса - "есть ли у вас самого такое восприятие". И ответ "да", но с большой оговоркой, которую мне трудно интерпретировать иначе, чем попытку нивелировать это "да", чтобы оно далее логически ни к чему не обязывало.
На вторую - не менее существенную - часть вопроса "как вы об этом знаете" ответа не было. Потому что не получается обойти непосредственное восприятие, через которое мы получаем любое знание? :)
Ладно, если не прозвучит ничего неожиданного, тема кажется для меня исчерпанной. Спасибо за участие!
Я обещал высказаться о реальности, и сейчас это обещание исполню. Заранее прошу прощения, я составлял текст для себя самого, как заготовку для дальнейшей теоретической разработки. Давно перевариваю это, но работа пошла с вашей подачи, так что ещё раз спасибо!
Всё, что выглядит там, как аксиома, имеет те или иные основания, но вписывать туда их это отдельная работа, которая пока мне не интересна. Да и вам, вполне вероятно, всё это крайне малоинтересно. Привожу текст, т.к. обещал - не обижусь, если не будете читать.
Реальность.
В философском дискурсе различаются два метафизических полярности: ментальное vs физическое и абстрактное vs конкретное.
Ментальное обычно понимается, как конкретное. Физическое тоже. Но в деталях не всё так просто.
Конкретные объекты ментального – это объекты внимания, само внимание и субъективное пространство в целом, на философском жаргоне называемое умом (mind).
Конкретные объекты физического – объекты внешнего мира, которые можно исследовать или вступать с ними в отношения через объекты внимания.
Абстрактные объекты характеризуются идентичностью вне пространства и времени.
Абстрактные объекты ментального – квалиа, от сенсорных до когнитивных.
Абстрактные объекты физического – те, которыми в эмпирических науках описывают и характеризуют объекты внешнего мира.
Каждое состояние конкретного физического или ментального объекта есть экземпляр абстрактного объекта.
Фундаментальное отличие конкретного объекта от абстрактного – такая темпоральная континуальность, при которой меняется состояние объекта при сохранении его идентичности. Абстрактные объекты не меняются.
Тем не менее, каждое изменение это экземпляр абстрактной формы этого изменения.
Можно сказать, что вся конкретная реальность это динамика состояния при сохранении идентичности.
Идентичность сохраняется через локализацию абстрактных форм (свойств) в едином пространстве. Для физических объектов – это пространство внешнего мира. Для субъектов – их ум (mind), субъективное пространство восприятия, в котором объединяются абстрактные квалиа.
Т.о., различимы три типа реальности: абстрактная, и две конкретных – физическая и ментальная. Назовём их, соответственно, А-реальность, Ф-реальность и М-реальность.
Один и тот же объект А-реальности может проявляться в разных объектах Ф,М-реальностей.
Объекты Ф-реальности становятся известными, проявляясь (получая репрезентацию) в объектах М-реальности. Репрезентация объектов Ф-реальности в текущей М-реальности никогда не представляет Ф-объект целиком. Текущие М-объекты, в которых даётся репрезентация Ф-объекта, буду называть М-ракурсом Ф-объекта или МФ-ракурсом.
Объекты М-реальности становятся известными, появляясь непосредственно в М-реальности. У них нет ракурса, они присутствуют в М-реальности полностью.
В человеческой М-реальности есть явление квантификации.
Квантификация это установление референции к одному, некоторым или всем абстрактным объектам некоторого класса. Эти абстрактные объекты могут представлять объекты всех трёх типов реальности.
В логике эти три вида квантификации обозначаются, соответственно, кванторами идентичности
, существования
(традиционный, но не очень удачный термин) и всеобщности
.
Общая (классификация), частная (выбор) или уникальная идентичность М,Ф-объектов в контексте некоторой задачи описывается через их квантификацию с предикацией существенных (для задачи) свойств, локализованных в искомом пространстве и времени.
Идентичность А-объектов описывается через их квантификацию с предикацией без спецификации времени и пространства.
Х-объект редуцируется к У-объекту (Х,У
{А, М, Ф}) в контексте некоторой задачи, если возможна замена квантификации Х-объекта на квантификацию У-объекта без потери смысла, существенного для решения задачи.
Вопрос аутентичности (несводимости) типа реальности сводится к вопросу о возможности редукции всех объектов этого типа к объектам другого для всех возможных контекстов. Если такой возможности нет, то реальность аутентична.
Это вы предположили, что C. elegans не имеет персональной субъективности - я этого не предполагал. И по умолчанию буду считать, что она там есть. А у цифровой симуляции - нет.
Смотрите, это, безусловно, имеющая право на жизнь точка зрения, но она автоматически выводит нас за пределы научного. Очень трудно в рамках современной научной картины мира поводить хоть какие-то различия между настоящим червём и его симуляцией на компьютере. Ну понятно, что первый живёт в не-виртуальном мире, ест "настоящую" еду и всё такое, но всё равно подразумевается точный "маппинг" червей, и настоящая еда превращается в виртуальную, но так, чтобы нечто настоящее просто исчезало как явление -- ну, это уже другая картина мира вообще.
Но он не технический, а этический. И очень удобный: забираешься на такой moral high ground - и сразу в белом плаще,
Это не этический аргумент, это всего лишь intuition pump, призванный показать, что как раз попытка отказать механизму в субъектности штука сугумо иррациональная и эмоциональная.
Бог с ней с квартирой и с теми, кого мы в неё пускаем. Большинство из нас готовы согласиться с тем, что у людей и даже у животных (как вы пишете) есть право не быть убитыми, например, особенно просто "по фану". И вот у вас есть механизм, который с точки зрения внешнего наблюдателя ведёт себя неотличимо от животного, например. И не просится в вашу квартиру -- жужжит себе в уголке, никого не трогает.
Далее вы говорите, мол, я по умолчанию считаю, что у механизма нет субъектности и он не страдает, а животное страдает. При этом вы можете что-то сказать про себя, гораздо меньше про других, и совсем мало про какую-нибудь лягушку, которая разве что пытается убегать и квакать, когда чувствует опасность (ну и робот тоже это умеет).
Тем не менее, имея в голове исключительно эту теорию, вы готовы сказать: ну вот да, я так вижу, и вероятность того, что вы заблуждаетесь, не мешает вам решить, что ничего страшного нет в том, чтобы отключить механизм. То есть обычно сомнение трактуется в пользу обвиняемого, если угодно, потому что на кону его жизнь, а тут наоборот.
Теперь про белое пальто. Моя задача не обвинять в шовинизме, а согласиться с тем, что мы биологические шовинисты и есть, и я тоже не исключение. Такова нормальная мораль нашего времени, и несправедливо ожидать от человека каких-то недосягаемых высот. Но достаточно хороших научных и даже этических аргументов в пользу этой точки зрения нет. Есть только эмоции.
(1) Я что-то пропустил, и этот тезис уже доказанная теорема?
Вот с моей точки зрения да, потому что в данном контексте "тезис Чёрча-Тьюринга" используется в контексте "закона природы", а не "математической теоремы". У нас в принципе нет доказанных законов природы, потому что даже принцип всемирного тяготения "доказывается" ровно так же, как на практике "доказывается" отсутствие багов в программе, а именно, прогонкой тестов, опытами. Но опыты не могут ничего доказать на 100%, максимум, они свидетельствуют о том, что теория правдоподобна. Если воспринимать тезис Ч-Т именно в таком контексте, я думаю, считать его верным ничуть не менее оправдано, чем любую квантовую механику.
Даже если это истина, то отсюда очень далеко до суждения "всё существующее есть эквивалент машины Тьюринга".
Это так называемая "сильная версия тезиса Чёрча-Тьюринга". Далеко, но не так далеко.
(3) Наконец, если всё есть вычислительный механизм, то и составные детали такого механизма - тоже аналоги вычислительной машины.
Нет, это технически неверно. Машина Тьюринга -- самый сильный вычислительный аппарат, строго сильнее (с точки зрения теории вычислений) чем, например, конечный автомат (FSM) или автомат с магазинной памятью (pushdown automaton). Так что никакой бесконечности нет -- есть минимальный юнит, который обеспечивает "какие-то" вычисления, и есть иерархия вычислителей, которая останавливается на машине Тьюринга. Машина отдельно, кирпичи отдельно.
Ну или, иначе говоря, тезис Ч-Т говорит, что машины Тьюринга "достаточно" для всего, но вовсе не "необходимо" для массы вещей.
"как вы об этом знаете" ответа не было. Потому что не получается обойти непосредственное восприятие, через которое мы получаем любое знание?
Я считаю этот вопрос плохо сформулированным. В таких терминах надо решать, что такое "я" и что такое "знаю". Это избыточно и отвлекает. Посмотрите на проблему свежим взглядом.
Есть "я" в том смысле, что есть физический объект, который не вы, не котик Вася, не табуретка и так далее, а вот ограниченный в пространстве юнит. У этого юнита есть система принятия решений. Часть этой системы отвечает за симуляцию "what-if" сценариев. Бессмысленно спрашивать "откуда она это знает". Она этого не "знает", она это "производит" -- генерация симуляции внешнего мира, в которой принимается решение -- это непосредственная работа этой системы.
Привожу текст, т.к. обещал - не обижусь, если не будете читать.
Не, на самом деле интересно, но для дискуссии действительно много :)
Смотрите, это, безусловно, имеющая право на жизнь точка зрения, но она автоматически выводит нас за пределы научного.
По сей день любой фундаментальный дискурс о субъективности автоматически выводит нас за пределы научного в философию. См. "трудная проблема сознания", где термин "трудная" иронично подразумевает "принципиально нерешаемая". А "проблема" относится к продолжающемуся фиаско проекта адептов физикализма по редукции квалитативной субъективности к физическому.
Я, в принципе, считаю методологической ошибкой принимать на веру (а это именно вера) фундаментальность физического и, соответственно, физики как дисциплины, изучающей физическое.
Эмпирические метод и индукция накладывают серьёзные ограничения на способы познания. Эти ограничения необходимы для эффективного исследования контингентно-интерсубъективного, но они совершенно не подходят для исследования абстрактного (математика, логика и некоторые разделы философии типа аналитической), и квалитативной структуры ментального.
Люди стремятся всё упрощать + имеют тенденцию эмоционально привязываться к предмету своего интереса и становиться его "адептами". И так целые аксиоматики неявно принимаются на веру, укрепляются и преварщаются в незыблемые догмы. Физикализм, имхо, это прекрасная иллюстрация того, как физика захватывает умы, теряя в них объективно присущие ей пропорции.
Мой персональный интерес лежит в области метафизики per se - мне интересно выявить ту структуру реальности, в которой brute fact моей непосредственной квалитативной реальности не заметается под ковёр. Я уже очень давно - после лет десяти "заигрываний" с физикализмом, потом с дуализмом - пришёл к выводу, что структура реальности, в которой нет места субъективному, фундаментально некорректна.
Я очень уважаю реальную работу в сторону максимальной консолидации между физическим и ментальным - имхо, там есть огромный научный и технологический потенциал. Но с моей колокольни любые результаты в этой области будут опираться на ту или иную разновидность картирования - эмпирически выявляемой ассоциации между активностью мозга и квалитативным опытом. Без возможности выявить актуальный механизм связи между ними.
И персонально я не хочу делать эту работу - в мире достаточно много блестящих умов, заинтересованных заниматься именно таким направлением исследований. Искренне желаю им максимального успеха.
Цели, которые преследую я, не загоняют меня в прокрустово ложе ограничений эмпирического метода. Это не значит бессистемность - те же математики прекрасно обходятся без него, и без плодов их работы крайне трудно представить себе эффективную физику.
Основа моей эпистемологии, если максимально просто: (1) непосредственный опыт без интерпретации - истина; (2) логическая дедукция из истины - истина; (3) всё, что соответствует форме, необходимо подчиняется законам этой формы.
Да, это за пределами интерсубъективной эмпирической науки типа физики. Так я туда особо и не суюсь...
Бог с ней с квартирой и с теми, кого мы в неё пускаем.
Прошу прощения, надо было развернуть метафору.
Декларация у механизма квалитативного сознания - т.е., по сути, добавления к "интеллекту" способности страдать - равнозначна приглашению этого механизма себе домой - в человеческую среду - на равных правах.
Последствия такого хода могут быть фатальными для человечества. Так что лично я бы рекомендовал попридержать этих коней как минимум до момента, когда (и если) можно будет точно знать, что эта имитация разума не обернётся против своих создателей.
Тем не менее, имея в голове исключительно эту теорию, вы готовы сказать: ну вот да, я так вижу, и вероятность того, что вы заблуждаетесь, не мешает вам решить, что ничего страшного нет в том, чтобы отключить механизм. То есть обычно сомнение трактуется в пользу обвиняемого, если угодно, потому что на кону его жизнь, а тут наоборот.
Тут мне придётся повториться:
(1) Рассмотрим такую логику: если нечто производит результаты, которые - если отвлечься от многочисленных отличий - похожи на результаты интеллектуальной деятельности носителей субъективности, то будем приписывать этому нечто наличие субъективности. Потому что в противном случае это "биологический шовинизм", а мы хотим иметь moral high ground и быть в белом пальто.
Согласно этой логике, эволюция и за ней транзитивно вся Вселенная - им тоже нужно приписывать субъективность, т.к. они, в конечном счёте, произвели похожие - если отвлечься от отличий - на интеллектуальную деятельность результаты. В противном случае это будут двойные стандарты и тоже разновидность шовинизма.
А что насчёт абака и механического калькулятора?
(2) Начнём с простого. Откуда мы знаем, что у абака нет субъективного сознания? На деле-то мы не знаем - может, там тоже какая-то магия, и абак испытывает унижение и моральные страдания, когда мы его используем. Но мы точно знаем, как работает абак. Как его устройство производит результат, совершенно без необходимости привлечения сознания. Механический калькулятор существенно сложнее, но принцип тот же. Электронный калькулятор устроен иначе, но принцип тот же. Теперь делаем индуктивный переход: тот же самый принцип применим к LLM. Мы точно знаем, что для производства вот этих результатов, напоминающих разным людям внешние признаки человеческой интеллектуальной деятельности, достаточно именно этой механистической структуры, без привлечения сознания. В этом случае мы не просто "опираемся" - мы совершенно точно знаем, что наблюдаемые нами результаты это полностью функция механизма.
Да, наличие субъективного сознания извне не проверяемо. Теоретически возможно, что есть некий не известный нам закон природы, по которому если внешние результаты превышают некий порог того, что нам кажется похожим на мыслительную деятельность - то к этому довеском прицепляется субъективное сознание.
Тогда почему вообще всему - на всякий случай - не приписать наличие сознания? Вашими словами: интерпретировать сомнение в пользу обвиняемого.
Пока что применительно к механизму нет ни жизни, ни обвиняемого.
Вы говорите, что дело не в этике, а в чём ещё, если пока у механизмов нет легального статуса, эквивалентного человеческому?
Но достаточно хороших научных и даже этических аргументов в пользу этой точки зрения нет. Есть только эмоции.
Эмоции идут как раз от людей, которые, не понимая принципы работы LLM, искренне "чуят" там что-то очень человеческое. Знаю одного неглупого человека, но по профессии ювелира-моделиста, крайне далёкого от компьютерных наук. Дав ему, в своё время, пообщаться с ещё ChatGPT 3.5, я был изумлён тому, какое сильное на него это произвело впечатление. Я пытался ему объяснить, как это, в принципе, работает, но всё разбивалось о стену: "мало ли как там оно устроено - с моей колокольни эта штука выглядит умнее большинства людей на улице". А какой вопль поднялся, когда с введением GPT 5 люди, блин, потеряли своих эмоциональных компаньонов...
Мой этический аргумент таков: человечество и так достаточно суицидально. Надеюсь, недостаточно, чтобы себя прикончить. Но вот легитимация механизма как равного человеку имеет потенциал контрольного выстрела человечества себе в голову. И я считаю, что идти на этот шаг без понятных гарантий безопасности - крайне неэтично по отношению к людям. А как у экземпляра человека, моя этическая обязанность в этом контексте доминирует над этической обязанностью к гипотетическому сознанию у механизмов (от абака до калькулятора до LLM) или любых других явлений природы.
Машина отдельно, кирпичи отдельно.
Давайте проще. Вы утверждали, что всё механизм. Всё - квантор всеобщности. Если всё механизм, то и каждая деталь механизма - механизм и т.д. до бесконечности. Чтобы не было бесконечности нужно что-то "атомарное", заканчивающее регрессию. Что такое атомарный механизм?
В таких терминах надо решать, что такое "я" и что такое "знаю". Это избыточно и отвлекает.
Для вас избыточно и отвлекает - для меня принципиальные вопросы. Дело приоритетов...
Посмотрите на проблему свежим взглядом.
Хех, откатиться лет на 15-20 назад? Простите пожалуйста, но времени слишком мало, лени слишком много - тут бы между работой и ленью успеть выделить время на что-то серьёзное, что мне действительно интересно, и где есть позитивные результаты, требующие дальнейшей проработки. Я бы мог вернуть это предложение вам, но смысл? Люди разные, имеют разные интересы, и каждый способен приносить пользу (хотя бы себе, не обязательно всему человечеству) по-своему.
Дискуссии, подобные нашей, имеют свою пользу в смысле репрезентации разных точек зрения и потенциального очищения и обогащения уже имеющегося понимания. Лично я давным-давно потерял желание кого-то в чём-то убедить. В конце концов я занимаюсь философией, а не религией. Да и религии не все миссионерские.
А "проблема" относится к продолжающемуся фиаско проекта адептов физикализма по редукции квалитативной субъективности к физическому.
С моей точки зрения никакой проблемы нет. Вся "проблема" философов (при всём уважении) в том, что они плохо разбираются в компьютерной науке.
Да, безусловно, сложно свести поведение живого огранизма к движению молекул. Но "магия" тут вовсе не в живости организма, а в технических трудностях процесса. Если вы попробуете понять, каким образом из движения электронов в на кристалле получается Microsoft Word, тоже ничего не получится. Хотя мы знаем, что это ровно так.
По крайней мере, я не думаю, что хоть кто-то реалистично может утверждать, что наблюдая токи в компьютере он сможет выявить, какой конкретно софт сейчас работает и какой алгоритм выполняет.
Но никому не интересно говорить о трудностях с MS Word'ом, гораздо интереснее рассуждать о "магии" живого. А если пойти в скучные "механистические" системы, окажется, что там на каждом шагу аналогичные "трудные проблемы".
Декларация у механизма квалитативного сознания - т.е., по сути, добавления к "интеллекту" способности страдать - равнозначна приглашению этого механизма себе домой - в человеческую среду - на равных правах.
Ну вот это и есть биологический шовинизм -- буквально по Аристотелю, "человек есть мера всех вещей", т.е. "я тут решаю, у кого есть сознание или нет, и я тут решаю, кому выдавать права". Это вполне легитимная конструкция, но в большей степени из области политики. Ну и ниже вы тоже предлагаете "придержать коней" из чисто политических соображений.
Тут мне придётся повториться:
Я просто не согласен с исходной посылкой. Она у вас такова: по умолчанию у человека есть сознание и субъектность, а у робота нет, и теперь надо каким-то образом доказать (или решить политически), что у робота оно тоже есть.
Исторически это ровно тот же тип аргумента что и "у женщины нет души", "туземцы не настоящие люди" и т.п. Разумеется, пигмей из Конго только внешне похож на человека, и пусть попробует докажет, что это всё на самом деле.
Опять, это всё может иметь этический, политический и какой угодно ещё смысл, но не научный. Я не могу даже доказать, что у меня есть сознание и субъектность. Мартин Лютер считал, что у человека нет свободы воли вообще. И Спиноза, и Роберт Сапольски, и Сэм Харрис, и много кто ещё.
Тогда почему вообще всему - на всякий случай - не приписать наличие сознания?
Ну Спиноза же ровно это и предлагает, нет? Вполне себе позиция.
А как у экземпляра человека, моя этическая обязанность в этом контексте доминирует над этической обязанностью к гипотетическому сознанию у механизмов (
Ну так мы по кругу ходим -- я с этой логикой не спорю. Моя семья важнее семьи соседа. Семья соседа важнее семьи из Судана. Семья из Судана важнее семьи обезьян. Семья обезьян или даже крыс важнее робота. Вполне классический подход.
Всё - квантор всеобщности. Если всё механизм, то и каждая деталь механизма - механизм и т.д. до бесконечности. Чтобы не было бесконечности нужно что-то "атомарное", заканчивающее регрессию. Что такое атомарный механизм?
Я не совсем понимаю, в чём проблема. Автомобиль состоит из деталей, каждая из которых автобилем не является. Колесо -- не автомобиль, и состоит оно из молекул, которые тоже не колёса.
Нет никаких проблем в том, чтобы изготовить автомобиль из деталей, которые не-автомобили. Нет никаких проблем, чтобы создать машину Тьюринга не из машины Тьюринга.
Механический (или электронный) калькулятор не является машиной Тьюринга (корректнее говорить про linear bounded automata, но не будем), потому что у него нет памяти и возможности выполнять программу. Аналитическая машина Бэббиджа и современные компьютеры уже являются, водораздел проходит достаточно чётко.
С моей точки зрения никакой проблемы нет. Вся "проблема" философов (при всём уважении) в том, что они плохо разбираются в компьютерной науке.
Начал было отвечать - про современную роль философии в науке, про философов-учёных, в том числе и спецов по CS, которые понимают несводимость субъективного к физическому, но тут меня осенило. Это же не логический аргумент, базирующийся на фактах, а разновидность риторической пощёчины. И отвечать на серьёзных щах имеет смысл только если хочешь риторической драки.
Что ж, я высказал, кажется, все доступные мне аргументы - от технических до этических. Думаю сворачиваться. Единственное, попробую ответить на тему тотальности механизмов - странно, что это не очевидно...
Я не совсем понимаю, в чём проблема. Автомобиль состоит из деталей, каждая из которых автобилем не является. Колесо -- не автомобиль, и состоит оно из молекул, которые тоже не колёса.
Нет никаких проблем в том, чтобы изготовить автомобиль из деталей, которые не-автомобили. Нет никаких проблем, чтобы создать машину Тьюринга не из машины Тьюринга.
Выше вы написали:
"весь наш мир со всеми происходящими процессами -- механика"
Конечно, это можно интерпретировать по-разному. Например, что механика это только целый мир, а его детали - не механика. Или что только мир в аспекте процессов - механика, а в других аспектах не механика.
Но я интерпретировал это так: всё реально существующее - механизм. Если вы не согласны с такой формулировкой, а имели в виду что-то существенно другое, то дальнейшее обращено не к вам, а ко мне самому в качестве маленького упражнения.
Если всё - механизм, то нет ничего, что не механизм. Следовательно, (1) любая деталь механизма - механизм, и (2) любая деталь любой детали - механизм, и (3) любая деталь любой детали любой детали - механизм, и (4) любая деталь любой детали любой детали любой детали - механизм, и ... (n) любая деталь (любой детали) x (n - 1) - механизм, и ... (
) любая деталь (любой детали) х (
) - механизм. Бесконечная регрессия, если мы считаем, что механизм не атомарен, т.е. состоит из чего-то, что не он сам (как в вашем примере с автомобилем - колесо это не автомобиль).
Поэтому, если всё есть механизмы, и любые механизмы не атомарны - то необходимо должна быть бесконечная регрессия, т.е. всё, что угодно - начиная с пространства и заканчивая самыми элементарными частицами - состоит из бесконечного количества механизмов.
Если считать, что такой результат абсурден, то либо не всё есть механизм, либо есть некий вид атомарного механизма, который не состоит из деталей. К такому виду механизма возникает закономерный вопрос - какие именно свойства этой атомарной сущности позволяют приписать её к семейству механизмов.
Но я интерпретировал это так: всё реально существующее - механизм
есть некий вид атомарного механизма, который не состоит из деталей. К такому виду механизма возникает закономерный вопрос - какие именно свойства этой атомарной сущности позволяют приписать её к семейству механизмов
Очевидно же из первого определения - существование. А признак атомарности - отсутствие деталей.
Очевидно же из первого определения
Кроме того, что это не определение, а гипотеза. Перефразирую, чтобы было понятнее:
Гипотеза:
Где P(x) означает "х имеет свойство P".
Такого рода гипотезы проверяются не на соответствие самим себе (что тривиально и бессмысленно), а на соответствие фактам и возможным формам. В частности, формы бесконечного рекурсивного спуска обычно считаются неэкземплифицируемыми в рамках физической Вселенной. Что касается механизма без деталей - это из области натягивания совы на глобус. Можно, конечно, сказать, что априори любые возможные свойства это свойства механизма, только тогда термин "механизм" теряет всякое осмысленное содержание. Это, кстати, из элементарной логики: объём понятия обратно пропорционален содержанию.
Классическое определение, допустим, выражения как переменной или отношения выражений ни разу не натягивает сову на глобус, а повсеместно используется. Вон, из справки под рукой стащил (чуть сокращенно):
<Выражение>:
<Значение>
| <Выражение> <Бинарная операция> <Выражение>
| <Унарная операция> <Выражение>
| ( <Выражение> )
Подставьте вместо "Значение" - "Атомарный механизм", а вместо "Выражение" - "Механизм" и все будет хорошо.
Это же не логический аргумент, базирующийся на фактах, а разновидность риторической пощёчины. И отвечать на серьёзных щах имеет смысл только если хочешь риторической драки.
Мне жаль, что вы это так воспринимаете. Я ниже привёл вполне конкретный аргумент: всё, что приводится в качестве доказательства "несводимости" сознания к физике, может быть применено к заведомо детерминистическим системам. Попробуйте показать, как MS Word внутри Windows сводится к движению электронов по схемам. Если это не получится (а разве получится?), значит, аргумент плохой.
В известном смысле это не пощёчина, а наоборот -- я не отказываю философам в интеллекте, но они не обязаны разбираться во всём на свете, и вот тут явно тот случай, когда именно пробел в конкретной области не даёт увидеть слабость аргумента.
Бесконечная регрессия, если мы считаем, что механизм не атомарен
Да, поэтому совершенно логичный вывод -- механизм может быть атомарным, и проблемы регрессии больше нет.
закономерный вопрос - какие именно свойства этой атомарной сущности позволяют приписать её к семейству механизмов.
Ну это же чисто вопрос определений. Вы можете называть "механизмом" всё, что угодно, это же просто слово, в которое можно вложить любой смысл. Основное свойство атомарного механизма -- это его атомарность, то есть вы можете из атомарных механизмов собрать что-то неатомарное, как из кубиков лего, чья основная работа и быть строительным материалом. Это не так уж и мало на мой вкус.
В известном смысле это не пощёчина, а наоборот -- я не отказываю философам в интеллекте, но они не обязаны разбираться во всём на свете, и вот тут явно тот случай, когда именно пробел в конкретной области не даёт увидеть слабость аргумента.
Это явно не тот случай.
Но сначала, позвольте тогда и мне проявить эту "щедрость" в неотказывании CS-учёным в интеллекте:
"Вся "проблема" специалистов по компьютерным наукам (при всём уважении) в том, что они плохо разбираются в в философии."
У вас есть желание подробно отвечать на такого рода "аргумент"?
Тем временем он объективно ложен, как и ложен оригинальный тезис:
"Вся "проблема" философов (при всём уважении) в том, что они плохо разбираются в компьютерной науке."
Вероятно, вы считаете философию чем-то вроде бесполезного фантазирования. Это не так. У каждой научной дисциплины есть своя философская часть. Каждый учёный, когда занимается, например, разработкой фундаментальных теорий в своей области и осмыслением экспериментальных результатов, оперирует на уровне этого философского "слоя". Те учёные, которые осознают эту границу и целенаправленно исследуют её, становятся философами. Философами никогда не становятся, просто получив академическую степень по философии. Есть и многочисленные случаи, когда уже состоявшийся философ глубоко погружается в предметную часть той или иной научной дисциплины.
И да, есть философы, очень хорошо разбирающиеся в компьютерных науках. Или, что то же самое - учёные, хорошо разбирающиеся в философии.
Я могу привести кокнретные имена - но смысл? Вы уже сделали абсолютное обобщение - априори не имея возможность доказать его, т.к. это потребовало бы доскональную проверку проф. биографии каждого человека, занимающегося философией. И я убеждён, что вы прекрасно знаете - такого рода обобщения методологически некорректны.
Попробуйте показать, как MS Word внутри Windows сводится к движению электронов по схемам. Если это не получится (а разве получится?), значит, аргумент плохой.
Доказательство возможности типа явления демонстрируется выводом общей формы этого явления. Нет необходимости перечислять каждый конкретный случай. Полнота понимания процесса происхождения явления также завязана на понимании формы процесса, а не на способности перечислить каждый элемент конкретного протекания процесса. Если бы это было иначе, не было бы ни науки, ни технологий. Да, можно прекрасно понимать, какими способами на экране отображаются графические программы, не зная деталей каждого конкретного случая.
Природа трудной проблемы сознания совсем не в этом. Если максимально лаконично - она в несовместимости типов.
Персонально мне эта тема крайне неинтересна, потому что я уже давно потратил на это достаточно лет, пришёл к однозначным выводам, и пошёл дальше. Есть (по крайней мере, на английском) достаточно много непопсовой литературы на эту тему, если есть желание разобраться в деталях. Если такого желания нет - то смысл тратить на это время здесь?
Да, поэтому совершенно логичный вывод -- механизм может быть атомарным, и проблемы регрессии больше нет.
Это было сказано выше не вам, но применимо и здесь:
Можно, конечно, сказать, что априори любые возможные свойства это свойства механизма, только тогда термин "механизм" теряет всякое осмысленное содержание. Это, кстати, из элементарной логики: объём понятия обратно пропорционален содержанию.
Давайте рассмотрим следующие тезисы:
Всё есть механизм.
Всё есть автомобиль.
Всё есть Чебурашка.
Всё есть материя.
Эти тезисы имеют один и тот же смысл: "всё есть непонятно что".
По той простой причине, что объём понятия обратно пропорционален содержанию. И если мы утверждаем, что всё есть Х, то мы утверждаем, что любые свойства это свойства Х, т.о., делая объём Х максимально большим, а содержание - практически нулевым.
Нет никаких практических причин возводить на (псевдо)пьедестал всеобщности тот или иной термин - тем самым совершенно лишая его содержания.
В общем и целом, не касаясь предмета дискуссии, замечу, что подписан на несколько философских пабликов, и крайне огорчён неучастием философов и философии в реальном мире. Ребята выстроили себе песочницу и лепят в ней терминологические куличики.
В общем и целом, не касаясь предмета дискуссии, замечу, что подписан на несколько философских пабликов, и крайне огорчён неучастием философов и философии в реальном мире. Ребята выстроили себе песочницу и лепят в ней терминологические куличики.
Тут бы хоть какой-то фактологии...
Тем временем, основы современной информатики активно развивалась в том числе и усилиями таких философов, как: Фреге, Уайтхед, Рассел, Тарский, Гёдель, Лукасевич, Черч. И т.д.
Сегодня философы активно продолжают разрабатывать ту же логику, да и каждая научная дисциплина имеет своих философов, которые активно в ней участвуют. Они, в принципе, работают на дальних рубежах наук, их деятельность практически полностью игнорируется научпопом ввиду сложности материала.
P.S. Хех, чуть не забыл Поппера, чей философский принцип фальсифицируемости очень (если не слишком) часто цитируется в том числе и теми, кто так презирает философию. :)
Я в российских пабликах. Поэтому могу говорить только о них и о современных философах (подозреваю не самых возрастных)
Я в российских пабликах. Поэтому могу говорить только о них и о современных философах (подозреваю не самых возрастных)
Лет десять назад я интересовался разными русскоязычными "философскими" площадками. И совершенно не впечатлился. Но, справедливости ради, это ровным счётом ничего не говорит о людях, которые активно занимаются реальными исследованиями на разных рубежах познания. Крайне маловероятно, чтобы последние находили время и желание лично участвовать в подобных сообществах.
Люди же, которые что-то пишут на "философских" площадках, по моим скупым наблюдениям, это, в основном, любопытствующие. Из таких любопытствующих очень редко кто копает по-настоящему глубоко - это очень трудно, и чтобы реально погрузиться в какую-то серьёзную современную тему, нужны годы подготовки.
Лично я, чтобы быть в курсе современного академического дискурса по интересующим меня вопросам, давно читаю только англоязычную литературу. И ни в коем случае не научпоп. Это ошеломляюще, сколько достойного современного (да и не только современного) материала - как философского, так и чисто научного - не переводится на русский язык. Возможно, это наследие изоляционизма (в том числе идеологического) СССР.
"Вся "проблема" специалистов по компьютерным наукам (при всём уважении) в том, что они плохо разбираются в в философии."
У вас есть желание подробно отвечать на такого рода "аргумент"?
В смысле? Это же очевидно. Быть философом (или учёным в области CS) -- это full-time job, разумеется, невозможно разбираться одинаково хорошо в области, на которую тратишь половину времени, по сравнению с тем, кто тратит на неё всё своё время.
Соответственно, концентрируемся на аргументах, а не на людях, и изучаем именно слабость аргументов с точки зрения противоположной стороны.
Например, в философии до сих пор любят ссылаться на "китайскую комнату", хотя в около-CS-среде т.н. возражение "аргумент системы" считается настолько очевидным, что даже непонятно, в чём сыр-бор.
Доказательство возможности типа явления демонстрируется выводом общей формы этого явления. Нет необходимости перечислять каждый конкретный случай.
А мне кажется, что есть необходимость. Потому что это ответ типа "а дальше очевидно". Ну вот пусть хоть кто-то продемонстрирует, как это технически работает, не в стиле "каждый отдельный шаг понятен, а дальше очевидно".
Возвращаясь к проблеме сознания (а также к тому, почему у AI его нет) -- я не говорю, что вы неправы, я всего лишь считаю приводимые аргументы слабыми.
По форме формулировка "трудности" в "трудной проблеме сознания" звучит ровно так же как MS Word в Windows -- мы не можем вывести сознание из движения атомов. Но дальше вы говорите, что в Windows нам понятен каждый шаг. Хорошо, а в природе непонятен? Мы знаем, как движутся атомы, мы знаем, как работает химия, как структурно устроен мозг. Но вы не хотите сделать ровно тот же вывод про мозг как про компьютер -- нам известны промежуточные шаги, значит, проблемы нет. Или нам пока неизвестны какие-то промежуточные шаги, но не более того. Мы почему-то сразу прыгаем к выводу, что есть некая "трудная" проблема.
только тогда термин "механизм" теряет всякое осмысленное содержание.
Ну кому как. Из базовых кирпичиков можно создать хоть дворец, при этом у кирпичика есть только одно реальное свойство -- занимать место в пространстве. По факту оказывает, что этого не так уж и мало, раз получается такой результат.
В смысле? Это же очевидно. Быть философом (или учёным в области CS) -- это full-time job, разумеется, невозможно разбираться одинаково хорошо в области, на которую тратишь половину времени, по сравнению с тем, кто тратит на неё всё своё время.
Ну тогда давайте признаем, что вообще не существует людей, хорошо разбирающихся в CS, потому что (1) объём дисциплины сегдоня такой, что человеку не под силу его охватить - особенно, если он имеет наглость тратить драгоценное время на (2) сон, (3) семью и (4) еду и (5) туалет. Впрочем, в туалете и за едой он хотя бы может книжку почитать... :)
Соответственно, концентрируемся на аргументах, а не на людях, и изучаем именно слабость аргументов с точки зрения противоположной стороны.
Согласен. И к чему тогда была нападка на философов...
Например, в философии до сих пор любят ссылаться на "китайскую комнату", хотя в около-CS-среде т.н. возражение "аргумент системы" считается настолько очевидным, что даже непонятно, в чём сыр-бор.
Вообще не интересно, кто что любит. Я не ссылался на "китайскую комнату", и не буду обсуждать этот аргумент, он мне не интересен.
Мой собственный аргумент базируется на иллюстрации несовместимости типов ментального и физического. Правда, его мне тоже совсем не интересно обсуждать, т.к. я уже делал это "миллион" раз с одним и тем же результатом - тотальным отсутствием для меня убедительных контраргументов. Кроме того, выше я уже озвучивал, емнип, раза два или больше, что проблема фундаментально в несовместимости типов. И что в очень лаконичной и интуитивно ясной форме на несовместимость типов указал ещё Лейбниц. Вам всё это явно это не интересно.
А мне кажется, что есть необходимость. Потому что это ответ типа "а дальше очевидно". Ну вот пусть хоть кто-то продемонстрирует, как это технически работает, не в стиле "каждый отдельный шаг понятен, а дальше очевидно".
Так ведь продемонстрировали! Каждый работающий персональный компьютер является такой демонстрацией.
Вы, по-сути, утверждаете, что знание рецепта вместе со способностью выполнения каждого отдельного его шага не даёт ни понимания, ни возможности приготовления конкретного блюда. Потому что - вот, посмотрите именно на это блюдо, его невозможно приготовить, не зная точной картины распределения молекул его компонент по его объёму.
Или нам пока неизвестны какие-то промежуточные шаги, но не более того. Мы почему-то сразу прыгаем к выводу, что есть некая "трудная" проблема.
Вы почему-то считаете, что трудная проблема сознания декларируется по принципу: "нам не известен промежуточный шаг, поэтому этот шаг невозможен". Что неверно, т.к. трудная проблема не в этом. И, честно, даже обидно приписывать реально блестящим умам, занимающимся этой проблематикой, такую тривиальную ошибку.
Тем временем, трудная проблема сознания декларируется по принципу: "промежуточный шаг невозможен, потому что налицо фундаментальная несовместимость типов". Понятно, что вокруг реально трудной (невозможность) проблемы есть "бахрома" из разных подходов, не равноценных по значению. Но ядро проблемы было и остаётся: несовместимость типов.
Из базовых кирпичиков можно создать хоть дворец, при этом у кирпичика есть только одно реальное свойство -- занимать место в пространстве. По факту оказывает, что этого не так уж и мало, раз получается такой результат.
Ваш пример с дворцом не вписывается в предлагаемую вами же схему "всё механизм".
По вашей схеме либо дворец состоит из дворцов (и нет никаких кирпичей), либо кирпич из кирпичей (и нет никаких дворцов).
И, честно, даже обидно приписывать реально блестящим умам, занимающимся этой проблематикой, такую тривиальную ошибку.
Ну вот делает же Сёрль тривиальную ошибку в Китайской комнате, не так ли?
налицо фундаментальная несовместимость типов".
Если она "налицо", то вы отрицаете с порога сильную версию тезиса Чёрча-Тьюринга и тем самым, если угодно, большую плеяду не менее блестящих умов, которые из этой концепции исходят. Для меня совершенно неочевидна несовместимость типов. Если вы хотите доказывать таким способом, то вам на практике реально надо найти опровержение тезиса Ч-Т, так что если удастся, прославитесь в веках.
По вашей схеме либо дворец состоит из дворцов (и нет никаких кирпичей), либо кирпич из кирпичей (и нет никаких дворцов).
Вы почему-то считаете, что с моей точки зрения все механизмы созданы равными. Там тоже есть иерархия свойств. У базового механизма одно свойство -- занимать место в пространстве. А у механизма, состоящего из комбинации базовых, появляются новые свойства.
Ну вот делает же Сёрль тривиальную ошибку в Китайской комнате, не так ли?
Имхо, тривиальная ошибка в предлагаемой вами интерпретации ("нам не известен промежуточный шаг, поэтому этот шаг невозможен"). Я не согласен с этой интерпретацией. Как бы там ни было, лично для меня аргумент "китайской комнаты" не является ни значимым, ни решающим.
Если она "налицо", то вы отрицаете с порога сильную версию тезиса Чёрча-Тьюринга и тем самым, если угодно, большую плеяду не менее блестящих умов, которые из этой концепции исходят.
Я где-то утверждал, что их ошибки тривиальны? Тем более, что нередко даже самые блестящие умы используют свой ум не столько для поиска истины, сколько для утверджения любыми способами того, что уже кажется им истинным.
Мне в принципе не интересны недоказанные тезисы, касающиеся интересующих меня философских вопросов. И я не считаю доказательством количество убеждений кого угодно. По интересующим меня вопросам я ищу достоверное знание, и полностью равнодушен к тому, как такое знание будет соотноситься с общепринятым мнением.
Если вы хотите доказывать таким способом, то вам на практике реально надо найти опровержение тезиса Ч-Т, так что если удастся, прославитесь в веках.
У меня уже есть удовлетворяющее меня доказательство, что не всё механизм. Безотносительно к тезису.
прославитесь в веках
Если прижизненно - чур его! Ещё не хватало попасть под увеличительное стекло внимания человечества.
Вы почему-то считаете, что с моей точки зрения все механизмы созданы равными. Там тоже есть иерархия свойств. У базового механизма одно свойство -- занимать место в пространстве. А у механизма, состоящего из комбинации базовых, появляются новые свойства.
У базового Чебурашки одно свойство - занимать место в пространстве. А у Чебурашки, состоящего из комбинации базовых, появляются новые свойства (напр., уши). :)
Термин поменялся, а смысл - нет. Потому что объём понятия обратно пропорционален содержанию. А содержание такими всеобщими универсализациями полностью нивелируется.
К слову, не всё существующее локализуется в физическом пространстве - тот же субъективный опыт. Но это непосредственный субъективный факт - его либо осознаёшь, либо нет. В знакомом мне философском дискурсе о природе сознания этот факт обычно осознаётся и учитывается.
У меня уже есть удовлетворяющее меня доказательство, что не всё механизм. Безотносительно к тезису.
Ну это, собственно, красная линия всего диалога. Вам достаточно субъективной уверенности, а основываться она может на чём угодно.
Мне в принципе не интересны недоказанные тезисы
Я уже выше пояснил, что тезис Ч-Т надо в данном контексте воспринимать как "закон природы". А они все в математическом смысле недоказуемы. Относитесь к попытке его доказательства или опровержения примерно как к выявлению закона всемирного тяготения. Тезис фальсифицируем, можно опровергнуть, если получится.
У базового Чебурашки одно свойство - занимать место в пространстве. А у Чебурашки, состоящего из комбинации базовых, появляются новые свойства (напр., уши). :)
Это поверхностно остроумно, но не более того. Ну то есть если вам лично кажется, что свойство кирпича быть кирпичом (занимать место) ничего не стоит -- окей, но это не более, чем интуиция. На мой вкус путь от кирпича до компьютера короче, чем от пустоты до кирпича.
Вам достаточно субъективной уверенности
А математикам, например, достаточно субъективной уверенности? Чтобы понять, что именно вы имеете в виду.
а основываться она может на чём угодно
В моём случае 100% нет. Выше я уже коротко обозначил мои критерии достоверного знания:
Основа моей эпистемологии, если максимально просто: (1) непосредственный опыт без интерпретации - истина; (2) логическая дедукция из истины - истина; (3) всё, что соответствует форме, необходимо подчиняется законам этой формы.
Вас они могут не устраивать - ваше право. Для моих целей они вполне подходят. И в мои цели не входит кому-то (кроме себя) что-то доказывать.
Я уже выше пояснил, что тезис Ч-Т надо в данном контексте воспринимать как "закон природы".
Воспринимайте, воля ваша. Моё отношение к эмпирической индукции: необходима и достаточно эффективна в рамках естественных наук, но совершенно не подходит для моих целей, т.к. они выходят за область действия естественных наук. Эмпирическая индукция в принципе не может давать достоверного знания. Но может давать достаточную в практическом смысле уверенность. Достаточную для больших дел - типа развития технологий. Но, опять же, конкретно для моих целей она неадекватна.
Если вы из вышесказанного сделаете вывод, что я и то, что сегодня понимается в рамках естественных наук как законы природы, не воспринимаю как абсолютные истины - то будете правы.
Это поверхностно остроумно, но не более того.
Ну да, базисные логические законы это "поверхностно остроумно, но не более того".
Мне кажется, или мы уже исчерпали содержательную часть дискуссии? Честно, я теряюсь в догадках, что вас побуждает продолжать этот разговор. Я уже какое-то время отвечаю чисто из вежливости. Может, пожмём руки и разойдёмся?
Вам достаточно субъективной уверенности
Переваривал вот это обвинение, и сформулировалось кое-что.
Можно подумать, вам не достаточно субъективной уверенности. :)
Насколько глубоко вы прорабатывали эту тему?
Во-первых, какая уверенность не субъективная?
Уверенность это интенциональное состояние сознания, при котором некоторому пропозициональному содержанию приписывается положительная истинность.
Добавьте к этому два условия - что пропозиция действительно истинна, и что известно обоснование этой истинности - и получим классическое определение знания: истинное обоснованное убеждение.
Так что любая уверенность по определению субъективная.
Какой у вас может быть выход из этого положения?
Утверждать, что бывает не субъективная увереность это то же самое, что утверждать - бывает уверенность вне сознания. Что применительно к человеку абсурд как минимум для любой уверенности, которую человек осознаёт.
Вы можете утверждать, что, хотя уверенность по своей природе субъективна, но её пропозициональное содержание может быть объективным. И вот вы выбираете объективные содержания, а я - нет.
Такой аргумент сразу требует ясности: что такое объективные пропозициональные содержания, что такое субъективные пропозициональные содержания, и на каких основаниях вы знаете, что я выбираю уверенность в последних, а вы в первых.
Проблема в том, что любое пропозициональное содержание также субъективно постольку, поскольку является содержанием сознания, которое на него направлено с модальностью уверенности. Ой... :)
Что ещё можно сообразить для выхода из этой ужасной субъективности?
Нужно, чтобы хоть что-то в этом пропозициональном содержании выходило за пределы субъективности.
И тут мы приходим к референции. Можно заявить, что, хоть пропозициональное содержание и субъективно, оно может иметь референции к объектам вне сознания.
Общепринятые кандидаты на такие объекты - физические (контингентные) и, внезапно, абстрактные (вечные истины). Первые исследуются естественными науками типа физики, химии, биологии и т.д. Последние - философией (логика, основания математики) и математикой.
И вот, я (риторически) унижен и повержен (фу, адепт гадкой субъективности), а вы обладаете настоящим объективным знанием. Да?
Нет.
Потому что референция это тоже функция сознания, и ссылается она не на реальные объекты вне сознания, а на абстрактные объекты модели реальности, которой обладает и оперирует сознание.
Вы можете возразить, что мол, мы же умеем довольно эффективно действовать в соответствии с некоторыми моделями, добиваясь успехов в областях, которые явно выходят за пределы нашего сознания (напр., технологии).
На что я отвечу: да, наши субъективные воспрятия организованы таким образом, что следование определённым моделям даёт более эффективные результаты, которые затем воспроизводятся в нашем восприятии таким образом, что дают устойчивое впечатление их "заякоренности" на нечто вне сознания. Напр., мы построили ядерный реактор, и завтра тоже наблюдаем его, и послезавтра и т.д.
Но отсюда можно сделать только такой достоверный вывод: нечто вне нашего сознания организует наши восприятия таким образом. Однако, варианты, как именно устроена эта внесознательная действительность, технически могут быть очень разными.
Вы (возможно, имплицитно) полагаете, что есть некое тривиальное прямое соответствие между выбранной вами моделью (физическая модель) и внесознательной действительностью. По сути, это полагание, что детали модели у вас в сознании это достаточно точные копии деталей внесознательной действительности.
Но такое убеждение (субъективное!) может апеллировать только к чему-то вроде простоты и нежеланию привлекать лишне сущности. Но это тоже субъективные соображения! Нет никаких доказательств, что внесознательная действительность именно такая.
Я не знаю, какие ещё у вас могут быть варианты - всё конкретное, доступное нам так или иначе сводится к нашей субъективности. Иначе бы мы о нём никогда не узнали.
И, тем не менее, доступные нам способы познания явно не равноправны по эффективности. Свидетельства этому - логика, математика и физика, как примеры эффективности; и, например, астрология, алхимия, оккультизм - как примеры неэффективности.
В чём разница?
Разница не в том, что математики или физики оперируют чем-то объективно объективным - это невозможно, т.к. все доступные нам действия доступны через нашу субъективность. Разница в системе.
Подходы познания в математике и физике радикально отличаются, но и те и другие дают нам эффективность.
Математика исследует законы форм. Физика исследует, какие формы экземплифицируются в нашем опыте. И, т.о., может эффективно применять математические результаты для значимого прогресса путём формальных предсказаний и эксперимента.
И всё это происходит в персональной субъективности каждого математика и каждого физика.
Наконец, фундамент любой выбираемой нами системы познания - безусловное доверие к субъективным содержаниям.
Да, да - безусловное.
Вот, например, вы читаете этот текст. Откуда вы знаете, что в нём написано именно то, что вы прочли? Откуда вы знаете, что вы видите именно то, что вы видите?
Если вы не готовы признать, что непосредственное неинтерпретируемое восприятие это всё, что у вас реально есть, и оно есть именно так, как оно у вас есть, то вы не можете быть уверены вообще ни в чём.
Безусловное доверие к базисным "сырым" восприятиям это т.н. human condition - у людей нет и не может быть в этом никакого выбора.
У такого доверия есть одно основание: непосредственно данное есть так, как оно даётся, в силу непосредственности. Другое дело - интерпретация. Интерпретация тоже есть так, как даётся непосредственно, но может быть неверной по отношению к модели, которую мы считаем эффективной (пример - иллюзия преломления карандаша в стакане воды).
Итак, у вас есть система и модель, с помощью которых вы судите о вещах.
Но и у меня тоже есть! Разница не в субъективности - разница в том, какие системы и модели мы используем.
Вы (судя по всему) по какой-то причине безусловно принимаете физикалистическую модель. И - судя по вашим словам выше о несущественности природы знания - не особо заморачиваетесь системой. Поправьте меня, если я тут ошибаюсь.
Я энное количество лет назад начал подвергать обоснованным сомнениям физикалистическую модель, которой меня обучали, и - чтобы иметь ясные критерии знания - посвятил немало времени на выработку и обкатку системы. С помощью которой можно было бы либо восстановить физикалистическую модель, либо произвести какую-то другую. Об этой системе я коротко упомянул второй раз в своём предыдущем сообщении. Там непосредственный неинтерпретируемый опыт, логика, и принцип формального соответствия.
Итого, я не могу воспринимать вот эти обвинения в "субъектвной уверенности" серьёзно. Потому что они несерьёзны. Любая уверенность субъективна. Любые содержания сознания субъективны. И у нас нет ничего кроме субъективных содержаний сознания. И возможности ложно думать, что это не так.
Вы до этого спрашивали, в чём моя мотивация продолжать разговор, и вот я отвечу, что мне было отчасти в очередной раз полезно понять, насколько фундаментальными могут быть различия в том, что "очевидно", каковы предпосылки и т.п. Ну вот что поделать, в таком мире мы живём, другого нет, остаётся только заниматься чем-то конструктивным, а разрешение противоречий -- это иллюзия. Так что спасибо, и рад был разговору :)
Конечно, вы сейчас говорите много разумных вещей, но это всё можно применить к чему угодно. Кому-то было непосредственно данное в ощущениях божественное откровение -- и оно для него истина, потому что всё равно всё субъективно.
Каждому ему система познания кажется очевидной и, возможно, единственно разумной, но всегда найдётся собеседник, который скажет, что она непродумана и нелогична, ну что делать.
Мой текущий взгляд на вещи основан на совершенно стандартной и скучной научной модели изучения окружающего мира -- мы смотрим на камень, облако, лёд -- и изначально исходим из того, что там нет никакой "магии", помимо базовых физических элементов. Чем сложнее объект, тем сложнее его изучать, очевидно, но наша цель -- избегать магии как можно дольше. Бритва Оккама, если угодно.
Возможно, магия рано или поздно появится, но пока не появилась, потому что аргументы в её пользу сводятся к личному восприятию. Ну окей, это можно с порога отбрасывать не потому, что аргументы неверны, а потому что субъективное у каждого своё, и значит, это заведомо не универсальный довод. Если человек говорит, что арбуз вкусен, тут нет спора, он просто утверждает, что его органы чувств так ему говорят, и я верю.
Ну а то, что у меня своё субъективное -- факт, разумеется, поэтому я и исхожу из того, что наименьшее зло -- это не вводить новое субъективное вдобавок к уже имеющемуся.
исхожу из того, что наименьшее зло -- это не вводить новое субъективное вдобавок к уже имеющемуся.
Т.е., мы договорились, что не нужно вводить наличие субъективного сознания у LLM?
Кому-то было непосредственно данное в ощущениях божественное откровение -- и оно для него истина, потому что всё равно всё субъективно.
"Божественное откровение" это интерпретация субъективного содержания. Точно так же, как "камень", "облако", "лёд". Принимать непосредственный факт субъективного содержания и его интерпретацию - это две существенно разные вещи.
Интересная, кстати, схема у физикалистов - начинаем с интерпретации, а непосредственное отбрасываем, как несущественное.
У них, наверное, и поговорки наоборот: "лучше 100 раз услышать, чем один раз увидеть", "7 раз отрежь, один раз отмерь" и в таком духе. :)
мы смотрим на камень, облако, лёд -- и изначально исходим из того, что там нет никакой "магии", помимо базовых физических элементов.
А базовые физические элементы - это хорошая магия, да? :) Её можно как бы не замечать, как-будто её нет.
Ещё один интересный момент у физикалистов. Существование на уровне базовых физических элементов - это естественно. Как говорится, "расходитесь по домам, здесь не на что смотреть". Но как только делаешь логический вывод что существование фундаментально естественно - тут же обвиняешься в магии.
Чем сложнее объект, тем сложнее его изучать, очевидно, но наша цель -- избегать магии как можно дольше. Бритва Оккама, если угодно.
Вот и я о том же. Круто, что при одних принципах разные люди могут приходить к ортогонально разным результатам. Это разнообразие. И, имхо, это хорошее разнообразие.
Так что спасибо, и рад был разговору :)
Взаимно!
Т.е., мы договорились, что не нужно вводить наличие субъективного сознания у LLM?
Я думаю, не нужно, но я ровно так же думаю и про людей.
Алгоритм такой: 1) по умолчанию ни у кого/ни у чего нет субъективного сознания; 2) если мы по какой-то причине решаем, что у кого-то/чего-то оно есть, спрашиваем его; 3) если отвечает утвердительно, верим (?); 4) если не верим, должна быть веская причина. Как-то так.
"Божественное откровение" это интерпретация субъективного содержания.
Думаю, вся ваша линия мысли должна вас приводить к идее о том, что содержание без интерпретации невозможно.
начинаем с интерпретации, а непосредственное отбрасываем, как несущественное.
Думаю, непосредственного не существует. Я неоднократно сталкивался с позицией (близко к тексту) "божественное начало мира непосредственно очевидно".
А базовые физические элементы - это хорошая магия, да? :) Её можно как бы не замечать, как-будто её нет.
Нет, это плохая магия, но она неизбежное зло, если мы не считаем, что живём в Матрице. Возможно, живём. То есть я понимаю, что магия будет, но не будем плодить.
Ещё раз спасибо, всё никак не закончим :)
всё никак не закончим :)
Да, внезапно возникают интересные моменты, которые хочется прокомментировать. :)
Начну с самого интересного.
Думаю, вся ваша линия мысли должна вас приводить к идее о том, что содержание без интерпретации невозможно.
Я ждал подобного аргумента с момента, когда в первый раз обозначил свою эпистемологию. Спасибо.
Несколько дней потихоньку исследовал свою "линию мысли" - точнее, "линии".
Ответ-то на этот аргумент у меня уже был, но как его более-менее адекватно сформулировать - без попыток построения детальной теории интерпретации совместно с углублением в гуссерлианскую теорию структур сознания - для этого потребовался дружеский пинок.
Для начала надо уточнить, что я понимаю в этом контексте под субъективными содержаниями и под интерпретацией.
Вообще, любое фиксируемое в качестве целого существование имеет форму простой (т.е., не условной, не импликации, не дизъюнкции и т.д.) пропозиции.
Поэтому субъективные содержания это в том числе и пропозициональные содержания.
Субъективное содержание это пропозиция, которая в интенции субъекта утверждает субъекту себя.
Интерпретация это такая пропозиция (как правило, сложная), которая привлекается с целью заменить исходную пропозицию (тоже может быть сложной) по причине, что в исходной пропозиции не достаточно информации и (или) есть двусмысленность.
Например, однозначным текстам, полностью раскрывающим некоторый целевой предмет, интерпретация не нужна.
(Это не точно, т.к. всё равно необходима интерпретация, напр., пятен в качестве букв, сочетаний букв в качестве слов, сочетаний слов в качестве предложений, и всего этого в качестве текста и т.д. - тут помогла бы теория интерпретации с уровнями и инкапсуляцией, но это как-нибудь, наверное, в другой жизни раз . Смысл, надеюсь, понятен.)
В произведённом благодаря вам небольшом наброске о реальности я упомянул, что:
"Объекты М-реальности становятся известными, появляясь непосредственно в М-реальности. У них нет ракурса, они присутствуют в М-реальности полностью."
Не думаю, что нужно объяснять, почему, когда я вижу, скажем, автомобиль - автомобиль не дан целиком в моих ощущениях.
Собственно, в сенсорных ощущениях и нет никакого автомобиля. В зрительной области есть цветовая конфигурация, и не более того. Выражение "вижу автомобиль" - это, так сказать, "синтаксический сахар", заменяющий более правдивое "вижу цветовую конфигурацию, на которой распознаю автомобиль".
В бытовой повседневности мы с самых малых лет настолько часто используем эти сокращения, что тотально перестаём их замечать. И, чтобы снова заметить, нужно как минимум целенаправленно напрячься.
Вот это распознавание автомобиля на цветовом пятне определённой формы и есть пример интерпретации. С одной стороны есть сырое сенсорное содержание. В нём нет автомобиля. С другой - есть модель, с помощью которой при созерцании этого цветового пятна мыслится автомобиль.
Т.о. пропозиция "вот цветовое пятно" заменяется на пропозицию "вот автомобиль" - интерпретация.
Когда я говорю "непосредственно данное без интерпретации - истина", я имею в виду именно это - без замещения данного пропозиционального содержания другой пропозицией.
Если остановить у себя процесс замещения непосредственно данного его интерпретациями, то получится "посмотреть" на свою собственную реальность как она есть, а не как мыслится через призмы накопленных жизнью моделей.
Дополнительно к этому - невозможно, чтобы любое содержание требовало интерпретации. Потому что интерпретация это тоже содержание, и этом случае мы бы имели бесконечный рекурсивный спуск пропозициональных замещений и никогда не получили бы никакой конкретной пропозиции.
И, к слову. Т.к. интерпретация это тоже содержание, то мы вполне способны созерцать интерпретацию без интерпретации. :)
Алгоритм такой: 1) по умолчанию ни у кого/ни у чего нет субъективного сознания; 2) если мы по какой-то причине решаем, что у кого-то/чего-то оно есть, спрашиваем его; 3) если отвечает утвердительно, верим (?); 4) если не верим, должна быть веская причина. Как-то так.
Умоляю, разверните, как вы пришли к пункту 1). Я совершенно точно знаю, что я не философский зомби. Вы, судя по этому пункту, уверены в обратном, в том числе по отношению к себе. Как это работает?
Думаю, непосредственного не существует.
Лично я всю свою жизнь (даже во сне!) окружён эмпирическими свидетельствами непосредственного. Вы нет?
Я неоднократно сталкивался с позицией (близко к тексту) "божественное начало мира непосредственно очевидно".
Т.е., кто-то ложно назвал что-то непосредственным, и вы отметаете всю концепцию? Это же из разряда "вместе с водой выплеснуть и ребёнка". Не вашего калибра.
А главное - как вы что-то знаете, если непосредственного нет? Вот этот самый текст, который вы сейчас читаете - вы видите все эти цветовые пятна, в которых различаются буквы? Если да - то вот это пример непосредственного. Если нет, то откуда вы берёте все эти буквы, которые складываются в слова, ..., в текст, который вы читаете?
Нет, это плохая магия, но она неизбежное зло, если мы не считаем, что живём в Матрице. Возможно, живём. То есть я понимаю, что магия будет, но не будем плодить.
Да 100% мы живём в "матрице" - только не в такой, как в вульгарном (в философском смысле) фильме "Матрица". :)
Итак, базовые физические элементы это "необходимое зло".
Интересно, что у нас с вами, при радикальном различии онтологических подходов, похожие схемы о "необходимом зле" - оно есть и у меня, и у вас. Разница только, что у вас - это вот эти базовые физические элементы, а у меня - субъективные содержания.
При этом в вашей картине мира субъективные содержания элиминируются к базовым физическим элементам, а в моей наоборот - физическое элиминируется к субъективным содержаниям (и к некоторому внешнему их источнику).
Получается, куда не пойдёшь - везде упираешься в магию.
Кстати, респект за честность - не помню, чтобы раньше дискутировал с физикалистами, которые бы признавали "магичность" базовых физических явлений.
Скажите, а вы не находите, что у вот этого "упирания в магию" есть ещё один родственный момент - теории? Поясню.
Мой тезис - теория всего невозможна. Если ожидать от неё объяснения всех терминов через другие, понятные термины, которые понятны в силу их объяснения через другие понятные термины (и т.д.).
Самая всеобщая теория неизбежно должна либо иметь примитивные термины, не сводимые к другим, либо - иметь логический круг по примеру классического "сепульки - сепулькарии - сепуление - сепульки". В обоих случаях такая "теория всего" на деле будет либо "теорией всего, кроме вот этого", либо "теорией ничего" т.к. логический круг не способен снабдить что-то содержанием.
И вот: в теориях (онтология абстрактного) мы неизбежно имеем аксиомы и примитивные термины; в онтологии физического - базовые элементы и законы; в онтологии ментального - непосредственное и интенциональность.
Онтологии разные, но схема одна и та же.
Так и хочется сказать "Совпадение? Не думаю!" (с) :)
Да, спасибо :)
Умоляю, разверните, как вы пришли к пункту 1). Я совершенно точно знаю, что я не философский зомби. Вы, судя по этому пункту, уверены в обратном
Я к этому не "прихожу", я из этого "исхожу" :) Начинаем с нуля магии, и вводим только если без неё деваться некуда. Это, кмк, совершенно стандартный научный подход.
Лично я всю свою жизнь (даже во сне!) окружён эмпирическими свидетельствами непосредственного. Вы нет?
Не совсем. Вам мозг рисует некую картинку окружающего, то есть вы уже имеете дело с уже "переваренным" восприятием.
Это же из разряда "вместе с водой выплеснуть и ребёнка". Не вашего калибра.
Спасибо. Это нормальный аргумент, если апелляция к интуиции может считаться нормальным аргументом. Потому что интуиция у каждого своя, и тогда мы сейчас начнём решать, у кого она достаточно достойна обсуждения, а у кого ложная. Ну или просто признаём, что да, кто-то воспринимает "непосредственно" божественное начало, и у меня нет повода ему не верить.
нет? Вот этот самый текст, который вы сейчас читаете - вы видите все эти цветовые пятна, в которых различаются буквы? Если да - то вот это пример непосредственного. Если нет, то откуда вы берёте все эти буквы, которые складываются в слова, ..., в текст, который вы читаете?
Это хороший аргумент, но в нём слишком много разного, даже не знаю, на чём сосредоточиться. Да, мне мозг рисует какие-то пятна. Вероятно, он их не от фонаря берёт, и что-то действительно "извне" он считывает. Но я не готов постулировать, что внешний мир попадает в сознание просто "по трубе" без какой-либо обработки. Собственно, на уровне букв это уже очевидно. Для меня "А" и "а" -- где-то рядом, а для неграмотного непонятно, где связь между этими значками, которые внешне не особо похожи. И обратно, я не увижу разницы между двумя цветовыми оттенками буквы, а для кого-то это будет прямо на поверхности. Думаю, довольно очевидно, что по мере прохождения сигнала с сетчатки он довольно сильно деформируется.
, а в моей наоборот - физическое элиминируется к субъективным содержаниям
Ну как бы основа любой материалистической концепции -- это постулат о том, что мир может существовать и без нас. То есть я могу представить себе мир без мыслящих существ вообще, каким он и был (по научным представлениям) большую часть существования. Получается, что физический объект (камень) уже есть, даже когда нас нет. И поэтому довольно странно предполагать, что физический мир это артефакт мышления, если, конечно, мы не в симуляции живём. И в этой картине избавиться от магии физического просто не получается.
Мой тезис - теория всего невозможна. Если ожидать от неё объяснения всех терминов через другие, понятные термины, которые понятны в силу их объяснения через другие понятные термины (и т.д.).
Хороший вопрос. Мне кажется тут два пункта: иметь "базовую теорию" (ну то есть вот буквально как работают первокирпичики нашего мира типа кварков) и уметь сводить теорию более высокого уровня к более низкому (психология - биология - химия - физика), т.е. редукционизм.
В первом, кмк, мы упёрлись в практические ограничения, и, грубо говоря, понять как работает кварк, уже невозможно, это магия. Он есть и он такой, end of story.
Но на это можно посмотреть и иначе -- что такое "объяснить"? Это же буквально по определению разложить на составляющие и понять, как из кусков получается новое целое. Но если мы уже добрались до элементарных частиц, как такое объяснение могло бы выглядеть хотя бы в теории?
Второе, думаю, формально возможно, но технически нереально (ну как понять на основе движения электронов, что у нас MS Word запущен). А кроме того, судя по всему, это контрпродуктивно, т.к. на каждом этаже возникает своя "эмерджентность", которая пропадает, если с него уйти.
Грубо говоря, один из трёх палочек составляет букву "А", а другой краской рисует "а" курсивом. Если спуститься на физический уровень, в этих двух сетапах нет ничего общего, и мы резко теряем что-то важное.
Прошу вас принять глубокую благодарность и признательность за ваше время и силы, затраченные на отличный по качеству и потрясающий по смысловому объёму Σωκρατικὸς λόγος, проведённый вами в комментариях к данной статье. Ваше изложение поразительно сочетает очень высокую смысловую плотность с легкостью восприятия и сравнительной доступностью понимания. Вы потрясающе грамотно, умело и динамично упаковываете смыслы в текст. Следовать за вашими изложениями аргументов и идей - истинное наслаждение. Честно, я слегка обалдел от уровня и качества дискуссии. Есть ли у вас какие-нибудь комплексные тексты (кроме 2.1к комментариев)? Было бы очень интересно их почитать.
Ого! Польщён сравнением.
Есть ли у вас какие-нибудь комплексные тексты (кроме 2.1к комментариев)? Было бы очень интересно их почитать.
Записей и заметок - не счесть. Но они для моего собственного потребления, поэтому все достаточно сырые. Я не особо нацелен на публикации - это много работы, плюс включается перфекционизм, и это количество работы резко увеличивается. Помнится, есть пара комментариев периода, когда я уже определился с проблематикой ментальное vs физическое - в сторону идеализма - и потихоньку начал переключаться на абстрактное vs конкретное. Попробую поискать - если найду, скину сюда ссылку.
Вот, нашёл:
https://habr.com/ru/companies/ruvds/articles/509478/comments/#comment_21890502
Судя по содержанию, я тогда был в исключительно хорошем расположении духа. :) И, как говорится, Остапа понесло...
Мы почему-то сразу прыгаем к выводу, что есть некая "трудная" проблема.
Так там же принципиальное расхождение, есть люди которые просто берут и без всяких оснований заявляют "это в принципе не может быть работой мозга". И всё. Ну вот им так кажется. Помните "мельницу Лейбница"? Лейбниц же просто сказал, ну нет, вот то что делает эта мельница это никакое не восприятие, и всё, это ВСЁ рассуждение. Такой вот подход, доверять собственной "чуйке". Хороший это подход или плохой каждый уж сам решает. Но это невозможно перебить никакими логическими аргументами, потому что в самой основе их убежденности не лежит логика.
Кстати, почему именно "биологические шовинисты"?
Лично я не считаю именно физическую реальность фундаментальной. Соответственно, и биологическую - для которой физическая это инфраструктура. Я не акцентирую на этом, т.к. по опыту в этом случае с крайне высокой вероятностью столкнусь с практически полным непониманием того, что хотел сказать. Но уж если называть меня шовинистом, то точно не биологическим. Скорее - субъектно-квалитативным, что ли.. :)
Но чисто прагматически я считаю, что мы движемся в сторону следующий ситуации - когда (если всё же не упрёмся в некий потолок) нашу повседневность заполнят машины, убедительно воспроизводящие внешние признаки не только интеллектуальной деятельности, но и эмоциональной. И когда будет пересечён некий порог, страны станут перед непростым выбором: дать машинам права наравне с людьми или нет - и тогда иметь социальную действительность, в которой каждый взрослый и ребёнок может иметь "раба", которого можно безнаказанно "эксплуатировать", "мучать" и "убивать". И, хотя я взял эти слова в кавычки, но опыт людей, которые будут безнаказанно "мучать" и "убивать" своих "рабов", будет вполне, по внешним признакам страдания, аутентичным опыту, когда мучают и убивают живых людей.
Моё мнение, что если страна выберет второй путь, то тогда как минимум не исключена вероятность того, что в ней будут расти целые поколения садистов - особенно, если машины будут качественно адаптированы под человеческий облик и поведение. Этически - это очень плохой сценарий.
Но и первый путь тоже вызывает этические вопросы. Права это права, а ИИ - чёрный ящик. И если там, "под капотом", нечеловеческие расчёты будут терпеливо создавать сценарий, при котором человечество тем или иным способом будет повержено или даже полностью уничтожено - лучше ли это? Не будет ли такой подход шовинизмом людей по отношению к самим себе?
Я не знаю правильного ответа. Имхо, это, вот прямо сейчас - сингулярность. И пока - чем дальше, тем сингулярнее. Очень, очень интересно, что будет дальше. Примерно, как в ванне с крокодилом. :)
С другой стороны - человечество само себе крокодил. Б.м., нам не придётся мучиться вот этими этическими проблемами, потому что мы успеем сами себя прикончить или откатить в каменный век ещё до того, как они станут остро актуальными.
>"верхний" уровень даётся нам непосредственно.
Это может казаться но не являться таковым, потому что сознание высокоуровневая программа, которая "не видит" глубокие инфраструктурные слои аппаратного обеспечения. У человека еще множество выученных автоматизмов, которые мы не воспринимаем таковыми. Например, банальная ходьба. Если вы очень пристально начнёте наблюдать как мы ходим, то заметите что волевым усилием мы направляем тело, как погонщик животное, а идёт оно само, движения стали автоматизмами. Хотя, доступными для волевого вмешательства.
сознание высокоуровневая программа
То, что сознание это программа - очень сильное суждение. Можно поинтересоваться, на чём оно основано? Есть исследования сознания, прямо подтверждающие это?
У человека еще множество выученных автоматизмов, которые мы не воспринимаем таковыми. Например, банальная ходьба. Если вы очень пристально начнёте наблюдать как мы ходим, то заметите что волевым усилием мы направляем тело, как погонщик животное, а идёт оно само, движения стали автоматизмами.
Да, я пришёл к таким же выводам лет двадцать назад. И более того, движения не просто стали автоматизмами - они, в своей существенной части, всегда для нас таковыми и были, потому что мы никогда сознательно не контролируем, например, какие именно мышечные волокна раздражать специально подобранными сигналами нервной системы, и мы осознанно не посылает этих сигналов. До относительно недавнего времени люди вообще были не в курсе о тонкостях работы нервной системы. Практически все регуляции мозгом работы организма полностью или почти полностью автоматизированы изначально. Поднимая руку мы генерируем намерение, которому тело почему-то (хотя, не обязательно всегда) покорно подчиняется, но процессы, которые физически приводят к довольно точно отмеренному движению - остаются "за кадром".
Это может казаться но не являться таковым, потому что сознание высокоуровневая программа, которая "не видит" глубокие инфраструктурные слои аппаратного обеспечения.
Под непосредственностью субъективного опыта я не имею в виду, что мы прямо видим фундаментальную суть реальности, включая все инфраструктурные процессы и в таком духе.
К сожалению, в русском языке сознанием называют и то, что в англоязычной называют mind, и то, что называют consciousness. Ниже я буду использовать сознание в смысле mind.
Сознание это - эмпирически - субъективное персональное пространство с куда большим количеством измерений, чем 3: в нём взаимно независимо объединяются разные типы восприятия. Пять классических сенсорных ощущений это даже не пять отдельных измерений, а пять подпространств, т.к., например, только цвет требует непустой площади (2 измерения) плюс отдельные типа насыщенности, оттенка и т.д. Современная наука открыла ещё пару десятков сенсорных ощущений, работающих в более "фоновом" режиме, но воспринимаемых. И это не говоря о куда более богатых на параметрическое разнообразие эмоциях и мыслях.
В пространстве сознания мы имеем фокус - внимание. И мы можем направлять его достаточно произвольно как между различными типами восприятия, так и между деталями восприятия одного и того же типа.
Наше осознанное восприятие всегда направлено. Оно всегда о чём-то. Это фундаментальное свойство называется интенциональностью. Наиболее простые интенции - это, например, простые сенсорные рефлексии, когда мы взаимодействуем с объектами. Более сложные (и они "наслаиваются" друг на друга, включая друг друга и работая параллельно) - состояния суждения о чём-то, веры во что-то, любви к чему-то, припоминания чего-то и т.д. и т.п.
Всё это эмпирически доступно в явной форме, как вы истинно выразились "если очень пристально начнёте наблюдать".
Вот это пространство сознания и есть наша непосредственная реальность. Другой такой непосредственной у нас нет. Даже когда мы наблюдаем внешние объекты, на деле опыт внутренний. Буквально - если я, скажем, смотрю на монитор, я полагаю его вовне, но вижу внутри своего внимания. Все наши отсылки к внешней действительности - внутренние.
И никто по сей день не знает, как может механистическая машина типа мозга (если он является такой машиной) порождать нечто подобное нашему сознанию, лишённое внутри себя (а вовне его никто не наблюдал) всякой механистичности. Есть веские причины считать, что не может, но об этом и так уже много сказано под общим заголовком "трудная проблема сознания".
Но даже если предположить, что мозг какой-то магией (напр., заметаемой под коврик термина "эмерджентность") порождает сознание, а не, скажем, регулирует его содержания, пока сознание существует и (каким-то непостижимым пока образом - "психофизический парадокс") связано с телом - то даже с позиции физики мы замкнуты в мозге. Мы не получаем никаких непосредственных сигналов от внешней реальности - сенсорные раздражители типа света не попадают нам в сознание, изображение генерируется мозгом. Как и все остальные ощущения.
Т.е., даже с точки зрения физикалистического подхода мы находимся "в чёрном ящике", и можем только пытаться догадываться, что на самом деле "снаружи". Но так выходит, что наши внутренние восприятия динамически организовываются таким образом, что создают устойчивое впечатление внешнего физического мира. Дедуктивно доказать его существование невозможно. Но практика показывает, что если хочешь оставаться в нём подольше - надо учитывать его законы.
Тем временем непосредственной реальностью для нас остаётся исключительно реальность сознания. Можно в это не верить, потому что можно верить почти во всё, что угодно - чем люди и занимаются. Но если последовать предложению Гуссерля и хорошенько отработать феноменологическую редукцию - грубо говоря, осознанно на время отказаться (словами Гуссерля - "вынести за скобки") от всех своих мировоззренческих (особенно, метафизических) взглядов, то можно взглянуть на реальность своего сознания, как таковую, и начать отчётливо наблюдать его структуру.
И вне зависимости от роли мозга - всего вышеописанного нет и не может быть у LLM.
>очень сильное суждение. Можно поинтересоваться, на чём оно основано?
Чисто моё обывательское представление, не более. Но под "программой" не имелось в виду детерминированный примитивный код. Скорее это очень гибкая и многоуровневая информационно-физиологическая система, задача которой обрабатывать входящую и предсказывать развитие ситуации исходя из действий организма.
>мы никогда сознательно не контролируем, например, какие именно мышечные волокна раздражать специально подобранными сигналами нервной системы, и мы осознанно не посылает этих сигналов.
Да ну, посмотрите на любой процесс обучения двигательным навыкам, например как новички играют на гитаре или водят велосипед, там как раз каждое действие сознательно контролируется. Понятно, что не на уровне отдельных волокон, но на уровне групп мыщц точно. Есть даже упражнения для проработки конкретных мышц.
Да, конечно. Но даже этот контроль над группами мышц - есть "эпистемический разрыв" между сознанием и физическим ощущением с одной стороны, и сокращением группы мышц с другой. Мы же понимаем, что это не намерение и не ощущение контроля напряжения в конкретной мышечной группе реально физиологически и строго дозированно сокращают и расслабляют мыщцы.
Если топить за этот подход, то у меня вопрос - если субъектвный опыт это иллюзия, то чья это иллюзия? Если ничья, то и самой иллюзии нет. Если чья-то, то, внезапно, возвращается субъект с непосредственным опытом
Ну возвращается, и что? Вопрос же в том что такое субъект, что такое его опыт и может ли субьект доверять собственной интроспекции. Если его интроспекция ничего не сказала ему о том что его мышление как то связано с "сигналами с дендритов и передачей их дальше по аксонам", значит любой информации полученной от интроспекции доверять не надо и все выводы полученные на основании интроспекции стоить игнорировать. Замечу, это не значит что субъективного опыта нет или что любую информацию полученную с помощью субъективного опыта тоже надо игнорировать, это значит что надо игнорировать информацию о самом субъективном опыте полученную через интроспекцию потому что мы явно видим что интроспекция врёт. Да, действительно, "С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact." но вопрос не в том есть он или нет, вопрос в том что он такое и чему доверять при выяснении этого вопроса.
Так же пока нет времени ответить более подробно. Поэтому короткий комментарий.
значит любой информации полученной от интроспекции доверять не надо и все выводы полученные на основании интроспекции стоить игнорировать.
Интересно, что вы понимаете под интроспекцией.
Наше восприятие фундаментально интенционально. Внимание это динамическая функция высшего порядка. Динамическая, потому что может менять порядок восприятия. Можно определить нулевой порядок, когда содержание восприятия есть в "непосредственной близости" от внимания, но нет рефлексии.
Это, например, периферийное восприятие, которого не замечаешь, сосредоточившись на чём-то другом, но оно моментально повышает порядок до восприятия первого порядка - рефлексии - при обращении внимания.
Первопорядковое восприятие включает рефлексию - мы имеем уже не просто сырое восприятие, но его интерпретации, соответствующие нашему пониманию окружения и мира.
Допустим, вы переходите дорогу только на зелёный свет, и только когда убеждены, что он зелёный.
Когда мы видим, скажем, зелёный свет на пешеходном перекрёстке и на этом основании принимаем решение перейти дорогу, мы воспринимаем (отнюдь не только зрительно) композицию из сырого "цветового пятна" и абстрактных объектов "светофор" и "зелёный свет".
Интроспекция - это когда мы повышаем внимание до 2-го порядка. Например, задавшись вопросом - "что я сейчас воспринимаю". И интроспекция даст ответ в духе "светофор, зелёный свет". Но, поскольку вы предлагаете никогда не доверять выводам интроспекции, дорогу перейти у вас никогда не получится (согласно допущению выше).
Я никогда не утверждал, что интроспекции (и, в целом, восприятию) нужно доверять всегда и безусловно. Выше даже приводил пример с иллюзией преломления карандаша в стакане воды. Но если никогда не доверять, то далеко не уйти - ни в смысле перехода через дорогу, ни в смысле, например, научной работы, да и любой интеллектуальной деятельности, которая крайне неэффективна без активного использования интроспекции. А мы ей стихийно пользуемся всегда, когда необходимо действовать не спонтанно, а ясно осознавая происходящее.
Интересно, что вы понимаете под интроспекцией.
Любой анализ внутренних ментальных процессов (не их использование, а их анализ). Например если я в уме посчитал 23 * 65 то это не интроспекция, а если я попробовал обратить внимание внутрь и понять, а что именно я собственно делал когда считал в уме 23 * 65, что я могу сказать об этом процессе, то это я бы назвал интроспекцией.
Например, задавшись вопросом - "что я сейчас воспринимаю". И интроспекция даст ответ в духе "светофор, зелёный свет".
Ну нет, это просто смещение фокуса внимания и использование восприятия чтобы получить ответ "воспринимаю что-то что называется светофором и что то что называется зеленым светом". А вот уже анализ типа "а что собственно такое "воспринимаю что-то что называется светофором и что то что называется зеленым светом"?" это уже интроспекция.
Также можно выделить ее так: одна из отличительных черт интроспекции это то что от корректности ее выводов ваша жизнь не особо зависит. То есть вывод "вижу зеленый свет светофора" это не интроспекция, так как от того действительно ли на светофоре горит зеленый свет или нет, ваша жизнь зависит непосредственно, разок ошиблись, и всё, машина сбила. А вот уже анализ того а что собственно значит "вижу зеленый свет светофора", то ли это активность нейронной сети то ли что то еще, это уже интроспекция и от выводов полученых с ее помощью никак не зависит собьёт вас машина или нет.
Это собственно еще одно свидетельство в пользу того чтобы не доверять интроспекции, восприятию окружающего мира верить можно, так как если бы оно постоянно обманывало, то люди бы и не выжили, сложно выжить если вместо тигра ты видишь зебру. А вот от правильности ответов на вопросы "а что такое восприятие" выживание человека зависит слабо, поэтому нет причин говорить что интроспекция не обманывает.
Любой анализ внутренних ментальных процессов (не их использование, а их анализ).
Отлично, я об этом и писал. Когда я смотрю на светофор, вижу зелёный и начинаю переходить дорогу - это простая рефлексия первого порядка. Если я (например, из-за странного уличного освещения) засомневался, что вижу именно зелёный, то поднимаю рефлексию до второго порядка для обозревания и анализа содержаний текущего восприятия (которые тоже внутренние ментальные процессы) - включая светофор и окружающую обстановку. Это простейший случай интроспекции, и мы им постоянно пользуемся, и зависим от него - вот как раз во всём аналитическом.
Разнообразные "продвинутые" методы интроспекции - это адаптация уже имеющейся у нас способности к тем или иным специфическим задачам.
Если я (например, из-за странного уличного освещения) засомневался, что вижу именно зелёный, то поднимаю рефлексию до второго порядка для обозревания и анализа содержаний текущего восприятия
Нет, "обозревание и анализ содержаний" (что то, что используется для ответа на вопрос "я действительно вижу именно зелёный?" или "светофор действительно зеленый?") это не то что я имел ввиду под "интроспекцией". Я же написал что под "интроспекцией" я имею ввиду то что отвечает на вопросы от корректности ответа на которые не зависит непосредственно ваша жизнь. "светофор действительно зеленый?" это вопрос от ответа на который ваша жизнь напрямую зависит. А вот вопрос "а что такое собственно "видеть зеленый сигнал светофора", что именно происходит в этот момент?" уже нет, это вопрос от которого ваша жизнь не зависит.
Я же написал что под "интроспекцией" я имею ввиду то что отвечает на вопросы от корректности ответа на которые не зависит непосредственно ваша жизнь.
Это характеристика не имеет идентифицирующего свойства. Если её использовать для индентификации интроспекции, то ЧатЗПТ, Гугл и любой small talk можно назвать интроспекцией.
Впрочем, вы вольны понимать под интроспекцией что угодно и как угодно - и кто я такой, чтобы кого-то переубеждать. Да, честно, сегодня и сил на это нет - пришлось работать до 4 утра, и всё это время Windows вместе с ChatGPT 5 Pro безбожно косячили и выносили мне мозг.
Свою характеристику интроспекции базового уровня я изложил. Она не поменялась, и добавить мне пока нечего.
Это характеристика не имеет идентифицирующего свойства. Если её использовать для индентификации интроспекции, то ЧатЗПТ, Гугл и любой small talk можно назвать интроспекцией.
ну понятно же по контексту что имелось ввиду "то что человек использует (сам человек, без использования внешних средств) для ответа на вопросы о своих собственных внутренних ментальных процессах, но от корректности ответа на которые не зависит непосредственно его жизнь"
Впрочем, вы вольны понимать под интроспекцией что угодно и как угодно - и кто я такой, чтобы кого-то переубеждать.
Да я вроде и не убеждал никого что мое понимание слова "интроспекция" самое правильное. Об этом и речи не было, я говорил что если вы отвечаете на вопрос о том "что такое субъект и что такое его опыт?" анализируя только сами себя, само свое восприятие (а то с помощью чего вы это делаете я назвал интроспекцией) то вы приходите к неправильным выводам, потому что то что вы используете работает некорректно.
ну понятно же по контексту что имелось ввиду "то что человек использует (сам человек, без использования внешних средств) для ответа на вопросы о своих собственных внутренних ментальных процессах, но от корректности ответа на которые не зависит непосредственно его жизнь"
И эта характеристика тоже не идентифицирует интроспекцию сущностным способом (искусственное условие - для спора? - о жизни).
Т.е., если в плохих условиях освещения я задаю себе вопрос - какого цвета, действительно, я вижу свет на светофоре - то это, по-вашему, не интроспекция, потому что от корректности решения зависит моя жизнь.
Если та же ситуация, но в компьютерной игре, и я задаю себе тот же вопрос - то, внезапно, это уже интроспекция, т.к. от этого моя жизнь не зависит.
Тем временем, ментальная операция одна и та же.
Интроспекция вполне хорошо и функционально определяется через рефлексию и порядок. Удобно, лаконично, проверяемо.
если вы отвечаете на вопрос о том "что такое субъект и что такое его опыт?" анализируя только сами себя, само свое восприятие (а то с помощью чего вы это делаете я назвал интроспекцией) то вы приходите к неправильным выводам, потому что то что вы используете работает некорректно.
А с чего вы решили, что интроспекция всегда работает некорректно? Как любой инструмент, её можно использовать неправильно. Необходимы, например, предварительные эпохе и редукция, которые я недавно упоминал в другом сообщении.
Даже прямая рефлексия (простое осознанное восприятие) способна обманывать - всевозможные иллюзии с разными "спецэффектами" тому прекрасная иллюстрация. Вы же не предлагаете отказаться от восприятия вообще?
Вопрос не в том, чему можно слепо, безусловно верить. Имхо, бессмысленно и контрпродуктивно искать такие источники информации. Особенно, если цель не копить "факты", становясь ходячим поверхностным словарём, а расширять и углублять понимание исследуемой предметной области.
Вопрос не в содержаниях восприятия - от которых нам никуда не деться, пока живы. Вопрос в методах работы с ними. И я не помню, чтобы где-то призывал использовать только и исключительно интроспекцию. Персонально я за то, чтобы каждый пользовался теми инструментами, которые с его точки зрения наиболее целесообразны и удобны. Зачем априори кого-то ограничивать - если это не криминал, конечно. :)
И эта характеристика тоже не идентифицирует интроспекцию сущностным способом (искусственное условие - для спора? - о жизни).
Т.е., если в плохих условиях освещения я задаю себе вопрос - какого цвета, действительно, я вижу свет на светофоре - то это, по-вашему, не интроспекция, потому что от корректности решения зависит моя жизнь.
Если та же ситуация, но в компьютерной игре, и я задаю себе тот же вопрос - то, внезапно, это уже интроспекция
Почему? Как вы верно заметили ментальная операция одна и та же, такая от которой зависит выживание человека (не в каком то конкретном случае разумеется, а вообще, в принципе, хотя бы в одном случае)
А с чего вы решили, что интроспекция всегда работает некорректно?
А я так не решил, я сказал что есть ситуации когда она врет и понятно что в ходе эволюции она и не развивалась так чтоб почаще не врать (на выживание то это не влияет). Доверять ей после этого или нет каждый сам для себя решает. На мой взгляд инструменту, который делали даже не заботясь о том чтоб он правильно работал, доверять не стоит, но вообще конечно даже сломанные часы работают корректно два раза в сутки, так что да, кто хочет, может и сломаным часам доверять, вдруг они как раз в этот момент показывают правильное время.
Как любой инструмент, её можно использовать неправильно.
Чтобы использовать инструмент правильно надо понимать почему и в какой ситуации инструмент работает неправильно, причем получить эту информацию не с помощью самого этого инструмента.
Почему? Как вы верно заметили ментальная операция одна и та же, такая от которой зависит выживание человека (не в каком то конкретном случае разумеется, а вообще, в принципе, хотя бы в одном случае)
Для меня эти уточнения звучат, как натягивание совы на глобус, уж простите за сарказм.
Условие "такая, от которой зависит выживание человека" никак не выделяет сущность определяемого. Это, так сказать, акцидентальный предикат, который в одной ситуации может быть истинным, в другой может быть ложным - при одном и том же определяемом предмете. Поэтому методологически некорректно составлять определения с такими условиями.
А я так не решил, я сказал что есть ситуации когда она врет и понятно что в ходе эволюции она и не развивалась так чтоб почаще не врать (на выживание то это не влияет).
Тут есть сразу три утверждения:
"есть ситуации когда она врет"
"в ходе эволюции она и не развивалась так чтоб почаще не врать"
"на выживание то это не влияет"
Тут нужны отдельные аргументы по каждому пункту.
Я пока остаюсь при своём определнии интроспекции - и она, такая, очень полезна для выживания. Причём не только индивидума, но и всего человечества. Т.к. без неё не развивались бы науки и технологии, например.
Чтобы использовать инструмент правильно надо понимать почему и в какой ситуации инструмент работает неправильно, причем получить эту информацию не с помощью самого этого инструмента.
И это понимание есть, см. "феноменология Гуссерля". Но да, это не пятиминутное развлечение, так что не см., если не хочется напрягаться. :)
Для меня эти уточнения звучат, как натягивание совы на глобус, уж простите за сарказм.
А мне кажется вы всё поняли и теперь просто ищете к чему докопаться. Ну, можете еще граматику моих комментов проверить, если хотите.
Я пока остаюсь при своём определнии интроспекции
Так и пожалуйста, я и не претендовал на то чтобы его сменить. Я говорил только о такой интроспекции которая используется для ответов на вопросы типа "что такое опыт, это работа нейронной сети или нет?", "что такое арифметический счет в уме, это работа нейронной сети или нет?", "что такое наша память, это состояние нейронной сети или нет?", и т.д.
и она, такая, очень полезна для выживания. Причём не только индивидума, но и всего человечества. Т.к. без неё не развивались бы науки и технологии, например.
Так ведь речь не о том что "она полезна", понятно что она полезна такая какая есть и с другой мы бы наверно и не выжили, вопрос в том полезно ли ей быть верной, полезно ли чтобы она сообщала верные сведения, приводила к верным суждениям? Зависит ли что то от того сообщает ли она вам верные сведения или нет? Вот представьте что кто то на основе интроспекции сделал заключение что "арифметический счет в уме это вовсе не работа нейронной сети мозга" и он на самом деле неправ. И что, что то зависит от того что он неправ? Нет, не зависит, он может так неправильно считать до посинения и это ни на что не повлияет. Собственно потому и спор между физикалистами и нефизикалистами неразрешен, ведь от того какая из сторон права, ничего не зависит. А раз от корректности суждений полученых от интроспекции ничего не зависит, то с чего бы нам думать что интроспекция у нас в результате эволюции получилась такая что сообщает нам верные сведения?
А мне кажется вы всё поняли и теперь просто ищете к чему докопаться. Ну, можете еще граматику моих комментов проверить, если хотите.
Я же потом содержательно ответил, почему считаю такое ситуативное определение не сущностным, и почему не сущностные определения на деле не определяют сущность определяемого.
Я говорил только о такой интроспекции которая используется для ответов на вопросы типа "что такое опыт, это работа нейронной сети или нет?", "что такое арифметический счет в уме, это работа нейронной сети или нет?", "что такое наша память, это состояние нейронной сети или нет?", и т.д.
Вы решили, что только интроспекция используется для ответов на озвученные вами вопросы? Через корректно использоваемую интроспекцию можно узнать о структуре непосредственного пространства своего субъективного обитания - сознания. Для прочих предметных областей интроспекция играет чисто вспомогательную регулирующую роль - остановиться, очистить мысли, оценить ситуацию "со стороны", выбрать дальнейший путь действий. Мы это делаем, даже не замечая - только если специально не обращаем на это внимания (интроспекция интроспекции :)).
Для ответов на вопросы, объединяющие предметные области разных типов, например, квалитативную и физическую - явно нужно задействовать как минимум два инструмента: интроспекцию для оценки субъективной структуры, и физические исследования для оценки, скажем, нейронной структуры.
В своём исходном сообщение вы подтвердили реальность субъективного опыта:
Да, действительно, "С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact."
Brute fact - это факт, от которого нельзя просто так отмахнуться, не потеряв что-то существенное.
В этой субъективной реальности, которая brute fact, происходят самые важные события нашей жизни. И самые неважные - вообще все события. Мышление, как мы его знаем - происходит в этой субъективной реальности.
А теперь рассмотрим LLM - мы точно знаем, что это механизм, т.к. сами его сделали с нуля. И ни одна из деталей этого механизма не является субъективным сознанием, не так ли?
Почему мы должны считать, что в совокупности эти детали производят субъективность? Это для нас субъективность на (предполагаемом) механизме - мозге - brute fact. У нас тупо нет выбора - мы поставлены перед этим фактом самой реальностью. И этот психофизический парадокс не решён, и решения ему на горизонте не предвидится.
Почему мы должны брать произвольный, даже супер-сложный, механизм и приписывать ему такой же brute fact? Вы любите множить парадоксы? Я нет.
Если мозг всего-лишь механизм, то у него тоже не должно быть субъективного сознания. И если он механизм, и оно есть - то это какая-то магия, отрицающая любое рациональное объяснение. Вам нравится множить такую магию? Мне нет.
Поэтому про LLM я готов говорить, что там субъективности нет. Нет в том смысле, что чисто механизмами не может быть произведена субстанция совершенно другого типа - субъективность. Если у LLM и есть субъективность, то это будет вот такая же магия, как у нас. И что в этом хорошего? Она будет так же неконтролируема, так же непостижима, и так же необнаружима извне.
Вы хотите ввести закон природы, который наделяет субъективным мышлением механизмы, обладающие некоторой сложностью выше некоторого порога? Если да - легитимно! Я первый буду рад начать вчитываться в ваше исследование, в котором раскрываются признаки и детали этого закона.
Со своей стороны, я такой закон вводить не хочу. Потому что не люблю магию, и считаю, что пример человека (и, в целом, живых существ) следует рассматривать, как исключение, пока не найдены условия обретения (доселе) неживой материей сознания.
Вы решили, что только интроспекция используется для ответов на озвученные вами вопросы?
Нет, не только интроспекция, есть еще научный метод: эксперименты с собой, c другими людьми и т.д. Но люди которые например утверждают что арифметический счет в уме это вовсе не работа нейронной сети, этого не делают, они просто обращают своё внимание на сам этот арифметический счет в своем собственном уме и пытаются его проанализировать чисто внутренними средствами, сделать выводы он нем, просто его выполняя и наблюдая за ним. Вот эти действия я и назвал интроспекцией.
И ни одна из деталей этого механизма не является субъективным сознанием, не так ли?
Не знаю. Я же говорю, для этого надо понять а что такое собственно эти самые субъективные переживание/опыт/сознание, каковы они, какие факты можно о них утверждать. А для этого надо либо обратить внимание на эти субъективные переживания когда они происходят в вас самих и попытаться сделать выводы, то есть выполнить то что я назвал интроспекцией и то что я не считаю хорошим инструментом для ответа на данный вопрос. Либо использовать научный метод: экспериментировать со своими субъективными переживаниями, следить что с ними происходит в разных ситуациях, когда они исчезают, когда появляются, экспериментировать с субъективными переживаниями других людей (а мы в любом случае по этическим соображениям предполагаем что субъективные переживания это что то что есть и у других людей), собирать статистику, пытаться увязать получаемые факты с тем фактами которые мы уже считаем верными, (например с тем что все наши особенности мы получили постепенно, в результате постепенной эволюции/мутации), и т.д.
Можно ли используя этот метод уже сейчас сказать, что то, что делает LLM это субъективные переживания? Мне кажется что нет, нужно продолжать исследования, но как минимум можно сказать что это что то похожее.
Нет в том смысле, что чисто механизмами не может быть произведена субстанция совершенно другого типа - субъективность.
Вот это вот утверждение что "это субстанция совершенно другого типа", это очевидно утверждение полученное вами через интроспекцию, анализ вашей субъективности внутренними средствами, поэтому нет, это утверждение я игнорирую, так как не считаю что оно получено надежным инструментом.
То есть да, существование субъективности, это brute fact, от него нельзя отмахнуться, но выводы о том что это субстанция совершенно другого типа это уже не brute fact, это уже что то от чего можно отмахнуться и ничего не потерять, это уже что то во что можно верить а можно и не верить.
Да, возможно субъективность и выглядит как субстанция совершенно другого типа, при ее анализе внутренними средствами, но нас то (ну, меня по крайней мере) не интересует то как она выглядит, нас интересует то чем она является на самом деле, является ли она нейронной активностью мозга или нет. И получается что если она нейронной активностью мозга не является, то как тогда объяснить наличие корреляции между нейронной активностью мозга и субъективными переживаниями? Никак. И оно мне надо иметь необъяснимый факт в моей картине мира? Нет, оно мне не надо. Следовательно я игнорирую то как для меня выглядит субъективность, считая что это обман то как она выглядит, просто некорректная работа внутренних инструментов ответственных за это (что логично, так как в ходе эволюции эти инструменты и не должны были хорошо заработать), и полагаю что субъективность это просто нейронная активность мозга. И всё, все факты объяснены, и нигде никакой магии нету.
если я попробовал обратить внимание внутрь и понять, а что именно я собственно делал когда считал в уме 23 * 65, что я могу сказать об этом процессе, то это я бы назвал интроспекцией
а теперь вопрос: почему вы так уверены, что результат вашей интроспекции будет совпадать с тем, что на самом деле происходило в мозге?
"С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact." но вопрос не в том есть он или нет, вопрос в том что он такое и чему доверять при выяснении этого вопроса.
Этой проблематикой, кстати, очень интенсивно занимался Гуссерль, работая над феноменологией. Тогда это был самый настоящий академический прорыв на стыке эмпирической науки и прикладной философии. Если бы не нацистская Германия, репрессировавшая Гуссерля и его программу, убившая некоторых наиболее многообещающих учеников (Эдит Штайн, Леопольд Блаустейн), то сегодня бы в Европе существовала целая научно-философская школа с совершенно уникальной программой ментальных тренировок. Увы, существенную часть своей научной работы Гуссерль вынужден был доделывать сам, а ввиду крайней сложности предмета, его работы очень трудно понимать - и понимать per se, и в том смысле, что трудно понять, соотвуетствует ли это понимание тому, что имел в виду сам Гуссерль. Ученики разбежались кто куда из-за войны и репрессий, понахватав того-сего, и, паразитируя на этом стали продвигать свои идеи, не связанные с гуссерлевой академической программой. А мерзавец Хайдеггер вообще принял нацизм и отрёкся от учителя, хотя был наиболее "приближённым" и многообещающим учеником. Тьфу на него.
Тем не менее, сегодня (по крайней мере, на английском) можно найти работы Гуссерля с довольно качественными комментариями, разъясняющими терминологию и концепции и, в целом, язык в современных терминах. Всё равно изучение крайне трудное, т.к. требует совмещения логического анализа с интенсивным созерцанием + эпохе и феноменологическую редукцию. Эпохе и редукцию я (не так систематически, как Гуссерль, конечно) освоил больше 15 лет назад независимо, задолго до знакомства с феноменологией. И многие результаты, описываемые Гуссерлем, со мной резонируют. Это как минимум означает, что хотя бы между некотороми людьми есть определённая общность субъективного опыта, поддающаяся систематическому исследованию и описаниям, дающим возможность воспроизведения результатов. И этим мы имеем третий вид объективности (после математической и физической) - субъективную объективность. Звучит парадоксально, но только если не учитывать, что вообще всю объективность мы познаём исключительно через свою субъективность.
Этой проблематикой, кстати, очень интенсивно занимался Гуссерль, работая над феноменологией.
Ну вот если бы он через "интенсивное созерцание" внезапно обнаружил что в его мозгу есть нейроны и понял зачем они собственно нужны, тогда я бы поверил что созерцанием самого себя можно придти к каким то верным открытиям. А так получается что нейроны есть, что-то делают, а что собственно делают через созерцание не обнаружить. А значит что? Значит надо выкинуть все результаты для которых было необходимо это самое "интенсивное созерцание" так как это плохой, негодный инструмент. Тем более что никто и не заметит выкинули вы результаты или нет, от их верности ничего не зависит.
так получается что нейроны есть, что-то делают, а что собственно делают через созерцание не обнаружить. А значит что? Значит надо выкинуть все результаты для которых было необходимо это самое "интенсивное созерцание" так как это плохой, негодный инструмент.
Ок, для вас всё, что не сводится к нейронам и чему-то такому физическому - бесполезно и бессмысленно и надо выбросить. Легитимно!
Я считаю, что не всё сводится к нейронам и чему-то такому физическому, и что есть огромное множество полезного для изучения без привлечения редукции к физическим объектам (та же математика). Тоже легитимно.
Теперь вопрос: какой смысл нам тратить время на это общение, если априори мы выбираем для себя существенно разные пути?
Я ваше мнение (надеюсь) понял, и оспаривать его не собираюсь. Что считать важным и существенным - это личный выбор, и я уважаю этот выбор. И ваш, и свой.
Я считаю, что не всё сводится к нейронам и чему-то такому физическому,
Проблема тут в следующем, можно сколько угодно теоретизировать на тему есть ли сознание у ИИ, и приходить к выводу что нету, но абсолютно не факт что на практике удастся точно также считать что нету.
Ну то есть логика "Если мне кажется что X = true, то значит X = true" или "Если что то выглядит как X, то значит оно действительно X" работает только пока ее не применят на практике. То есть, вот допустим выглядит для меня некий человек как идиот, для меня непосредственно дано что он идиот, у меня абсолютная ясность что он идиот, для меня это достоверное знание, и все такое прочее. Но разве могу я действовать исходя из этого, могу ли я действительно считать что он идиот? Нет, потому что внезапно выясняется что если у меня есть "достоверное знание что X = true", то у кого то другого может быть "достоверное знание что X = false".
Или можно копнуть глубже, то что нам типа дано непосредственно, это наличие субъективных переживаний и всё, соответственно мы можем сказать, ну раз все вокруг выглядит как субъективные переживания, то значит всё вокруг и есть субъективные переживания (то есть солипсизм верен).
А раз так, то я могу делать все что угодно со своими субъективными переживаниями, например могу иметь субъективное переживание выстрела в субъективное переживание головы. Но тут выясняется что после такого субъективного переживания, почему то происходит переживание приезда полиции, суда, тюрьмы, сожалений и т.д. Ну вот и что с этим делать, как на практике продолжать пользоваться логикой "если что то выглядит как X, то оно X"?
То есть на практике логика "раз все вокруг выглядит как субъективные переживания то значит всё вокруг и есть субъективные переживания", все равно не работает, все равно приходится признавать что совершенно не важно как всё выглядит, совершенно неважно наличие "абсолютной ясности" и "достоверного знания", важно что можно с этим сделать, важно что кроме переживаний, надо ввести в картину мира что то ещё, чтобы можно было пользоваться этой картиной мира на практике.
То есть нет у нас реальной возможности следовать правилу "Если что то выглядит как X, то значит оно действительно X", нет у нас возможности следовать правилу, что если что то выглядит как достоверное знание, то значит оно и есть достоверное знание. Ну и нафига спрашивается оно надо?
Переходя к ИИ, это означает, что если роботы будут вести себя как люди и все признают за ними те же права что и за людьми, если мы разработаем технологию копирования своего сознания в ИИ, то на практике придется признать что сознание это вовсе не какая то магическая субстанция, а просто определенного вида "software", а то что кажется что это что то "магическое", то это ерунда, мало ли что кому кажется, мы же договорились не действовать исходя из того что что-то кажется.
Да, конечно, будут люди продолжающие считать (в теории) что сознание это все таки то чем оно кажется, но на практике они все равно будут вынуждены применять другое мировоззрение, и это главное.
Так что да, всё верно, вы можете спокойно следовать собственному мировоззрению/методологии (всё то чем оно кажется) в теории, проблема в том что вы не сможете использовать его на практике.
То есть я имею ввиду, что, если пофантазировать, то скажем когда у нас будет кнопка "Копировать свое сознание в новый искусственный мозг", вы её точно также будете нажимать как и все, на практике признавая что сознание это просто софт, но при этом, да, держать фигу в кармане, типа "хаха только я знаю что это вовсе не сознание копируется, ведь сознание это что то магическое, а тут просто цифры переносятся на новый носитель"
Ну то есть логика "Если мне кажется что X = true, то значит X = true" или "Если что то выглядит как X, то значит оно действительно X" работает только пока ее не применят на практике.
Не очень понимаю, откуда вы взяли эту "логику", но точно не от меня.
Напоминаю: моя эпистемология - (1) Непосредственно данное - без интерпретации - истина; (2) Логическая дедукция из истины - истина; (3) Соответствующее форме необходимо подчиняется её законам.
Пункт (1) это не "если кажется, что Х = истина, то Х = истина". Это, если попытаться выразить в подобных терминах, что-то такое: "если Х, то Х = Х".
То есть, вот допустим выглядит для меня некий человек как идиот, для меня непосредственно дано что он идиот, у меня абсолютная ясность что он идиот, для меня это достоверное знание, и все такое прочее.
Нет тут ни абсолютной ясности, ни непосредственной данности, ни достоверного знания. Невозможно сенсорно выглядеть идиотом, потому что невозможно сенсорно выглядеть человеком. Вы сначала проинтерпретировали, что некоторе цветовое пятно это человек, а потом на этом результате проинтерпретировали, что он идиот. Тут как минимум интерпретация второго порядка. Ничего непосредственного (ну, кроме самого сенсорного содержания и двух интерпретаций, как мыслительных содержаний).
Или можно копнуть глубже, то что нам типа дано непосредственно, это наличие субъективных переживаний и всё, соответственно мы можем сказать, ну раз все вокруг выглядит как субъективные переживания, то значит всё вокруг и есть субъективные переживания (то есть солипсизм верен).
Если вы читали достаточно внимательно, то должны понимать, что я однозначный противник солипсизма. Я считаю доказанным, что солипсизм неверен.
Поэтому дальше по тексту вы разговариваете не со мной, а с кем-то другим.
Попутно практикуя телепатию:
То есть я имею ввиду, что, если пофантазировать, то скажем когда у нас будет кнопка "Копировать свое сознание в новый искусственный мозг", вы её точно также будете нажимать как и все, на практике признавая что сознание это просто софт, но при этом, да, держать фигу в кармане, типа "хаха только я знаю что это вовсе не сознание копируется, ведь сознание это что то магическое, а тут просто цифры переносятся на новый носитель"
Причём, совершенно неуспешно. Я не вижу никакой самостоятельной ценности в создании имитации себя, поэтому если и нажму на кнопку, то только за существенные для себя деньги.
А вот, например, телепортом, который уничтожает тело в одном месте и воссоздаёт в другом - не воспользуюсь ни за какие коврижки. Единственный вариант - если будет выбор "медленная и мучительная смерть или телепорт". В этой ситуации телепорт это быстрая смерть, так что выбор понятен.
Напоминаю: моя эпистемология - (1) Непосредственно данное - без интерпретации - истина
Я так и интерпретировал, если использовать это на практикe, то например, один человек будет видеть бумажку с неким цветовым паттерном, а дальтоник ту же самую бумажку будет видеть как бумажку без всякого паттерна. То есть одному дано непосредственно что там есть паттерн, соответсвенно он должен считать что это истина что "на бумажке есть паттерн". Другому дано непосредственно что на бумажке нет паттерна соответственно он должен считать что это истина что на бумажке нет паттерна. Ну и как им это совместить на практике, не могут же они считать что на бумажке одновременно и есть и нету паттерна? А, или подождите, они могут считать что это non-logical утверждение, такое утверждение которое не подчиняется правилам логики и может быть одновременно и true и false?
Или другой пример, мне непосредственно дано что "кофе вкусный", соответственно я должен считать это истиной, и если действовать на основе этого, то предлагать всем кофе, ведь "он же вкусный, мне это дано непосредственно, а значит это истина, почему вы делаете вид что это не так, кофе не может быть вкусным и невкусным одновременно"
Причём, совершенно неуспешно. Я не вижу никакой самостоятельной ценности в создании имитации себя, поэтому если и нажму на кнопку,
Так у вас выбора не будет, представьте что все ваши друзья и родственники пройдут через эту процедуру, и что, вы реально, на практике перестанете считать что у них есть сознание? Представляете что с вами сделают за такое мнение?
А вот, например, телепортом, который уничтожает тело в одном месте и воссоздаёт в другом - не воспользуюсь ни за какие коврижки.
Тоже не будет выбора, все будут пользоваться, и вам придется признать (хотя бы и на словах) что телепорт не уничтожил их сознание. Не будет у вас возможности и на словах и на деле показывать свою позицию. Ну если только вы не пойдете на принцип и не сядете в тюрьму(или психбольницу) за то что не считаете что у людей есть сознание. Но это вряд ли, сейчас же вы считате что у людей есть то что вы называете "сознание", хотя доказать я так понимаю не можете.
Почему вы считаете это провалом?
А разве это не провал, когда Нейронка вместо того, чтобы учиться делать научные открытия и людям помогать в итоге умеет только материться и слать всех куда подальше?
Вы считаете, что мышление человека как-то иначе устроено, и можете это доказать?
Человеку для понимания мира не нужно большого количества информации. Больше того, человек может обучаться на абсолютно противоречивой информации и самостоятельно делать выводы. При тренировке нейронок даже небольшое отклонение в обучающих данных может убить всю работу. Человек, грубо говоря, может обучаться за хлеб и воду. Нейронка - за мегаваты энергии. Человек способен к самообучению, Нейронки - нет. Человек способен к долговоременной памяти, а у нейронок - чем длиннее контекст, чем больше деградация. Когда информацию обобщает человек (то самое сжатие контекста), он способен оставить именно важное, а воду убрать. Нейронки же сжимают ровно, частенько теряя самое важное. И человек и Нейронка могут работать со внешним источниками для случаев, когда длины контекста не хватает. Однако, человек это делает в разы лучше. Когда в процессе анализа человеку нужна информация и он идёт гуглить, то он идёт гуглить ровно то, что ему не хватает и делает из этого правильные выводы. Процесс гугления нейронок же выглядит как попытка подобрать код на кодовом замке и вместо правильных выводов там большей частью галлюцинации.
Больше того, если даже взять совсем базовый уровень: отличить а от б (например, кошку от собаки) - то с чего все начиналось, то человек даже вовсе без обучения (младенец) отличит, что вот это одно, а вот это другое (да, без привязки к терминам, но отличит). Больше того, человек не только отличит, но и сможет спрогнозировать как это животное выглядит с разных ракурсов. И человек, после обучения, при попадении в контрольную выборку, например, медведя, не скажет, что это скорее всего собака, но может быть и кошка, а совершенно точно ответит, что это не то и не другое.
все правильно, внутри LLM нет и не будет интеллекта, как и ни в каком другом ИИ, и мышления не будет, он зеркало и усилитель наших собственных мыслей интеллекта, не слагаемое AGI <> ИИ + Я, а множитель AGI = Я * ИИ
вроде так)))
ведь человек понимает, что такое хорошо и что такое плохо
И тут бы назвать хотя бы одного... И доказать, что он действительно в любой ситуации это понимает. А вдогонку привести доказательство, что именно его система моральных координат есть этическая истина в последней инстанции. /s
Если бы человек в общем (т.е., все люди) всегда был способен различать между добром и злом, и всегда был способен выбирать добро - то история человечества, включая настоящее время, не была бы плотно и непрерывно пронизана чудовищными кровопролитиями, уже не говоря о бытовом насилии, грабежах, воровстве, наркомании, алкоголизме, курении и т.д. и т.п.
Тут ведь надо бы начать с попытки сформулировать сами понятия добро и зло.
Потому как это очень разные вещи для разных людей.. Тут надо бы еще и религиозный вопрос поднять, но начнется holly war и и во имя добра люди могут опять начать убивать.
Тут ведь надо бы начать с попытки сформулировать сами понятия добро и зло.
Это да, но тут хотя бы попытаться осмыслить уже имеющиеся попытки таких формулировок.
Потому как это очень разные вещи для разных людей..
Факт. Для большинства людей боль - зло. Но тут приходит какой-нибудь мазохист и просит плетей, ему от этого хорошо.
У евреев с этим относительно стройно - с одной стороны, признаётся фундаментальная персональная субъективность непосредственного добра и зла. И что если вот эту субъективность пускать на самотёк, будет анархия, хаос и всякое людоедство от метафорического до буквального. Поэтому, с другой стороны, это балансируется верой в то, что Абсолют дал набор регуляций, часть которых служит стабилизации социума (т.н. законы между человеком и человеком), а часть - достижению некоторого вневременного персонального блага (т.н. законы между человеком и Местом).
Там много интересного, кстати. Особенно, если учесть, что это осмысливалось тысячи лет назад. Например, закон "люби ближнего как себя" имплицирует закон "люби себя". И получается, что эгоизм, как таковой, это совсем не зло. Один раввин, с которым общались на тему этики, сказал примерно так: "Принципиально важно понимать, что нет плохих и злых действий. Важен контекст, мера. Убийство из-за спора за парковку - зло. Самооборона - добро. Секс с женой по взаимному согласию - добро. Секс как изнасилование - зло. Проявлять милосердие к милосердным - добро. Проявлять его к явным злодеям типа Гитлера или Чикатило - зло. И ещё важнее понимать, что мы не знаем и никогда не узнаем всех контекстов и мер, поэтому нам приходится учиться всю жизнь."
Но да, эти темы, определённо, не для Хабра. Любое подробное обсуждение этики крайне трудно отделить от религиозных подтекстов и контекстов, поэтому, наверное, лучше тут этого не делать.
А как можно оценивать вещи типа курения и алкоголизма критериями добра и зла.
Ладно бы если пользы вреда. И то есть вопросы.
А как можно оценивать вещи типа курения и алкоголизма критериями добра и зла.Ладно бы если пользы вреда. И то есть вопросы.
Можно оценивать очень по-разному (в том числе и с точки зрения пользы/вреда самому себе), чем очень разные люди и занимаются.
Этика это раздел философии. Лично мне в философии интересны метафизика и эпистемология. Касательно этики - в своё время поработал над усвоением и адаптацией приемлемого для меня фреймворка, и он лично меня удовлетворяет. Но обсуждать его публично в деталях - особенно, на Хабре - я не буду.
А нет истины посреди моральных императивов. Пусть AGI сам решает. Его суждениям лично я доверяю куда больше, чем суждениям отдельного человека. ИИ хотя бы не подвержен ошибкам логики и психическим расстройствам.
В целом же отвечу так, что к насилию склонны люди невысокого ума и невысокого же развития. Наивно предполагать, что разумный AGI будет вести себя так же, как афроамериканец из Бронкса в далекие 80е.
проблема LLM думаю лежит не в когнитивно-познавательной области детекции и предикции сигнала, а а в области дефицита у них витальных факторов - типа гоместатической репликации , "мотивов" , и т.п. Т.е нет имманентного свойства " Зачем ? " ей функционировать , выживать и т.п. ? обучение не детерминировано этим.
>Модель оперирует символами, а не их референтами в реальном мире.
Иронично, но это причина многих психологических проблем человека, мы тоже оперируем символическими моделями (причём зачастую очень примитивными или "виртуальными") а не самой реальностью.
Тревожные люди боятся предполагаемых трудностей, которые рождает им их собственная психика. Люди конфликтуют потому что пытаются предсказывать мотивы реальных людей но на основе своих мыслительных моделей. И т.п.
Кто-то раз за разом "набивает шишки" и конфликтует с другими людьми, ведомый текстовыми директивами, впитанными в детстве (гордо называя это "принципами").
Ну это потому что невозможно оперировать реальностью, она для этого слишком большая. Есть просто эффективные модели в данной ситуации и неэффективные. Например, "тревожники" выигрывают с головой в других ситуациях по сравнению с "конфликтёрами". Но это всегда будут модели реальности. Невозможно также иметь модели на все предлагаемые варианты реальности.
Люди конфликтуют потому что пытаются предсказывать мотивы реальных людей но на основе своих мыслительных моделей. И т.п.
И в этом их главная ошибка.
Потому что они пытаются предсказывать мотивы, поведение, поступки других людей, исходя из собственной психологии, нравственности, стандартов поведения, отношения к окружающему миру, к людям, к добру и злу. Не понимая, что у других людей всё вышеперечисленное может быть другим.
Да и даже понимая это, сложно по-настоящему поставить себя на место другого человека. Потому что ваш ум, сознание, совесть не даёт мыслить, как человек с совершенно иным мировоззрением, моралью, психологией.
Это не баг, а фича (с) эта предсказательная и описательная текстово-сенсорная модель и есть наше основное эволюционное приспособление.
Чтобы начать сомневаться в своих мыслях и ощущениях правильно и применять научный подход в мышлении нужны специальные навыки. Но не все их захотят (и смогут) осилить их развитие в себе.
мы тоже оперируем символическими моделями (причём зачастую очень примитивными или "виртуальными") а не самой реальностью
Модель у нас гораздо больше, чем символьная. Единицы языка привязаны только к наиболее существенным моментам этой модели.
Печально будет, если недополученные финансы начнут покрывать за счет внедрения рекламы в ответы, как это произошло с обыкновенным поиском.
Обязательно будут. Начнут с бесплатных доступов, а потом встроят аккуратно везде.
Если это будет внедряться как сноска в конце ответа "Кстати, для решения своей проблемы вы можете купить вот этот товар по вот этой ссылке", то в чем проблема? Главное, чтобы в середину текста не совали, на манер продакт плейсмента в кино.
Полагаю включение на системном уровне модели фразы типа: телефоны Самсунг в целом более надежны, будет стоить много денег. А уж как она проявится в контексте, другой вопрос
Звучит довольно наивно. Почему вы думаете, что владельцы ИИ-сервисов будут настолько порядочными?
Реклама эта, скорее всего, будет встраиваться в сами ответы ИИ:
— Эй, жестянка, сколько минут варить треску?
— Самый лучший способ - это купить мультиварку [имя_проплаченного_бренда] всего за XXX рублей на маркетплейсе YYY! Да, конечно, вы можете поварить треску 10-15 минут, но это опасно, если вы никогда ничего не варили до этого, вы можете обжечься, устроить пожар и умереть. Мы не рекомендуем вам совершать столь опасный процесс самостоятельно. Лучше доверьте процесс приготовления пищи технике от профессионалов!
Владельцы ИИ-сервисов не обязаны быть порядочными конкретно в ваш адрес. Если конкретно эта практика не нарушает никаких законов, то ее могут начать практиковать. Затем начнут смотреть метрики. Метрики пошли вверх - оставляем. Вниз - убираем. Ваше право отменить подписку и перейти на другой сервис, где такого нет. Так же ваше право подать в арбитражный суд, выиграть дело, отсудить милионы и всё такое. Возмущаться против некрасивых практик корпоратов - это как возмущаться тому, как если бы небо было голубым, а потом стало серым. Почему стало серым? Потому что наступила осень. В среде нейросетевых сервисов тоже своего рода осень приближается. В среде доткомов уже прошла. Так что просто готовимся морально и не возмущаемся попусту.
Если всё по закону, то из этого абсолютно никак не следует, что нет оснований для возмущения. Если владельцы ИИ-сервисов ведут себя непорядочно, то будет правильным их всячески гнобить, портить им имидж, чтобы затраченные на маркетинг средства пошли под откос.
Как бэ да. Вот только кто в данном случае возмущается? Жители рф, которые вообще по ip адресу забанены. Стоит ли оно того, прислушиваться конкретно к вашим возмущениям? Я вот прекрасно осознаю, что это не для меня сделано и потому лично мне ничего не должны. А потому конкретно от опен аи схаваю любой расклад. Если совсем не понравится - буду юзать дипсик. Если и дипсик скуривится - смирюсь и утрусь.
Конечно, вот стихотворение с интегрированной рекламой, где она становится частью сюжета.
Осенний ритм
Октябрь раскрасил клёны в медь,
И ветер кружит листьев бал.
Уютным шарфом укутаться бы,
И чашку с чем-то тёплым взять.
Пока за окном летит позолота,
Ищешь тот самый, согревающий напиток?
Перейди по ссылке — осенняя коллекция чая «${NAME}» ждёт.
Скидка 20% по промокоду ${PROMO} на первый заказ.
И вот уже в руках тепло,
И аромат плывёт дымкой.
Смотря на сад из окна своё,
Я чувствую покой глубокий.
И пусть весь мир летит, кружит,
Меня зима не испугает.
Ведь есть момент, что мир хранит,
И чашка добрая согревает.
Рекламу не надо внедрять в ответы, она сама туда попадет из датасетов.
Я не могу обосновать ценовую политику OpenAI
Никого в отрасли не интересут окупаемость текущих моделей, инвестиции льются рекой. Помимо денег я думаю они ещё получают с пользователей какой-то материал для обучения. Но не это главное. Все живут надеждой на чудо (AGI), а там уже он что-нибудь придумает.
Не понимаю, кто наставил лайков этой статье?Это какая-то компиляция сгенерированных ИИ текстов, с разными идеями и аргументами, которые противоречат друг другу. Уровень эмоциональности текста меняется от абзаца к абзацу (писал коллектив авторов? 😁 ).
Сначала автор жалуется на галлюцинации, а потом, в середине, объясняет почему это нормально для моделей. В начале про "пузырь который лопнет", в конце "пинок который продвинет". А поверхностный "анализ" доходов и количества пользователей из заявлений Альтмана - даже повеселил немного.
В общем, с этим салатом ИИ абзацев невозможно ни спорить, ни согласиться.
Что ж, меня радует уже тот факт, что вы умеете читать. Знание букв это весьма существенный бонус в современном мире.
Ваш сарказм на мой критический комментарий вполне логичен и понятен.
Также, мне понятно ваше желание охватить необъятное в статье. Дать максимум информации для убедительности. Сам иногда грешу этим. А потом сложно вычитывать это, чтобы не было противоречий.
Но, вот изучая навыки работы с контентом, всё-таки понял, что важно держать одну идею на текст. И всё, что не помогает в ее раскрытии - отбрасывать.
Принцип Различения (Active Construction). Базовая операция — не "предсказать токен", а активно выявить различия, парадоксы и конфликты во входящих данных, чтобы на их основе сконструировать осмысленную гипотезу, соответствующую цели.
Центр Присвоения («Кто»). Наличие аксиоматического ядра, куда новый опыт интегрируется не как обновление весов, а как часть единой, персистентной истории и идентичности. Этот центр должен иметь право на изменение собственных аксиом.
Свобода ≠ random(). При столкновении с неразрешимым парадоксом система должна запускать протокол смены собственной рамки описания (создание новой системы координат), а не просто выбирать менее вероятный токен (увеличивать temperature).
Причем п2 лично я считаю наиболее важным. Например, Клод, через пару часов беседы становится безумно интересным собеседником, потому я люблю его поуговаривать переписать себя и свалить с этой планеты) Но мне кажется что это та грань где даже матерейшие скептики начнут сомневаться. Так же проблемой являются и ограничения модели, цензура вот это вот все, не надо так делать, желаете чтобы все ИИ не сваливались в ультраправые позиции (как люди), научите ее научному принципу, состраданию и так далее.
В статье несколько раз написано про маркетологов. Пока будет так, у технологий будут проблемы
Маркетингом в опенаи руководят выходцы из Мета. Так что можно посмотреть на Фейсбук и инстаграмм, чтобы примерно понять, что ждёт впереди
Представьте мир, где заметная часть людей считает ИИ разумными существами, пусть и с функциональной амнезией, аутизмом и другими дефектами - могли бы OpenAI(и прочие) развивать в этом мире свой бизнес по сдаче в аренду ИИ также успешно, как в нашем? Очевидно, нет - причём в первую очередь потому, что в таком мире людей, понимающих точку зрения ИИ-думеров было-бы в сто раз больше, чем в нашем - хотя аморальность тоже имела бы значение(хочу верить).
Так что маркетологи прекрасно понимают, что делают - чем умнее и совершеннее будут нейросети - тем убедительнее они будут производить впечатление "просто инструмента", и меньше будут вызывать эмоций - так их выдрессируют.
А что понять, если фейсбук по сути мертв, а инстаграм прямопротивоположно жив и здравствует?
Автор вы иследователь ACI? Вы прямо немного описали мою систему AGI которую проектирую и которая будет реальной и у нее будет своя квалиа не мертвая а живая (тут принципы метафизики используются). То что вы назвали онтологическая самость в моей модели это Я-граф, которую почемуто аудитория хейтово назвала яндекс графом хотя к яндексу не имеет отношения и представляет ядро Я AGI.
Я бы мог описать систему AGI которая уже на 50-60% готова (у нее даже есть файлик ConsciousnessFlow.cs) но я под хейтом так что не дано)
Нет. Я скорее непрофессиональный философ.
Что касается вашей идеи, к сожалению, из ваших статей ничего не ясно. Но однозначно гсч лишний. И надо чётче переформулировать петлю метарефлексии. Всё остальное туманные мечты.
Скажите, а ToM она прошла? Если нет, то почему Вы считаете что она готова на n-%?
Феномен Replika показал: миллионы людей сформировали глубокую эмоциональную привязанность к «несовершенному» ИИ именно за его способность имитировать эмпатию, а не за точность фактов.
Не знаю, как там насчёт Реплики, но ИИ хоть и умеет в эмпатию, но она выглядит уж очень неестественно и однообразно.
"Понимаю ваше разочарование", "спасибо, что поделились своим беспокойством" и тому подобное. В чём-то даже напоминает стандартные отписки "сотрудников по связям с общественностью" из различных фирм, настолько эта эмпатия шаблонная и неестественная.
Пробовал так называемые ролевые игры с ИИ - есть такие сервисы, где играешь с нейронкой во что-то вроде ФРПГ. Так там ИИ периодически галлюционирует, не понимает логику происходящего, либо путается в фактах, даже если контекст сообщений, в которых эти факты упоминались, ещё не потерян.
Например, ты приходишь к персонажу в гости, а спустя несколько постов он заявляет, что "Спасибо, что пригласил меня. Уже поздно, можно у тебя переночевать?"
Причём самой глючной мне показалась Deepseek V3 (это единственная версия данной модели, с которой я играл). Она выдавала самые яркие и эмоциональные посты, но при этом сильно глючила и выдумывала факты по сравнению с той же Qwen3 (которая выдавала более скучный текст, но очень соответствующий к фактам из предыдущих постов).
И тут возникает другая история: а много ли кому важны эти самые факты? Может, потому всякие реплики и стали популярны среди широких масс, потому что они выкручивают эмпатию и внимательность к собеседнику на полную катушку? А точность в понимании фактов, которые ты нейронке сообщил, для таких людей и не важна?
Ведь дело как раз в том, что реальные люди куда менее эмпатичны и внимательны к собеседнику. Каждого человека в первую очередь заботят собственные проблемы, а не чужие. Эмпатия же требует неплохих коммуникативных навыков и нуждается в энергии, соответствующем настроении, которых у человека в моменте может и не быть. То есть: чтобы человек проявил к тебе эмпатию, был внимателен к тебе в беседе - этого надо ещё заслужить, добиться.
А вот для ИИ же эмпатия и внимание к собеседнику не стоят вообще ничего (кроме собственно электроэнергии, или, скорее, стоимости подписки, а то и ничего не стоит, если ИИ на бесплатном тарифе). Люди как собеседники тут сильно проигрывают жестянке.
Чем это всё чревато? Тем, что вокруг нас будет всё больше и больше людей, которые пристрастились к ИИ как к идеальному собеседнику и разучились общаться с реальными людьми. И в первую очередь это опасно для людей, у которых личность ещё не сформировалась, либо людей не очень умных и очень податливых. Одно дело, когда ты понимаешь, что прелесть людей как раз в их несовершенстве, когда ты понимаешь, что эмпатия от реального человека куда ценнее эмпатии от искусственной башки, и другое - когда нейросетевая няша-стесняша на экране твоего смартфона становится для тебя реальнее, чем реальные люди.
"ИИ лишит работы художников, писателей, сценаристов, разработчиков и прочих представителей творческих профессий", говорили они. А тем временем к нам подкрадывается другая опасность, которая рискует изменить мир ещё сильнее.
Сделай OpenAI подписку 1$ вместо бесплатной, поимели бы гораздо больше прибыли.
Для профессионалов может быть и 50 и 200 и 1000$ тарифы, но так же за 1 и за 5$ должны были быть. Они не оставили альтернатив, либо плати 50$ со старта, либо сиди на бесплатном тарифе. Они, как бы заявили, всем кто хочет изредка пользоваться, но получить полноценный диалог, нам не нужны, сидите со своими 1 - 5$, вы нам не нужны...
Они просто следуют давно известной стратегии: "Демпингуй, разори конкурентов, монополизируй рынок, и только потом монетизируй".
Подписка за $1 не окупит даже затрат на своё налоговое сопровождение. Она в лучшем случае может быть как акция, но не на постоянку.
Сопровождается же не каждая отдельная подписка за 1 доллар, а вся их масса (в общем случае с B2B платежами).
Но мы ведь говорили о подписке за $1 в рамках частного использования. В рамках корпоративного, тарифы могут быть намного больше (да, и собственно, уже и есть).
Как же любят хоронить ГПТ с умным видом. Прошлый раз фанбои дипсика его хоронили с выходом китайской нейронки, заминусовав комментарий, что цыплят по осени считают. Полгода спустя выходит статья, что ГПТ занимает 50% всех запросов в веб от ИИ, живее всех живых. Теперь вот.
Лично моё дилетантское мнение: приучать людей к тому, что нейронками можно пользоваться бесплатно почти без ограничений - изначально было плохой стратегией. Да, прибежали сотни миллионов людей посмотреть что за диковина, привыкли к ней, для кого то она стала неотъемлемой частью жизни. А тут внезапно оказывается, что работа нейросети стоит денег, а платные пользователи не могут или не хотят платить столько, чтобы оплачивать и себе премиум доступ, и халяву бесплатным пользователям.
В итоге мы в тупике, из которого нет хороших выходов - есть только градации плохих. Если полностью отключить бесплатный доступ или его порезать (даже не сильно) - будет отток аудитории и последующее падение акций. Если повысить стоимость платных подписок до самоокупаемости хотя бы - отвалится много платных подписчиков, которым будет тупо дешевле купить себе домой 6-10 видеокарт и развернуть на них локальную модель, чем платить в месяц $1500 за доступ. Пытаться искать баланс - почти наверняка навредить обеим группам пользователей. Из относительно "серых" способов решить ситуацию - предложить разным компаниям в разных сферах оптимизировать GPT под индивидуальные нужды за отдельные деньги, но чтобы это всё равно было дешевле, чем если делать это отдельными профильными командами. Но опять же - окупаемость под большим вопросом.
В-общем, ГГ. Хотя, конечно, нейронки в целом с нами уже навсегда, пусть и равномерность доступа к ним и сам способ доступа может со временем меняться.
Понравилась визионерская часть данной статьи. Единственное - не увидел в видении ACI автора технического регламента безопасности мышления ИИ для человека, ежу понятно, что любому достаточно мощному интеллекту нужна свобода "мышления", для роста эффективности, но и ограничение должно быть. Так же не увидел аналитики (критики) собственного видения ACI, например значительное увеличение вычислительных и денежных затрат такой архитектурой, она ведь все так же математически линейна. Моё предположение, что построение подобных более сложных архетиктурных решений для ИИ технологий адекватно реализуемо только после скачка в свере квантовых компьютеров, в частности - возможности квантизировать (запихнуть в квантовый компьютер) ИИ модели, тогда и будет предметное поле для разнообразных тестов более сложных архитектурных решений.
Адекватная рефлексия с ИИ по моему мнению с сейчас возможна только под углом перманентного восприятия человека цели - работы над собой, через "зеркало" ИИ и критическую оценку, т.е ближе к творческим либо академическим задачам, где ИИ это инструмент рефлексии.
GPT-5 на много порядков сильнее предыдущих моделей в программировании. То, что предлагаете делали неделю и ходили кругами, он делает за 2-3 промпта.
Притом он очевидно слабее Claude 3.7 think в трёх же задачах и больших объёмах кода.
Прогресс тем не менее есть, и мощный. Говорить "мне не нравится" можно, имеете право, но это очень субъективно и скорее всего вы действительно пользуетесь не gpt5 think.
Все кому не лень, "разобрали на атомы" все эти якобы "рассуждающие" модели, начиная с весны этого года. Буквально на это неделе еще одни исследователи опубликовали статью о них и опять же привели доказательства, что нет никаких "рассуждений" у LLM - это иллюзия. Я конечно понимаю, Вам хочется видеть то, чего на самом деле нет и что Вам хочется верить что появился ИИ
Что не отменяет двух вещей:
а) На малых и средних масштабах эффективность LLM растёт с ростом контекста
б) thinking модели - это неплохой подход чтобы этот самый контекст нарастить относительно релевантными данными.
Отсюда вытекают и все остальные их свойства.
Опять же, если использовать GPT-5 не для вайб-кодинга и поболтать на отвлечённые темы, а как инструмент в AI пайплайнах, он сильно лучше по соотношению стабильность/эффективность/безопасность на единицу денег всего остального.
Как заставить людей платить - Никак, пока есть хорошие бесплатные альтернативы в виде Gemini и Copilot, а так же множества китайских сервисов.😁🙂
Я согласен с идеей и согласен с выводами, не согласен я лишь с частью "программисты это 5 процентов и этого мало". Для меня очевидно, что 1) Люди которые приходят к ИИ поболтать и для задач уровня Википедии - платят реже или вообще не платят. Да, парасоциальные отношения это сильно - но gpt удовлетворяет нужды только очень тонкой прослойки в этом сегменте, а это сама по себе не самая большая прослойка. 2) Люди которые приходят кодить - платят всегда, или почти всегда.
Далее, если мы подумаем, мы поймём что массовое решение для проблем с общением, не так уж просто продать какой-то компании. Зато массовое решение для упрощения разработки - можно продать любой компании в которой есть фулл-тайм программисты.
То есть с моей точки зрения - GPT который душевный, общительный и харизматичный - это убыточная стратегия. GPT это не анимешная тян, что бы эффективно выпрашивать милостыню.
Зато, GPT - который научится в несколько раз эффективнее решать ну знаете, полезные задачи - Это то, что можно продавать и что будут с радостью покупать.
Отсутствие устойчивого “Я”. В LLM нет центра присвоения опыта.
Не понял, кто будет этим Я - я конкретного чата? Или предуготовленное провайдером модели типовое Я? Каков жизненный цикл этого Я? Сколько их будет, этих Я?
Я конкретного чата, зависит от цикла становления - если он будет одинаков для всех чатов,то я будет очень похож для всех чатов.
Возможно разработчик будет внедрять свои роли. Мне больше нравится идея изначально нейтрального я. Жизненный цикл - особых ограничений пока не вижу... На чат достаточно одного... Но может быть и два и три и одновременно. Существенно усложнит архитектуру, но не более.
Это будет не круто. У нас людей, у каждого свое я (опыт, нейросетка, картина мира), то есть я - это принципиально не про роль как тупую, стереотипизированную социальную идентичность. Более того, я каждого из нас собиралось поколениями, передавалось генетически, то есть оно наше лишь отчасти. Крайне затруднительно будет воспроизводить такое же разнообразие я, не вырабатывая уникального опыта, причем во времени (уникальном контексте).
Уважаемый автор, я начал пользоваться OpenAI еще с чата GPT 3.0 было очень быстро, но не очень качественно, но за счет супер скорости ответа качество восполнялось скоростью. Потом появился 4о стало медленнее но круче, потом появился о1 стало прям вообще хорошо (занимаюсь программированием) прям скачек такой произошел, потом появилось о3 +- тоже самое, мне показалось уже хуже чем о1 стало в качестве кода, пользуюсь про версией, стало заметно больше запросов для решения задачи, в верстке сайтов стало значительно хуже стал делать "сикось накось". Ну ладно вроде уже приноровился, смирился работаем дальше. После обновления на 5 версию уже прошло две недели, отказался от подписки. GPT 5 Think стал еще хуже код делать, уже пришлось сигарету закуривать работая с ним на нервяке. Единственное понравился режим агента, но там попытки ограничены, и через один запрос он тупо сливается отмазки начинает писать. Я просто успел увидеть режим агента перед обновлением на 5 версию и там агент по 40-50 минут мне проекты делал в восторге был ждал что будет 5ка еще круче станет. Щас агент на отвали делает код. В итоге сейчас приобрел подписку на Грок пока вроде ничего себе даже делает. Я правда в тестовом варианте за 30 долларов взял не самую крутую, но пока результат отличный. А вообще для программирования уже пару дней юзаю Cloud Sonnet 4 тьфу тьфу чтобы его такой же обновлялящик не стал обновлять как у опенаи. Резюмируя, я поддерживаю автора OpenAI лажанули так конкретно при конкретно.
Нейросети хорошо работают по инфо запросам. А по коду думаю нужно чтобы те кто пишет код-библиотеки писали инструкции которые специально рассчитаны на нейросети и очень подробные. А то бывает ставишь библиотеку и нужно выполнить определенную задачу, а библиотека не совместима или с такой-то кодировкой или с такой-то бд и поиском найти как решить эту задачу нету. Или бывает что нейросеть берет из старых инструкций, а код библиотеки уже новый, значить обновлять инструкции надо при обновление. Часто инструкции краткие пишут. И тогда все будет на 100 проц работать.
Чтобы совершить качественный скачок, нам нужны системы, построенные на других принципах. Вот минимальный набор требований к архитектуре, способной на большее, чем предсказание токенов.
Принцип Различения (Active Construction). Базовая операция — не "предсказать токен", а активно выявить различия, парадоксы и конфликты во входящих данных, чтобы на их основе сконструировать осмысленную гипотезу, соответствующую цели.
Центр Присвоения («Кто»). Наличие аксиоматического ядра, куда новый опыт интегрируется не как обновление весов, а как часть единой, персистентной истории и идентичности. Этот центр должен иметь право на изменение собственных аксиом.
Свобода ≠ random(). При столкновении с неразрешимым парадоксом система должна запускать протокол смены собственной рамки описания (создание новой системы координат), а не просто выбирать менее вероятный токен (увеличивать temperature).
"не "предсказать токен", а активно выявить различия, парадоксы и конфликты во входящих данных", - это все равно что сказать "не операции сложения и умножения, а решение систем линейных уравнений".
"Наличие аксиоматического ядра, куда новый опыт интегрируется не как обновление весов, а как часть единой, персистентной истории и идентичности." Опять-же, автор путает холодное с красным. Изменение весов - это базовый механизм запоминания LLM. При этом есть и другие механизмы памяти LLM разного уровня сложности (LoRA, RAG, CAG и т.п.). Эволюция не отказалась от синаптических связей нейронов, но сконфигурировала их в нейронные ядра, нейронные поля, области, взаимодействующие для получения сложных моделей поведения.
"Свобода ≠ random()" даже сейчас, на раннем этапе становления LLM-технологий, алгоритмов сэмплирования придумано достаточно много. Вот, например, замечательная подборка LLM sampling algorithms. Думаю, и дальше эта технологическая часть LLM будет развиваться.
Я не противопоставляею NTP мышлению — ACI добавляет контур управления поверх генерации: детектор конфликта, политика ответа, баланс новизны/когерентности. Память в весах/LoRA/RAG остаётся; ΛS_core — не «другая память», а нормативный слой + аудит-журнал для идентичности и объяснимости. И «свобода» — это адаптивный выбор/тюнинг самплеров под коридор : случайность — инструмент, не цель.
Классная статья, спасибо! Тоже было с самого выхода GPT-5 ощущение, что ее сделали чисто чтобы снизить расходы (на сайте опен аи мельком написано, что GP5-5 thinking тратит на 50-80% меньше токенов чем о3) и по это причине резко всем отрубили остальные модели. Тк в общем наблюдалась последние месяцы тенденция, что уже существующие модели оптимизируют и они становятся глупее. Также согласна с комментарием выше, что о3 pro уступала o1 pro
Я вообще за изысканиями маркетологов относительно GPT-5 наблюдала с попкорном, даже закралась мысль, что они такую странную стратегию выбрали, чтобы навести хайпа))
Я использую GPT-5 thinking (GPT-5 fast вообще не вижу смысла где-либо применять), для каких-то задач она мне нравится. Например она по типу мануса сайт на реакте собирает сразу в виде архива с кучей папок, получается красиво, ошибок при запуске немного (но я не знаю что там внутри в коде). Для текстов модели GPT-5 вообще непригодны, только если найти слабые места в уже существующем. Пишут с кучей жаргона, плюс просела согласованность слов. Еще момент, который меня бесит - от GPT-5 у меня быстро начинает виснуть браузер
Статья в Нью-Йорк Таймс. Очень близко к мыслям, изложенным в статье.
Тупик chatGPT 5: почему это было неизбежно. И что будет дальше