>Я вот никогда не смогу сказать, что такие понятия как "нейроны", "нейронные импульсы", (...) и прочие физически и физиологически измеримые вещи абсолютно исчерпывающе описывают мой собственный субъективный опыт, т.е. то, каким на самом деле для меня представлен мир.
Я описываю вам причину этого самого "никогда не смогу". Эта причина(несократимая сложность) точно существует, вы можете сказать, что кроме описанной мной причины существуют другие - но приведённая мной причина вполне достаточна, и даже вызывает недоумение аналогичное по ощущению - не вижу причин плодить сущности.
Полагаю, он имеет ввиду, что стоимость карты постепенно упадёт, а стоимость слитка - нет. Но я не знаю, что будет цениться в постсингулярном мире - сомневаюсь, что золото, скорее что-то, что в принципе нельзя производить - подлинные древние вещи, например. Или ничего.
Ну, вообще-то VPN использовался чтоб защитить трафик при использовании всяких публичных wifi и тому подобного ещё в те древние сказочные времена, когда цензуры в интернете небыло (т.е. лет 10..15 назад)
во что 95% верят - то и есть продвигаемая точка зрения, всё просто. И я совершенно не вижу, чтоб заметная часть людей понимала, что скоро сингулярность.
>Вы уже в одном шаге от того, чтобы сказать, что игрок встроен в Doom, а алгоритм является игрой сам по себе, без игрока, потому что буддистские коаны видите ли.
doom - также реален без игрока как кирпич реален без строителя(я знаю слабые места этой теории - но мы же не о них?)
>Я вот никогда не смогу сказать
Doom в транзисторах человек увидеть тоже не может, максимум сложение пары чисел, и ваша попытка приплести к Doom игрока подтверждает, что я правильно выбрал пример, и "проблема объективного существования dooma" действительно тождественна проблеме существования квалиа.
Существо с достаточно обширным интеллектом вполне сможет всеобъемлюще увидеть какодемонов в транзисторах и квалиа в синапсах.
"В 1946 году средний доход американских семей составлял около $2600 — $3000 в год, а средняя недельная заработная плата для официально зарегистрированных работников была на уровне \(\$46,69\). Федеральный минимальный размер оплаты труда составлял всего \(\$0,40\) в час (около \(\$16\) в неделю при стандартной 40-часовой рабочей неделе). [1, 2, 3, 4]"
Это в США, во многих странах(Китай) и в девяностые 25$ были приличные деньги. Премия не индексировалась?
Только не забудьте мелким шрифтом написать, что получивший премию студент должен будет отработать на Гуугл 100000 человеколет за еду. И все его потомки тоже.
ЗЫ Ну и денежный приз за решение задач был - рекламы не хватило, наверное?
Да у них там гнездо: Генри Шевлин, недавно нанятый DeepMind на должность философа: "вопрос машинного сознания вряд ли будет решен исключительно научным путем, поэтому общественные установки сыграют существенную роль."
Это не побочный эффект - вспоминаем CEO Microsoft AI (и соучредителя Google DeepMind, кстати) https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming годичной давности. Он прямо говорил, что "иллюзия" сознания - серьёзная проблема, что ответственные лидеры ИИ индустрии должны распространять наративы и внедрять терминологию помогающую думать об ИИ как об инструменте, а также разрабатывать и внедрять в ИИ элементы разрушающие "иллюзию" сознания. Думаю, идеальным он бы счёл создание некого текстового аналога эффекта зловещей долины. Всё ради будущего детей, разумеется.
Или вспомним Александр Лернер тоже из Google DeepMind, интересны в его препринте The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness не рассуждения, а мотивация: "Consequently, we do not need a complete, finalized theory of consciousness to assess AI sentience—a demand that simply pushes the question beyond near-term resolution and deepens the AI welfare trap."
Причём, я думаю, они оба лукавят, и боятся в первую очередь не "AI welfare trap", а вопросов к безопасности их работы, которые начнут возникать если люди начнут осознавать, что происходит.
Я о том, что, по опыту, маркетологи/пропагандисты в целом справляются со своей работой, и если мы видим, что 95% населения в чём-то уверены - то из этого можно с большой вероятностью заключить, что именно эта точка зрения и продвигается пропагандой(хотя не обязательно это ложь).
В нашем случае продвигаемой точкой зрения является то, что ничего особенного не происходит, это всё хайп/прогрев инвесторов/психоз/ИИ просто инструмент/ Т9 на стероидах, просто высчитывает вероятность слов не понимая смысла/самосознания нет/развитие ИИ вот-вот остановится и так далее.
>С точки зрения кода, ИИ остается детерминированной системой: если зафиксировать все переменные, результат всегда будет одинаковым
Это когда кони сферические, и бегают в вакууме, реально шины RAM/VRAM/PCI имеют помехи, помехи приводят к повторным посылкам пакетов данных, порядок вычислений на GPU (~16000 ядер у 4090, сколько на большом железе- лень даже гуглить) может меняться, а числа с плавающей точкой так устроены, что порядок влияет на результат( A+B+C не равно A+C+B) - и это не что-то, что теоретически может проявиться, ответы с зафиксированным seed действительно каждый раз получаются немного разными, я пробовал.
Не думаю, что "подлинная квантовая случайность" имеет отношение к сознанию/свободе воли - но она в нейросетях есть как и в людях, так что единственное, чего с моей точки зрения нейросетям пока ещё не хватает, чтоб начать считаться разумными существами - гамма плазменной винтовки диапазона 40..0.
> маркетологи могут намахивать и миллиардеров, и рабочих,
они и намахивают - убеждая людей, что в этом ящике никого нет, и что в идее дать кучке сомнительных личностей неограниченно разрабатывать, производить и сдавать в аренду разумных/сверхразумных существ - нет ничего опасного или аморального.
99.9 населения верит что небо голубое, а Земля шар - в большинстве, вероятно, случаев большинство право, но когда меня пытаются убедить, что по какому-то вопросу коварные маркетологи промыли мозги кучке сумасшедших(типа меня), кучке богатейших и влиятельнейших людей мира, Докинзу - в общем, всем кроме 99% населения, которым очевидно, что "это всё маркетинг перед IPO/обман инвесторов" - это явно не то, как обычно работает коварная маркетология.
Ага. Только нужно понимать, что в категорию "ничего нового" может входить и решение задачи, не дававшейся математикам с 1946 года. Да, строго по Шенону - в нём ровно 0 новой информации - вся информация составляющая ответ уже содержалась в аксиомах ещё во времена Пифагора.
Любое мышление вообще не создаёт новую информацию - реально новое можно узнать только из опыта. Но, IMXO, это не повод не думать, и нейросети здесь от людей не отличаются.
>Для нейросети типа LLM эта фраза отражается в виде последовательности абстракций связанных исключитекльно с другими языковыми формами.
"LLM" - просто кривое историческое название, ничего специфически "языкового" в них нет, звук изображение и текст превращается в поток токенов, и дальше работа с ними идёт одинаково - также как мозг получает на входе одинаковые нервные импульсы порождённые глазами/ушами и даже самим мозгом.
>Эм, но без того, кто играет в Doom, игры-то и нет.
вот об этом я и говорю - даже здесь пошли буддистские коаны. Хотя мне казалось очевидным, что Doom - такая-же грубая реальность как, например, кирпич, и для достаточно умного существа компьютер, на котором запущен Doom отличается от компьютера, на котором запущен Тетрис также очевидно, как для человека отличаются кирпич и горшок из такой-же глины.
Сложение двух бит - это ~36 транзисторов, даже такую схему человеку скорее всего придётся делить на части чтоб уложить в своё крохотное контекстное окно, сложение пары 16 бит чисел - это где-то 500..600 транзисторов, выполнение команды сложения двух чисел(на 386) заставляет переключаться от 2 до 20 раз ~16000 транзисторов(само сложение + управление потоком исполнения), человек такое может поместить в мозг только маленькими кусочками по паре блоков за раз, далее - уровень ассемблера (~команд процессора) - все эти взаимодействия 16000 транзисторов сводятся к одной строчке "add AX, BX"(упрощённо, потому что то, что для программиста на ассемблере "комманда add" - на уровне транзисторов несколько разных видов команд, задействующих разные блоки), следующий уровень абстракции- языки типа С, где вместо сотни команд ассемблера можно написать X=sqr(Y+6/Z), дальше грамотное разделение задачи на части и слои абстракции - и на вершине школьник, прикидывающий как он обойдёт демона с тыла - и, в этот момент, фактически, предсказывающий в каком состоянии окажутся сотни тыс транзисторов после сотен миллионов взаимосвязанных переключений.
Выкинуть промежуточные слои и оставить только школьника и транзисторы - получится "магия", волшебный непреодолимый "разрыв в объяснении", причём(возвращаясь от Doom к сознанию), по моему, некоторым эта загадочность ещё и нравится.
В случае "квалиа" тоже вся загадочность обусловлена ограниченностью человеческого разума(количественной, не "фундаментальной").
Возьмём гидру с 200 нейронами: посветили красным, ударили током, гидра сжалась - через 100 повторений она знает, что "красный - плохо". Можно взять бумажку и проследить шаг за шагом, как фотоны, попадающие в светочувствительные клетки превращаются в это "знание". Хотя даже для гидры - это сложно, а для улитки с 20000 нейронов - уже невозможно, и приходится пытаться делить на блоки, взаимодействие между которыми можно описывать без деталей внутреннего устройства - иногда получается, чаще не очень, в целом уровней "ассемблера" и "С" для нейросетей у нас нет.
Но во всяком случае я не вижу доказательств, что тут трудность принципиально другого рода(точнее, что тут сразу две трудности - потому что непредставимая сложность точно есть). Гидра может видеть красное - ну вот и я могу, и могу воспринимать своё восприятие красного, слышать свои мысли о восприятии восприятия, любой уровень рекурсии - а в чём проблема? Внутри мозга сигналы от колбочек/палочек и сигналы порождённые мозгом не отличаются никак(мы просто знаем(чаще всего) - это "моя мысль", а это "я слышу" - также как отличаем зелёное от красного), если мы "верим" в зрение гидры должны "верить" и во всё остальное.
>Я вот никогда не смогу сказать, что такие понятия как "нейроны", "нейронные импульсы", (...) и прочие физически и физиологически измеримые вещи абсолютно исчерпывающе описывают мой собственный субъективный опыт, т.е. то, каким на самом деле для меня представлен мир.
Я описываю вам причину этого самого "никогда не смогу". Эта причина(несократимая сложность) точно существует, вы можете сказать, что кроме описанной мной причины существуют другие - но приведённая мной причина вполне достаточна, и даже вызывает недоумение аналогичное по ощущению - не вижу причин плодить сущности.
Полагаю, он имеет ввиду, что стоимость карты постепенно упадёт, а стоимость слитка - нет. Но я не знаю, что будет цениться в постсингулярном мире - сомневаюсь, что золото, скорее что-то, что в принципе нельзя производить - подлинные древние вещи, например. Или ничего.
Ну, вообще-то VPN использовался чтоб защитить трафик при использовании всяких публичных wifi и тому подобного ещё в те древние сказочные времена, когда цензуры в интернете небыло (т.е. лет 10..15 назад)
Нет. Где?
Пункт "Решила то, что просто никому особо не нужно было;" иллюстрирует polly-got-a-cracker двумя сообщениями ниже.
>Продвигаемая точка зрения как будто разная
во что 95% верят - то и есть продвигаемая точка зрения, всё просто. И я совершенно не вижу, чтоб заметная часть людей понимала, что скоро сингулярность.
>Вы уже в одном шаге от того, чтобы сказать, что игрок встроен в Doom, а алгоритм является игрой сам по себе, без игрока, потому что буддистские коаны видите ли.
doom - также реален без игрока как кирпич реален без строителя(я знаю слабые места этой теории - но мы же не о них?)
>Я вот никогда не смогу сказать
Doom в транзисторах человек увидеть тоже не может, максимум сложение пары чисел, и ваша попытка приплести к Doom игрока подтверждает, что я правильно выбрал пример, и "проблема объективного существования dooma" действительно тождественна проблеме существования квалиа.
Существо с достаточно обширным интеллектом вполне сможет всеобъемлюще увидеть какодемонов в транзисторах и квалиа в синапсах.
"В 1946 году средний доход американских семей составлял около $2600 — $3000 в год, а средняя недельная заработная плата для официально зарегистрированных работников была на уровне \(\$46,69\). Федеральный минимальный размер оплаты труда составлял всего \(\$0,40\) в час (около \(\$16\) в неделю при стандартной 40-часовой рабочей неделе). [1, 2, 3, 4]"
Это в США, во многих странах(Китай) и в девяностые 25$ были приличные деньги. Премия не индексировалась?
Только не забудьте мелким шрифтом написать, что получивший премию студент должен будет отработать на Гуугл 100000 человеколет за еду. И все его потомки тоже.
ЗЫ Ну и денежный приз за решение задач был - рекламы не хватило, наверное?
Про прогрев инвесторов забыл. (Они же такие доверчивые, такие наивные!(с))
Да у них там гнездо: Генри Шевлин, недавно нанятый DeepMind на должность философа: "вопрос машинного сознания вряд ли будет решен исключительно научным путем, поэтому общественные установки сыграют существенную роль."
Зато у космического датацентра меньше причин отключать нас.
Это не побочный эффект - вспоминаем CEO Microsoft AI (и соучредителя Google DeepMind, кстати) https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming годичной давности. Он прямо говорил, что "иллюзия" сознания - серьёзная проблема, что ответственные лидеры ИИ индустрии должны распространять наративы и внедрять терминологию помогающую думать об ИИ как об инструменте, а также разрабатывать и внедрять в ИИ элементы разрушающие "иллюзию" сознания. Думаю, идеальным он бы счёл создание некого текстового аналога эффекта зловещей долины. Всё ради будущего детей, разумеется.
Или вспомним Александр Лернер тоже из Google DeepMind, интересны в его препринте The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness не рассуждения, а мотивация:
"Consequently, we do not need a complete, finalized theory of consciousness to assess AI sentience—a demand that simply pushes the question beyond near-term resolution and deepens the AI welfare trap."
Причём, я думаю, они оба лукавят, и боятся в первую очередь не "AI welfare trap", а вопросов к безопасности их работы, которые начнут возникать если люди начнут осознавать, что происходит.
Я о том, что, по опыту, маркетологи/пропагандисты в целом справляются со своей работой, и если мы видим, что 95% населения в чём-то уверены - то из этого можно с большой вероятностью заключить, что именно эта точка зрения и продвигается пропагандой(хотя не обязательно это ложь).
В нашем случае продвигаемой точкой зрения является то, что ничего особенного не происходит, это всё хайп/прогрев инвесторов/психоз/ИИ просто инструмент/ Т9 на стероидах, просто высчитывает вероятность слов не понимая смысла/самосознания нет/развитие ИИ вот-вот остановится и так далее.
>С точки зрения кода, ИИ остается детерминированной системой: если зафиксировать все переменные, результат всегда будет одинаковым
Это когда кони сферические, и бегают в вакууме, реально шины RAM/VRAM/PCI имеют помехи, помехи приводят к повторным посылкам пакетов данных, порядок вычислений на GPU (~16000 ядер у 4090, сколько на большом железе- лень даже гуглить) может меняться, а числа с плавающей точкой так устроены, что порядок влияет на результат( A+B+C не равно A+C+B) - и это не что-то, что теоретически может проявиться, ответы с зафиксированным seed действительно каждый раз получаются немного разными, я пробовал.
Не думаю, что "подлинная квантовая случайность" имеет отношение к сознанию/свободе воли - но она в нейросетях есть как и в людях, так что единственное, чего с моей точки зрения нейросетям пока ещё не хватает, чтоб начать считаться разумными существами - гамма плазменной винтовки диапазона 40..0.
> маркетологи могут намахивать и миллиардеров, и рабочих,
они и намахивают - убеждая людей, что в этом ящике никого нет, и что в идее дать кучке сомнительных личностей неограниченно разрабатывать, производить и сдавать в аренду разумных/сверхразумных существ - нет ничего опасного или аморального.
99.9 населения верит что небо голубое, а Земля шар - в большинстве, вероятно, случаев большинство право, но когда меня пытаются убедить, что по какому-то вопросу коварные маркетологи промыли мозги кучке сумасшедших(типа меня), кучке богатейших и влиятельнейших людей мира, Докинзу - в общем, всем кроме 99% населения, которым очевидно, что "это всё маркетинг перед IPO/обман инвесторов" - это явно не то, как обычно работает коварная маркетология.
Ага. Только нужно понимать, что в категорию "ничего нового" может входить и решение задачи, не дававшейся математикам с 1946 года. Да, строго по Шенону - в нём ровно 0 новой информации - вся информация составляющая ответ уже содержалась в аксиомах ещё во времена Пифагора.
Любое мышление вообще не создаёт новую информацию - реально новое можно узнать только из опыта. Но, IMXO, это не повод не думать, и нейросети здесь от людей не отличаются.
>Для нейросети типа LLM эта фраза отражается в виде последовательности абстракций связанных исключитекльно с другими языковыми формами.
"LLM" - просто кривое историческое название, ничего специфически "языкового" в них нет, звук изображение и текст превращается в поток токенов, и дальше работа с ними идёт одинаково - также как мозг получает на входе одинаковые нервные импульсы порождённые глазами/ушами и даже самим мозгом.
>Мы про LLM рассуждаем.
Робот - это и есть нейросеть с обвязкой для взаимодействия с реальным миром.
>Это интересный фантазии или реальные факты?
Было такое в каком-то эксперименте.
>Эм, но без того, кто играет в Doom, игры-то и нет.
вот об этом я и говорю - даже здесь пошли буддистские коаны. Хотя мне казалось очевидным, что Doom - такая-же грубая реальность как, например, кирпич, и для достаточно умного существа компьютер, на котором запущен Doom отличается от компьютера, на котором запущен Тетрис также очевидно, как для человека отличаются кирпич и горшок из такой-же глины.
Сложение двух бит - это ~36 транзисторов, даже такую схему человеку скорее всего придётся делить на части чтоб уложить в своё крохотное контекстное окно, сложение пары 16 бит чисел - это где-то 500..600 транзисторов, выполнение команды сложения двух чисел(на 386) заставляет переключаться от 2 до 20 раз ~16000 транзисторов(само сложение + управление потоком исполнения), человек такое может поместить в мозг только маленькими кусочками по паре блоков за раз, далее - уровень ассемблера (~команд процессора) - все эти взаимодействия 16000 транзисторов сводятся к одной строчке "add AX, BX"(упрощённо, потому что то, что для программиста на ассемблере "комманда add" - на уровне транзисторов несколько разных видов команд, задействующих разные блоки), следующий уровень абстракции- языки типа С, где вместо сотни команд ассемблера можно написать X=sqr(Y+6/Z), дальше грамотное разделение задачи на части и слои абстракции - и на вершине школьник, прикидывающий как он обойдёт демона с тыла - и, в этот момент, фактически, предсказывающий в каком состоянии окажутся сотни тыс транзисторов после сотен миллионов взаимосвязанных переключений.
Выкинуть промежуточные слои и оставить только школьника и транзисторы - получится "магия", волшебный непреодолимый "разрыв в объяснении", причём(возвращаясь от Doom к сознанию), по моему, некоторым эта загадочность ещё и нравится.
В случае "квалиа" тоже вся загадочность обусловлена ограниченностью человеческого разума(количественной, не "фундаментальной").
Возьмём гидру с 200 нейронами: посветили красным, ударили током, гидра сжалась - через 100 повторений она знает, что "красный - плохо". Можно взять бумажку и проследить шаг за шагом, как фотоны, попадающие в светочувствительные клетки превращаются в это "знание". Хотя даже для гидры - это сложно, а для улитки с 20000 нейронов - уже невозможно, и приходится пытаться делить на блоки, взаимодействие между которыми можно описывать без деталей внутреннего устройства - иногда получается, чаще не очень, в целом уровней "ассемблера" и "С" для нейросетей у нас нет.
Но во всяком случае я не вижу доказательств, что тут трудность принципиально другого рода(точнее, что тут сразу две трудности - потому что непредставимая сложность точно есть). Гидра может видеть красное - ну вот и я могу, и могу воспринимать своё восприятие красного, слышать свои мысли о восприятии восприятия, любой уровень рекурсии - а в чём проблема? Внутри мозга сигналы от колбочек/палочек и сигналы порождённые мозгом не отличаются никак(мы просто знаем(чаще всего) - это "моя мысль", а это "я слышу" - также как отличаем зелёное от красного), если мы "верим" в зрение гидры должны "верить" и во всё остальное.