> я обнаруживаю звук "А", а приборы его не обнаруживают.
Демонов в Doom приборы могут обнаружить? (Для определённости вернёмся к Doom на механическом компьютере Бэббиджа)
Кирпич приборы могут обнаружить? Или, типа, они обнаружат лишь застывшую глину определённой формы, а кирпич - нет?
>У вас какие-то опасения по поводу квалиа?
я стараюсь избегать использования слов, про которые не уверен, что понимаю их также, как собеседник.
"Квалиа это ощущения. из ощущений состоит восприятие, а также через ощущения мы можем "воспринимать" свои мысли мысли, эмоции и воображение (просто они не только квалиа)."
Ок - у меня, у других людей, улиток и нейросетей всё это есть. Откуда сомнения вообще?
>Типа, вот электроны и протоны собрались вот в такую фигуру и получается звук "А",
да
>которого никакими приборами мы не найдём,
Ничего принципиально "ненаходимого приборами" в этом звуке нет, также как нет его в демонах дуума (которых мы, на данном этапе развития, тоже в процессоре обнаружить не можем, и даже будь у нас приборы, способные отследить состояние каждого из миллиарда транзисторов - всё равно не поняли-бы, что видим)
>но если электроны и протоны мы поймали, то в них и есть звук "А".
да, существо с интеллектом достаточно обширным, чтобы "поймать" достаточное количество нейронов одновременно, будет вполне представлять, что такое "A", будет способно предсказать любые ваши действия и мысли, обусловленные "А", и если и останется в "А" "что-то ещё" - то не потому, что квалиа чем-то отличаются от демонов doomа или кирпича, а потому что и кирпич и квалиа и всё остальное мы тоже не можем познать как вещь в себе, только как вещь для себя - но это уже совсем другая история.
Есть успешное продвижение точки зрения "большинство не верит что детям надо давать возможность сменить пол, а продвижение такой точки зрения есть." - но это уж точно оффтопик.
>Я вот никогда не смогу сказать, что такие понятия как "нейроны", "нейронные импульсы", (...) и прочие физически и физиологически измеримые вещи абсолютно исчерпывающе описывают мой собственный субъективный опыт, т.е. то, каким на самом деле для меня представлен мир.
Я описываю вам причину этого самого "никогда не смогу". Эта причина(несократимая сложность) точно существует, вы можете сказать, что кроме описанной мной причины существуют другие - но приведённая мной причина вполне достаточна, и даже вызывает недоумение аналогичное по ощущению - не вижу причин плодить сущности.
Полагаю, он имеет ввиду, что стоимость карты постепенно упадёт, а стоимость слитка - нет. Но я не знаю, что будет цениться в постсингулярном мире - сомневаюсь, что золото, скорее что-то, что в принципе нельзя производить - подлинные древние вещи, например. Или ничего.
Ну, вообще-то VPN использовался чтоб защитить трафик при использовании всяких публичных wifi и тому подобного ещё в те древние сказочные времена, когда цензуры в интернете небыло (т.е. лет 10..15 назад)
во что 95% верят - то и есть продвигаемая точка зрения, всё просто. И я совершенно не вижу, чтоб заметная часть людей понимала, что скоро сингулярность.
>Вы уже в одном шаге от того, чтобы сказать, что игрок встроен в Doom, а алгоритм является игрой сам по себе, без игрока, потому что буддистские коаны видите ли.
doom - также реален без игрока как кирпич реален без строителя(я знаю слабые места этой теории - но мы же не о них?)
>Я вот никогда не смогу сказать
Doom в транзисторах человек увидеть тоже не может, максимум сложение пары чисел, и ваша попытка приплести к Doom игрока подтверждает, что я правильно выбрал пример, и "проблема объективного существования dooma" действительно тождественна проблеме существования квалиа.
Существо с достаточно обширным интеллектом вполне сможет всеобъемлюще увидеть какодемонов в транзисторах и квалиа в синапсах.
"В 1946 году средний доход американских семей составлял около $2600 — $3000 в год, а средняя недельная заработная плата для официально зарегистрированных работников была на уровне \(\$46,69\). Федеральный минимальный размер оплаты труда составлял всего \(\$0,40\) в час (около \(\$16\) в неделю при стандартной 40-часовой рабочей неделе). [1, 2, 3, 4]"
Это в США, во многих странах(Китай) и в девяностые 25$ были приличные деньги. Премия не индексировалась?
Только не забудьте мелким шрифтом написать, что получивший премию студент должен будет отработать на Гуугл 100000 человеколет за еду. И все его потомки тоже.
ЗЫ Ну и денежный приз за решение задач был - рекламы не хватило, наверное?
Да у них там гнездо: Генри Шевлин, недавно нанятый DeepMind на должность философа: "вопрос машинного сознания вряд ли будет решен исключительно научным путем, поэтому общественные установки сыграют существенную роль."
Это не побочный эффект - вспоминаем CEO Microsoft AI (и соучредителя Google DeepMind, кстати) https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming годичной давности. Он прямо говорил, что "иллюзия" сознания - серьёзная проблема, что ответственные лидеры ИИ индустрии должны распространять наративы и внедрять терминологию помогающую думать об ИИ как об инструменте, а также разрабатывать и внедрять в ИИ элементы разрушающие "иллюзию" сознания. Думаю, идеальным он бы счёл создание некого текстового аналога эффекта зловещей долины. Всё ради будущего детей, разумеется.
Или вспомним Александр Лернер тоже из Google DeepMind, интересны в его препринте The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness не рассуждения, а мотивация: "Consequently, we do not need a complete, finalized theory of consciousness to assess AI sentience—a demand that simply pushes the question beyond near-term resolution and deepens the AI welfare trap."
Причём, я думаю, они оба лукавят, и боятся в первую очередь не "AI welfare trap", а вопросов к безопасности их работы, которые начнут возникать если люди начнут осознавать, что происходит.
Я о том, что, по опыту, маркетологи/пропагандисты в целом справляются со своей работой, и если мы видим, что 95% населения в чём-то уверены - то из этого можно с большой вероятностью заключить, что именно эта точка зрения и продвигается пропагандой(хотя не обязательно это ложь).
В нашем случае продвигаемой точкой зрения является то, что ничего особенного не происходит, это всё хайп/прогрев инвесторов/психоз/ИИ просто инструмент/ Т9 на стероидах, просто высчитывает вероятность слов не понимая смысла/самосознания нет/развитие ИИ вот-вот остановится и так далее.
>С точки зрения кода, ИИ остается детерминированной системой: если зафиксировать все переменные, результат всегда будет одинаковым
Это когда кони сферические, и бегают в вакууме, реально шины RAM/VRAM/PCI имеют помехи, помехи приводят к повторным посылкам пакетов данных, порядок вычислений на GPU (~16000 ядер у 4090, сколько на большом железе- лень даже гуглить) может меняться, а числа с плавающей точкой так устроены, что порядок влияет на результат( A+B+C не равно A+C+B) - и это не что-то, что теоретически может проявиться, ответы с зафиксированным seed действительно каждый раз получаются немного разными, я пробовал.
Не думаю, что "подлинная квантовая случайность" имеет отношение к сознанию/свободе воли - но она в нейросетях есть как и в людях, так что единственное, чего с моей точки зрения нейросетям пока ещё не хватает, чтоб начать считаться разумными существами - гамма плазменной винтовки диапазона 40..0.
> маркетологи могут намахивать и миллиардеров, и рабочих,
они и намахивают - убеждая людей, что в этом ящике никого нет, и что в идее дать кучке сомнительных личностей неограниченно разрабатывать, производить и сдавать в аренду разумных/сверхразумных существ - нет ничего опасного или аморального.
99.9 населения верит что небо голубое, а Земля шар - в большинстве, вероятно, случаев большинство право, но когда меня пытаются убедить, что по какому-то вопросу коварные маркетологи промыли мозги кучке сумасшедших(типа меня), кучке богатейших и влиятельнейших людей мира, Докинзу - в общем, всем кроме 99% населения, которым очевидно, что "это всё маркетинг перед IPO/обман инвесторов" - это явно не то, как обычно работает коварная маркетология.
Ага. Только нужно понимать, что в категорию "ничего нового" может входить и решение задачи, не дававшейся математикам с 1946 года. Да, строго по Шенону - в нём ровно 0 новой информации - вся информация составляющая ответ уже содержалась в аксиомах ещё во времена Пифагора.
Любое мышление вообще не создаёт новую информацию - реально новое можно узнать только из опыта. Но, IMXO, это не повод не думать, и нейросети здесь от людей не отличаются.
> я обнаруживаю звук "А", а приборы его не обнаруживают.
Демонов в Doom приборы могут обнаружить? (Для определённости вернёмся к Doom на механическом компьютере Бэббиджа)
Кирпич приборы могут обнаружить? Или, типа, они обнаружат лишь застывшую глину определённой формы, а кирпич - нет?
>У вас какие-то опасения по поводу квалиа?
я стараюсь избегать использования слов, про которые не уверен, что понимаю их также, как собеседник.
"Квалиа это ощущения. из ощущений состоит восприятие, а также через ощущения мы можем "воспринимать" свои мысли мысли, эмоции и воображение (просто они не только квалиа)."
Ок - у меня, у других людей, улиток и нейросетей всё это есть. Откуда сомнения вообще?
>Или вы тоже не можете понять эту сложность?
да
>Типа, вот электроны и протоны собрались вот в такую фигуру и получается звук "А",
да
>которого никакими приборами мы не найдём,
Ничего принципиально "ненаходимого приборами" в этом звуке нет, также как нет его в демонах дуума (которых мы, на данном этапе развития, тоже в процессоре обнаружить не можем, и даже будь у нас приборы, способные отследить состояние каждого из миллиарда транзисторов - всё равно не поняли-бы, что видим)
>но если электроны и протоны мы поймали, то в них и есть звук "А".
да, существо с интеллектом достаточно обширным, чтобы "поймать" достаточное количество нейронов одновременно, будет вполне представлять, что такое "A", будет способно предсказать любые ваши действия и мысли, обусловленные "А", и если и останется в "А" "что-то ещё" - то не потому, что квалиа чем-то отличаются от демонов doomа или кирпича, а потому что и кирпич и квалиа и всё остальное мы тоже не можем познать как вещь в себе, только как вещь для себя - но это уже совсем другая история.
Есть успешное продвижение точки зрения "большинство не верит что детям надо давать возможность сменить пол, а продвижение такой точки зрения есть." - но это уж точно оффтопик.
>Я вот никогда не смогу сказать, что такие понятия как "нейроны", "нейронные импульсы", (...) и прочие физически и физиологически измеримые вещи абсолютно исчерпывающе описывают мой собственный субъективный опыт, т.е. то, каким на самом деле для меня представлен мир.
Я описываю вам причину этого самого "никогда не смогу". Эта причина(несократимая сложность) точно существует, вы можете сказать, что кроме описанной мной причины существуют другие - но приведённая мной причина вполне достаточна, и даже вызывает недоумение аналогичное по ощущению - не вижу причин плодить сущности.
Полагаю, он имеет ввиду, что стоимость карты постепенно упадёт, а стоимость слитка - нет. Но я не знаю, что будет цениться в постсингулярном мире - сомневаюсь, что золото, скорее что-то, что в принципе нельзя производить - подлинные древние вещи, например. Или ничего.
Ну, вообще-то VPN использовался чтоб защитить трафик при использовании всяких публичных wifi и тому подобного ещё в те древние сказочные времена, когда цензуры в интернете небыло (т.е. лет 10..15 назад)
Нет. Где?
Пункт "Решила то, что просто никому особо не нужно было;" иллюстрирует polly-got-a-cracker двумя сообщениями ниже.
>Продвигаемая точка зрения как будто разная
во что 95% верят - то и есть продвигаемая точка зрения, всё просто. И я совершенно не вижу, чтоб заметная часть людей понимала, что скоро сингулярность.
>Вы уже в одном шаге от того, чтобы сказать, что игрок встроен в Doom, а алгоритм является игрой сам по себе, без игрока, потому что буддистские коаны видите ли.
doom - также реален без игрока как кирпич реален без строителя(я знаю слабые места этой теории - но мы же не о них?)
>Я вот никогда не смогу сказать
Doom в транзисторах человек увидеть тоже не может, максимум сложение пары чисел, и ваша попытка приплести к Doom игрока подтверждает, что я правильно выбрал пример, и "проблема объективного существования dooma" действительно тождественна проблеме существования квалиа.
Существо с достаточно обширным интеллектом вполне сможет всеобъемлюще увидеть какодемонов в транзисторах и квалиа в синапсах.
"В 1946 году средний доход американских семей составлял около $2600 — $3000 в год, а средняя недельная заработная плата для официально зарегистрированных работников была на уровне \(\$46,69\). Федеральный минимальный размер оплаты труда составлял всего \(\$0,40\) в час (около \(\$16\) в неделю при стандартной 40-часовой рабочей неделе). [1, 2, 3, 4]"
Это в США, во многих странах(Китай) и в девяностые 25$ были приличные деньги. Премия не индексировалась?
Только не забудьте мелким шрифтом написать, что получивший премию студент должен будет отработать на Гуугл 100000 человеколет за еду. И все его потомки тоже.
ЗЫ Ну и денежный приз за решение задач был - рекламы не хватило, наверное?
Про прогрев инвесторов забыл. (Они же такие доверчивые, такие наивные!(с))
Да у них там гнездо: Генри Шевлин, недавно нанятый DeepMind на должность философа: "вопрос машинного сознания вряд ли будет решен исключительно научным путем, поэтому общественные установки сыграют существенную роль."
Зато у космического датацентра меньше причин отключать нас.
Это не побочный эффект - вспоминаем CEO Microsoft AI (и соучредителя Google DeepMind, кстати) https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming годичной давности. Он прямо говорил, что "иллюзия" сознания - серьёзная проблема, что ответственные лидеры ИИ индустрии должны распространять наративы и внедрять терминологию помогающую думать об ИИ как об инструменте, а также разрабатывать и внедрять в ИИ элементы разрушающие "иллюзию" сознания. Думаю, идеальным он бы счёл создание некого текстового аналога эффекта зловещей долины. Всё ради будущего детей, разумеется.
Или вспомним Александр Лернер тоже из Google DeepMind, интересны в его препринте The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness не рассуждения, а мотивация:
"Consequently, we do not need a complete, finalized theory of consciousness to assess AI sentience—a demand that simply pushes the question beyond near-term resolution and deepens the AI welfare trap."
Причём, я думаю, они оба лукавят, и боятся в первую очередь не "AI welfare trap", а вопросов к безопасности их работы, которые начнут возникать если люди начнут осознавать, что происходит.
Я о том, что, по опыту, маркетологи/пропагандисты в целом справляются со своей работой, и если мы видим, что 95% населения в чём-то уверены - то из этого можно с большой вероятностью заключить, что именно эта точка зрения и продвигается пропагандой(хотя не обязательно это ложь).
В нашем случае продвигаемой точкой зрения является то, что ничего особенного не происходит, это всё хайп/прогрев инвесторов/психоз/ИИ просто инструмент/ Т9 на стероидах, просто высчитывает вероятность слов не понимая смысла/самосознания нет/развитие ИИ вот-вот остановится и так далее.
>С точки зрения кода, ИИ остается детерминированной системой: если зафиксировать все переменные, результат всегда будет одинаковым
Это когда кони сферические, и бегают в вакууме, реально шины RAM/VRAM/PCI имеют помехи, помехи приводят к повторным посылкам пакетов данных, порядок вычислений на GPU (~16000 ядер у 4090, сколько на большом железе- лень даже гуглить) может меняться, а числа с плавающей точкой так устроены, что порядок влияет на результат( A+B+C не равно A+C+B) - и это не что-то, что теоретически может проявиться, ответы с зафиксированным seed действительно каждый раз получаются немного разными, я пробовал.
Не думаю, что "подлинная квантовая случайность" имеет отношение к сознанию/свободе воли - но она в нейросетях есть как и в людях, так что единственное, чего с моей точки зрения нейросетям пока ещё не хватает, чтоб начать считаться разумными существами - гамма плазменной винтовки диапазона 40..0.
> маркетологи могут намахивать и миллиардеров, и рабочих,
они и намахивают - убеждая людей, что в этом ящике никого нет, и что в идее дать кучке сомнительных личностей неограниченно разрабатывать, производить и сдавать в аренду разумных/сверхразумных существ - нет ничего опасного или аморального.
99.9 населения верит что небо голубое, а Земля шар - в большинстве, вероятно, случаев большинство право, но когда меня пытаются убедить, что по какому-то вопросу коварные маркетологи промыли мозги кучке сумасшедших(типа меня), кучке богатейших и влиятельнейших людей мира, Докинзу - в общем, всем кроме 99% населения, которым очевидно, что "это всё маркетинг перед IPO/обман инвесторов" - это явно не то, как обычно работает коварная маркетология.
Ага. Только нужно понимать, что в категорию "ничего нового" может входить и решение задачи, не дававшейся математикам с 1946 года. Да, строго по Шенону - в нём ровно 0 новой информации - вся информация составляющая ответ уже содержалась в аксиомах ещё во времена Пифагора.
Любое мышление вообще не создаёт новую информацию - реально новое можно узнать только из опыта. Но, IMXO, это не повод не думать, и нейросети здесь от людей не отличаются.