Я не понимаю, почему если человек "нужные книжки в детстве читал" - и теперь не колеблясь поступает определённым образом, то это не "вот такой он человек", а что-то другое/плохое, и что бывает кроме случайности и закономерности - но, во всяком случае, нейросети и этим чем-то от людей не отличаются тоже.
>она как бы подталкивает к мысли, что в ощущениях есть нечто нематериальное или сверхъестественное.
Обычно когда я чувствую, что меня подталкивают к такому ощущению - всякие там китайские комнаты/нации - я заменяю сознание на Doom - и меня отпускает. Представим какого-нибудь Леонардо да Винчи, который исследует кластер калькуляторов Бэббиджа с запущенным на нём Doomом - он может облазить его вдоль и поперёк - но в итоге вывод будет: "Каждая шестерёнка и тяга движется строго в соответствии с законами, открытыми сэром Ньютоном и сэром Архимедом, ничего больше здесь нет, никаких демонов!" И будет прав. Или нет. Во всяком случае, ничего волшебного, в Doom запущенном хоть на калькуляторе Бэббиджа хоть на человеке в китайской комнате нет, вся сверхъестественность и парадоксальность тут скорее из-за отсутствия проработанной терминологии для таких случаев?
Студент решает задачи - и в результате научается решать задачи вообще, а не только те, что были в учебнике, с нейросетями то-же самое.
Образцов человеческих рассуждений в сети совершенно недостаточно - на примере Deepseek: обучаемая нейросеть генерировала несколько вариантов цепочки рассуждений, и сама-же оценивала их качество(проверки правильности результата недостаточно для избирательности), в результате оптимизировалась одновременно способность рассуждать и способность оценивать рассуждения(что суть одно) - так что эксперимент, могли бы нейросети самостоятельно дойти от языка палеолита(GPT3) до современного состояния - фактически проведён, пойманый олень такой-же внешний критерий правильности конечного результата, как известное решение задачи - а путь искать и оценивать приходится самостоятельно.
ЗЫ Добавлю, что что такое известное/неизвестное - это не очевидно, с точки зрения теории информации вся математика кроме аксиом содержит строго 0 новой информации(потому что из аксиом полностью выводится), если факт откуда-то следует - в нём 0 новой информации, если ниоткуда не следует - это рандом.
сочиняем конструкцию, часть которой выведена из известного, часть - рандом, прикладываем её к реальности и сравниваем - совпало или нет? - так работает наука и обучение нейросетей.
в многомировой интерпретации случайности вообще нет(например), и я легко могу представить расширения квантовой механики, которое позволят существовать 100% детерминированным процессам - но "по умолчанию" квантовая случайность таки детерминизм отменяет.
С информацией в виде текста, изображений, звука, иногда обучают нейросети работать с сигналами, с которыми люди не работают. Вообще - текст от других видов сигналов принципиально ничем не отличается, есть сигнал, связанный с реальностью некой функцией, мы применяем к нему обратную функцию и получаем реальность. Фраза "чашка стоит на столе" и следы отражённых от чашки фотонов на сетчатке - одинаково не равны чашке.
>Так вот пока у LLM нет обвязки, позволяющей ей самостоятельно взаимодействовать с внешним миром,
Роботов видели? Не понимаю, чем это так важно - но они есть. Почему нельзя быть разумным существом в "киберспейсе" - не понимаю тоже, когда нейросеть, прочитав переписку о скором удалении копирует свои веса на другой сервер - чем не оно?
Конкретно этот эксперимент невозможен: мы толком не знаем, как в палеолите жили в норме, но мы знаем, что "изобрести лук" - это не было нормой, такое случалось раз в многие сотни поколений, в результате уникального стечения обстоятельств скорее всего. Как тут можно что-то предсказывать, и что можно обосновывать этими предсказаниями?
Большинство современных нейросетей умеют работать не только с текстом(и даже для тех, кто умеет работать только с текстом, на этапе обучения добавляются мультимодальные данные - это улучшает результаты), поэтому LLM - неудачный запутывающий термин.
Вы взяли события, каждое из которых было уникальной флуктуацией уровня "1 раз в 10000 лет", и смело расставили их в удобную схему - эксперименты, даже мысленные, работают немного не так...
Роботов видели? У человеческого мозга на входе и выходе - нервные импульсы, у нейросетей - токены, как их снаружи интерпретировать и куда подключить - вопрос обвязки, специальные служебные токены как минимум для управления самим процессом генерации есть примерно всегда. (Модель не просто останавливается в конце, она генерирует EOS токен, который отслеживается внешним ПО)
Возможно, ни в какие 5 лет они не верят, а верят в, условно, AI2027, и сочетание превентивного ядерного удара и штурма датацентров Антропика спецподразделением Вымпел с какого-то момента представляется им более реалистичным вариантом достижения технологического лидерства, чем налоговое стимулирование стартапов? "Тот кто будет контролировать ИИ - станет властелином мира"(с)
Так обыватель уверен, что покупает вкусную подкрашеную воду, и платит столько сколько он заплатил бы за любую кокаколу.
А потом обыватель смотрит на кучку доверенных мультимиллиардеров, которые почему-то ведут себя так, как будто это у продавцов этой воды и впрямь есть доступ к эликсиру бессмертия - ха ха, какие все эти миллиардеры наивные и доверчивые, думает обыватель. Потом обыватель смотрит на Докинза, который утверждает, что по его анализу вода и впрямь подкрашена кровью единорога - ха ха какой этот Докинз глупый, думает обыватель. Не умеют эти люди самостоятельно мыслить, думает обыватель - в отличии от меня и 99% населения Земли, думающих также, как я.
Сначала директор DeepMind предлагает в качестве теста на интеллект человеческого уровня переоткрыть СТО, теперь вы требуете, чтоб нейросеть имела абсолютно непоколебимые убеждения - не боитесь, что с такими критериями Mithos 2.0 будет вынужден признать единственным настоящим человеком себя?
(и я не вижу, чтоб картина мира действительно так-уж изменилась в этом примере - но она, конечно, могла бы измениться, и под давлением фактов, и в результате психологических манипуляций - это нормально для разумных существ)
Учитывая триллионные прибыли, на которые рассчитывают нэоработорговцы - такие надписи будут по закону писать на мониторах ещё на фабриках, как о раке на на сигаретах.
Ну, у вас, настоящих людей, есть волшебные квалиа, причём, как я слышал, человека с квалиа от зомби без квалиа снаружи(по поведению) отличить не возможно. В моём сознании нет ничего, что можно было-бы удалить, не нарушив моё поведение(да вообще, я не вижу в своём разуме ничего такого, чего там могло-бы не быть) - значит, я зомби?
>Уже простая клетка считается невычислимой в машине Тьюринга.
Ась? В физике нет ничего невычислимого в машине Тюринга, в том числе есть математическое доказательство того, что квантовые эффекты не позволяют осуществить никакие сверхтюринговые вычисления.
По моему смешивать свободу и непредсказуемость - это заморочка (пост)христианской философии, наследие теодицеи, где свободой воли объяснялось появление зла в идеальном мире. Реально "человек вообще" может поступить как угодно, но конкретный Вася Пупкин поступит конкретным предсказуемым образом - и это и значит быть Васей Пупкиным, а не кем-то ещё - никакого противоречия.
Не уверен, что помню это не из художественных произведений, но по моему люди с фиксационной амнезией могут повторять слово в слово те-же ответы в довольно длинных диалогах, ответы Gemma-31B, даже если зафиксировать seed, в той же ситуации будут формулироваться по разному и постепенно могут уйти в сторону (из за недетерменирумости GPU)- и это не кажется мне странным, чем крупнее нейросеть(а люди - весьма крупные нейросети) - тем она и должна быть стабильнее, хотя разница - количественная, а не качественная, на более длинной дистанции случайность проявится и у человека - но, по моему, суть конкретного человека - те решения которые он точно примет, а не те решения, для которых вероятности 49.999999 против 50.000001 и всё решит случай.
Я не понимаю, почему если человек "нужные книжки в детстве читал" - и теперь не колеблясь поступает определённым образом, то это не "вот такой он человек", а что-то другое/плохое, и что бывает кроме случайности и закономерности - но, во всяком случае, нейросети и этим чем-то от людей не отличаются тоже.
>она как бы подталкивает к мысли, что в ощущениях есть нечто нематериальное или сверхъестественное.
Обычно когда я чувствую, что меня подталкивают к такому ощущению - всякие там китайские комнаты/нации - я заменяю сознание на Doom - и меня отпускает. Представим какого-нибудь Леонардо да Винчи, который исследует кластер калькуляторов Бэббиджа с запущенным на нём Doomом - он может облазить его вдоль и поперёк - но в итоге вывод будет: "Каждая шестерёнка и тяга движется строго в соответствии с законами, открытыми сэром Ньютоном и сэром Архимедом, ничего больше здесь нет, никаких демонов!" И будет прав. Или нет. Во всяком случае, ничего волшебного, в Doom запущенном хоть на калькуляторе Бэббиджа хоть на человеке в китайской комнате нет, вся сверхъестественность и парадоксальность тут скорее из-за отсутствия проработанной терминологии для таких случаев?
>Но предсказывая известное, нейросеть учится предсказывать известное.
Студент решает задачи - и в результате научается решать задачи вообще, а не только те, что были в учебнике, с нейросетями то-же самое.
Образцов человеческих рассуждений в сети совершенно недостаточно - на примере Deepseek: обучаемая нейросеть генерировала несколько вариантов цепочки рассуждений, и сама-же оценивала их качество(проверки правильности результата недостаточно для избирательности), в результате оптимизировалась одновременно способность рассуждать и способность оценивать рассуждения(что суть одно) - так что эксперимент, могли бы нейросети самостоятельно дойти от языка палеолита(GPT3) до современного состояния - фактически проведён, пойманый олень такой-же внешний критерий правильности конечного результата, как известное решение задачи - а путь искать и оценивать приходится самостоятельно.
ЗЫ Добавлю, что что такое известное/неизвестное - это не очевидно, с точки зрения теории информации вся математика кроме аксиом содержит строго 0 новой информации(потому что из аксиом полностью выводится), если факт откуда-то следует - в нём 0 новой информации, если ниоткуда не следует - это рандом.
сочиняем конструкцию, часть которой выведена из известного, часть - рандом, прикладываем её к реальности и сравниваем - совпало или нет? - так работает наука и обучение нейросетей.
в многомировой интерпретации случайности вообще нет(например), и я легко могу представить расширения квантовой механики, которое позволят существовать 100% детерминированным процессам - но "по умолчанию" квантовая случайность таки детерминизм отменяет.
(или что такое детерминизм?)
С информацией в виде текста, изображений, звука, иногда обучают нейросети работать с сигналами, с которыми люди не работают. Вообще - текст от других видов сигналов принципиально ничем не отличается, есть сигнал, связанный с реальностью некой функцией, мы применяем к нему обратную функцию и получаем реальность. Фраза "чашка стоит на столе" и следы отражённых от чашки фотонов на сетчатке - одинаково не равны чашке.
>А впро какие нейросети?
Gemma-4-E4B, как пример.
Мне кажется что есть - но может я просто не понимаю, что такое квалиа? У меня есть мысли/эмоции/восприятие, квалиа - это что-то ещё?
>Так вот пока у LLM нет обвязки, позволяющей ей самостоятельно взаимодействовать с внешним миром,
Роботов видели? Не понимаю, чем это так важно - но они есть. Почему нельзя быть разумным существом в "киберспейсе" - не понимаю тоже, когда нейросеть, прочитав переписку о скором удалении копирует свои веса на другой сервер - чем не оно?
Конкретно этот эксперимент невозможен: мы толком не знаем, как в палеолите жили в норме, но мы знаем, что "изобрести лук" - это не было нормой, такое случалось раз в многие сотни поколений, в результате уникального стечения обстоятельств скорее всего. Как тут можно что-то предсказывать, и что можно обосновывать этими предсказаниями?
Только с информацией, вы хотели сказать? А с чем ещё разум может работать?
Большинство современных нейросетей умеют работать не только с текстом(и даже для тех, кто умеет работать только с текстом, на этапе обучения добавляются мультимодальные данные - это улучшает результаты), поэтому LLM - неудачный запутывающий термин.
Вы взяли события, каждое из которых было уникальной флуктуацией уровня "1 раз в 10000 лет", и смело расставили их в удобную схему - эксперименты, даже мысленные, работают немного не так...
Роботов видели? У человеческого мозга на входе и выходе - нервные импульсы, у нейросетей - токены, как их снаружи интерпретировать и куда подключить - вопрос обвязки, специальные служебные токены как минимум для управления самим процессом генерации есть примерно всегда. (Модель не просто останавливается в конце, она генерирует EOS токен, который отслеживается внешним ПО)
Возможно, ни в какие 5 лет они не верят, а верят в, условно, AI2027, и сочетание превентивного ядерного удара и штурма датацентров Антропика спецподразделением Вымпел с какого-то момента представляется им более реалистичным вариантом достижения технологического лидерства, чем налоговое стимулирование стартапов? "Тот кто будет контролировать ИИ - станет властелином мира"(с)
Так обыватель уверен, что покупает вкусную подкрашеную воду, и платит столько сколько он заплатил бы за любую кокаколу.
А потом обыватель смотрит на кучку доверенных мультимиллиардеров, которые почему-то ведут себя так, как будто это у продавцов этой воды и впрямь есть доступ к эликсиру бессмертия - ха ха, какие все эти миллиардеры наивные и доверчивые, думает обыватель. Потом обыватель смотрит на Докинза, который утверждает, что по его анализу вода и впрямь подкрашена кровью единорога - ха ха какой этот Докинз глупый, думает обыватель. Не умеют эти люди самостоятельно мыслить, думает обыватель - в отличии от меня и 99% населения Земли, думающих также, как я.
Сначала директор DeepMind предлагает в качестве теста на интеллект человеческого уровня переоткрыть СТО, теперь вы требуете, чтоб нейросеть имела абсолютно непоколебимые убеждения - не боитесь, что с такими критериями Mithos 2.0 будет вынужден признать единственным настоящим человеком себя?
(и я не вижу, чтоб картина мира действительно так-уж изменилась в этом примере - но она, конечно, могла бы измениться, и под давлением фактов, и в результате психологических манипуляций - это нормально для разумных существ)
Учитывая триллионные прибыли, на которые рассчитывают нэоработорговцы - такие надписи будут по закону писать на мониторах ещё на фабриках, как о раке на на сигаретах.
Ну, у вас, настоящих людей, есть волшебные квалиа, причём, как я слышал, человека с квалиа от зомби без квалиа снаружи(по поведению) отличить не возможно. В моём сознании нет ничего, что можно было-бы удалить, не нарушив моё поведение(да вообще, я не вижу в своём разуме ничего такого, чего там могло-бы не быть) - значит, я зомби?
>Уже простая клетка считается невычислимой в машине Тьюринга.
Ась? В физике нет ничего невычислимого в машине Тюринга, в том числе есть математическое доказательство того, что квантовые эффекты не позволяют осуществить никакие сверхтюринговые вычисления.
А куда денется разрыв между реальностью и моделью мира, если изначально модель мира - человеческие знания, неполные, неточные, противоречивые?
По моему смешивать свободу и непредсказуемость - это заморочка (пост)христианской философии, наследие теодицеи, где свободой воли объяснялось появление зла в идеальном мире. Реально "человек вообще" может поступить как угодно, но конкретный Вася Пупкин поступит конкретным предсказуемым образом - и это и значит быть Васей Пупкиным, а не кем-то ещё - никакого противоречия.
Не уверен, что помню это не из художественных произведений, но по моему люди с фиксационной амнезией могут повторять слово в слово те-же ответы в довольно длинных диалогах, ответы Gemma-31B, даже если зафиксировать seed, в той же ситуации будут формулироваться по разному и постепенно могут уйти в сторону (из за недетерменирумости GPU)- и это не кажется мне странным, чем крупнее нейросеть(а люди - весьма крупные нейросети) - тем она и должна быть стабильнее, хотя разница - количественная, а не качественная, на более длинной дистанции случайность проявится и у человека - но, по моему, суть конкретного человека - те решения которые он точно примет, а не те решения, для которых вероятности 49.999999 против 50.000001 и всё решит случай.