Обновить
86

Биофизика

0,2
Рейтинг
71
Подписчики
Отправить сообщение

Допустим эта квантовая гравитация объясняет истоки БВ, но в ОТО имеется другая сингулярность - ЧД. Что дает квадратичная кв. гравитация для их объяснения? Того же излучения Хокинга и других свойств полученных полулегальным путем. Это было бы дополнительной проверкой предсказаний теории. Если ничего, то это очередная подгонка инфляционной модели Вселенной для объяснения одного явления, как в свое время эфир был введен для объяснения перемещения световых волн. Время покажет, может теоретики еще не добрались до ЧД.

Меня этот вопрос очень интересует. Но пока что мало удалось найти попыток научного осмысления неречевого мышления: наглядно-образного, наглядно-действенного.

Есть экспериментальные исследования Г. А. Иваницкого с коллегами по когнитивному пространству. Статьи на русском, но сейчас нашел только на английском Sci-Hub | A Neurophysiological Model of the Cognitive Space. Neuroscience and Behavioral Physiology, 43(2), 193–199 | 10.1007/s11055-013-9713-4

Близкие работы по теме ментальные образы (обзорная статья на плато) и работа воображения.

Автор комента по существу прав, но изложил мысль через-чур сжато) и поэтому нахватал минусов. Если мысль развернуть, но без деталей, то мозг действительно биологическая машина сжатия информации и предсказания. Начиная с сенсорного ввода на уровне нейронов это сжатие осуществляется благодаря их пространственно-временной суммативной способности, которую на уровне сетей можно представить такой схемой из этой статьи. Фактически это разновидность нелинейной фильтрации. Это сжатие иллюстрируется на примере глубоких сверточных сетей, которые являются биологически правдоподобными моделями вентрального тракта зрительной системы приматов. В вышележащих отделах коры мозга, включая ассоциативных, происходит дальнейшее обобщение информации - процесс абстрагирования, который также связывается с компрессией.

Однако формальные нейронов являются весьма приближенными моделями биологических прототипов, как взвешенные по входам сумматоры с функцией активации на выходе. Например, функции самого распространенного в мозге пирамидального нейрона в действительности моделируются 5 - 8 слойными сетями из формальных нейронов.

Важный момент! Все сказанное о формальных нейронах и сетях из них относится только к моделированию пространственной суммации, временная пока полностью отсутствует. В общем случае в биологических сетях веса синапсов могут динамически меняться, а иногда и архитектура самих сетей путем появления новых и удаления (прунинга) не используемых синапсов, вплоть до появления новых нейронов. Это составляет сложную нелинейную нейродинамику мозга функционирующего в критических режимах. ЯМ пока являются исключительно статичными решениями. В этом кроются их многие проблемы и недостатки. В трансформерах некоторая видимость динамики поддерживается с помощью внешнего авторегрессивного цикла, которая позволяет вероятностно предсказывать следующие токены. Для воспроизведения полноценной динамики требуется также включение рекуррентности в их архитектуру.

В мозге наиболее популярным механизмом предсказания является теория предиктивного кодирования (байесовского мозга / разума, см. перевод с дополнениями, отличие генеративных моделей от традиционных, эта схема с иерархической организацией применима не только для перцепции, но и процессу мышления).

По статье.

Мне кажется, что это, скорее, искусственная память. Очень ёмкая, дорогая и неизбежно дырявая. Как и наша собственная.

ЯМ моделируют пока в основном ассоциативную форму мышления (которую представляет Система 1 - быстрое мышление в дуальной теории мышления) и память человека, из многих имеющихся (подробнее), ассоциативность для ЯМ - 1, 2. Ассоциации у человека часто приводят к фантазиям, что может быть важным в искусстве, творчестве, в тяжелых (патологических) случаях к бреду. В ЯМ это явление назвали глюками, т.е. как-бы, навесили ярлык негативного явления с которым нужно бороться.

Сюжетный поворот: мы — тоже lossy-кодек

Подобные представления о разуме и сознании существуют давно и известны, как компрессионистские - Compressionism: A Theory of Mind Based on Data Compression.pdf

Есть попытка реализации этой идеи в SP-теории - 1, 2. Но особого распространения эти представления пока не получи. Возможно еще не пришло время, или идея является побочной.

Впрочем, у утверждение, будто основанные на больших языковых моделях не вычисляют алгоритмически, неверное.

В этой статье разобраны все ограничения вычислений ЯМ без привлечения внешних средств и предлагается тест для проверки. Пошаговые символические вычисления для очень больших чисел сильно замедляют вычисления и в любом случае ограничены размером контекстного окна.

Без вызова внешних средств вычисления все ЯМ делают ошибки в вычисления, особенно для больших чисел. Предложен даже тест для их проверок.

NUMBER COOKBOOK: NUMBER UNDERSTANDING OF LANGUAGE MODELS AND HOW TO IMPROVE IT.pdf

Реально ли всё это?

Возможно. Если бесконечность таится в каких-нибудь тёмных уголках физической вселенной, то, мы, вероятно, не сможем со всей определённостью выяснить её количественные характеристики. При их отсутствии мы пользуемся инструментарием для создания странных миров, переформулирующих правила формальной логики всё более безумным образом, иногда помогая при этом доказательству одной-двух теорем.

Что имел в виду автор? Математический платонизм? Сейчас известно, как вычисления происходят в разных вычислительных системах и их ограничениях, включая физических - 1, 2, 3, но как они должны происходить сами по себе? Самовычисляться, самоорганизовываться и самопредставляться в воспринимаемый нами мир и ощущения себя? Что-то вроде этого? В 60-70 гг. прошлого века Бонецерраф сформулировал известные возражения против математического платонизма. Нашли их достойное решение для поддержания этого пассажа автора?

Столь же важно ещё и то, что без этих удивительно запутанных понятий бесконечности было бы трудно поддерживать свой снобизм и отпугивать от математики всякое отребье.

Сомневаться нужно обязательно, даже относится скептически, не только потому что это помогает найти недочеты, в случае неудачи уменьшит негативные последствия для психики при разочаровании. Удачи в поисках смысла жизни!

А также у меня на всех масштабах действует один закон, который объединяет все эти теории.

На такое претендовала теория струн над которой почти полвека трудилось множество известных физиков. Тем не менее, теория остается не завершенной, не общепризнанной и не подтвержденной эмпирически. Поэтому имеются большие сомнения, что просто так можно создать подобную теорию, которая объединяет все. На Хабре периодически печатаются подобные опусы, но есть и прозрения)

Напомню автору один важный признак формальной проверки новых физических предположений (гипотез) фундаментального характера - соблюдение принципа соответствия (подробнее). Когда Эйнштейн создавал свои теории, то он явно или не явно руководствовался этой подсказкой. Для СТО в пределе небольших скоростей v << c должны воспроизводиться классические результаты. То же самое для ОТО в пределе слабых потенциалов гравполя должны воспроизводиться результаты классической теории гравитации. Этот же принцип использовался при разработке формализма КМ Бором, и особенно Гейзенбергом. В вашем опусе можно произвести такой предельный переход к известным и общепринятым физическим результатам? И по каким критическим условиям или параметрам?

Три фундаментальных порока трансформера

Эти и другие недостатки трансформерных архитектур стали понятны уже несколько лет назад, как только появились некоторые подробности реализаций технологии. Что это за интеллект, который не может умножать и складывать любые числа без привлечения внешних средств? И дело не только в том, что тогда думали, что все решится масштабированием. В верхах поняли, в политической и технологической элите, что такой путь развития ИИ в очередной раз, но уже на совершенно ином уровне, накроет колпаком все человечество, или почти все, и выгоды при этом будут не только экономические, как когда-то было с датацентрами для интернета, затем датацентрами записи и анализа мобильной связи. Поэтому на ЯМ выделяются огромные средства с негласного одобрения сверху несмотря на все недостатки и риски этой технологии. Никто строительство таких датацентров, может кроме Китая, сейчас не потянет, особенно с учетом введения всевозможных ограничений, а это значит политическая, экономическая, технологическая, даже личная информация, включая о проблемах с психикой, почти всего мира может оказаться под контролем этой элиты, и конечно будет использоваться во благо всего мира, не забывая при этом про блага самой элиты) А развитие энергоэффективных нейроморфных и другие подобных технологий подождут своего часа. Им датацентров такого масштаба не нужно, это больше агентные, автономные, локальные решения. Хотя и их конечно можно приспособить для сбора информации. К сожалению почти у любой технологии, особенно глобальной, два лица, и это нужно иметь в виду, когда ведутся дискуссии о их соотношении, недостатках и преимуществах.

Автору спасибо за статью и интересный анализ.

Тем более, что в философии познания Канта предусмотрена объективная реальность "вещей в себе", которую до бесконечности можно изучать с феноменальной стороны ее проявлений. Окончательная теория всего просто не возможна, что история физического познания пока подтверждает в виде смены поколений совместимых фундаментальных теорий. Нужно только отдавать отчет, что новые проявления реальности часто носят непредсказуемый характер, и открываются неожиданно, даже случайно, в духе искали экспериментальное подтверждение одного, а наши нечто другое, новое, которое не объясняется современными теориями, и требует новых. Нужно шире проверять гипотетические предположения, строить новые ускорители, детекторы частиц и телескопы разного базирования на новых технологиях и повышенной чувствительности, тогда повышается вероятность таких неожиданных открытий. Это нужно знать функционерам от науки, от которых зависит ее финансирование, других путей нет, отрицательные результаты экспериментов, тоже результаты, а не выброшенные деньги.

И последний момент, философы, которые не глубоко погрузились в теорию Канта, часто утверждают, что она идеалистическая, т.к. использует понятие ноуменов из философии Платон, и де реальность "вещей в себе" ноуменальна. Поэтому можно населять ее идеями или математическими сущностями. Сам Кант называл свою философию критической, хотя метод ее построения трансцендентальным идеализмом. Однако между концепцией "вещей в себе" и ноумена имеется важная разница, которую нужно иметь ввиду, для понимания его метода. Место ноуменов по Канту в регулятивных идеях, см на схеме, ссылка на которую дана в начале комента.

У такой концепции есть фундаментальный недостаток, это двусмысленность человеческого языка. Мы, люди, общаясь на одном языке, не всегда можем грамотно объяснить наши мысли или описать какие-то действия другому человеку, не говоря уж о машине.

С тем же столкнулись в эпоху символического ИИ, ЭС, см. обзор широко обсуждавшейся в то время критики в работах Дрейфуса, что способствовало появлению концепции когнитивной архитектуры. Он надеялся, что подобные проблемы обучения, общения с ИИ будут решены в моделях нейросетевого интеллекта. Но то же сказываются.

Статья неплохо отражает состояние вопрос, особенно связанные с генераторами паттернов активности, с упором на отечественные работы, но не касается современной доминирующей парадигмы - предсказательной функции и механизмов ЦНС, особенно высших отделов мозга, см. обзор с дополнениями. Предсказания также можно рассматривать, как более сложную форму эндогенной активности мозга.

После прохождения тестов задачи из него и ответы ЯМ доступны на сервере разработчикам модели, как и любые другие ответы на запросы. Главное вопросы тестов, правильные ответы можно и самим найти, придумать самим аналогичные вопросы и на них натренировать новую версия ЯМ. Именно поэтому тесты обновляются, а не только из-за новых, усложненных заданий. Про такое для другого теста сообщалось.

Непрерывность восприятия света, звуков, запахов, и др. ощущений иллюзия создаваемая мозгом. В психофизических исследованиях давно установлен пороговый характер ощущений интенсивность которых подчиняется определенным закономерностям с целью сжатия поступающей информации. В совокупности сенсорная система постоянно буквально нелинейно "цифрует" внешние и внутренние воздействия, вплоть до отдельных рецепторов, которые работают, как сумматоры носителей физических воздействий - фотонов, молекул, и тд.

С внедрением мемристоров проблемы с долговечностью их материалов, особенно для нейроморфных технологий, которые со временем могут получить распространение.

Спасибо за интересную статью!

Что значит закрытый тест? Он может быть закрытым для непосредственного изучения, но после прогонки через модели становится доступным для исследователей лабораторий ИИ. Дальше можно специально натаскивать на подобных задачах из них следующие версии моделей повышая процент решения. Это не значит, что они стали продвинутее в решении задач физики вообще, а только в типах задач совпадающих с тестовыми. Это тоже хорошо, чем больше типов, тем шире охват. Особенно в решении рутинных задач. Однако самый объективный тест ИИ в решении проблем физики находится здесь, хотя бы теоретической части, решений которых точно пока нигде не найти)

Не проще ли отказаться уже от классического детерминизма и принять квантовую логику, с её суперпозициями, кубитами, случайным коллапсом и/или невычислимой мерой ветвей ВФ?

Вы об определенной интерпретации текущей квантово-релятивистской парадигмы, а автор статьи о философско-методологическом уровне познания - реальность познаваема или нет, и какими методами? В его понимании реальность носит вычислительный характер и познаваема математическими методами, но они ограничены вычислительными процессами самой Вселенной, которые он считает "несжимаемыми" (см. комент ниже). Что касается вашего предложения то мы точно знаем, что существует другая парадигма физического познания поскольку текущая не объясняет массу эмпирических фактов и теоретических проблем и их число только возрастает. Эпистемология Поппера, на которую вы ориентируетесь, носит скорее прикладной характер, и действует внутри парадигм, и мало что может сказать о следующей. Это прерогатива, в конечном итоге, эмпирических методов познания, новых экспериментальных технологий. Предсказания текущих теорий могут дать только некоторые указания на направления поиска, но никак не определить его точно. Тут ориентирами могут служить положения теории познания Канта носящей надпорадигмальный характер, которые использовались Бором, Гейзенбергом, Эйнштейном, и др. физиками, осознанно или нет, когда разрабатывали теории Новой физики начала 20 в. Пока нет указаний на то что ситуация в процессах познания изменилась как-то кардинально, но сильно возросли трудности эмпирического характера.

Таким образом, Вольфрам снимает кантовскую антиномию "познаваем/непознаваем". Мир познаваем, но не сжимаем. Мы не можем предсказать результат сложного вычисления быстрее, чем оно произойдет в реальности. Это означает, что сама реальность и есть тот самый вычислительный процесс, который нельзя сократить. Гёделевская неполнота становится формальным выражением вычислительной неприводимости на уровне логики. ...

Кант обнаружил границу: разум упирался в антиномии. Вывод: мир вещей-в-себе непознаваем.

Где вы тут увидели противоречие с Кантом? Реальность "вещей в себе" ("вещей самих по себе") у Канта не познаваема фактически по определению, но с феноменальной стороны нет предела их познания всеми доступными методами, эмпирическими и рациональными, включая математическими. Это квинтэссенция его трансцендентальной философии познания. Возможно Вольфрам пришел к тому же самому не познаваемому, как "не сжимаемому" с математической точки зрения. В этой статье автор пришел к подобному заключению, хотя трудно сказать насколько корректны его доказательства, см. комент с пояснениями (еще по теме со ссылками).

Что касается Гегеля, то с точки зрения критического подхода Канта, он просто догматизировал многие положения его философии, абсолютизировал, включая антиномии и синтез. С чем Кант боролся. Превратил из познания человеком со всеми его сложностями в познание неким абсолютным духом, не смотря на декларируемые диалектические принципы. Это характерно для многих его последователей. Они просто испугались его размаха, тогда не было необходимых научных знаний подтверждающих его подходы, он многое предвосхитил, т.к. сам был естествоиспытателем, а не только философом. Сейчас такие знания появляются, и в целом подтверждают его предвидения, особенно в когнитивных исследованиях.

Сандберг считает, что сама жизнь — микробы и другие примитивные формы — возможно, существует повсюду во Вселенной. Если система генетического кодирования развивается в течение нескольких миллиардов лет, то для появления мозга требуется ещё 400 миллионов. Если в отдалённых регионах Вселенной существуют системы кодирования, многие из них могут существовать, но сбой в эволюционном переходе мог помешать их прогрессу — и то, что могло бы эволюционировать в ДНК и РНК, так и остаётся в форме первобытной слизи.

Грубые оценки вероятностей появления форм жизни разного уровня на примере земной. Вероятность падает экспоненциально. Все начинается с появления многоклеточных организмов порядка 1 млрд лет назад. Но интересным является другой факт. Тогда же, порядка 1 млрд. лет назад, появилась половая форма размножения, которая пришла на смену основным бесполым - делению и почкованию. Это разогнало эволюционный процесс, т.к. резко возросла вариация потомства и соответственно отбора среди него в сравнении с бесполыми способами, в которых потомство практически идентично родителям. В общем, любовь на просторах Вселенной творит чудеса, если она есть!

Метафора позволяет увидеть новые семантические оси, которых в прежней схеме просто не могло существовать. С точки зрения старой логики они могут выглядеть глупыми, нерациональными или вообще не относящимися к делу: большой-снежный, мокрый-хороший и тд. Но именно эти новые различения позволяют описать ситуацию так, что разрыв, который мы называли проблемой, исчезает. Обнаружение такого нового взгляда на ситуацию и называется инсайтом.

Можно так себе это представить, но как это выглядит на уровне нейронных механизмов в мозге? Вероятно инсайт связан с морфогенезом в мозге, т.е. изменением структуры связности нейронных сетей в следствии интенсивной работы над проблемой, ее обдумывания. При этом кровь и нейрохимические регуляторы приливаются к определенным участкам мозга и соответственно могут стимулировать рост новых синапсов и устранять несущественные, что приводит к возникновению новых ассоциаций. Этот период роста, изменений в сетях, называется инкубацией, и может занимать от дней до месяцев, в зависимости от решаемой проблемы и особенностей самого человека. Процесс во многом случайный, вовлекающий образный уровень мышления, поиск решения задает только некоторый вектор роста связей. Именно такие новые связи являются источниками нового знания, которое принципиально не сводится к уже имеющемуся. Поскольку это процесс может носить бессознательный характер необходим внешний толчок (триггер) к осознанию этих новых связей в виде некоторых представлений. Однозначного варианта нет, зависит от многих обстоятельств и способностей личности. Это может быть внешний толчок, подсказка, ситуация, восприятие, и тд, или сон, или медитативное состояние, как проявление интуиции, как неожиданное воспоминание.

Современные ЯМ являются статическими решениями, они не могут на лету менять веса связей, тем более перестраивать архитектуру под решение новых нестандартных проблем. Это скорее прерогатива нейроморфных технологий, которые ближе к прототипам механизмов в мозге. В этом коменте разобран случай открытия периодического закона Менделеевым, как неплохо задокументированный, в котором, как считается сыграл роль сон. Хотя сам Менделеев этого официально не подтверждал.

Спасибо за интересную статью!

Информация

В рейтинге
3 466-й
Зарегистрирован
Активность