Еще одна статья про то, что реальности не существует, а мы все просто генеративные модели в симуляции
Реальность существует, но эволюция по многим причинам нашла такой способ ее представления, который условно можно назвать ее симуляцией, см. комент с пояснениями.
Вот интересный вопрос созрел. Если есть идея, что мы воспринимаем мир НЕ напрямую, то очевидно возможно какое-то прямое восприятие.
Да, очень интересный) Философы над этим вопросом в той, или иной форме бьются последние две тысячи лет, больше всего преуспел Кант в своей знаменитой теории познания (популярно, схематично). Он дает однозначный ответ - нет! Прямо не возможно. Более того реальность "вещей в себе" не познаваема, только в виде феноменов, т.е всегда приближенно. Условно это можно представить, как симуляцию, см. комент с пояснениями.
В рамках самой КМ вопрос с коллапсом ВФ не решить. Это, например, как задаться вопросом почему закон гравитации Ньютона имеет именно такой вид, а не другой. Он правильно описывает имеющиеся эмпирические данные, но почему именно в такой форме ответ можно найти только в более общей теории. Такой теорией явилась ОТО в которой он является предельным случаем слабых гравитационных полей в форме уравнения Пуассона для гравитационного поля. ВФ правильно описывает поведение квантовых систем в специально созданных и поддерживаемых условиях. В естественных быстро происходит декогеренция, и гравитационное поле в принципе может быть такой причиной для больших кв. систем. Объяснение на полпути к коллапсу, но не самого выбора альтернативы.
Опираясь на ранее выдвинутые идеи о том, что квантовая механика может быть частью более глубокой теории, новое исследование указывает на возможные связи между квантовым поведением, гравитацией и самим течением времени.
КМ часть КТП, которая описывает более общий случай возникновения, уничтожения и превращения частиц, а фундаментальные взаимодействия можно рассматривать, как обмен виртуальными частицами соответствующих полей. Если гравитационное взаимодействие осуществляется таким же обменным механизмом, хотя это пока в рамках КТП не удается показать теоретически, не тем более подтвердить экспериментально, то на фундаментальном уровне виртуальные гравитоны могут отвечать за явление, которое с концептуальной точки зрения можно будет трактовать, как коллапс ВФ, для предельного случая КМ в этой новой объединенной теории. Тем самым соблюдая принцип соответствия для формализмов совместимых по областям действия проверенных фундаментальных теорий. Как обычно ждем новостей из лаб, а пока, чтобы оправдать зп, теоретикам остается генерить гипотетические предположения в надежде что-то предугадать, кто самостоятельно, кто в паре с ЯМ)
Если человек не справился не беда, результаты другого человека берутся.
Вот этот аргумент сравнения одного человека с возможностями ЯМ сомнительный. У любого человека свой ограниченный индивидуальный опыт и знания. А ЯМ обучались на совокупном опыте и знаниях почти всего человечества. Гигантская фора. Нужно как то уравнивать шансы. Сравнивать результаты ЯМ хотя бы с результатами группы товарищей, которое как-то компенсирует этот разрыв)
Галлюцинация (hallucination) — это ситуация, когда языковая модель генерирует информацию, которая либо не соответствует действительности, либо не содержится в ее обучающих данных, либо не следует из предоставленного контекста, но всегда подается с абсолютной уверенностью.
Самое важное, что нужно понять: галлюцинации — это не ошибка в коде. Это прямое следствие того, как работают языковые модели. Большая языковая модель (GPT, Claude, Llama) — это не база знаний, а это генератор правдоподобной последовательности токенов. Когда вы задаете вопрос, модель не «ищет ответ в памяти». Она делает статистический расчет
Это явление следствие того, что ИНС в математическом смысле являют универсальными аппроксиматорами. На этот счет в сети можно найти множество работ с доказанными результатами, включая для архитектуры трансформера являющейся основой ЯМ - 1, 2, 3, 4. Чем больше данных по теме в обучающей выборке, тем точнее аппроксимация, и соответственно ответ. Это наглядно видно на результатах прямых операций с числами, например, умножении, если не используется обращение к внешним ресурсам. В общем случае точность аппроксимации зависит от задачи, от ее внутренне присущей регулярности, упорядоченности и плотности примеров в обучающей выборке, а также параметров самой ЯМ и процедуры тренинга. Аппроксимацию в виде авторегрессии в данном случае можно считать способом обобщения (генерализации, создания модели, установления статистических закономерностей), которое сформировалось в ЯМ в процессе ее обучения и используется при генерации вывода. В общем случае аппроксимация происходит в многомерных пространствах признаков связанных с разными задачами в обучающей выборке, значения которых имеют вероятностные распределения.
Два ключевых момента статьи, выделено автором комента
Сейчас складывается ощущение, что прорыв может произойти в любой момент. За последнее десятилетие многие исследователи стали с большим оптимизмом смотреть на возможность проверки истинной природы гравитации в лабораторных условиях. Учёные предложили соответствующие эксперименты и работают над повышением точности методов, необходимых для их реализации. «Произошёл огромный скачок как в экспериментальных возможностях, так и в нашем теоретическом понимании того, что мы на самом деле узнаём из таких экспериментов», — говорит Маркус Аспельмейер, физик-экспериментатор из Венского университета и пионер этой работы.
Также возможно, что гравитация окажется ни классическим, ни квантовым явлением и потребует совершенно новых идей, говорит Сабина Хоссенфельдер, независимый физик из Франкфурта, Германия.
Потому что только так создаются новые теории фундаментальной физики, еще подробнее на эту тему. И главное помнить, что негативные результаты корректно поставленных экспериментов не пустая трата средств, а шаги по приближению к поставленной цели. Ждем новостей из лаб.
Лиам Прайс, 23-летний парень без углублённого математического образования... Я просто иногда беру задачи Эрдёша, скармливаю их ИИ и смотрю, что получится.
Мог и пропустить, если уже безуспешно занимался этим) Хотя отчасти правы, т.к. это было теоретически возможное событие. В физике это более актуально из-за ее эмпирического характера.
Непостижимость квантовых эффектов на обыденном уровне сейчас общеизвестна. В начале XX века иррациональность этих явлений при абсолютной точности и просчитываемости квантовых процессов привела к появлению «копенгагенской интерпретации» квантовой механики, которая требует абстрагироваться от осмысления этих явлений и действовать по принципу «заткнись и считай».
Тут путаница какая-то. Копенгагенская интерпретация как раз считается наиболее кондовой из-за объяснения измерений коллапсом ВФ, как макроскопическими процессами. Действительно абстрактными являются интерпретации вроде ММИ. Ссылаться на Тэгмарка в таких вопросах это, как ссылаться на Барона Мюнхгаузена с его фэнтэзийными историями) Истина как всегда где-то посередине, вроде реляционной К. Ровелли, и соответственно его отношения к онтологии ВФ. "Заткнись и считай" Мермина никакой интерпретации формализма КМ из-за их обилия, а не именно только копенгагенской.
Вообще увлечение интерпретациями КМ, когда давно уже создана КТП более общая теория для этой области, кажется пережитком прошлого. Это как кинематикой, как разделом механики, пытаться объяснить всю механику, включая динамику. Нужно исследовать природу фундаментальных взаимодействий, и решать проблему костыля теории в виде процедур перенормировки, а так же включения в нее гравитационного взаимодействия. Впрочем психологически понятно, что квантово-механические эффекты уже широко используются на практике, а эффекты КТП в виде СМ пока проявляются в ускорителях типа БАКа, и далеки от практики. Поэтому ядерщики вполне серьезно принимают кварки и виртуальные частицы - глюоны, как существующие, хотя их никто по отдельности не видел, а виртуальные фотоны в кв. механике нет, потому что их тоже никто не видел) Но эффекты то объясняемые ими тоже существуют, как и в ядерной области. Вот такие двойные стандарты домохозяек квантовой кухни) Лучше придерживаться методологических установок знаменитой теории познания Канта, которые вполне логично разводят эти вопросы существования и исследований проявлений реальности. Именно этими установками руководствовался Бор, когда обосновывал использование КМ, и разработал для этого принципы соответствия и дополнительности, которые сыграли большую роль в ее становлении, и приобрели со временем статус общенаучных.
В остальном статья весьма познавательная, спасибо за интересные публикации.
Прайс загрузил условие в ChatGPT в скучный понедельник после обеда. “Я не знал, что это за проблема, – рассказывает он. – Я просто иногда беру задачи Эрдёша, скармливаю их ИИ и смотрю, что получится. И на этот раз вышло что-то похожее на правильное решение”.
Кевин Баррето, второкурсник Кембриджа и соавтор Прайса по “вайбматематике”, сразу понял – это не шутка. Ещё в прошлом году дуэт начал с того, что закидывал случайные открытые проблемы в ChatGPT. Позже неизвестный ИИ-исследователь подарил каждому из них подписку ChatGPT Pro, чтобы поощрить эксперименты. И вот результат.
Похоже на сказку про двух балбесов, фею в виде неизвестного ИИ-исследователя и волшебную палочку ChatGPT версии 5.4 Pro) cценарий для сказочного кино.
Можно не сомневаться, что все эти задачи по много раз загружали в ЯМ, и они выдавали туфту перебирая всевозможные варианты в зависимости от модели, ее установок и нюансов формулировки промпта. На этот раз все сложилось. Главное, что балбесы не зевнули, и проявили серендипность)
Есть люди которые уже слились настолько что бан их аккаунта или сетевой сбой заставляет чувствовать себя беспомощными.
Да, и такое будет нарастать. Интересная тема для рассмотрения, поэтому подробнее развернул содержание пред. комента.
Аутсорсить высшие функции своего мозга какой-то частной конторе за океаном — чудовищная штука, если задуматься
Если не доверять заокеанским можно положиться на отечественный ИИ, или дружественного Китая) Но это конъюнктурные моменты истории.
Киберпанк оказался намного стремительнее к нам, чем казалось.
Да, но это больше художественный образ. Написал исходный комент несколько витиевато, но за ним стоят давно широко признанные в когнитивных науках концепции воплощенного познания и родственной расширенного разума. К последней кстати приложил руку небезизвестный баламут Д. Чалмерс, и это самый важный его вклад в науку, а не области проблем сознания.
В чем основная идея этих концепций? Познание не локализовано только в мозге особенно с точки зрения его конечных результатов. Оно неразрывно связано с телом, действием, ситуацией, и главное, со средой. Для ее иллюстрации иногда приводят пример пауков с паутиной. Паук сидит где-то в уголке и реагирует на ее вибрации, и по ним устанавливает какие события происходят в окружающей среде - попалась ли добыча, прибежал самец размножаться, появился конкурент, и тп. Фактически это единая система, разделение в нее вносим мы сами, с целью упрощения анализа и понимания. Для самого человека существует множество эффектов и опытных подтверждений разнообразных проявлений в рамках этих концепций. Их действие наложило глобальный отпечаток на всю историю познания и освоения окружающего мира человеком. Если перечислить основные моменты, то это выглядит так.
Для тела и исполнительных органов (эффекторов). Исходно для предков человека расширение их функционала камнями, палками, и тп. Затем более продвинутыми технологиями - приручением животных, железными орудиями, колесом, и др, далее промышленными технологиями и машинами, автоматизацией, в перспективе роботами, 3D-печатью, и другими продвинутыми технологиями. Как показывают исследования мозг после обучения воспринимает такое расширение эффекторов, в первую очередь, для рук, как расширение возможностей самого тела, как если бы они и среда были частью самого человека.
Для органов чувств. Исходно улучшение точности восприятия измерительными инструментами - линейками, весами, и др, далее усиление восприятия линзами, микроскопами, телескопами, и др. подобными приборами, затем использование приборов преобразователей воздействий, которые не воспринимаются непосредственно - компас, фотопроцесс, спектрометры, пузырьковые камеры, электронные микроскопы и ускорители, детекторы частиц, и тп. В перспективе использование нейроинтерфейсов для непосредственного расширения восприятия, технологии ВР. Мозг воспринимает это, как непосредственное расширение среды для деятельности.
Для интеллектуальных способностей. Исходно способности предков человека выработанные эволюционно. Затем расширение в виде развития речи, засечки, палочки, камешки на память. Далее появление письменности, разных коммуникаций, печати, вычислительных устройств, исходно механических, далее электронных, связи, компьютеров и интернета, наконец, ИИ в современном виде. Интеллект из мозга расширился и воплотился во всевозможных внешних устройствах и информационных технологиях. В перспективе опять же использование нейроинтерфейсов, персонального ИИ... То о чем писал в коменте, но действительный контекст происходящих изменений намного шире и глубже.
Все эти расширения взаимодействовали и влияли друг на друга. Человек - паук, который постоянно оплетает себя все новыми сетями разных видов и масштабов действия. Мозг в среднем адаптируется к ним достаточно быстро проходя этап обучения. Этот момент описывается другой парадигмой, собственно когнитивной, когда формируются новые модели разного уровня удачных связей с окружающим миром и они переносятся в культурный слой общества для тиражирования. Индивидуально результаты познания, обучения перемещаются из высших ассоциативных отделов мозга в сенсомоторные, в процедурную память, из сферы сознательного управления в сферу бессознательных навыков и поведения. Между когнитивным и воплощенными подходами граница довольно условная. Например, восточные культуры более воплощены нежели западные, достаточно вспомнить различия в стилях мышления и строе языка и письма - китайского и английского. Однако первые в основном сторонники вычислительного подхода к функциям мозга, вторые нет, поэтому он и получил название воплощенного. Возможно мозг реализует вычислительный подход в аналоговых электро-химических процессах нейронных сетей мозга, но они выработались эволюционно, как способ предсказания и управления поведением организмов в неопределенных условиях среды, но в целом возможно правы сторонники воплощенности. По этой причине все эти подходы объединяются в междисциплинарных исследованиях когнитивных наук.
По аналогии с заключительной частью анекдота про Вовочку - Этак вы мне всю физику к х..м сведете, - Этак вы весь эмэль к физике сведете:) По крайней мере стало понятно почему нобелевки по эмэлю дают за физику)
Если зайти с другой, более актуальной стороны, нейробиологической, как источника идей для ИНС и их обучения, то в биологических нейронах есть некоторый аналог обратного распространения сигнала. Однако как он действует на уровне сетей пока не ясно и является целью исследований. Возможно, что никак из-за того что этот механизм, либо редуктивный, отпавший за ненадобность, либо не сформировавшийся до конца, как эволюционный эксперимент. В любом случае это связано с тем, что в биологических нейронных сетях сформировался другой, более общий и эффективный принцип регуляции пластичности - принцип минимизации свободной энергии, который претендует на основу для предиктивного кодирования - современного подхода к объяснению структуры и функций мозга. Он также отвечает за объяснение обучения нейросетей мозга с использованием механизма хеббовского обучения (STPD). Хорошей иллюстрацией действия этого принципа является обучение культуры нейронов в чашке Петри игре в Понг. Естественно, алгоритм бэкпропа в пределе предположений ИНС выводится из математического аппарата предиктивного кодирования - 1, 2.
Алгоритм минимизации ошибки с помощью обр. распространения является костылем, который был придуман, чтобы решить проблему обучения ИНС, являющихся весьма приближенными моделями биологических сетей, в связи с тем, что они были реализованы на компьютерах с фоннеймановской архитектурой, которая далека от архитектуры биологической организации мозга. Аналогия мозга, как компьютера была популярной в 60-70-х годах прошлого века, но затем фактически потеряла актуальность, т.к. исследования показали, что структура и функции мозга несоизмеримо богаче этой упрощенной метафоры. Для реализации непрерывного хеббовского обучения больше подходят нейроморфные архитектуры вычислительных устройств, которые адекватнее моделируют свойства биологических прототипов. Что касается использования градиентных методов, то они широко используются для регуляции жизнедеятельности организмов, в частности, в сенсорных системах, особенно у микроорганизмов, у которых они полностью определяют их поведение в среде обитания в виде различных таксисов, в частности, хемотаксиса.
Что качается эффективности обучения, то для обучения, например, детей категориям достаточно показать несколько изображений. Тоже касается вербальных форм обучения. Это несоизмеримо с тысячами изображений и прогонов для обучения ИНС. Кроме того, биологические формы обучения непрерывные, динамичные, асинхронные, и действительно, энергоэффетивные (это результат действия принципа минимизации свободной энергии, только не стоит ее толковать в термодинамическом смысле). Со временем переход на нейроморфные решения, которые удовлетворяют этим критериям в большей степени, представляется практически неизбежным. Над ними работают многие производители компьютерного железа понимая эту неизбежность. Основная проблема на этом пути поиск подходящих, и главное износоустойчивых, материалов мемристоров, которая возможно будет решена с использованием ИИ натренированных на подобные цели.
главный риск не в снижении интеллекта, а в ощущении, что идея уже не твоя, и в падении уверенности в собственных рассуждениях
Это из-за того что ИИ где-то во вне, он не твой лично, и решает твои задачи за тебя. После установления полного симбиоза с персональным ИИ, это ощущение должно пройти)
Когда неокортекс у древних видов людей развился им казалось, что боги говорят с ними и повелевают что делать, и это влияло на их уверенность в себе. Пока не произошло полное слияние с более древними структурами мозга и человек со временем начал понимать, что это его же повеления, хотя какие-то рассогласования еще остались, и иногда дают знать о себе. Теперь подобные проблемы притирки, включая психологические, но уже ИИ с неокортексом, происходят на новом ветке эволюции - технологическом.
Поскольку при воображении реактивируется лишь около 40% визуального кода, между паттернами активации при зрении и воображении существует фундаментальная физиологическая разница. Вероятно, здоровый человек распознает реальность именно на основе степени активации ВВК. При патологиях эта способность ломается. Открытие дает старт разработке терапий, направленных на нормализацию уровней активации мозга в этой зоне.
В одной из статей обсуждалась эта тема, см. ветку. Про воображение и использование мониторинга реальности в последнем коменте со ссылками на источники. Сам факт использования тех же нейронных механизмов восприятия при воображении известен давно и даже является одной из основ воплощенного познания, см. п. 6. Но тонкости работы механизмов проясняются только в последнее время, и указанная работа шаг в этом направлении.
Что касается использования воображения, и образного мышления вообще, в ИИ, то также как-то писал комент на эту тему. Недавно появился тест, который может использоваться для оценки и тренировки таких способностей у ЯМ. Осталось только усовершенствовать их архитектуру, чтобы она лучше поддерживала такие когнитивные способности, первую очередь, ввести внутреннюю рекуррентность.
Спасибо! Самый полный обзор на эту тему. Вот недавний также хороший по этой теме. Комент по преимуществам нейроморфных технологий со ссылками, хотя несколько устарел по времени, ситуация развивается достаточно быстро.
Какие физические и другие эффекты в дополнении к биологическим потенциально могут использоваться для аналоговых вычислений? Много каких! Возможно для решения одних задач оптимальны будут одни решения, для других другие, и их можно будет дополнять.
Реальность существует, но эволюция по многим причинам нашла такой способ ее представления, который условно можно назвать ее симуляцией, см. комент с пояснениями.
Да, очень интересный) Философы над этим вопросом в той, или иной форме бьются последние две тысячи лет, больше всего преуспел Кант в своей знаменитой теории познания (популярно, схематично). Он дает однозначный ответ - нет! Прямо не возможно. Более того реальность "вещей в себе" не познаваема, только в виде феноменов, т.е всегда приближенно. Условно это можно представить, как симуляцию, см. комент с пояснениями.
И как только они не привлекли внимание Пенроуза)
В рамках самой КМ вопрос с коллапсом ВФ не решить. Это, например, как задаться вопросом почему закон гравитации Ньютона имеет именно такой вид, а не другой. Он правильно описывает имеющиеся эмпирические данные, но почему именно в такой форме ответ можно найти только в более общей теории. Такой теорией явилась ОТО в которой он является предельным случаем слабых гравитационных полей в форме уравнения Пуассона для гравитационного поля. ВФ правильно описывает поведение квантовых систем в специально созданных и поддерживаемых условиях. В естественных быстро происходит декогеренция, и гравитационное поле в принципе может быть такой причиной для больших кв. систем. Объяснение на полпути к коллапсу, но не самого выбора альтернативы.
КМ часть КТП, которая описывает более общий случай возникновения, уничтожения и превращения частиц, а фундаментальные взаимодействия можно рассматривать, как обмен виртуальными частицами соответствующих полей. Если гравитационное взаимодействие осуществляется таким же обменным механизмом, хотя это пока в рамках КТП не удается показать теоретически, не тем более подтвердить экспериментально, то на фундаментальном уровне виртуальные гравитоны могут отвечать за явление, которое с концептуальной точки зрения можно будет трактовать, как коллапс ВФ, для предельного случая КМ в этой новой объединенной теории. Тем самым соблюдая принцип соответствия для формализмов совместимых по областям действия проверенных фундаментальных теорий. Как обычно ждем новостей из лаб, а пока, чтобы оправдать зп, теоретикам остается генерить гипотетические предположения в надежде что-то предугадать, кто самостоятельно, кто в паре с ЯМ)
Вот этот аргумент сравнения одного человека с возможностями ЯМ сомнительный. У любого человека свой ограниченный индивидуальный опыт и знания. А ЯМ обучались на совокупном опыте и знаниях почти всего человечества. Гигантская фора. Нужно как то уравнивать шансы. Сравнивать результаты ЯМ хотя бы с результатами группы товарищей, которое как-то компенсирует этот разрыв)
Это явление следствие того, что ИНС в математическом смысле являют универсальными аппроксиматорами. На этот счет в сети можно найти множество работ с доказанными результатами, включая для архитектуры трансформера являющейся основой ЯМ - 1, 2, 3, 4. Чем больше данных по теме в обучающей выборке, тем точнее аппроксимация, и соответственно ответ. Это наглядно видно на результатах прямых операций с числами, например, умножении, если не используется обращение к внешним ресурсам. В общем случае точность аппроксимации зависит от задачи, от ее внутренне присущей регулярности, упорядоченности и плотности примеров в обучающей выборке, а также параметров самой ЯМ и процедуры тренинга. Аппроксимацию в виде авторегрессии в данном случае можно считать способом обобщения (генерализации, создания модели, установления статистических закономерностей), которое сформировалось в ЯМ в процессе ее обучения и используется при генерации вывода. В общем случае аппроксимация происходит в многомерных пространствах признаков связанных с разными задачами в обучающей выборке, значения которых имеют вероятностные распределения.
Мистики нет, но и полного понимания механизмов пока тоже нет - обзор.
Квантовые кубиты
Это перспективная проблема общения с ИИ с психологической точки зрения, с эволюционной намного сложнее и масштабнее выглядит, см эту ветку обсуждения.
Два ключевых момента статьи, выделено автором комента
Потому что только так создаются новые теории фундаментальной физики, еще подробнее на эту тему. И главное помнить, что негативные результаты корректно поставленных экспериментов не пустая трата средств, а шаги по приближению к поставленной цели. Ждем новостей из лаб.
Потому что
Мог и пропустить, если уже безуспешно занимался этим) Хотя отчасти правы, т.к. это было теоретически возможное событие. В физике это более актуально из-за ее эмпирического характера.
Тут путаница какая-то. Копенгагенская интерпретация как раз считается наиболее кондовой из-за объяснения измерений коллапсом ВФ, как макроскопическими процессами. Действительно абстрактными являются интерпретации вроде ММИ. Ссылаться на Тэгмарка в таких вопросах это, как ссылаться на Барона Мюнхгаузена с его фэнтэзийными историями) Истина как всегда где-то посередине, вроде реляционной К. Ровелли, и соответственно его отношения к онтологии ВФ. "Заткнись и считай" Мермина никакой интерпретации формализма КМ из-за их обилия, а не именно только копенгагенской.
Вообще увлечение интерпретациями КМ, когда давно уже создана КТП более общая теория для этой области, кажется пережитком прошлого. Это как кинематикой, как разделом механики, пытаться объяснить всю механику, включая динамику. Нужно исследовать природу фундаментальных взаимодействий, и решать проблему костыля теории в виде процедур перенормировки, а так же включения в нее гравитационного взаимодействия. Впрочем психологически понятно, что квантово-механические эффекты уже широко используются на практике, а эффекты КТП в виде СМ пока проявляются в ускорителях типа БАКа, и далеки от практики. Поэтому ядерщики вполне серьезно принимают кварки и виртуальные частицы - глюоны, как существующие, хотя их никто по отдельности не видел, а виртуальные фотоны в кв. механике нет, потому что их тоже никто не видел) Но эффекты то объясняемые ими тоже существуют, как и в ядерной области. Вот такие двойные стандарты домохозяек квантовой кухни) Лучше придерживаться методологических установок знаменитой теории познания Канта, которые вполне логично разводят эти вопросы существования и исследований проявлений реальности. Именно этими установками руководствовался Бор, когда обосновывал использование КМ, и разработал для этого принципы соответствия и дополнительности, которые сыграли большую роль в ее становлении, и приобрели со временем статус общенаучных.
В остальном статья весьма познавательная, спасибо за интересные публикации.
Похоже на сказку про двух балбесов, фею в виде неизвестного ИИ-исследователя и волшебную палочку ChatGPT версии 5.4 Pro) cценарий для сказочного кино.
Можно не сомневаться, что все эти задачи по много раз загружали в ЯМ, и они выдавали туфту перебирая всевозможные варианты в зависимости от модели, ее установок и нюансов формулировки промпта. На этот раз все сложилось. Главное, что балбесы не зевнули, и проявили серендипность)
Да, и такое будет нарастать. Интересная тема для рассмотрения, поэтому подробнее развернул содержание пред. комента.
Если не доверять заокеанским можно положиться на отечественный ИИ, или дружественного Китая) Но это конъюнктурные моменты истории.
Да, но это больше художественный образ. Написал исходный комент несколько витиевато, но за ним стоят давно широко признанные в когнитивных науках концепции воплощенного познания и родственной расширенного разума. К последней кстати приложил руку небезизвестный баламут Д. Чалмерс, и это самый важный его вклад в науку, а не области проблем сознания.
В чем основная идея этих концепций? Познание не локализовано только в мозге особенно с точки зрения его конечных результатов. Оно неразрывно связано с телом, действием, ситуацией, и главное, со средой. Для ее иллюстрации иногда приводят пример пауков с паутиной. Паук сидит где-то в уголке и реагирует на ее вибрации, и по ним устанавливает какие события происходят в окружающей среде - попалась ли добыча, прибежал самец размножаться, появился конкурент, и тп. Фактически это единая система, разделение в нее вносим мы сами, с целью упрощения анализа и понимания. Для самого человека существует множество эффектов и опытных подтверждений разнообразных проявлений в рамках этих концепций. Их действие наложило глобальный отпечаток на всю историю познания и освоения окружающего мира человеком. Если перечислить основные моменты, то это выглядит так.
Для тела и исполнительных органов (эффекторов). Исходно для предков человека расширение их функционала камнями, палками, и тп. Затем более продвинутыми технологиями - приручением животных, железными орудиями, колесом, и др, далее промышленными технологиями и машинами, автоматизацией, в перспективе роботами, 3D-печатью, и другими продвинутыми технологиями. Как показывают исследования мозг после обучения воспринимает такое расширение эффекторов, в первую очередь, для рук, как расширение возможностей самого тела, как если бы они и среда были частью самого человека.
Для органов чувств. Исходно улучшение точности восприятия измерительными инструментами - линейками, весами, и др, далее усиление восприятия линзами, микроскопами, телескопами, и др. подобными приборами, затем использование приборов преобразователей воздействий, которые не воспринимаются непосредственно - компас, фотопроцесс, спектрометры, пузырьковые камеры, электронные микроскопы и ускорители, детекторы частиц, и тп. В перспективе использование нейроинтерфейсов для непосредственного расширения восприятия, технологии ВР. Мозг воспринимает это, как непосредственное расширение среды для деятельности.
Для интеллектуальных способностей. Исходно способности предков человека выработанные эволюционно. Затем расширение в виде развития речи, засечки, палочки, камешки на память. Далее появление письменности, разных коммуникаций, печати, вычислительных устройств, исходно механических, далее электронных, связи, компьютеров и интернета, наконец, ИИ в современном виде. Интеллект из мозга расширился и воплотился во всевозможных внешних устройствах и информационных технологиях. В перспективе опять же использование нейроинтерфейсов, персонального ИИ... То о чем писал в коменте, но действительный контекст происходящих изменений намного шире и глубже.
Все эти расширения взаимодействовали и влияли друг на друга. Человек - паук, который постоянно оплетает себя все новыми сетями разных видов и масштабов действия. Мозг в среднем адаптируется к ним достаточно быстро проходя этап обучения. Этот момент описывается другой парадигмой, собственно когнитивной, когда формируются новые модели разного уровня удачных связей с окружающим миром и они переносятся в культурный слой общества для тиражирования. Индивидуально результаты познания, обучения перемещаются из высших ассоциативных отделов мозга в сенсомоторные, в процедурную память, из сферы сознательного управления в сферу бессознательных навыков и поведения. Между когнитивным и воплощенными подходами граница довольно условная. Например, восточные культуры более воплощены нежели западные, достаточно вспомнить различия в стилях мышления и строе языка и письма - китайского и английского. Однако первые в основном сторонники вычислительного подхода к функциям мозга, вторые нет, поэтому он и получил название воплощенного. Возможно мозг реализует вычислительный подход в аналоговых электро-химических процессах нейронных сетей мозга, но они выработались эволюционно, как способ предсказания и управления поведением организмов в неопределенных условиях среды, но в целом возможно правы сторонники воплощенности. По этой причине все эти подходы объединяются в междисциплинарных исследованиях когнитивных наук.
По аналогии с заключительной частью анекдота про Вовочку - Этак вы мне всю физику к х..м сведете, - Этак вы весь эмэль к физике сведете:) По крайней мере стало понятно почему нобелевки по эмэлю дают за физику)
Если зайти с другой, более актуальной стороны, нейробиологической, как источника идей для ИНС и их обучения, то в биологических нейронах есть некоторый аналог обратного распространения сигнала. Однако как он действует на уровне сетей пока не ясно и является целью исследований. Возможно, что никак из-за того что этот механизм, либо редуктивный, отпавший за ненадобность, либо не сформировавшийся до конца, как эволюционный эксперимент. В любом случае это связано с тем, что в биологических нейронных сетях сформировался другой, более общий и эффективный принцип регуляции пластичности - принцип минимизации свободной энергии, который претендует на основу для предиктивного кодирования - современного подхода к объяснению структуры и функций мозга. Он также отвечает за объяснение обучения нейросетей мозга с использованием механизма хеббовского обучения (STPD). Хорошей иллюстрацией действия этого принципа является обучение культуры нейронов в чашке Петри игре в Понг. Естественно, алгоритм бэкпропа в пределе предположений ИНС выводится из математического аппарата предиктивного кодирования - 1, 2.
Алгоритм минимизации ошибки с помощью обр. распространения является костылем, который был придуман, чтобы решить проблему обучения ИНС, являющихся весьма приближенными моделями биологических сетей, в связи с тем, что они были реализованы на компьютерах с фоннеймановской архитектурой, которая далека от архитектуры биологической организации мозга. Аналогия мозга, как компьютера была популярной в 60-70-х годах прошлого века, но затем фактически потеряла актуальность, т.к. исследования показали, что структура и функции мозга несоизмеримо богаче этой упрощенной метафоры. Для реализации непрерывного хеббовского обучения больше подходят нейроморфные архитектуры вычислительных устройств, которые адекватнее моделируют свойства биологических прототипов. Что касается использования градиентных методов, то они широко используются для регуляции жизнедеятельности организмов, в частности, в сенсорных системах, особенно у микроорганизмов, у которых они полностью определяют их поведение в среде обитания в виде различных таксисов, в частности, хемотаксиса.
Что качается эффективности обучения, то для обучения, например, детей категориям достаточно показать несколько изображений. Тоже касается вербальных форм обучения. Это несоизмеримо с тысячами изображений и прогонов для обучения ИНС. Кроме того, биологические формы обучения непрерывные, динамичные, асинхронные, и действительно, энергоэффетивные (это результат действия принципа минимизации свободной энергии, только не стоит ее толковать в термодинамическом смысле). Со временем переход на нейроморфные решения, которые удовлетворяют этим критериям в большей степени, представляется практически неизбежным. Над ними работают многие производители компьютерного железа понимая эту неизбежность. Основная проблема на этом пути поиск подходящих, и главное износоустойчивых, материалов мемристоров, которая возможно будет решена с использованием ИИ натренированных на подобные цели.
Спасибо за интересное исследование!
Дубль, и тот же комент.
Это из-за того что ИИ где-то во вне, он не твой лично, и решает твои задачи за тебя. После установления полного симбиоза с персональным ИИ, это ощущение должно пройти)
Когда неокортекс у древних видов людей развился им казалось, что боги говорят с ними и повелевают что делать, и это влияло на их уверенность в себе. Пока не произошло полное слияние с более древними структурами мозга и человек со временем начал понимать, что это его же повеления, хотя какие-то рассогласования еще остались, и иногда дают знать о себе. Теперь подобные проблемы притирки, включая психологические, но уже ИИ с неокортексом, происходят на новом ветке эволюции - технологическом.
Удалено. Случай опубликовал не дописанный комментарий.
В одной из статей обсуждалась эта тема, см. ветку. Про воображение и использование мониторинга реальности в последнем коменте со ссылками на источники. Сам факт использования тех же нейронных механизмов восприятия при воображении известен давно и даже является одной из основ воплощенного познания, см. п. 6. Но тонкости работы механизмов проясняются только в последнее время, и указанная работа шаг в этом направлении.
Что касается использования воображения, и образного мышления вообще, в ИИ, то также как-то писал комент на эту тему. Недавно появился тест, который может использоваться для оценки и тренировки таких способностей у ЯМ. Осталось только усовершенствовать их архитектуру, чтобы она лучше поддерживала такие когнитивные способности, первую очередь, ввести внутреннюю рекуррентность.
Спасибо за публикацию и интерес к таким темам.
Спасибо! Самый полный обзор на эту тему. Вот недавний также хороший по этой теме. Комент по преимуществам нейроморфных технологий со ссылками, хотя несколько устарел по времени, ситуация развивается достаточно быстро.
Какие физические и другие эффекты в дополнении к биологическим потенциально могут использоваться для аналоговых вычислений? Много каких! Возможно для решения одних задач оптимальны будут одни решения, для других другие, и их можно будет дополнять.