Comments 18
Сумел дойти лишь до половины. Сумбурно, размыто, декларативно, нелогично.
Ага, надо было писать проще.
Не проще, а чище, стройнее, строже и логичнее.
Полагаю всё таки надо было писать проще.
Давайте вы спросите или укажете, где вы видите срыв логики, а где размыто. Я попробую разобрать.
Относительно "размыто" (остальные выводы автора корневого комментария у меня не очень отозвались):
Это, конечно, не научная статья, но более жесткое следование IMRaD помогло бы читателям. А здесь и введение и заключение достаточно "задумчиво" выглядят и не очень ясно из них, ни как всё это привязано к практике, ни к чему автор, собственно, ведёт.
Проблема в том, что веса агента не меняются — меняется только контекст и общая память. То есть LLM — оболочка без мира, которая не может врасти внутрь. Поэтому записи в общей памяти агенты чаще исполняют, чем интерпретируют.
Вот тут интересно, можем ли мы тонко влиять на веса, таким образом что бы не сломать все остальное, влиять в зависимости от паттернов закрепленных в общей памяти, не обучение новому, а изменение того что уже есть, в таком случае внешняя общая память становится контуром опыта, который медленно, меняет поведение самой модели.
Теоретически можно было бы использовать Activation steering / representation engineering. встраивая векторы поведения, это относительно дешево по сравнению с переобучением модели.
концепция «мы живём в симуляции или концепция Демиурга» это сильный нарратив, он создаёт много вопросов, но объясняет всё через себя, не даёт новых проверяемых действий. Пространство представлений замыкается в аттракторе, который не позволяет ничего изменить. При отсутствии различимого способа опровергнуть или изменить нарратив, пространство представлений не меняется. Независимо от качества подобных нарративов, полагаю, они не помогают развитию пространства представлений.
Полагаю, помогают. И именно в развитии пространства представлений. Бесполезен этот нарратив будет, если жестко ограничивать понятие "наука". Если же рассматривать её, как систематизированное познание истины, структуры бытия и законов мироздания, то картина меняется.
Например, этот нарратив убирает искусственный барьер между физикой и философией (примеры вопросов: а) квантованные неделимые частицы - пиксели нашей реальности? б) Все, что происходит в нашем мире, определяется только им, или часть событий является отображением событий в идеальном мире?). Он также "реабилитирует трансцендентное", в частности, поясняет доступным всем языком ряд атрибутов Бога (создатель компьютерной игры не живёт внутри игры, не подчиняется её законам, обладает относительно неё всеведением и всемогуществом). И т.д.
P.s. Я не обсуждаю здесь истинность религии или атеизма, тема - исключительно пространство представлений.
Первая часть скорее подтверждает мой тезис: происходит переописание. Ни кванты-пиксели, ни объяснение атрибутов Бога не порождает новых действий в пространстве. Более того, их ложность или истинность не меняют физику мира, не дают действий после которых пространство представлений стало бы другим.
Но насколько я помню, у концепции симуляции есть потенциальный проверяемый ход. Вы сказали "отражение идеального в реальном", и у физиков были гипотезы проверки этого рендеринга по требованию. Тогда да, концепция изменит пространство представлений. Но печаль этого нарратива, в том что провал гипотез проверки никак не скажется на устойчивости симуляции как концепции. И это и есть тотальность.
Ни кванты-пиксели, ни объяснение атрибутов Бога не порождает новых действий в пространстве. Более того, их ложность или истинность не меняют физику мира, не дают действий после которых пространство представлений стало бы другим.
Ясно, спасибо. Подход понятен.
Тогда коротко: пространство представлений может меняться и без конкретных "действий" - за счет новых аналогий, метафор, исследовательских программ и т.д. Я об этом.
P.s. Метафизические рамки вообще плохо фальсифицируются. Хотя беглый матфизик Полкинхорн даже для христианства предлагал варианты, не соглашаясь с абсолютной "тотальностью" религии.
Да, согласен, пространство представлений меняют идеи - метафоры, аналогии и т.д. Но я вижу нюанс в том, что продуктивность нарратива определяется возможностью новых различений. Если идея ограничивается переназыванием имеющегося различия то это плохой нарратив, кванты-пиксели делают именно это - переназывание без появления нового.
Да, Полкинхорн демонстрирует, что тотальность это не свойство темы как таковой, это неспособность найти инстанцию, которая была бы над нарративом. Отвергнуть его или изменить.
Причем не надо искать инстанцию именно как другой нарратив где-то вне... Полкинхорн проделал это сам, своей точкой зрения.
Моя идея не в том.
Важны же не функция/процесс, важен результат. "Симуляция" - не переназвание. "Симуляция" - мощный и доступный для простого понимания почти каждому пример. Фактически для многих он даёт возможность существенно расширить картину мира, помогая уйти от "плоского" материализма. И этот уход потенциально и породит новое в пространстве представлений.
man abstraction
Чтобы мыслить, мозгу нужна оболочка, которую выращивает общество.
По содержанию понятно. А вот по форме...
Оболочка? Оболочка для мозга это черепная коробка. Что совершенно не то по контексту.
Абстракция позволяет вынести различение из непосредственной ситуации, разорвать реальный мир и мышление о мире
Вынести? Разлечение? Абстракция выносит свойство объекта. А вот будет оно различением или сходством уже зависит от субъекта наверное. Тогда и да, и нет.
А вот разорвать строго нет. У вас по семантике уже как бы, мышление о чем? О мире. Т.е. априори говорит о связи с миром.
Но и по содержанию. Абстракция не разрывает связь миром. Поскольку Абстракция, все ещё выделяет существенное свойство, отбрасывая вторичные. То само то главное свойство, все ещё связано с миром.
И в конце концов, психика есть активное отражение реальности. Мышление часть психики. Т.е. Мышление и мир неразрывно связаны. Иначе без реального мира, не кому и не о чем будет мыслить.
Так что абстрагировать/отвлечь, но не разорвать.
Текст, честно не дочитал. Выше лишь 2 примера проблем, а не оспаривание текста как целое.
Оболочка? Оболочка для мозга это черепная коробка.
Полагал из контекста будет понятно, можно заменить на среда (не путать с внешней средой), строительные леса, если по Выготскому, то опора/каркас. "Каркас для мышления, который строит общество". Я говорил об оболочке как интерфейсе в айти-смысле, что мозг работает с миром не напрямую, а через слой различений
Так что абстрагировать/отвлечь, но не разорвать.
Разорвать - разомкнуть прямую связь между внешней средой и мышлением о среде. Создать тот люфт, который позволяет оперировать абстракциями.
психика есть активное отражение реальности. Мышление часть психики. Т.е. Мышление и мир неразрывно связаны. Иначе без реального мира, не кому и не о чем будет мыслить.
Здесь вы опираетесь на ленинскую теорию отражения. Мои тезисы с этим не совпадают. Активное отражение подразумевает, что внешняя среда порождает пространство представлений. Не совсем так. Пространство представлений достраивает различия, которых нет во внешней среде - язык, математика, философия, мораль - и сквозь них пространство представлений различает мир. А вот потом давление внешней среды при несовпадении прогноза и факта вынуждает пространство представлений порождать новые различия.
Мы как мир