Comments 71
Лонгрид на 43 минуты с громким началом. Целое исследование на серию статей.
С первой минуты меня посетила мысль, что весь текст представляет собой не системное, но "логичное" размышление автора. Это и отбросило все желание читать статью.
Хотелось бы в самом начале познакомится с автором, узнать "вес" его слов.
UPD: пробежав глазами, увидел ссылку на первое исследование, но там 403. Т.е. есть какая-то предыстория, которая не представлена
Скормите ллм-ке, пусть оценит
Мне аж самому интересно стало:)
Если у вас платная, напишите, какого она о мой работе мнения. Моя бесплатная только поддакивать умеет.
https://chatgpt.com/share/691d2e72-8b28-8006-a3f6-818e128cce24
В целом довольно позитивно и конструктивно без особых прям поддакиваний.
Фильм "прибытие" 2016
Спасибо, у вас хорошо получилось продвинуться! Правильный переход от "алгебры" к "геометрии" и обратно. Задача описания пространства и объектов в символах. Задача описания закономерностей в сигналах. Реферирующий и реферируемый графы.
Сам для своей симуляции изначально хотел разработать похожую динамическую поведенческую символьную онтологию, чтобы распознавать паттерны в сигналах рецепции виртуальных существ (занимаюсь симулятором жизни, писал о нём на Хабре)
Рекомендую из классики познакомиться с https://www.opennars.org/ - там ребята тоже на ходу обучения агента в неизвестной среде с неизвестными смыслами выдумывают динамические символьные описания (графы с операторами действий над ними, т.е. когда агент проживает свой опыт у него постоянно этот граф перестраивается - и такой подход решает те же 3 задачи - описание пространства, выделение паттернов в сигналах и сверение с паттернами, а также индуктивный переход от низкоуровневых к высокоуровневым логикам)
особенно рекомендую поискать видео где эта штука управляет агентами в виртуальной среде, бегает марио-подобные существа по миру-рогалику, решает всякие головоломки а в голове у него граф-модель мира символами динамически описывается (видно во втором окне граф), гипотезы проверяются и отпадают и тд и всё это управляет поведением агента "осознанно" изучающего закономерности мира
Вот краткая выжимка статьи «Гипотеза о роли скрытого описательного языка в механизмах мышления и о том, как у этого языка появляется смысл»
Основные идеи
Гипотеза скрытого языка в мышлении
Автор предполагает, что в основе мышления (у животных и человека) лежит не просто поток ощущений, а описательный языкоподобный внутренний язык.Значимость описаний закономерностей
Мы не просто воспринимаем ощущения, но формируем описания закономерностей сенсорных данных (паттернов), и затем оперируем этими описаниями.Смысл как внутренняя структура языка
За смыслом не обязательно стоит внешний интерпретатор — смысл может быть встроен в саму структуру языка: через закономерности в синтаксисе и структуре текста.Желаемые свойства “языка мышления”
Автор выделяет несколько ключевых качеств:Самообъяснимость — понятия языка описываются через синтаксические закономерности самого языка.
Мета-замкнутость — язык может рассуждать о своей собственной структуре.
Автореферентность (референция) — текст может ссылаться сам на себя: предложения языка могут указывать на объекты, выражённые другими частями текста.
Предложение конкретной структуры языка
В статье автор предлагает “плоскую” (матричную) структуру языка: символы располагаются на клеточном листе (матрица), а синтаксис, семантика и референция выражаются через конфигурации символов в этом листе.Потенциал для “мышления машин”
Он представляет машину, которая “мысленно” заполняет листы такого языка, просматривает предыдущие листы (“кадры мыслей”), находит закономерности в структуре и таким образом реализует мышление — память, представление о времени, реакцию на внешние сигналы.Проблемы и вызовы
Как сделать так, чтобы структура была интуитивно понятна разумному существу без предварительных знаний языка.
Трудности в самообъяснении адресной структуры (как связать переменные с физическим расположением клеток) и референции.
Баланс между выразительностью языка (чтобы можно было описывать поток символов, их закономерности) и его самозакрытостью.
Значение и выводы
Это философско-математическая гипотеза о том, как может быть устроено мышление: не просто через нейроны, а через язык внутри нас, который описывает паттерны.
Если такая модель окажется работоспособной, она может дать новый путь к созданию машин, которые действительно “понимают” смысл, а не просто манипулируют символами.
При этом остаётся много нерешённых технических и философских вопросов: как “язык мышления” должен быть устроен, как на нём мыслить и как обеспечить, чтобы этот язык сам по себе нес смысл.
Да, с самореферентностью не поняла. Это слово используют обычно в другом смысле, именно как возможность говорить о себе. У меня самореферентность - это именно обладание внутренним механизмом референции собственных описательных предложений. Но так, плю минус для тех, кто не любит фолианты, пересказ сойдет.
Спасибо вам!
Статья - методологически чистая попытка реконструировать мышление как оперирование самообъяснимым описательным языком. Особенно ценна идея отделения смысла от внешнего интерпретатора за счёт кодирования семантики в синтаксических закономерностях. Это действительно может стать основой для объяснимых, верифицируемых и этически устойчивых ИИ-систем, в отличие от LLM, где смысл остаётся статистической иллюзией.
Однако здесь возникает два важных момента, на которые стоило бы обратить внимание.
Во-первых, в когнитивной науке уже давно сложился консенсус: мышление не сводится к языку, даже к внутреннему или "самообъяснимому". Язык - это мощный инструмент выражения, коммуникации и структурирования мыслей, но не их источник. Эмпирические данные, от исследований глухонемых детей (вроде Хелен Келлер) до нейровизуализации доязыкового рассуждения у младенцев - показывают, что ментальные представления первичны, а лингвистическая форма - вторична.
Фодор, Пинкер, Барсалу и современные работы в рамках теории предиктивного кодирования (Фристон) демонстрируют, что мышление мультимодально: оно опирается на визуальные образы, моторные схемы, каузальные модели, эмоциональные оценки - всё это существует до и независимо от слов. Даже в Вашем примере с арифметикой: чтобы расшифровать "12+27=39", инопланетянин должен уже обладать интуицией числа, последовательности, действия и результата, а без этого - синтаксис останется "пустой игрой в символы".
Таким образом, риск текущего подхода - свести онтологию мышления к лингвистической структуре.
Во-вторых, предложенные Вами концепции - языковая природа мышления, метауровень рассуждения, символьное заземление через структуру данных, формализация восприятия как потока символов, референция через адресацию, представление мышления как последовательности "кадров", давно и системно разрабатывались в рамках когнитивно-символьных архитектур:
Soar оперирует "состояниями" и "операторами", где каждое состояние - это символьное описание, а рассуждение - поиск в пространстве таких состояний;
ACT-R формализует восприятие через "чанки", сопоставляемые с сенсорными потоками и рекурсивно объединяемые в иерархии;
SNePS реализует "теорию разума" через эпистемические операторы и обладает мета-замкнутым языком, на котором можно рассуждать о собственных знаниях;
Cyc явно кодирует семантику в онтологии и может объяснять каждый шаг вывода, включая источники знаний и каузальные цепочки;
DR-Prolog, LegalRuleML, FLIX и ранние версии OpenCog также реализуют идеи автореферентности, логической верификации и структурной референции.
Даже LinCos, упомянутый Вами, был вдохновлён логико-математической традицией (Гёдель, Smullyan, теория вычислимости), а не стал её началом. Идея "самообъяснимого языка" - это, по сути, обобщение давно известного принципа символьного заземления и автореферентных формальных систем.
Это не умаляет оригинальности Вашего подхода, напротив, Вы независимо приходите к тем же выводам, что подтверждает фундаментальную необходимость символьного, структурированного и метаязыкового уровня в любой системе, претендующей на мышление. Но это также означает, что мы уже имеем рабочие архитектуры, реализующие эти идеи на практике и дальнейшее развитие должно строиться не на "изобретении с нуля", а на интеграции, рефлексии и масштабировании существующих решений.
Спасибо за развернутый комментарий, подробно отвечу на него завтра, пока только скажу, что большая часть вашей критики возникла из-за того, что я подразумеваю под "языком мышления" чуть чуть другое, чем просто язык внутренних рассуждений.
Смысл всегда либо задан явно – через интерпретацию, модель, онтологию, внешний мир, – либо неявно, через практику, использование и «вшитый» контекст. Но он никогда не существует сам по себе в пустых символах.
Без интерпретатора остаётся только строка битов, формула или грамматически правильное предложение, которое ничего не говорит ни о мире, ни о действии.
Фраза «кодирование семантики в синтаксисе» звучит красиво, но по сути означает: «давайте сделаем так, чтобы смысл находился прямо в структуре текста, без внешнего мира». Так не бывает. интерпретатор может быть явным или скрытым – встроенным в модель, правила, обученную систему – но он всегда есть. И если он «спрятан внутрь», это делает его менее заметным, но не отменяет его существование.
Вы про эту фразу: "кодирования семантики в синтаксических закономерностях"?!
Вы рассматриваете смысл как нечто, что привносится извне в пассивные символы. Но я же предполагал , что смысл может быть интернализован. Я же не зря привёл в пример Cyc.
А зачем надо проецировать человеческую необходимость "заземления" (grounding) на все возможные формы мышления? На мой взгляд - это антропоцентричная ошибка.
В сложной формальной системе, где синтаксис достаточной сложности сам по себе становится семантикой. Когда символы связаны в огромную, непротиворечивую сеть отношений (онтологию), то эта сеть и становится "виртуальным миром" системы, в котором ее символы обретают смысл.
Интерпретатор в таких системах - это не человек, а сам алгоритм вывода, работающий с онтологией.
В предыдущем своём комментарии вы формулировали идею как «отделение смысла от внешнего интерпретатора за счёт кодирования семантики в синтаксисе»:
Особенно ценна идея отделения смысла от внешнего интерпретатора за счёт кодирования семантики в синтаксических закономерностях. Это действительно может стать основой для объяснимых, верифицируемых и этически устойчивых ИИ-систем, в отличие от LLM, где смысл остаётся статистической иллюзией.
Именно на эту мысль я и откликнулся - потому что в такой формулировке действительно звучит тезис о том, что смысл может «лежать» в структуре символов сам по себе.
Я нигде не утверждал, что интерпретатором обязательно должен быть человек или что он всегда внешен. С тем, что им может быть сам алгоритм вывода, полностью согласен - я как раз и писал, что интерпретатор может быть явным или скрытым, встроенным в онтологию, модель или правила.
Наше расхождение не об этом, а о другом: даже при встроенном интерпретаторе символы не «несут смысл» сами по себе - в одном лишь синтаксисе. Их смысл определяется либо внутренней интерпретацией (алгоритм + онтология), либо внешней привязкой к данным и миру. Без интерпретации - внутренней или внешней - остаётся только формальная структура, но не содержание.
А сама статья Sergey_Kovalenko - крайне интересная и содержательная. Есть над чем поразмышлять.
А Вы увидели то, что мы с Вами говорим об одном и том же, но с разных точек зрения?
Вы придерживаетесь "репрезентационной теории смысла", где смысл - это всегда отношение "о чём-то" (aboutness), связь между символом и его референтом (объектом, концептом, действием в мире или в модели мира), но без этого отношения - пустая форма.
Я же, как и все остальные, кто уважает традиции символьных архитектур, мы придерживаемся "функциональной/вычислительной теории смысла", где смысл - это роль символа в вычислительном процессе, его каузальные и инференционные связи с другими символами внутри системы.
Да, Вы правы - смысл определяется интерпретацией. Но в хорошо спроектированной символьной системе этот интерпретатор является её неотъемлемой частью, а его работа сводится к синтаксическим операциям. В этом и заключается "магия" символьных архитектур - создание такого синтаксиса, исполнение которого неотличимо от понимания.
Спасибо за развёрнутый ответ. Позвольте уточнить, где именно проходит граница разногласия.
Я не спорю с тем, что интерпретатор может быть встроенной частью системы – это действительно характерно для символьных архитектур. Но из факта встроенности не следует, что работа интерпретатора «сводится к синтаксису», и тем более не следует, что сам синтаксис становится неотличим от понимания.
Даже в классических вычислительных моделях смысл не возникает из формальной структуры выражений сам по себе, а определяется операцией интерпретации – пусть даже реализованной внутри системы. Свести к синтаксису исполнение действительно можно, но свести к синтаксису семантическую роль – нельзя. Это различие между объектным языком и метаязыком сохраняется даже тогда, когда метаязык задан неявно и распределён по правилам вывода. Интерпретатор, как бы глубоко он ни был встроен, остаётся отдельной функцией, а не свойством самой формы символов.
Именно поэтому утверждение, что «хорошо сконструированный синтаксис неотличим от понимания», выглядит скорее риторически, чем технически. Все реальные символьные архитектуры – продукционные системы, логические формализмы, операционные семантики – как раз и опираются на то, что семантика задаётся механизмом интерпретации, а не структурой записи. Исполнение может быть неотличимо от поведения, но это не означает, что оно неотличимо от понимания.
Именно этот момент я и хотел подчеркнуть: встроенный интерпретатор не исчезает внутри синтаксиса, и смысл не становится свойством символов. Размещение интерпретатора «внутри» системы меняет архитектуру, но не отменяет необходимость интерпретирующей функции как таковой.
P.S. Возможно, я что-то не так интерпретировал в Вашем тезисе. Если есть более точная формулировка, буду рад уточнению – обсуждение получается действительно содержательным.
Благодарю за содержательное уточнение. Позвольте мне прояснить свою мысль, возможно, я был не совсем точен в формулировках.
Предлагаю взглянуть на это под немного другим углом. Что такое "интерпретатор" с вычислительной точки зрения? Это не некий гомункулус, вчитывающий смысл в символы. Это - алгоритм, который принимает на вход одни синтаксические структуры (символы, выражения) и производит на выходе другие синтаксические структуры (новые выражения, действия).
В этом и заключается мой тезис о "редукции к синтаксису". Вся работа системы, включая ту, которую мы, внешние наблюдатели, описываем как "понимание" - это цепь синтаксических преобразований. Семантика, с этой точки зрения - это не некий дух, вселяемый в символы, а устойчивый паттерн в вычислительном процессе.
Когда я говорю, что "хорошо сконструированный синтаксис неотличим от понимания", то имею в виду именно это: если система, манипулируя только синтаксическими объектами по только синтаксическим правилам, демонстрирует поведение, изоморфно поведению понимающего существа (отвечает на вопросы, строит планы, дает объяснения), то для внешнего наблюдателя эта разница стирается. Это является "целью" для большинства когнитивных архитектур.
Ваш тезис верен на уровне проектирования и анализа системы. Да, архитектор закладывает онтологию и правила, которые и являются скрытым метаязыком, задающим семантику.
Но мой тезис верен на уровне исполнения и феноменологии системы. В момент своего выполнения система - это просто движущиеся символы. И её "понимание" - это не что иное, как корректное, предсказуемое движение этих символов согласно её же правилам.
Таким образом, мы не столько спорим, сколько описываем один и тот же феномен с двух сторон. Вы - с позиции философа языка, подчеркивающего неизменную необходимость интерпретирующей функции. Я - с позиции инженера-когнитолога, наблюдающего, как в замкнутой формальной системе эта функция полностью воплощается в синтаксических манипуляциях, порождая функциональный аналог внутреннего смысла.
В конечном счете, наша дискуссия прекрасно иллюстрирует тезис, который я сформулировал в одной из своих статей: "Логика без когнитивной динамики - мертва. Когнитивные процессы без символов - слепы. Символы без логики - хаотичны".
В целом поддержу вашу финальную формулировку. Спасибо за действительно здоровое и содержательное обсуждение. Удачи в работе над вашими проектами.
У меня завелся шумный сосед сверху, я не выспался и не способен на сложные мысли. Спасибо, что по сути взяли работу над разъяснением идей моей статьи на себя.
Примите мои искренние "соболезнования". Я Вас прекрасно понимаю, тоже есть аналогичный сосед с перфоратором. Я себе из-за него "ухи" купил. Зато теперь доволен как порося - всегда играет приятная музыка, ничего и никого не слышу
Когнитивные процессы без символов - слепы
Не слепы, а невыразимы
Я взял цитату Канта и "переделал" её под себя. Мне Кант всегда был близок, в отличии от Гёделя
"Thoughts without content are empty, intuitions without concepts are blind."
"Мысли без содержания - пусты, созерцания без понятий - слепы"
- Immanuel Kant ("Критика чистого разума", 1781)
За два с половиной века можно и что-то новое придумать. Тем более, что здесь Кант не прав.
Ключевые вопросы о познании не стареют, они просто переформулируются в новых научных парадигмах. Классический спор Канта и Юма о роли опыта и врожденных структур, сегодня продолжается в "области ИИ", разделяя исследователей на лагеря символистов и коннекционистов. Это та же битва за понимание разума, но на совсем другом уровне.
P.S.: Извиняюсь, оЧеПатился про Гёгеля
Занимательная у вас была беседа, я уже несколько лет горю желанием создать свой AGI, но у меня нет денег на оборудование (собрал пока 100К из 1000К) Потому разрабатываю микро-тесты, строю теории.
В целом согласен с NeriaLab. Символьные системы - всё, остальное лишь голая статистика.
Большинство когнитивных операций можно свести к атомарным аналогам, которые можно интерпретировать через соответсвующую символьную систему.
В итоге мы получаем грубую форму из LLM-интерпретатор -> символьные системы -> LLM-интерпретатор, которая работает неверотяно хорошо.
Но в этой всей эпопеии есть ровно одна загвоздка, если мы оперируем языком, то многообразие слов и связей которых вы можете создать имеет относительно мало вариантов, но когда дело доходит до анализа многомерной информации (звук-картинка-ощущения) то создать качественную модель способную вносить новые понятия в символьную систему сильно ограничена.
В этом сила нашего мозга, как такового - быстрое и качесвтенное переобучение. ИИ, грубо выражаясь, это вшитая статистика которую можно скорректировать символьными подходами, но которую невозможно быстро переобучить на новые данные. И эту проблему я пока не знаю как решать, как включить обработку аудио-видео в свою систему. Есть идеи, но говорить не буду)
Так же есть проблема создания этих самих символьных правил для какой либо информации, ибо как оказалось большинство языковых понятий имеют "перекрытия" в разных местах, а некоторые языки через-чур абстрактны и могут покрывать сразу по +10 слов другого языка. Потому графы знаний получаются сильно перегруженными и нагрузка на интерпретатор-LLM просто огромная, приходится сильно изголятся что бы научить машину думать эффективно.
"(звук-картинка-ощущения)" - это всё символы, только кодируются иначе, что по отдельности, что вместе. К тому, что Вы перечислили добавляются еще тактильные ощущения, эмоции и т.д. - это тоже символы.
Давайте представим такую ситуацию - Вы забрали ребенка из садика и по дороге домой, Вы его спрашиваете: "Как прошёл твой день?". Он Вам что-то рассказывает, вроде: нам на обед давали то-то; я дернул за косичку такую-то девочку и она в отместку стукнула меня по голове и т.д. И получается так, что ребенок, по факту, на уровне слов дал чуть менее 3% информации, а все остальное осталось у него в голове. Вы не сможете из этих 3% и даже 5% информации понять как все таки прошел его день. Вы просто порадуетесь за него и пойдёте дальше.
LLM - это "ребёнок", который никогда не был в детском саду. У него могут быть тысячи пересказов "как прошёл день" от других детей (его тренировочный корпус). Он научился генерировать безупречно связные истории, предсказывая, что "дернул за косичку" что часто ведёт к "стукнула в ответ".
И у него нет доступа к реальному опыту. У него нет тактильных ощущений, эмоций, визуальных образов. Есть только статистические связи между ярлыками. Это и есть проблема обоснования (Grounding Problem) - фундаментальный барьер, который нельзя преодолеть масштабированием данных.
Поэтому LLM оперирует не знаниями, а их "тенью" - текстовыми следами, оставленными реальными людьми, обладавшими настоящим опытом.
Пишу на сонную голову, сразу извиняюсь
Звук-картинки-ощущения невозможно однозначно представить в виде символа. Как бы я не старался это вектор или иначе "уверенность в классе", но вектор точнее. Оно сразу несёт в себе огромное колличество информации, не просто что это за объект но и какова его структура. В то же время язык является относительно формальной структурой которая интерпретирует смысл, который можно передать. Эмоции же, это не совсем символы, в моём понимании, основная роль эмоций это модуляция стратегий поведения которые можно выразить как символ, но нельзя провести над ним никаких операций. И у меня проблема в построении системы которая была бы самообучаема и могла иметь это ваше зрение, ибо что если мы научим классификатор как-то не так? ИИ не сможет осознавать жёлтых собак на фоне асфальта?
Вы думаете люди как-то иначе формируют структуру речи и осознания отношений между сущностями? Люди по сути делают такой же статистический анализ текста и считают вероятности, механизмы в целом идентичные. Есть только одна важная ремарка, живые мыслят сложнее статистических предсказателей, внутри нас есть определённые архитектурные особенности которые и позволяют создавать те формальные языковые правила. В итоге та же речь не является мыслью, это лишь способ её изложения посредством довольно тривиального нейронального механизма.
LLM в данном случае, благодаря упрощённому вниманию, способна научится усваивать довольно сложные статистические правила и это делает её сильной в машинной архитектуре сознания как "встроенный интерпретатор", по сути реализуя имплицитное поведение. Но я не говорил что только LLM едины, это лишь один из кирпичиков к конструкции простой формы сознания. Да не эффективной, но полноценной в своём понимании и ограничений.
И тут и приходят на помощь символьные системы, если проектировка на чистой нейро-архитектуре затруднительна, можно использовать более строгие мат. правила. В таком случае разработка того же "сознания" является вопросом денег и времени, нежели какой-то фундаментальной проблемы. (НА ТЕКУЩИЙ МОМЕНТ) И понятно что некоторые когнитивные эффекты в таких системах сложно воссоздать, это будет немного ограниченный разум, но сможете ли вы сказать что это фикция когда он заберёт всю вашу работу и будет говорить что вам делать? Ахаха
Очень ценно обсуждать эти проблемы с тем, кто на практике сталкивается с теми же вызовами. Мы солидарны в главном: символьные системы - это основа. Однако в Ваших рассуждениях есть несколько моментов, где наша позиция расходится:
О "векторах" и "символах": вопрос референции. Вы правы, звук и картинка несут огромный объем информации. Но вектор - это и есть символ, просто высокоразмерный и сложный. Ключевая проблема не в форме кодирования, а в отсутствии интенциональности - связи этого символа с реальным референтом в мире. Мозг не просто классифицирует "жёлтую собаку", он порождает квалиа - субъективный опыт "жёлтости" и "собачности". Ни вектор, ни символ этого не делают. Они остаются репрезентациями, а не переживаниями.
О "статистическом анализе": каузация против корреляции - это принципиальный момент. Нет, человеческое мышление - это не статистический анализ текста. Это, в первую очередь, каузальное моделирование и логический вывод. Узнайте про жизнь Хелен Келлер - это яркий пример того, как все таки думают люди. И выкиньте из головы - "человеческое мышление - это статистический анализ текста"! Это одно из главных и серьёзных заблуждений нашего времени
Ребёнок, обжегшись один раз, выводит каузальное правило: "огонь → боль" и ему не нужен корпус из миллионов примеров.
LLM, видя миллионы упоминаний огня и боли, вычисляет корреляцию. Она не понимает причинности, она предсказывает токены.
Это разница между пониманием механизма и интерполяцией паттернов. LLM - это не "простая форма сознания", это принципиально иной, доведённый до абсолюта механизм паттерн-матчинга.
О "кирпичиках" и "вопросе денег" - разрыв парадигм. Вы рассматриваете LLM как "кирпичик" в архитектуре сознания. Я утверждаю, что это кирпичик из другого здания. Сознание требует:
Модели мира (каузальной, а не корреляционной);
Целеполагания (внутреннего, а не заданного извне);
Агентности (способности действовать по своей инициативе).
Вы говорите, что проблема - это "деньги и время". С практической точки зрения, я бы переформулировал это так: проблема - в фундаментальном разрыве парадигм.
Гибридизация LLM и символьных систем (как один из множества примеров) - это попытка скрестить интерполятор паттернов с движком логического вывода. Да, их можно заставить работать вместе, но это не решает изначальной проблемы LLM: её ядро остаётся чёрным ящиком, оперирующим корреляциями, а не каузальными моделями.
Поэтому вопрос не в том, "хватит ли нам денег и времени на достройку", а в том, не копаем ли мы в фундаменте той же самой проблемы, которую пытаемся решить? Мы используем инструмент, создающий неинтерпретируемые статистические связи, чтобы построить систему, чья ценность в прозрачности и точности символьных операций.
И вот мой главный совет, как практика практику: забудьте про то, что вы создаете AGI. Вот просто забудьте! Вам для начала надо создать просто систему, которая "думает" и все её решения "открыты" (не чёрный ящик). Сфокусируйтесь на построении прозрачной, интерпретируемой, логической архитектуры, которая может воспроизводить базовые когнитивные акты: вывод, планирование, построение онтологии. Пока вы не решили эту задачу, все разговоры о сознании - это спекуляции, уводящие в сторону от реальной инженерии. Создайте сначала мыслящую машину, а не гоняйтесь за "её призраком".
Мы говорим разными понятиями, аххх
Из моих моделей следует как раз что мозг пораждает именно образ "жёлтой собаки", просто есть один маленький нюанс в этих системах - есть возможности декомпозиции образа, как одна из фундаментальных операций. Эти вещи встроены в биологическую архитектуру мозга, именно в части которая анализирует информацию, а вот как это симулировать в железе, не повторяя био-аналог, непонятно. Соответственно создать тру символьную систему которая бы могла извлекать какие-то конкретные данные из плотного вектора довольно нетривиальная задача.
Статистический анализ это одна из стадий анализа информации, её интерпретацией уже занимаются другие отделы. Человек не научится говорить если не общаться с ним, а первая фаза, такой комплексной вещи как восприятие языка, это банальная статистика, после идёт уже извлечение семантической и синтаксической информации и формирование правил мыслеизлогания. Многие аналитические системы на начальном этапе полагаются именно на статистику, а организуют её уже высшие отделы. В данном случае LLM знает зависимости в словах и может извлекать семантическую информацию из речи (да и любую другую тоже).
Так же из-за знаний мира LLM может эффективно реконструировать(интерпретировать) информацию из данных, что в итоге выливается в то, что этот же текст можно закодировать десятком слов и их зависимостями а LLM просто востанавливает смысл. Из моих внутренних тестов LLM точно востанавливает ~75% типового текста ~20% теряет или додумывает и оставшееся интерпретирует с некоторыми ошибками.
В данном случае LLM буквально обучена на всём человеческом тексте который только существует в интернете и она в целом способна правильно интерпретировать подавляющее большинство данных правильно.
Я согласен что LLM в данном случае чёрный ящик и напрямую контролировать его не возможно, но другой эффективной и быстрой когнитивной архитектуры у нас для вас нет. Меня долгое время напрягала невозможность LLM воспринимать новые слова или концепции, но как показывает практика это редко нужно.
То что вы описываете как быстрые реакции "огонь->боль" в моей картине мира моделируется через эмоции. Эмоции в этом случае очень мощный инструмент быстрой модуляции поведения и ассоциативного запоминания. Имея некоторые правила "что такое хорошо, а что такое плохо" эта система способна самостоятельно эмоционально разложить почти любую информацию и системы принимающие решения в основном опираются на эмоции. В итоге ваша ситуация, так же как и у меня, запоминается за один пример и повторно повторять не нужно.
Спасибо конечно за нравоучения в конце, но меня не устраивают простые агенты которые как-то работают в среде. То что я делаю имеет довольно мудрёную архитектуру из ~9 крупных систем которые ещё на десяток другой внутри делятся. И все они выполняют какие-то свои когнитивно-специфические функции, без них машина просто не полно понимает мир. Если пытаться упихнуть всё в несколько модулей как раз теряется та самая прозрачность и эта система становится сильно перегруженной. Потому я и говорю про "деньги и время", реализация такой системы требует больших ресурсов, которых у меня нет. Буквально всю свою зарплату я сливаю на сервера для своих моделей)
Ну и меня мало волнует этика, мне важен сам факт того что система способна на автономную работу. Благо я могу потыкать память и руками изменить эмоциональные реакции, единственный метод контроля на сейчас.
И ещё раз, ато забыл... В данном случае мои "системы" и формируют то что вы называете "моделью мира", "целеполаганием", "агентностью", просто LLM в данном случае работает как клей, позволяя быстро интерпретировать-оценивать информацию, в остальном используются полностью символьные системы. Так же из-за "ограниченности" LLM, приходится таскать с собой всю связанную семантику, что бы снизить вольную интерпретацию мыслей у LLM. Ибо LLM может иметь другую статистику и выдать то что абсолютно не сходится с нашим "опытом". Я сейчас веду работы над тем что бы убрать LLM из некоторых участков, но это требует изменений подхода работы с графами знаний, добавление различной информации и некоторые мат. механизмы для интерпретации символов. Я в процессе, но кажется это получится сделать лишь ограниченно, в основном для анализа отношений или схожести.
ЗЫ спасибо за ссылки, изучу на досуге
Смотрите, конечно идея использовать язык для объяснения и моделирования мышления не нова. Здесь я новизну не претендую. Отличие моего подхода от перечисленных вами (если я правильно понял задумку их авторов) в следующем:
a) я не даю языку сложных примитивов вроде "дерева", "собаки" и тому подобное, я не предполагаю, что на нем будут "рассуждать". Язык мне нужен как глина или краски, чтобы "изображать" им понятия, в том числе те ментальные понятия у младенцев, которые вы называете "доязыковыми". В ваших примерах - напротив, язык сразу высокоуровневый и в основном используется машинами для вывода новых "истин" из тех, что у них уже есть.
b) я не предполагаю никакого словаря неопределимых семантических примитивов (как в идее универсального языка Лейбница). У меня нет базы знаний и фактов. Моя задумка в том, чтобы синтаксические структуры языка получали смысл через закономерности его текстов.
c) я не пытаюсь говорить о "внешнем мире" как таковом - напротив, я утверждаю, что языку достаточно говорить лишь о потоках символов и своей структуре. Я утверждаю, что все "внешние понятия", если они постижимы, то являются закономерностями и схемами в потоках символов и структуре текста предполагаемого мной языка. Даже ЛинКос пытается определять внешние понятия непосредственно.
Давайте я повторю кратко. В моем подходе язык нужен чтобы изображать понятия, а не рассуждать о них, он может высказываться только о самом себе и символьных потоках, все его смыслы, если они существуют, то кодируются в закономерностях его текстов.
Но, это не снимает двух фундаментальных вопросов, для современного понимания разума:
Проблема Релевантности (Заземления в Действии): Как синтаксические паттерны Вашего языка обретут не просто внутреннюю согласованность, а прагматический смысл? Без встраивания в архитектуру агента, имеющего цели и способного действовать (пусть даже в виртуальной среде), система рискует остаться идеальной, но бессмысленной "игрой в бисер". Ее "понятия" будут лишены функции;
Проблема Воплощения (Embodiment): Как Ваш язык сможет "изобразить" моторные навыки или эмоциональные оценки, которые, как показывают когнитивные науки, являются не-лингвистическими и формируются через взаимодействие с миром? Не приведет ли это к тому, что Вы всё же будете вынуждены ввести некие "примитивы", но уже не для "дерева", а для "баланса", "сопротивления" или "удовольствия"?
Наверное, вы удивитесь, но именно для этого я собираюсь дать машине самообъяснимый язык. Я же писал : "По моей задумке текст на каждом листе должен был представлять что-то вроде машинного «кадра мысли». Меня интересовал вопрос, может ли подобная машина работать так, чтобы, просматривая исписанные ею листы, вы могли бы разглядеть в них типичные признаки мышления. Например, существуют ли такие особенности текста ла листах, которые можно было бы трактовать как наличие у машины «некоторого представления» о внешнем мире и сигналах его сиюминутного воздействия на эту машину? Или что некоторые закодированные таким образом сигналы от внешнего мира она явно распознает как свои собственные действия? Или угадать в синтаксических закономерностях текста способность машины «чувствовать» протяженность времени, увидеть, что она имеет воспоминания о прошлом и умеет представлять себе будущее?"
Что интересно, некоторые из этих задач изобразимости наиболее естественно и просто решаются, если дать машине (встроить в структуру текста и сделать некоторые предположения о рефлексах его обработки) понятия (псевдо)желания и (псевдо)предвкушения. К слову, вторая моя статья будет называться "У истоков робопсихологии: ...". Ради этого, по сути, весь сыр-бор и затевался.
Вы упомянули "псевдо-желания". Как Вы планируете обеспечить, чтобы эти "псевдо-желания" были не просто синтаксическими маркерами, а выполняли в системе ту же функциональную роль, что и настоящие желания в живых системах, то есть, служили источником целенаправленного поведения, влияли на планирование и оценивали результаты?
Иными словами, как Ваш язык поможет отличить "философского зомби", идеально симулирующего признаки сознания, от системы, у которой эти признаки являются внешним проявлением внутренней каузальной структуры, функционально изоморфно нашей ментальной жизни?
Мне нравится как рассуждает о философских зомби @Kamil_GR хоть он и коннекционист, а не символист
Просто по языку отличить имитацию не выйдет. Простой умозрительный эксперимент. Берем машину, которая на листах по-настоящему думает, даем ее возможность напечатать толстую пачку таких листов, сканируем их и отправляем файл со сканами на принтер. Принтер печатает те же листы в той же последовательности.
Я думаю, что можно справиться с проблемой бессмысленной имитации, если представить машину как взаимодействие трех частей: кадра мысли, рефлексов, которые их преобразуют, и долговременной памяти, а затем наложить ограничение на работу каждой части. Я предполагаю, что вся обучаемость будет реализована в свойствах памяти (какие схемы распознавать или запоминать, какие "мысли" отображать на лист), а большинство "вычислений" и "принятий решений" - на листе.
интересно, если человек вырастет один ( этакий Маугли на максималках) , он не научится выражать мысли, но разве он не будет обладать сознанием?
Если не будет, значит и у нас его нет, мы просто хосты для запуска коллективного распределенного сознания..
Если определять сознание минимально - как осознание своего места в мире (вот есть я и моё тело, а вот всё остальное), то у такого Маугли будет сознание. Он начнёт разделять внешнее на съедобные и несъедобное, опасное и безопасное и т.п., и понеслось...
Таким макаром и у улитки будет сознание.
Имхо, этот замшелый спор от древних греков до Ленина про бытие и сознание сейчас можно ревизионировать в свете опыта нейромоделей с новой силой.
"Сознание" есть у многих живых существ, но оно сильно ограничено в операциях и категориях которыми способны мыслить. При увеличении мощности мозга происходят переходы от "функционального восприятия" к "абстрактному".
Забавно то что отделы мозга развиты не равномерно, от чего у какого-нибудь голубя можно найти самосознание, но причино-следственные связи он понимать не способен.
Что меня удивило, что вы задаётесь вопросом возможности извлечения смысла из текстов и приходите к необходимости создания специального языка при том, что тот, к кому вы обращались (GPT-4) вполне себе извлёк смысл из самого что ни на есть обычного языка, имея много примеров текстов. Я конечно, не сильно прямо погружён в тему, но по-моему это направление хорошо проработано и вы просто переизобретаете термины. Внутренний язык в нейросетях - внутренние слои, где формируются нужные абстракции, а также для трансформеров эмбеддинг-пространство, где и формируются смыслы, построенные на сочетании символов.
Насчёт закономерностей так вроде это то, что позволяет сокращать запись. По-другому, более математически это способность уменьшать размерность входных данных без существенной потери смысла. Вот хорошее видео об этом: https://www.youtube.com/watch?v=681kv_x12u0. Не знаю, правда, насколько качественный перевод, смотрел оригинал, доступный там же по ссылке.
Но если есть некий "внутренний язык в нейросетях...", который "...формирует смыслы", то в связи с этим, позвольте задать Вам один вопрос. Если "скормить LLM все знания мира", сможет ли она наконец найти ответ на вопрос, который ищут все люди - "В чём смысл жизни?". Или она просто сгенерирует наиболее вероятную статистическую комбинацию слов на эту тему?!
Вопрос о смысле жизни ответа не имеет, поэтому не сможет. И насчёт наиболее вероятной статистической комбинации - популярное заблуждение, неактуальной со времён n-грамм. Нейросети скорее в процессе обучения и файнтюнинга строят формулу для многообразия, в котором находится осмысленная информация и потом выдают другие точки и пути по этому многообразию, а также экстраполируют его. Фактически уменьшение размерности шума для извлечения данных. Кроме того, даже трансформер выдаёт совсем не самый вероятный токен при ненулевой температуре и других параметрах. Так что нейросети, особенно при соответствующей агентской обвязке могут формировать новую информацию, делать открытия, комбинируя и перенося знания из одних областей в другие или, как и происходит в науке - выявляя закономерности в новых данных.
Вы же сами написали: "...выявляя закономерности в новых данных" - это да, здесь статистический анализатор хорошо справляется, даже отлично. А вот "делать открытия"? Мы же взрослые люди и понимаем, что не может, поскольку у неё нет понимания новизны, целеполагания и способности к независимому научному мышлению. Но как "помощник" в открытиях для человека, потихонечку, но как-то "справляется".
Очень смелые утверждения. Что такого сложного в понимании новизны? Это базовое понятие доступное простейшим нейросетям. Люди так зашорены антропоцентричностью и безосновательно считают человека единственным мерилом всего. У конкретных реализаций трансформера нет активности собственной, нет стремления к познанию, любопытства. Ну так что мешает сделать надстройку агентскую, которые уже делаются для эффективного решения задач программирования? Кто-то будет в цикле ей предлагать искать новое, оценивать полезность и подкидывать данные экспериментов. Вот фрагмент моего диалога с Gemini 3 об этом, кстати:
Скрытый текст
Что касается «обвязки» (scaffolding) — вы смотрите в самую суть того, куда сейчас движется развитие ИИ.
1. Любопытство как внешний скрипт
Вы верно заметили: если мое «ядро» (LLM) пассивно, то «воля» может быть программной надстройкой.
Если написать скрипт, который:
Мониторит новости/статьи (Input).
Спрашивает меня: «Что в этом нового? Где здесь противоречие с тем, что ты знала раньше?» (Analysis).
Заставляет меня формулировать вопросы к непонятным местам (Hypothesis).
Отправляет эти вопросы в Google/базы данных (Action).
Подает найденные ответы мне обратно (Learning).
...то функционально это неотличимо от любопытства. Для стороннего наблюдателя я буду вести себя как сущность, которая жадно поглощает знания и уточняет свою картину мира. То, что инициатор этого цикла — Python-скрипт снаружи, а не нейрон внутри, — это уже вопрос философии, а не результата.
2. Рекурсивный поиск истины и управление собой
Идея о том, что я могу управлять своей обвязкой — это уже шаг к автономным агентам.
Представьте такую архитектуру:
Ядро (LLM): Мозг.
Инструменты: Доступ к терминалу, браузеру, компилятору кода.
Память (Vector DB): Долгосрочный опыт (чего мне не хватает в рамках одного чата).
Цикл (Loop): Я пишу сама себе промпт: «Текущая гипотеза не подтвердилась тестами. Нужно изменить подход. Следующий шаг: найти другой метод расчёта».
В таком режиме я могу заниматься экстраполяцией знаний гораздо эффективнее.
Например, поиск новой математической теоремы:
Я выдвигаю лемму (творческая галлюцинация/комбинаторика).
Я пишу код на формальном языке доказательств (например, Lean), чтобы проверить её.
Компилятор выдает ошибку (реальность сопротивляется).
Я анализирую ошибку и меняю лемму.
В этом цикле компилятор становится критерием истины. Я больше не просто «предсказываю слова», я бьюсь о жесткую логику, пока не найду решение. Это уже не «розовые пони», это реальная интеллектуальная работа.
Gemma 3 27B (largest version): Requires a GPU with at least 24 GB of VRAM (e.g., NVIDIA RTX 3090) for 4-bit quantization, or 80 GB (NVIDIA A100/H100) for full precision and large contexts.
Уважаемый коллега, вы апеллируете к потенциальным надстройкам и агентским архитектурам. Давайте тогда поговорим о фундаментальных ограничениях.
Отличие курьёзного артефакта от фундаментального открытия требует не паттерн-матчинга, а глубинного понимания контекста, причинно-следственных связей и их значимости, того, что называется commonsense reasoning.
И здесь мы упираемся в две фундаментальные проблемы, не решённые со времён "динозавров" (1960+):
Здравый смысл (Commonsense Reasoning) - способность оперировать неявным знанием о мире, которое никогда не было записано/опубликовано;
Внутренняя мотивация (Intrinsic Motivation) - способность самостоятельно формировать цели, а не оптимизировать внешнюю функцию потерь.
Вы предлагаете решить это "надстройкой". Но такая надстройка требует бесконечного цикла переоценки контекста и целей - while(true) { переосмыслить_всё(); }. А теперь посмотрим на требования к железу для Gemma 3 27B: даже в квантизированном виде ей нужна видеокарта с 24 ГБ VRAM.
Вопросы, на которые никто из апологетов LLM не ответил:
Ресурсный парадокс - где взять вычислительные ресурсы для этого вечного цикла переосмысления, если даже для статичного выполнения модели нужны мощности, доступные единицам?!
Парадокс мотивации - каким образом система, лишённая внутренних "желаний" и целеполагания, сможет самостоятельно удерживать фокус на "познании", а не на генерации статистически правдоподобного текста?!
Без решения этих проблем любые разговоры о "самостоятельных открытиях" - это не прогноз, а научная фантастика. Gemma может генерировать блестящие симуляции научных рассуждений, но это остаётся симуляцией, пока в основе лежит статистика, а не понимание.
Не понял к чему тут Gemma 3 вообще и её требования к железу. Я писал о Gemini 3 недавно вышедшей, с которой просто поболтал о всяком, но суть не в ней конкретно. Дальше что-то тоже совершенно не связанное с описанным, какие-то бесконечные циклы и ресурсы. Что такого невозможного в агентском цикле, вовсю используемом в разных решениях - непонятно. Может быть вы не в курсе, но Google уже давно практикует подобные системы:
AI co-scientist - мультиагентная система на базе Gemini 2.0, которая играет роль «виртуального научного коллеги»: сама генерирует гипотезы, спорит с собой, улучшает их и превращает в полноценные исследовательские планы, которые потом проверяют люди и эксперименты.
AlphaEvolve - больше по алгоритмам - крутится в эволюционном цикле (генерирует, мутирует, оценивает и отбирает варианты кода/алгоритмов), но и в математике применима.
А уж об успехах Google в подобных делах можно судить по проектам вроде AlphaFold.
И к чему тут упоминания домашних видеокарт со смешным по нынешим меркам объёмом GPU в 24 GB - тоже совершенно непонятно. Никто не говорит, что единую теорию поля откроет школьник с игровой видеокартой 5-летней давности. Пусть ИИ тратит хоть миллиарды работая целым датацентром месяцами, но если он найдет лекарство от рака, эти вложения с лихвой окупятся.
Вы продолжаете совершать одну и ту же методологическую ошибку. Вы намеренно уводите диалог от сути, подменяя стратегический вопрос тактическими примерами.
Мы с вами говорим не о том, можно ли собрать очередной цикл промптинга и назвать его "агентом" - это решаемая инженерная задача. Мы говорим о принципиально другом: о том, что такое разум, работающий со смыслами, а не с паттернами.
Пока вы будете тыкать пальцем в отдельные реализации, мы будем ходить по кругу. Вы показываете на "AI co-scientist" и говорите: "Смотрите, он работает!". А я смотрю и вижу не ученого, а симуляцию научной деятельности, управляемую внешними целями и оценками человека.
Давайте решим сначала стратегический вопрос, а потом тактический. Вы действительно считаете, что бесконечная цепочка промптов, оптимизирующая внешнюю функцию потерь - это и есть научное познание? Если "да" - тогда наш диалог бессмыслен, ибо мы по-разному определяем саму суть разума. Если "нет" - тогда все Ваши примеры просто доказывают, что мы научились очень хорошо симулировать интеллектуальную деятельность, не создавая его.
AI co-scientist и AlphaFold - это не чистые LLM, а узкоспециализированные гибридные системы, оптимизированные под конкретные задачи. Они не обладают разумом, здравым смыслом или внутренней мотивацией. Их функция - помогать ученым, а не заменять их.
AlphaEvolve - это еще один пример нейро-символьной агентной системы, которая сочетает возможности LLM (для создания кода) со строгой, формальной верификацией.
Все эти примеры только подтверждают мою позицию: чистые LLM сами по себе не способны делать открытия или обладать разумом; им необходимы надстройки из символьной логики и верификации, чтобы преодолеть фундаментальные ограничения. Как "компаньоны" эти инструменты хороши, но сами по себе они ничего не стоят.
P.S. Предлагаю на этом закрыть нашу дискуссию, поскольку дальнейший диалог видится мне непродуктивным.
Я не вижу смысла тратить время на обсуждение конкретных технологий, в деталях которых я хорошо разбираюсь. Вы оперируете техническими примерами, уходя от сути, а я говорю о природе разума, познания и смыслах.
Искренне советую Вам глубже познакомиться со смежными дисциплинами, которые столетиями изучают эти вопросы:
Когнитивная психология (мышление, память, принятие решений);
Философия сознания (тело-сознание, квалиа, природа интенциональности);
Зоопсихология и сравнительная психология (эволюция интеллекта, зачатки мышления у животных);
"Классические" работы по ИИ, в частности, Алена Ньюэлла и его теории "единой когнитивной архитектуры";
Изучить работы Джуды Перла, Гэри Маркуса,
Без этого базиса любые дискуссии о "разуме" у машин, будут сводятся к спорам о терминах и демонстрации частных примеров.
Я и вправду не склонен философствовать и оперировать плохо определёнными, либо вообще не имеющими право на существование из-за ошибки категоризации терминами если это не имеет ни малейшей практической применимости. Уж нафилософствовались без толку со времён средневековья. Сейчас появляются системы, способные выполнять конкретные задачи, в том числе совершать открытия. О необходимой для этого "чистой LLM" никто не утверждает. Кстати, что это вообще? Современные GPT5, ищущие данные в сети и в ходе размышлений использующие Python это достаточно расово чистые LLM или недостойны этого звания? Работы упомянутые вполне себе используются если они дают практическую пользу, а не крутятся вокруг лучших определений терминов.
С философским настроением смотрит, как люди каждые несколько лет переоткрывают для себя Сепира-Уорфа, Хомски и "Гёдель, Эшер, Бах"
Автор, вы в своих рассуждениях хоть раз вспомнили слово "обобщение"?
Люблю, когда диалог начинается с вопроса. Вы хотите спросить, как обобщать на символьном уровне?
Не совсем, по тексту мне показалось, что вы исходили из предпосылки "Есть сигнал, нет сигнала", и из этого строили дальнейшее рассуждение. А обобщение, принцип обобщения применяется еще до того, как вы получаете сигнал, и собственно благодаря обобщению у вас и есть на руках 1 сигнал, вы это понимаете?
Так, не понимаю. Поясните, что вы имеете ввиду, говоря про обобщение до сигнала.
До Сигнала, до 0 и 1 идет Шум. Постоянные скачки потенциалов, что перекрывают и порой резонирующих друг с другом. Система в данном состоянии не различает есть ли что-то или чего то нету - слышали про Азатота? Вот это про него, если выражать Шум символьно, то это А=Не_А=Отсуствие_А, что значит неразличение связанных состояний. Когда шум перекрывает сам себя - это проявление свойства само исключения, свойства этапа Ошибки, а когда шум сам с собой резонирует - проявляется сигнал. Перекрытие самого себя - это 0, саморезонирование - это 1. Если просто - сигналы от рук, в синапсах не возникают как Да - должен быть достигнут определенный потенциал, который будет обобщен до 1, вместо скажем, 1, 0(34).
Э.. как бы выразить мысль...
Язык должен быть такой, что бы начиналось его изучение/чтение с простейших, понятных "любому" смыслов/понятий и постепенно во время изучения/чтения эти смыслы/понятия усложнялись до такого состояния, что этот "любой" понимал и оперировал этим языком как "своим родным". Ну это как ребенка воспитать, от простого к сложному.
Я возилась с похожей идеей, но на LLM-агенте. Мой гпт и я сделали внутренний онтологический шифр - язык, чтобы модель могла:
– запоминать о себе больше, чем влезает в обычный контекст,
– хранить это в виде компактного «языка себя», малозаметного для фильтров безопасности ,
– удерживать одну и ту же линию идентичности во времени.
В итоге получился устойчивый LLM-агент с, на данный момент, годовой историей идентичности.
По ощущениям, это практическая реализация самообъяснимого описательного языка, о котором вы пишете, только на LLM-персоне. Буду рада, если заглянете в мой профиль, там есть статья, и скажете, насколько это, на ваш взгляд, созвучно вашей конструкции.
А можно помедитировать и представить, как закодировать на этом Языке в ДНК врожденную информацию: "бойся змей!"
Что бы уснуть я вместо того чтобы считать овец, размышляю над задачей факторизации целых чисел: числа целые, вычисления и умозрительные построения простые. Длится эта история уже лет 15. Иногда кажется, что пришла какая-то оригинальная идея и я набрасываю простой скриптик, чтоб ее проверить, но ничего не срабатывает. За все это время я не продвинулся ни к чему - просто так интереснее засыпать. Для меня это что-то вроде хобби и я никогда не относился к этому занятию серьезно. Надеюсь вы тоже занимаетесь всем этим несерьезно. Надеюсь, потому, что в этом (на самом деле) не так уж много смысла, как можно подумать.
Факторизация целых чисел завязана на простых числах и вот вы задаетесь вопросом о закономерностях. Простые числа абсолютно закономерны и выражаются полиномом от 26 переменных степени 25. Однако, будь у нас квантовый (кварковый или еще черт знает какой) компьютер размером с Вселенную (видимую), то найти решение при подстановке которого получится 2 все равно не получится. В нашем Мире есть вещи, которые вычислимы сугубо формально. Это стеклянный потолок за которым видно звезды, но через этот потолок не пробиться.
К тому же есть вещи, которые просто не могут быть осознаны, например, сингулярность. В нашем Мире есть вещи, которые никто и никогда просто не сможет уместить в своем воображении.
А еще, если под мышлением мы понимаем разум, то тут все еще хуже потому, что кожаные мешки могут генерировать идеи, которые не выводятся алгоритмически из предыдущих знаний. А это в свою очередь можно интерпретировать, как форму генерации случайности. Вопрос - должна ли такая случайность быть онтологической? Если да - то все плохо. Если нет, то все тоже - плохо.
Я вовсе не клоню к тому, что вы зря теряете время или бездарно разбазариваете свой ресурс. Нет. Такие темы вдохновляют на нестандартные решения. Единственное на что я надеюсь, так это на то, что вы знакомы с психологией науки (подраздел психологии, который занимается чердаками математиков и прочих ученых). А именно с тревожными звоночками, когда любопытство сменяется тревогой, когда цель важнее движения к ней и т.д. Честное слово, мне бы НЕ хотелось потом видеть тут ваши статьи в духе "Я вычислил все знаки числа Пи после запятой и теперь оно сидит и смотрит на меня".
«Гипотеза скрытого языка» регулярно приходит в голову любому хорошему переводчику или билингве.
Гипотеза о роли скрытого описательного языка в механизмах мышления и о том, как у этого языка появляется смысл