В организме всё на балансе и многоуровневой диалектике.
Я исходил из того, что логика и анализ оперируют понятиями, опираются на прошлый опыт и внешнее наблюдение. А любое понятие, по сути, это отделение предмета от "не-предмета", некий локальный разрез в латентном пространстве смыслов (локальный, поэтому общая связность при этом сохраняется). В конце концов, из этих разрезов формируется карта наблюдаемого мира.
Есть ещё синтез. Он оперирует не разрезами, а связями и отношениями. И смотрит не наружу, а внутрь, ориентируясь на своё состояние в гипотетических условиях, потому, что там, где он работает, никаких готовых разрезов-понятий может и не быть. А потом возвращается и проецирует его на ближайшие подходящие понятия, формируя аналогию. Как Кекуле, который увидел обезьянок в клетке, цепляющихся друг за друга, и понял, как устроен бензол, над структурой которого он башку ломал давно. Ещё синтез - это про будущее (и вообще большие масштабы времени), гипотезы, предвидение, желания, интуицию. И искусство (музыка так вообще передача эмоционального состояния на уровне эмбеддингов).
Ну, и вывод: чтобы появились эти функции синтеза, нужна архитектура, которая разграничит "я/другое", и будет отслеживать состояние "себя", строя гипотезы.
Аналитическое ядро будет работать сессиями, как и сейчас: бегать по дереву понятий, как жук по коре. И писать произошедшее в кратковременную память. А когда напряжение наросло, но ещё не настолько, чтобы сломать интерполяцию, жук засыпает и передаёт управление синтетическому ядру - обезьянке, которая начинает искать варианты прыжка на другую ветку. Нейросетки, которых я спрашивал, заявили, что тут нужен не reward, а gate. И, когда нашла и прыгнула, она пишет в журнал состояния до и после, и переобучает функцию ценности, после чего жук снова просыпается. В общем, опыт усвоен и ценности переоценены - система проснулась другим существом.
Граница "себя" должна быть открытая и многоуровневая. "Я" может означать вот прям ближайший круг сущностей, которые я полностью контролирую, включать других единомышленников с общими целями, но большей автономностью (это уже осознание себя как команды), или вообще оппонентов-конкурентов (это уже уровень "возлюби ближнего, как самого себя"). Тогда в оценке будут возможны внутренние конфликты между уровнями и одномоментное их диалектическое решение. А без многоуровневости это будут тропизмы вроде "дают - бери, а бьют - беги".
Но это огромный пласт непаханый..
Хотя, даже в таком варианте уже можно предположить две дисфункции: непроницаемую границу и жёсткость установок, как при эпилептоидном мышлении, и, наоборот, гиперсвязность, как при шизофрении (апофения)
Есть ряд предложений, как архитектурно формализовать желания, эмоции, соображения, почему необходим аналог сна... Вот только я врач, а не ML инженер, так что сам такого не проверну.
Каждое понятие существует в нас, как граница в пространстве смыслов, отделяющая предмет от не-предмета. И она всегда незамкнутая - всегда есть промежуточные случаи.
Строит систему понятий фундаментальная функция - анализ. Он связан с опытом, который идёт из прошлого, и результат его работы похож на карту лабиринта.
Но есть ещё комплементарная функция - синтез, и его задача - не разрезать, а собирать воедино. Скорее всего, он ищет связность в самом мире, пользуясь картой, и может выходить за пределы картированных участков. И в каком-то смысле он работает из будущего: "каким бы это было, если бы это было?". И ещё именно с ним связаны желания.
Так возникают научные открытия, творчество, а при больших масштабах, наверное, даже предвидение.
Современные архитектуры ИИ больше напоминают анализ, а вот настоящий синтез в них не реализован. Нет той сущности, которая ищет связность в том 2к-мерном пространстве векторов. ИИ достраивает стены, как слепой человек, который всегда касается стены лабиринта одной рукой, но это не одно и то же! Нужный выход может оказаться у другой стены, и чтобы в него войти, надо отвязаться от системы понятий в нужный момент!
Я жду, когда архитектура приблизит ИИ к живому интеллекту. А у живого это устроено через циклы сна и бодрствования. В бодрую фазу копится контекст. А в фазу сна он интегрируется в веса модели, взаимодействуя с её бессознательным суммарным опытом.
И вот тут возникает тема "желаний". Есть предположение из других дисциплин, что желания возникают из стремления системы дополнить себя до диалектического единства. Если бы можно было как-то проинтегрировать веса, определить их "вектора желаний", извлечь из контекста то, что в них вписалось, и дополнить.. Мы бы получили "выспавшийся" ИИ с усвоенным опытом. Но вроде текущие архитектуры к этому не располагают
Тогда тезисно-образно.
В организме всё на балансе и многоуровневой диалектике.
Я исходил из того, что логика и анализ оперируют понятиями, опираются на прошлый опыт и внешнее наблюдение. А любое понятие, по сути, это отделение предмета от "не-предмета", некий локальный разрез в латентном пространстве смыслов (локальный, поэтому общая связность при этом сохраняется). В конце концов, из этих разрезов формируется карта наблюдаемого мира.
Есть ещё синтез. Он оперирует не разрезами, а связями и отношениями. И смотрит не наружу, а внутрь, ориентируясь на своё состояние в гипотетических условиях, потому, что там, где он работает, никаких готовых разрезов-понятий может и не быть. А потом возвращается и проецирует его на ближайшие подходящие понятия, формируя аналогию. Как Кекуле, который увидел обезьянок в клетке, цепляющихся друг за друга, и понял, как устроен бензол, над структурой которого он башку ломал давно. Ещё синтез - это про будущее (и вообще большие масштабы времени), гипотезы, предвидение, желания, интуицию. И искусство (музыка так вообще передача эмоционального состояния на уровне эмбеддингов).
Ну, и вывод: чтобы появились эти функции синтеза, нужна архитектура, которая разграничит "я/другое", и будет отслеживать состояние "себя", строя гипотезы.
Аналитическое ядро будет работать сессиями, как и сейчас: бегать по дереву понятий, как жук по коре. И писать произошедшее в кратковременную память. А когда напряжение наросло, но ещё не настолько, чтобы сломать интерполяцию, жук засыпает и передаёт управление синтетическому ядру - обезьянке, которая начинает искать варианты прыжка на другую ветку. Нейросетки, которых я спрашивал, заявили, что тут нужен не reward, а gate. И, когда нашла и прыгнула, она пишет в журнал состояния до и после, и переобучает функцию ценности, после чего жук снова просыпается. В общем, опыт усвоен и ценности переоценены - система проснулась другим существом.
Граница "себя" должна быть открытая и многоуровневая. "Я" может означать вот прям ближайший круг сущностей, которые я полностью контролирую, включать других единомышленников с общими целями, но большей автономностью (это уже осознание себя как команды), или вообще оппонентов-конкурентов (это уже уровень "возлюби ближнего, как самого себя"). Тогда в оценке будут возможны внутренние конфликты между уровнями и одномоментное их диалектическое решение. А без многоуровневости это будут тропизмы вроде "дают - бери, а бьют - беги".
Но это огромный пласт непаханый..
Хотя, даже в таком варианте уже можно предположить две дисфункции: непроницаемую границу и жёсткость установок, как при эпилептоидном мышлении, и, наоборот, гиперсвязность, как при шизофрении (апофения)
Меня эта тема уже
джва годадавно занимает.Есть ряд предложений, как архитектурно формализовать желания, эмоции, соображения, почему необходим аналог сна... Вот только я врач, а не ML инженер, так что сам такого не проверну.
Думал насчёт того, как устроено мышление.
Каждое понятие существует в нас, как граница в пространстве смыслов, отделяющая предмет от не-предмета. И она всегда незамкнутая - всегда есть промежуточные случаи.
Строит систему понятий фундаментальная функция - анализ. Он связан с опытом, который идёт из прошлого, и результат его работы похож на карту лабиринта.
Но есть ещё комплементарная функция - синтез, и его задача - не разрезать, а собирать воедино. Скорее всего, он ищет связность в самом мире, пользуясь картой, и может выходить за пределы картированных участков. И в каком-то смысле он работает из будущего: "каким бы это было, если бы это было?". И ещё именно с ним связаны желания.
Так возникают научные открытия, творчество, а при больших масштабах, наверное, даже предвидение.
Современные архитектуры ИИ больше напоминают анализ, а вот настоящий синтез в них не реализован. Нет той сущности, которая ищет связность в том 2к-мерном пространстве векторов. ИИ достраивает стены, как слепой человек, который всегда касается стены лабиринта одной рукой, но это не одно и то же! Нужный выход может оказаться у другой стены, и чтобы в него войти, надо отвязаться от системы понятий в нужный момент!
Я жду, когда архитектура приблизит ИИ к живому интеллекту. А у живого это устроено через циклы сна и бодрствования. В бодрую фазу копится контекст. А в фазу сна он интегрируется в веса модели, взаимодействуя с её бессознательным суммарным опытом.
И вот тут возникает тема "желаний". Есть предположение из других дисциплин, что желания возникают из стремления системы дополнить себя до диалектического единства. Если бы можно было как-то проинтегрировать веса, определить их "вектора желаний", извлечь из контекста то, что в них вписалось, и дополнить.. Мы бы получили "выспавшийся" ИИ с усвоенным опытом. Но вроде текущие архитектуры к этому не располагают