Как мне кажется, точно, есть еще один недооценённый подход. Когда нейрон представляется конечным автоматом. Тут ни символьных вычислений нет, ни чисел, ни противоречий с природой.
Сигналы заходят в мозг и выходят из него без каких-либо ярлыков. Нет сигналов "плохо", нет сигналов "хорошо" и т.д. Обучение чему-либо не всегда ж должно подкрепляться извне - что вам мешает запомнить новое слово без удара кнутом? Расскажите пжл подробнее про "каналы" в мозгу, по которым мы получаем боль и удовольствие, органы, к которым адресуются эти каналы, и, что важнее, как результат действия этих органов находят ту группу нейронов, которую надо обучить? В своей реализации вы вправе протянуть провода хоть к каждому нейрону, пока оставим это, расскажите про биологический прототип RL.
Шаги эти последовательные хотя бы потому, что награда за совершенное действие не может появиться раньше его интерпретации средой. А воздействие на среду не может появиться раньше прохода данных по сети. Я про элементарный акт в RL.
Операции чтения, изменения и записи для "параметров" мозга неразделимы, проходят за единый такт. Мои попытки притянуть сюда RL зашли в тупик.
Самый реалистичный, имеющий отношение к жизни вариант обучения, то, как учимся мы сами
Как только попытаться начать её реализовывать с нуля в своих разработках сразу выявляются пара неразрешимых противоречий с биологией.
Нарушается принцип локальности обучения. RL из внешней среды, по специальным каналам (REW, PUN), лезет корректировать параметры узлов и связей.
RL, принципиально, состоит из последовательных шагов. Сначала работает сеть, далее идёт взаимодействие со средой, считаются REW и PUN, через систему обратных связей корректируются параметры сети. Вы такое в биологии видели? Все связи в мозге "прямые" и нет никакого "заворачивания" в обратном направлении! Точнее, допускаю, связи могут быть "обратными", но лишь в ближайшем окружении нейрона.
Тоже пытался делать RL в надежде получить "самый биологичный подход", в итоге отказался от него усилием воли. Ибо тупик. Потратил немеряно времени.
Допустим нейроны обмениваются спайками, и спайк - это не число, хорошо. Спайк - это лишь способ заставить нейрон начать пересчитывать своё внутреннее состояние. Ну, послали мы сигнал нейрону на пересчёт состояния, а в нейроне-то всё равно числа. Чем оно ближе к мозгу стало, к которому вы апеллируете!?
Ваша претензия к числам как к средству обмена информацией между нейронами основана лишь на слабой "биологичности", а также желание повысить энергоэффективность сети? Или вы видите в этом какие более глубокие проблемы? Ну, не знаю, например, то что чисел в природе в принципе нет?
В разделе "Вычислительные методы" вы описываете как может быть реализован коннектом в коде. Насколько я понял, коннектом (граф) будет работать в дискретном времени (тактами), узлы детерминированным образом будут передавать результаты своих вычислений друг другу, структура графа не меняется. Вы описываете чистую функцию, и то, что параметры этой функции будут меняться между тактами, не делает её "менее чистой". Вы всерьёз считаете, что мозг не хранит состояние между тактами? Что мозг - это чистая функция?
Задаю вам этот вопрос, потому как сам им задавался, пытался запрограммировать, после чего ответил отрицательно. И вот думаю, может, я что-то пропустил?
Попробуйте прогнозирование цены с помощью рекуррентных сетей при условии, что на входе у вас не цена, либо манипуляции с ней. Мне самому не удалось (интересы поменялись) это сделать, но на результаты я бы с удовольствием посмотрел)
Говоря "на входе не цена" я имею в виду, например, разницу между спросом и предложением в стакане к общему объему в стакане. Вам придётся пользоваться тиковыми L2 данными для этого, т.е. самому накопить реальные данные, т.к. просто цены закрытия не подойдут. (Ну или напишите мне, у меня вроде лежит пару месяцев 100 строчных стаканов)
Бесконечный рост сети внутри AGI за бесконечное время работы - так правильнее. Только в этом случае нам потребуются бесконечные ресурсы.
Данные из потока не теряются в процессе преобразования их в структуру. Ничего удивительного, что сеть растёт вообще на "любой чих". Можно пустой поток переложить в структуру. Да и слово "простой" - оно сетью не интерпретируется. Она просто растёт, добавляя на каждый такт новый узел.
Но, вообще, способов де-идеализации много, вы ж понимаете. Я пока не вижу причин это делать. Можно например ограничить связывание нового узла только со своими соседями из некоторой окрестности. Окрестность можно задать с помощью времени или пространства.
Вопрос не риторический, и на него можно, принципиально, только отрицательно ответить. Вы никогда, ни при каких обстоятельствах, не разработаете способа смоделировать мир настолько, что научитесь прогнозировать исходы "со 100% точностью".
Всегда, хм. Я могу лишь пошутить. Если оно так есть, как вы говорите, то несчастной реальности очень тяжело. Ведь ей приходится каждый раз подстраиваться под очередное правило непротиворечивой математики.
Думаю, имеет смысл говорить о длительности, в течение которой некий способ описать мир, описывает его с заданной точностью.
Разведутся ли двое только что поженившихся? 68%, что да. Вот только нас интересует в формате "да" или "нет". Есть ли такая математика, которая проживет жизнь этих двоих до момента развода или счастливой смерти в один день?
Напишите тут, пожалуйста, какие книги Эшби (и не только Эшби) почитать про синтез автомата с памятью, выполняющего требуемое преобразование, заданное табличным образом ("вход на выход"). Особенно интересно, чтобы синтез автомата был поточным и осуществлялся за один проход по данным.
Вы предлагаете решение - "видеть на мир иерархически". А как учитывается время в иерархии сущностей? Или, иначе, как строятся причинно-следственные отношения между сущностями?
Ну да, чисел, на самом деле, и в компьютере нет)
Как мне кажется, точно, есть еще один недооценённый подход. Когда нейрон представляется конечным автоматом. Тут ни символьных вычислений нет, ни чисел, ни противоречий с природой.
Сигналы заходят в мозг и выходят из него без каких-либо ярлыков. Нет сигналов "плохо", нет сигналов "хорошо" и т.д. Обучение чему-либо не всегда ж должно подкрепляться извне - что вам мешает запомнить новое слово без удара кнутом? Расскажите пжл подробнее про "каналы" в мозгу, по которым мы получаем боль и удовольствие, органы, к которым адресуются эти каналы, и, что важнее, как результат действия этих органов находят ту группу нейронов, которую надо обучить? В своей реализации вы вправе протянуть провода хоть к каждому нейрону, пока оставим это, расскажите про биологический прототип RL.
Шаги эти последовательные хотя бы потому, что награда за совершенное действие не может появиться раньше его интерпретации средой. А воздействие на среду не может появиться раньше прохода данных по сети. Я про элементарный акт в RL.
Операции чтения, изменения и записи для "параметров" мозга неразделимы, проходят за единый такт. Мои попытки притянуть сюда RL зашли в тупик.
Парадигма RL звучит только на слух хорошо. Якобы:
Как только попытаться начать её реализовывать с нуля в своих разработках сразу выявляются пара неразрешимых противоречий с биологией.
Нарушается принцип локальности обучения. RL из внешней среды, по специальным каналам (REW, PUN), лезет корректировать параметры узлов и связей.
RL, принципиально, состоит из последовательных шагов. Сначала работает сеть, далее идёт взаимодействие со средой, считаются REW и PUN, через систему обратных связей корректируются параметры сети. Вы такое в биологии видели? Все связи в мозге "прямые" и нет никакого "заворачивания" в обратном направлении! Точнее, допускаю, связи могут быть "обратными", но лишь в ближайшем окружении нейрона.
Тоже пытался делать RL в надежде получить "самый биологичный подход", в итоге отказался от него усилием воли. Ибо тупик. Потратил немеряно времени.
Допустим нейроны обмениваются спайками, и спайк - это не число, хорошо. Спайк - это лишь способ заставить нейрон начать пересчитывать своё внутреннее состояние.
Ну, послали мы сигнал нейрону на пересчёт состояния, а в нейроне-то всё равно числа. Чем оно ближе к мозгу стало, к которому вы апеллируете!?
Ваша претензия к числам как к средству обмена информацией между нейронами основана лишь на слабой "биологичности", а также желание повысить энергоэффективность сети?
Или вы видите в этом какие более глубокие проблемы? Ну, не знаю, например, то что чисел в природе в принципе нет?
В разделе "Вычислительные методы" вы описываете как может быть реализован коннектом в коде.
Насколько я понял, коннектом (граф) будет работать в дискретном времени (тактами), узлы детерминированным образом будут передавать результаты своих вычислений друг другу, структура графа не меняется.
Вы описываете чистую функцию, и то, что параметры этой функции будут меняться между тактами, не делает её "менее чистой". Вы всерьёз считаете, что мозг не хранит состояние между тактами? Что мозг - это чистая функция?
Задаю вам этот вопрос, потому как сам им задавался, пытался запрограммировать, после чего ответил отрицательно. И вот думаю, может, я что-то пропустил?
Попробуйте прогнозирование цены с помощью рекуррентных сетей при условии, что на входе у вас не цена, либо манипуляции с ней. Мне самому не удалось (интересы поменялись) это сделать, но на результаты я бы с удовольствием посмотрел)
Говоря "на входе не цена" я имею в виду, например, разницу между спросом и предложением в стакане к общему объему в стакане. Вам придётся пользоваться тиковыми L2 данными для этого, т.е. самому накопить реальные данные, т.к. просто цены закрытия не подойдут. (Ну или напишите мне, у меня вроде лежит пару месяцев 100 строчных стаканов)
Я, возможно, соглашусь с вами, если вы раскроете, что такое "универсальный оракул". А также какие "формы AGI" вы считаете возможными.
Ваш вопрос про "знания и опыт" устранится сразу после того, как вы начнёте смотреть на процессы в динамике, а не в статике.
Знаком поверхностно. Надо освежить, кстати, спасибо.
Расскажите пжл подробнее об этом
Бесконечный рост сети внутри AGI за бесконечное время работы - так правильнее. Только в этом случае нам потребуются бесконечные ресурсы.
Данные из потока не теряются в процессе преобразования их в структуру. Ничего удивительного, что сеть растёт вообще на "любой чих". Можно пустой поток переложить в структуру. Да и слово "простой" - оно сетью не интерпретируется. Она просто растёт, добавляя на каждый такт новый узел.
Но, вообще, способов де-идеализации много, вы ж понимаете. Я пока не вижу причин это делать. Можно например ограничить связывание нового узла только со своими соседями из некоторой окрестности. Окрестность можно задать с помощью времени или пространства.
Следующая статья тут https://habr.com/ru/post/696384/
Есть ли способ автоматической сборки подобных графов? Если есть, то как он работает и какие данные ему требуются на входе?
Думаю, этот комментарий будет лучшим ответом.
Вопрос не риторический, и на него можно, принципиально, только отрицательно ответить. Вы никогда, ни при каких обстоятельствах, не разработаете способа смоделировать мир настолько, что научитесь прогнозировать исходы "со 100% точностью".
Ок, продолжим в следующей статье) Противоречий в моей "практике" хватает, кстати.
Всегда, хм. Я могу лишь пошутить. Если оно так есть, как вы говорите, то несчастной реальности очень тяжело. Ведь ей приходится каждый раз подстраиваться под очередное правило непротиворечивой математики.
Думаю, имеет смысл говорить о длительности, в течение которой некий способ описать мир, описывает его с заданной точностью.
Разведутся ли двое только что поженившихся? 68%, что да. Вот только нас интересует в формате "да" или "нет". Есть ли такая математика, которая проживет жизнь этих двоих до момента развода или счастливой смерти в один день?
Да, пожалуй вы, правы... Зачем нам полумеры? Давайте так: Реальность (просто) не работает по правилам математики.
Очень уж странно, согласитесь, будет слышать "Математика на 99.65% приблизилась к описанию реальности".
Перефразируйте пжл вопрос. Непонятно, какое противоречие вы хотите им разрешить.
Друзья, ссылки на технические статьи о структурной адаптации можно оставлять под этим комментарием, спасибо)
Напишите тут, пожалуйста, какие книги Эшби (и не только Эшби) почитать про синтез автомата с памятью, выполняющего требуемое преобразование, заданное табличным образом ("вход на выход"). Особенно интересно, чтобы синтез автомата был поточным и осуществлялся за один проход по данным.
Вот тут недавно писали про иерархическое мышление: Структурное мышление...
Вы предлагаете решение - "видеть на мир иерархически". А как учитывается время в иерархии сущностей? Или, иначе, как строятся причинно-следственные отношения между сущностями?