А зачем там карточки? Достаточно просто клеточных автоматов с парой правил. Из начальной точки пускаете волну, по фронту которой переориентируются пустые клетки. В итоге формируется векторное поле и короткий путь в нём. Я не изучал код, но, судя по описанию, уверен, что вы записали правила этого автомата в своём «карточном» формате.
Когда память постоянно перезаписывается на новые нейроны, то не нужен перенос РНК. Это как если подключить к компу новый диск, и затем все открываемые со старых дисков файлы (в обычном рабочем режиме), автоматом копировались бы на новый. По сути у нас распределённое хранение информации.
Память периодически перезаписывается. Поэтому, если речь о сохранении воспоминаний у человека, то на мой взгляд достаточно будет замены утраченных нейронов новыми. Этот процесс и так идёт естественным путём, только он очень слаб.
Удивительно, но мне после этой статьи и доклада Балабана (https://www.youtube.com/watch?v=LjFQCDAr0Jk) пришла аналогичная идея.
Думаю, что синапс имеет только два устойчивых состояния: необученный синапс с небольшим плавающим весом и обученный с постоянным максимальным весом. То есть, «есть контакт с конкретным пресинаптическим нейроном или нет».
А идентификаторами нейронов служат их уникальные медиаторные коктейли их терминалей. Если нейрон будет способен запомнить в своей цитоплазме эти ID-коктейли, то сможет потом восстанавливать оборванные связи, идя «по запаху» медиаторов, разлитых в межклеточном пространстве спиловером (как они это делают при рождении).
Этим же можно объяснить почему при постоянной перестройке связей память не теряется годами. А при реконсолидации стирается. Для этого нужно, чтобы память являлась просто набором связей между нейронами с бинарным значениям: есть связь между этой парой нейронов или нет.
UPD. Пробежался по книгам Амосова. Пару из них стоит прочитать. Но это всё RL. И на мой взгляд его идеи должны ещё полежать лет десять минимум, так как модули (восприятия), из которых предполагается строить схему поведения агента, ещё не созданы.
Конечно. Графы по связности зон коры есть в каждой второй работе, начиная с изобретения томографа. В чём их практическая польза в построении ИИ? Подобный граф есть в CPU (из АЛУ, регистров, кешей, ядер и т.д.), но он не даёт решения как узнавать котиков и решать математические задачи. Такой эксперимент даже реально недавно проводили. Слишком высокий уровень абстракции.
Очень пространное описание нечто похожего на так называемую «модель малого мира», которой сейчас описывают коннектом.
Всю статью можно свести к одному абзацу. Это однослойная полносвязная нейронная сеть/граф (здесь не важно, что под нейроном понимается большая группа из реальных нейронов) с двумя отдельными линиями связи, возбуждающей и тормозящей. В сети действует латеральное торможение для выявления победителей. Всё.
Это описание взаимодействия зон мозга в целом — архитектура. Этакие маршрутные карты, в которых записано какими областями в какой последовательности обрабатывать те или иные задачи. То, что биологи видят на томограммах у испытуемых, когда те смотрят котиков или решают математические задачи.
Спустя пять лет с прошлого своего поста пришёл к тем же самым взглядам, что и Джеймс Смит. Только одних пространственных паттернов стало недостаточно для кодирования образов, необходимо оценивать пространственно-временную картину. Хорошо, что сейчас не требуется всё выводить самостоятельно, так как Смит три года назад выпустил отличную объёмную работу «Space-Time Computing with Temporal Neural Networks».
Мы знаем, что от одного рецетора идет одно нервное окончание и каждый рецептор способен передавать информацию о силе воздействия. Это доказывает, что передается float
Представление выхода в виде флоата справедливо только для рецептора, а не нейрона. Рецепторы всех видов «кодируют» силу воздействия на них плотностью импульсов в единицу времени или плавающим потенциалом на мембране. Но нейрон это не рецептор. И как он кодирует информацию вопрос открытый.
скважность импульса и задает значение флоат. Но это не совсем так.
Это один из первых методов кодирования, которым сто лет назад пытались объяснить работу нейрона. Но нет, выход нейрона всё же не ШИМ, дочитывайте вики.
Некропост для путников, кто как и я, забредут сюда — «в места глухие, откуда еще никто RET не делал».
У меня есть объяснение следующему:
Что же мы видим в этот момент, когда регистрируем активность нейронов у него в мозге? Из тех нейронов, что были специализированы относительно первоначального нажатия на старую педаль выделилась группа нейронов, которые активны также и при нажатии на новую педаль, однако не все. При этом добавились ранее не активные нейроны, которые теперь активны при нажатии на новую педаль.
Таким образом, когда кролик нажимает на какую-то педаль, то активны нейроны ФС, ответственной за конкретную педаль, и ФС, ответственной за нажатие на педаль вообще.
Ровно ту же самую картину наблюдаю в своей модели. Но там нет никакого процесса разделения/пачкования ФС. Оно только так выглядит как будто оно есть. Дело в том, что опыт нажатия на левую педаль отображается в конкретный нейронный кластер. Из-за особенности формирования кластеров опыт нажатия на правую педаль отобразится на другой конкретный кластер, и у него будет частичное перекрытие в нейронах с первым кластером.
Перекрытие кластеров — это результат того, что в обоих случаях фигурирует нажатие на педаль. А отличие правая или левая педаль даёт различие по составу соответствующих кластеров.
И да, область пересечения кластеров можно назвать «ответственной за нажатие на педаль вообще». Это, так сказать, обобщение.
нейронов, что были специализированы
Нет в этом процессе «специализации» нейронов. Насколько сейчас известно (относительно недавно), один и тот же опыт у животных отображается в один и тот же кластер. Просто так получилось из-за случайности сформированных связей.
Не интересовался ранее «древними» моделями и, как теперь оказывается, переизобрёл их нейрон полтора года назад. Мне в голову не приходило, что это было такой фундаментальной вещью в прошлом, тем более, что эта примитивная модель у меня — только начало. И обучение в неё встраивается как у живого нейрона. Эх, если бы у них были современные компы, да погоняли бы они 70 лет назад сеть из таких нейронов, а не один единственный с десятком входов. На таком мелком масштабе ничего интересного там не разглядишь. Не туда они пошли в своих исследованиях из-за невозможности пощупать сеть.
Этим психологам правда не пришло в голову, что центр с входящими в него сигналами от центра распознавания речи и зрительными сигналами из небольшой центральной области, эволюция создала для лучшего/быстрого обучению речи, как опора голосу движение губ? Естественно, что этот центр будет также реагировать и на буквы/иероглифы.
Это очень близко к нейрону. Фактически — это прото-мотонейрон. Внешний кальций смещает мембранный потенциал клетки, и после некоторого порога запускает в ней реакцию. Плюс в статье говорится, что клетка генерирует электрический сигнал. И так же как у нейронов (и любых клеток) там работают ионные насосы для восстановления мембранного потенциала.
Первое касание к чувствительным волоскам мухоловки дает старт механизму высвобождения ионов кальция до определенного уровня. Если в течение 30 секунд будет еще одно прикосновение, концентрация кальция достигнет критического уровня, после чего сработает ловушка. Если через полминуты ничего не произойдет — концентрация кальция начнет снижаться. Можно сказать, что мухоловка «запоминает» события на 30 секунд.
Обычный пороговый элемент, в который порционно приходит сигнал, и есть его «утечка». Аналог — компаратор с интегрирующей цепочкой на входе, с потерей заряда конденсатором за ~60 секунд.
Думаю, что синапс имеет только два устойчивых состояния: необученный синапс с небольшим плавающим весом и обученный с постоянным максимальным весом. То есть, «есть контакт с конкретным пресинаптическим нейроном или нет».
А идентификаторами нейронов служат их уникальные медиаторные коктейли их терминалей. Если нейрон будет способен запомнить в своей цитоплазме эти ID-коктейли, то сможет потом восстанавливать оборванные связи, идя «по запаху» медиаторов, разлитых в межклеточном пространстве спиловером (как они это делают при рождении).
Этим же можно объяснить почему при постоянной перестройке связей память не теряется годами. А при реконсолидации стирается. Для этого нужно, чтобы память являлась просто набором связей между нейронами с бинарным значениям: есть связь между этой парой нейронов или нет.
Очень пространное описание нечто похожего на так называемую «модель малого мира», которой сейчас описывают коннектом.
Всю статью можно свести к одному абзацу. Это однослойная полносвязная нейронная сеть/граф (здесь не важно, что под нейроном понимается большая группа из реальных нейронов) с двумя отдельными линиями связи, возбуждающей и тормозящей. В сети действует латеральное торможение для выявления победителей. Всё.
Это описание взаимодействия зон мозга в целом — архитектура. Этакие маршрутные карты, в которых записано какими областями в какой последовательности обрабатывать те или иные задачи. То, что биологи видят на томограммах у испытуемых, когда те смотрят котиков или решают математические задачи.
youtu.be/B8xzhEOwg0c?t=1850
А сама мРНК, теперь известно, — это ключевой элемент для долговременной перестройки синапса.
www.youtube.com/watch?v=LjFQCDAr0Jk (второй доклад)
У меня есть объяснение следующему:
Ровно ту же самую картину наблюдаю в своей модели. Но там нет никакого процесса разделения/пачкования ФС. Оно только так выглядит как будто оно есть. Дело в том, что опыт нажатия на левую педаль отображается в конкретный нейронный кластер. Из-за особенности формирования кластеров опыт нажатия на правую педаль отобразится на другой конкретный кластер, и у него будет частичное перекрытие в нейронах с первым кластером.
Перекрытие кластеров — это результат того, что в обоих случаях фигурирует нажатие на педаль. А отличие правая или левая педаль даёт различие по составу соответствующих кластеров.
И да, область пересечения кластеров можно назвать «ответственной за нажатие на педаль вообще». Это, так сказать, обобщение.
Нет в этом процессе «специализации» нейронов. Насколько сейчас известно (относительно недавно), один и тот же опыт у животных отображается в один и тот же кластер. Просто так получилось из-за случайности сформированных связей.