Там не совсем линейное потребление памяти – если для простого объекта, скажем контура, элемента сложного объекта или похожего на него объекта в мозге уже есть микро сеть для него, то она и запустится, заново обучать другую микро сеть не нужно. Обучать новую микро сеть нужно только если человек видит какой то новый элемент объекта, для которого в мозге ещё нет микро сети. К тому же нейронов в мозге человека миллиарды, возможно хватит для параллельной работы таких маленьких сетей. Да, конечно, у меня к этой проблеме еще и инженерно-алгоритмический подход. Мозг человека и осьминога отличаются, но оба могут решают задачи распознавания. Возможно, здесь важна не только анатомия мозга, но и алгоритмы его работы.
Применение данного подхода к работе самого мозга я сейчас прорабатываю, для меня это очень интересная тема. Возможно подготовлю отдельную статью. Текущую статью я посылал и делал презентацию на European Conference on Computer Vision (ECCV-25) in London, UK, которая проходила в январе, потом опубликовал здесь, на Хабре.
Еще раз большое Вам спасибо за комментарии и ссылки на литературу.
Да, в статье как раз попытка разобраться, как можно избежать использования большого количества изображений объектов при обучении. Если зрительная система способна распознавать какие то объекты с рождения, то распознавание ведь это все равно физический процесс в мозге. Допустим, при рождении в мозге уже есть микро сеть, которая распознает вертикальную линию. Но вертикальные линии могут быть под разными углами и так далее. То есть распознавание разных вариантов ориентации таких линий может идти по алгоритму, описанному в статье, просто исходная микро сеть появилась не в результате обучения данного организма, а уже есть с рождения. Новые же микро сети появятся при обучении распознаванию других объектов в процессе жизни организма.
Про сложность мозга, пока мне кажется, что мозг на нижнем, физическом уровне работает однообразно и параллельно. Вряд ли в мозге для распознавания разных объектов создаются отдельные, специализированные структуры.
Спасибо за Ваши замечания и ссылки на литературу, обязательно почитаю.
Картинка с соединенными нейронами, конечно, условная. В статье описан, с моей точки зрения, не частный случай, а то как может работать такая система на нижнем уровне, на уровне запоминания и распознавания контуров. Нечеткий контур это все же контур и, возможно, такая система сможет его распознать, используя свою инерцию и обобщая детали. Спасибо про замечание о саккадах. Я предполагал направлением движения глаза управляет нейронная сеть и саккады это лишь дополнительный механизм на одном из этапов запоминания. Про множество образов и параллельные процессы – да, я имел в виду, что, возможно, такие небольшие сети работают параллельно и на нижнем уровне распознают записанные в них контуры, то есть основное управление глазом идет от микро сети, а не от саккад. Саккады лишь вносят небольшой элемент случайности при поиске в сети, когда она запоминает контур. Про диффузионный метод, спасибо, почитаю.
Возможно, что человек не может отследить сознательно, как движется глаз, когда он смотрит на образ цифры, но у каждого процесса есть своя динамика. Нам кажется что мы посмотрели на образ и сразу его распознали, но на самом деле это ведь некий процесс, который как-то начинается, происходит, развивается. В этой модели предполагается, что небольшая нейронная сеть управляет глазом так, что он движется по контуру, ведь контур цифры 3 может быть самой разной формы, перевернутым, растянутым, с помехами и т.д. Но тем не менее мозг способен к обобщению, способен распознать внешне разные контуры как цифру 3.
Мне кажется что запоминание и распознавание сложных объектов как процесс состоит из более простых элементов. В статье описаны как раз эти простые элементы – запоминание и распознавание контуров объектов. Возможно что я ошибаюсь, но мне кажется, что в мозге нет сложной обработки данных в нашем обычном понимании, нет сложной координации процессов (ведь тогда для каждого сложного процесса в мозге понадобится физически создавать свой отдельный координатор – а сложных процессов, неограниченное количество). К тому же при сложной обработке одна нейронная сеть должна передавать в другие нейронные сети структурированную информацию, а нейронных сетях-получателях эта информация должна обрабатываться и передаваться дальше. Все это требует синхронизации, дополнительных “проводов” и затрат энергии в мозге. В предложенной модели мозг это более простая и однородная конструкция – маленькие нейронные сети работают параллельно и независимо, сложный распознаваемых образ это их общая одновременная активность. Про мультимодальные LLM, спасибо, почитаю.
Я предполагал что такая система не будет чувствительной к повороту контура и его масштабу, потому что в ней нет как такового понятия геометрии контура – система лишь получает сигнал обратной связи от глаза как подтверждение того, что процесс в ней развивается правильно. Но сама геометрия сети, то есть направление распространения нервных импульсов в ней и геометрия контура могут отличаться. По поводу больших и сложных изображений, в этой модели небольшие сети параллельно распознают каждая свою, малую часть сложного объекта, которая в них записана и за счёт параллельности работы таких сетей компенсируется затрата времени при распознавании сложного изображения. Спасибо за ссылку на статью про "координации", почитаю. На картинке в аннотации я имел ввиду что любое действие животного это проигрывание того, что записано в таких микро сетях.
Так как сложный образ состоит из более простых элементов, то в этой модели предполагается, что маленькие сети будут параллельно распознавать малые части сложного образа, каждая свою часть, а распознанный сложный образ это общая активность таких маленьких сетей.
Возможно у детей в таком возрасте дефицит внимания, им сложно сосредоточиться на чем то одном, поэтому при запоминании им приходится несколько раз показывать одну и ту же цифру, да и при распознавании мозг ребенка может все распознал правильно, но ребенок увидел конфету и уже переключился на неё.
Да, в статье описан механизм так сказать нижнего уровня, на уровне контура цифры, но более сложные образы состоят из простых элементов, из тех же контуров.
Возможно у детей в таком возрасте дефицит внимания, им сложно сосредоточиться на чем то одном, поэтому при запоминании им приходится несколько раз показывать одну и ту же цифру, при распознавании мозг ребенка может все распознал правильно, но ребенок увидел конфету и уже переключился на неё.
Спасибо! Ваши замечания и ссылки на литературу очень ценны для меня.
Там не совсем линейное потребление памяти – если для простого объекта, скажем контура, элемента сложного объекта или похожего на него объекта в мозге уже есть микро сеть для него, то она и запустится, заново обучать другую микро сеть не нужно. Обучать новую микро сеть нужно только если человек видит какой то новый элемент объекта, для которого в мозге ещё нет микро сети. К тому же нейронов в мозге человека миллиарды, возможно хватит для параллельной работы таких маленьких сетей. Да, конечно, у меня к этой проблеме еще и инженерно-алгоритмический подход. Мозг человека и осьминога отличаются, но оба могут решают задачи распознавания. Возможно, здесь важна не только анатомия мозга, но и алгоритмы его работы.
Применение данного подхода к работе самого мозга я сейчас прорабатываю, для меня это очень интересная тема. Возможно подготовлю отдельную статью. Текущую статью я посылал и делал презентацию на European Conference on Computer Vision (ECCV-25) in London, UK, которая проходила в январе, потом опубликовал здесь, на Хабре.
Еще раз большое Вам спасибо за комментарии и ссылки на литературу.
Да, в статье как раз попытка разобраться, как можно избежать использования большого количества изображений объектов при обучении. Если зрительная система способна распознавать какие то объекты с рождения, то распознавание ведь это все равно физический процесс в мозге. Допустим, при рождении в мозге уже есть микро сеть, которая распознает вертикальную линию. Но вертикальные линии могут быть под разными углами и так далее. То есть распознавание разных вариантов ориентации таких линий может идти по алгоритму, описанному в статье, просто исходная микро сеть появилась не в результате обучения данного организма, а уже есть с рождения. Новые же микро сети появятся при обучении распознаванию других объектов в процессе жизни организма.
Про сложность мозга, пока мне кажется, что мозг на нижнем, физическом уровне работает однообразно и параллельно. Вряд ли в мозге для распознавания разных объектов создаются отдельные, специализированные структуры.
Спасибо за Ваши замечания и ссылки на литературу, обязательно почитаю.
да, в статье описано на нижнем уровне, на уровне контуров объектов
Спасибо, почитаю
Картинка с соединенными нейронами, конечно, условная. В статье описан, с моей точки зрения, не частный случай, а то как может работать такая система на нижнем уровне, на уровне запоминания и распознавания контуров. Нечеткий контур это все же контур и, возможно, такая система сможет его распознать, используя свою инерцию и обобщая детали. Спасибо про замечание о саккадах. Я предполагал направлением движения глаза управляет нейронная сеть и саккады это лишь дополнительный механизм на одном из этапов запоминания. Про множество образов и параллельные процессы – да, я имел в виду, что, возможно, такие небольшие сети работают параллельно и на нижнем уровне распознают записанные в них контуры, то есть основное управление глазом идет от микро сети, а не от саккад. Саккады лишь вносят небольшой элемент случайности при поиске в сети, когда она запоминает контур. Про диффузионный метод, спасибо, почитаю.
Возможно, что человек не может отследить сознательно, как движется глаз, когда он смотрит на образ цифры, но у каждого процесса есть своя динамика. Нам кажется что мы посмотрели на образ и сразу его распознали, но на самом деле это ведь некий процесс, который как-то начинается, происходит, развивается. В этой модели предполагается, что небольшая нейронная сеть управляет глазом так, что он движется по контуру, ведь контур цифры 3 может быть самой разной формы, перевернутым, растянутым, с помехами и т.д. Но тем не менее мозг способен к обобщению, способен распознать внешне разные контуры как цифру 3.
Мне кажется что запоминание и распознавание сложных объектов как процесс состоит из более простых элементов. В статье описаны как раз эти простые элементы – запоминание и распознавание контуров объектов. Возможно что я ошибаюсь, но мне кажется, что в мозге нет сложной обработки данных в нашем обычном понимании, нет сложной координации процессов (ведь тогда для каждого сложного процесса в мозге понадобится физически создавать свой отдельный координатор – а сложных процессов, неограниченное количество). К тому же при сложной обработке одна нейронная сеть должна передавать в другие нейронные сети структурированную информацию, а нейронных сетях-получателях эта информация должна обрабатываться и передаваться дальше. Все это требует синхронизации, дополнительных “проводов” и затрат энергии в мозге. В предложенной модели мозг это более простая и однородная конструкция – маленькие нейронные сети работают параллельно и независимо, сложный распознаваемых образ это их общая одновременная активность. Про мультимодальные LLM, спасибо, почитаю.
Я предполагал что такая система не будет чувствительной к повороту контура и его масштабу, потому что в ней нет как такового понятия геометрии контура – система лишь получает сигнал обратной связи от глаза как подтверждение того, что процесс в ней развивается правильно. Но сама геометрия сети, то есть направление распространения нервных импульсов в ней и геометрия контура могут отличаться. По поводу больших и сложных изображений, в этой модели небольшие сети параллельно распознают каждая свою, малую часть сложного объекта, которая в них записана и за счёт параллельности работы таких сетей компенсируется затрата времени при распознавании сложного изображения. Спасибо за ссылку на статью про "координации", почитаю. На картинке в аннотации я имел ввиду что любое действие животного это проигрывание того, что записано в таких микро сетях.
Так как сложный образ состоит из более простых элементов, то в этой модели предполагается, что маленькие сети будут параллельно распознавать малые части сложного образа, каждая свою часть, а распознанный сложный образ это общая активность таких маленьких сетей.
Возможно у детей в таком возрасте дефицит внимания, им сложно сосредоточиться на чем то одном, поэтому при запоминании им приходится несколько раз показывать одну и ту же цифру, да и при распознавании мозг ребенка может все распознал правильно, но ребенок увидел конфету и уже переключился на неё.
Да, в статье описан механизм так сказать нижнего уровня, на уровне контура цифры, но более сложные образы состоят из простых элементов, из тех же контуров.
Возможно у детей в таком возрасте дефицит внимания, им сложно сосредоточиться на чем то одном, поэтому при запоминании им приходится несколько раз показывать одну и ту же цифру, при распознавании мозг ребенка может все распознал правильно, но ребенок увидел конфету и уже переключился на неё.
Спасибо за книгу, обязательно почитаю