Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 20
del
Да, роль ветвей нейронов, их геометрическая структура часто недооценивается, и отсюда непонимание ключевых аспектов работы.
Насчет «дендритных спайков» — обязательно надо отметить, что это совсем другие спайки, не те, о которых обычно все знают (т.е. каскадная автоволна с «переворачивающимся» потенциалом мембраны). Тут — спайки волн кальция (ионов ca2+) в клеточном подмембранном пространстве, которые с одной стороны служат передатчиком стимуляции как в данном случае, с обратной — активируют внутриклеточные механизмы (по принципу second messenger). В случае спайковых волн кальция, если смотреть с т.з. потенциала мембраны, если порог нейроспайка не достигнут, это выглядит как волна подпороговой деполяризации, т.е. «недо-спайк») Если порог достигнут — это часто приводит к спайковой очереди (spike burst), т.е. ряда быстрых спайков нейрона.
Вообще связь «обычной» нейроактивности и подмембранной активности кальция очень познавательна. Наблюдается почти прямая аналогия между нейронным и подмембранным уровнем, т.е. внутри клетки имеем нечто вроде сети «нейронов» (очень условно), а в основном сигналы кальция (но и органических молекул тоже) работают как сигналы аналогично спайкам. Причем также имеются кальцевые подпороговые и спайковые сигналы.
Например имеется аналог нейрорецептора NMDAr (по сути комплекс рецепторов), выявляющего корреляцию входящих сигналов. Активация зависит не только от медиаторов, но и уровня деполяризации мембраны. Аналогично, в подмембранной области имеются детекторы коррелированных по времени клеточных сигналов — комплекс из рецепторов белка pip3 и рецепторов кальция (уровень которого постоянно колеблется на подпороговом уровне). При должном совпадении сигналов и преодолении порога уровня кальция, запускается лавинная реакция выделения еще больше кальция (CICR — «calcium-induced calcium release»), близкий аналог нейро-спайка. Более того, NMDAr для функционирования «внутри» использует именно эту систему «внутриклеточного NMDAr».
Роль системы кальция конечно более общая, работает во всех клетках, но принципы очень похожи.
Были еще заметки по тексту, но нет времени писать.
Насчет «дендритных спайков» — обязательно надо отметить, что это совсем другие спайки, не те, о которых обычно все знают (т.е. каскадная автоволна с «переворачивающимся» потенциалом мембраны). Тут — спайки волн кальция (ионов ca2+) в клеточном подмембранном пространстве, которые с одной стороны служат передатчиком стимуляции как в данном случае, с обратной — активируют внутриклеточные механизмы (по принципу second messenger). В случае спайковых волн кальция, если смотреть с т.з. потенциала мембраны, если порог нейроспайка не достигнут, это выглядит как волна подпороговой деполяризации, т.е. «недо-спайк») Если порог достигнут — это часто приводит к спайковой очереди (spike burst), т.е. ряда быстрых спайков нейрона.
Вообще связь «обычной» нейроактивности и подмембранной активности кальция очень познавательна. Наблюдается почти прямая аналогия между нейронным и подмембранным уровнем, т.е. внутри клетки имеем нечто вроде сети «нейронов» (очень условно), а в основном сигналы кальция (но и органических молекул тоже) работают как сигналы аналогично спайкам. Причем также имеются кальцевые подпороговые и спайковые сигналы.
Например имеется аналог нейрорецептора NMDAr (по сути комплекс рецепторов), выявляющего корреляцию входящих сигналов. Активация зависит не только от медиаторов, но и уровня деполяризации мембраны. Аналогично, в подмембранной области имеются детекторы коррелированных по времени клеточных сигналов — комплекс из рецепторов белка pip3 и рецепторов кальция (уровень которого постоянно колеблется на подпороговом уровне). При должном совпадении сигналов и преодолении порога уровня кальция, запускается лавинная реакция выделения еще больше кальция (CICR — «calcium-induced calcium release»), близкий аналог нейро-спайка. Более того, NMDAr для функционирования «внутри» использует именно эту систему «внутриклеточного NMDAr».
Роль системы кальция конечно более общая, работает во всех клетках, но принципы очень похожи.
Были еще заметки по тексту, но нет времени писать.
Просто офигительно )
Относительно выводов: есть некоторая вероятность того, что мозг использует спайковые сети вместо градиентных спусков по той же причине, что и например вывернутая сетчатка глаза — просто так получилось в ходе эволюции. И возможно когда то, например с помощью генетических модификаций, логику работу мозга можно будет оптимизировать.
Статья познавательная. Но возникают разные вопросы (на которые при желании можно поискать ответ в интернете, но раз тут начался разбор данной темы то тут и задаю).
Часть возникших:
— Если правильно понял из предоставленной информации. Нейрон имеет множество сенсоров (дендритное дерево) и один передатчик (аксон). Получается что он передавать информацию может только одному нейрону при этом получая с нескольких?
— Хотелось бы увидеть механизм работы мозга более обобщенно, но целостно. Например от какого-то внешнего события до результата которое оно производит(запоминание, действие и т.д.) Также увидеть путь он кратковременной памяти до долговременной и какие факторы влияют на этот переход.
Вопросов больше. Но для начала хватит.
Часть возникших:
— Если правильно понял из предоставленной информации. Нейрон имеет множество сенсоров (дендритное дерево) и один передатчик (аксон). Получается что он передавать информацию может только одному нейрону при этом получая с нескольких?
— Хотелось бы увидеть механизм работы мозга более обобщенно, но целостно. Например от какого-то внешнего события до результата которое оно производит(запоминание, действие и т.д.) Также увидеть путь он кратковременной памяти до долговременной и какие факторы влияют на этот переход.
Вопросов больше. Но для начала хватит.
Насчет аксона: Аксон намного меньше ветвится и поэтому его рисуют как один отросток. Плюс мозга не получилось бы, если нейрон влиял максимум на один другой нейрон. 
*Он и есть один отросток, просто на конце в зависимости от типа нейрона, есть куча терминалов, к которым присоединены дендриты с множества других нейронов.
Если правильно понял из предоставленной информации. Нейрон имеет множество сенсоров (дендритное дерево) и один передатчик (аксон). Получается что он передавать информацию может только одному нейрону при этом получая с нескольких?Он получает со многих и передает многим, в общем случае. Возьмем, например, гранулярные нейроны мозжечка. Аксон такого нейрона прорастает в слой клеток Пуркинье, там разделяется на две ветки, идущих в разные стороны. Эти ветки аксона пронизывают дендритные деревья кучи клеток Пуркинье и делают с ними синапсы. Не с каждой, конечно, но несколько десятков набирается.
Вот как это выглядит
Хотелось бы увидеть механизм работы мозга более обобщенно, но целостно.
Отвечая на этот вопрос, можно несколько статей написать) Из общих вещей: у нас двухфазная память, состоящая из фазы первичного запоминания и консолидации, происходящей во сне. Еще — в очень раннем детстве у нас невероятно много слабых синапсов, которые затем начинают уничтожаться при обучении. Как из куска скалы отрезается лишнее, и «освобождается» конкретная статуя. Лет до 20ти. Потоками информации внутри мозга, по всей видимости, управляют интернейроны, потому что они тесно связаны с синхронизацией. А вообще, реверс-инижиниринг мозга не завершен. Настолько, что даже сам базовый механизм обучения не ясен. Поэтому био-правдоподобные моделирования не дают красивых практических результатов.
Насчет аксона вам уже ответили, я лишь уточню. К 1 аксону могут «прицепляться» много дендритов. Аксон действительно может ветвится (ветви в этом случае называют коллатерали аксона), и разные ветви могут идти в разные отделы мозга.
По-поводу второго вопроса. Если коротко, то эти проблемы ещё не решены. Более-менее хорошо изучены простые виды поведения (например рефлексы, которые выполняются в спинном мозге или в стволе) или какие-то специфичные случаи. «Обобщенно» работу мозга пока описать нельзя.
Переход из кратковременной памяти в долговременную тоже пока загадка. Наверняка мы можем сказать только о штуках, без которого этого перехода не будет. Например без гиппокампа или определенных видов белков.
По-поводу второго вопроса. Если коротко, то эти проблемы ещё не решены. Более-менее хорошо изучены простые виды поведения (например рефлексы, которые выполняются в спинном мозге или в стволе) или какие-то специфичные случаи. «Обобщенно» работу мозга пока описать нельзя.
Переход из кратковременной памяти в долговременную тоже пока загадка. Наверняка мы можем сказать только о штуках, без которого этого перехода не будет. Например без гиппокампа или определенных видов белков.
Хотелось бы по гиппокампу добавить от себя. У меня имеется гипотеза (уже наверно с полгода), и недавно проскочило очередное небольшое её подтверждение (помимо уже имеющихся).
Гипотеза такая, что нет никаких клеток места, клеток направлений и клеток координат. В гиппокампе находятся одни из немногих самовозбуждающихся, без сенсорного входа, «тикающих» клеток. Гиппокамп по этой теории — хроно-каталог, т.е., он постоянно генерирует связанные друг с другой «таймстампы» всех текущих мыслей / ассоциаций и главным образом — сенсорных входов, и помечает их через большое количество эфферентных (исходящих) волокон, идущих в ассоциативную зону. Создаёт абстрактные последовательности.
Любое текущее состояние «мыши», весь её сенсорный вход, достаточно однозначен для её текущего положения и ориентации в лабиринте. Этот мультимедийный (учитывающий и картинку, и звук, и запах, и ощущение с усиков и лапок) — раскладывается в коре «по полочкам» и автоматически «зашифровывается» в некий очень мощный высокоуровневый ассоциированный со многими областями хэш-код, который непременно включит в себя и «таймстамп» с гиппокампа. Через эти автоматически генерирующиеся «последовательности» в гиппокампе, практически любой сенсорный слепок, который когда-то в него попал, ассоциативно может связаться с любым соседним. Этот сенсорный слепок, проходя через всю кору, «обучает» её на более чёткую фиксацию этой ситуации, и при этом (по идее) должна создаваться и обратная связь (от ассоциативных вниз до почти первичных областей), для того чтобы детали этой сцены могли быть в дальнейшем вызваны / воспроизведены.
У знаменитого Генри Молисона (которому вырезали гиппокамп) фактически исчез этот связующий хроно-каталог. Исчезли все когда-то усвоенные цепочки воспоминаний. Они все развязались, и беспорядочно рассыпались. Он перестал в них ориентироваться и не мог сказать что было за чем. Новым воспоминаниям никакая метка разумеется не давалась, обучение шло, но отвязанное от всего, не формирующее ассоциированную память.
Если считать эту гипотезу справедливой, то логично, что позднее в гиппокампе должны будут обнаружить клетки, отвечающие за определённые места в песнях, стихотворениях, позы в заученных танцах. Правда, для этого очередным нобелевским лауреатам придётся добраться до гиппокампа человека, а не мыши.
Гипотеза такая, что нет никаких клеток места, клеток направлений и клеток координат. В гиппокампе находятся одни из немногих самовозбуждающихся, без сенсорного входа, «тикающих» клеток. Гиппокамп по этой теории — хроно-каталог, т.е., он постоянно генерирует связанные друг с другой «таймстампы» всех текущих мыслей / ассоциаций и главным образом — сенсорных входов, и помечает их через большое количество эфферентных (исходящих) волокон, идущих в ассоциативную зону. Создаёт абстрактные последовательности.
Любое текущее состояние «мыши», весь её сенсорный вход, достаточно однозначен для её текущего положения и ориентации в лабиринте. Этот мультимедийный (учитывающий и картинку, и звук, и запах, и ощущение с усиков и лапок) — раскладывается в коре «по полочкам» и автоматически «зашифровывается» в некий очень мощный высокоуровневый ассоциированный со многими областями хэш-код, который непременно включит в себя и «таймстамп» с гиппокампа. Через эти автоматически генерирующиеся «последовательности» в гиппокампе, практически любой сенсорный слепок, который когда-то в него попал, ассоциативно может связаться с любым соседним. Этот сенсорный слепок, проходя через всю кору, «обучает» её на более чёткую фиксацию этой ситуации, и при этом (по идее) должна создаваться и обратная связь (от ассоциативных вниз до почти первичных областей), для того чтобы детали этой сцены могли быть в дальнейшем вызваны / воспроизведены.
У знаменитого Генри Молисона (которому вырезали гиппокамп) фактически исчез этот связующий хроно-каталог. Исчезли все когда-то усвоенные цепочки воспоминаний. Они все развязались, и беспорядочно рассыпались. Он перестал в них ориентироваться и не мог сказать что было за чем. Новым воспоминаниям никакая метка разумеется не давалась, обучение шло, но отвязанное от всего, не формирующее ассоциированную память.
Если считать эту гипотезу справедливой, то логично, что позднее в гиппокампе должны будут обнаружить клетки, отвечающие за определённые места в песнях, стихотворениях, позы в заученных танцах. Правда, для этого очередным нобелевским лауреатам придётся добраться до гиппокампа человека, а не мыши.
Мне тоже представляется правдоподобным, что клетки места — частный случай чего-то более общего и связанного со временем.
Сюда же в копилку:
Сюда же в копилку:
Recent studies have revealed the existence of hippocampal neurons that fire at successive moments in temporally structured experiences. Several studies have shown that such temporal coding is not attributable to external events, specific behaviours or spatial dimensions of an experience. Instead, these cells represent the flow of time in specific memories and have therefore been dubbed ‘time cells’Nature Reviews Neuroscience(2014)
Мне было очень интерсно, но я много не понял, тк часть терминов до прочтения статьи мне были вообще не известны.
Посоветуйте хорошую книгу для начального уровня по нейросетям.
Посоветуйте хорошую книгу для начального уровня по нейросетям.
Если именно по нейросетям, то для начала Хайкин «Нейронные сети полный курс». Но вообще я бы сначала посоветовал курс по машинному обучению от Andrew Ng на курсере, после него будет куда понятнее.
Этого как раз хватит для того, чтобы вы поняли куда двигаться дальше.
Этого как раз хватит для того, чтобы вы поняли куда двигаться дальше.
ru.coursera.org/learn/machine-learning
Вот этот?
Вот этот?
Это, вроде, довольно старая книга. За последние несколько лет было много прогресса. Я не знаю, переиздавалась ли она. Но это можно проверить — если в книге по нейросетям нет на видном месте, например, LSTM, то, имхо, она не переиздана с учетом последних тенденций.
Про прикладные нейросети уже ответили. А если интересует с нейробиологической точки зрения, то можно Scholarpedia. Это энциклопедический проект Евгения Ижикевича, где статьи по нейробиологии и ее моделированию пишутся/курируются экспертами. В остальном организовано на манер Вики.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Некоторые алгоритмы под капотом мозга