Как ИИ и нейробиология двигают друг друга вперед

[ss-nopol]

«Оказывается эти сигналы мозга очень сложны для понимания»

Во как!

Его надежда, которую разделяют многие исследователи, состоит в том, что можно установить закономерности электрической активности в нейронах, которые управляют движением руки, чтобы затем эти инструкции можно было подать на протез. По сути, это чтение мысли.

Буквально вчера смотрел интервью с Савельевым, где он сказал что снять сигнал с отдельного нейрона пока что невозможно. А сигнал снятый с группы нейронов не поможет в решении этого вопроса.

[fg1]

Не относитесь серьёзно к Савельеву: он типичный science freak.

[ss-nopol]

А по существу есть что-то?

Можно снять отдельный сигнал с нейрона? Или это не нужно для чтения мыслей?

[fg1]

Можно снять отдельный сигнал с нейрона?

Да, можно, но со множеством ограничений. Во-первых, снимать сигналы с отдельных нейронов позволяют сегодня только инвазивные методы (мне известны две группы таких методов: фотохимические и электрические). А во-вторых, ни первая группа методов, ин вторая не позволяет снимать сигналы с большого количества разных близкорасположенных нейронов. И самое главное: такие методы пока еще очень травмоопасны.

Или это не нужно для чтения мыслей?

Зависит от того, насколько детально мы хотим эти мысли разобрать.

[ss-nopol]

Естественно мы хотим детально разобрать мысли и естественно нам нужно понять какие именно сигналы, где и когда проходят в достаточно большой части мозга. Без этого воспроизвести даже маленькую часть мозга не получится. А значит без изобретения соответствующих методик (каких-нибудь микронных томографов), толку не будет.

Иными словами Савельев абсолютно прав. Другое дело, что скорее всего ведутся ещё и тайные разработки (потому что в этом заинтересованы и военные), но нам на Хабре о них не расскажут.

[OneOfUs]

Савельев — фрик. То, что он предлагает, я бы назвал нео-френология — определять будущий род деятельности по форме областей мозга. А тот аппарат, который он предполагает сделать, с микронным сканированием, по сути уже есть и есть у каждого (почти) на кухне — микроволновка. Короткие волны очень хорошо поглощаются тканями, поэтому, чтобы просканировать мозг, нужна высокая энергия, а короткие волны высокой энергии позволят приготовить изысканное блюдо: мозги вареные в собственном черепе.

Савельев — фрик. Ссылки на исследования, которые он предоставляет, ведут на его же статьи, у которых индекс хирша ниже некуда. Причём состоит практически только из цитирования самим Савельевым.

[phenik]

Буквально вчера смотрел интервью с Савельевым, где он сказал что снять сигнал с отдельного нейрона пока что невозможно. А сигнал снятый с группы нейронов не поможет в решении этого вопроса.

Подробности отведения сигналов можно посмотреть в оригинальной статье. Используются микро-электродные массивы. Математическая обработка этих данных позволяет выделить управляющие сигналы. При чем здесь отдельные нейроны? Хотя на отдельных нейронах давно делаются регистрацию активности.

[ss-nopol]

> При чем здесь отдельные нейроны?

Вы предлагаете моделировать нейронную сеть мозга даже не разобравшись какие сигналы и когда передаются между нейронами? Пока мы не получим дамп всех сигналов (или почти всех), которыми обмениваются отдельные нейроны, задействованные в процессе мышления, как мы сможем понять их работу или уж тем более «прочитать мысли»?

Не отдельные сигналы в каких-то контрольных точках, а все сигналы, которые передаются между нейронами участвующими в процессе мышления.

[AntipovSN]

Интересно, почему многие статьи про ИИ и компьютерные нейронные сети обычно скатываются к обсуждению того, как «злой» компьютер сам научится чему-нибудь плохому? Почему обучение нейросетей сравнивают с обучением биологических организмов/человека? Основные принципы и концепции этих двух видов обучения совершенно разные. На данном этапе развития ИИ, люди не придумали ни чего умнее, чем итеративно подбирать коэффициенты нелинейных функций, тем самым минимизируя корреляцию входных и выходных сигналов. В текущий момент ИИ может помочь людям решать определенный пласт задач, используя варварские, архаичные методы, придуманные в середине прошлого века. Даже если считают каждый сигнал с каждого нейрона мозга это сейчас ни как не улучшит текущую ситуацию )) Нужно разрабатывать новые подходы к построению нейросетей, основанных больше на логике, чем на математике…

[phenik]

Интересно, почему многие статьи про ИИ и компьютерные нейронные сети обычно скатываются к обсуждению того, как «злой» компьютер сам научится чему-нибудь плохому?

Видимо, потому что избежать решения вопросов такого плана невозможно, особенно в свете взаимоотношений автономных интеллектуальных систем с человеком, и другими интеллектуальными системами в перспективе, когда они получат широкое распространение. Учтем, что все это будет происходить, как обычно часто в неопределенных условиях, с недостатком информации для принятия точных решений, и поэтому потребует решение морально-этических проблем этих взаимоотношений. Можно конечно назвать их техническими терминами, что-то вроде спецификациями взаимоотношений интеллектуальных систем, но это не меняет сути проблемы. Это уже сейчас видно по бурным обсуждениям правил управления робомобилями.

Почему обучение нейросетей сравнивают с обучением биологических организмов/человека?

Потому что ИНС это технологическая реплика с нейросетей мозга. И эта реплика по мере развития по своим характеристикам все больше приближается к оригиналу. Не забываем также про аппаратные реализации нейросетей — нейрочипы, кот. по своим характеристикам могут быть очень похожими на реальные нейроны.

Нужно разрабатывать новые подходы к построению нейросетей, основанных больше на логике, чем на математике…

Логика возникает потом, когда уже имеются нейросети — биологические или искусственные, кот. используют статистику, для установления закономерностей во входных данных. Если вы о формальной логике, как основе интеллектуальных систем, то она подмножество логики мышления, которое может быть не только абстрактным, но и образным, и не замкнутым относительно практики применения. В силу чего формальная логика не полна, что, собственно говоря, для аксиоматических систем доказывается формально. В силу этого вряд ли она годится в качестве основы для действительно интеллектуальных систем, сравнимых по возможностям с возможностями человека.

[AntipovSN]

То что Вы написали, все конечно верно, но только отчасти. Нынешние ИНС скорее не реплика, а крайне упрощенная модель, как в разрезе строения и функционирования, так и в методах обучения. Например в живом организме имеется такая штука, как ретикулярная формация, которая собственно и порождает все активности «мозга», нервное напряжение. Что может выступать в этой роли в ИНС? Человек, который инициирует процесс обучения?
Есть нейромедиаторы, которые отвечают за передачу электрохимического импульса и их сложно сравнить с весами тензоров, которые сейчас в основном применяются в ИНС. Что может выступать в роли регуляризации нейромедиваторов в ИНС, dropout слои? Про реакции, рефлексы и рефлекторную дугу пока вообще можно и не фантазировать ))
Исходя из этого можно сделать вывод, что в текущем состоянии ИНС это удобный инструмент, для работы с многомерными данными и сами по себе они пока не могут стать вселенским злом, только с подачи человека или в следствии каких либо сбоев или ошибок.

[phenik]

Например в живом организме имеется такая штука, как ретикулярная формация, которая собственно и порождает все активности «мозга», нервное напряжение. Что может выступать в этой роли в ИНС?

Если интересны функции ретикулярной формации, то можно произвести их нейросетовое моделирование, в случае, если традиционные методы исследования не дают ответа на интересующие вопросы. Но нужен ли ее аналог в нейросетевом интеллекте? Вовсе не обязательно повторять все ходы эволюции, которая находила решения методом тыка. Просто нужно понять, что нейросетевой интеллект это следующая надстройка над интеллектом человека. В нем инкорпорируются все знания и опыт полученные на пред. этапах биологической и социальной эволюции, и используются более простые, надежные и оптимальные решения, которые не могла реализовать сама природа. Лучший вариант такого интеллекта для самого человека — индивидуальный, симбиотический, расширяющий возможности самого человека.

Исходя из этого можно сделать вывод, что в текущем состоянии ИНС это удобный инструмент, для работы с многомерными данными и сами по себе они пока не могут стать вселенским злом, только с подачи человека или в следствии каких либо сбоев или ошибок.

Пока да, все находится в зачаточном состоянии. Но если бездумно делегировать ИИ любые распорядительные функции, то можно ожидать что угодно. Именно поэтому он должен быть под контролем человека, включая по морально-этическим вопросам, и симбиотический вариант для этого подходит лучше всего, как кажется) А будущее покажет, как все будет)

[AntipovSN]

Но нужен ли ее аналог в нейросетевом интеллекте?

Нужен, какой-то аналог, для генерации «психической энергии»(так сказать, для любознательности), иначе ИНС останутся не белее чем инструмент, скрипт для выполнения рутинных работ.

Пока да, все находится в зачаточном состоянии. Но если бездумно делегировать ИИ любые распорядительные функции, то можно ожидать что угодно. Именно поэтому он должен быть под контролем человека, включая морально-этическим вопросам, и симбиотический вариант для этого подходит лучше всего, как кажется) А будущее покажет, как все будет)

С этим полностью согласен.