Неокогнитроны, сверточные сети, ассоциативные нейромашины — все говорит в пользу идеи о «системной организации» живого мозга, ибо современные ИНС движутся туда же. Но сдается мне, что для получения ИИ или хотя бы эквивалента мозга млекопитающего придется повторить весь эволюционный путь, иначе говоря нужно постороить сначала МАТРИЦУ эмулирующую живой мир. Разбор мозга на запчасти вряд ли путь, т.к. известный парадокс про емкость данных для самопознания («система не может познать сама себя») практически лишает нас перспектив сконструировать ИИ от начала до конца.
Практические выводы (для построения реальных ИНС) из работы неясны.
Живые нейроны гомеостатичны по одной единственной причине — живому организму нужна энергия, поэтому вся совокупность нейронов равно как и сам организм стремится к её глобальному минимуму. Именно это природа гомеостатичности, она характерна для почти любой клетки, не только нервной. Поэтому надо полагать сам факт гомеостатичности вторичен (в смысле эффективности вычислений) если вообще важен.
В ИНС этот фактор большой роли не сыграет, т.к. неважно в какой именно точке сигмоидальной траектории будет находиться «среднее состояние» нейрона. Это может повлиять лишь на точность вычислений из-за дискретной природы реализации сигмоиды в двоичной машине, но это легко решается повышением разрядности.
Математически введение подобного усовершенствования просто перераспределит веса таким образом, чтобы рабочая точка каждого нейрона по всему массиву выборки стремилась к нулю (для гип. тангенса), что это дает принципиально нового — непонятно. Будет также серьезный провал в скорости обучения из-за «переливания» весов между нейронами.
Плюс в решении конечно тоже возможен: нейрон работающий и выше и ниже нуля имеет более занятную функцию второй производной на рабочем участке, что в целом повышает нелинейность сети при минимальном количестве нейронов, но так уж ли значим такой плюс?
P.S. Добавил комментарий для себя, как заметку, дабы не забыть просто.
А база в Google похоже таки не зря у них лежала. Распознавание речи уже есть и работает. Все-таки сверточные ИНС — реальная сила.
Понятно, что голосовой поиск на Android реализован именно на гигантской семантической базе Google. Но он все-таки работает лучше и точнее, чем любые отдельные системы под персоналки. И, да, сам факт существования голосового поиска во-многом опровергает пессимистический характер статьи.
Довольно уверенно компьютеры учатся делать то, что до их существования умел делать только человек, распознавание речи — сложная задача, но очевидно будет решена с приемлемым качеством, причем надеюсь в ближайшее время.
Спасибо, зацепило. Почитать было более, чем интересно.
Давно было дело, как-то задумывался, а не попробовать ли. Теперь все четко и ясно.
Стенограмма размышлизмов:
Гм-м-м-м, и я так хочу. Разберу-ка на запчасти.
Плюсы: ктн, люблю идеи и значит Google, итого +2.
Минусы: английский — на уровне help-ов, 39 лет, знакомых в Google нет, нафиг гуглу дельфи-программер, в музыкальной группе не заучаствую, и вообще, без собаки, итого -7.
Да ну блин ясно же все без интервьюирования…
Пойду-ка лучше в trayos youtube, что ли допишу. Тоже как бы Google же.
Практические выводы (для построения реальных ИНС) из работы неясны.
Живые нейроны гомеостатичны по одной единственной причине — живому организму нужна энергия, поэтому вся совокупность нейронов равно как и сам организм стремится к её глобальному минимуму. Именно это природа гомеостатичности, она характерна для почти любой клетки, не только нервной. Поэтому надо полагать сам факт гомеостатичности вторичен (в смысле эффективности вычислений) если вообще важен.
В ИНС этот фактор большой роли не сыграет, т.к. неважно в какой именно точке сигмоидальной траектории будет находиться «среднее состояние» нейрона. Это может повлиять лишь на точность вычислений из-за дискретной природы реализации сигмоиды в двоичной машине, но это легко решается повышением разрядности.
Математически введение подобного усовершенствования просто перераспределит веса таким образом, чтобы рабочая точка каждого нейрона по всему массиву выборки стремилась к нулю (для гип. тангенса), что это дает принципиально нового — непонятно. Будет также серьезный провал в скорости обучения из-за «переливания» весов между нейронами.
Плюс в решении конечно тоже возможен: нейрон работающий и выше и ниже нуля имеет более занятную функцию второй производной на рабочем участке, что в целом повышает нелинейность сети при минимальном количестве нейронов, но так уж ли значим такой плюс?
P.S. Добавил комментарий для себя, как заметку, дабы не забыть просто.
Понятно, что голосовой поиск на Android реализован именно на гигантской семантической базе Google. Но он все-таки работает лучше и точнее, чем любые отдельные системы под персоналки. И, да, сам факт существования голосового поиска во-многом опровергает пессимистический характер статьи.
Довольно уверенно компьютеры учатся делать то, что до их существования умел делать только человек, распознавание речи — сложная задача, но очевидно будет решена с приемлемым качеством, причем надеюсь в ближайшее время.
Давно было дело, как-то задумывался, а не попробовать ли. Теперь все четко и ясно.
Стенограмма размышлизмов:
Гм-м-м-м, и я так хочу. Разберу-ка на запчасти.
Плюсы: ктн, люблю идеи и значит Google, итого +2.
Минусы: английский — на уровне help-ов, 39 лет, знакомых в Google нет, нафиг гуглу дельфи-программер, в музыкальной группе не заучаствую, и вообще, без собаки, итого -7.
Да ну блин ясно же все без интервьюирования…
Пойду-ка лучше в trayos youtube, что ли допишу. Тоже как бы Google же.