Как стать автором
Обновить

Комментарии 21

«Мозг – огромная загадка. Создаётся общее впечатление, что, если мы раскроем некоторые из его принципов, это может оказаться полезным для ИИ» — вот этим они все и сказали про себя. Они все — в глубоком заду :)
Перспективный подход: fornit.ru/40830
В подобных изысканиях всегда любопытно следующее. Мозг — это миллиарды клеток. Разных клеток. Сложных клеток. В каждой (!) из которых копия ДНК. Другими словами, это в некотором смысле аналогично огромному кластеру из компьютеров, на каждый из которых скопирована огромная библиотека ПО. Аналогия конечно притянута за уши, но тем не менее было бы странно, если бы природа не использовала все возможности такого кластера. За миллиарды лет в геноме вполне можно было выработать кучу специализированных эффективных алгоритмов обучения и конфигурировать сеть локально под задачу. Собственно и анатомия мозга на это как бы намекает. Вроде бы ничего не говорит в пользу существования «верховного алгоритма», но его упорно продолжают искать.

Кроме того, почему-то принято считать, что обучение — это чуть ли не главная функция мозга. Этот акцент кажется взятым с потолка. У животных обучение не так важно. Почти весь «функционал» прошит в геноме. А человеческая обучаемость объясняется в первом приближении очень просто — информация перестала влезать в ДНК. И природа «решила» выращивать носитель этой информации в рамках мозга (а где еще?). Одного носителя недостаточно, еще надо как-то туда информацию перекидывать из поколения в поколение. Вот вам и обучение. Возможно мы просто «жирное программное обеспечение», а обучение — это банальный костыль :)

А ведь так оно и работает — ни одна МЛ-модель не функциональна без обвязки из обычного ПО, которое представляет ей данные и интерфейс.

было бы странно, если бы природа не использовала все возможности такого кластера
Как раз наоборот — чем больше погружаешься в биологию, тем больше фигеешь от расточительности, нелогичности, неэффективности и бездарности «природы». Любой организм, начиная прямо с ДНК, насквозь пропитан случайностью, везением и «легаси». БАМ! — и мутация даёт тысячи вариантов, один из которых просто оказывается самым живучим, даже если отягощён совершенно ненужным мусором в генах. Природа не пользуется «всеми возможностями» — она слепо тычет палкой в код. Триллионами палок в триллионы кодов. И устраивает батл. «Бог не играет в кости». А природа — постоянно.
Не совсем так. В природе не только усложнение (с накоплением мусора), но и упрощение идет. Часть организмов упрощаются, уменьшается, теряет геном, доводя себя до совершенства, под свою нишу. Там всё сложно, и по врякому.

Природа не пользуется «всеми возможностями» — она слепо тычет палкой в код.
Ну и такое утверждение кажется намекает на восхваление человека. Природа мол слепа, а человек зряч. А человек то тоже тыкает. И 99,9999% чего натыкал тоже чушь. Это просто оптимизация. Совершенно нормальный метод.

Те кто работал с методами Монте-Карло хорошо это чувствуют. Так, тряской, вообще все идет. Молекулы, движутся, кристаллы растут, эволюция, вообще почти все кругом.
Природа мол слепа, а человек зряч. А человек то тоже тыкает.
Человек, например, придумал генную инженерию. И стал целенаправленно изменять свойства организмов в нужном направлении. До этого он занимался тем же, чем и природа — сначала тупой селекцией из того, что само получилось, а потом чуть более эффективным методом — не ждал милости, а бахал по организмам мутагенами сам, чем увеличивал разнообразие.
Так что, на самом деле, есть за что похвалить.
6 миллиардов тыкали палкой, один что-то придумал (а скорее, удачно тыкнул в нужное место) и рассказал другим. В этом наша сила, — мы по эволюционным меркам мгновенно закрепляем во всей популяции что-то случайно найденное полезное.
Как раз наоборот — чем больше погружаешься в биологию, тем больше фигеешь от расточительности, нелогичности, неэффективности и бездарности «природы».

Примеры?
Да хотя бы Ричарда Докинза почитайте/послушайте/посмотрите. Из того, что вспомнил у него — строение глаза и всякие «легаси» типа возвратного гортанного нерва:
image
— у жирафа он больше 4 метров, хотя достаточно было нескольких сантиметров — напрямую из мозга к гортани протянуться, а не петлять по шее туда-обратно.

Да чего там Докинз — в школе на биологии про атавизмы и рудименты каждый школьник слышал.
Вы можете спроектировать лучше? Вы уверены что это не оптимальное решение с учетом всех ограничений?
Кажется вы упускаете из виду каким способом этот организм строится.

Кроме того, перед природой в данных случаях мог встать классический инженерный выбор: выкинуть все и переделать с нуля, или подпереть костылем.
Что бы выбрали вы? :)
Вы всё-таки с работами Докинза ознакомьтесь. Там есть ответы на эти ваши вопросы. Я лишь могу согласиться с тем, что у природы не было никакого выбора. Это антропоцентричный взгляд. А природа просто следовала обстоятельствам — как у реки нет «выбора» течь направо или налево — она просто течёт туда, где рельефный уклон. И переписать с нуля природа ничего не может. Зато это может человек. И может гораздо эффективнее, чем это сделала природа за миллиарды лет своей эволюции. Как пример — колесо.
Вы всё-таки с работами Докинза ознакомьтесь.

Я с ними знаком уже давно.
И может гораздо эффективнее, чем это сделала природа за миллиарды лет своей эволюции. Как пример — колесо.

Эффективнее для чего? :)
Лазать по деревьям и бегать по пересеченной местности на колесах эффективно? Колесо — это узкоспециализированное приспособление, требующее наличия дорог (желательно ровных). Сомневаюсь, что организм на колесах смог бы конкурировать с другими. Да и вообще сложно себе представить колеса у живого организма. Какие материалы должны использоваться? Насколько это будет надежно?
Собственно, колесо природа уже изобрела. При помощи человека.
Интереснейшая тема. Однако как изложена. До изумления невнятно. Понимаю лишь уже известные мне вещи. Вот знаком с правилом Хебба, примерно понимаю о чем идет речь. Не был бы знаком, не понял бы ни слова.
Ну сколько раз говорить всем этим мечтателям с проводами и процессорами, что в структурах мозга НЕТ никакого интеллекта. Структуры (человеческого) мозга используются в процессе работы интеллекта, но в самих структурах НЕТ самого искомого интеллекта. Это как исследуя микрокод процессора мы никогда не поймем, почему отгрузка деталей на предприятии управлемая специальной программой, которая естественно использует и микрокод процессора, произошла тем или иным способом.
Фантазеров в статье постоянно мечет по всем уровням структуры мозга одновременно. Они не понимают какие есть уровни и что именно на этих уровнях происходят. Ну и самое главное, они не в состоянии ответить на вопросы:
1. Что такое интеллект? Какие задачи он решает?
2. Каких типов бывает интеллект?
3. Чем конкретно интеллект человеческого типа отличается от интеллекта животных (и по какой причине это столь существенно разные интеллекты)?
Иными словами они не в состоянии очертить круг своих исследований.
Вместо этого их занимает вопрос «обучения» собственно построенных недонейросетей по своим фантазиям с помощью «обратного распространения». Не понятно почему упомянутые в статье персонажи свои конструкции из веревок и палок связывают с интеллектом. Также не понятно, почему вместо честного и банального исследования примитивных мозгов насекомых (например состоящих всего из 302 нейронов) которые показывают конкретные результаты и которые частично уже хорошо исследованы, упомянутые в статье персонажи предпочитают исследовать собственные фантазии.
почему вместо честного и банального исследования примитивных мозгов насекомых (например состоящих всего из 302 нейронов) которые показывают конкретные результаты и которые частично уже хорошо исследованы, упомянутые в статье персонажи предпочитают исследовать собственные фантазии.

Потому что исследование нематоды — это как исследование лампового радиоприёмника, в котором на одной лампе может одновременно и гетеродин сидеть и синхронный детектор и усилитель низких частот. И таких комбайнов там каждый из 302-х нейронов. И самое паршивое, что из них не собрать хоть какое-то подобие даже куска хотя бы мушиного «мозга».

Вон Витяев смоделировал, ползает у него этот червяк. И толку? Что насчёт перенести теперь этот опыт на распознавание картинок или игры Атари? Тишина.
Потому что исследование нематоды — это как исследование лампового радиоприёмника, в котором на одной лампе может одновременно и гетеродин сидеть и синхронный детектор и усилитель низких частот. И таких комбайнов там каждый из 302-х нейронов.
Не так. У нематоды функции нейронов более-мение разделены. Как впрочем и у ламп. В любом случае функции лампы в премнике ограничены смесью сигналов на аноде и способами его дальнейшего раделения. Почти также и у нейронов.
И самое паршивое, что из них не собрать хоть какое-то подобие даже куска хотя бы мушиного «мозга».
Вы ошибаетесь. Есть десятки сложных функций нематодного мозга. Есть сотни вопросов к этому мозгу. Снаружи кажется, что нематодный мозг это примитив примитива, но это ошибка. Мозг (как орган моделирования оружающей действительности) развивается в ряду видов как и сами виды — согласно общей модели математического хаоса. Т.е. нижние уровни создают основу следующих уровней. А следующие уровни базируются на достижениях нижних уровней и добавляют что-то свое, ранее отсутствующее. Это одно из основных уравнений жизни. И для движения далее необходимо понять как работает нижний уровень. От нематоды к человеку всего 2-3 крупных шага через уровни. И эти шаги надо выполнить.

Если я все правильно понял, всю информацию можно свести к этому: а) мы думали, что backward propagation биологически невозможна б) а, нет, все-таки возможна.


Каким именно образом она реализуется я до конца не понял, а это и была суть статьи.

выглядит как подход с задней двери: сначала мы сделали свой подход, основанный на чистой математике, а теперь пытаемся «натянуть сову на глобус» и доказать, что природа работает также. На мой взгляд не совсем верно — правильнее было бы всё же «честно» исследовать, как именно там это работает, а уж потом делать выводы о эквивалентности или различии. Иначе так можно залезть в дебри уверенности, что мы всё делаем правильно, и застрять там на некоторое продолжительное время, пока «не придёт какой-нибудь идиот, который не знает, что это не возможно» и не совершит прорыв…
Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.