Если предположить, что описанное в статье соответствует биологии, то нейронная сеть муравья состоит из малого числа нейронов и хитрой связи между ними. То есть он преднастроен на строительство муравейников и прочее инстинктивное поведение. А нейронная сеть высших животных содержит большее количество нейронов, так что даже при схожем количестве связей у каждого, получается намного гибче. Но это все равно количественная разница, а не качественная.
«правильной» веткой можно считать адекватную реакцию на воздействие. Если «предсказание» говорит, что предмет горячий и не ошибается, «правильная» ветка отработает быстрее. Если же «предсказание» ошибется — сигнал пойдет не по настроенному пути и потребует более детального анализа. Для живых организмов это полезно, но для автоматики — зачем?
получается, что без механизма опережающего возбуждения (в широкой интерпретации) в нейросетях тяжеловато обратится к предыдущему опыту?
Отчего же? Вся работа нейросети это обращение к предыдущему опыту, она по-другому не умеет. Про описанный вами механизм «сигнал мышцам + блокировка» я не слышал. Не считая сна, естественно.
Вы, очевидно, веткой ошиблись. Я не утверждал что хранение этих констант дает какое-то преимущество, я лишь упомянул что соглашение avr-gcc предполагает хранение нуля в r1. И это имеет смысл, хотя регистр они выбрали неудачный. Запись нуля в порт, сложение с переносом, сравнения и т.п. используются довольно часто.
На счет mul и работы с флешом — возможно, посчитали что это достаточно редкие операции и дешевле потратить лишний такт на обнуление, чем лишний регистр. Других вариантов, почему они не взяли хотя бы r2 у меня нет.
А вот зачем автор предлагает хранить где-то единицу — неизвестно.
Сразу скажу что я не биолог, так что выводы будут из простейших соображений.
Насколько я понимаю, механизм опережающего возбуждения похож на предсказание ветвлений в современных процессорах. То есть предварительная подготовка «медленного» блока к заранее предсказанным данным, чтобы ему осталось только уточнить детали. И причина появления такого механизма вполне понятна: «медленный» блок на то и медленный, его надо как-то ускорить. В живой природе от скорости реакции будет зависеть выживаемость, но эта скорость ограничена в первую очередь скоростью биохимии, которая по сравнению с техникой крайне низка. Поэтому и приходится придумывать разнообразные хаки и костыли вроде реконструкции изображения с глаза (на этом основаны обманы зрения). В технике же проблема пока не со скоростью обработки информации, а с точностью и предсказуемостью. То есть и так никто не знает как работает конкретная нейронная сеть. К каким результатам приведет изменение веса конкретного нейрона. А вы предлагаете встраивать еще и механизм предсказания.
Впрочем, именно в силу обучения сети, подобный механизм прекрасно возникнет и сам, если среди требований будет скорость.
Но все же, где гарантия, что даже имея в наличии большие вычислительные мощности, мы не застрянем на уровне «насекомых»
Это тоже будет существенным шагом вперед. А там, глядишь, и новые знания получим.
хотя бы на уровне птиц
Ничего себе «хотя бы». А чего не «хотя бы» у человека? Поведение птиц не менее разнообразное, чем у млекопитающих, а структура мозга, где-то слышал, даже более оптимальная (меньше вес при той же вычислительной мощности). Нет, если уж с чего и начинать, то именно с простейших беспозвоночных.
Среди идей, которые стоит «украсть» у природы, я вижу, например, механизм «опережающего возбуждения»
Костыли-то зачем воровать? Это в природе важнейшие ограничения на скорость реакции и скорость обмена импульсами в нейронах. В технике же скорость передачи сигнала на много порядков выше, а приоритете скорее в точности.
Именно у PAM2803 опорное напряжение встроенное и не выведено наружу. То есть можно, конечно, поставить цифровой потенциометр, но лучше действительно поискать готовое решение с человеческим управлением.
Есть риск поплавить соседнюю пластмассу или сдуть мелочевку.
Я ж не говорю что фен — зло, не пользуйтесь им. Я предложил альтернативный вариант, вдруг кому пригодится.
Интересная штука, может и пригодится, только надо будет поискать помощнее, у меня 10 Вт диод, ему 2А маловато.
Но как ее применить в описанном в статье фонарике, где автор хочет регулировать яркость?
К тому же отпаять Атмегу не так просто — нужна паяльная станция с феном.
Можно рискнуть с лезвием бритвы если место позволяет. Оно делается из нержавейки и не смачивается припоем, так что можно прогреть одну сторону, проталкивая лезвие между ножками и платой. Хотя, конечно, есть риск погнуть или даже отломать ножки. Я так пытался выпаять STM32L151 в 64-ногом корпусе, по результатам даже статью сюда написал. Если вкратце — вот там ножки слишком дохлые для таких экспериментов. А на Мегах риск намного меньше. Хотя феном, конечно, лучше.
Основные причины — цена и надежность. Специализированная микросхема в любом случае будет дешевле контроллера общего назначения. Помимо этого, ей не нужна часть обвязки, которую встраивают прямо в кристалл.
И надежность у нее будет выше: там нет нужды в какой-либо прошивке, то есть ничего не зависнет. Меньше элементов, как на кристалле, так и на плате — тоже меньше шансов что один из них выйдет из строя
Если я иду по улице с телефоном и проводными наушниками, я постоянно цепляюсь ими за одежду и распутываю лапшу
Странный подход. Что сложного пропустить провод под одеждой. И болтаться не будет, и вынуть уши никакой проблемы. Пока не нужны пусть себе болтаются или лежат в нугрудном кармане. Проблемы с лапшой возникают только если наушники долго лежат в кармане, а если складываются только на хранение, то путаться им и не с чего.
Причем я говорю исключительно из личного опыта: постоянно слушаю с телефона через обычные проводные наушники. Когда они не нужны — вытаскиваю, не останавливая воспроизведение, и пусть болтаются. Следить за аккумулятором было бы куда утомительнее.
а еще намного чаще меняю сами наушники, потому что у меня обычно ломаются именно провода
Опять не вижу проблемы раз в полгода купить за 100 р новые наушники либо перепаять провод. Для справки, косичка из МГТФ куда надежнее штатного и не ломается.
Если я работаю за ноутом от батареи, мне все равно придется снимать наушники из ушей, сматывать провод и убирать его в карман, чтобы перенести ноут с места на место — теряется мобильность
Вот это единственный реальный недостаток. Но так ли часто нужно таскать ноут с воспроизводящимся там звуком? Лично мне — нет.
Отчего же? Вся работа нейросети это обращение к предыдущему опыту, она по-другому не умеет. Про описанный вами механизм «сигнал мышцам + блокировка» я не слышал. Не считая сна, естественно.
На счет mul и работы с флешом — возможно, посчитали что это достаточно редкие операции и дешевле потратить лишний такт на обнуление, чем лишний регистр. Других вариантов, почему они не взяли хотя бы r2 у меня нет.
А вот зачем автор предлагает хранить где-то единицу — неизвестно.
Насколько я понимаю, механизм опережающего возбуждения похож на предсказание ветвлений в современных процессорах. То есть предварительная подготовка «медленного» блока к заранее предсказанным данным, чтобы ему осталось только уточнить детали. И причина появления такого механизма вполне понятна: «медленный» блок на то и медленный, его надо как-то ускорить. В живой природе от скорости реакции будет зависеть выживаемость, но эта скорость ограничена в первую очередь скоростью биохимии, которая по сравнению с техникой крайне низка. Поэтому и приходится придумывать разнообразные хаки и костыли вроде реконструкции изображения с глаза (на этом основаны обманы зрения). В технике же проблема пока не со скоростью обработки информации, а с точностью и предсказуемостью. То есть и так никто не знает как работает конкретная нейронная сеть. К каким результатам приведет изменение веса конкретного нейрона. А вы предлагаете встраивать еще и механизм предсказания.
Впрочем, именно в силу обучения сети, подобный механизм прекрасно возникнет и сам, если среди требований будет скорость.
Ничего себе «хотя бы». А чего не «хотя бы» у человека? Поведение птиц не менее разнообразное, чем у млекопитающих, а структура мозга, где-то слышал, даже более оптимальная (меньше вес при той же вычислительной мощности). Нет, если уж с чего и начинать, то именно с простейших беспозвоночных.
Костыли-то зачем воровать? Это в природе важнейшие ограничения на скорость реакции и скорость обмена импульсами в нейронах. В технике же скорость передачи сигнала на много порядков выше, а приоритете скорее в точности.
Я ж не говорю что фен — зло, не пользуйтесь им. Я предложил альтернативный вариант, вдруг кому пригодится.
Но как ее применить в описанном в статье фонарике, где автор хочет регулировать яркость?
И надежность у нее будет выше: там нет нужды в какой-либо прошивке, то есть ничего не зависнет. Меньше элементов, как на кристалле, так и на плате — тоже меньше шансов что один из них выйдет из строя
Странный подход. Что сложного пропустить провод под одеждой. И болтаться не будет, и вынуть уши никакой проблемы. Пока не нужны пусть себе болтаются или лежат в нугрудном кармане. Проблемы с лапшой возникают только если наушники долго лежат в кармане, а если складываются только на хранение, то путаться им и не с чего.
Причем я говорю исключительно из личного опыта: постоянно слушаю с телефона через обычные проводные наушники. Когда они не нужны — вытаскиваю, не останавливая воспроизведение, и пусть болтаются. Следить за аккумулятором было бы куда утомительнее.
Опять не вижу проблемы раз в полгода купить за 100 р новые наушники либо перепаять провод. Для справки, косичка из МГТФ куда надежнее штатного и не ломается.
Вот это единственный реальный недостаток. Но так ли часто нужно таскать ноут с воспроизводящимся там звуком? Лично мне — нет.