Pull to refresh
183
0
Моржаков Василий @Vasyutka

Пользователь

Send message
Эта интерференция разруливалась с учетом, что есть где-от около 3х десятков нейромедиаторов, уникальное сочетание которых активирует метаботропный рецептор. Я сам не моделировал эту историю, но почему нет. Опять же в этих моделях это не главная фича, как, кстати, и в обычных сверточных сетях никто не задается вопросом, как все эти связи обеспечить
Меньше ядер давали чуть-чуть худший результат.
не следил за комментариями, прошу прощения. Да, все верно. Тут приходится допустить, что существует механизм устойчивого распространения дискретных понятий по зоне мозга (а в моей модели так вовсе и не дискретны), например, основанном на внесинаптических детекторах. Вот, например, тут гипотеза такая модулируется: geektimes.ru/post/214663
стены рисовались raycasting-ом по плоскости пола. Шагаем от камеры для каждой вертикальной линии «в горизонт». Наступаем на стену, смотрим на какую, на какой она дистанции, рисуем вертикальную линию согласно текстуре стены на этом участке. Т.е. стены только raycasting (и то таким, в плоскости), не спрайты
Это не совсем, чтобы воксельная графика. Отрисовка таких ландшафтов очень быстрая. Пускаем луч в плоскости и отрисовываем все от горизонта до камеры (с переменным шагом. ближе — меньше шаг). И так лучей по количеству пикселей по горизонтали. Замечали, что нельзя было голову на бок наклонить? только вверх-вниз. Как раз из-за способа отрисовки.

тоже очень радовала Delta Force первая, не знаю кто еще в то время рассчитывал траекторию пули и надо было оценивать время ее полета при стрельбе из снайперской
Юмор определенно связан с неожиданным (замаскированным) изменением контекста. Это в сторону сильного ИИ же. Как понимать суть шутки и генерировать их в диалоге. Кстати, именно по-этому так ржачно иногда отвечает чат-бот от Яндекса — мимо ожидаемого контекста.
нет, смысл каждой миниколонки легко проверяется декодером, что и было продемонстрировано. Так что не «случайно обучилось». Но да, безусловно, избыточно
Она объясняет механизм памяти в минколонках, которая необходима для запоминания контекстных преобразований. Да и механизмы обобщения, но их всех программировать надо
Конечно, не повод.

Я хотел сказать, что данные нужны такие, которые позволят максимально использовать задумку. на ImageNet, как и на MNIST клином не сошлось

И на самом деле капсульная архитектура может дать проигрыш во многих задачах. Не в этом дело, а в том, что она заставляет задуматься о том, как соотносится организация неокортекса и тех алгоритмов/архитектур, что мы сейчас используем.
Спасибо! Вот жеж и говорю, всем бы пора этим заниматься.
Требовали:
1) ReLu вместо sigmoid
2) свертку пошире 5х5 заменили на две 3х3 -> 3x3
3) лоссы softmax crossentropy, не сразу стали, если я не путаю
4) регрессии для ряда случаев в качестве выхода
5) потом куча разных архитектур для разных задач — там просто гигантский объем работ (тут просто все не перечислить)
6) инженерно — автодифференцирование для кастомных лоссов
7) ResNet
8) автоекнодеры — этого не было изначально
9) инструменты в конце концов! это серьезные программные пакеты, требующие много времени
ну и т.д. и т.п. Огромный объем задач
Вообще «кто первый изобрел» — это тема бесконечных манипуляций. Очень уж много оговорок всегда. Любое «великое изобретение» очевидно уже незадолго до появления для каждого 10го, кто занимается этой темой. А после появления — вообще каждый чувствует, что этож было очевидно. И потом всплывет еще десяток работ, уже ранее опубликованных, где «вот про тоже самое». И это нормально
ну я бы поспорил. Сверточные сети ведь как залезли на коня: в какой-то год неожиданно потоптали всех на ImageNet. LeNet лежала готовая и почти без изменений с конца 90х годов. А до этого все сообщество (и мы тоже), пользовались HaarDetector, разными boost-ами пространственных фич, HOG. И рассчитывать, что сверточные сети проработает несколько небольших групп до уровня остальных алгоритмов довольно было оптимистично :). Ну это замкнутая задача в общем: не победить устоявшийся зоопарк алгоритмов без сообщества, не будет сообщества, не победишь весь этот зоопарк. Если идея стоящая — найдутся применения, где решение будет на голову лучше. А сообщество подключится — это нормально
Да, спасибо! Критика корректна, MNIST не хочется публиковать, тем более что результат даже сильно не 99.8 (но вот придется, чтобы зафиксировать, что «другая архитектура вообще работает»). В основном из-за того, что для чистоты эксперимента отказался от сверточных слоев. А тут у Хинтона как-раз и смущает выигрыш в каких-то 4 примера (или даже проигрыш) при том количестве сверточных слоев, которые по сути то играют роль ансамбля сетей в primaryCaps
Чтобы достичь большего в ImageNet нужны дополнительные внешние данные для обучения. Ну например, как одни и те же объекты выглядят с разных сторон. Как эти же объекты могут изменяться (поза, цвет и т.п.). И тогда все получится.

Reinforcement learning — это подход к обучению, так что кажется нет ограничений использовать его и тут.

Другая тут история есть: все-таки учатся капсульные сети порядка на 2 затратней, это накладывает небольшие ограничения на отладку и тестирование на всех подряд задачах. Да и нужно время, чтобы отбросить лишнее, оптимизировать все элементы, из которых состоит архитектура
да, Вы правы. Неокогнитрон, Лекун добавил обратное распросранение к сверточным, функции активации подобрали, набили руку и вот в 2012 уже почти мейнстрим.
Я даже не знаю… теперь наверное цитировать в каждой своей статье это буду в самом начале :). Подписываюсь под каждым словом!
Теперь дело за малым — считать отпечаток, или радужную оболочку глаза, или состав испражнений и преобразовать в вектор. Производить аутентификацию с погрешностью вычитать вектора друг из друга вы уже умеете.
Работали с этими руками — довольно приятное впечатление осталось, да. По поводу не причинить вреди человеку, не знаю как вообще такие можно утверждать, и какой сертификат это гарантирует и кого успокоит. Даже UR3 сходу рукой не остановишь, если что-то пошло не так, не приложив весьма серьезное усилие. Ездят UR руки весьма живо, весят не мало, инструмент «в руке» могут держать весьма опасный. Достаточно безопасны они, когда скорости движения маленькие, но если чешет на полной скорости, то защитный экран будет очень кстати :))

только тех.поддержка немного удивляла. Техподдержку компания передала в какое-то открытое сообщество обучения, которое не реагировало на письма. К счастью, у них довольно неплохие мануалы и обошлось. Может сейчас что-то поменялось.
Отличная статья, спасибо!

Information

Rating
Does not participate
Works in
Date of birth
Registered
Activity