Комментарии 19
Спасибо, самое понятное изложение CNN, что я видел. Планируются рассмотрение других вещей из области глубинного обучения? Обычно все циклы статей начинаются и заканчиваются на CNN, а читая новости про современный DL только диву даешься.
Да как бы на самом деле ничего революционного и грандиозного за последние годы в нейронных сетях — не было. Все эти методы и структуры были известны уже давно, вот только популярными они стали в последние годы.
А чему кстати вы диву даетесь в новостях про машинное обучение?
А чему кстати вы диву даетесь в новостях про машинное обучение?
Некоторое время назад читал тут одну статью, в которой очень бегло были рассмотрены современные архитектуры и решения deep neural networks, кто что придумал и как оно помогало улучшать различные аспекты, щас уже не смогу найти ссылку. И (лично для меня, полного профана в этом деле) между банальным CNN и всякими накрученными схемами — пропасть.
>Да как бы на самом деле ничего революционного и грандиозного за последние годы в нейронных сетях — не было
Ну а как же ResNet, Batch normalization и прочие веселые штуки?
Ну а как же ResNet, Batch normalization и прочие веселые штуки?
К слову, для тех, кто желает проверить всю глубину своих знаний в машинном обучении, да и просто попрактиковаться — вот только начавшееся соревнование где надо рыбу по фотографиям классифицировать:
https://www.kaggle.com/c/the-nature-conservancy-fisheries-monitoring
Тем не менее, посмотрим, что происходит с количеством параметров (весов) в такой модели, когда ей на вход поступают необработанные данные. Например, CIFAR-10 содержит 32 x 32 x 3 цветных изображений, и если мы будем считать каждый канал каждого пикселя независимым входным параметром для MLP, каждый нейрон в первом скрытом слое добавляет к модели около 3000 новых параметров!
Это ведь перевод? Потому что по русски — это неправильно.
CIFAR-10 содержит 32 x 32 x 3 пикселей в каждом изображении, в котором 32 и 32 это высота, ширина, а тройка — количество каналов (RGB).
Это ведь перевод? Потому что по русски — это неправильно.
CIFAR-10 содержит 32 x 32 x 3 пикселей в каждом изображении, в котором 32 и 32 это высота, ширина, а тройка — количество каналов (RGB).
(так называемое ядро свертки), построенная таким образом, что графически кодирует какой-либо признак
Почему-то во всех статьях по CNN пропускают описание создания «ядер» свертки, а это не совсем очевидный момент. Как я понял, одним из вариантов создания «ядер» свертки является использование автоэнкодера.
Почему-то во всех статьях по CNN пропускают описание создания «ядер» свертки, а это не совсем очевидный момент. Как я понял, одним из вариантов создания «ядер» свертки является использование автоэнкодера.
Эм, а разве ядро не создается в процессе обучения? Ну в смысле отдельно обучать автоэнкодер не обязательно же.
Да, обучать отдельно не обязательно. Но при обучении многослойных нейронных сетей методом обратного распространения ошибки возникает проблема затухания градиента.
НЛО прилетело и опубликовало эту надпись здесь
Претензия к первоисточнику:
имхо, распарсить эту кривую фразу можно только заранее понимая что там нарисовано. На нижней части выделение контура с помощью фильтра (ядра) типа Собеля. Для верхней, схематичной части иллюстрации автор зачем-то взял другое ядро, хотя можно было бы взять ядро подходящее для выделения контура, например:
На рисунках ниже схематически изображена вышеуказанная формула, а также представлен результат применения операции свертки (с двумя разными ядрами) к изображению с целью выделить контуры объекта.
имхо, распарсить эту кривую фразу можно только заранее понимая что там нарисовано. На нижней части выделение контура с помощью фильтра (ядра) типа Собеля. Для верхней, схематичной части иллюстрации автор зачем-то взял другое ядро, хотя можно было бы взять ядро подходящее для выделения контура, например:
1 0 1
0-4 0
1 0 1
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Глубокое обучение для новичков: распознаем изображения с помощью сверточных сетей