Comments 19
Спасибо, самое понятное изложение CNN, что я видел. Планируются рассмотрение других вещей из области глубинного обучения? Обычно все циклы статей начинаются и заканчиваются на CNN, а читая новости про современный DL только диву даешься.
Да как бы на самом деле ничего революционного и грандиозного за последние годы в нейронных сетях — не было. Все эти методы и структуры были известны уже давно, вот только популярными они стали в последние годы.
А чему кстати вы диву даетесь в новостях про машинное обучение?
А чему кстати вы диву даетесь в новостях про машинное обучение?
Некоторое время назад читал тут одну статью, в которой очень бегло были рассмотрены современные архитектуры и решения deep neural networks, кто что придумал и как оно помогало улучшать различные аспекты, щас уже не смогу найти ссылку. И (лично для меня, полного профана в этом деле) между банальным CNN и всякими накрученными схемами — пропасть.
>Да как бы на самом деле ничего революционного и грандиозного за последние годы в нейронных сетях — не было
Ну а как же ResNet, Batch normalization и прочие веселые штуки?
Ну а как же ResNet, Batch normalization и прочие веселые штуки?
К слову, для тех, кто желает проверить всю глубину своих знаний в машинном обучении, да и просто попрактиковаться — вот только начавшееся соревнование где надо рыбу по фотографиям классифицировать:
https://www.kaggle.com/c/the-nature-conservancy-fisheries-monitoring
Тем не менее, посмотрим, что происходит с количеством параметров (весов) в такой модели, когда ей на вход поступают необработанные данные. Например, CIFAR-10 содержит 32 x 32 x 3 цветных изображений, и если мы будем считать каждый канал каждого пикселя независимым входным параметром для MLP, каждый нейрон в первом скрытом слое добавляет к модели около 3000 новых параметров!
Это ведь перевод? Потому что по русски — это неправильно.
CIFAR-10 содержит 32 x 32 x 3 пикселей в каждом изображении, в котором 32 и 32 это высота, ширина, а тройка — количество каналов (RGB).
Это ведь перевод? Потому что по русски — это неправильно.
CIFAR-10 содержит 32 x 32 x 3 пикселей в каждом изображении, в котором 32 и 32 это высота, ширина, а тройка — количество каналов (RGB).
(так называемое ядро свертки), построенная таким образом, что графически кодирует какой-либо признак
Почему-то во всех статьях по CNN пропускают описание создания «ядер» свертки, а это не совсем очевидный момент. Как я понял, одним из вариантов создания «ядер» свертки является использование автоэнкодера.
Почему-то во всех статьях по CNN пропускают описание создания «ядер» свертки, а это не совсем очевидный момент. Как я понял, одним из вариантов создания «ядер» свертки является использование автоэнкодера.
Эм, а разве ядро не создается в процессе обучения? Ну в смысле отдельно обучать автоэнкодер не обязательно же.
Да, обучать отдельно не обязательно. Но при обучении многослойных нейронных сетей методом обратного распространения ошибки возникает проблема затухания градиента.
UFO just landed and posted this here
Претензия к первоисточнику:
имхо, распарсить эту кривую фразу можно только заранее понимая что там нарисовано. На нижней части выделение контура с помощью фильтра (ядра) типа Собеля. Для верхней, схематичной части иллюстрации автор зачем-то взял другое ядро, хотя можно было бы взять ядро подходящее для выделения контура, например:
На рисунках ниже схематически изображена вышеуказанная формула, а также представлен результат применения операции свертки (с двумя разными ядрами) к изображению с целью выделить контуры объекта.
имхо, распарсить эту кривую фразу можно только заранее понимая что там нарисовано. На нижней части выделение контура с помощью фильтра (ядра) типа Собеля. Для верхней, схематичной части иллюстрации автор зачем-то взял другое ядро, хотя можно было бы взять ядро подходящее для выделения контура, например:
1 0 1
0-4 0
1 0 1
Sign up to leave a comment.
Глубокое обучение для новичков: распознаем изображения с помощью сверточных сетей