Прочитал по диагонали исключительно из-за того, что сейчас нет времени. Добавил в закладки — обязательно прочитаю подробно позже, т.к. тема интересна и полезна.
Попробую на днях собрать >4 слойную сетку для своих задач используя RBM.
Кстати автор забыл указать, что при обучении многослойной сети методом обратного распространения ошибки имеет место проблема нехватки точности. Ошибка на исходящем слое в 0.1 при распространении до входного слоя зачастую уменьшается до величин, которые не влияют на изменение весов. То есть если у нас вес в нейроне 0.5 а дошедшее снизу изменение равно 1*10^-12, то точности float уже не хватит чтобы отнять от первого числа второе.
На майлрушной конференции один из докладчиков рекламировал weka — это не про нейронки, но для дата-мининга (кластеризация и т.п.) — тоже может быть интересно.
getbraine, в университете мы использовали NeuroSolutions. Визуализация мне понравилась. Есть стендалон-приложение, есть библиотеки для MatLab и даже для Excel.
Предобучение нейронной сети с использованием ограниченной машины Больцмана