Недавно начал разбираться с нейронными сетями, не все понял. Получается, что мы для каждого элемента обучающей выборки считаем ошибку, и корректируем веса нейронов каждую итерацию, или каждую эпоху?
Бывают ли ситуации, когда разные элементы обучающей выборки двигают веса в противоположные стороны, и сеть не обучается?
Это еще не самое страшное! У нас бывало, что необходимые микросхемы можно купить только у единственного производителя, но и сам производитель не может назвать цену, т.к. цена зависит от количества заказов! Не от объема нашего заказа, а вообще от количества заказов на заводе! Заказы собираются в течении некоторого времени, а потом запускается конвейер. После заказа приходится ждать 6-9 месяцев до поставки!!! Это реалии сурового российского бизнеса! Микросхемы с приемкой 5, по этому импортом заменить нельзя.
Бывают ли ситуации, когда разные элементы обучающей выборки двигают веса в противоположные стороны, и сеть не обучается?