Здесь рассматриваться пример полносвязной сети (когда каждый нейрон на предыдущем слое передает результат во ВСЕ нейроны следующего слоя).
Варианта передачи, по сути, может быть ТОЛЬКО ДВА. Они показаны на 2х последних рисунках.
Что касается "сужения/расширения канала" при обратном распространении. Если я правильно понял.... то это отдельные оптимизации. Можно рандомно "выключить" часть нейронных связей между слоями. В представленном коде "фреймворка" этих фич нет.
Эта централизация/децентрализация достигается за счет структуры самой сети.
Статья не об этом.
Спасибо )
Отвечу просто .... Возврат устроен также.
Здесь рассматриваться пример полносвязной сети (когда каждый нейрон на предыдущем слое передает результат во ВСЕ нейроны следующего слоя).
Варианта передачи, по сути, может быть ТОЛЬКО ДВА. Они показаны на 2х последних рисунках.
Что касается "сужения/расширения канала" при обратном распространении. Если я правильно понял.... то это отдельные оптимизации. Можно рандомно "выключить" часть нейронных связей между слоями. В представленном коде "фреймворка" этих фич нет.