Comments 14
В демке с весами проблема
0 определяется как 8, как 0 определяется фигура ↄ
Я расположил входные сигналы на 1,5,6,10, 11 и программа решила, что это похоже на "4", хотя 11 в четверке не возможна.
пример
Но, надо сказать, что это наглядно демонстрирует насколько сложной может быть настройка коэффициентов и что тестирование нейросетей совсем не тривиальная задача, хотя, казалось бы, это всего лишь математическая функция, которая проецирует одно множество на другое.
Количество подмножеств одного множества вычисляется по формуля 2 в степени n. Получается нам для полного покрытия этой функции понадобится 8192 проверки.
Спасибо за комментарий )
Действительно, в ходе применения вылезают ошибки.
Проверили код, там в цифре "4" на сегменте "11" был коэффициент 1.5, а должно быть -100.
Поправили, стал определять как 3 )
Изображение
Верно. Всего в данном примере возможно 8192 комбинации.
А сети со входом 64х64 тогда проверяют проверками )
Излишне упрощено кмк.
Ps Странный гибрид семисегментника и растра с выпадающими пикселями.
Спасибо. Очень наглядный пример сложности обучения. Развитие будет?
Спасибо за отклик )
Да, развитие будет.
В продолжение готовится статься с описанием логично понятного подбора параметров уже с помощью программного цикла, и с этого переход на простую нейронную сеть )
Читал, что на обученной сети посложнее (несколько слоёв) распределение весов не укладывается ни в какие модели/фигуры и не поддаётся какому-либо обобщению или оптимизации человеческим разумом. То есть не видно никакой закономерности в том как веса размазаны и их распределение может меняться от обучения к обучению (при разном порядке подачи одной и той же обучающей информации).
Действительно, в самих алгоритмах моделей заложено, что им "все равно откуда начинать", движение может начинаться полностью с рандомной комбинации, поэтому коэффициенты на выходе могут быть каждый раз разные. Рекомендуется прогонять модель несколько раз и потом выбирать лучшую. Или входной вектор прогонять по нескольким сохраненным моделям и принимать решение "обобщая".
Можно вытащить и визуализировать веса, но да, чем глубже тем сложнее интерпретировать даже визуализацию.
Как понимаю, дело в том, машина не видит изображение или видео, у нее условно "нули и единицы", и она находит закономерности именно в их расположении. То есть мы выделяем понятные нам ушки, черточки, колесики, а она что-то очень свое. Главное, чтобы результат на выходе был качественным.
Спасибо за проявленный интерес )
Продолжение опубликовано:
https://habr.com/ru/post/686218/
Синаптические веса в нейронных сетях – просто и доступно (Часть 2)