Комментарии 1
Нейросети, хоть и выдают отличные и превосходящие другие экспертные системы ответы, как правило не предоставляют информацию или алгоритм того, каким образом они этот ответ получили, и являются неким подобием чёрного ящика.
Поэтому важным направлением работы современных исследователей является внесение ясности в работу нейросетей, и визуализация того как они находят решение: habr.com/ru/post/401687
Очень интересно, что здесь нашли применение и формальные методы.
Формальная верификация является отличной альтернативой полному перебору:
она хорошо справляется с астрономическим числом комбинаций входных и выходных данных, при этом ничего не упуская и предоставляя всё то же 100% покрытие всех вариантов.
Хоть формальная верификация и используется уже несколько десятков лет, но её применение в областях, связанных с синтезом алгоритмов и машинным обучением, является ещё очень новым и свежим направлением.
Поэтому важным направлением работы современных исследователей является внесение ясности в работу нейросетей, и визуализация того как они находят решение: habr.com/ru/post/401687
Очень интересно, что здесь нашли применение и формальные методы.
Формальная верификация является отличной альтернативой полному перебору:
она хорошо справляется с астрономическим числом комбинаций входных и выходных данных, при этом ничего не упуская и предоставляя всё то же 100% покрытие всех вариантов.
Хоть формальная верификация и используется уже несколько десятков лет, но её применение в областях, связанных с синтезом алгоритмов и машинным обучением, является ещё очень новым и свежим направлением.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Создание надёжного и проверяемого ИИ: соответствие спецификациям, надёжное обучение и формальная верификация