Пожалуйста)
Советую ознакомиться с материалами. Пересчитывать всё не нужно, там предлагают смотреть и оценивать окрестность примера. Но как оно выйдет на самом деле — самому интересно, лучше изучите первоисточник :)
На конференции ICLR 2018 была представлена статья Characterizing Adversarial Subspaces Using Local Intrinsic Dimensionality (https://arxiv.org/abs/1801.02613) предлагающая некий универсальный способ защиты классифицирующих нейросетей от adversarial примеров. Суть в том, что синтетически сгенерированный adversarial пример, как правило, получается очень спицифичный и, если расположить все обычные примеры в некотором пространстве, то adversarial будут легко отличимы от обычных за счёт того, что они будут находится далеко от кластеров обычных примеров.
Обзор этой статьи хорошо сделал Семён Козлов на Новосибирском ods meetup'е https://youtu.be/snXJmvDXkuY?t=34m52s
А что, если они настолько хорошо разложили пиво, что покупатели стали брать его чаще и как следствие — весь сопутствующий товар стали брать чаще? Тогда пик не сместится
Пожалуйста)
Советую ознакомиться с материалами. Пересчитывать всё не нужно, там предлагают смотреть и оценивать окрестность примера. Но как оно выйдет на самом деле — самому интересно, лучше изучите первоисточник :)
На конференции ICLR 2018 была представлена статья Characterizing Adversarial Subspaces Using Local Intrinsic Dimensionality (https://arxiv.org/abs/1801.02613) предлагающая некий универсальный способ защиты классифицирующих нейросетей от adversarial примеров. Суть в том, что синтетически сгенерированный adversarial пример, как правило, получается очень спицифичный и, если расположить все обычные примеры в некотором пространстве, то adversarial будут легко отличимы от обычных за счёт того, что они будут находится далеко от кластеров обычных примеров.
Обзор этой статьи хорошо сделал Семён Козлов на Новосибирском ods meetup'е https://youtu.be/snXJmvDXkuY?t=34m52s
А что, если они настолько хорошо разложили пиво, что покупатели стали брать его чаще и как следствие — весь сопутствующий товар стали брать чаще? Тогда пик не сместится