Как стать автором
Обновить

Состязательные атаки (adversarial attacks) в соревновании Machines Can See 2018

Python *Обработка изображений *Машинное обучение *
Или как я оказался в команде победителей соревнования Machines Can See 2018 adversarial competition.

image
Суть любых состязательных атак на примере.

Так уж получилось, что мне довелось поучаствовать в соревновании Machines Can See 2018. Я присоединился к соревнованию я поздновато (примерно за неделю до окончания), но в конечном итоге оказался в команде из 4 человек, где вклад троих из нас (включая меня) был необходим для победы (убрать одну составляющую — и мы бы оказались в аутсайдерах).

Цель соревнования — изменять лица людей так, что сверточная нейросеть, предоставленная как черный ящик организаторами, не могла различить лицо-источник от лица-цели. Допустимое количество изменений было ограничено SSIM.
Читать дальше →
Всего голосов 32: ↑28 и ↓4 +24
Просмотры 13K
Комментарии 6

Обман нейронной сети для начинающих

Блог компании Digital Security Информационная безопасность *Python *Машинное обучение *

image


В рамках ежегодного контеста ZeroNights HackQuest 2018 участникам предлагалось попробовать силы в целом ряде нетривиальных заданий и конкурсов. Часть одного из них была связана с генерированием adversarial-примера для нейронной сети. В наших статьях мы уже уделяли внимание методам атаки и защиты алгоритмов машинного обучения. В рамках же этой публикации мы разберем пример того, как можно было решить задание с ZeroNights Hackquest при помощи библиотеки foolbox.

Читать дальше →
Всего голосов 25: ↑24 и ↓1 +23
Просмотры 11K
Комментарии 8

Как мы боремся с копированием контента, или первая adversarial attack в проде

Блог компании AvitoTech Программирование *Алгоритмы *Обработка изображений *Машинное обучение *

Привет.


Вы знали, что платформы для размещения объявлений часто копируют контент у конкурентов, чтобы увеличить количество объявлений у себя? Они делают это так: обзванивают продавцов и предлагают им разместиться на своей платформе. А иногда и вовсе копируют объявления без разрешения пользователей. Авито — популярная площадка, и мы часто сталкиваемся с такой недобросовестной конкуренцией. О том, как мы боремся с этим явлением, читайте под катом.


Читать дальше →
Всего голосов 228: ↑216 и ↓12 +204
Просмотры 55K
Комментарии 122

Почему состязательные атаки на системы распознавания образов — это серьёзно

Блог компании Cloud4Y Обработка изображений *Машинное обучение *

Используемая сейчас архитектура разработки ИИ для распознавания изображений имеет серьёзные уязвимости, при эксплуатации которых можно серьёзно запутать компьютер, заставив его выдавать неправильные результаты. Какие существуют проблемы и способы обмана ИИ — в нашем материале.

Читать далее
Всего голосов 21: ↑19 и ↓2 +17
Просмотры 4.9K
Комментарии 5

Технооптимизм. Разбираемся, как киберпреступники могут использовать машинное обучение

Информационная безопасность *Машинное обучение *Искусственный интеллект

Как правило, первое, с чем ассоциируется словосочетание «машинное обучение» (machine learning) — это цифровизация, наращивание темпов производства всего на свете, распознавание речи, умные помощники и прочее. Однако, как и у всех продвинутых технологий, у ML есть две стороны медали. С одной стороны, машинное обучение действительно позволяет (вкупе с развитием вычислительных технологий) шагнуть на новую ступень восприятия реальности. Но с другой стороны, применение этой технологии в информационных системах дает злоумышленникам дополнительный вектор атак, как показано ниже.

Как именно киберпреступники используют ML?
Всего голосов 13: ↑13 и ↓0 +13
Просмотры 2.3K
Комментарии 4

TAPE: первый бенчмарк для few-shot оценки языковых моделей на русском языке

Блог компании SberDevices Машинное обучение *Искусственный интеллект Natural Language Processing *

Мы в SberDevices обучаем и оцениваем языковые модели для русского языка уже давно — так, например, за два года существования бенчмарка Russian SuperGLUE через его систему оценки прошли более 1500 сабмитов. Мы продолжаем разрабатывать инструменты для русского языка и в этой статье расскажем, как создали новый бенчмарк, который:

- опирается на оценку моделей в режимах zero-shot и few-shot; 

- использует новую библиотеку RuTransform для создания состязательных атак и трансформации данных с учётом особенностей русского языка на уровне слов и предложений — библиотека может быть использована как инструмент для аугментации данных;

- позволяет проводить детальный анализ качества модели на подмножествах тестовой выборки с учётом длин примеров, категории целевого класса, а также предметной области.

Читать далее
Всего голосов 27: ↑27 и ↓0 +27
Просмотры 1.7K
Комментарии 1