Search
Write a publication
Pull to refresh
16
0

Пользователь

Send message

Безопасность ИИ на практике: разбор заданий AI CTF на Positive Hack Days Fest 2

Level of difficultyHard
Reading time38 min
Views1.8K

Чем больше систем работают на основе машинного обучения, тем критичнее становится вопрос их безопасности. Умные технологии всё больше окружают нас, и сложно отрицать важность этой темы. С 2019 года на конференции PHDays мы проводим соревнование по спортивному хакингу AI CTF, нацеленное на атаки систем, построенных на машинном обучении. Соревнование проходит в рамках AI Track — направления с докладами на Positive Hack Days, где эксперты в области информационной безопасности делятся опытом применения машинного обучения как для offensive, так и для defensive задач. В 2023 году мы поэкспериментировали с форматом, создав квест-рум, где участникам нужно было обойти три фактора защиты, чтобы выбраться. Однако, прислушавшись к многочисленным просьбам сообщества, мы решили вернуться к нашему традиционному формату CTF.

Читать далее

Нужна ли будет профессия разработчика через пять лет?

Level of difficultyMedium
Reading time7 min
Views19K

В 2004 году вышел фильм «Я, робот», который оброс мемами. Один из ключевых эпизодов картины — сцена, где робота спрашивают, может ли он написать симфонию или создать какой-либо шедевр. Робот отвечает: «А вы?» Сегодня искусственный интеллект рисует обложки для журналов, сочиняет музыку, пишет книги. Что вообще происходит? Предлагаю обсудить, как изменится деятельность разработчиков ПО в ближайшие годы в связи с широким распространением ИИ.

Читать далее

Риски безопасности ИИ на практике: разбор конкурса AI CTF на PHDays 11

Reading time9 min
Views2.8K

Уже традиционно в рамках PHDays мы организовали AI CTF — соревнование в формате capture the flag, затрагивающее риски безопасности систем ИИ. Что было интересного в этом году, расскажем ниже в посте.

Но сейчас немного истории:

AI CTF 2019: habr.com/ru/company/pt/blog/454206/

AI CTF 2021: habr.com/ru/company/pt/blog/560474/

Читать далее

Сломать ИИ: разбор заданий AI CTF на PHDays 10

Reading time6 min
Views3.7K

Продолжая развивать тему безопасности и рисков AI, в рамках конференции мы собрали трек с докладами и CTF-соревнование для безопасников, затрагивающее риски AI. В этой статье расскажем про соревнование: какие задания были и как все прошло.

AI CTF проходит не первый раз, прошлое описание формата и заданий в прошлой статье.

Читать далее

PHDays 9: разбор заданий AI CTF

Reading time5 min
Views6.8K
Тема безопасности машинного обучения довольно хайповая последнее время и хотелось затронуть именно практическую ее сторону. А тут повод крутой — PHDays, где собираются самые разные специалисты из мира ИБ и есть возможность привлечь внимание к этой теме.

В общем-то мы сделали task-based CTF, с заданиями затрагивающих часть рисков безопасности применения техник машинного обучения.


Безопасность машинного обучения: эффективные методы защиты или новые угрозы?

Reading time13 min
Views13K

Одними из самых популярных и обсуждаемых новостей последние несколько лет являются — кто куда добавил искусственный интеллект и какие хакеры что и где сломали. Соединив эти темы, появляются очень интересные исследования, и на хабре уже было несколько статей посвященных тому, что есть возможность обманывать модели машинного обучения, к примеру: статья про ограничения глубокого обучения, про то как омбанывать нейронные сети. Далее хотелось бы рассмотреть подробней эту тему с точки зрения компьютерной безопасности:


image

Читать дальше →

Information

Rating
2,027-th
Location
Россия
Registered
Activity