Сервис GitHub начал удалять страницы, содержащие код программы DeepNude — приложения на основе искусственного интеллекта, которое «раздевает» женщин на фотографиях.
Фрагменты кода были сгенерированы из копии приложения DeepNude, которое вышло в продажу в прошлом месяце. Материал был помещен в удаленный на текущий момент репозиторий GitHub. Как пишет издание The Verge со ссылкой на Motherboard, представители GitHub пояснили, что приложение нарушает правила в отношении «сексуально непристойного контента». С GitHub были удалены несколько репозиториев, включая тот, что был официально создан разработчиком DeepNude.
DeepNude — приложение, которое использует технологию, аналогичную AI Deepfakes. Несмотря на бешеную популярность приложения, команда разработчиков закрыла его практически сразу после выпуска, заявив, что «вероятность того, что люди злоупотребят его использованием, слишком высока».
Тем не менее, еще на прошлой неделе копии приложения были по-прежнему доступны в интернете, в том числе на GitHub. Команда DeepNude сама загрузила основной алгоритм (но не фактический интерфейс приложения) на платформу. «Обратный инжиниринг приложения уже был на GitHub. Больше не имеет смысла скрывать исходный код, — писали разработчики на ныне удаленной странице. — DeepNude использует интересный метод для решения типичной проблемы ИИ, поэтому он может быть полезен для исследователей и разработчиков, работающих в таких областях, как мода, кино и визуальные эффекты».
В свою очередь, представители GitHub в комментарии для Motherboard заявили, что платформа не проводит профилактический мониторинг контента, созданного пользователями, но активно расследует сообщения о злоупотреблениях. «В этом случае мы отключили проект, поскольку обнаружили, что он нарушает нашу политику допустимого использования», — пояснили в GitHub.
Ранее DeepNude уже вызвало возмущение пользователей Discord, популярной чат-системы, которая запретила продажу и распространение приложения. Как пишет The Register, Discord даже забанил пользователей, которые искали приложение на серверах чата или помогали распространять его.
Разработчики DeepNude не были первыми, кто «раздевал» женщин на фото. На протяжении десятилетий это было возможно благодаря Photoshop и другим сервисам обработки фотографий, однако, в отличие от Photoshop, DeepNude не требует никаких навыков работы с фото. Как утверждает The Verge, удаление кода приложения с платформы GitHub не помешает появлению копий DeepNude в сети, но это может усложнить поиск приложения и его алгоритм.
