Комментарии к публикации «Насколько неуязвим искусственный интеллект?»

23.11.2020 13:00:57 SmartEngines

SmartEngines — Mon, 23 Nov 2020 13:00:57 GMT

Да, в какой-то мере это является следствием растрового формата. Тем не менее, в векторе или же при предобратке картинок/звуков/чего угодно чем-то проблема, вероятно, сохранится.

23.11.2020 13:00:28 SmartEngines

SmartEngines — Mon, 23 Nov 2020 13:00:28 GMT

Нет, и вряд ли будет, так как сети будут обучать дальше, увидят ваши свежие «отравленные» фото и тогду уже и на них обучат. К тому же, вот вы, допустим, на все свои фото добавили какой-то триггер (например, штамп на лбу), мешающий классификации, а другой человек такой же триггер добавил лишь на часть своих фото, и вот уже сеть знает, что триггер не важен.

23.11.2020 12:59:46 SmartEngines

SmartEngines — Mon, 23 Nov 2020 12:59:46 GMT

Про зашумленность, если она бывает, автомат знать должен, иначе обучающая выборка у вас была нерепрезентативная. Понимание окружающего мира, вероятно, необходимо для человека (хотя не факт, спросите нескольких знакомых, что нынче творится в мире и вряд ли услышите одинаковые ответы), но точно не обязательно в искусственном интеллекте, направленном на решение конкретной задачи.

21.11.2020 09:49:19 JumpinCarrot

JumpinCarrot — Sat, 21 Nov 2020 09:49:19 GMT

А не является ли данная проблема следствием растрового формата изображений? Ведь, по сути, нейронной сети дают на вход массив пикселей, а она должна сама «разобраться» что там где. Может быть было бы более целесообразно переводить изображения в вектор? Или поместить на входе еще одну нейронку, которая занималась бы поиском форм и контуров.

20.11.2020 16:20:33 teology

teology — Fri, 20 Nov 2020 16:20:33 GMT

Ребята, это пример poison data для человека. Подкат не могу сделать.

19.11.2020 08:06:59 2gusia

2gusia — Thu, 19 Nov 2020 08:06:59 GMT

Автору спасибо. Но у меня пришла мысль с другой стороны — а есть какой-то сервис, позволяющий отравлять собственные частные фотографии? Например, закидываемые во всякие соцсети. Где автор не хотел бы, чтоб их использовали в для тренировки нейросетей — но ведь будут.

19.11.2020 07:58:29 Ivanii

Ivanii — Thu, 19 Nov 2020 07:58:29 GMT

Безусловно, это самообучающийся автомат притом даже без понятия о «зашумленности» и интеллекта нету совсем, да и невозможен интеллект без понимания окружающего мира.

19.11.2020 05:06:12 Arty_Fact

Arty_Fact — Thu, 19 Nov 2020 05:06:12 GMT

Лучше сразу обратно на Пикабу убрать.

18.11.2020 19:04:48 fireSparrow

fireSparrow — Wed, 18 Nov 2020 19:04:48 GMT

Пожалуйста, уберите под кат.

18.11.2020 18:47:30 SmartEngines

SmartEngines — Wed, 18 Nov 2020 18:47:30 GMT

Условно, Вы, конечно, правы. Все нейросети можно, в целом, представить как многослойный перцептрон, и многие из них используются для обработки самых разных сигналов, в том числе, изображений.

Вот только все широко используемые методы машинного обучения — это детерминированные от входа функции, и для всех них используются ограниченные выборки, а значит, перечисленные атаки опасным для них всех. Дело лишь в простоте подбора и очевидности таких атак.

18.11.2020 17:43:18 teology

teology — Wed, 18 Nov 2020 17:43:18 GMT

Отравленные данные для человека:

18.11.2020 17:18:43 v1000

v1000 — Wed, 18 Nov 2020 17:18:43 GMT

Возможно, потому что название «искусственный интеллект» в данном случае это скорее красивое маркетинговое название перцептрона. Поэтому и ошибки там больше похожи на ошибки анализатора изображения, а не интеллекта.