Поэтому я и говорю, что это теоретически возможно. А на практике проблемки. Так же, как это сложно заметить в нейронке, это сложно и реализовать в нейронке. Получится, что для стабильной реакции на "зловредную" последовательность нужно на порядок более мощную нейронку, чем для обычной работы того же алгоритма. Ну и да, обучайте ответственную сетку самостоятельно под своим контролем, тогда уж точно никто зловреда не загонит.
Я не спорю, в будущем увидим, наверное, вариации подобных атак. Просто научная публикация и новость с этим никак не связаны и никак к этому не ведут.
Я вот тоже думал, что журналисты нагнетают, но название оригинальной публикации "EvilModel: Hiding Malware Inside of Neural Network Models". Так что желтушные заголовки уже непосредственно в научных публикациях :)
Нужна внешняя программа, которая зачем-то залезет в бинарные данные нейросети и eval-нет их кусок. А авторы исследования (что самое странное, даже не журналисты) просто хайпуют на том, что в этом куске может быть rm -rf /.
Да, сигнатурные антивирусы не задетектят вредоносный код, спрятанный в мусоре нейросетки. Но, имхо, сигнатурные антивирусы должны мочить программы, которые eval-ят картинки, видео, нейросетки и прочие странные бинарные данные. Потому что задетектить всю стеганографию принципиально невозможная задача — вредонос может использовать произвольно сложный способ чтения полезной нагрузки из бинарника.
Ну а это уже сценарий фантастического рассказа. Ну, то есть, это теоретически возможно, и было бы прикольно найти и заэксплуатировать такую уязвимость.
Но предпосылок для этого никаких нет: исследование именно про то, про что говорит оригинальный комментарий — как 37мб мусора (или любых данных) спрятать в 178мб модели.
Чтобы нейронная сетка, которая труднопредсказуемо вообще в целом работает, вдруг начала "выполнять" условный оператор от входных данных и следом детерминированный зловредный код — это на порядок другого уровня задачка.
На самом деле, в своём приложении довольно сложно отломать поддержку кнопочной навигации. Если ты используешь стандартные кликабельные вьюхи, они будут работать с кнопками и по ним можно будет ползать-нажимать.
Проблемы со всеми жестами и мультитачем, да, тут ничего не поделаешь.
Но базовая навигация/управление должны работать в большинстве ап, если только кто-то не приложил колоссальные усилия по их поломке.
Хех, ну это важная инфа. Я бы даже сказал, стоило эти ссылки разместить в этой публикации, чтобы можно было проверить их содержание (что именно там исследовали и какие результаты получились).
Я исходил из содержимого статьи + всех указанных в ней ссылок.
Ну да, в доказательной медицине доказывают именно эффективность препарата.
Иначе изобретатель фуфломицина будет бегать "а докажите что не эффективен от ковида", "а теперь докажите что не эффективен от рака".
Препарат с недоказанной эффективностью — это неизвестно что, которое может привести к негативным последствиям как от самого препарата (тут вероятность снижена, т.к. сам препарат одобрен к применению), так и от отказа обращаться в больничку.
Да, всяким плоскоземельщикам просто вешают плашку "антинаучная хрень", но не удаляют видео.
Тут удалили. Но я понимаю действия ютюба, им не хочется потом в конгрессе сидеть и блеять в ответ на вопросы "почему из-за вашего ролика на 40 миллионов просмотров люди померли".
P.S. Опасность таких видосов можно легко увидеть по фону тут в комментариях. Люди готовы поверить чуваку потому что он "жертва цензуры" и "убедительно говорит", без каких-либо ссылок на рецензированные статьи, клинические испытания.
"Что-то выкатил в опенсорс" и "что-то реализовал так же, как сделано в replit", да.
Но это не означает, что эти два "что-то" совпадают. В оригинале статьи этого тоже не заявляется.
Мелкая контора обанкротится и закроется за 3 года с вероятностью под 90%.
А тех, кто наоборот станет успешным, скупят гиганты и закроют их старые проекты (собственно, по сценарию этой статьи, люди-то покупали SmartThings, а не Samsung).
Тут пока не будет открытого стандарта, используемого и поддерживаемого большим количеством крупных и мелких производителей (как условный USB или Bluetooth), будет это всё бесполезной игрушкой.
Срок службы нормального ремонта в доме 10-50 лет. Срок службы типичной железяки-девайса — 2-3 года. Сразу понятно, что это друг с другом не совместимо.
Думаю, да. Судя по текстам на сайте, изначальная идея сайта была "ты знаменитость и хочешь монетизировать своих подписчиков взамен на чуть более частые/персональные посты в соцсети".
Оказалось, что знаменитостям это не надо, а вот у любительской обнажёнки "зашло".
Потому что Half Life 3, со всем, что от него ожидалось, только с другим названием, уже год как выпущен.
Даже название, насколько я помню, не использовали в основном потому, что выпускать именно "Half Life 3" было бы уже слишком издевательски.
Шок! Новость! В Bluetooth всё ещё не пролазит lossless.
Кто-то ожидал чего-то иного?
А вот за что Apple "спасибо", это что они убрали аналоговый аудиовыход. И теперь сомнительный ЦАП запихивают в штекер кабеля Lightning — 3,5 мм и получают "качество ниже ожидаемого". А если не хочешь переплачивать за кабели Apple, то ЦАП получается ещё более сомнительный и качество ещё более ниже ожидаемого.
На маке с M1 правда какая-то магия с оперативкой работает. Я лично сейчас с него печатаю (с восьмигигового), в браузере у меня зачем-то 300 вкладок, и за другими открытыми приложениями можно не следить вообще. В том числе видео монтировал, ничего не закрывая.
Программировать на нём не пробовал, к сожалению, про этот опыт рассказать не могу.
Но изучите обзоры/сравнения, 8 гигов там очень хорошо работают по многозадачности, на удивление. При том, что на windows-десктопах мне 16 гигов некомфортно, у меня на обоих по 32.
Интересно было бы прочитать, что в Apple в ToSах написано про апы, переданные через эту transfer app функциональность.
Вдруг правда подразумевается, что вы несёте ответственность за того, кому передаёте?
В любом случае, абсолютно мерзотное поведение со стороны их команды модераторов, обвинять человека в том, за что он не может отвечать.
Эту статью бы на хороший английский, кратко и ясно, убрав лишний авторский стиль, и раструбить по реддиту, например. Оттуда её могут подхватить в новостях и может удастся получить более качественный комментарий ситуации от Apple.
Откуда массовые комментарии о передаче приложений не через Apple, если в статье явно написано, что передача была через официальную функциональность transfer app?
Это статья обновилась с уточнением, или её просто никто не читает?
А как вы умудрились перевести "самый большой и детализированный Space Shuttle от лего на данное время" как "Lego анонсировала выпуск самого большого и детализированного набора"?
Поэтому я и говорю, что это теоретически возможно. А на практике проблемки. Так же, как это сложно заметить в нейронке, это сложно и реализовать в нейронке. Получится, что для стабильной реакции на "зловредную" последовательность нужно на порядок более мощную нейронку, чем для обычной работы того же алгоритма. Ну и да, обучайте ответственную сетку самостоятельно под своим контролем, тогда уж точно никто зловреда не загонит.
Я не спорю, в будущем увидим, наверное, вариации подобных атак. Просто научная публикация и новость с этим никак не связаны и никак к этому не ведут.
Я вот тоже думал, что журналисты нагнетают, но название оригинальной публикации "EvilModel: Hiding Malware Inside of Neural Network Models". Так что желтушные заголовки уже непосредственно в научных публикациях :)
Нужна внешняя программа, которая зачем-то залезет в бинарные данные нейросети и eval-нет их кусок. А авторы исследования (что самое странное, даже не журналисты) просто хайпуют на том, что в этом куске может быть rm -rf /.
Да, сигнатурные антивирусы не задетектят вредоносный код, спрятанный в мусоре нейросетки. Но, имхо, сигнатурные антивирусы должны мочить программы, которые eval-ят картинки, видео, нейросетки и прочие странные бинарные данные. Потому что задетектить всю стеганографию принципиально невозможная задача — вредонос может использовать произвольно сложный способ чтения полезной нагрузки из бинарника.
Ну а это уже сценарий фантастического рассказа. Ну, то есть, это теоретически возможно, и было бы прикольно найти и заэксплуатировать такую уязвимость.
Но предпосылок для этого никаких нет: исследование именно про то, про что говорит оригинальный комментарий — как 37мб мусора (или любых данных) спрятать в 178мб модели.
Чтобы нейронная сетка, которая труднопредсказуемо вообще в целом работает, вдруг начала "выполнять" условный оператор от входных данных и следом детерминированный зловредный код — это на порядок другого уровня задачка.
Там оно тоже последует, просто цикл обратной связи на изменение спроса — 2 года.
Получается, и геймпады всякие тоже будут показывать 100% до самой смерти?
Это не то что бы критично, но это будет очень бесить при использовании в играх.
Видимо, падение это большой штраф и поэтому "шаркает" в ситуациях, когда не уверен в равновесии.
На самом деле, в своём приложении довольно сложно отломать поддержку кнопочной навигации. Если ты используешь стандартные кликабельные вьюхи, они будут работать с кнопками и по ним можно будет ползать-нажимать.
Проблемы со всеми жестами и мультитачем, да, тут ничего не поделаешь.
Но базовая навигация/управление должны работать в большинстве ап, если только кто-то не приложил колоссальные усилия по их поломке.
Хех, ну это важная инфа. Я бы даже сказал, стоило эти ссылки разместить в этой публикации, чтобы можно было проверить их содержание (что именно там исследовали и какие результаты получились).
Я исходил из содержимого статьи + всех указанных в ней ссылок.
Ну да, в доказательной медицине доказывают именно эффективность препарата.
Иначе изобретатель фуфломицина будет бегать "а докажите что не эффективен от ковида", "а теперь докажите что не эффективен от рака".
Препарат с недоказанной эффективностью — это неизвестно что, которое может привести к негативным последствиям как от самого препарата (тут вероятность снижена, т.к. сам препарат одобрен к применению), так и от отказа обращаться в больничку.
Да, всяким плоскоземельщикам просто вешают плашку "антинаучная хрень", но не удаляют видео.
Тут удалили. Но я понимаю действия ютюба, им не хочется потом в конгрессе сидеть и блеять в ответ на вопросы "почему из-за вашего ролика на 40 миллионов просмотров люди померли".
P.S. Опасность таких видосов можно легко увидеть по фону тут в комментариях. Люди готовы поверить чуваку потому что он "жертва цензуры" и "убедительно говорит", без каких-либо ссылок на рецензированные статьи, клинические испытания.
"Что-то выкатил в опенсорс" и "что-то реализовал так же, как сделано в replit", да.
Но это не означает, что эти два "что-то" совпадают. В оригинале статьи этого тоже не заявляется.
Мелкая контора обанкротится и закроется за 3 года с вероятностью под 90%.
А тех, кто наоборот станет успешным, скупят гиганты и закроют их старые проекты (собственно, по сценарию этой статьи, люди-то покупали SmartThings, а не Samsung).
Тут пока не будет открытого стандарта, используемого и поддерживаемого большим количеством крупных и мелких производителей (как условный USB или Bluetooth), будет это всё бесполезной игрушкой.
Срок службы нормального ремонта в доме 10-50 лет. Срок службы типичной железяки-девайса — 2-3 года. Сразу понятно, что это друг с другом не совместимо.
Думаю, да. Судя по текстам на сайте, изначальная идея сайта была "ты знаменитость и хочешь монетизировать своих подписчиков взамен на чуть более частые/персональные посты в соцсети".
Оказалось, что знаменитостям это не надо, а вот у любительской обнажёнки "зашло".
Потому что Half Life 3, со всем, что от него ожидалось, только с другим названием, уже год как выпущен.
Даже название, насколько я помню, не использовали в основном потому, что выпускать именно "Half Life 3" было бы уже слишком издевательски.
Шок! Новость! В Bluetooth всё ещё не пролазит lossless.
Кто-то ожидал чего-то иного?
А вот за что Apple "спасибо", это что они убрали аналоговый аудиовыход. И теперь сомнительный ЦАП запихивают в штекер кабеля Lightning — 3,5 мм и получают "качество ниже ожидаемого". А если не хочешь переплачивать за кабели Apple, то ЦАП получается ещё более сомнительный и качество ещё более ниже ожидаемого.
На маке с M1 правда какая-то магия с оперативкой работает. Я лично сейчас с него печатаю (с восьмигигового), в браузере у меня зачем-то 300 вкладок, и за другими открытыми приложениями можно не следить вообще. В том числе видео монтировал, ничего не закрывая.
Программировать на нём не пробовал, к сожалению, про этот опыт рассказать не могу.
Но изучите обзоры/сравнения, 8 гигов там очень хорошо работают по многозадачности, на удивление. При том, что на windows-десктопах мне 16 гигов некомфортно, у меня на обоих по 32.
То ли комментарий намекает, что Иисус был первым копирайтером, то ли это всё очень странное совпадение в цифрах.
Интересно было бы прочитать, что в Apple в ToSах написано про апы, переданные через эту transfer app функциональность.
Вдруг правда подразумевается, что вы несёте ответственность за того, кому передаёте?
В любом случае, абсолютно мерзотное поведение со стороны их команды модераторов, обвинять человека в том, за что он не может отвечать.
Эту статью бы на хороший английский, кратко и ясно, убрав лишний авторский стиль, и раструбить по реддиту, например. Оттуда её могут подхватить в новостях и может удастся получить более качественный комментарий ситуации от Apple.
Откуда массовые комментарии о передаче приложений не через Apple, если в статье явно написано, что передача была через официальную функциональность transfer app?
Это статья обновилась с уточнением, или её просто никто не читает?
А как вы умудрились перевести "самый большой и детализированный Space Shuttle от лего на данное время" как "Lego анонсировала выпуск самого большого и детализированного набора"?
Ваш заголовок — полный бред и кликбейт.