Comments 22
А зачем идентифицировать, если нет разницы? Ну, типа, создали настолько хороший инструмент, что результат работы неотличим для обывателя. Казалось бы, живи да радуйся, пользуйся на здоровье. Не лучше ли кинуть эти же силы на то, чтобы "дошлифовать" своё творение?
Объясните мне, дураку, пожалуйста.
Думается мне, это делают для инвесторов, мол мы тут не только писюны пинаем, а даже какой-то результат выдаем.
За тем, что первое применение всего это добра - от мошенничества до создания фейковых новостей, которые даже за небольшой период своей жизни до разоблачения способны порой натворить дел
Грамотно подготовленный фейковый репортаж может много чего наделать. Для аналогии можно посмотреть на последствия радиопостановки "Война миров" в 1938 году:
Постановку слушали около 6 миллионов человек, и примерно пятая часть из них приняла её за реальные новостные репортажи.
целые семьи баррикадировались с оружием в подвалах своих домов либо спешно собирали вещи, чтобы уехать на запад, многие требовали, чтобы вооружённые силы страны покончили с пришельцами либо раздали оружие всем желающим; были случаи, когда в полицейские участки приходили отряды вооружённых местных жителей, готовых оказать помощь в защите страны от вторжения. Телефоны в тот вечер были перегружены в 5 раз, пробки из Нью-Йорка, Трентона и Филадельфии растянулись почти на 100 км. Нью‑йоркская полиция только за четверть часа получила более двух тысяч вызовов, а в Нью‑Джерси была мобилизована Национальная гвардия и моторизованные пожарные бригады[5]. Часть аудитории оказалась настолько невнимательна, что поверила в нападение немцев. Люди утверждали, что видели молниеобразные залпы пришельцев и чувствовали запах их отравляющих газов. Радиопостановку слушали и на Западном побережье. В её кульминационный момент вышла из строя электростанция городка Конкрет в штате Вашингтон; жители Конкрета не сомневались, что линии электропередачи уничтожены наступающими марсианами.
Адольф Гитлер упомянул панику после «Войны миров» как пример упадка демократической системы.
Прежде чем обвинять их в тупости, добавим факты: Первое, в английском слово aliens обозначает и инопланетян и иностранцев. Если бы кто-то кроме коммунистов в те дни решил напасть на Америку, их бы так и называли. А война в Европе уже началась.
Второе: это было не чтение книги "Война миров" а выдуманный репортаж с поля сражения от первого лица, неотличимый от военных сводок первой мировой. Я дословный текст не читал, но если там не было слишком большого акцента на космическом происхождении нападавших, то просто новости сказали, что на страну напали.
На страну напали непойми кто, и люди, не дожидаясь приказов о мобилизации, сбежались с оружием к городским центрам готовиться защищаться. Ну вот как есть - упадок.
Здесь скорее важен другой факт: 2 чувака за пару часов с помощью радиоволн и лжи устроили экшон с участием нескольких миллионов человек, сами того особо не желая. В таком случае что могут сделать 100 целенаправленно мотивированных людей-профессионалов с помощью лучшей нейросети? Какой движ они смогут запустить?
Только вот это ложь. Именно та постановка не сыграла ни с кем злую шутку, но вот уже другая, от аргентинцев(поправьте если ошибаюсь) - буквально сделала бум, т.к ведущий и организаторы совершили тупость, прервав настоящий эфир новостей. А та постановка от американской радиостанции, которую кстати слушало довольно мало людей, никакого фурора не произвела, данная выдержка с википедии была буквально скопированна с газет, т.к в то время радио и газеты очень конфликтовали из за чего и произошел обман читателей газет.
Ну и хорошо. После пары громких случаев все научатся не воспринимать видео как железный факт.
Я всегда говорил, что когда нейросети научатся генерировать клубничку, идентичную натуральной, то шантаж с помощью видеозаписей станет невозможным: всегда можно не просто сказать, что это подделка, а нагенерить ещё видео часов на сто, выложить в сети и ищи, где там настоящее.
что-то мне кажется, что даже после добавления механизма распознавания никто особо не кинется, получив видос от мошенников, бежать его распознавать - даже те, кто слышал, что есть такое апи, которое позволяет
За тем, что первое применение всего это добра - от мошенничества до создания фейковых новостей...
Так а это проблема технологии или людей?
Это, по мнению компании, поможет избежать распространения фейков.
Все штуки с ИИ потенциально могут использоваться с мошенниками. Даже рекламы на ютуб с фейковым Илоном Маском, который просит вложить деньги в условный бузкоин. Даже на это ведутся )
Мне, если честно, как-то тревожно от таких новостей
Ха. Час назад видел человека, который по смартфону звонил в службу такси и сделал заказ. И да, в городе есть яндекс такси и прочие.
Многие приучатся?
Все идет к тому, что личное свидетельство как минимум трех человек и аналоговые методы хранения информации снова станут актуальны. Человечество, сколько существует, имеет дело с проблемой лжи и доверия и это никогда не было ерундой- в стародавние времена подлый врун, который из, например, зависти, сказал что там у водопоя нет леопардов, а там они оказались и сьели лучших охотников, ставил все племя под угрозу исчезновения, и потому с такими разбирались быстро. Доверяли, но за провал доверия наказание было огромное.
И не сбежишь - все соседи знают, а от леопардов не отбрехаешься. Сейчас же расслабились.
По моему тут провели тест, верите ли вы, что в презентации ИИ выложили ролики от ИИ.
Иногда вижу ролики сделанные на каком ни будь игровом движке, так там тоже уже надо внимательно приглядываться, что бы понять, что это "фейк", если вообще разберешь. Яркий пример, какой то шутер с видом от бадикам. Куча роликов с природой.
Так что ИИ тут не причем, ИИ только инструмент, тоже самое наверное если постараться можно сделать какими ни будь другими методами, возможно просто трудозатратнее, но все же возможно.
Думаю человеки как то приспособятся со временем. Верить только тому, что исходит из разных источников, а не одного. Я думаю будущее за виртуальными мирами, там вообще все будет на 100% фейк.
Опрос: люди плохо отличают видео, сгенерированные с помощью нейросети Sora, от настоящих