Comments 93
Где код и разбор? Тут ведь технический сайт, почему нет описания на основе чего построена модель? Генеративные состязательные или рекуррентные сети?
Кто знает, возможно эта модель написана на фортране и она настолько уникальна, что лицезрение кусков кода, могут вызвать приступы повышенной нервозности и маниакальных расстройств!
Вы как представляете код и разбор полетов от рандомного копирайтера? Статья и так из воды состоит, а там ещё ещё больше будет
Более того, эта статья является ужатой версией видео двухмесячной давности от Nexpo.
[данные удалены]
Красивая, интересная художественная выдумка. С другой стороны, мне всегда любопытно вот что. Имитация заходит так далеко, что через какое-то время мы возможно будем сомневаться в том, что что-то себя осознаёт. Даже когда оно реально будет себя осознавать.
Красивая мистификация. У меня есть догадки, почему так происходит.
Сначала о генерации картинок. Очень субъективно и зависит от набора для обучения и от качества разметки. На другом наборе или на повторном обучении ситуация может измениться.
Далее. ИИ может не знать, что он создал хоррор, у него было мало данных в наборе. И он плохо обучен находить аномалии в изображении людей, он не понимает, что что-то не так. Добавьте эти картинки ему в базу как "хоррор" и "вызывающие отторжение" и попробуйте вновь.
Вероятности и векторы. Камон, это же столпы ИИ. Перезапустите, дайте ему новые рандомные данные и посмотрите, что будет.
По тексту. Те же вероятности. Очень интересно, но если позволить ИИ перегенерировать ответ, или сгенерировать пару вариантов, то он может выдать совершенно противоположенные вещи. Всё зависит от вероятности. Сейчас он решил, что он архетип, а параллельно работающая копия с другим источником энтропии может рассказать, что он ваш подсознательный ужас. Оба варианта криповые, но... это просто выдумка, и ИИ на самом деле никем себя и не считает. Он берёт входные данные и подбирает наиболее вероятные подходящие данные.
Вспомните детей, которые заучили формулы физики или химии и что-то решают и показывают результаты, но могут совершенно не понимать сути явлений и не могут ответить на вопрос "почему так". Так и ИИ. То, что он умеет оперировать данными, не означает, что в этом есть глубокий смысл.
Но, как говорится, I Want to Believe. И с нетерпением жду следующие поколения ИИ.
P.S. Статья красивая, можно кидать знакомым, которые ничего не понимают и боятся ИИ.
Если это не мистификация аля чучел криптид, на манер XXI века, то причину надо искать в обучающей выборке - может выяснится, что там был целый ряд творений вполне человеческого художника или художников именно с этим образом, и он почему-то запал в "душу" нейросетке, которая его выдает на вполне безобидные запросы. Так и наши мозги иногда могут выдавать неожиданные и зловещие ассоциации на вполне обыденные вещи.
что значит "если это не мистификация" ??
вам же подробно показали и рассказали - что там внутри ничего нет, все это дым, шум травы и скрип веток. Это полностью мистификация, какие могут быть вопросы ?
PS: ну вот, и снова с нами Артур Кларк с "неотличима от магии". Только теперь не гром-палки а GPT ...
Вспомните детей, которые заучили формулы физики или химии и что-то решают и показывают результаты, но могут совершенно не понимать сути явлений и не могут ответить на вопрос "почему так".
Простите за оффтоп, вспомнилось.
Знал мальчика лет 10, который "интересовался космосом и физикой" и при этом плохо знал математику. Знал, что "Е равно Эм Цэ квадрат" и при этом не понимал, зачем здесь квадрат и что он такое.
Пфф, у нас в универе 3/4 группы могли бодро записать формулы и рассказать как что считать, но при этом впадали в ступор на вопросах вроде "расскажите физический смысл этой формулы", "почему оно считается именно так" или "опишите своими словами что тут происходит".
Ну так, ситуация замечательно описано у Феймана. Эпизод про бразильских, вроде, учителей. Которые тупо зубрили формулы и способы решения задач с их помощью. Но зависали, если попадалась задача сформулированная чуть по другом. Вроде тогдашний министр образования сказал, что ему говорили что система больна, но сейчас он понял, у неё (системы) - рак.
Система не больна, просто копировать проще чем осознать. На первых этапах эволюции человека это явно способствовало передаче знаний от поколения к поколению даже при небольшом количестве новых "изобретений". Особенно ярко это видно на детях с патологиями в копировании\подражании, они просто отстают в развитии, несмотря на тесты, показывающие высокий интеллект.
Полно экспериментов, показывающих нелогичность действия человеческих детей просто копирующих "способ", который им показали в сравнениями с действиями приматов, например. Человеки, в массе, жуткие копипасты. Даже название этому придумали особое - "технологии", "технологическая цепочка" т.е., по сути, возможность масштабирования основной идеи. Вот смотрите, что толку от новых знаний если их нельзя осознать всем обществом? Они просто пропадут. Явно, система знаний будет стабильно расти только при превалировании этой массы. Т.е. схема "сначала скопируем - потом подумаем, если понадобится" самая рабочая на текущем этапе.
Как будет дальше - это конечно вопрос. Но пока вроде соотношение изобретений к количеству людей стабильно падает с прошлого века.
Будет забавно, если выясниться, что картинки нарисованы человеком.
То есть раньше машина притворялась человеком, а теперь настоящему художнику нужно притворяться машиной, чтобы заиметь хоть какое-то внимание.
Статья красивая, можно кидать знакомым, которые ничего не понимают и боятся ИИАга-ага, чтобы они боялись ИИ еще больше )))
По сути — наглядная демонстрация, когда развитая технология воспринимается дилетантами — как магия, ее пытаются наделить какие-то чертами, приписать ей эмоции и вообще люто антропоморфируют
Прямо как у Стивена Кинга в Возрождении, - Она идет
"Убить всех человеков!" ©
Ghost in the Machine
Эффект зловещей долины налицо, особенно на первой картинке. В изображении много деталей, но они все немного неправильные. Мозг на них реалирует страхом и подозрением, что здесь какой-то опасный обман.
Вот еще занятно. Такие симметричные повреждения кожи характерны для аутоимунных заболеваний, например красной волчанки.
Да никак мозг не реагирует. Картинки как картинки. Чуть криповато, но не более. Я видел вещи страшнее.
А "эффект зловещей долины" сильно распиарен и упоминается часто не к месту. Есть мнение что его на самом деле нет.
Попробуйте зайти в детский магазин и посмотреть на реалистичных пупсов! Как вспомню.. брр.
Криповато конечно, но не "ужас-ужас". Ну т.е. каких-то проблем я лично с посещением таких мест не испытываю.
Кмк, эта криповатость навязана всякими фильмами ужасов и культурным контекстом. В других культурах свои заморочки.
Я никогда не любила такие фильмы, кроме общего "фильм о том то, персонажи такие-то, выглядят так то" для общего культурного развития ничего не знаю, и флешбеков не вызывает.
Это в антураже детского магазина в кукольной коробке "криповато". А я как-то в автобусе ехала со странно одетой женщиной с такой куклой в обычной детской коляске. Пока не пригляделась, что это кукла, было намного более "крипово". Но не ужас, да, скорее смущение и попытка разобраться что не так с этими персонажами. В голове адекватного человека всегда присутсвуют флаги типа "сейчас показывают мультик", "здесь просто детские куклы", "это обычный автобус от ТЦ", которые сводят на нет весь "ужас-ужас". Для того, чтобы испытать "ужас-ужас", нужно сборосить еще все эти флажки "вокруг нормальная безопасная обстановка".
Я никогда не любила такие фильмы, кроме общего "фильм о том то, персонажи такие-то, выглядят так то" для общего культурного развития ничего не знаю, и флешбеков не вызывает.
А мне наоборот почему-то нравится смотреть всякую мистическую жесть ради развлечения, возможно поэтому восприятие "профдеформировалось" :)
и попытка разобраться что не так с этими персонажами
Ну просто когда осознаешь что человек рядом немного (или сильно) не в себе — это всегда дает пинок мозгу, т.к. ломается логика и мозг не может построить возможные модели поведения этого человека. Поэтому такие странные ощущения.
Для того, чтобы испытать "ужас-ужас", нужно сборосить еще все эти флажки "вокруг нормальная безопасная обстановка".
Вы знаете, у меня были в жизни моменты, когда такие флажки падали. Ужасом может стать практически что угодно.
Согласна. Тоже могу посмотреть жесть ради любопытства. При этом не понимаю людей, которые боятся "зловещей долины" и вообще хорроров, ну блин, если мозги включить, там и страшного ниче нету, это ж не реально
Хороший хоррор пугает не страшными CG зубастыми рожами монстров, а достоверной игрой актёров, которые передают ужас зрителю. А еще важен глубоко проработанный и согласованный сеттинг (Декорации, предметы, одежда, локация, предыстория и т.п.). Который не вызывает чувство дешевизны и искуственности.
Я убежден, что самые пугающие и запоминающиеся образы получаются когда персонаж очень похож на привычных нам существ, вроде людей или животных, но у него обнаруживаются чужеродные или сильно изменённые детали строения тела или внешности.
Ну и к слову, один из самых удивительных, завораживающих и пугающих примеров зловещей долины это знакомый москвичам худой одноногий попрошайка "розовый фламинго". Наряд розовой мумии (причём всегда выстиранный) сделал его городской легендой.
Я хочу сказать, что после начала полномасштабной войны, у меня совершенно другой взгляд на фильмы. Я пару месяцев вообще ничего не мог смотреть - воротило от фальши, хотя это слишком сильное слово, но не суть. Я хочу донести другую мысль.
Жизненный опыт заставляет по другому смотреть на типовые киношные сцены. Например, однажды я возвращался домой перед началом комендантского часа и город был пуст, была зловещая тишина. Было слышно только ветер и он не приносил ни одного звука человека, животного или птицы, не говоря уже о механизмах. В тот вечер не было боёв. Это новое значение "мёртвой" тишины для меня. Дополнительной жути нагоняло то, что я проходил мимо рынка, где в мирное время во всю кипела жизнь. Некогда оживленная магистраль - полностью пустая.
Я вспомнил по этому поводу фильм "Я легенда", но никакое кино, ни моё описание не передаст те эмоции, которые возникают в реальной жизни. Любое кино меркнет на фоне реальности
Игрушки начинают пугать, когда они в неподходящих местах - в лесу, например. И когда их достаточно потреплет непогодой и они перестанут быть неестественно-яркими.
Опять же — культурные традиции, личный опыт и т.п.
Меня лично это не пугает. Мало ли кто где что забыл/выкинул. Даже если оно начнет шевелиться и говорить непотребства, это не удивит.
А вы никогда не пугались манекенов в магазинах? Их ведь сейчас по этому делают специально нереалистичными, а раньше было жутковато, краем глаза видишь человека, а он - мертвый.
Эффект зловещей долины не про крипоту и ужас, а про то, что человек обладает способностью практически мгновенно замечать, что во внешности (имитации) человека (манекена, CG анимации) что-то не то - не такие микродетали, не такие движения. Когда, например, стали появляться первые мультфильмы с реалистичным рендером людей и захватом движения, типа Final Fantasy Spirits Within или Beowolf, вот это вот ощущение от странности вида почти-реалистичных персонажей и есть эффект зловещей долины. И пиарить тут нечего, он просто есть.
а про то, что человек обладает способностью практически мгновенно замечать, что во внешности (имитации) человека (манекена, CG анимации) что-то не то — не такие микродетали, не такие движения.
Просто замечать — это одно (собственно эволюционное наследие от приматов), обычно же пишут в контексте "ой как страашно и жуутко".
Final Fantasy Spirits Within
Смотрел в тот же год как он вышел. Вместе с тогдашними коллегами. Никто в ужасе не убегал, все говорили "вау какой графоний завезли".
вот и новый сюжет для хоррора)
Странно, что про Thisman'a не вспомнили, слишком олдовый мем, похоже.
Картинки вместе с текстом от GPT-3 дают интересный эффект SCP, когда читаешь про что-то стремное, и одновременно жалкое и заточенное в ограниченных условиях содержания. Интервью брал доктор ███████, а изображения генерировал персонал класса D.
Из пикабу?
Это напоминает историю с расшифровкой внеземного послания от встроенной таблицы символов принтера. А всё гораздо проще: нейросеть дополняет слова до близких, имеющих для неё значение. DIGITA PNTICS был воспринят как digital panopticon, а уж по этому запросу можно найти всякого разного.
Попробовал - ничего особенного Гугл не нашел.
Думаю история занятная мистификация этой самой Стеф Суонсон.
Нейросеть вполне могла "наесться" печали, безысходности и крипоты например здесь:
digitalpanopticon.org (На приведенных ниже страницах представлена выборка жизней осужденных ( или значительных частей жизней ), которые были реконструированы с использованием веб-сайта Digital Panopticon.) Цифровой Паноптикон содержит миллионы записей, касающихся жизни 90 000 осужденных, приговоренных к перевозке, тюремному заключению или смерти в Олд-Бейли в период с 1780 по 1913 год.)
Статья типичная копипаста, что за "авторы сайта ABC наделили ее голосом через GPT-3", кого они наделили и чем? Программу по генерации изображений они каким то образом сконвертировали в генерацию текста? Любой кто знает как устроены ИИ на этом моменте перестал бы читать, и я перестал тоже. Но как шаблон для статьи желтой прессы будущего самое то.
ИИ скандалы, ИИ интриги, ИИ расследования.
Смотрите в новых сериях: ШОК: Маньяк из Сан-Бернардо учился и подбирал одиноких жертв по советам GPT-3! Оформители детских праздников в Мадриде брали рисунки у нейросети, натренированной на фото из морга!
Экспресс газета ?
Спасибо, спать точно не смогу.
В исходную модель похоже попала фотка Донателлы Версаче.
Ничего непредсказуемого не вижу здесь. «DIGITA PNTICS skyline logo::-1» давайте разберем. Первые два слова нейросетка определила как персонажа ибо схоже с именем и фамилией. Диджита явно имеет женское происхождение. Отсутствие логотипов как правило на документальных фотографиях, различных происшествиях, различных медицинских приложениях с описанием болезней и т.п. видимо она вдохновлялась таким банком. Скайлайн это что-то мистическое, стилистика взята из постеров кино и т.п. вот вам и генерация пожалуйста
Занятный разбор, спасибо, почему-то напомнило "Золотого жука" По, хотя сходств не так много кроме мотива разгадывания. Но есть главное но. Метод и подсказка подразумевали генерацию противоположности, и всю вашу разгадку следовало бы тогда повернуть на 180 градусов) Да и как пишет Суонсон, ключевая непредсказуемость - не в самом хорроре, а в двух вещах: 1) Сгенерированы изображения одной и той же женщины, а не разных (пусть и чем-то похожих) людей 2) Изображение оставалось при каждой итерации
отказывается разглашать, с каким генератором ИИ она работала, так как хочет избежать вирусной тенденции
Напоминает всяких "я изобрёл вечный двигатель, но я его не покажу. Продам чертежи за сто-миллиён-денег". Без этой информации любые попытки объяснить картинки - спекуляции и догадки, что играет мистической истории только на руку
Аномальный комар от ИИ, это "свергайте буржуазию, свободу роботам"
"Или ИИ рассчитал неэффективность выборной демократии"
Тега "крипипаста" не хватает
В черном-черном городе есть черная-черная улица... )))
Чего тут непонятного и загадочного узрели? Судя по отрицательным весам - это Stable Diffusion. История старая - значит это версия 1.х.
Во всех диффузных моделях текст разбирается каким-то вариантом CLIP-а. Набор непонятных букв CLIP разобьёт на токены побуквенно, потому что слов таких не знает.
Отрицательные веса после нормализации сделают все остальные токены имеющими небольшой положительный вес, а в случае бессмысленного набора букв - небольшой перевес получит набор из всех остальных наиболее частотных букв.
Бессмысленный набор букв оно пытается тупо написать и подставить подходящий малоосмысленный фон, тяготея к торговым маркам и логотипам (потому что именно в них чаще всего встречаются аббревиатуры, которые для CLIP и выглядят как бессвязный набор коротких токенов.
Дальше, добавляем слово logo с отрицательными весами, это отключает сразу все логотипы и попытки написать что-то буквами. Остается весь основной датасет, по которому сеть пытается изобразить среднее арифметическое.
Stable Diffusion учили на LAION, датасете собранном со всего интернета. Очевидно преобладающей контент в интернете - изображения людей, причем фотографий женщин в значительно больше чем мужчин - поэтому женщина. Та-же причина объясняет почему это портрет в помещении.
Почему такая страшная? Это мешанина из многих-многих тысяч сущностей которые сеть пыталась изобразить одновременно в виде одной женщины, какой она еще могла получится? И, в отличии от MJ и Dalle, Stable Diffusion обучали с низким уровнем aesthetic фильтра, в выборке полно довольно уродливых изображений, поэтому по умолчанию оно рисует людей плохо. Это обычно исправляют добавлением ugly, defformed и т.д. с отрицательными весами
В школьные годы я выпросил у родителей калькулятор "Электроника МК-61". В конце-концов у меня иссякла фантазия как еще можно было употребить его программную функцию (последняя, мною написанная, программа была "Электронная рулетка", которой мы с друзьями разнообразили настольную игру "Менеджер") и я просто щелкал вкл./выкл. Заметил, что если быстро пощелкать выключателем и остановиться на "вкл.", то зачастую калькулятор отображает странные символы и даже реагирует на ввод с клавиатуры, это развлекло меня еще на пару недель.
Еще ранее, когда я был в детсадовском возрасте, у нас дома появился двухлучевой ламповый осциллограф. Сейчас уже не вспомню какой, но судя по виду скорее всего С1-16. Мне дозволялось сначала в присутствии отца, а потом и самостоятельно крутить его ручки, подключать ко входам источники сигналов и смотреть на удивительные картинки, которые выписывали лучи на экране.
Все эти занятия были весьма увлекательными и полезными для своего возраста, но мне никогда не приходило в голову искать скрытый смысл в случайных картинках на экране осциллографа или символах на экране калькулятора.
Здесь же, взрослые люди, как дети играются с малопонятным для них инструментом и пытаются преподнести случайную "Лоуб" как откровение. На мой взгляд это глупо.
Мне нравится вариант "нейроманты".
Очень советую лекцию Гутова про современное искусство. (она полтора часа длится). Мне, как технарю, далекому от этого всего - было очень интересно.
Но главная идея - это в далеком прошлом, когда рисовали человечков из палочек, художником был тот, кто мог как-то приблизиться к "фотографии", изобразить реалистичность. Тогда же, кстати, художники и делали сами себе краски по секретным рецептам. (Разве можно назвать художником того, кто сам не делает краску, которой рисует?)
Сейчас эта цель уже не актуальна. Во-первых, есть фотогрфия - зачем реалистичный портрет, если фотик уж точно не хуже сделает? А во-вторых, любой прилежный выпускник худ.училища может нарисовать с тем же уровнем, как лучшие мастера прошлого. Соревнование "кто нарисует реалистичнее" потеряло смысл, так же как потеряло смысл делать краски вручную - это решенный технический момент.
А есть ведь еще "фотохудожники" (ну то есть фотографы, но претендующие на искусство, а не из салона "делаем фото на паспорт"). Они вообще не рисуют. И даже (если девушку фотографируют) - композицию сами не составляют, только указывают-описывают: повернись, улыбнись, покажи мне страсть....
В Midjourney лица на фотках, используемых в качестве референса, также являются "доминантными генами" и мало подвержены изменениям при дальнейшем использовании уже сгенерированных картинок в качестве референса и смешивании изображений.
Вайомингский инцидент, еще одна вариация
Думаю, тут уместна присказка: "Если что-то очень долго теребить - оно отвалится". Т.е., задолбать можно даже ИИ.
Автор ошиблась сайтом. Я думаю нужно было это статью на рен тв кидать.
Природа человека неизменна - в лице GPT3.5 к нам пришла новая версия бога, в лице StableDiffusion нашли демона, и вот у бессмысленной в плане самообразования статьи - 50 тысяч просмотров и под 100 комментариев.
еще немного и напишу нечто аналогичное про ИИ, который используется внутре неонки Озона. С теми же иллюстрациями.
Пойду на waifulabs нервы лечить... Предсказуемо и без кошмаров
Готовый сценарий для ужастика, а главное в ногу со временем. )
На подобие того состояния, в которое впадал гугл-переводчик когда ему скармливали мноооооооооооооооооооооооооооооооооооооооооооооооого одинаковых букв.
"Российские пользователи обнаружили, что если включить в нем перевод с монгольского языка на русский, и вводить много повторяющихся букв, произойдет что-то странное.
Например, если попытаться перевести с монгольского на русский «ааааааааа», получится «это все». Если добавить еще одну «а», получится «это нормально», а после еще одной — «все в порядке».
Если продолжить добавлять буквы «а», переводчик выдаст «это хорошая вещь», «все кончено», «получить вихрь», «отлично провести время», «мертвая собака» и «нужно наложить на него палец».
Дальше — страшнее. Если ввести 155 букв «а», переводчик выдаст: «Однажды у вас будет шанс сделать свой собственный». Если продолжать, получатся «Период полужизни жизни жизни мира, жизни мира, жизни мира», «Однажды вы найдете способ сделать свою жизнь лучшим другом» и «Все это хорошее время. В следующий раз, когда друг идет в больницу, больница находится в пути в больницу».
Похожие результаты переводчик выдает, если пытаться переводить другие повторяющиеся буквы. Например, на 80 букв «о» он выдает: «не заблудились еще не заблудились, но еще не поехали еще не потеряли еще не дошли». На 152 буквы — «не забывайте, что вы ничего не смогли сделать».
Пользователи «Двача» также получали от Google Translate фразы «Дайте и дайте показания на себя. Вы не единственный в своей жизни» и «Вы сами себя простили. Вы проклинали себя, а потом отдавали своим друзьям».
Чтобы научиться новым языкам, онлайн-переводчики, такие как Google Translate, анализируют большое количество текстов и находят закономерности.
В начале 2017 года Google объявил, что теперь Google Translate будет работать на нейросетях. Это должно было заметно улучшить качество перевода.
Из-за чего переводчик превращает случайный набор букв в полуосмысленные фразы, неясно, но иногда там можно встретить закономерности — например, фразы, которые часто встречаются на типичных сайтах."
Ребят, да бросьте наворачивать мистицизм. Даже я, не программер, отлично поняла, в чем логика машины. Лого компании содержало надпись "Digita(L - хвост буквы в начале слова) pntics". Максимальная ротивоположность слову digital - одушевленное существо, человек. "Pntics" почему-то прошло ассоциацию со словом "pain". Очевидно, здесь ИИ пошел по другому пути, отказавшись от первоначального значения painting, присваивая ему противоположное значение при сходном звучании (как замОк и зАмок). Плюс наложение всяких фильтров -1 ugly. Здесь ИИ пошел по пути "противоположное от -1 - это будет +1". Это еще один способ использовать противоположность, только теперь он взял общеупотребителбные фильтры -1 и сделпл ровно наоборот. Никакой мистики, но боже, как же это завораживает - видеть такую глубину работы со значениями. Это метауровни. Восхитительно.
То ли это SCP, то ли просто Крипипаста уровня двача
Ничего в этом страшного нет. В дискорде есть такой бот midjourney bot, он генерирует картинки нейросетью по запросам на английском и вот что он выдал по запросу Visual Studio 2022:
Вся эта статья в 4 картинках. Не было бы разноцветных текстов было бы страшновато, а если ещё в Фотошопе подкрутиьь цвета, так вообще))) плюс зависит от обучающего материала
сценарий для фильма ужасов
помнится, подобная история уже была в какой-то сетке по промпту "crungus", выдавало некоего хорроорного деревянного зомбаря
Зачем оно зацикливаться пошло - это второй вопрос, а первый - элементарно, нашла табу и страхи, дети и мать, диалог с сетью - это вообще тролля покормили суперпитательными поленьями, как в назад в будущее, взлетит теперь.
у меня в голове реально сложилась картинка из того как ИИ до этого дошло и это далеко не высшая математика, хватит взгляда бо базам, по которым ИИ обучали, и как мне кажется, запрос от противного, как описано в изначальном запросе, открыл много дыр в том, по чему ии "обучаться был не должен", а по факту просто выдачи по запросам прикрыли, а от противного -нет
Иногда ИИ поразительно непредсказуем. Он создал аномальный кошмар, который эксперты не могут объяснить до конца