Комментарии 21
так в чем смысл статьи? что человеческий фактор все равно напрограммирует так, что ИИ устроит апоклипсис? или люди научатся писать идеальный код?)
смысл в том, что опасен не ИИ, а люди, которые его используют, которые обучают, и которые пишут код)
както надо определится, ии опасен для людей которые его используют, или люди опасны которые заносят туда ошибки. Каким образом вы себе вообще представляете что разработчики способны создать ИИ без ошибок, ИИ всегда будет содержать ошибки потому что обучают его люди, то-есть по определению он всегда будет опасен для тех кто его использует.
Но хуже другое, когда ИИ научится "думать"(а это рано или поздно произойдет) то-есть задавать вопросы самому себе и на основе выводов самообучаться, ошибка человека который его обучил может привести к катастрофе. Другими словами сейчас вы можете обучить ИИ который будет знать что американцы не были на луне, земля круглая, он сможет до бесконечности с вами спорить и даже диссертацию на эту тему написать и в итоге большинство пользователей которые его используют в это поверят, я очень тупой пример привел, но суть думаю ясна
Если уж мы подходим с точки зрения реализма, то опасности будут следующие:
1. Нейросети вытесняют 90% людей из творческих и околотворческих профессий.
А) Художников.
Б) Актеров озвучки.
---- Вы здесь ---
В) Сценаристов.
Г) Программистов.
Д) Большинство работников высококвалифицированного ручного труда, связанного с риском для жизни или высокой ценой ошибки: врачи, взрывотехники, работники химической, ядерной промышленности.
2. Сгенерированный контент массово замещает человеческий.
А) Фотостоки и прочие сайты с артами. Человеческие работы погребены под слоями шестипальцовых чудовищ от миджорней.
Б) Музыкальные агрегаторы страдают от засилья нейромусора.
--- Вы здесь... почти ---
В) Художественная литература практически полностью заменена нейросетевой, следом идет очередь нонфикшена.
---- Вы точно здесь. ----
Г) Видеоконтент массово производится нейросетями, фильмы, клипы, ролики на ютубе и тиктотке.
3. Сгенерированный контент подменяет реальность.
А) Люди порой путают реальные фотом со сгенерированной нейросетями дезинформацией.
--- Вы здесь ---
Б) Сгенерированный контент полностью захватил медиаполе, невозможно убедиться в том, что что-то в мире вообще существует, а не сгенерировано пропагандой, появляется возможность полностью подменить картину мира, генерируя высококачественные фейки в реальном времени на любой вкус. Тотальное недоверие ко всему, разрушение правды как концепции, дробление социума на ультрапрочные пузыри, через которые не проникнет никто и никогда.
...
Профит?
Это интересно, но похоже комментарий немного устарел. ИИ уже вполне успешно пишет сценарии и программирует вполне неплохо.
Пожалуйста, назовите конкретного художника, которого уволили потому, что его работы начал рисовать ИИ? Я тесно работаю с одним художником/тату-мастером (он же рисует арты к новостям и статьям). Так вот, любое изображение, нарисованное нейросетью, нужно еще допиливать и править. И иногда это сложнее, чем нарисовать новое.
А если клиент приносит эскиз для тату, то там вообще темный лес, с минимальными закорючками, линиями, деталями.
Нейросеть это тот же фотоаппарат или даже графический движок для игры. В погоне за реализмом игры довели до уровня третьего Кризиса, но в итоге сейчас львиная доля рынка за очень даже рисованной графикой, и это прекрасно.
А вот про захват медиаполя -- это да. Риски этого куда выше, чем замены профессий. Но ИИ даже не заменяет, а скорее расширяет возможности для профессионалов
Гугли про сокращения в отрасли, как минимум выкинули на мороз.
А) Кучи парней и девчат, что пилили коллажи для ютбу-превьюх.
Б) Кучи оформителей от рекламщиков, что рисовали пикчи для банеров, теперь это всё генерируют нейросети.
В) Концепт-арт художников, что тоже подверглись сокращениям, да и в целом геймдев поколбасило. Кому дешевле отдать иконочки на аутсорс, художнику или нейросети?
Про тату-мастеров не надо, у меня один из родственников - тату-мастер и это особый случай, так как тату-мастера сами себе художники, редко бывает, когда рисует эскизы один, а бьет другой - обычно это делает один и тот же человек. (исключая мутки с наставничеством, конечно)
И уже в их среде КАК МИНИМУМ идеи для эскизов берут с нейросети, а некоторые и вовсе генерируют их полностью, а после - лишь адаптируют. Пока машины не начнут бить татухи сами (а они, безусловно, начнут где-то чуть раньше, чем начнут делать операции на людях),тату-мастера более-менее в безопасности и даже напротив, их работа была в какой-то мере облегчена благодаря нейросетям.
>приносит эскиз для тату
Адаптация - это часть работы, по сути ничего не поменялось. Клиенты и раньше приносили картинки из интернета, что приходилось существенно адаптировать. Никакой ОСОБОЙ сложности нейросети не добавили, скорее даже напротив, ведь имитируя татуировки, нейронка порой делает часть работы по адаптации плоского рисунка к нанесению на неплоскую кожу.
Из "кучи выкинутых на мороз" вы так и не смогли дать конкретного имени
Ну в самом деле, я должен лично бегать по блогам автор-тудея, искать, кто из них предлагал сделать на заказ облоги, а после перестал, так как все перешли на нейронки, после чего еще и выяснить, как их зовут на самом деле?
Не смеши меня. Такие люди есть, их много. Лично я никого не знаю, так как сам занимался коллажами, а после перешел на нейронки и не нуждался в их услугах.
Утверждая подтверждайте
Зайдите на сайт АТ и поищите в популярном НЕСГЕНЕРИРОВАННЫЕ обложки.
Скорее всего не найдете.
Или мне надо составить графики, списки и доклады? Может мне еще изучить всю базу данный спотифай, чтобы пруфануть очевидный для всех тезис о том, что нейросетевая музыка вытесняет традиционную?
Давайте-ка не впадать в маразм. Я уже молчу о том, что конкретное имя любого завязавшего с облогами художника НИЧЕГО НЕ ДАСТ, так как важна динамика и статистика, а не отдельный человек.
То есть окей, я могу сказать например - на ютубе много Нейропревьюх, потому что канал Продолжение следует перешел на нейропревью и пруфануть каналом.
Но что это даст? Это один канал и только. Вы либо соглашаетесь с предлагаемой тенденцией, либо нет, третьего не дано, ведь мы - обычные пользователи и не владеем глобальной статистикой, чтобы железобетонно утверждать о процентной динамике происходящего.
Изобилие нейро-контента не вытесняет людей, которые его создают
Оно вытесняет тех, кто создает НЕнейро-контент.
Есть конкретные примеры?
Да, есть, у нас целая отрасль рисовальщиков обложек наебнулась.
Или давайте даже лучше так, раз вам всегда конкретные люди нужны.
Я говорил, что не знаю никого по именам, кто пострадал от нейрооблог, потому что я делал коллажи себе сам и не покупал их у других, как следствие у меня нет с ними знакомств и контактов..
И делал не только себе, но и друзьям и знакомым, бесплатно, хотя мог бы копеечку заработать и мне так-то предлагали.
Теперь не делаю, так как все генерируют. И себе не делаю и другим не делаю. Теперь копеечку не заработать, даже если бы было желание.
Вот, чем я не пострадавший от генеративного ИИ?
Конечно, я пострадавшим себя не считаю, однако, я раньше мог облоги продавать? Мог. Теперь могу? Нет, потому что это нахрен никому не надо. Всё, убежден?
"Мог бы заработать и не заработал" -- это гипотеза
"Я зарабатывал 100 долларов в месяц на шабашках. Вышли нейросети и заказов нет" -- это пример
"Я зарабатывал 100 долларов в месяц на шабашках. Вышли нейросети, я стал брать больше заказов, вложился в рекламу и теперь пилю каждый день по арту и зарабатываю 500 долларов в месяц на допиливании артов от нейросетей" -- это тоже пример
Конкретного не скажу, так как я их не знаю, но гугли про сокращения в отрасли, как минимум выкинули на мороз.
А) Кучи парней и девчат, что пилили коллажи для ютбу-превьюх, также на мороз ушли оформители обложек для книг и аудиоальбомов. У нас, в книжной индустрии разом 90% облог стали нейросетевыми, а раньше заказать обложку стоило от трех до пятнадцати тысяч.
Б) Кучи оформителей от рекламщиков, что рисовали пикчи для банеров, теперь это всё генерируют нейросети.
В) Концепт-арт художников, что тоже подверглись сокращениям, да и в целом геймдев поколбасило. Кому дешевле отдать иконочки на аутсорс, художнику или нейросети?
Про тату-мастеров не надо, у меня один из родственников - тату-мастер и это особый случай, так как тату-мастера сами себе художники, редко бывает, когда рисует эскизы один, а бьет другой - обычно это делает один и тот же человек. (исключая мутки с наставничеством, конечно)
И уже в их среде КАК МИНИМУМ идеи для эскизов берут с нейросети, а некоторые и вовсе генерируют их полностью, а после - лишь адаптируют. Пока машины не начнут бить татухи сами (а они, безусловно, начнут где-то чуть раньше, чем начнут делать операции на людях),тату-мастера более-менее в безопасности и даже напротив, их работа была в какой-то мере облегчена благодаря нейросетям.
>приносит эскиз для тату
Адаптация - это часть работы, по сути ничего не поменялось. Клиенты и раньше приносили картинки из интернета, что приходилось существенно адаптировать. Никакой ОСОБОЙ сложности нейросети не добавили, скорее даже напротив, ведь имитируя татуировки, нейронка порой делает часть работы по адаптации плоского рисунка к нанесению на неплоскую кожу.
В исследовании по ссылке есть таблица 1: "Details of the models used in the experiments." Из неё мы узнаём, что работа основывается на изучении модели GPT-2 с вариациями и других моделей плюс-минус того же уровня. Обобщение сделанных выводов даже на GPT-4 выглядит... слабо оправданным проведённым исследованием.
(Понятно что предельно базовое утверждение "результаты модели есть функция от корпуса обучающих текстов и промпта" верно, но оно верно и для людей, поэтому само по себе мало что доказывает.)
Искусственный интеллект и экзистенциальный кризис