Комментарии 14
В статье полностью проигнорирована важная угроза генеративных нейросетей: производство в промышленном масштабе контента, представляющего из себя семантический белый шум, неотличимый с первого взгляда от осмысленного контента. А отличить можно только трудоёмким способом: вчитываясь, всматриваясь, выявляя противоречия и неверные детали. Человечество-то и само производит такой смысловой шум в немалых количествах, хотя и на несколько другом уровне бессмысленности, а тут сгенерированная дрянь может просто за счёт количества затмить собой настоящую информацию.
Мы привыкли, что даже созданный без особых мыслительных затрат контент неявно несёт в себе достаточно верную информацию о мире, о взаимосвязях. Представляете, что будет, если вместо этого затапливать мозг шумом, который создан крутящимися наугад дисками Луллия? День за днём читать эти тексты, видеть эти *и только эти* картинки и видео?
Согласен, что это тоже большая угроза. Но с другой стороны, и сами авторы "творчества", клепающие свои тексты/комиксы/фильмы по тем же лекалам, разве не подготовили нас к этому?
Может будет хоть небольшой плюс, что люди начнут больше ценить оригинальное, живое, а не в студии на потоке слепленное.
Проблемма в том, как отличить. или, хотябы, вовремя отличить, чтобы не потратить лишнее время.
Даже сейчас есть множество каких-то "генерированных" страниц, которые выдаются на первых позициях поиска в Яндексе. В них явно видно (но сначала надо просмотреть все), что текст создан путем копирования разных кусков из разхных мест на одну и ту же тему. Иногда вполне нормально (и можно пользоваться), а иногда с пропусками или без картинок. Отличить от нормального можно только потому, что в тексте могут встречаться абзацы по какой-то совсем другой теме (наверное, реклама) и текст очень состоит из нескольких материалов на одну тему, часто похожих.
Но теперь может быть еще и сгенерированный нейросетью материал, являющийся галюцинацией по факту. Хрошо, если это будут ложные факту из истории или придуманная география. А если кулинарный рецепт, в результате которого получится несъедобный или даже опасный продукт . Или еще хуже "инструкция" по электрике или метод лечения.
И это только явные, относительно легко обнаружимые дефекты, а ведь тотальная галлюцинация генеративок может ещё и на неявном уровне стачивать словно наждачкой здравый смысл и интуицию при помощи потока незаметных деталей и ассоциаций, которые больше не основаны на человеческом знании и модели мира, а сгенерированы случайно.
Проблема в том, что все эти явления есть и без ИИ, в том числе даже медицинские "галлюцинации" людей умерших сотни лет назад, типа лечения водой с "памятью"...
Людям, чтобы написать тексты, надо найти время, желание, умение писать и т.д. Опять же, больше нескольких штук в час не напишешь. А нейросети могут генерировать сотни статей в минуту, или даже еще больше. Без выходных, без "надоело", без "не хочу бесплатно". На любую тему причем.
Если нужен простой или справочный контент (а-ля вики) - не вопрос можно позвать ИИ. Но, если речь о структурно и смыслово сложном тексте (н/п самой простенькой статье для Хабра или VC), то внятного результата пока ждать не стоит. Я видел немало примеров, когда пытались CG использовать, чтобы по-быстрому забить блог или страницы сайта содержимым - результат далек от приемлемого.
А не в качестве дело. Такой контент будут генерировать чтобы занять выдачи в поисковиках, для продвижения тех или иных товаров, для популяризации мнений, получения охватов, вовлеченностей и прочих маркетинговых "уловок".
Все было бы так (просто), еслиб алгоритмы поисковиков давным-давно не научились распознавать заведомо не рассчитанный на пользователя seo-контент и не наказывать за это понижением в выдаче. Даже LSI во вполне прилично написанных человеком текстах не всегда срабатывает, что уж говорить про ИИ-генерейтед контент.
Будущее может иметь симбиоз человеческой совести и ИИ
Как только заговорят о равенстве искусственного и естественного интеллекта я сбегу на Марс ?
Нейросети наступают: явные и скрытые опасности ИИ