Комментарии 74
Будущее, которое мы заслужили) Интересно посмотреть на обороты продаж этих книг.
Девальвация честности и доверия. Той же рекламе верить было нельзя никогда, но можно было ориентироваться хотя бы на пользовательские рейтинги. Однако и площадки продажные, и боты набегают. Новости фильтровать приходится через очень мелкое сито, а чтобы на выходе что-то осталось, надо на вход подавать очень много и разного. Эти умные боты подливают масла в огонь — они могут еще и сфабриковать пруфлинки с "достоверными" источниками, перекрестно подтверждающими друг друга, но высосанными из пальца. И это лезет даже в науку, что уж там говорить про новости/товары.
Печально. Очень скоро верить нельзя будет вообще никому, даже при наличии фото/видео "подтверждений". А есть часть работы, которую в одиночку не проделать, надо как-то опираться на чужие знания. Как жить будем?
Очень скоро верить нельзя будет вообще никому
даже себе:) Будет как во сне: вроде читаешь книгу, вроде очень интересно, но что в ней написано - а черт его знает!
А я бы такое почитал, может, в этом что-то есть.
Кафку почитайте. Он именно так и писал. При чтении постоянное ощущение, что предыдущие несколько страниц я не читал, а просто задремал и все, что там написано мне приснилось.
Я такой момент в книге "Винни-Пух и все-все-все" нашёл, глава 9
Вы сами этого хотели, да?
Представьте себе, как обрадовался Пятачок, когда наконец увидел Корабль! Потом долгие годы он любил думать, что был в очень большой опасности во время этого ужасного потопа, но единственная опасность угрожала ему только в последние полчаса его заключения, когда Сова уселась на ветку и, чтобы его морально поддержать, стала рассказывать ему длиннейшую историю про свою Тетку, которая однажды по ошибке снесла гусиное яйцо, и история эта тянулась и тянулась (совсем как эта фраза), пока Пятачок (который слушал Сову, высунувшись в окно), потеряв надежду на спасение, начал засыпать и, естественно, стал помаленьку вываливаться из окна; но, по счастью, в тот момент, когда он держался только одними копытцами задних ног, Сова громко вскрикнула, изображая ужас своей Тетки и ее крик, когда она (Тетка) обнаружила, что яйцо было действительно гусиное, и Пятачок проснулся и как раз успел юркнуть обратно в окно и сказать: "Ах как интересно! Да что вы говорите!" - словом, вы можете представить себе его радость, когда он увидел славный Корабль "Мудрость Пуха" (Капитан - К.Робин, 1-й помощник - В.-Пух), который плыл ему на выручку, а К. Робин и В. - Пух, в свою оче...
Ну, эта история здесь, по сути дела, кончается, а я так устал от этой последней фразы, что тоже не прочь бы кончить, но никак нельзя не рассказать о том, что было позже.
В детстве особенно сильно влияет, непередаваемое ощущение проплывшей по мозгам резиновой уточки.
Почитайте "Между собакой и волком", Саша Соколов. Я когда попробовал почитать, понял, что ни хрена доселе не знал, что можно вытворять с русским языком.
Hidden text
Гурий – так и звали его, если на то пошло. Из развлечений означенного Гурия укажу на следующее: вот кто обожал пошаркать и раскатиться по гладкому на точеных, которые и стали причиной того, что мы клиента утратили, а погребальщики клиента же обрели. Рядом с этим поставлю в известность. В стрелецкие числа, чтобы опасней, зато бодрей, бобыли обоих мелкоплесовских берегов обустраивают состязания на слабеющем льду. Происходит в кромешной темени, предумышленно без небесных светил, и народ фигуряет кто мудреней и суетится в горелки и взапуски, не зря промоин и трещин. Что чревовато. Прикурить насчет покрутиться всем давал такой Николай, парень из утильной, в конечном итоге, артели. По фамильярному прозванью Угодник, выступал он по миру как искренний незадачник, и отдельные шутники из завистников ехидствовали над ним, говоря, что затейливо столь выдрючивается оттого, что притерся мыкаться по темным углам, ему, мол, в обычину. Хроника его невезухи, если не возражаете, какова? Он, во-первых, изведал семейную матату, но супруга поладила с волкобоем и сжила Угодника долой со двора, во-вторых. И тогда постучался в городнищенский приют для неслышащих, но последние дали от ворот поворот: учрежденье у нас лишь для глухарей, а ты, как видишь, еще и слепак, так что сам понимаешь. Потому этот малый посунулся в незрячий приют: ничего подобного, переполнен лимит койко-мест, то ли случай, когда б фисгармоника собственная была, ошивался б по дебаркадерам и выручку знай сдавал бы в общий котел, и мы бы тебя за это держали. Николай Угодников, он восстал перед ними во весь свой скрюченный рост и, сердито плача горючими бельмами, закричал: стручки вы заморские, да случись у меня мусикия своя – разве спрашивал бы я у вас, как же быть.
Весь русский рок такой:)
451 градус по Фаренгейту, телестена.
Маркировка сделанного с помощью ИИ и огромные штрафы, если это не выполняешь. Тогда мусора должно стать чуть меньше
Если ИИ сгенерировал статью, а китаец потом переставил в ней два слова, то это надо маркировать? А 10 слов? А 80%?
Либо открывается лазейка как избежать маркирования контента от ИИ, либо через 5 лет понадобится маркировать абсолютно весь контент в Интернете.
Как доказать, что это ИИ создал, а не я?
Проблема в том, что уже сейчас нельзя определить сгенерирован ли с помощью ИИ тот или иной текст в интернете. Специальные сервисы, которые заявляют о том, что они могут это определить, обходятся ну очень легко с помощью простых правил формирования промптов. В данном случае меч, без всяких сомнений, победит щит - в тексте человека просто не содержится достаточно отличительных признаков, позволяющих надёжно отличить его от текста ИИ, а с течением времени и развитием LLM, такие признаки и вовсе перестанут существовать. Кроме того, развитие открытых LLM гарантирует, что у органов ответственных за назначение штрафов не будет возможности определить был ли материал создан с помощью ИИ, даже если они надавят на компании типа Openai и Midjourney, чтобы те сливали информацию о сгенерированном пользователями контенте.
п-ф-ф.. хорошо натренерованая неонка нейронка определит что текст сгенеренный легко.
Вы же понимаете, что если существует дискриминационная сеть, которая может отличать сгенерированный текст от созданного человеком, то её как минимум можно использовать для обучения генерирующей сети вплоть до момента, когда генерирующая сеть сможет обманывать дискриминационную сеть в 50% случаев. Это раньше так было. Сейчас многие LLM достигли совершенства в относительно простых и очень близки к совершенству даже на сложных текстах, где не нужно использовать сложную логику. И вот Вам пример для смеха: "Вася и Петя пошли на речку купаться, а поросёнок Пётр остался дома доедать подгнивший кочан капусты". Как Вы думает какая информация сможет подсказать, что это сгенерированный ИИ текст? В этом предложении просто не за что зацепится, даже теоретически. Человек вполне может выстроить слова в том же порядке, использовать те же слова, использовать ту же логику, тот же стиль. Самые продвинутые сети по определению является ли текст сгенерирован по сути те же самые LLM. Если они замечают, что следующее слово очень часто совпадает со словом с высоким процентом показателя "наиболее вероятное следующее слово", то делают вывод, что текст написан ИИ. Однако, как я и говорил в комментарии выше, если немного подшаманить с запросом для генерирующей LLM, то она при генерации текста уже не будет выбирать самые лучшие слова оцениваемых по показателю "наиболее вероятное следующее слово", а, например, слова из топ 3 или топ 10. И соответственно проверяющая LLM уже не сможет поймать генерирующую сеть за руку, так как человек тоже выбирает слова из списка топ 10 по показателю "наиболее вероятное следующее слово".
"Вася и Петя пошли на речку купаться, а поросёнок Пётр остался дома доедать подгнивший кочан капусты". Как Вы думает какая информация сможет подсказать, что это сгенерированный ИИ текст?
Может подсказать соответствие контексту. Если эта фраза появилась как комментарий в ответ на статью про количество бит в байте, то можно говорить о сильном запахе бота.
Тут интереснее другой вопрос - если "бот-судья" начнет учитывать контекст, то как люди будут доказывать, что они не боты? Ведь в современных человеческих комментариях и статьях нелогичность плещется через край. А с добавлением цитат, примеров, аналогий и гипербол... Очень часто бывает так, что я ему про Фому, а он мне про Ерёму.
P.S. Здесь могла бы быть реклама курсов, на которых вас научат писать так, чтобы вас не принимали за ЧатЖпт.
Вот и функция потерь нарисовалась для обучения следующей версии :)
А давайте сразу все плохие книги маркировать
Скоро: Покупайте наш ИИ для фильтрации контента, созданного ИИ!
боты, врущие о том, что боты врут... ммм)
Создавать матрицы доверия с людьми? Ходить на вечеринки подписи gpg-ключей?
Тут довольно усмехнулась Донцова
Бессмысленные книги, созданные ИИ...
...Список романтических бестселлеров для подростков и молодёжи...
Даже более бессмысленные, чем обычно?
Ничего страшного не происходит, я думаю. Как будто на рынке мало шлако-литературы, написанной людьми.. Люди давно научились фильтровать то, что им хочется читать в интернете и выбирать информационные каналы. И в книжной отрасли - абсолютно такая же ситуация.
Только этот автор сама генерирует ровно такой же мусор, я погуглил ее работы,
описание одной из ее работ
"Dana's been crushing on Drew Fischer for as long as she's been working at his company. His gorgeous Head of Security, Lex Bradshaw, occupies no few of her dreams as well. But even in her wildest dreams, she never expected to be propositioned by both of them - together!
A 22,000 word novella containing lots of hot two-on-one action as Dana gets all her wildest fantasies fulfilled, and discovers some new kinks she never even knew she had. "
эро романы для женской аудитории, судя по обложкам и названиям крайне примитивны и убоги, просто бесится что не ее мусор в выдаче, как говориться ии бояться самые бесполезные
Что будем делать, когда миллионы "бесполезных" окажутся на улице, ничем не занятные без средств к существованию?)
В отличии от других подобных "промышленных" революций, мы стоим на пороге ситуации, когда "бесполезными" окажутся не 1-5% населения, а процентов эдак 20. А если добавить сюда появление доступных беспилотных автомобилей, ту думаю и все 30-35%.
в другой хабро-статье я выразил опасение в комментах, что скоро стану жертвой прогресса…
Так это же замечательно
Можно попросить раскрыть мысль? Я лично вижу потенциальный рост преступности, кучу самоубийц и маргиналов на улицах, которые будут висеть на шее у всего остального общества, потреблять вещества и всячески мешать остальным жить.
Что замечательного в такой ситуации?
Я лично вижу потенциальный рост преступности, кучу самоубийц и маргиналов на улицах, которые будут висеть на шее у всего остального общества,
А в чём конкретно проблема у "висеть на шее у всего остального общества"? Из-за ИИ и автоматизации будет доступно меньше товаров и/или услуг? Скорее наоборот.
То есть сейчас эти люди делают "бесполезную" работу и получают за это деньги. В будущем они будут ничего не делать и получать за это деньги. Но что принципиально изменится? :)
В будущем они будут ничего не делать и получать за это деньги. Но что принципиально изменится?
Проявится "крысиный рай"?
Честно говоря не вижу почему он должен проявится. Особенно учитывая что и сейчас в куче стран люди на пособия живут.
не вижу почему он должен проявится
Не готов аргументировать, но могу предположить. Если у человека нет необходимости бороться за что-то действительно важное, он начинает выискивать другие поводы для борьбы. Мелкие неприятности масштабируются до крупных, невозможность повлиять на события усиливает ненависть, поэтому человек готов драться и убивать за любую неидеальность. А неидеального вокруг хватает: школа, экология, отношения между людьми, государство... Да и пособия не будет хватать на все хотелки, а значит нужно больше и скандальнее требовать.
сейчас в куче стран люди на пособия живут
Не готов аргументировать, но могу предположить, что именно эти благополучные, но неудовлетворенные люди составляют костяк разноцветных уличных протестов. Не всех, конечно, в неблагополучных странах на протесты выходят профсоюзы, фермеры, безработные, требуя от государства защиты и преференций для своих бизнесов. А в благополучных странах во главе протестов можно обнаружить сытых, мутных и праздно развлекающихся. Вряд ли работают те, кто день за днем громит витрины, поджигает машины и чем там еще славились все эти БЛМ, желтые жилеты и Греты.
Не готов аргументировать, но могу предположить, что именно эти благополучные, но неудовлетворенные люди составляют костяк разноцветных уличных протестов.
Насколько я знаю нет. То есть они точно не костяк. Именно получатели пособий в массе своей скорее люди инертные и аполитичные. То есть даже придти на демонстрацию для многих из них уже влом. А уж организовать...
и чем там еще славились все эти БЛМ, желтые жилеты и Греты.
Не знаю насчёт БЛМ, но жёлтые жилеты это были преимущественно работяги. А "греты" преимущественно школьники у студенты.
В сериале Expanse (1-2 сезоны) такая ситуация в сюжетной линии про Землю интересно показана. Всей Землёй управляет ООН, которая не то чтобы в состоянии решать кризисы, а большинство населения вследствие оверпопуляции не имеет работы и живёт на пособия. Но это всё равно лучше, чем жизнь тех, кто как по заветам Маска улетел жить в космос)
Во вселенной Expanse Марс технологически лучше развит (Росинант - марсианский фрегат), марсиане более мотивированы, их жизнь более осмыслена. Иногда приходится ходить строем, но это не особо мешает заниматься всякой фигнёй в свободное от строевой подготовки время. Почему жизнь землян лучше?
Как минимум принципиально изменится вероятность получить по голове кирпичом за пакет с продуктами из магазина. Одной этой причины мне достаточно, чтобы начать переживать о сложившейся ситуации.
Чисто гуманистические мотивы, например, что даже у самых последних посредственностей есть стремление к самореализации, и обществу неплохо бы такую возможность предоставить - можно пока оставить за кадром.
Как минимум принципиально изменится вероятность получить по голове кирпичом за пакет с продуктами из магазина.
Совсем не факт. То есть если эти "новые безработные" будут жить не особо хуже чем сейчас, то зачем им криминалом заниматься?
Чисто гуманистические мотивы, например, что даже у самых последних посредственностей есть стремление к самореализации, и обществу неплохо бы такую возможность предоставить — можно пока оставить за кадром.
Так наоборот же. То есть сейчас эти люди вынуждены работать, а тут вместо них ИИ работать будет. А они смогут самореализовываться. В конце-концов свои "глупые книжки" они точно смогут и дальше писать.
Капитализм так не работает, к сожалению. Нет никаких предпосылок к тому, что "бесполезные" люди не будут брошены на произвол судьбы.
Капитализм так не работает, к сожалению.
К счастью чистого капитализма нигде не существует. И никто не мешает брать пример с каких-нибудь скандинавов или немцев-австрийцев-швейцарцев.
Можно предположить, что у богатых стран, с развитыми социальными программами что-то выйдет.
Россия не одна из таких стран, очевидно. При этом во многом, РФ, как говорится, "впереди планеты всей", по части внедрения всяких высоких технологий, т.е. в России эффект от появления внятных ИИ-решений будет заметен почти сразу же.
В конце-концов свои "глупые книжки" они точно смогут и дальше писать.
Эти книжки пишут не лютые графоманы, для самореализации. Для этого можно вести блог и т.п.
Бумажные/электронные версии "книг на продажу" пишут скорее гении книжного маркетинга.
Тогда причём здесь какое-то "стремление к самореализации"? Ну конкретно в их случае?
Книги - это работа в долгую. Сейчас полно видео-хостингов, камера смартфона дает неплохое качество видео. Кривляниями в YouTube/TikTok всегда можно найти свою самореализацию… И/или потратить кучу времени на просмотр креативов других гигантов самореализации
будут ничего не делать и получать за это деньги
Уверены? Проекты БОД, почему-то не прижились нигде. Скорее их просто оставят нищенствовать или просто бросят
Такие книги начали появляться как минимум 2 года назад.
Так может быть это больше говорит о качестве других книг в этом рейтинге, чем об ИИ?
Блин, серьёзно? Их и так полно, ещё и сделали что ИИ книги писал?...ну увольте
Бессмысленные книги, созданные ИИ, вошли в списки бестселлеров Amazon