Pull to refresh

Comments 35

Хорошие мысли. Но как быть с тем, что среднего читателя устраивает нейрослоп? Если раньше этому читателю приходилось волей-неволей читать авторские статьи и возможно просвещаться, то теперь алгоритмы подсовывают ему слоп в ленту и он становится заложником нейро-пузыря. И никакого способа подсветить ценность авторских статей не останется.

Добавлю, что не только читателя, но и слушателя устраивает нейрослоп. Недавно устроил себе тур по тюркским городам - от Якутска до Бишкека. Так я был поражён, как представители старшего поколения (т. н. "бумеры") регулярно слушают нейрослопные аудиокниги! Причём озвучка выполнена ужасно, помимо херового TTS с ударениями куда ни попадя и знаменитым американским акцентом сам текст будто очевидно плохой моделью нагенерен, слоп на слопе и слопом погоняет. Так как сие смотрелось на Ютубе в телефонах, я уверен, что иллюстрации там нарисованы тоже низкопробной моделькой типа SD1 2023 года. И эта шваль (имею в виду видосики) явно существует в десятках тысяч экземпляров! Воистину, бумеры - самое незащищенное перед ИИ-слопом поколение... Интересно, а что ждёт нас в будущем? Я не хочу быть таким же жалким в глазах молодняка, пощадите меня!

И решением её как раз и является возрождение автора — т.е. восстановление связи автора с текстом

К сожалению, это только один из выходов. Одна из альтернатив - люди, которые в мире интернета перестали читать книги, но хотя бы читали небольшие статьи или кучу твитов, перестанут читать что-либо вообще

Хуже того, ллм -- это тоже автор со спецификой языка, представления реальности и целей, и совсем не самый дурной.

Именно поэтому относительно легко отличить "чистый нейрослоп", и даже предположить, написан ли текст самой новейшей хитроумной астрой за весомую пригоршню долларов или пожилым слабоумным бесплатным дипсиком.

И проблема именно в том, что такой автор во многих, если не всех аспектах лучше, чем гадкий мешок с мясом. Здесь на Хабре это ещё не так заметно, потому что в узких содержательных областях ии-тексты относительно слабы -- в силу крайней немотивированности промптописателей излагать идеи и передавать смыслы. А вот самиздат типа AT уже, в общем, всё: покольку "Братья Карамазовы" там исходно никому не были нужны, то и достаточно общего подобия стилю или жанру для глубокой и искренней удовлетворенности публики. И, не без этого, для роявления литературных текстокапиталистов, публикующих романы десятками в год, будучи ограниценными только скоростью генерации токенов, когда в старые добрые времена с трудом выдавали том за пару месяцев.

Если в выдаче поиска была бы возможность скрывать авторов, являющихся мясными прокси, ещё можно было бы говорить о возрождении автора, и то очень ограниченно: на одного автора будет десять мясных прокси, а то и больше. Вот именно эту проблему радикально и пытаются решить детекторами ии, а не "если человеку нужна помощь машины, чтобы отличить машинный текст от человеческого, там губить уже нечего". Вы легко отличите нейрослоп от живого автора. Но когда зайдете на какой-нибудь ресурс почитать, и весь вечер потратите на пару сотен произведений, которые практически все нейрослоп (потому что это дешево и продуктивно, и разница в числе будет в десятки раз по сравнению с живыми авторами, которые еще и не все вам понравятся), вы либо бросите читать, либо перейдете на огрызки в два экрана (чтобы не терять много времени на детекцию фуфла), либо начнете потреблять, что дают. Реализовать ваш красивый призыв делать хорошо а плохо не делать в теории легко, а на практике нереально - это что-то из разряда NP-полной задачи: легко проверить, что вы нашли хорошее из кучи плохого, но найти в этой куче хорошее не хватит ни сил, не времени

Да, согласен, автор путает способность отличить один конкретный текст и физическую усталость от просеивания сотен пустых статей ради одной нормальной. Когда сигнал тонет в шуме, люди просто закрывают ресурс, а не повышают свой уровень грамотности

Хуже всего что за "мясными прокси" иногда сидят целые фермы аккаунтов, которые еще и сами себе плюсы крутят или пишут друг другу хвалебные нейрокомменты. Без административных банов со стороны самой площадки никакой читатель с этим не справится

Полностью согласен с вашим тезисом про "воскресение автора". Есть такой принцип диалектики: "Когда вещь достигает предела, она непременно обращается в свою противоположность". Возможно, что окончательно добив агонизирующего автора, мир действительно придёт к его воскрешению.

Что же касается нейрослопа, то главная проблема с ним заключается в мимикрии слопа под осмысленный контент. Начинаешь читать, ожидая обнаружить в тексте смысл, а к середине поста понимаешь, что смысла нет, хотя по форме текст неотличим от осмысленного. Испанский философ Хосе Ортега-и-Гассет называл вещи "живыми" и "мёртвыми" и утверждал, что мёртвое по форме повторяет живое, но жизни в нём нет. Это как тёплый семейный праздник и праздник, организованный чиновниками для галочки, - по форме они идентичны, но в одном ощущается "жизнь", а в другом её нет. Слоп мимикрирует по форме под осмысленный контент, но ни смысла, ни живости в нём нет.

Энергетические и когнитивные ресурсы человека легко истощаются, а у современного они уже истощены постоянной перегрузкой. Перекладывать на человека задачу сортировать инфомусор негуманно.

Воспитать умного, внимательного и думающего человека несоизмеримо более сложная задача, чем воспитать невежественного глупого инфантила. Человеческий разум и культура очень хрупки, большинство потрясений ломают их в первую очередь. Это как сломать ажурные качественные очки — одно движение руки, "хрусть" и готово. А сделать их нужны целые заводы, высокая культура производства, преемственность опыта.

Людям по эволюционным причинам свойственно халтурить и спрямлять углы везде где можно. Гнать нейрошлак для повышения KPI? Да пожалуйста. Ну и что, что хабр превратится в помойку, это всё завтра, а не сейчас.

Перекладывать на человека задачу сортировать инфомусор негуманно.

А кто ещё будет за нас это делать? Это как сказать «перекладывать жизнь на человека негуманно, пусть машины за нас живут».

Другое дело, что перекладывать на отдельного человека это неправильно — не то, что негуманно, а просто глупо, это не будет работать. Образование всегда коллективное усилие, никто не образовывается сам по себе.

Воспитать умного, внимательного и думающего человека несоизмеримо более сложная задача, чем воспитать невежественного глупого инфантила

Дело не в том, что это сложно или нет, а в том, что это необходимо: вызов, который представляет собой нейрослоп, требует более глубоко грамотных читателей/потребителей контента. Или так, или никак — идиократия и тёмные века.

Я считаю, что человечество не полноценно разумный вид и движется некими предустановленными эволюцией мотивами, но по пути к всеобщей катастрофе.

"Сейчас мы обгоним всех в ИИ, но потом он может быть нас не убьёт". Или. "Сейчас мы всех подомнём, но окружим планету слоем спутников" (Которые могут принести кучу проблем вплоть до невозможности полётов по орбите) Примерно так во многих областях. Трагедия общин повторяется в человеческих сообществах по фрактальному принципу, от макроэкономики до каких-нибудь локальных чатиков, где пара флудеров портят всем общение, выставляя себя напоказ...

Простые же люди в большинстве зашорены кучей когнитивных искажений и ригидных культурных шаблонов, на них вообще никакой надежды. Осознанности и дальновидности у них нет. Может быть я, конечно, сгущаю краски и заблуждаюсь, но мне кажется что люди прям с каждым днём зарываются в неразрешимый ворох проблем везде где можно и никакой надежды нет.

Я считаю, что человечество не полноценно разумный вид 

Так и есть, и борьба, как я считаю, должна вестись именно за формирования коллективного, общечеловеческого сознания, что я и понимаю как коммунизм. Точнее, я понимаю коммунизм как систему, которая фасилитирует коллективное человеческое сознание. Это дескриптивное, а не прескриптивное определение — т.е. как будет выглядеть система, которая это обеспечивает, то и будет коммунизмом.

А ИИ в этом деле нам товарищ, потому что ставит необходимости механизмов коллективного сознания ребром.

некими предустановленными эволюцией мотивами, но по пути к всеобщей катастрофе.

Если мы не справимся и не вырвемся из эволюционных процессов, т.е. коллективно не возьмем контроль над судьбой человечества, то да. Но это ставки проигрыша в борьбе, а не гарантированный исход.

К тому же стоимость генерации мусора сейчас околонулевая, а стоимость проверки фактов и чтения между строк человеком осталась прежней или даже выросла, потому что модели научились врать очень убедительно. В этой асимметрии читатель всегда проигрывает без технических барьеров

С другой стороны, полностью отдавать фильтрацию в чужие руки тоже опасно, потому что любой алгоритм или модератор начнет подсовывать только то, что выгодно платформе. Какой-то базовый скепсис и навык отсеивать пустышки по первым двум абзацам человеку все равно придется качать

Проще всего вообще отписаться от общих лент рекомендаций и читать только проверенные блоги, рассылки и тех людей, с которыми пересекался в комментариях. Алгоритмический поток в 2026 году победить невозможно

Да, когда на проблему смотришь абстрактно с точки зрения энергетики и цены все проясняется.

Все обсуждают, как определить нейрослоп, но никто (насколько я мог заметить) не обсуждает, что и зачем мы определяем. И начинается это прямо с заголовка «Хабр проиграл войну с нейрослопом», за которым не следует никакого объяснения, что это за война, за что ведётся и зачем нужна.

Тогда уже надо задавать ответный вопрос "почему нейрослоп - это плохо?". И вообще нужно начать с определения терминов. Что такое "нейрослоп"? Что мы понимаем под "Хабром"?

Для начала дадим определение слову "информация". Например:
Информация – это символическое представление одной сущности с помощью другой (отсюда).
Т.е. мы (авторы, комментаторы) с помощью текста описываем некоторую сущность (материальную - например процессор, духовною - например выгорание). Чем же может быть вызвано недовольство текстом (статьёй, комментарием) в котором описывается эта сущность?

Тут мы вспоминаем о таком свойстве информации как достоверность. Это один из важных критериев, на которую обращают внимание, как минимум на этом ресурсе. При этом информация может устаревать, т.е. становиться недостоверной с течением времени. Далее важна точность информации, ценность, ну и разумеется понятной. Тут конечно всё зависит уже от уровня понимания (образования, осведомлённости) читателя.

Главный вопрос - может ли "нейрослоп" удовлетворять всем этим критериям? Если может, то разве это плохо? Нейронки - всего лишь инструмент, который позволяет человеку экономить время. Это как калькулятор, который считает нам цифры мгновенно, давая больше времени на решение каких-то задач.
И здесь то же самое. Бухгалтер Иван калькулятором сделает сводку за день, а Васян будет им колоть орехи. Проблема не в калькуляторе (инструменте) как таковом, а в том кто его использует. И для каких целей.

Нейронки не просто инструмент, это аутсорц мыслительной деятельности. А человек не оперирует инструментом, он пишет запрос завод чтобы тот выпустил некоторую интеллектуальную продукцию.

А человек не оперирует инструментом, он пишет запрос

Попросту работа инструмента. Точно так же можно сказать про токарный станок и станок с ЧПУ. Вроде бы токарь и не оперирует станком сам, лишь описывает то что нужно выточить. Допустим, следующей планкой будет прикручивание нейропомощника который может выточить нужную деталь по словесному описанию. Значит ли что ИИ придумал деталь?

В этом и суть - нейронки (по крайней мере на данный момент) не могут придумать новое. Они могут взять А, могут взять В, и выдать АВ. Но он не даст результата С пока человек не откроет это С, не опишет его, и не скормит нейронке.

Эти рассуждения идут из-за того, что мы не учитываем автономность инструмента. Условно говоря есть некая шкала: стамеска —> копировальный станок —> фрезер с ЧПУ —> аутсорс китайскому заводу —> покупка готового товара в магазине.

Как видите, с каждым шагом всё меньше агентности у того кого мы называем создателем и всё больше у инструмента. Запрос к нейронке ближе к заказу детали на заводе, причём вместе с разработкой.

Новизна вообще плохой критерий, её сложно формализовать. Это слишком абстрактное понятие и вся история человеческой культуры это буквально комбинирование идей предшественников.

Если вам нормально так думать, то можете смело назвать себя садоводом когда покупаете помидоры в магазине, или купить картину в галере ии назвать себя художником.

Ну смотрите:

стамеска —> копировальный станок —> фрезер с ЧПУ

Тут, как ни крути, человек всё ещё создатель, творец.

—> аутсорс китайскому заводу

А тут есть нюанс - завод сам тебе деталь по твоим хотелкам делает, или по твоему чертежу? Т.е. есть ли тут элемент творчества, оригинальности, то что можно запатентовать?
Если есть, то и этап завода вполне нормален. Потому что завод подразумевает серийное производство, когда ваша деталь становится настолько востребованной, что ваших личных физических возможностей не хватит выточить их все, будь у вас сотни ЧПУ.
Но с китайским заводом или без, вы остаётесь изобретателем.

—> покупка готового товара в магазине.

А тут уже больше похоже на LLM. Этот вайбкодинг, по сути, представляет собой поиск по гитхабу какого-то свободного софта. Понимает ли нейронка что делает код? Или просто прилепила к куску кода описание от разработчика? Когда мы ищем ручками, то делаем ревью, когда нейронка выдаёт результат, то она чем руководствуется? Количеством плюсов, положительных комментов и т.д.? Судя по жалобам на нерабочий код и галлюцинации - не умеет проверять.

Новый код, пусть и с частями с гита, всё же будет оригинальным. Ну, токарь тоже не идёт руду добывать, он покупает выплавленную и очищенную сталь. Никто же не попрекает что "не сам в шахте пот лил".
Поэтому брать в магазине тоже не зазорно (главное не красть).

назвать себя садоводом когда покупаете помидоры в магазине

Тогда уже поваром. Он не сам эту куру растил, но фермер не зажарит её так как шеф-повар.
LLM может влёт найти и выдать нужный мне код по описанию, когда я сам его искал бы несколько часов а то и дней. Но нужно уметь читать код, понимать его, а не пихать "и так сойдёт". Даже если сойдёт. С другой стороны - если работодатель жлоб, без конца торопит и настаивает на "здесь и сейчас", то можно и пихнуть. Но нужно быть честным и предупредить о последствиях.

Да. И я думаю, что вопрос авторства и инструмента намного сложнее чем может показаться на первый взгляд.

Калькулятор экономит время на арифметике, но за тебя бухгалтерский баланс и смысл цифр он не придумывает. А здесь люди отдают машине саму суть рассуждений, и в итоге по сети гуляют тысячи красивых статей без единой живой мысли или проверенного эксперимента.

Настоящий слоп прежде всего выдает бессмысленная вода и галлюцинации, когда человек даже не потрудился проверить факты и вложить собственный опыт.

В принципе если автор прогнал реальный рабочий кейс через модель ради аккуратной верстки, претензий почти ни у кого нет. Просто на один такой полезный мануал сейчас приходится девяносто девять пустышек ради накрутки просмотров и ссылок на телеграм

накрутки просмотров и ссылок на телеграм

В этом и суть. Это то как используют нейросети. Просмотры и переходы нужны для рекламодателя, т.е. получения дохода.

Получается что бороться надо не с нейронками, а с рекламными статьями. Это может делать само сообщество, посредством дизлайков.

Нейрослоп не есть серьёзная проблема. В мире масса намного более тяжёлых воспалений. Но на примере нейрослопа мы видим - никто не хочет сам себе помочь при помощи правильных действий. Все ждут что кто-то за них всё разрулит. Некоторые целые статьи рисуют, лишь бы ничего не делать, надеются, что поднимут волну и она за них всё сделает. Но так общество не работает.

Общество можно исправить, но для этого требуются усилия. И набора жалких статеек с жалобами на жизнь мало, потому что в сравнении с размером проблемы это околонулевое воздействие.

А правильное действие одно - все недовольные не статейки писать должны, а строить организацию нацеленную на устранение проблем. Но все эгоистично прячутся от такой задачи. Почему? Потому что придётся подчинять свои эгоистические интересы набору людей, с которыми вместе строим организацию. Никто не хочет работать на других за идею, даже если идея их собственная. И в результате все работают на случайных хозяев мира, которые в результате опять же случайных событий получили возможность возглавить организации, достаточно мощные для серьёзного влияния на общество.

Поэтому жалобный вой на луну в статьях вроде той, что видим выше, никому не поможет. Помочь может только внутреннее понимание многими людьми - в единстве сила. И за пониманием обязано следовать действие - объединение. Но нет, своя задница ближе к телу, поэтому никто не будет её отрывать от дивана, но все продолжат призывать других сделать им хорошо. И разумеется, никто никому хорошо в итоге не сделает. Вот такая примитивная правда жизни. Эгоизм и лень до добра не доводят.

Ну и стандартнейшее возражение, которое всегда всплывает в той или иной форме. В организации будет диктатура и мои хотелки никто там не реализует! Про диктатуру обычно заявляют для драматического эффекта, а вот про “мои хотелки” чаще всего просто не договаривают. Но именно хотелки здесь главное. Писатели возражений в подавляющем большинстве случаев опять же хотят что бы кто-то за них сделал всё красиво. И требуют гарантий. Разными словами, прикрываясь различными приёмами, но суть всегда одна - дай мне готовый результат, тогда я, возможно, поковырявшись в носу, так уж и быть, попробую этим результатом воспользоваться. Разумеется, “воспользоваться” здесь подразумевает исключительно личные эгоистические цели. Ну и какой дурак будет реализовывать хотелки таких вот эгоистов?

В общем давно и многим ясно - либо вы организуетесь, либо вас будут иметь как хотят. Но поток писателей статеек не прекращается. Организовываться они не хотят, но настойчиво призывают других что бы они сделали авторам статеек лучше. А теперь вопрос - кто из перечисленных дурнее паровоза?

Громатность здеся ваще не праблема, кода есть АФТОР. Вирните афтора, с иго аригинальным видинем мира, и мы накидаем ему гнилых помидоров. Именно боязнь помидоров за безграмотность и заставляет оригинальных авторов прятаться за нейронкой.

Отдельный привет передаю Элджерону.

Элджерону передают цветы.

я уже пару месяцев все статьи Хабра и Aftershock просматриваю в кратком пересказе ИИ-шки, и если статья интересная - тогда перехожу к оригиналу :)
В идеале вообще иметь бы целый браузер который вместо оригинальной страницы показывает то что юзер в промпте прописал показывать и не показывает, к примеру, рекламу

Ну, кстати, годная тема. Я кнопкой ИИ-саммари на Хабре тоже впечатлён. Для таких задач ИИ как раз отлично подходит.

А что это за процент там?

в промпте у меня есть фраза "В конце дай интегральную оценку интересности, полезности, актуальности и адекватности статьи в процентах от 0 до 100% и запиши результат-оценку в формате [кодовое_слово=…%]" (потом из ответа вытаскивается процент по кодовому слову)

модель "deepseek-flash"

Неплохо справляется, хотя модель, которая по кнопке «Краткое содержание статьи» тут встроена, лучше схватывает мысль, которую я хотел донести. По крайней мере, на примере этого поста. Не знаю, в чём между ними разница, но это саммари я бы и сам использовал, если мне нужно было кому-то дать краткий пересказ:

Кратко

Проблема «нейрослопа», то есть различения человеко- и машинно-сгенерированных текстов, на самом деле является проблемой грамотности читателя. Автор предлагает развивать «глубокую грамотность», чтобы читатели могли критически оценивать тексты и отличать качественные работы от некачественных.

Ключевые идеи

  • «Глубокая грамотность» — это способность встраивать прочитываемый текст в общую картину мира, сверять с ней и осознавать изменения, которые этот текст вносит в картину мира.

  • Проблема «нейрослопа» не возникла с современными LLM, а была всегда — просто LLM автоматизировали и разогнали её до масштабов, когда стало невозможно избежать правды: решением проблемы плохих текстов является подготовка более грамотных читателей.

  • Возрождение автора как переменной в читаемые тексты добавляет критический слой верификации текста через авторскую историю, по мере накопления которой формируется уникальная, узнаваемая модель как авторской мысли, так и стиля.

  • Многие контентные проекты до недавнего времени считали хорошей идеей размывать значение авторства, делать авторов максимально заменимыми шестерёнками «процесса производства контента». В результате, сайты, где сепарация автора от контента была взята за основу, стали и главными рассадниками нейрослопа.

Выводы

  • Развитие глубокой грамотности — это не просто поиск ответа на «вопрос нейрослопа», а работа с самим вопросом.

  • Возрождение автора как переменной в читаемые тексты может стать решением проблемы нейрослопа.

ну мне удобнее когда на страничке не первые абзацы статей (как на Хабре), а краткие пересказы, особенно со смартфона. По первым абзацам и по названию не всегда понятно стоит ли открывать всю статью

Взрослым с навыками ниже этого уровня может не хватать умений, чтобы разобраться в расписании автобусов или пригородных поездов либо понять расчётный листок по зарплате.

Иногда, чтобы разобраться в расписании пар/поездов/автобусов или прочитать расчетный листок надо обладать не 4-м, а как минимум 6-м уровнем и немного владеть навыком "телепатия" 🙃

А все потому что составлять это расписание и выпускать расчетный листок садятся взрослые, которые с трудом дотягивают до второго уровня 😁.

Неоднократно в своей жизни находил косяки в первом и втором типе "табличек". Причем чтобы их найти и понять приходилось немного лопатить связанные документы или узнавать что-то чего не может быть на доске с расписанием... А ответом на вопрос " Ну как так можно было составить/ почему так распечатали? " Мне говорили: "Ещё до меня так стали писать... ", " Программа сама так посчитала.. ", " Ой, Что-то не взялось... Позвоню программисту", "ходят тут всякие вопросы непонятные задают"

Перекладывание борьбы с тоннами сгенерированного спама на "глубокую грамотность" читателя выглядит как предложение лечить загрязнение реки тем, чтобы каждый житель купил себе микроскоп и сам кипятил воду перед каждым глотком. Никакой шестой уровень грамотности не спасет, если лента завалена мусором в пропорции 100 к 1

На Хабре уже давно видно, что авторы и сами не гнушаются прогонять свои черновики через LLM для "причесывания" стиля, из-за чего даже у реальных спецов тексты становятся стерильными и теряют живой авторский почерк и в итоге модель автора в голове читателя размывается еще быстрее

Нейронке можно прямо указать сохранять стиль, но править только орфографию :)

Чтоб править орфографию и даже немного грамматику - нейронка вообще не нужна, любой текстовый редактор и даже браузер прекрасно подчёркивает ошибки :)

Кстати, это ещё один интересный парадокс начала ИИ-эры: до ИИ человеческие тексты превосходили машинные качеством, для машины был недостижим человеческий уровень. Теперь же, наоборот, признаком человечности стали ошибки и несовершенства. Для меня, с моей нелюбовью вычитывать свои тексты и делать больше одного драфта, это vindication. Я и раньше считал, что советы разбивать сложные предложения и упрощать грамматику удешевляют мои тексты, потому что сложная грамматика передает причинно-следственность излагаемой мысли — а теперь это не только я вижу, потому что упрощение и streamlining текстов при ИИ-редактуре и производит эффект «потери души».

Один хороший писатель рекомендует пишущей братии вычитывать свои тексты вслух. И это реально помогает.

Sign up to leave a comment.

Articles