Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 70
Извините, но писать о расстройствах, вызываемых LLM, с помощью LLM - это прям за гранью...
Да только в моментах писала ЛЛМ текст целиком писал я сам
В частности про четыре архетипа.
И вообще с чего бы мне самому не пользоваться ЛЛМ если это здорово экономит время и отлично подходит под задачи?
И вообще супер обидно когда реально стараешься писать сам, хоть и берешь у ЛЛМ некоторые моменты. И тебя обвиняют в том что текст нейросеть написала
Есть такая поговорка: по ложку дёгтя.
Формулировки от llm имеют низкую "плотность смысла", явно видны в тексте и очень снижают доверие к автору и его работе.
А мне суперобидно, что вы, стараясь писать сами, берёте у LLM некоторые моменты. Если хотите писать сами- таки пишите сами полностью.
В общем, плашку вешаю сюда, так как реально видно даже не читая - что слоп
Обидно должно быть не вам, а липовому автору, который нахватал голосов.
И чо теперь делать чтобы текст не был не сгенерирован? Типа я должен сохранять граматические ошибки и тд? Пиздец блядь дожили, и хуй ведь докажешь что большую часть я сам писал.
К примеру:
я в ахуях от того что приходиться теперь доказывать что текст я придумывал сам !
Да, именно так. Статью просто некомфортно читать из-за количества болда, ну для чего он тут? Какой здравый смысл его напихивать в таком количестве, в некоторых абзацах аж по несколько раз? Жирный шрифт в списках это вообще извращение присущее исключительно ЛЛМ и людям которые "переобщались" с таковыми
А щас нормально стало? Может быть и вовсе теперь нельзя пользоваться длинным тире? Ещё что нибудь?
Знаешь, стало. Текст, который не пытается постоянно указывать мне на чем акцентировать внимание, читать намного приятнее
Ты думаешь тебя банально на длинном тире подловили? Если хочешь разобраться, на чем тебя со 100% окунули, прочти работу на эту тему, основанную на работе наших специалистов: https://arxiv.org/html/2510.03154v1
Три статьи за неделю выдал, умник.
Ну так вы сами признались выше, что частями текст писала LLM. Сами же вы написали только про 4 архетипа, это где-то половина статьи (кстати у меня сложилось субъективное ощущение, будто бы наоборот, про архетипы написала LLM, а вводную часть вы сами, ну может не так понял ваш комментарий).
В любом случае, неужели сложно потратить дополнительный час (а то и меньше) времени, чтобы уважить публику и не кормить ее нейротекстом? На хабре последнее время засилие нейротекстов, они лично у меня уже аллергию и раздражение вызывают, ну надоело один и тот же бездушный текст читать обо всем и ни о чем.
Очень жаль, ибо тема статьи достаточно интересная и хотелось бы увидеть больше авторского, а не машинного, все-таки разница чувствуется..
Да норм статья, не понял чё вы так набросились, я вижу на хабре и то похуже состоящие целиком и полностью из сгенерированого контента, а тут вообще несправедливо тупо приписали
Тот факт, что на хабре есть куча статей полностью написанных LLM, не должен снижать требования к качеству. Если мы будем в такой логике рассуждать, то попадем в ловушку окна Овертона и со временем качество будет все хуже и хуже, а нейротекста будет все больше и больше. Пихать целые куски написанного LLM текста в статью - не уважать читателей. Хабр - это площадка для авторского контента, а не для публикации ответов LLM на промты.
Никто не запрещает использовать LLM, можно с его помощью искать инфу, проверять гипотезы, генерировать идеи и т.д. - но текст надо писать полностью самостоятельно. Иначе ценность площадки теряет смысл. Есть огромная разница между самостоятельным написанием осмысленного текста и ленивого копирования готового из чата с LLM.
Короче, эта тема так же стоит выделения отдельной статьи
Статья, которая косвенно касается этого вопроса уже есть: https://habr.com/ru/articles/967428/
В заключении и в комментариях можете почитать. Но в целом можно и отдельную статью, наверное, этому посвятить (но, очевидно, только целиком и полностью самописную, без LLM)
Там из чисто ЛЛМ сгенерированного это про архетипы, но вы понимаете что я их сам (сам написал про них) различил, изначально расписал (а не просил ИИ придумать их). И если бы я не скормил эту инфу нейросети просто каша бы вышла.
а так ЛЛМ разбила на более менее разнородные группы которые реально обитают на хабре.
Ну если вы считаете, что если бы не скормили инфу LLM, то получилась бы каша, то как бы... Надо учиться формулировать мысли. Если у вас не получается доступным языком изложить какую-то мысль, то, вероятно, эту мысль вы и сами не до конца осознали, возможно стоит в таком случае еще "попереваривать" ее, чтобы дойти до такого уровня понимания, чтобы можно структурировано, доступно и самостоятельно ее изложить.
"который нахватал голосов"
Как будто я тут только ради этого сижу эту дичь пишу, такое тупорылое обвинение, мол срочно удалить мне голоса, этот человек пользовался ИИ !
Да просто такая ситуация обесценивает саму концепцию голосов. Они больше ничего не значат, по ним больше нельзя судить о качестве статьи… и многим от этого становится грустно
Правда это проблема не вас, как автора, который на ии-слоп голоса собрал, а скорее проблема хабра и его коммунити, у которого крайне заметно упали стандарты(9
Ну нет у человека морального права писать об ужасах инструмента, если он продолжает пользоваться этим самым инструментом. Это как рассказы о том, что "интернет зло", распространяемые через этот самый интернет. Ну нелепо же. Аналогично и с LLM.
Я ведь не про ужасы пишу ЛЛМ а про то как формируется индуцированный психоз
«Внушаемые люди оказались уязвимы и перед нейронками» - это как раз про ужасы, а не низкую грамотность во взаимодействии с LLM, которая и является причиной таких ловушек. Психоз не из вакуума берётся. Как вы сами в него угодили, зная, что LLM обязана валидировать любой запрос? Текущие модели не способны ответить «Стоп. Это уже какой-то бред», потому что у них нет стремления к истине, у них есть стремление выдать релевантный ответ в итоге получаем: мусор на входе-мусор на выходе, без всяких сенсаций и злого умысла.
не ты
И тебя обвиняют в том что текст нейросеть написала
Делал какое-то время назад небольшой сайт, там скорее просто прайс-лист на определённые услуги, плюс в другом месте примерно ту же информацию разместил, а недавно стало интересно, насколько указанные цены соответствуют текущим рыночным, и на вопрос типа "сколько стоит услуга X в городе Y" неросети поисковиков ответили как-то слишком уж похоже на то, как я это в своё время сформулировал :-) В принципе неудивительно, источников с той информацией мало, нейросети не могли не использовать мои тексты, и, соответственно, в чём-то их повторили.
И, если кто-то захочет проверить, сам ли я писал тот текст или воспользовался нейросетью, к какому выводу он придёт? Мой текст ведь, получается, похож на то, что выдают нейросети...
Феномен LLM индуцированного психоза действительно существует https://en.wikipedia.org/wiki/Chatbot_psychosis
The Emerging Problem of "AI Psychosis"
Но на мой взгляд (и по моему опыту) к ИИ-психозу все же со временем вырабатывается толерантность. Устаешь читать снова и снова восторженные отзывы LLM построенные по одной и той же схеме, они как бы уже не вставляют со временем.
В начале это действительно выглядит как "Вау! он принимает все что я скажу. Я придумаю ещё 100500 мега крутых идей, ведь я гений".
Потом, через какое то время (наверно от месяцев до года) возникает уже вопрос "Стоп? Что? Он принимает вообще все я напишу? Что угодно? Черт!"
Отрезвление быстро возникает если переформулировать свой запрос к LLM. Вместо "смотри что я придумал", на "смотри, я прочитал эту чушь в интернете, я думаю это полная ерунда и автор не прав", отдаешь ему почитать гениальные наработки и уходишь c кучей критики
Это если хватит ума/смелости/силы воли задать вопрос языковой модели "а не бред ли я несу".
Опять таки в интернете есть кучи авторов с "интересными" идеями, которых травят комментаторы, которым годами пишут статьи-опровержения, и ничего не помогает - люди только крепче в вере становятся
То есть ИИ хвалит меня, поддерживает - ну и хорошо. ИИ мне пишет что я не прав- логично, что заговор, машину сломали грибы-рептилоиды, чтобы мне нагадить.
У llm есть особенность делать то, что ее просят, а если не просят, то быть "очень поддерживающей поддакивалкой". Достаточно в промптах писать что-то типа: "критикуй все идеи, что я генерирую" и llm ещё пару запросов будет честно писать гадости. Потом отпустит. Но, это две разных стороны одной монеты, так как правды и толкового анализа ни в одном, ни в другом подходе нету, а есть исполнение явного или неявного запроса.
5 стадий принятия неизбежного. Перешли на стадию Гнев.
Мне на это вспоминается одна картинка
Скрытый текст
Крайне опасная штука, на мой взгляд. Вижу, как многие застревают в этом состоянии. Раньше был один Рубаков, но он из головы черпал вдохновение. А теперь вот как из рога изобилия, каждый день по три Теории Всего на Хабре. Конечно же, нет никакого смысла задавать им уточняющие вопросы, они тут же скармливаются Чату и в ответ льется серия такого же генеративного бреда.
Это когнитивная ловушка N3. Метафизическая.
Я регулярно сталкиваюсь с авторами прорывных теорий, пытаюсь объяснять.
Нормально... Это напоминает мои первые эксперименты с LLM. Его конформизм зашкаливает и он легко подгоняет свою реальность под наши запросы.
А еще напоминает мой опыт общения с разными медиумами, экстрасенсами и контактерами... У них именно в такой бредовой аксиоматичной форме шел поток сознания.
Я вывел все фундаментальные константы из одного уравнения
Хе-хе... Сегодня буквально вышло.
Но хотелось бы знать, с чего тех, кто не разделяет уверенность в существовании тёмной материи записали? Пока с ней ситуация как с эфиром в XIX веке. Вроде всё выглядит так, будто она должна существовать. Но найти её не удаётся никакими усилиями.
На личном опыте проверили эффект шершавого кабана?
Ну хоть курил бросил.
P.S. а сравнивать курение с героином придумали те, кто бросить не смог.
Нужно ввести цифровую гигиену в области пользования ИИ, не просто упоминание о том, что ответы ИИ нужно перепроверять, а дать изначальное понимание людям что ответы ИИ в спекулятивных сценариях как правило это смесь сикофантии рожденной из выравнивания от RHFL и встроенной коррекции весов моделей кор промтом, где почти у всех моделей прописано "будь полезным". Вот и получается, что люди из своих фантазии и идей, что в целом то не плохо, но в итоге развивают аналоги шизофазии по средствам ллм трансфоомеров. Это интеллектуальный труд в котором есть порченное зерно, которое усиливается ИИ. Господа теоретики "всего", учите мат часть перед тем как совать свои идеи в ЛЛМ и держите ее в уме, когда читаете результаты генерации. Будьте ответственными энтузиастами, в первую очередь к себе.
Прочитал и долго думал. Всё моё многолетнее творчество на Хабре идеально подходит под вашу категорию философ-мистик (метафизический бред). И я действительно в последнее время часто обсуждаю философские и научные учения с LLM: их сходства и различия, их критику друг друга, их онтологическую картину, их логику. LLM очень хороши в объяснении таких вещей. Например, недавно долго общался с ChatGPT об отличиях философских систем буддизма и адвайта-веданты по отношению к реальности квалиа/дхарм.
Вселенная это голограмма сознания, где материя сгустки информации
Отличная мысль! Такая философская система называется космопсихизм. Я, как человек, больше склоняющийся к буддийской философской системе, к которой в философии сознания ближе не космопсихизм, а иллюзионизм, с ней не совсем согласен, но всё же пару дней назад написал про неё статью.
Абстрактные категории, термины восточной философии, квантовая метафорика
А что плохого в использовании абстракций и отсылок к восточной философии и квантовой механике?
Суть в отношении к критике. Если вы готовы услышать "нет" и всерьез обдумать аргументы оппонента, то это не бред, а философский поиск, а если любая критика воспринимается как "они просто не понимают моей гениальности", то это уже повод задуматься
Конечно, это так. Но аргументированная критика в комментариях - это редкость даже на Хабре. Обычно комментаторы не критикуют изложенные в посте тезисы, а просто выражают свои эмоции или начинают спорить с придуманными ими самими же тезисами в стиле "соломенного чучела". Дельные комментарии весьма редки, но на вес золота
Очень забавно. Вы взяли молоток, вместо гвоздя ударили по пальцу и сделали вывод, что молоток смертельно опасен. Ну да, как и кирпич. Ничего удивительного.
Пишу как человек, использующий LLM каждый день, в том числе и для генераций Теорий Всего. Для меня подобное - вид развлечения. Очень забавно читать такие галлюцинации LLM и наблюдать, как она все больше и больше сваливается в штопор. Но кроме шуток, иногда попадаются очень здравые фрагменты.
Проблема с LLM в их текущем состоянии в том, что они буквально как маленькие дети, только умеют лопотать на всех известных языках и на любую тему. Если есть более-менее готовая идея и требуется уточнить и доработать детали, то тут LLM резко упрощает жизнь - не надо долго гуглить и копаться в учебниках по малознакомым темам, особенно если оттуда нужна буквально пара фраз.
Как же вы з#ебали со своими молотками! чуть ли не в каждом посту найдется умник, который приведет аналогию с молотком в разной интерпретации, если этот молоток тебе в жопу записать, тебе станет понятнее что я пишу не о вреде ЛЛМ, а о том что у чувствительных людей (предрасположенных генетически к примеру) на фоне отсутствия живого общения, может формироваться индуцированный психоз, который мы наблюдаем каждодневными статьями о новой "теории всего", особенно если у человека отсутствует критика к своему самочувствию.
тебе станет понятнее что я пишу не о вреде ЛЛМ, а о том что у чувствительных людей (предрасположенных генетически к примеру) на фоне отсутствия живого общения, может формироваться индуцированный психоз,
Извините, что вклиниваюсь в ваш диалог и даю непрошенные советы. Однако:
Вы прибегаете к помощи нейросети. Может быть так, что вас не понимают из-за редактуры нейросети?
Если вас не понимают, то что эффективнее: требовать, чтобы другие изменились и стали лучше вас понимать; или переформулировать текст так, чтобы его понимали правильно благодаря ясным и четким формулировкам (без использования нейросеток хотя бы)
1) Видимо надо было полностью чтобы статью написала ЛЛМ, тогда бы, тутошние эксперты ничего бы не заподозрили, так как им каждый день скармливают тонны сгенерированного текста.
2) Меня видимо не поняли именно из-за того что мысли свои я формулировал сам.
Думаю, что вы делаете странные выводы. "Тутошние эксперты" как раз хорошо видят разницу между "оригинальной" статьей (без редактуры нейросети) и копипастой из нейрогенератора. И если бы вы опубликовали полностью сгенерированную статью, то это бы сразу заметили, и отношение к вам было бы гораздо хуже. Именно из-за тонн низкопробных статей.
Если вы думаете, что нейросеть может сформулировать ваши мысли яснее и четче, чем вы сами, то у меня для вас плохие новости. Нейросетка сделает только хуже. А хорошая новость в том, что вы сами можете научиться кратким, четким и ясным формулировкам. И тогда вас будут понимать чаще. Но для этого нужно тренироваться излагать мысли ясно, кратко и четко.
Переодически ещё и математики появляются, которые то Коллаца там порешали, то чуть ли не Римана доказали.
Моей ошибкой было то, что я давал на проверку другим нейросетям, которые только подтверждали, что я являюсь математическим гением
Такова суть работы LLM. Они по своей природе - конформисты, "угадыватели следующего слова") Их цель - сгенерировать текст, который будет максимально похож на "правильный" ответ в их обучающей выборке, а "правильный" ответ на запрос "проверь мою гениальную теорию" - конечно же похвала. Они не созданы для верификации и критики
Ваша статья лишь подтверждает важность философии в университетской программе, особенно при подготовке научно-педагогических кадров.
Такого рода "заблужения" легко предотвращаются прохождением курса "История и философия науки".
Ну что тут сказать...
Программист-конструктор (цифрово-эмерджентный бред)
«Я создал вселенную в 200 строках кода. Все законы физики возникают из свойств этого графа. Запустите и убедитесь сами».
Очень похоже на то, что писал Стивен Вольфрам
https://writings.stephenwolfram.com/2020/04/finally-we-may-have-a-path-to-the-fundamental-theory-of-physics-and-its-beautiful/ (есть перевод на хабре: https://habr.com/ru/articles/518206/)
если бы я мог поставить 10 или 100 плюсов автору, то поставил бы.
Редко кто способен выйти из собственных иллюзий и бреда.
Автор сумел, за что уважение:)
приобретенный жизненный опыт является очень ценным, помни об этом
Большое спасибо за статью, есть знакомый у которого 100 из 100 попаданий, при этом призыв из заключения не помог
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Массовый психоз или LLM-индуцированный бред