Comments 108
а какая, по-большому счёту, разница, кто написал эту "портянку" - человек или алгоритм?
Не примазывайтесь в честным и уважаемым алгоритмам - LLM это не алгоритм.
А что это?
Чёрный ящик.
Черной черной ночью в черной черной комнате на черном черном столе лежал черный чёрный ящик, в котором был чёрный чёрный алгоритм. Что, так не считается?
Алгоритм это расписанная логика, где каждый элемент известен и понятно как он работает.
Чёрный ящик это тип устройства в котором происходит что-то неизвестное.
Любой ИИ программировали люди, которые писали только известные им алгоритмы. А то, что они написали так сложно, что им теперь самим лень или не под силу понять, что же происходит, ни разу не опровергает алгоритмичность моделей.
Скажите, а зачем нам считать алгоритмом то, что выглядит, ходит и крякает как не_алгоритм, и нас нет никакой возможности прочесть это как алгоритм?
Просто чтобы удовлетворить Ваше желание победить в споре в интернете?
Как выглядит? Почитайте, изучите все исходники всех библиотек, используемых в моделях. Какие проблемы? Изучите каждую строчку, хоть с лупой. Там всё очень алгоритмичо.
Как выглядит алгоритм преобразования запроса в картинку.
Распишете возникновение каждого пикселя?
Вам надо, вы и распишите. Мне не надо.
Ещё раз, алгоритмы с миллиардами и миллиардами параметров не перестают быть алгоритмами.
Вам надо, вы и распишите. Мне не надо.
Я говорю, что это невозможно расписать как алгоритм и Вы предлагаете мне это расписать как алгоритм?
Ничего не смущает в этой идее?
А они не превращаются в что-то типа квантовой механики в макромире, которую так не любил Эйнштейн ?
( "Господь не играет в кости")
Нет, не превращаются. Даже с миллиардами миллиардов параметров программы остаются алгоритмами. Любая программа - алгоритм.
Точная, конечная последовательность шагов (действий), которая описывает способ решения какой-либо задачи или достижения результата.
Веса модели - это данные, которые также получены через алгоритм. Инференс - это тоже алгоритм. Единственный источник настоящей неопределённости - это аппаратный генератор случайных чисел (ГСЧ). Но от этого программа не перестаёт оставаться алгоритмом.
Точная, конечная последовательность шагов (действий), которая описывает способ решения какой-либо задачи или достижения результата.
Отлично.
И работа с LLM попадает под это описание?
Есть у нас эта точная и конечная последовательность действий?
Да. Именно её и выполняют процессоры компьютера. Всё, что выполняет процессор - это алгоритм. Если вы уверены в обратном, не буду вас разубеждать.
Не надо меня разубеждать.
Просто покажите алгоритм.
Он же у Вас есть?
Я глубоко озадачен минусами под этим абсолютно бесспорным и самоочевидным комментарием
Я таки надеюсь, что это на почве личной неприязни ко мне, а не иллюстрация к публикации, что "со-знание - социальный конструкт".
Если в общественном сознании укоренилась мысль, что "алгоритм - это что угодно, но только не то, что выполняет процессор", то я смогу лишь констатировать, что общество стало другим, чем было, когда я учился в универе.
Надеюсь, что всё-таки личная неприязнь - это хотя бы говорит о стабильности.
@flancer господа, давайте не будем ссориться. LLM в узком смысле это набор данных. Алгоритм это "загрузи массив, возьми вектор и умножь его на этот массив". LLM в широком смысле это оный алгоритм, применяемый с оным массивом.
На почве не очень точной терминологии можно построить теплицу для коммерческого разведения холиваров.
Единственный источник настоящей неопределённости - это аппаратный генератор случайных чисел (ГСЧ). Но от этого программа не перестаёт оставаться алгоритмом.
Именно. В классическом методе Монте-Карло этот генератрр - сама суть метода. Но от этого метод не перестаёт быть алгоритмом. Но чел упорно твердит свое.
Но чел упорно твердит свое.
Звучащее как: "если у вас есть алгоритм, то покажите его".
Но в ответ лишь "да, у нас есть алгоритм, но мы его не покажем".
Я несколько комментов выше написал: для open source моделей, посмотрите все исходные коды всех библиотек и самих моделей. Скачайте и посмотрите. В чем проблема-то? И вообще, как современный компьютер может выполнить неалгоритм? Вы вообще хоть что-то понимаете в компьютерах? На этом завершаю биться об стену.
И вообще, как современный компьютер может выполнить неалгоритм?
Компьютер может выполнять что угодно и как угодно.
Но если лично Вы не имеете последовательности действий, которая позволяет получать предсказуемый и повторяющийся результат, то лично у Вас алгоритма действий нет.
Алгоритм привязан к субъекту и его целеполаганию, а не к инструментам, которыми субъект пользуется.
На этом завершаю биться об стену.
Я на этой беседе материал набираю, с примерами.
Вы очень хороший, интересный и полезный собеседник.
Это просто серия матричных умножений. Иногда взятие максимума. Чем не алгоритм?
"Не надо рассказывать как оно происходит на самом деле, просто покажите алгоритм как в результате конкретного запроса закрашивается конкретный пиксель в картинке" (с) вроде бы было в каком-то кинофильме.
"Если прогуливать в школе физику - мир будет наполнен чудесами и волшебством." (с) тоже где-то было
Алгоритм покажете?
Третий раз - алгоритмы (код) многих моделей лежат в открытом доступе. Берите и смотрите. Что же не смотрите?
Да, вот тут подробно описано: https://ru.wikipedia.org/wiki/Умножение_матриц
Картинка это просто матрица из чисел. Если хотите узнать, каким образом появился пиксель на позиции (x, y) - достаточно взять строку x и столбец y из двух предшествующих матриц (их скалярное произведение и будет давать заданный пиксель). Нейросеть для генерации картинок - это просто набор хорошо подобранных матриц, произведение которых даёт приятный для глаза результат. Ну и там в некоторых местах помимо произведения матриц надо ещё брать максимум, но это вроде не очень-то сложная операция.
"Черный ящик" он для тех, кто не понимает что внутри :)
А Вы типа как понимаете и готовы дать последовательность действий, дающую предсказуемый и воспроизводимый результат?
Вот так понимаю: https://stepik.org/a/231306
тише, там у многих бомбит
(что все программы мира в 200 гб не помещаются, https://9gag.com/gag/aoyA27n)
https://habr.com/ru/articles/955666/comments/#comment_28951304
Сама по себе LLM - это вполне себе алгоритм имитации нейросети, причём вполне детерминированный. Вот в сочетании с обрабатываемыми им данными сложность системы может возрасти многократно, так что человек уже не в состоянии разобраться исходя из чего были получены результаты. Но алгоритм от этого не перестаёт быть алгоритмом.
А что именно Вы понимаете под словом "алгоритм"?
А вы?
Алгоритм - это заданный порядок действий. И LLM работает именно по фиксированному алгоритму, как во время обучения, так и во время работы.
Алгоритм - это заданный порядок действий.
... дающих нужный и воспроизводимый результат.
Если у токаря каждый раз получается деталь с заданными характеристиками - это алгоритм.
Если деталь каждый раз непредсказуемо разная, то нет, не алгоритм.
LLM дают воспроизводимый результат, просто злые люди прикрутили к нему генератор случайных чисел. Но на самом деле это ее проблема для воспроизводимости вообще: задайте модели seed генератора и будете всегда получать один и тот-же результат на одинаковых данных
Если у токаря каждый раз получается одна и та же деталь, независимо от того, какой ему в этот раз дали чертёж, то у него, конечно, алгоритм, но этот алгоритм особого смысла не имеет.
По правильному алгоритму у него будет получаться деталь, соответствующая чертежу.
Так что, для начала надо определиться, что мы понимаем под "нужностью и воспроизводимостью", да и просто под результатом.
А так алгоритм может использовать в работе случайные числа, как тот же метод Монте-Карло. При этом результат будет нужный, правильный, но при каждом запуске немного другой.
Любая программа, которая крутится внутри ЭВМ - алгоритм. Даже программный ГСЧ - алгоритм. Ну, как-то так сложилось исторически.
Алгоритм это порядок действий, дающий нужный и воспроизводимый результат результат.
Не всякая последовательность действий это алгоритм.
Вы можете дать последовательность действий, как с помощью LLM получать нужный и воспроизводимый результат?
Если нет, то у нет алгоритма, вне зависимости от того, насколько закономерным является то, с чем мы пытаемся взаимодействовать.
Мячик летит по вполне закономерной и предсказуемой траектории, но если у нас нет последовательности действий, позволяющих попадать в кольцо, то у нас нет алгоритма попадания мячиком в кольцо.
Физика процесса есть, а алгоритма - нет.
Ну, либо можно рассказывать о том, что "на самом деле у меня есть алгоритм, но он в деревне у бабушки и мне его оттуда взять не разрешили".
Не всякая последовательность действий это алгоритм.
Да, не всякая. Вот такая:
Вы можете дать последовательность действий, как с помощью LLM получать нужный и воспроизводимый результат?
Конечно могу. Только вы не поймёте. Ставите локально любую модель, подключаетесь к ней через отладчик и идёте пошагово от начала и до самого результата. Чтобы он был воспроизводимым, используйте программную, а не аппаратную реализацию ГСЧ.
Мячик летит по вполне закономерной и предсказуемой траектории, но если у нас нет последовательности действий, позволяющих попадать в кольцо, то у нас нет алгоритма попадания мячиком в кольцо.
Совершенно верно. Но если у вас есть последовательность действий, позволяющая попадать мячом в кольцо, то... у вас такой алгоритм. Попробуйте целиться лучше.
Рецепт приготовления борща - это алгоритм, так-то. Но совершенно очевидно, что для вас это не очевидно, ведь борщи в результате получаются не идентичными.
Да, не всякая. Вот такая:
И как при работе с LLM обстоят дела с :
- понятность
- детерменированность
- конечность
Они ведь есть?
Рецепт приготовления борща - это алгоритм, так-то. Но совершенно очевидно, что для вас это не очевидно, ведь борщи в результате получаются не идентичными.
А я где-то говорил про ИДЕНТИЧНОСТЬ результатов?
Ну, про мячик в кольце - разве не ваше? Есть алгоритм бросания мяча сторону кольца, но если мы не попадаем в кольцо, то это и не алгоритм, типа:
Я ж вам написал выше - добавьте в алгоритм прицеливание. Получите алгоритм попадания, а не только бросания. И даже если попадание будет не 100% - это всё равно будет алгоритм.
Вы начните разговор с LLM с обсуждения понятия "алгоритм". Она начнёт вам возражать поначалу, а потом согласится. LLM во всём со всеми соглашается. Но вначале она вам выдаст "среднее по больнице" - то, на чём она обучалась. Вот это и будет общепризнанное на данные момент определение "алгоритма". Удачи!
А разве основная претензия к нейро-статьям не в том, что они берут верхние n ссылок гугла, переваривают и сблевывают их в рот читателя в тошнотно-дружелюбной форме?
И еще - пришлите, пожалуйста, хотя бы 1 нейросстатью, которая "порождает знания"
В вашей ссылке ключевое слово "если".
Я ни в коей мере не имел в виду, что это трушное знание, я показывал, как Модель может порождать новое знание. А насколько оно трушное - это к специалистам. Я в таком не разбираюсь.
То есть теперь нам надо делить знания на трушные и на не-? Кстати, гугл по вашей ссылке выдаёт вот это: https://ru.wikipedia.org/wiki/Загрузка_сознания Очень похоже на то, что чатгпт не выдумал нового знания, а пережевал существующее.
То есть теперь нам надо делить знания на трушные и на не-?
Ну так это всегда так было! Джордано Бруно сожгли за то, что его убеждения противоречили общественным. А так-то он был прав.
Очень похоже на то, что чатгпт не выдумал нового знания, а пережевал существующее.
Новые знания зачастую просто комбинация уже известного ("скорость" "света" "конечна" - каждое понятие было известно до Эйнештейна, но именно в такой комбинации до Эйнштейна её никто не применял к объяснению накопившихся противоречий). А комбинирование - это то, что делают нейронки.
Просто добавьте исключение на "Загрузка сознания" в gpt-чат по ссылке и нейронка сгенерирует другое "новое знание".
а какая, по-большому счёту, разница, кто написал эту "портянку" - человек или алгоритм?
А для вас есть разница лечится у человека или у алгоритма?
А Вы лечитесь не у человека, а у алгоритма, которому этот человек следует.
Более того, Вы не захотите лечиться у человека, который сам себе что-то выдумывает и не следует разработанному алгоритму диагностирования и лечения.
вы не ответили на вопрос :) пойдете лечится к алгоритму? :)
Пойду. Пойду к тому у кого статистика лучше. Ну или статистика нормированная по затраченным деньгам. Зависит от моих приоритетов.
Вот к примеру. LASIK - это алгоритм. Зрение хотите поправить?
Бывают ли у ласика ошибки? Полным полно
Есть ли там очередь из клиентов? Да есть.
Я уже хожу лечиться к алгоритмам, которые написаны в справочниках и учебниках по медицине.
Врач, это просто механизм, который эти алгоритмы исполняет.
Зависит от конечного результата. Если результат одинаков, то разницы нет.
Т.е. дети вне общения с другими людьми адекватную модель мира полностью самостоятельно построить не способны.
Вот сразу и прям полностью не согласен. Дети, ставшие волками в волчьей стае, имеют полностью адекватную модель мира, нужную волку. Зачем им другие люди?
спецпредставитель автора обращается к администрации ресурса о снятии санкций:-)
объясните суть. Сгенеренную в ИИ статью удалили с хабра, поэтому чел генерит в ИИ еще одну такую же статью и выкладывает ее? А логика где?
Безумие — это делать одно и то же снова и снова, ожидая иного результата :)
Мне в соседней ветке рассказывают, что "делать одно и то же, каждый раз получая иной результат" - это не "безумие", а "алгоритм"
Вы, кажется, исполнение не отличаете от алгоритма. Алгоритм - это рецепт, набор указаний. И когда кто-то эти указания исполняет, то результат может отличаться от раза к разу, т.к. исполнение может оказаться неидеальным.
А иногда "неидеальность" добавляется намеренно, как в случае в LLM. Само по себе произведение матриц (а LLM это именно последовательность произведений матриц вперемешку с взятием максимума) всегда даёт идентичный результат, но пользователю это не нужно. Люди привыкли, что если живого человека переспросить - ответ будет отличаться. И пользователи ожидают от LLM аналогичного поведения. Поэтому каждый раз к запросу подмешивается некая случайная величина.
Выполняя шифрование, я каждый раз буду получать другие ключи. Это тоже не алгоритм?
Вот видите, вы яркое подтверждение, что человек уже не способен отличить текст, созданный ИИ, от текста, созданного человеком. Можно спокойно их уравнивать.
Да, но вы поспешите сравнить как "нейронки пишут как люди", во время как тезиз выше больше близок к "некоторые люди докатились в своих текстах до уровня нейронок"
Одно другому не противоречит. Люди и раньше выдавали довольно разнообразные тексты, просто раньше не было текстов от нейронок. Публикация как раз об этом - разницы-то нет.
нет. Раньше инфоцыгане толкали свои курсы за деньги, сейчас переключились на бесплатные статьи с доходом от рекламы. Например, см. кто самый популярный автор на хабре:
https://habr.com/ru/articles/843814/
Отбросив спор (обиду) на Хабр, остальное, кроме мелочей типа объявления адекватными только антропоцентричных моделей мира, вполне зачетно. Для меня.
За подобное мне в институте в начале 80-х препод марксистко-ленинской философии выговаривал в перерыве, негромко: "Не создавайте новую религию, юноша."
на Хабре сняли мою публикацию, текст которой был полностью создан языковой моделью,
Ну, во-первых, не вашу публикацию. Если вы в дальнейшем настаиваете на "равенстве" генеративных моделей и человеческих интеллектов, вы должны признавать за моделями полноценное авторское право.
очень сильно деформировало мою душевную организацию своей, на мой взгляд, несправедливостью.
Во-вторых, с учётом первого пункта, кажется, ваша деформация имеет вполне меркантильную причину. Публикация плагиата с целью получения каких-либо выгод (пунктиков кармы, к примеру).
Алгоритмы тоже могут порождать новые знания, не только люди.
Ну, а теперь признайтесь как на духу - содержала ли сплагиаченная вами статья какие-либо новые знания?
Да, и даю вам очень ценный, хотя и бесплатный совет - организуйте если сможете или попросите того, кто сможет (например, администрацию хабра) создать отдельный ресурс, для публикации статей, подобных сплагиаченной вами. Так сразу будет решена проблема с плагиатом и обманом читателей. Заранее будет известно происходление статей.
А теперь пара простых вопросов.
Как думаете, насколько большой популярностью будет пользоваться такой ресурс?
Пожалуй, даже более интересный вопрос - скажите, а останется ли у вас и подобных вам хоть какая-то мотивация публиковать подобного рода опусы на условиях, когда заранее известна их природа и нет возможности выдать их даже не только за свои, но и просто за человеческие? Пожалуйста, ответьте, это очень важно!
Ну, во-первых, не вашу публикацию. Если вы в дальнейшем настаиваете на "равенстве" генеративных моделей и человеческих интеллектов, вы должны признавать за моделями полноценное авторское право.
Ну как не мою, когда мою? Публикация в моём профиле под моим именем - чья же она, по-вашему? Если я дам вам текст и вы его опубликуете, это будет моя публикация или ваша? Текст будет мой, публикация - ваша.
Я не настаиваю на равенстве интеллектов, я предлагаю перестать дискриминировать знания по их происхождению.
Я признАю авторство за моделями, как только у них появится субъектность.
Публикация плагиата с целью получения каких-либо выгод (пунктиков кармы, к примеру).
Вам наверное уже говорили, что вы неприятный человек, правда? Вы стараетесь сделать мне неприятно, но делаете это неумело. Но хотя бы стараетесь. Какой же "плагиат", когда я указываю, что автор - не я? А что я ищу выгоды - так это нормально для человека. Не нормально - это наоборот. Делать что-то с ущербом для себя.
Ну, а теперь признайтесь как на духу - содержала ли сплагиаченная вами статья какие-либо новые знания?
Вы таки определённо не осознаёте значения термина "плагиат". Боюсь, что вы даже не осознаёте, что не осознаёте.
Насчёт новых знаний - смотрите сами. Все знания для кого-то новые.
Да, и даю вам очень ценный, хотя и бесплатный совет
Я очень настороженно отношусь к людям, которые раздают бесплатно даже просто ценные советы, не говоря уж об "очень ценных". Они, как правило, лгут - либо за ценность, либо за бесплатность.
Эх, на всё ответили, кроме неудобных вопросов) а ведь их обозначили как важные и именно на них ожидался ответ, в отличие от всего остального. как же так
Вы про эти? Отвечу, раз вам это так принципиально
Как думаете, насколько большой популярностью будет пользоваться такой ресурс?
Не думаю вообще на эту тему.
останется ли у вас и подобных вам хоть какая-то мотивация публиковать подобного рода опусы на условиях, когда заранее известна их природа и нет возможности выдать их даже не только за свои, но и просто за человеческие?
Могу только за себя ответить - я сразу же в первой же строке свой публикации отметил, что текст сгенерён нейронкой.
Я не выдавал текст за свой. Что было в голове у человека, сформулировавшего этот вопрос, и какой его персональный опыт предшествовал этой формулировке - я не в курсе. Вот точная копия той моей публикации на моём сайте. Можете сами посмотреть, что там и как.
Я же и пытаюсь вывести в фокус, что "источник происхождения знаний не имеет отношения к их ценности". Ценность определяется сообществом. И даже не важно, насколько при этом знание истинно - Джордано Бруно, как яркий пример. Ну или вот эта статья. Вот как можно говорить о независимости источника происхождения знания с людьми, которые настолько нестандартно понимают такие вещи, как "алгоритм" и "плагиат"? И что будет, когда таких станет большинство?
Научный метод познания синхронизирует общий корпус знаний человечества (социума) с окружающей реальностью. А если такая синхронизация пропадёт, то каждый начнёт за одними и теми же терминами подразумевать своё собственное их понимание, и истинность знаний будет признаваться простым демократически голосованием.
Если есть ещё какие вопросы, которые я пропустил, укажите на - я отвечу.
Публикация в моём профиле под моим именем
Именно об этом я и говорю. В вашем профиле, под вашим именем. Не ваша. Это и есть определение плагиата:
умышленно совершаемое физическим лицом незаконное использование или распоряжение охраняемыми результатами чужого творческого труда, которое сопровождается доведением до других лиц ложных сведений о себе как о действительном авторе
Как вы написали выше, вы опубликовали нечто под своим именем, то есть сплагиатили.
Какой же "плагиат", когда я указываю, что автор - не я?
Возможно, вы читали настолько недостаточно литературы, что вам ни разу не попадались книги написанные от третьего лица. Поверьте, это довольно распространённый художественный приём. Кроме того, откуда мне знать что там творится в вашей голове, - я располагаю только вашими же заявлениями о публикации под вашим именем. Никаких удалённых администрацией мусорных текстов, нарушающих правила платформы я не читал. То, чего нет невозможно прочитать. Был такой Бертран Артур Уильям Рассел, который проиллюстрировал данное когнитивное искажение с помощью чайника. Полюбопытствуйте при случае.
Я не настаиваю на равенстве интеллектов,
То есть вы отказываетесь от утверждения об ущемлении аглоритмов? Окей, это уже шаг к выздоровлению.
я предлагаю перестать дискриминировать знания по их происхождению.
Вы, таки, определённо не осознаёте значения термина "знания". Боюсь, что вы даже не осознаёте, что не осознаёте. То, что вы пытаетесь продать под видом неких "новых знаний" таковыми не являются, более того, вы сами в этом признались, отказавшись отвечать на прямой вопрос.
Вам наверное уже говорили, что вы неприятный человек
Вы, таки, определённо не осознаёте значения термина "Argumentum ad hominem". Боюсь, что вы даже не осознаёте, что не осознаёте. Тем не менее, для вас это означает полное признание моей правоты.
А что я ищу выгоды - так это нормально для человека.
Да, это важная часть определения плагиата. Умысел.
Какой же "плагиат", когда я указываю, что автор - не я?
Вы прямым текстом написали, что опубликовали не свою публикацию под своим именем. Вы прямым текстом заявили умысел. А потом обиделись, когда подмели то, чем вы замусорили хабр.
Насчёт новых знаний - смотрите сами.
Вы отказываетесь отвечать на вопрос. И, нет, информационный мусор не является новым знанием.
Я очень настороженно отношусь к людям, которые раздают бесплатно даже просто ценные советы, не говоря уж об "очень ценных".
Это правильно. Вы и должны бояться.
Они, как правило, лгут - либо за ценность, либо за бесплатность.
Поделюсь с вами ещё одним ценным и тоже абсолютно бесплатным - вы только что использовали известный демагогический приём "ложная дихотомия". С чем вас и поздравляю. Возможно, вы даже задумаетесь с чем именно и почему.
И на вопросы так и не ответили... А, ведь они совершенно ненапрасно были заданы.
Не думаю вообще на эту тему.
Разумеется, не думаете. Именно поэтому вопрос и был задан. В надежде, что подумаете. Но не стали. В принципе, об этом и шла речь.
Могу только за себя ответить - я сразу же в первой же строке свой публикации отметил, что текст сгенерён нейронкой.
Если это и ответ, то на какой-то другой вопрос. Вопрос был вообще не об этом. Вы, всё же, попробуйте подумать на эту тему. Думать - это важно. И в первую очередь для вас.
Напоследок дам ещё один бесплатный (на ваше удивление) совет. "Нье надо мусоритъ" (ц) Джоанна Стингрей
А вы упорный!! Старательный. Попробую подтолкнуть вас на путь к осознанию, может получится. Вот ваше же определение:
умышленно совершаемое физическим лицом незаконное использование или распоряжение охраняемыми результатами чужого творческого труда, которое сопровождается доведением до других лиц ложных сведений о себе как о действительном авторе
Укажите, где это было в моей публикации. И меня совершенно не волнует, что вы своё утверждение сделали до ознакомления с текстом моей публикации, созданным языковой моделью.
И постарайтесь вкратце. Я очень выборочно перевариваю ваш поток сознания. Как я утверждал в своей текущей публикации, бред могут нести не только алгоритмы.
Ну как не мою, когда мою? Публикация в моём профиле под моим именем - чья же она, по-вашему?
Нет, не вашу. Ознакомьтесь с законом РФ "Об авторском праве и смежных правах".
а какая, по-большому счёту, разница, кто написал эту "портянку" - человек или алгоритм?
По большому счёту разницы нет, если по итогу всё равно получается г*вно. :)
Смысл любой статьи - это привносить в этот мир ценность, т.е. быть полезной людям. LLM статьи ценности никакой не несут, хотя по форме и похожи на статьи.
Люди, которые приходят на Хабр, хотят читать мнения других людей, их взгляды на современное IT, на подходы к работе и реальное применение современных технологий.
Если бы люди хотели читать тонны нейросетевого бреда, то они бы просто открыли окно LLM, а не Хабр, и развлекали бы себя там.
Смысл любой статьи - это привносить в этот мир ценность, т.е. быть полезной людям.
Замечательная мысль! Она объясняет, почему так много статей на тему "так что же такое SOLID" или "Всё о замыканиях в JavaScript". Такие статьи появляются из раза в раз не только на Хабре.
Каждая такая статья полезна, как минимум, своему автору - он уложил смыслы в голове, пока её писал. А вот насколько она полезна остальным людям - то уже большой вопрос. Кто до этого про SOLID или замыкания не читал, вполне могут найти для себя там что-то полезное.
Я думаю, не бывает статей полезных абсолютно всем. Всегда есть те, кому статья пользы не принесёт, а только отнимет время. Но, я думаю, что верно и обратное - не бывает статей бесполезных абсолютно. Как минимум они дают понимание автору, как делать не надо.
Ну, по крайней мере пару мыслей для следующей статьи у меня появилось.
Почитал в материале комменты и ответы автора - очень скользкий чувак) на неудобные комменты отвечает оскорблениями, на неудобные вопросы не отвечает вовсе - и правда, зачем) сразу видно силу позиции. Ещё в самом заголовке подмена понятий: написано о каких-то ущемлениях алгоритмов, хотя очевидно, ущемился сам автор, о чём он и пишет в первом абзаце, алгоритмы же никто не ущемлял. В общем даже не подискутировать, всё будет выкручено под нужным углом
Дружище, я спал 4 часа назад. Как проснулся - так и отписался. А после публикации статьи у меня было мероприятие, как пришёл с него, так и прочитал комменты. Где смог, там и ответил.
Если на что-то не ответил - задавай вопрос, отвечу, как время будет. И - да, я буду всё выкручивать под нужным мне углом. В этом и смысл. Делай так же.
И люди, и программы способны порождать как бред, так и "трушные" знания. Вся разница между первым и вторым - общественное признание.
Разница в соотношении бреда и трушных "знаний". ЛЛМ не способны мыслить, не могут отличить истину от вымысла и любую информацию "считают" достоверной. Прокидывая это дальше.
Человек, натыкаясь на признаки ЛЛМ статьи - по умолчанию считает её менее "трушной", просто по той причине, что работы для её написания - проделано не было. И результатом выдачи бредогенератора - может быть как настоящие знания, так и придуманные. А что ещё хуже - среди настоящих - могут быть придуманные, которые я не смогу отличить.
Понимание того, что автор не проводил работы над текстом - делает его с огромной вероятностью для меня - бесполезным. Просто по той причине, что я могу быть не компетентным в теме (для изменения этого я статьи и читаю) и не могу довериться даже автору, потому что его (автора) - просто нет.
Вижу, что есть понимание :)
ЛЛМ не способны мыслить, не могут отличить истину от вымысла и любую информацию "считают" достоверной. Прокидывая это дальше.
Именно! Как и многие люди, что пишут тексты и даже публикуются тут, на Хабре. Прочитайте хотя бы тексты @MaxRokatansky Просто зайдите в профиль пользователя и посмотрите на количество статей и разнообразие тематики. Может у компании OTUS такая политика, что она публикует тексты своих студентов от имени "Безумного Макса". Но я лично комментировал какую-то безумную муть в одной из их публикаций. Так какая разница, кто плодит в интернете бред - люди или алгоритмы?
Человек, натыкаясь на признаки ЛЛМ статьи - по умолчанию считает её менее "трушной", просто по той причине, что работы для её написания - проделано не было. И результатом выдачи бредогенератора - может быть как настоящие знания, так и придуманные. А что ещё хуже - среди настоящих - могут быть придуманные, которые я не смогу отличить.
Да, есть такая проблема. Я за собой заметил, что всё чаще стал сканировать глазами тексты в поисках причины, по которой их стоило бы читать. По-умолчанию принимаю, что их писала нейронка. Думаю, что в таких условиях нужно менять формат подачи информации - сначала суть, а потом объяснение, почему так. Я попытался сделать так в этой публикации, но, видать, не сильно удачно. Буду шлифовать подход практикой.
Понимание того, что автор не проводил работы над текстом - делает его с огромной вероятностью для меня - бесполезным. Просто по той причине, что я могу быть не компетентным в теме (для изменения этого я статьи и читаю) и не могу довериться даже автору, потому что его (автора) - просто нет.
Ну, это ваша точка зрения. Я пытаюсь вытаскивать из текста мысли и идеи, созвучные тому, что меня волнует в моменте. Тут главное оценка отношения потенциальной потери времени на чтение к потенциально возможному профиту. И если видно, что автор провёл работу над текстом (заголовки, абзацы, схемы, выделения и т.п.), то есть смысл уделить чуть больше времени, а если "портянка текста", то не важно, сколько работы провёл автор над текстом - мне просто неудобно его "впитывать". Даже если это авторитет с мировым именем - я лучше дам его прочитать нейронке и попрошу пересказать основные идеи.
Так какая разница, кто плодит в интернете бред - люди или алгоритмы?
Никакой разницы. Было бы лучше, если бы обоих вариантов не было.
Почему компании OTUS можно, а вам нельзя? Потому что они заплатили владельцам ресурса деньги.
Покупайте себе корпоративный блог, придумывайте узнаваемое имя, и я ваши статьи буду игнорировать так же, как статьи от OTUS.
Именно! Как и многие люди, что пишут тексты и даже публикуются тут, на Хабре. Прочитайте хотя бы тексты @MaxRokatansky Просто зайдите в профиль пользователя и посмотрите на количество статей и разнообразие тематики. Может у компании OTUS такая политика, что она публикует тексты своих студентов от имени "Безумного Макса". Но я лично комментировал какую-то безумную муть в одной из их публикаций. Так какая разница, кто плодит в интернете бред - люди или алгоритмы?
Ни какой разницы нет в том кто пишет бред. Корпо блоги как минимум на хабре - можно блокировать или игнорировать. ЛЛМ - нельзя.
Даже если это авторитет с мировым именем - я лучше дам его прочитать нейронке и попрошу пересказать основные идеи.
И с некоторой вероятностью будете обмануты. Сформируете не верное мнение о тексте, авторе и будете с ним согласны или нет. А если будет его ещё и обсуждать. Объяснять кому то на "серьезных щах"... Ситуацию разогнать можете сами.
ЛЛМ и другие генераторы не зло. Зло их доступность для "не целевого" использовния.
Сформируете не верное мнение о тексте, авторе и будете с ним согласны или нет.
Я сформирую мнение о пересказе нейронкой идей автора. И на основании этого сформирую мнение, знакомиться ли с идеями автора ближе или мне это не нужно. В потоке информации для меня главное - резонанс. Если нет созвучия внешней идеи моей внутренней картине мира, я не буду даже пытаться втиснуть эту идею в мою картину.
Моё внимание - это тоже ресурс. И тратить его нужно эфффективно.
Доколе мы будем ущемлять алгоритмы?
Дотоле, пока вы не поймете, что спросить нейронку я могу и без вас.
Ну, вообще-то всех интересуют ответы на их вопросы. Особенно на вопросы, которые пока ещё не получается сформулировать. Кто-то задаст беспокоящий вас вопрос, нейронка даёт ответ - вот вам и новое знание на пустом месте. Вы ещё вопрос не успели сформулировать, а уже готов ответ - красота! Оцените экономию времени.
Я не говорил, что тут нет экономии времени. Я сказал, что непонятно, зачем в этой схеме нужна ваша статья.
А зачем вы сообщили всему миру, что вам непонятна моя статья? Могли же просто заминусовать с выбором пункта "Ничего не понял после прочтения".
Но вы же написали:
Дотоле, пока вы не поймете, что спросить нейронку я могу и без вас.
Моя статья как раз о том, что обычная "информация" превращается в "знание" в сообществе. Через осознание - принятие (или непринятие) сообществом. И не важно, кто "родитель" у этой информации - человек или алгоритм.
Вам было важно, чтобы не только я узнал, что вы не поняли после прочтения, зачем моя статья, но и сообщество Хабра. Вот это и есть - осознание.
Я даже выделил основную мысль публикации: "со‑знание — конструкт социальный".
Так понятнее?
Могли же просто заминусовать с выбором пункта "Ничего не понял после прочтения"
Зачем мне это делать, если я понял?
Зачем мне это делать, если у меня цель ответить на ваш вопрос в заголовке?
А зачем вы сообщили всему миру, что вам непонятна моя статья
Я нигде никому не сообщал, что содержание вашей статьи мне непонятно. Я сказал, что непонятна цель ее наличия на Хабре, которую вы хотите достичь. И это был риторический вопрос, чтобы вы над ним сами подумали, потому что я уже дал на него ответ "она тут не нужна".
Моя статья как раз о том, что не важно, кто "родитель" у этой информации - человек или алгоритм.
А я сказал, что мне как читателю это важно. Спросить алгоритм я могу и без вашей статьи, значит она для меня бесполезна.
со‑знание — конструкт социальный
Если источник этой информации и так уже доступен всем желающим, то получается, что это уже социальный конструкт, и ваша статья ничего не добавит.
Так понятнее?
Про вашу статью, как я уже сказал, мне все понятно с самого начала. Про ваши комменты в этой ветке понятнее не стало. Дайте пожалуйста прямой ответ на вопрос "Зачем с вашей точки зрения на Хабре нужна ваша сгенерированная статья, если ее источник и так доступен всем, и узнать эту информацию я как читатель могу и без нее?", начав его со слов "Затем" или "Потому что".
Смотрите, если чисто логически применить ответ
Дотоле, пока вы не поймете, что спросить нейронку я могу и без вас.
к вопросу
Доколе мы будем ущемлять алгоритмы?
получается, что "мы ущемляем алгоритмы", из-за того, что "я не понимаю", что "вы можете спросить нейронку сами". Из чего можно сделать следствие, что как только я это пойму, то знание, порождённое алгоритмом перестанет дискриминироваться по отношению к знанию, порождённому человеком.
Это точно именно то, что вы хотели донести до меня?
Я нигде никому не сообщал, что содержание вашей статьи мне непонятно. Я сказал, что непонятна цель ее наличия на Хабре, которую вы хотите достичь. И это был риторический вопрос, чтобы вы над ним сами подумали, потому что я уже дал на него ответ "она тут не нужна".
Да, вы правы - вы сказали, что вам непонятна цель моей статьи. Я был уверен, что из содержания статьи выводится цель её публикации, поэтому предположил, что непонимание цели вызвано непониманием содержания. Но если вы утверждаете, что вы не понимаете цели статьи, но при этом понимаете содержание статьи, то для меня становится загадкой - зачем вы вообще отвечали на заголовок? Там на КДПВ ещё и про Анджелу Дэвис было. Это всё метки, что статья писалась человеком, а не алгоритмом. Алгоритм не умеет в такие ассоциации (Анджела Дэвис == Алгоритмы) и не использует редкие слова (доколе).
Смысл заголовка - в описании ситуации, что мы тексты, создаваемые нейронками, ущемляем по отношению к текстам, создаваемым людьми. И люди, и нейронки могут создавать из слов как бредовые тексты, так и осмысленные. Попросите сгенерировать нейронку таблицу Пифагора, попросите человека создать таблицу Пифагора - два результата будут идентичны по смыслу. Мы автоматом признаём таблицу Пифагора, созданную нейронкой, просто потому, что в нашем коллективном со-знании она уже есть с меткой "это трушное знание". Ребёнок, который увидит первый раз таблицу Пифагора нейронки, сможет точно так же осознать (подключиться к коллективному знанию), как сможет осознать и таблицу Пифагора, созданную человеком. Если мы не признаём знания, созданные программами (алгоритмами), то мы должны учить наших детей только на человеческих текстах - это если быть до конца последовательными.
В этом смысл статьи. Не в генерации текстов нейронкой, а в генерации знаний нейронкой. Некоторые знания вам уже известны, а некоторые - нет. Нейронка может порождать знания, неизвестные никому ранее. Как из 7 нот порождаются новые мелодии, так и путём рекомбинации известных знаний может порождаться новое: "конечный" + "скорость" + "свет" => "скорость света конечна".
Насколько я понимаю, лично вы совершенно уверенны, что нейронка не способна генерировать новые знания. Так вот, моя статья тут для того, чтобы поставить под сомнение эту точку зрения. Это мой ответ на ваше "она тут не нужна".
Спросить алгоритм я могу и без вашей статьи, значит она для меня бесполезна.
Да, для вас - да. Но сознание - социальный конструкт. Вы - лишь одно из "вычислительных ядер". Не все "ядра" способны загружать те или иные "программы" (знания). Для вас статья бесползена, но три читателя поставили мне за неё плюсики. Вот для них.
Если источник этой информации и так уже доступен всем желающим, то получается, что это уже социальный конструкт, и ваша статья ничего не добавит.
Не у всех хабровцев есть доступ к ChatGPT - вот для них.
Дайте пожалуйста прямой ответ на вопрос "Зачем с вашей точки зрения на Хабре нужна ваша сгенерированная статья, если ее источник и так доступен всем, и узнать эту информацию я как читатель могу и без нее?", начав его со слов "Затем" или "Потому что".
Затем, что множество людей, включая лично вас, не умеют отличить написанную статью от сгенерированной. И это проблема. Проблема не в текстах, а в людях. В их увернности, что человек генерирует бред реже, чем алгоритм, а алгоритм не способен создавать новые знания.
Пожалуйста.
Я не смогу вам доказать, что эта статья написана вручную. Но ваша убеждённость в том, что она сгенерирована лишь подтверждает мою правоту.
Это точно именно то, что вы хотели донести до меня?
Да, только это не весь вывод, который вы должны сделать. Как только вы это поймете, то поймете так же, что ваша статья мне не нужна, не будете ее писать на Хабре, и поэтому никто не будет дискриминировать ее и алгоритм, который ее написал. Алгоритму это вообще пофигу, если что.
Это всё метки, что статья писалась человеком, а не алгоритмом.
Подождите. В контексте этого обсуждения есть 2 статьи. Та, которую вам сгенерировал алгоритм, и эта, под которой идет данное обсуждение.
Ваш вопрос к какой относился? Я так понимаю, к первой. Вот и мой ответ относился к первой, а также любым другим сгенерированным.
При чем тут статья, которая писалась человеком?
Я не смогу вам доказать, что эта статья написана вручную. Но ваша убеждённость в том, что она сгенерирована
Вы писали "7-го января этого года на Хабре сняли мою публикацию, текст которой был полностью создан языковой моделью".
Вы задали вопрос про нее "Доколе мы будем ущемлять алгоритмы?"
Моя убежденность в том, что та статья сгенерирована, основана на ваших словах.
Еще раз, мой ответ относился к статьям, сгенерированным нейросетью (алгоритмом). Потому что в вопросе было указано про алгоритмы.
Там на КДПВ ещё и про Анджелу Дэвис было.
Я все КДПВ отключил через Tampermonkey, поэтому не знаю, что там было.
то мы должны учить наших детей только на человеческих текстах - это если быть до конца последовательными.
Я вам так и сказал, я хочу, чтобы это на этом ресурсе были только осмысленные тексты, написанные людьми, где они делятся своим опытом или рассуждениями, основанными на этом опыте. К обучающим материалам для детей это тоже относится.
Насколько я понимаю, лично вы совершенно уверенны, что нейронка не способна генерировать новые знания.
Я про это ничего не говорил. Я говорил только про то, почему я не хочу читать сгенерированные статьи на этом ресурсе.
Для вас статья бесполезна, но три читателя поставили мне за неё плюсики.
Тут люди часто ставят плюсы "просто за старание". Не будет вашей, они их поставят за какую-то другую. Также есть вероятность, что они тоже из тех, кто хочет выкладывать статьи, сгенерированные нейросетью, а не читать их.
Не у всех хабровцев есть доступ к ChatGPT - вот для них.
А вас кто-то из хабровцев об этом просил? Создайте опрос, нужны ли кому-то сгенерированные статьи, проверим результаты, тогда и будете говорить про неких хабровцев.
Вообще пытаться угадать один чей-то несформулированный вопрос из миллиардов возможных выглядит нелогично. С большой вероятностью эта информация не будет нужна никому. То есть это будет мусор, как такие статьи и называют.
Затем, что множество людей, включая лично вас, не умеют отличить написанную статью от сгенерированной.
Мы и не должны их отличать. Мы должны быть уверены, что в статье содержится осмысленный текст, основанный на опыте автора, а не набор наиболее вероятных слов, где каждое предложение может быть галлюцинацией нейросети. Да, люди тоже пишут плохие статьи, и их тоже минусуют. Никакой разницы.
И да, это не является ответом на мой вопрос, хоть и начинается со слова "затем". После него идет просто описание факта без всякой связи с исходным вопросом. Ну не умею, а зачем она мне? Как из этого следует, что надо разрешать ее не Хабре? Тут и от людей статей достаточно.
ОК, мне кажется, я понял ход ваших мыслей. Это несколько не то, что я пытался донести, но это то, что конкретно вы смогли понять. Ладно, я тоже по-своему понял, что вы хотели до меня донести.
Есть люди, которые будут "ущемлять алгоритмы" всегда. Ничего страшного.
Раз ваш вопрос касался первой статьи, то вот ответ.
Зачем с вашей точки зрения на Хабре нужна ваша сгенерированная статья, если ее источник и так доступен всем, и узнать эту информацию я как читатель могу и без нее?
Затем, что сгенерированная нейросеткой статья поднимает вопрос о перспективах доступности нейросетей для людей с различным уровнем интеллекта в ближайшем будущем. Сейчас между крупнейшими разработчиками языковых моделей идёт борьба за "ресурс" - за людей, поставляющих их моделям "сырьё" для обучения (диалоги в чатах). Идёт бесплатное или дешёвое подсаживание пользователей на "иглу" нейросетей. Я предположил, что когда в массе своей народ "подсядет", владельцы нейросетей пересмотрят текущие правила доступа пользователей к сеткам. Я, пока у меня ещё есть доступ, попросил нейросеть смоделировать и изложить эти будущие правила доступа. Вы правы, что вы можете точно так же задать этот же вопрос нейросетке и получить от неё ответ. Но не раньше, чем этот вопрос возникнет у вас в голове.
Джордано Бруно, если что, сожгли на костре за бред — за ересь. А мы теперь считаем его точку зрения «трушной„.“»
Та, ни... Это примитивная интерпретация времен установления советской власти и борьбы с попами. Мол, смотрите, они плохие, мешают науке разиваться. 8 лет с ним инквизиция мучалась, уговаривала, пока он ходил и пропагандировал свою совершенно несовместимую с католичеством философию. Ему предлагали много раз уладить дело миром... Он же новую модель мира придумал, и Иисус Христос там не был самым или одним из самых (Троица) крутых. Не за научные теории его коцнули. За ересь теологическую, прежде всего.
Он был не столько ученым-эмпириком, сколько философом-мистиком и религиозным революционером, который использовал некоторые научные идеи (как тогдашние (типа, Коперника), так и свои собственные пророческие догадки) для построения целостной системы альтернативной христианству. Научный спор был лишь верхушкой айсберга этого фундаментального конфликта.
Но, главное!!!! Это неприятная манера общения. Был бы он помягче и поделикатнее, то продолжал бы философствовать себе потихоньку. Оставил бы, может, книги со своими идеями.
Он же был очень резок в суждениях и непримирим.
И когда кто-то говорил ему о своей вере (католической вере), то он мог и надругаться интеллектуально над человеком. Сейчас бы это назвали "оскорбление чувств верующих".
Философствовать можно! Приводи аргументы, рассуждай... Оскорблять нельзя.
Доколе мы будем ущемлять алгоритмы?