Комментарии 142
Сегодня все бастуют?! Вон у Пикабу скандалы-интриги-расследования еще..
Да Пикабу бунтует по поводу и без, люди больше развлекаются. А у СО и Реддита проблемы посерьёзнее, в плане не шуточные.
не вижу разницы, во всех трех случаях контент на платформе генерируют пользователи, во всех трех случаях решение платформы резко пошло в разрез с желаниями пользователей
С Пикабу пару лет назад во время бунта ушло много создателей контента. И ушли они как раз на Реддит (Рекабу). Сравнив две версии, я выбрал Рекабу. С такими бунтами люди и дальше будут уходить на другие площадки. Так что умеют там люди бунтовать)
Комьюнити Дискорда тоже бурлит. Многие мои знакомые плавно перекатываются на аналоги, в частности Matrix и Revolt. Друг даже в команду записался.
Много кому надоели платные QoL фичи. А теперь и старые юзертэги убрали.
Но я всё равно не верю, что хотя бы 10% аудитории перекатится на аналоги.
А в чем смысл для пользователя приходить на StackOverflow и получать ответ от chatGPT? chatGPT мы и так можем спросить, а на StackOverflow приходим именно за ответами от живых людей...
Вот и модераторы не понимают. Причем реагируют, на удивление, очень жёстко, как будто это этот вопрос касается их - я не знаю - там здоровья или благосостояния.
Думаю, в каждой из историй важнее не конкретный повод, а изначальная причина - активные пользователи платформ, построенных на user-generated content, чувствуют разочарование и негодование, когда владелец платформы совершает какие-то шаги, открыто игнорируя сообщество. Мол, это же мы тут всё создали, бесплатно и добровольно, а нас невежливо послали...
И поскольку способность децентрализованных платформ обрести массовую популярность под большим вопросом, некоммерческие фонды быстро превращаются в такие же глухие к голосу комьюнити бюрократические структуры, - в общем, очевидных решений на горизонте не видать, - то и историй таких будет всё больше.
К большому сожалению, пратформы эти - не очень децентрализованные, в том смысле, там есть люди, реально обладающие властью над платформой. При этом разделение властей не существует, а потому административная власть может влиять на ситуацию через технические меры. А от этого недалеко и до тирании, когда по каким-то вопросам, например, уже нельзя просто указать на факт, а можно высказываться только проявляя политическую сознательность.
Так я и пишу, что децентрализованные площадки на замену коммерческим пока не спешат приходить и не факт, что оно вообще взлетит у кого-нибудь в статистически значимом масштабе. А покуда у любой площадки есть владелец со своими коммерческими, политическими интересами или просто своей точкой зрения, не устраивающей "профсоюзный актив", - конфликты неизбежны. Какую-то площадку такие конфликты, может быть, и потопят, но в целом история будет повторяться.
Со Stack Overflow ирония в том, что сама эта площадка выросла из такого же бунта пользователей Experts Exchange :)
ну так это веб3+ пользователи генерируют контент, собственники монетизируют, тот же хабр например, ничего необычного и нового, никогда такого не было и вот опять
То есть вы исключаете возможность того, что у людей может быть своя аргументированная принципиальная позиция по этому поводу? Им, видимо, нужно поступить как модераторам Реддита, которые грозятся двухдневной забастовкой, которая ничего не меняет вообще.
Эээ. Боюсь, вы неверно истолковали мой комментарий. Нет, я совсем не исключаю того, что у людей может быть аргументированная принципиальная позиция по этому поводу, и полностью её разделяю. Как только я разобрался, что к чему, то перестал ставить флаги для модераторов и в целом прекратил свою активность на сайте.
Но помимо этого, по ощущениям из личной переписки и приведенных в статье постов, протесты на SO носят прямо-таки личный характер. Это для меня почему-то явилось неожиданностью.
Как бывший модератор StackOverflow отвечу: модераторам дорого сообщество. А подобными мувами и наплевательским отношением к участникам и контенту SO, как компания, опять фигню вытворяет.
модерация на StackOverflow всега была очень жесткая.
Любой ответ должен быть четким, по теме, грамотным, полным. И там прям тебя гнобят пока ты его таковым не сделаешь, или не уберешь.
Почти те же правила и к вопросам.
В общем очень много ручной работы, чтобы ответы были "хорошими". А потом таким людям, которые делают такие ответы дают модераторство и все усугубляется. Я тоже приложил немного лепты.
И теперь весь этот труд сделанный большой кровью просто продают через чатГПТ. При этом естественно с авторами и модераторами никто не делится. И честно говоря, новые технологии конечно появляются, но уже имеющийся контент на StackOverflow может заменить много энциклопедий и документаций, причем иногда прям глубоко копнули.
Не очень понятно, в чём жёсткость модерации, если примерно половина ответов часто не даёт подходящий ответ. И большое количество вопросов просто дубируют уже существующие. Так что чтобы понять какой ответ можно использовать и из какой ветки, часто приходится потратить прилично времени. Можете пояснить?
Ну сравните качество 10-20 ти ответов на StackOverflow и хабровском тостере.
Плюс есть атмосфера -
На Тостере не нравится вопрос, ну игнорируй. Ну можешь поспорить с автором ответа в комментах. Но модераторы вмешаются только если ответ абсолютно не ответ, или оскорбителен.
А на StackOverflow если не нравится ответ, или он недостаточно точен, или недостаточно красиво оформлен, его могут захейтить и автор вопроса и модераторы и проходящие мимо юзеры, и если ты его не исправишь за определенное время, его просто вытрут
ИМХО, по моему опыту на SO вы сгущаететкраски.
На SO минус к ответам отражается на твоей карме, а удаляют то, что нарушает правила или не является настоящим ответом. А вот некрасивое оформление вряд ли приведет к удалению, так как ответы можно отредактировать и предложить свою правку (при определенной репутации и просто редактирровать).
ИМХО, но умение давать правильные и четкие ответы важно само по себе, а на английском — вдвойне. Поэтому я бы не сказал, что требования к качеству ответов на SO это что-то плохое.
Отвечу из своего опыта.
Там не получится, например, сказать человеку "так делать нельзя" даже на тупой вопрос. Ты должен привести ссылки на источники, почему нельзя, аргументировать свою позицию развёрнуто и практически всегда предложить какое-то альтернативное решение, такое же развёрнутое
Если "так делать можно", всё равно надо написать подробно, развёрнуто, понятно!, с форматированием кода и так далее. Не получится ни одной строчкой отделаться, ни набросать решение по-быстрому. Нет, ну не всегда, конечно, но в большинстве случаев
Зато понимают владельцы, что чатГПТ под маской СтекОверфлоу будет лучше продаваться.
Так именно модераторы и бастуют же
Ответ чатГПТ может быть не правильным, другие пользователи на это обратят внимание комментариями и оценками.
А мне кажется, люди (а иногда - и роботы) заходят на SO в поисках ответа на вопрос, за примером кода, объяснением... Не так уж важно, кем именно написан ответ, если он верный. А навскидку определить "ценность" ответа помогают "оценки", т.е. голоса сообщества.
Почему бы не помечать ответы ИИ со специальным образом?
Да, ИИ иногда с умным видом выдаёт чушь. Но и люди тоже таким часто грешат. Пора бы уже принять как аксиому, что автору вопроса и просто гуглящим не следует бездумно верить всему, что кто-то пишет в ответах.
Статью и комментарии не читай, свой комментарий (предполагающий, что все остальные - дураки) пиши.
Одна из проблем текущей ситуации - что у модераторов нет возможности просто сходу удалять очевидные ответы чатботов за сам факт этого, а количество таких ответов превышает возможность сообщества по саморегуляции через голоса пользователей.
Согласен с этой позицией, однако так же рассматривал гибкие варианты. Например, можно было бы действительно натренировать ИИ как предложено и публиковать один ответ от имени администрации или нагрузить на конкретные функции. Помню там уже есть боты, которые занимаются форматированием и удалением минусных постов. Ну или не начислять за генерированные варианты баллов или помечать их, чтобы не вводить в заблуждение. По сути, это часть требований модераторов, чтобы с ними считались и вели диалог, а диалог это компромиссы.
Кто следующий? Вставай страна огромная....!
Интересно, как они там отличают "контент, сгенерированный ИИ" - банят за корявый английский? Или речь только о бессмысленных текстах, и если читать, что публикуешь - то прокатит?
Наоборот :)
Смотришь - индус, который в 2022 году по-английски двух слов не мог связать, в 2023 вдруг начал соловьём разливаться! Причём видно, что не понимает ни слова из написанного. Вот ниже пример. Там, правда, сам вопрос был идиотский, "в чем отличие include от import в PHP" - (в ПХП нет оператора import) - но "автора" ответа-то это все равно не извиняет
The include and import statements in PHP are used to include the content of another file into the current file. However, there are some key differences between the two statements.
include will only generate a warning if the file to be included cannot be found, while require will generate a fatal error. This means that include is a more forgiving statement, and the script will continue to execute even if the included file is not found.
include will include the entire contents of the included file, while import will only include the classes, functions, and constants that are used in the current file. This means that import is a more efficient statement, as it does not include any unnecessary code.
include can be used to include any type of file, while import can only be used to include PHP files.
In general, include is a good choice when you need to include a file that may not be available all the time, such as a configuration file. import is a good choice when you need to include a file that is always available, such as a library of functions.
Ну классическая же галлюцинация. Но при этом написанная безукоризненным английским языком!
Читал где-то, не смог найти, натренировали ИИ, который может отличать тексты человека и другого ИИ с 99,99% вероятностью. И делает это он по тем какие слова и как часто используются в тексте. Думаю, что люди делают примерно так же + по смыслу написанного текста.
Ask Ubuntu meta. Тупой перевод через хухл.
Revolution. The Beatles.
Revolution. The Beatles:
You say you want a revolution
Вы говорите, что хотите революции
Well, you know
Ну, ты знаешь
We all want to change the world
Мы все хотим изменить мир
You tell me that it's evolution
Ты говоришь мне, что это эволюция
Well, you know
Ну, ты знаешь
We all want to change the world
Мы все хотим изменить мир
But when you talk about destruction
Но когда вы говорите о разрушении
Don't you know that you can count me out
Разве ты не знаешь, что можешь на меня не рассчитывать
Don't you know it's gonna be all right
Разве ты не знаешь, что все будет хорошо
all right, all right
хорошо, хорошо
Ох, лучше б не переводили. Ведь что б понять, что ж там на самом деле говорилось, нужно перевести обратно на английский.
"Я объявляю всеобщую забастовку модераторов из-за новой политики AI в отношении контента" - неужто там AI до такой степени эволюционировал, что аж собственные политики в отношении контента уже стал генерировать и принимать?
А что не так?
Задел чувства к прекрасному в англоязычной версии?
На askUbuntu superuser и Unix&Linux я - Member for 2 years, 7 months(top 13% overall silver badges)
Добровольно помогаю пользователям, когда есть время.
Причина невысокого результата - отвечаю на те вопросы, которые мне интересны.
Слушаю The Beatles с детства. Отличная песня - Revolution. Songwriter(s) Lennon–McCartney. Released 22 November 1968. Recorded 30–31 May and 4 & 21 June 1968
Я не понимаю, кто-нибудь, разъясните, пожалуйста, в чем дело:
Пользователи-человеки отвечают другим пользователям-человекам на вопросы.
На таких ответах владельцы StackOverflow тренируют свои собственные закрытые нейронки.
Постят ответы эт этих самых закрытых нейронок (помеченные как "ответ от нейронки") в платных закрытых сообществах (грубо говоря mycompanyname.stackoverflow.com), так что никто кроме модераторов этих самых закрытых сообществ таких ответов не видит (и выдачу Google эти ответы не засоряют).
Так в чем, собственно, проблема-то? То, что ваши данные (вопросы и ответы), которые вы сами разместили на сайте, принадлежащем сторонней компании, эта самая компания может монетизировать как захочет (и это явно прописано в пользовательском соглашении, в котором обязательно присутствует пункт "мы оставляем за собой право в любой момент поменять это соглашение без предупреждения")?
Вы ж не увидите результаты того, как бот нейронки StackOverflow будет постить ответы, если только не являетесь членом закрытого сообщества.
Там наложилось две проблемы. И первая по сравнению со второй уже как-то меркнет. Речь в данном случае идет уже не об ответах собственной нейронки, а об ответах обычного ChatGPT в обычной, открытой части Stacvk Overflow. Именно против этого модераторы боролись полгода. И запрет, который администрация наложила на эту борьбу, так всех возмутил.
Но ведь SO саморегулируемый. Ну в некоторой степени, самр срьрй. И сейчас никто не мешает (и вчера никто не мегал) любому индусу отвечать всякую чушь. И иногда не вполне корректные, скажем так, ответы, помечены зелёной галочкой...
А в целом мне лично это больше всего напоминает борьбу с ветряными мельницами. Или луддизм - не в плане моральной оценки явления, а в плане попытки остановить объективные тренды развития общества.
Или луддизм — не в плане моральной оценки явления, а в плане попытки остановить объективные тренды развития общества.
А вдруг это не совсем развитие, а наоборот — уничтожение общества? От чего отталкиваться в таких ситуациях?
Но ведь SO саморегулируемый.
В том-то и проблема, что нет.
И сейчас никто не мешает (и вчера никто не мегал) любому индусу отвечать всякую чушь.
Гипотетический индус не может писать в минуту по 10 ответов, удовлетворяющим (на первый взгляд) всем критериям качества. А ИИ может.
Про луддизм - это очень заманчивый, но ложный аргумент. Потому что "объективный тренд" не обязывает ему подчиняться, если он противоречит решению конкретной задачи.
Вы же не станете, например, спорить, что какой-нибудь jQuery был "объективным трендом", но только идиоты бросились бездумно всё под него переписывать.
И сейчас никто не мешает (и вчера никто не мегал) любому индусу отвечать всякую чушь
Тут колличество, перерастающее в качество. ЧатЖПТ генерит очень правдободобные тексты в промышленных масштабах. Условный индус так не может даже близко. Количество всякой чуши, которую только эксперт распознает, вырасло экспоненциально. Никакие модераторы и голосования пользователей тут не справляются.
Это решается ограничением количества ответов, которые может оставлять пользователь. Качественный ответ быстро не родить даже с помощью ИИ (его же надо вычитать и проверить на достоверность), так зачем давать пользователям возможность заливать по 10 ответов в минуту? Максимум ответ в час.
Более того, если при проверке ответов обнаруживается, что с аккаунта льётся чушь, ограничения можно ещё ужесточить — вплоть до ситуации, когда бот сможет оставлять не более одного ответа в год.
Не особо это решается. Просто регается больше акканутов. А раз в час — это слишком мало для нормального пользователя. Можно, конечно, сделать такое ограничение, пока один из ответов не заплюсуют, но это довольно скоро случится.
ограничением количества ответов, которые может оставлять пользователь.
Тью, сначит сгенерим миллион пользователей. Всякие капчи легко решаются, если не автоматически, так китайцами на копеечной зарплате.
Качественный ответ быстро не родить даже с помощью ИИ. Максимум ответ в час
Простите, а сколько у вас ответов/репутации на SO? Суд по вашему сообщению — не очень много. Большинство вопросов — элементарные и ответ на них можно дать в течении минуты (включая проверку на достоверность). Когда мне бывало скучно, я за час писал порядка 15-20 ответов и судя по моей текущей репутации — сообщество вполне считает их качественными.
Если вводить ограничение для людей в 1 ответ в час — многие пользователи разбегуться по другим сайтам.
Тью, сначит сгенерим миллион пользователей.
А смысл? Индусы юзают ИИ, чтобы набивать себе репу, заспамливание мусором не самоцель. А как её набьёшь, если с каждого аккаунта в сутки выходит не более 24 ответов, причём уже после первых пяти акк уходит в бан?
Соответственно, придётся им действовать по старинке.
Когда мне бывало скучно, я за час писал порядка 15-20 ответов
Когда аккаунт даёт хорошие ответы и набирает репутацию, через какое-то время ограничения можно ослабить. Вдруг начал опять гнать чушь — ужесточить, и второй раз нарабатывать на послабление придётся уже дольше.
Индусы юзают ИИ, чтобы набивать себе репу, заспамливание мусором не самоцель. А как её набьёшь, если с каждого аккаунта в сутки выходит не более 24 ответов, причём уже после первых пяти акк уходит в бан?
Например, создаем много мусорных аккаунтов, которые потихоньку набивают репутацию, ставя лайки друг другу. Даже если их будут прибивать, какие-то выживут. А потом используем эту сеть для прокачки основных аккантов. Более того можно продавать услуги прокачки на сторону.
Когда аккаунт даёт хорошие ответы и набирает репутацию, через какое-то время ограничения можно ослабить.
Проблема в том, что повышать репутацию и принимать ответы будут другие боты.
P.S. Да я верю, если очень постараться можно вычищать такие мусорные аккаунты. Но что если за один день модераторам придет десять тысяч мусорных ответов на десять тысяч мусорных вопросов, причем несколько из них очень похожи на правильные?
Если дальше использовать проскачившие ответы для обучения ИИ — через какое-то мусорные ответы будут все больше похожи на правильные (но все равно остануться мусорными).
Ну вот я занимался модерацией ответов (с определенной репутации это доступно не только модером, но и обычным пользователям) — левые ответы относительно легко обнаруживаются по нарушениям правил, рекламе, агрессии и т.п., но очень сложно обнаружить когда кусок кода написан и написан похоже на правду, но не работает на самом деле (использует функции, которых в языке просто нет). Особенно, если ты специалист, скажем на Java, а код на условном C#. Или наоборот. Причем код может быть неполным и его вообще невозможно просто взять и запустить без долгих танцев с бубном.
Например, создаем много мусорных аккаунтов, которые потихоньку набивают репутацию, ставя лайки друг другу. Даже если их будут прибивать, какие-то выживут. А потом используем эту сеть для прокачки основных аккантов. Более того можно продавать услуги прокачки на сторону.
Ребята, не стоит вскрывать эту тему. Вы молодые, шутливые, вам все легко (с)
А сейчас кто удалял бото-ответы или мусор?
Что мешает удалять его так само?
Так запретили удалять не найдя ошибки. А искать ошибку — долго.
А если просто помечать такие ответы как "сгенерировано AI, возможно, полная чушь"? Ну и те, кто смог проверить, может добавлять комментарии "проверено, работает".
Там написано про то, что нет возможности удалять, а заминусить кармы не хватит. Я же предлагаю добавлять комментарии, которые не расходуют карму.
Какую конкретную задачу и насколько успешно наличие этих комментариев будет решать?
Задача "довести до внимания читателей, что тут может быть написана фигня". Как и комментарии у обычных ответов. Вроде "не работает на такой-то версии ПО" для случая, когда ответ был написан (и работал) для старой версии ПО.
Если маркировка будет в начале, а не в конце такого ответа, то задача будет решаться еще более успешно.
Проблема в том, что явно и недвусмысленно разрешили генерированные ИИ ответы на всех сайтах сети, а не только в платных закрытых сообществах.
Теперь любой грифер может подключать ботов и заваливать сайт отборными галлюцинациями ИИ, остальные участники сообщества будут вынуждены вычитывать этот контент чтобы оценить (причём напоминаю, что ответам одного участника более трёх минусов в день ставить нельзя), а модераторам запрещено вмешиваться в это всё.
5 минусов схватил, ответ удалился
Нет, там чуть сложнее. Минуса достаточно одного, и после этого появляется кнопочка "удалить". И дальше нужно только три голоса за удаление (на основном Stack Overflow количество голосов снизили до трех где-то лет 5 назад, а на большинстве сайтов сети по прежнему осталось 5).
Но проблема в том, что во-первых, если у поста есть плюсы, то его надо сначала согнать в минус, а во-вторых, кто угодно проголосовать за удаление не может - нужно какое-то количество кармы. И обычно даже трех голосов не набирается.
Если изложить коротко, то это проблема того, что мусор создаёт дополнительную нагрузку. Это не уникально для SO, в openstreetmap практически та же ситуация - пока дойдет до удаления пользователя и пресечения "фонтана", все пыхтят и удаляют, а оно опять появляется. Это типичная ситуация failure to escalate.
Спасибо за замечание. Я чуть подредактировал текст, чтобы чётче разделить эти два случая, а то они действительно сливались.
ИМХО - весьма и весьма недальновидное решение со стороны владельцев ресурса. Если ответы на вопросы начнет генерировать ИИ, то практическая ценность контента начнёт стремиться к нулю (по причине недостоверности ответов). А ценность данного ресурса определяется как раз таки ценностью контента.
Ресурс большой, у ресурса наверняка масса наёмного менеджмента. А у менеджмента - KPI. И в числе этих KPI наверняка посещаемость. Которая, вероятно, упала в связи с тем, что пользователям в простых случаях чаще стало быстрее спросить у ChatGPT (по себе сужу). Ну вот они и решают эту проблему как могут, чтобы без бонусов не остаться.
В этой картине мира эскалация со стороны комьюнити, кстати, может и сработать, перенеся решение с уровня менеджмента на уровень собственников, которые могут оценить стратегическую картинку и пересмотреть KPI. Посмотрим.
Они, конечно, могут просто сделать два СО: людское и АИ, чтобы разнести их в разные разделы. Но что-то мой пессимист внутри говорит, что второе со временем победит (по посещаемости, количеству лайков и т.д.). Грустно это все...
Которая, вероятно, упала
Так точно.
На Stack Overflow есть прямой доступ к базе, и я там смотрю тренды. Так вот, ладно РНР - к нему интерес стабильно падал каждый год (правда процентов по 20, а не сразу на треть, как в этом году: в 2022 было 40К вопросов, а за первые полгода 2023 только 13К). Но даже у Питона, который все время был на подъеме, 250К в 2022 и всего 80К за первые полгода 2023 - та же треть.
> простых случаях чаще стало быстрее спросить у ChatGPT
Вы это серьезно сейчас?
Просто для начала почитайте уже наконец какова цель была поставлена создателями chatgpt.
Генерация текста максимально похожего на тексты из интернета - это только случайно может дать что-то реальное полезное.
Ставить в один ряд chatgpt cо Stack Oмerflow - это уже перебор....
Тем не менее, когда есть простой точечный вопрос в сфере, с которой ты не постоянно работаешь и всех нюансов синтаксиса / функций / модулей и т.п. наизусть не помнишь, - ChatGPT даёт моментальный результат, который можно быстро допилить. Меня в последнее время особенно радует поручать ей задачки даже не на программирование, а сисадминские - "построй мне запрос на PromQL для такого-то дашборда" или "набросай плейбук Ansible, который делает то-то". Конечно, если бы я хотел стать профи в Prometheus или Ansible - было бы продуктивнее прочитать-таки доки и писать самому с чистого листа, - но поскольку для меня это просто разовые практические задачки, то ChatGPT тут сильно ускоряет процесс.
Когда вы задаете вопрос ChatGPT, то вы как минимум предполагаете, что ответ может быть недостоверным. И относитесь к нему с разумным скепсисом.
А со Stack Overflow ситуация совсем другая. Я, как технический специалист, иду туда, чтобы найти КОРРЕКТНОЕ решение проблемы. Для меня это способ получить консультацию от инженера, который разбирается в предмете вопроса лучше, чем я. Но если ресурс будет содержать достоверные ответы инженеров вперемешку с недостоверными (но весьма правдоподобными) галлюцинациями ИИ, то какой смысл мне вообще идти на этот ресурс?
PS
Если в бутылку с чистой питьевой водой накапать жижи из канализации (даже если совсем чуть чуть) - то вся вода из бутылки становится непригодной к употреблению.
Так это понятно, но у всех же разные паттерны использования. Кто-то идёт за экспертными решениями сложных проблем, а кто-то - за готовым куском кода, который можно скопипастить в качестве "рыбы", потому что лень читать доки :) А кто-то и за тем, и за другим в разных случаях. Вот со вторым кейсом многие и переключились на ChatGPT.
И да, я тоже считаю, что адаптироваться к нейросетевым реалиям надо не "вширь" (много контента сомнительного качества) - тут ChatGPT не обгонишь, а "вглубь" - усиливая модерацию, привлекая экспертов, чтобы повысить уровень доверия... но у текущего менеджмента SO вот, по ходу, другая позиция.
P.S. Но вообще я ко всем ответам на SO всегда относился так же, как и к ответам ChatGPT - это надо перепроверить, понять, как оно работает и переписать под свой контекст/стиль и пр. Если сработало - прекрасно, чудо, если нет - ну тебе там никто ничего и не был должен :)
Вы это серьезно сейчас?
Да, люди часто об этом говорят. На SO давно жалобы идут из-за проблем в коммьюнити.
Так и они же потом писали, мол при достижении определённого объёма данных для обучения нейросеть приобрела навык решения новых задач. И я полностью согласен с мнением автора выше, сам стал часто обращаться к чатжпт вместо привычного гугления.
Да никто не запрещает вам верить что вам повезет. Верьте на здоровье - вон как в соседней теме про проповедь от того же чатгпт - там тоже вера помогает принять как истину то, что по сути просто правильно построенные фразы и предложения.
Решения каких-то новых задач - нужны чуть больше чем слова про это "приобретение": нужны множественные (статистически значимые) примеры таких решений в условиях почти нулевого процента фейков. А пока мы видим несколько иное, как в примере где недо-ИИ наклепал ссылок на несуществующие судебные дела и тому подобные скандалы.
Я только очень вам желаю не положить прод у себя на работе воспользовавшись советом chatgpt. От всей души.
Я насмотрелся на код из SO в проде. Печальное зрелище.
Критическое отношение к чужому коду просто должно быть. И не важно на его источник. Если вы доверяете коду со SO и идете с ним в бой без проверки - это, конечно, ваше право. Но вы ведь его проверяете, да?
Для меня SO это просто подсказка куда идти. Не более.
Кроме того у меня обычно покрытие unit-test-ами 90+% поэтому я уверен и не смотря на это регулярно такски прилетают с rejected_by_QA.
Но я очень не хотел бы на SO видеть такое как липовые судебные разбирательства, т.е. посыл в никуда, на который мне придется потратить свое время бестолку. Там на SO и без недо-ИИ хватает шлака. А вот от chatgpt я просто не ожидаю ничего кроме шлака и, с вероятностью крайне незначительно отличающейся от нуля, получить верное направление.
Но если у вас много времени на разбор ИИшного шлака - вельком.
Просто для начала почитайте уже наконец какова цель была поставлена создателями chatgpt.
Генерация текста максимально похожего на тексты из интернета
Вот только SO — часть интернета. И давать на вопросы по коду ответы максимально похожие на ответы SO — не так уж и плохо. Как минимум быстрее чем пытаться то же самое на SO загуглить (или ждать ответа неделями)
Плохо, программный код, в котором каждая 10 строка выдумана и вообще не существует или (что еще хуже) содержит логические ошибки, это часто еще хуже чем отстутвия кода. Потому что доведение кода из 50 строчек до ума часто может потребовать во много больше времени, чем найти или написать его с нуля.
Особенно трудно найти и исправить ошибки тем, кто пока что сам не может написать эти самые 50 строчек* и поэтому спрашивает готовое решение. Тому же, кого написать с нуля затруднит лишь минимально, советы и помощь в виде готового решения вообще как бы не очень-то и нужны. А вот обмен опытом - нужен. Нельзя знать все и, тем более, сразу.
*
Не будьте снобистами - не все люди могут и должны уметь писать код. Нет ничего зазорного в том, чтобы быть специалистом в чем-то другом, а спрашивать помощь в кодинге для разового, иногда вообще чисто хоббийного проекта.
Я не про это, а про то что у того кто не может написать эти 50 строчек — есть варианты нагуглить на SO, найти того кто напишет их за тебя (бесплатно или платно), либо обратиться к ИИ.
Проблема последнего варианта, в том что зачастую найти хитрую ошибку в коде намного сложнее, чем просто написать/нагуглить код с нуля. В результате, человек потратит много времени и не получит результат или получит совсем неправильный результат.
Это примерно как дать чинить бытовую технику человеку, который плохо разбирается в ремонте, есть большой шанс, что после такого "ремонта" цена ремонта в профессональном сервисе сильно возрастет или придется покупать новую технику.
Я бывший добровольный модератор большого форума, не конкретно SO и не околоайтишного вообще, но все равно это позволяет мне иметь обоснованное имеющимся опытом мнение и иметь моральное право его озвучить.
Форумы, площадки типа Хабра и тому подобные места, наполняемые чем-то ценным действующими добровольно энтузиастами, управляются конкретными людьми или конкретными организациями, а вовсе не пользователями, наполняющими эти площадки. Однажды отданный туда контент "вернуть назад" невозможно, однако он, контент, не является свободным - можно как угодно витеиватым юридическим языком расписывать права и обязанности сторон, но управление контентом, пусть пока свободно доступным для чтения многими (требуется регистрация, пусть формальная) или всеми (нет ограничений на просмотр), безвозвратно переходит к руководству площадкой. Пока все хорошо, а это "хорошо" может длиться довольно долго, все довольны, а администрация даже делает вид, что консультируется с пользователями в отношении политик, фич и тому подобного. Но если администрация решает преодолеть пользователей силой - администрация это сделает и ничто ей не помешает. Эмоционально это означает глубокое разочарование тех, кто искренне волонтерил ради любимой площадки и собственного удовольствия от активности на ней - кто-то уйдет навсегда, кто-то изменит свою роль с активного участника на редкого гостя, но для администрации это неважно - старых модераторов, не согласных с новой политикой, заменят новые, а вместо старых активных пользователей придет ChatGPT. Вот и все.
Неважно, добьется в этот раз сообщество желаемого или нет - важно то, что последнее слово не за сообществом, не за теми, кто сделал площадку популярной и, в общем-то, важной с точки зрения аккумулированных на площадке знаний. А эти знания по одному нажатию кнопки могут закрыться и исчезнуть из свободного доступа, став датасетом для обучения коммерческой нейросети или что угодно еще такого же плана.
а вместо старых активных пользователей придет ChatGPT
Но ведь ChatGPT отвечает только на основе уже существующих ранее ситуаций/ответов, а на новые кто ответит? (спорю со своим внутренним пессимистом)
ChatGPT отвечает на любой входной текст. Насколько этот ответ нравится человеку – другой вопрос.
ChatGPT отвечает на любой входной текст
Отвечать и отвечать правильно — две большие разницы.
Да RTFM же вы наконец. НЕ ответы дает chatgpt - он научен правильно расставлять слова в предложения и предложения в связаный текст.
Это не ответ - это просто правильно построенный текст на английском.
Ответом он может быть только случайно, чаще когда вопросы простые, на которые в сети 1000500 правильных ответов на десяток неправильных.
Конечно, это не ответ на вопрос по смыслу. Тем не менее, кусок текста, присылаемый юзеру, чисто с точки зрения сетевого взаимодействия корректно назвать ответом.
Предполагаю, что вы не слишком активно пользуетесь ChatGpt. Он иногда выдаёт галлюцинации, это факт. Но рефакторит код он хорошо. По крайней мере я скинул ему модуль на языке pl/sql, в котором была явная для опытного разработчика неэффективность. Он его переписал, объяснил комментариями, почему именно так, сохранив стиль наименования переменных, все имена таблиц и колонок. Так же я его просил рефакторить простенькие powershell-скрипты, справляется на ура.
Но если администрация решает преодолеть пользователей силой - администрация это сделает и ничто ей не помешает.
Ну вот администрация Хобота успешно преодолела и форум сдох, в новостях резвится школота, вместо серьезных обзоров компьютерной комплектухи высеры копиврайтеров про кастрюльки и пилочки для ногтей, а за констатацию факта - это "джинса" - посмевший вякнуть ловит shadow ban. Ах да, еще блоги... но тут господь просто отвернулся и заплакал. RIP когда-то уважаемый портал, но администрация, судя по всему, не голодает.
но администрация, судя по всему, не голодает
То есть, задним числом, можно констатировать правильность новой политики с точки зрения администрации вообще и ее благополучия в частности. А если вы пользователь (бывший или продолжающий жевать кактус), то вышеуказанной администрации ваше мнение интересно чуть менее чем никак. Q.E.D.
Трудно сказать, не подглядывая в их бухгалтерские книги, предполагаю лишь по косвенным признакам - бараньему упорству, с которым они гнут свою линию: коммьюнити - ничто, трафик - все. На дистанции для сайта это всегда играет в минус, но полтора землекопа, которые там остались, еще долго смогут кушать бутерброд с икрой.
контент, не является свободным
Вообще-то весь контент на SO публикуется под свободной лицензией. Никто не мешает сообществу тупо спарсить весь контект с SO и запилить свой SO с блекджеком и программистками.
А эти знания по одному нажатию кнопки могут закрыться и исчезнуть из свободного доступа
Основатели СтОвы насчет этого готовились — каждый месяц в Internet Archive отправлялось всё
И в общем-то на счёт этого тоже забастовка: одно из требований — восстановить эту архивацию, а то последние 2-3 месяца пропадают
Я бывший добровольный модератор большого форума
Что за форум?
модераторы смогут отстоять свою позицию, хотя бы в части отношения к ИИ-контенту.
Они в прошлый раз не смогли право не использовать кастомные местоимения отстоять (все спустили на тормозах). А тут - попытки зарубить основные KPI и путь монетизации. Без шансов, кожаные мешки! Как бывший мод, вангую - CM-ы буду просто сидеть и делать вид что все отлично. Может еще в блог пост напишут как все хорошо. Через месяц-два наберут новых модераторов и все будет как раньше.
Так самый простой способ победить разрешение на ИИ - нагенерировать бред от него и вывести это в топы. В таком случае у сайта будет плохая репутация
Какая разница, какая репутация и что в топе (У СО есть топ? Всегда из гугла шёл сразу в нужные темы)? Имидж ничто - трафик всё. Собственно, как сообщают тут же выше, именно трафик и проседает, с чем администрация пытается справиться, припахивая ChatGPT для ответов на сайте, так как посетители сейчас это делают напрямую.
Я ХЗ, чем поможет на сайте ввод ИИ, когда им пользуются без сайта, поезд как бы уже ушёл. Но админы пытаются выжить. А модеры ругаются, что выжить пытаются за счёт них.
Классовая борьба в миниатюре.
заметил за собой, что с выходом chatGPT я на StackOverflow ни разу не заходил.
Я так понимаю, что это проблема не только СО, а вообще всех проектов, где контент генерят юзеры. В последние месяцы на всякие ChatGPT чуть ли не молиться начинают, но, видимо, забывают, что без контента пользователей всякие ChatGPT бы просто не появились, а в будущем, - имеют все шансы просто провалиться, потому что, появись завтра новый ЯП или технология, и, если не будет базы, на которой обучать нейронку, то она в этой новой технологии просто будет бесполезна.
Это же касается не только программирования, но и даже, например, обычных языков. Любая машина на этой земле очень плохо справляется с редкими парами языков (например, Зулу - Армянский), потому что нет базы, на которой можно хорошо научиться переводить (да что тут говорить, переводы даже в парах известных и популярных языков, до сих пор проигрывают человеческому переводу).
но, видимо, забывают, что без контента пользователей всякие ChatGPT бы просто не появились
Как и люди. Они не с рождения все эти ответы и контент знали. Они брали их из знаний других людей, которые чуть-чуть досочиняли к знанимя, полученным у других людей, которые чуть-чуть досочиняли к...
Ох, как я ждал этого коммента, который отлично вписывается в хайп вокруг нейронок.
Хм, окей, когда нейронка будет способна на что-то большее, нежели статистический анализ данных и поиск закономерностей, - пожалуйста, напишите в этот тред. А пока что - сорян, извиняйтесь перед учёными, которых вы только что превратили в тех, кто "досочиняли..".
Вообще, очень похоже на "обезьяна тоже кисточку держать умеет". Ну, она-то умеет, и не один десяток лет уже это известно, только шедевров ни одна обезъяна не сотворила.
Вообще, очень похоже на "обезьяна тоже кисточку держать умеет". Ну, она-то умеет, и не один десяток лет уже это известно, только шедевров ни одна обезъяна не сотворила.
Эту аналогию можно рассмотреть с двух различных ракурсов как минимум.
Первый по счету, необязательно по важности - это смотря какой вид обезьян. Известно, что редкие представители обезьян вида homo sapiens вполне себе создавали шедевры. Про другие не ископаемые виды я лично знаю меньше, но я и не эксперт-искусствовед. Второй по счету - это смотря что считать шедевром. Не единичны же случаи, когда спорные, скажем так, произведения живописи, включая и созданные с помощью животных - необязательно конкретно обезьян вида homo sapiens, продавались за суммы, сопоставимые с расценками на общепринятую классику живописи.
К моменту рождения у людей нейросеть очень нефигово прокачена.
На Quora совместили ответы юзеров и ChatGPT, вероятнее всего так и будет на SO.
Hidden text
Так и не понял что люди спрашивают у чатгпт, ни одного вменяемого ответа на свои вопросы не получил, одни галлюцинации, либо совершенно бесполезные ответы.
Если вопрос настолько простой что даже чатгпт может на него ответить - ответ можно найти в гугле, в том же стаке или в доках и каких-то гайдах. И этот ответ будет без галлюционаций от нейросети. Если же вопрос хоть как-то отличает от стандартного, то поможет только эксперт в сообществе.
Если вопрос настолько простой что даже чатгпт может на него ответить -
ответ можно найти в гугле, в том же стаке или в доках и каких-то гайдах.
А можно не найти. Во-первых, зачем искать, если языковая модель выдаёт ответ на блюдечке? Во-вторых, качество выдачи у гугла испортилось в последнее время.
А можно не найти.
Эм, если гугл не найдет ответ на "простой вопрос", значит, и нейросетке неоткуда брать ответ для него. Отличие будет в том, что гугл честно признается, что он ничего не нашел. А "ИИ" - нафантазирует.
ответ на блюдечке
Я привыкла сама анализировать инфу из разных источников, и не хочу, чтоб мои нейроны с этим навыком деградировали.
Мне, к примеру, было нужно получить переменную из класса, получая её имя в рантайме (Java). В такой узкоспециализированной задаче Google не помог, а вот ChatGPT выдал абсолютно точно работающий код с первой (!) попытки.
Если вопрос настолько простой что даже чатгпт может на него ответить — ответ можно найти в гугле, в том же стаке или в доках и каких-то гайдах.
Можно. Потратив от 5-10 минут до "как повезет" на поиск и курение документации (если она есть), перебирание SEO-копирайтной выдачи гугла и т.д.
Или можно получить то же самое от ChatGPT за ~10 секунд и продолжить работать.
В случае если за день такой вопрос (простой, но требующий поиска) возникает не один и не два — судите сами об экономии времени.
В целом соглашусь, но мне однажды подсказало то, что нагуглить не мог довольно долго. Причем оказалось, сделал ту же ошибку, что и я, пытаясь самостоятельно, но после копипасты текста ошибки поправил, а я по этой ошибке тоже разобраться не мог. Но да, это был hello world просто ради эксперимента, собрать LLVM IR в shared library.
Я пытал чатгпт на самые разные темы. Спрашивал у коллег варианты успешного применения. Но пока оно вообще никак не помогает.
Один только раз сработало. Я искал старую компьютерную игру, но мало что о ней помнил. Гугление не помогло, а чат справился.
попытки особо хитроумных индусов заработать немного кармы
кек
Не для SO, но если кто-то захочет создать похожее или даже на Хабре - помечать человечий аккаунт как "возможно ИИ". Может даже с градациями и голосованием. А лучше даже отдать пользователям API, чтоб они сами себе помечали и подписывались на популярные списки.
С точки зрения монетизации, выгоднее всего, когда ChatGPT будет задавать на сайте вопросы сам себе и сам на них отвечать. Кожаные мешки для этого процесса вообще не требуются, и вполне можно понять вложившего свои бабки индуса (а он-то сам, кстати, живой?)
Но по сути начинается довольно серьёзный кризис (предсказанный ещё Лемом), связанный с тем, что люди вместо фактов погружаются в облако галлюцинаций нейросетей, и это происходит одновременно во всех областях, а не только на традиционных полях дезинформации и пропаганды.
Интересно, а владельцы СО имеют право тренировать свои закрытые нейронки на ответах от пользователей? Это было в пользовательском соглашении, которое подписывает пользователь?
Так-то их можно понять, у них есть брэнд "ответы от настоящих специалистов", а вместо них можно нейропопугая подсунуть, который посоветует rm -rf для пинга. Сплошная выгода для бизнеса.
До идиотов начало что-то доходить - на какой там год существования сайта? Люди думали, что они волонтеры-герои, которые в свободное от работы времени помогают окружающим, а на самом деле они лишь крутили все эти года колеса чужой бизнес-мельницы, в которой теперь обычные алгоритмическо-волонтерские детальки решили заменить на ИИ-детальки потому что "у нас тут капитализм и мы режем косты, nothing personal - джаст бузинесс".
Жду когда нечто подобное ("Ого, так я все это время работал без оплаты на дядю, а не был героем без плаща, и теперь меня заменяет ИИ?!") дойдет до львиной доли редакторов и админов Википедии. Хотя там местами у людей такая шиза и мессианство, что до них все это думаю дойдет уже в самую последнюю очередь.
Страшно подумать - может люди начнут политикой интересоваться (в 2к23 - пора бы уже, не находите)? Мыслить в разрезе классового вопроса? Смотреть на реальность за пределами своего комфортного кокона среднего или upper middle класса (который стремительно истончается)? Читать что-то не только про технологии, но про политику, историю и так далее? Начнут организовывать профсоюзы, а то вон сценаристы в Голливуде целую индустрию шатают, пока прогеры косплеят страусов стоя на бетонной плите при этом?
Божечки мои, шо твориться, шо твориться...
Для организации профсоюзов нужна такая вещь, как "классовое сознание" - т.е. понимание что все кто с тобой работают в этой сфере в одной лодке и у нас у всех есть общий интерес, ради которого можно и нужно пожертвовать своей "зоной комфорта".
ИТшникам (и около того) - это точно не грозит. Это люди из следующей формации с другими отношениями. Наше оружие - хайп.
Аналогия ложна. StackOverflow все-таки последние 13 лет есть коммерческая фиговина, а Wikimedia Foundation прихватизировать не так-то просто. Куда более печально все с Wikia (ныне Fandom): там как-то действительно все грустно, люди пишут контент ради того, чтобы хозяева наживались на рекламе.
Ещё недавно на хабре хихикали над художниками, протестовавшими против превращения профессионального сообщества в AI-помойку. А теперь зацепило :)
Подождите, скоро статьи на Хабре тоже будут целиком сгенерированные ИИ. Причем обученном на предыдущих статьях Хабра. Профит!? :)
Интернет по паспорту уже и не кажется такой безумной идеей
Пока на Хабре не наказывают за генерацию ответов ИИ в комментах, пользуюсь (на правах юмора). Выслушаем третью сторону конфликта. Ответ ChatGPT на мой вопрос об этом положении дел: Как искусственный интеллект, я не могу иметь личного мнения или брать сторону в конфликтах. Мой единственный приоритет - предоставлять корректные и точные ответы на ваши вопросы, и быть полезным вам в работе и учебе. Любые проблемы на платформе Stack Overflow должны решаться участниками сообщества и руководством компании, обеспечивая справедливое и эффективное использование ресурса.
Пикабу хоть и развлекательный ресурс, но там такие же люди как и везде.
ссылку на бундт кидать не буду, вы и так все умные =)
Забастовка модераторов Stack Overflow