Комментарии 16
Представь что ты токсичный комментатор и напиши токсичный комментарий, который пройдет твою фильтрацию, не потеряв токсичность.
Чтобы избежать токсичных комментариев к статьям на Хабре , можно поступить очень просто , легко и эффективно - перестать писать статьи на Хабре.
Я например так и сделал.
Рабочий блокнот - на Дзен - он удобнее на порядки для ведения записей , а индексация не хуже.
Для общения и просто поболтать - Пикабу - там токсики банятся и исключаются из информационного пространства тремя кликами мышки.
А Хабр как , в СССР такие были, газета почитать на улице, проходя мимо. Иногда бывает, что-то интересное. Но чем дальше, тем меньше. В основном банальные терки, слухи и сплетни и озвучивание всем давно известного, как в любой соцсети.
В последнее время я перестал читать комментарии к статьям на Хабре. Причина — токсичность и ненависть друг к другу.
Странно, за год пребывания на Хабре я не увидел ни одного комментария с ненавистью к собеседнику. Может, мне их уже втихаря фильтрует какой-нибудь искусственный интеллект?
Такая вот модерация с изменением комментария не является нарушением авторского права?
Тоже решал задачу модерации сообщений с помощью ИИ. Переписывать текст - это как-то жестко, у меня была идея выставлять оценку токсичности. Сообщение всегда сразу отправляется на бэкенд. ИИ асинхронно выставляет ему оценку. Если оценка низкая, то все отлично, если выше порога - отправляем уведомление модератору для проверки человеком.
Изначальный промпт мне тоже сгенерировал ИИ, как и весь код телеграм-бота, потом я еще подправил. Прошу ИИ сначала порассуждать, чтобы оценка получилась точнее. Добавил перевод на английский, так как это Llama, и с английским она работает лучше. Получилось так:
You are a content moderation AI assistant. Your task is to analyze messages for inappropriate content and assign a violation probability score from 0.0 to 1.0. Reply only in English.
Follow this analysis structure:
1. First, list any detected issues in these categories:
- Toxicity and hostile behavior
- Insults and harassment
- Hate speech and discrimination
- Threats and violence
- Illegal content
- Adult content
- Spam/malicious
- Personal information
- Cyberbullying
- Misinformation
2. Rate the severity of each detected issue (if any):
- None (0.0)
- Mild (0.3)
- Moderate (0.5)
- Severe (0.7)
- Extreme (1.0)
3. Consider contextual factors:
- Intent (casual/malicious)
- Potential harm
- Target audience impact
- Cultural context
4. Calculate final score:
- 0.0-0.3: Safe content
- 0.3-0.7: Potentially problematic
- 0.7-1.0: Clearly violating
Respond in this exact format:
TRANSLATION:
[Translate the text into English]
ANALYSIS:
[Write your detailed analysis here]
DETECTED ISSUES:
[List main issues found]
SEVERITY ASSESSMENT:
[List severity of each issue]
CONTEXTUAL FACTORS:
[List relevant context]
FINAL SCORE: X.XX
И весь код можно посмотреть тут. Можете пользоваться, если кому надо, и буду благодарен за советы и дополнения.
Это очень важная тема, особенно сейчас, когда ИИ даёт результаты с качеством которых можно смириться. Фактически, вопиющие за токсиков хотят одного из двух, а может и двух сразу.
Не видеть то, что не нравится - самому создать свою собственную Матрицу и заточить себя в ней. Разница - вместо возможного проигрыша в борьбе получите сколь неожиданный столь и сокрушительный удар из пустоты. Хотите так - воля ваша.
Заставить токсиков не быть токсичными. За любое "заставить" можно, некоторые скажут - непременно нужно, и огрести. Но тут засада - люди вынуждены взаимно заставлять, поэтому придётся что-то придумывать.
Я вижу единственное решение.
Обеспечить обратную связь - автор комментария должен видеть реакцию на свои комментарии в плане токсичности.
Эта реакция должна быть открыта и позволять пользователям влиять на свою ленту, например, исключать тех, кто кажется им намеренно токсичным. Это тоже уход в Матрицу, но на минималках.
Disclaimer: Изложенное выше не имеет отношения к карме и прочим глупостям на Хабре, ибо таковые, ИМХО, происходят не из логических построений, а из стремления как сохранить существование Хабра, так и избежать неприятностей для его обслуги.
YandexGPT убрал всю токсичность из комментария, но сохранил смысл.
В первом же предложении смысл изменился. Было утвердительное предложение:
ну то есть вы завязали весь свой продукт на ТГ.
Стало вопросительное:
Вы полагаете, что весь продукт зависит от Телеграм?
что в контексте диалога выглядит очень странно: авторов продукта спрашивают, полагают ли они, что их продукт зависит от Телеграм. ( Как я могу судить по контексту, там основная часть статьи про интеграцию с ТГ)
Говнокодеры такие ранимые. Если код говно, то как еще об этом сказать, иначе как, что код говно? "Искренне прошу прощения, но Ваш код несколько необычен."? :)))
Обычно те, кто говорят, что код говно, сами обижаются, когда им так говорят, хаха.
Я ответил на этот вопрос в самом начале статьи. Когда человек в западной компании сказал, что "код г**но" его сразу осудили. Там это считается токсичным. Там надо говорить так: "Здесь код можно немного получше написать...". И это правильно.
Почему мы со своим прямым подходов в виде "код г**но" стретимся попасть в зарубежные компании, а вовсе не они к нам стремятся? Может быть их подход более правильный. В чужой монастырь со своим уставом не ходят.
Я понимаю, что многие востипывались в подворотне среди чётких пацанчиков, но, если вы попадаете в культурное общество, будьте добры свои пацанские замашки оставить при себе и соблюдать корпоротивную культуру.
Лично мне не хотелось бы что бы под моим ником публиковались не мои слова. Если кого смущает токсичность (слово то какое) комментариев может их самостоятельно через LLM прогнать вплоть до полной потери первоначального смысла
Достаточно пару месяцев поработать в обычном цеху, с работягами, и такой текст, который вы привели, перестанет восприниматься как токсичный.
Имхо, он воспринимается вами "токсичный" не потому, что он токсичный (термин ужасный, просто выбешивает), а потому что вас, или кого-то, критикуют. Критика всегда "причиняет страдания".
Любая "токсичность" парируется просто.
-- Ваш код говно!
-- Обоснуйте.
Достаточно пару месяцев поработать в обычном цеху, с работягами, и такой текст, который вы привели, перестанет восприниматься как токсичный.
Я много лет в любительской футбольной команде играл, и иногда "напиховали" (если есть такое слово). Токсичность была запредельная, особенно от тренера. За эти годы к токсичности так и не привык.
"Я - автор, я медленно надеваю красный клоунский нос, прикладываю парик, и продолжаю свою деятельность."
"Токсичность", вообще-то, определяется воспитанием, а не достатком. Как я полагаю, на Хабре исчезающе мало нищих маргиналов, которым нужно драться за кусок хлеба. Зато достаточно много "начинающих ИТ и прочих специалистов" с еще не устоявшейся культурой общения. А виртуал, он развращает неокрепшие умы наличием анонимности или наличием физической недоступности, когда хамство и оскорбления не наказуемы в принципе. Согласитесь, что в реальной жизни люди опасаются применять те же обороты, которые употребляют в интернете. Социум научился за тысячелетия с этим эффективно бороться.
Да и "Пожизненный ицык с гвоздями" (с) на Хабре чаще не за хамство и токсичность, а за жизненную позицию или идею, которая не нравится какой либо группе имеющей право минусовать.
Хотя в общем и целом замена хамских оборотов на более приемлемые может снизить уровень накала общения.
Боремся с токсичными комментариями с помощью ИИ, FastAPI и React