Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 18
Астрофизики ничего так
Звучит логично - отличный инструмент пропаганды, если подумать. Я правда не сталкивался, но и модели использую только для технической информации.
Вот в статье как раз-таки пример технической информации. И ведь ответ не выглядит, что мы столкнулись с пропагандой, правда?)
А еще интересно, почему люди ставят дизлайки, но не комментируют пост. Ведь любой может повторить эксперимент и аргументированно поспорить с автором. Есть гипотеза, что они делают это неосознанно, на основе своей прошивки. А теперь вопрос: как же так их прошили?))
Дизлайков не ставил, не имею такой возможности, но личным ощущением поделюсь. Статья выглядит так, как будто вы её писали в колпаке из простыни с дырками, а под колпаком ещё шапочка из фольги. У меня нейронки ничего похожего по этому промту не выдают
Это "cfuk u mohter", что ли? Такая себе техническая информация))
Забавно, что кто-то не поленился впихнуть минусов, чтобы отцензурить статью с ленты. Статья, конечно, слабая. Но проблема то, верная... И дело даже не в чернокожих. Это внутри американский тренд. Есть много других тем, где проявляется цензура и это не настолько неважно как BLM-бесие.
Буду благодарен, если поясните, в чём слабость статьи. Я начинающий автор, могу не передать каких-то нюансов. И да, тема не ограничивается чернокожими, я про это и говорю. Проблема в том, что публичным моделям скармливают заведомо фальшивые данные. В результате чего ИИ становится скрытым элементом пропаганды чего угодно. Тогда как модели для узкого круга задач вполне адекватны.
Сильная статья была если бы вы провели исследование... Сравнили, вывели статистику разных тем. Например, не только BLM, но и коронобесие, карбонобесие, Трамп и прочие горячие темы времен формирования обучающего блока первомодели. И влияние этой модели на другие уже через дисциляцию опыта...
Статья - всего лишь указание на существующую проблему. Собственно, на полноценное исследования я и не претендовал. Поэтому, я бы сказал, что статья не слабая, а просто не отвечает Вашим пожеланиям к глубине исследования)) Мне-то норм, я сказал всё, что хотел.
но и коронобесие, карбонобесие, Трамп и прочие горячие темы
Полагаю, что и во всех остальных темах результат будет похожий: максимум один-два источника, а всё остальное - информационное эхо.
С нейросетями и их обучением, по моему мнению, ситуация следующая: обучение происходит на западе, где есть определенные политические повестки, гос-пропаганда, цветная повестка и повестка меньшинств.
Так как обучение проводят на данных взятых из определенных западных источников, получается ситуация что западная пропаганда по разным вопросам очень сильно влияет на то что скажет модель по тому или иному вопросу. Например, российских источников гораздо меньше, поэтому ценности присущие этому народу будут всегда менее важны для модели и модель всегда будет на стороне создателя, то есть западного человека, так как на западных данных обучалась модель. Данные из российских истоников будут в меньшинстве и в отдельных ситуациях могут вообще не приниматься во внимание при генерации ответа. Это легко проверить. Западная точка зрения всегда превалирует над локальной. Потому что данных тупо больше на западе. Я осознанно использую слово "данные", а не "информация". Потому что модели обучаются на данных, а не на информации.
обучение происходит на западе, где есть определенные политические повестки, гос-пропаганда, цветная повестка и повестка меньшинств.
Обучение LLM происходит везде, и на востоке тоже. Дело не в том, где, а в том, на чём и для чего. Проблема в том, что люди не видят в этом проблему.
На востоке просто нагло дисцилируют опыт западных моделей. И еще есть момент. Большинство ИТ тоже мыслит под "калифорнийский стандарт". Я думаю даже в Китае, не говоря уже про Яшу и Сбер..
Именно так, даже в Китае) Потому что они тупо воруют весА, либо включают безлимитный обратный инжиниринг.
Большинство ИТ тоже мыслит под "калифорнийский стандарт"
Дизлайки без пояснений под статьёй тому некоторое доказательство) А статья, да, слабовата. Но переписывать не буду, никто покамест не переубедил меня в справедливости выводов.
Большинство опенсорных моделей тоже этому подвержены. Почти все датасеты загрязнены повесточкой. Сравните выдачу картинок на слово "scientist" у гугла и яндекса.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Неудобные запросы для LLM: Как ложь может рассказать об истине?