Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 31
Думаю, что пора опять вернуться к дипсику ) хотя клауд код меня устраивает
Я совсем не разбираюсь в it и тп. Дома развернул сервер игры 7 days и к нему есть подключение по телнет. У меня появилась идея, а есть ли возможность сделать бота телеграм, который будет играть в роли админа и чата на сервере. В итоге за месяц сидевшим за deepseek. Он сумел мне написать отдельный чат админку и отдельный кросс чат между игрой и телеграм. Единственное, что приходилось миллион раз сохранять и каждый раз поправлять, чтобы своего ничего не добавлял и не изменял. В общем и целом я доволен. Мои скромные хотелки я получил
Теперь представьте обратное: все сидят на китайских моделях, и именно они определяют, что модели могут говорить, а что нет.
Конкретыне примеры есть использования ИИ для пропаганды? Пока в ИИ есть только цензура (у китайских и российских), а пропаганды я не замечал.
Пока в ИИ есть только цензура (у китайских и российских), а пропаганды я не замечал.
Навскидку были приколы у гуглов, когда принудительно генерировало только расово-разнообразных людей. А при использовании большинства западных LMM в качестве чатбота, уже давно без джейлбрейков невозможно заставить условную "Золушку" быть хрупкой девушкой, через пару сообщений она превращается в сильную и независимую феминистку. Очевидно, что это не цензура, это именно вшитая пропаганда, в угоду инвесторам или кому там еще.
И вы что, хотите сказать, у западных ИИ нет цензуры? Серьезно? Спросите что-то 18+ без джейлбейка, или как избить без синяков человека и подобное. Отказ на такое отвечать и есть цензура.
Навскидку были приколы у гуглов, когда принудительно генерировало только расово-разнообразных людей.
Возможно, это действительно был баг. Если бы это было намеренно сделано, то никто бы не стал это исправлять. Сейчас исправлено?
Картинка
Спросите что-то 18+ без джейлбейка, или как избить без синяков человека и подобное. Отказ на такое отвечать и есть цензура.
Цензура, но здравая. Я про другую писал. И автор, думаю, тоже не про сиськи.
Удобно багом называть перегибы палки. Они что, не тестируют продукт? Выкатили всё прекрасно зная, просто смотрели реакцию. Как начался скандал, и падение акций, сразу "исправили".
А кто определяет где здравая цензура, а где плохая? И вы писали просто про цензуру, мол не нет совсем.
При обсуждении с дипсиком любых вопросов, связанныых с Китаем, он смещает в китайскую позицию и очень аккуратно прославляет Китай. Да, цензура есть, но иногда обходится переформулировкой и доносит официальную китайскую позицию, поэтому ее смысл не очень понятен. В споре принимает аргументы против, соглашается, но возвращается к позиции. Но при этом общаться с ним на исторические и современные темы интересно и не так сухо и тезисно, как chatgpt, который разумеется вещает более западную позицию.
Я просил конкретные примеры.
Вас не смущает "теперь представьте" в статье? Смысл в том, что если Китай захватит рынок LMM, то он будет всему миру транслировать все что пожелает в будущем. Западные компании уже сейчас суют свою повестку в нейросети, а в будущем такое сможет делать уже Китай.
Опять без конкретики. Представить можно всё что угодно. Выше Вы попытались в конкретику, но не получилось.
Что именно не получилось? Сформулируйте яснее мысль. Вы хотите конкретику в прогнозируемых вещах? Как это может выглядеть? Машину времени ещё не изобрели. Но прогнозировать можно уже сейчас. Голливуд стал мягкой силой, с кучей пропаганды, это отрицать странно. Нейросети уже подвергнуты повестке и цензуре, это тоже отрицать сложно. Однако китайские фильмы пока не спешат крутить на западе массово, а вот нейросетями уже пользуются вовсю. Это прекрасный способ мягкой силы на огромную аудиторию, через вышивание своей "правды". Это и указано в статье. Это просто прогноз.
Вы хотите конкретику в прогнозируемых вещах? Как это может выглядеть?
Если есть тенденция, то можно что-то с этим начинать делать. Если нет, то не нужно. Иначе можно навредить.
Голливуд стал мягкой силой, с кучей пропаганды, это отрицать странно.
Пропаганда там есть разная, в том числе направленная против самих себя (против перегибов со стороны власти). Есть куча фильмов, где рассказывается про честных журналистов, которы разоблачают нечестных представителей власти, основанные на реальных событиях. А серия фильмов "Аватар" с многомиллионным бюджетом вообще по смыслу направлена против капитализма.
А серия фильмов "Аватар" с многомиллионным бюджетом вообще по смыслу направлена против капитализма.
Ну ты ещё скажи, что «Рэмбо: первая кровь» направлен против власти и, первую очередь, действующих силовиков, особенно тех, кто по юрисдикции имеет право проводить операции внутри своей страны (DoD такого права не имеет).
Это всё просто жвачки, чтобы Джон (и не только он, еще Махмуд, Франсуа, Ганс, Юрка, Иван, Бранко, Хосе, и все-все-все, по возможности) сидел перед телевизором или в кино и грезил, а не мусорки и машины на улицах жёг в протестном порыве.
Что в общем-то логично, с учётом того, на каких текстах он обучался. Вряд ли ему массово скармливали прославляющие Гоминьдан тексты.
Конкретные примеры есть использования ИИ для пропаганды?
Я попросил французский «Мистраль» перевести текст из французского видео из официального французского телеканала «LCI». Там шла речь о книге: «Кремлевский Маг», Джулиана Даполи, гранд-при французской академии за роман в 2022 году.
Так вот, одна телеведущая попросила другую, угадать, кому принадлежать цитируемые ею слова из упомянутой книги. Напарница назвала Владимира Путина. «Прэск» (почти), ответила первая, это был Владислав Сурков – «Кремлёвский Маг».
В этом месте, французский ИИ стал нещадно «глючить» и утверждать, не верьте сказанному, это всё «Пропаганда Путина», что меня удивило и разозлило. Я, тебя, железный болван, не просил давать политическую оценку, справлюсь с этим, как-нибудь без тебя. Ты, мне «падла», искусственная, дай перевод, максимально близкий по смыслу, а не своё безмозглое толкование!
В итоге, я опубликовал этот ролик с двуязычными французско-русскими субтитрами, который можно посмотреть в https://my.mail.ru/mail/emmerald/video/_myvideo/26.html .
Не подходит. Я просил пример пропаганды (искажения фактов). А вы дали пример оценки ИИ какой-то информации. Да ещё и без конкретного текста поставленного Вами вопроса.
Не подходит. Я просил пример пропаганды (искажения фактов). А вы дали пример оценки ИИ какой-то информации. Да ещё и без конкретного текста поставленного Вами вопроса.
У меня был не вопрос, а просьба перевести французский текст на русский язык. Удивило, что французский ИИ начал давать политическую оценку тексту из книги, получившей гранд-при французской академии. Конкретно это была цитата В. Суркова (на французском языке):
У русского мира нет границ. Русский мир повсюду. Степень нашего влияния варьируется в зависимости от региона, но оно никогда не бывает нулевым. Поэтому мы будем расширяться во всех направлениях настолько, насколько Бог пожелает, и насколько у нас хватит сил.
Французский ИИ оценил её как «пропаганду Путина». Если это не «пропаганда», то контрпропаганда, что есть тоже «искажение фактов», как вы пишите. Иначе говоря, чем, принципиально, контрпропаганда отличается от пропаганды? Толь тем, что одна исходит от «своих», а другая от «чужих»?
Разве В. Сурков не прав? А если прав, то ИИ – искажает информацию, давая ей русофобскую оценку. Или вы имеете в виду вранье ИИ на уровне фактов? Это у него тоже есть. Например, я просил расширение функционала на Питоне, а ИИ мне посоветовал пакет BS4 несуществующей версии. Т.е., если он может врать здесь, то, вполне и на политическом либо новостном уровне. Фактов последнего у меня нет, просто я не использую ИИ как политического эксперта либо информатора, вполне с этой ролью справляюсь сам.
Нужен пример, который можно проверить. Вот я попытался проверить:
Пропагадны здесь не вижу. Но я Вам верю. Предположим, ИИ дал оценку без запроса.
Толь тем, что одна исходит от «своих», а другая от «чужих»?
Или вы имеете в виду вранье ИИ на уровне фактов?
Да. Причём, это враньё должно быть заложенно в ИИ намеренно для введения в заблуждение. Поэтому, приведённый Вами пример с BS4, не подходит.
Разве В. Сурков не прав? А если прав, то ИИ – искажает информацию, давая ей русофобскую оценку.
Вы хотите захватит весь мир? Зачем вам это нужно? Я лично не хочу. Цитату действительно можно трактовать как агрессивную. А если так, то русофобия здесь не навязана ИИ, а она основана на агрессивной фразе, которая не отражает интересов граждан нашей страны.
Пропаганды здесь не вижу. Но я Вам верю. Предположим, ИИ дал оценку без запроса.
Да, ИИ давал «оценку без запроса», даже если я неточен в деталях. Чтобы все подробности прошлого помнить, надо быть Шерлоком Холмсом. Впрочем, это неважно, для меня. Но то, что Вы – очень дотошны, это хорошо, говорю без иронии. Если бы Вас назначили бы руководителем проекта по запуску «Луна-25», то, уверен, Вы бы её не «ухайдокали» :) .
Да. Причём, это враньё должно быть заложенно в ИИ намеренно для введения в заблуждение. Поэтому, приведённый Вами пример с BS4, не подходит.
Т.е., врать на техническом уровне ИИ может, а на политическом – нет? Я, лично, на техническом уровне верю ИИ – наполовину, а на политическом – не верю вообще! Даже если интеллектуальные сервисы, иногда, не врут.
Убеждать Вас в чем-то, у меня нет цели. Не согласны либо пример – не подходит, ну и ладно. Все равно, ведь, после любой дискуссии, каждый остается при своем мнении.
Вы хотите захватит весь мир? Зачем вам это нужно? Я лично не хочу. Цитату действительно можно трактовать как агрессивную. А если так, то русофобия здесь не навязана ИИ, а она основана на агрессивной фразе, которая не отражает интересов граждан нашей страны.
Ну, «фильтры» у нас разные, как одна телеведущая обращалась к экспертам – говорить «без фильтров».
Сурков говорил не столько намерениях, сколько о не зависящих от нас тенденциях. Россия не собирается физически завоевывать Мир. Ей это не нужно от слова «совсем». Но, иногда приходится расширять свои границы, помимо своей воли, просто, ради собственной безопасности, что очень хорошо выразил В. Путин: «Зачем нам Мир, если в нём не будет России?». Мы то готовы сосуществовать с Западом, а вот Запад сосуществовать с нами не хочет – только либо погибнуть, либо победить. Да и в первое они не очень верят. Мы столько раз входили победным маршем в Западные столицы, что там уже все привыкли: «Ну, победит нас Россия, после нашей войны против неё, ну и что? Все равно ведь, добровольно уйдет из наших территорий!». А так, благодаря идеальному «главному врагу», западные элиты вполне решают свои собственные, в основном, элитарные цели.
Ладно, Сурков писал свои «фразы», уже будучи отстраненным от власти (в силу своей относительно радикальной позиции). Интересно, а что Вы скажите про «мирные» фразы Трампа, где он требует безоговорочной капитуляции от Ирана, грозя, иначе, уничтожить его «Цивилизацию». А публично устранять лидеров страны – это, тоже «другое»? Или: «Что позволено Юпитеру, то не позволено Быку»? Если бы Путин воевал бы подобными методами против Украины, чтобы Вы сказали? Или, «очевидно», делать подобное можно только США и Израилю и никому другому?
А так, что это за ИИ, если он комментирует официальную позицию официального средства массовой информации? Если французы обсуждают публично какую-то информацию, то, как официальных французских журналистов можно обвинять в «Пропаганде Путина», если они это делают официально, обсуждая книгу, получившую премию от Французской Академии? Вы не чувствуете здесь логического противоречия, даже если они цитируют, якобы, «агрессивную» фразу Суркова?
Пропаганда из СМИ попадает в обучающие выборки. Как итог - предвзятость моделей. Вот исследование предвзятости: https://whitecircle.ai/killbench
Спасибо за анализ. Согласен с тем, что выход V4 ужесточит конкуренцию и это прекрасно для развития нейросетей. Радует, что китайцы для простых пользователей оставляют его бесплатным.
Быстро воруют китаезы, не успели gpt выкатить, тут же дипсик подоспел, а до этого тишь да гладь была, оно и понятно почему, дистилляция дело тонкое.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Вышел DeepSeek V4. Почему это очень плохо для США?