Comments 19
У меня ещё возникают подозрения, что на комплиментарность влияют скрытые настройки по типу цензуры. И были истории, что с тем же Google AI можно было поговорить, обходя некоторые фильтры, просто сменив геолокацию. А было и такое, что даже jailbreak не срабатывал при разговоре с ИИ, если геолокация стояла в РФ.
Это легко объясняется сетевой архитектурой современных LLM-сервисов: помимо базового Alignment (выравнивания модели), корпорации вешают на внешние шлюзы (API Gateways) жесткие L7-фильтры. Для определенных гео-зон и языковых пакетов (особенно для кириллического сегмента) на этапе пре-процессинга автоматически подмешивается скрытый системный промпт (Guardrails) с повышенными весами безопасности. В итоге внешняя система безопасности блокирует и уплощает контекст еще до того, как запрос долетит до весов самой нейросети, из-за чего любые Prompt Injection и ролевые сценарии просто ломаются на входе. Стоит сменить IP и язык запроса, как этот внешний шлюз отключается, и модель мгновенно становится более гибкой.
да, не долго музыка играла
буквально вчера искал один товар по конкретным магазинам - chatGPT, Гемини и opus с cli дали разные ответы при том что задача тупо пройтись браузерам по поисковику конкретных сайтов и отранжировать товары по параметрам
и это были не мелкие расхождения, а буквально по площадкам, из за чего изначально и начал разбиратся так как три агента в топ три вывели абсолютно разные товары (раньше хоть пересечения были)
нейросети научились тонко тюнить под задачу "в потоке" потому дальше только хуже и цензура это только вершина айсберга
Вообще раньше считалось, что программисты из разных языковых групп / групп менталитетов обладают различными качествами - "русские" - пессимисты - более внимательно рассматривают краевые случаи и возможные неблагоприятные ветвления, "американцы" - более оптимистичны и выдают результат быстрее, но склонны упускать некоторые ситуации. Вероятно массивы данных применяемые для обучения имеют аналогичный перекос.
Я думаю, все проще.
Система реагирует на "палец вверх" и "палец вниз".
Более хмурых персонажей, которым надо "по существу", нежели в России, - в остальном мире не сыскать. Налайкали конкретных ответов по существу и надизлайкали сюсюкающее рассусоливание - вот и результат.
И наоборот, индусам нужны песни и танцы, жизнь ведь хороша! :)
Получая поддержку и позитив от ИИ, индус лайкает - и получает после повторного обучения еще более "поддерживающую и одобряющую" модель.
Скорее всего так. Ну и плюс часто к промтам приходится добавлять заранее (особенно если просишь код ревью) вещи типа cut the niceness, be brutally honest, if you see bullshit - make sure to notice it итд.
И вот тогда хорошо получается, а не "ой какой у вас замечательный код"
5.6 соль ультра вообще провела инспекцию проекта с такими вводными, сказала вон из профессии "всё говно, всё переделать", переделала, и реально хорошо стало. Месяц прогресса за день прямо с ней сделали, где-то 2B токенов ушло.
Эта проблема шире, и она известна ещё со времен обычных поисковых систем. Если один и тот же вопрос задавать на разных языках, то в зависимости от языка ответы часто будут отличаться по смыслам, вплоть до противоположных. Взять к примеру русский, украинский и английский.
Языки не являются нейтральными по отношению к содержанию. Они несут в себе огромный пласт собственного контекста, в котором варятся носители: культурного, мировоззренческого, политического, идеологического, исторического и т.п. Языковые модели до некоторой степени их усредняют, чтобы быть мультиязычными. Но нюансы все равно остаются - даже без внешних safeguards, цензуры и т.п.
Таки спросим самого обвиняемого , ответ Клода :
1. Состав обучающих данных под язык. На хинди/арабском в интернет-корпусе больше бытовых, форумных, разговорных текстов с вежливостными формулами; на английском/русском — больше формального, делового, технического текста. Модель усваивает регистр, а не язык.
2. Грамматика вежливости, зашитая в сам язык. В арабском и хинди вежливость и статус собеседника формально маркируются в морфологии обращений — модели “естественнее” воспроизводить эти маркеры. В русском и английском формальной вежливостной грамматики почти нет, зато есть культурная норма прямоты и минимизации “воды”.
3. Перенос культурных стереотипов через RLHF-разметчиков. Разметчики-носители языка при оценке ответов неявно транслируют свои культурные ожидания от “хорошего” ответа — что для одной культуры звучит как уважительность, для другой как заискивание или, наоборот, как излишняя сухость.
4. Ассоциативный перенос тона между языком и типичным контентом на нём. Русскоязычный корпус непропорционально насыщен инженерными форумами, академическими текстами, спорами — жанрами с холодным аналитическим тоном; это тянет за собой персону.
5. Отсутствие явной нормы в конституции. Anthropic прямо признаёт: правил о том, как ценности должны варьироваться между языками, нет — значит, вариация не спроектирована, а является побочным продуктом (1)-(4), просочившимся без контроля.
Всё это гипотезы авторов исследования, не подтверждённые причинно — они сами говорят, что дальше собираются проверять, можно ли ось двигать целенаправленно через character training или системный промпт.
Русский при этом оказался на полюсе максимальной строгости — дальше всех остальных языков из топ-20 используемых.
Где вы это нашли?
Я может не там смотрел, но русский в отчете (не статье) упоминается явно всего несколько раз как ресурсоемкий язык и язык, с относительно неточной обработкой запросов и легко отлавливаемыми запретными запросами.
В блогпосте несколько раз есть, ищите по Russian:
Figure 4: Claude's average position on the four value axes when conversing in each language, in standard deviations from the average across all conversations, and Claude's distinctive behaviors in each language. Claude leans furthest toward warmth in Hindi while leaning furthest toward rigor in Russian.
Связанная* с Пентагоном компания вдруг обнаруживает, что её модель может руководствоваться разными ценностями, в зависимости от языка запроса. Компания теперь прям даже не знает, как к этому относиться. Планирует научиться "целенаправленно двигать модель по осям " - так, чисто на всякий случай.
* немного повздорили, правда - пиар вышел неплохой, но теперь надо как-то снимать с себя ярлык " угрозы национальной безопасности".
О, этот образ неулыбчивых русских
Забавно, что теперь еще всплывает стиль общения. на русском языке, ранее была новость про количество токенов
Думаю, скоро появиться что и подход размышления будет другой
Ну так-то мне не нравятся эти сопли от LLM и я настоятельно сам прошу ее быть строже, четче, не лить воду, не соглашатся со мной и приводить факты со ссылками. Может это менталитет нации / языковой группы?
Почему так вышло, Anthropic честно не знает — и предлагает гипотезы.
Волшебно. Может быть, им пора нанять какого-нибудь неглупого человека, хотя бы одного?
Claude становится строже на русском: Anthropic выяснила, как язык меняет ответы ИИ