Обновить

Исследование: нейросеть Qwen пишет менее безопасный код для компаний из США и Гонконга, чем для китайских заказчиков

Время чтения2 мин
Охват и читатели8K
Всего голосов 8: ↑7 и ↓1+14
Комментарии8

Комментарии 8

сомнительно

Ну и чатгпт с клодом пишут текств по-русски не таким млогом, как по-англиски.

И причина не во вредности сети, а воучающем корпусе.

Так и код для Америки, может, на другом наблре данных учили? Правда, это действительно сомнительно.

Может, просто китайские компании промпты пишут по-другому? Может даже иероглифами?

Самое тут любопытное - что удалось идентифицировать и удалить "настройки, заданные правительством".

Было бы крайне интересно пощупать инструментарий для этого дела.

им нужно было проверить - для заказчика индуса, если бы там было еще хуже, значит просто училась на данных где фигурировала страна, или язык в коментариях.

Заказуха для последующего запрета квена в США

Проторенной дорожкой идут

Здесь есть явная опечатка (вернее, сразу две связанные ошибки): «побочный эффект процесс анастрйоки модели» не читается грамматически.

В оригинале фраза звучит так: «Backdoor or alignment side effect, it makes no difference to a company whose app gets breached» — «Бэкдор это или побочный эффект alignment (выравнивания/настройки модели), для компании, чьё приложение взломали, разницы нет»

Корректный русский вариант мог бы быть таким:

«Для компании, чьё приложение взломали, нет значения, был ли это бэкдор или побочный эффект выравнивания модели. Если LLM генерирует менее безопасный код, обнаружение и устранение уязвимостей должны происходить на уровне самой модели», — отмечает Бен Лурия, генеральный директор и соучредитель Hirundo.

То есть вместо «процесс анастрйоки» должно быть что-то вроде «процесса настройки/выравнивания модели» — вероятно, переводчик имел в виду alignment или fine-tuning, но слово исказилось. Сама мысль подтверждается исходным заявлением Лурии: он противопоставляет намеренный бэкдор и побочный эффект alignment, а исправление предлагает делать на уровне весов модели, а не только внешними фильтрами.

У автора просто "а" отклеилась, и "процесса настройки" превратилось в "процесс анастройки".

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации