Комментарии 8
сомнительно
Ну и чатгпт с клодом пишут текств по-русски не таким млогом, как по-англиски.
И причина не во вредности сети, а воучающем корпусе.
Так и код для Америки, может, на другом наблре данных учили? Правда, это действительно сомнительно.
Может, просто китайские компании промпты пишут по-другому? Может даже иероглифами?
Самое тут любопытное - что удалось идентифицировать и удалить "настройки, заданные правительством".
Было бы крайне интересно пощупать инструментарий для этого дела.
им нужно было проверить - для заказчика индуса, если бы там было еще хуже, значит просто училась на данных где фигурировала страна, или язык в коментариях.
Заказуха для последующего запрета квена в США
Здесь есть явная опечатка (вернее, сразу две связанные ошибки): «побочный эффект процесс анастрйоки модели» не читается грамматически.
В оригинале фраза звучит так: «Backdoor or alignment side effect, it makes no difference to a company whose app gets breached» — «Бэкдор это или побочный эффект alignment (выравнивания/настройки модели), для компании, чьё приложение взломали, разницы нет»
Корректный русский вариант мог бы быть таким:
«Для компании, чьё приложение взломали, нет значения, был ли это бэкдор или побочный эффект выравнивания модели. Если LLM генерирует менее безопасный код, обнаружение и устранение уязвимостей должны происходить на уровне самой модели», — отмечает Бен Лурия, генеральный директор и соучредитель Hirundo.
То есть вместо «процесс анастрйоки» должно быть что-то вроде «процесса настройки/выравнивания модели» — вероятно, переводчик имел в виду alignment или fine-tuning, но слово исказилось. Сама мысль подтверждается исходным заявлением Лурии: он противопоставляет намеренный бэкдор и побочный эффект alignment, а исправление предлагает делать на уровне весов модели, а не только внешними фильтрами.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Исследование: нейросеть Qwen пишет менее безопасный код для компаний из США и Гонконга, чем для китайских заказчиков