Комментарии 3
Copilot может генерировать секретные ключи и токены в обучающих данных
Кого обучающих?
Предполагаю, речь идёт о том, что в обучающей выборке второго пилота был код с секретами (формально косяк авторов кода, секреты должны быть вынесены в конфиг, но с точки зрения репутации ИИ это никого не волнует). В результате ИИ может использовать их при генерации подсказок. Типа просишь его вставить код google analytics, а он вставляет код с токенами случайного сайта из обучающей выборки. И вот, авторы копилота пытаются решить проблему обнаруживая и маскируя такие фрагменты в подсказках на [REDACTED].
Так вот, из статьи это понять очень сложно, какую именно проблему решают. Как будто статью писал сам ИИ.
А ещё копайлот заблочили для России, так что теперь будет работать только через VPN https://github.com/orgs/community/discussions/47577
Обновление GitHub Copilot запретило раскрывать секретные ключи и токены