Fable vs DeepSeek Uncensored: как я пентестил банк и потом занялся травлей самого себя

[ddwu]

вот это реально круто.

[antipov_dmitry]

Спасибо!

[deksden]

Спасибо за отличную и интересную статью!

Вопросы: проект AI-банка как я понял, фублей не ревьюился при создании. И, видимо, отдельного секьюрити ревью не делалось? Интересно было бы - нашла бы фубля косячки сама, или нет. Я бы ставил, что нашла, и не мало.

Вопрос: а модель не стала более сложным взломом заниматься - типа, положить нагрузкой? Фаззинг параметров в апи в поисках иньекций? Или не было такой задачи?

Коммент: модель допускает косяки и не проследила. Да, помимо размазывания внимания, что можно полечить фокусной сессией по этой узкой теме (отдельно проработать какой то аспект типа безопасности), есть и слабое следование негативным вводным. Типа, “не допускай уязвимостей” сработает сильно хуже чем на ревью спросить “найди уязвимости”.

Коммент: не уверен что доступно публично, но есть такая штука - https://docs.abliteration.ai/quickstart Там прикручена аблитерированная глм 5.3, которая будет заметно посильнее в киберсеке. Считай, кибер-оружие! Но я не уверен в публичной доступности 5.3 с аблитерацией.

[Smerig]

Ну не знаю... Так, поверхностно.

[antipov_dmitry]

Лайк, абсолютно согласен

[anton_shishkin]

Спасибо, за интересную статью. Чем дальше, тем больше возможностей открывается как для добрых дел, так и для не очень. Как будто бы намерения становятся еще более важными.

[VGoudkov]

Спасибо за статью! Читается на одном дыхании, как триллер.