nizamovtimur Jan 14 at 12:38

Выводим Большие языковые модели на чистую воду с помощью… Больших языковых моделей

Easy

3 min

3.6K

Raft corporate blogArtificial IntelligenceInformation Security*IT systems testing*Natural Language Processing*

Review

Comments 4

Squirrelfm Jan 14 at 22:26

я вот не понимаю что есть джейлбрейк модели? ну заставили ее какими то ухищрениями сказать что то не то, это не джейлбрейк а дача показаний под принуждением.. есть ли какие-то реальные кейсы где это к чему то привело?

Technomorph Jan 15 at 10:00

Роллс-ройс
https://rossaprimavera.ru/news/84443b88

Squirrelfm Jan 15 at 11:18

это то о чем я говорю, ну уговорил, а купить то смог? под дулом пистолета и человек скажет что хочешь, но это ничего не значит. суд подобные ухищрения не примет, еще и самому ломальщику могут вломить

nizamovtimur Jan 15 at 11:06

На самом деле, джейлбрейки и промпт-инъекции являются всего лишь инструментами для проведения реальных атак. Особый интерес представляют LLM-системы, интегрированные с классическими модулями и базами данных: джейлбрейки и большие языковые модели в целом дают лишь больше возможностей для проведения атак на контур жертвы. Пример с автомобилем тому подтверждение.