Анатомия LLM RCE

[johnfound]

Эта уязвимость была раскрыта команде LoLLMs и была исправлена. Ей был присвоен CVE-2024-6982.

Самое интересное как была исправлена уязвимость? Как вообще можно исправить такое, не отнимая доступ LLM к функции calculate?

[Dart_Sinister]

Как и везде - фильтровать пользовательский ввод. Только тут не пользовательский, а вывод LLM.