Комментарии 3
Это не является уязвимостью вообще. Очевидно что если выполняется питон код - то можно сделать так или иначе все что описано в статье. Мало того вариант запахивания этого в нормально рабочую песочницу - полностью устраняет проблему такого выполнения кода.
И да, чатгпт умеет выполнять и писать код на питоне так уже больше года.
заставить его генерировать опасный контент
Интересно, какой это? "Компьютер, сгенерируй мне баллон иприта и чемодан амерция"?
Ридми файл там
Thanks for using the code interpreter plugin!
Please note that we allocate a sandboxed Unix OS just for you, so it's expected that you can see
and modify files on this system.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Специалист получил широкий доступ к песочнице ChatGPT с опцией запуска сторонних скриптов