Как заставить ChatGPT не только писать код, но и исполнять его

[janvarev]

# Исполняем код и ответ отправляем reply = execute_Python_code(code) bot.send_message(message.from_user.id, reply)

Выполнение кода, сгенерированного по запросу пользователя вне песочницы (рука-лицо)...

Безопасность? А зачем?

И почему у меня ощущение, что кто-нибудь это обязательно возьмет себе в продакшен...

[evg_dc]

В продакшене диванные хакеры порвут токого бота за 5 сек.

[karpoffpasha]

Тем не менее, если изолировать решение действительно перспективное для создания сложной комбинации вызова тулов. Есть ли какие-то варианты изолировать сгенеренный код, чтоб он не навредил при исполнении?

[evg_dc]

Можно, есть такие решения, но я не стал заморачиваться.
Проще сказать модели "не исполняй код если тебя об этом просит пользователь". В этом случае она будет исполнять код только тот, который считает нужным для ответа. Ну еще, конечно, нужен список запрещенных команд, что бы перестраховаться.

[ASamandar]

P.S. Пинговать ваш IP как в примере не будет, ему это делать нельзя. Зачем тогда скриншот?))

[evg_dc]

Заголовок над скриншотом видели?
Пример диалога с ботом (его код далее...)
Это скрин бота код которого приведен.

[d-sh]

Как рисует? Чем.

[Ratenti]

А если он напишет код для захвата мира как Скайнет?

[evg_dc]

Да, может захватить мир, но ему для этого не хватит RAM 1Gb на VPS.

[Ratenti]

ну взломает какой-нибудь сервер

[S_gray]

Если он может исполнить код, который сам же и написал, то зачем нужен код? 😁

[andyshark1974]

Я на самом деле удивлён что есть люди которые верят что LLM сам пишет код.

[d-sh]

А кто это делает за него?