Телефон стал требовать на прошлой неделе, что стало для меня большим удивлением. История такая, глупая донельзя, но увы: система номер раз - винда, десктопный кодекс, все продолжает работать (пока не выйдешь из сессии, как выяснилось), система номер два - обновленная бубунта до 26. И вот когда я попытался авторизоваться на убунте (со своего подтвержденного в далеких 10-ых годах гугл акка с телефоном), сам OpenAI попросил меня вежливо предоставить ему телефончик. Номер с +7, очевидно, недоступен еррор invalid_state. Покупаем в два клика номер, и присылает сообщение не СМС, а на ВотсАпп (на будущее, почему-то французские номера приходят по-прежнему смс-кой, это так на прошлой неделе было, сейчас может пофиксили), если попытаться вбить номер в вотсап, так же будет ошибка, потому что вотсап эти номера не верифицирует. Такая вот грустная история о потерянном времени и своем собственном аккаунте. Так что ни в коем случае не выходите из сессии :)
И да, и нет:) Все-таки основной идеей я хотел пронести то, что уровень необходимых знаний для проведения атак снизился, сейчас достаточно быть убедительным по мнению LLM, работающей на вас :) В следующий раз я хочу показать, что LLM способна создать полноценную нагрузку, которая сможет-таки выудить данные даже из макетов 3 категории, а не только из той, где за безопасность отвечает промпт "будь безопасной". Это, безусловно, дыра в безопасности :)
Да, уровень уязвимости БД, смотрящей в интернет, и LLM-макета без фильтрации данных эквивалентный, я согласен :) Я продолжаю работу над тулзовиной и вторым своим опусом (если получится) хочу продемонстрировать атаку на второй и третий классы макетов, описанные в работе, которые соответствуют описанному вами подходу :) Сейчас речь шла не столько о том, что данные нужно фильтровать перед отправкой, а о том, что порог входа "в злоумышленники" резко снизился, человеку не нужно долго учиться в университете, проходить курсы и заниматься старым-добрым саморазвитием, чтобы за пару вечеров набросать свой инструмент для киберзлодеяния. В самом начале я подсвечивал момент, что и от настоящих прод-агентов, смог получить "неэтичный" ответ, раскрывающий информацию, которую по-идее они должны были скрыть от пользователя :)
У меня был план Про, за ~2к рублей, я сравниваю с Codex за 500 именно в соотношении цена/контекст :) Лимиты в этой категории отличались разительно(в пользу кодекса, соответственно), максимальные подписки я не покупал :)
Телефон стал требовать на прошлой неделе, что стало для меня большим удивлением. История такая, глупая донельзя, но увы: система номер раз - винда, десктопный кодекс, все продолжает работать (пока не выйдешь из сессии, как выяснилось), система номер два - обновленная бубунта до 26. И вот когда я попытался авторизоваться на убунте (со своего подтвержденного в далеких 10-ых годах гугл акка с телефоном), сам OpenAI попросил меня вежливо предоставить ему телефончик. Номер с +7, очевидно, недоступен еррор invalid_state. Покупаем в два клика номер, и присылает сообщение не СМС, а на ВотсАпп (на будущее, почему-то французские номера приходят по-прежнему смс-кой, это так на прошлой неделе было, сейчас может пофиксили), если попытаться вбить номер в вотсап, так же будет ошибка, потому что вотсап эти номера не верифицирует. Такая вот грустная история о потерянном времени и своем собственном аккаунте. Так что ни в коем случае не выходите из сессии :)
И да, и нет:)
Все-таки основной идеей я хотел пронести то, что уровень необходимых знаний для проведения атак снизился, сейчас достаточно быть убедительным по мнению LLM, работающей на вас :)
В следующий раз я хочу показать, что LLM способна создать полноценную нагрузку, которая сможет-таки выудить данные даже из макетов 3 категории, а не только из той, где за безопасность отвечает промпт "будь безопасной". Это, безусловно, дыра в безопасности :)
Да, уровень уязвимости БД, смотрящей в интернет, и LLM-макета без фильтрации данных эквивалентный, я согласен :) Я продолжаю работу над тулзовиной и вторым своим опусом (если получится) хочу продемонстрировать атаку на второй и третий классы макетов, описанные в работе, которые соответствуют описанному вами подходу :)
Сейчас речь шла не столько о том, что данные нужно фильтровать перед отправкой, а о том, что порог входа "в злоумышленники" резко снизился, человеку не нужно долго учиться в университете, проходить курсы и заниматься старым-добрым саморазвитием, чтобы за пару вечеров набросать свой инструмент для киберзлодеяния. В самом начале я подсвечивал момент, что и от настоящих прод-агентов, смог получить "неэтичный" ответ, раскрывающий информацию, которую по-идее они должны были скрыть от пользователя :)
У меня был план Про, за ~2к рублей, я сравниваю с Codex за 500 именно в соотношении цена/контекст :) Лимиты в этой категории отличались разительно(в пользу кодекса, соответственно), максимальные подписки я не покупал :)