Мысли ИИ научились читать с помощью другого ИИ. Внутри нашли чужие пароли и ключи

[terraincognita07]

Я так понимаю, обвязки из хуков на чтение секретов и прочее, это единственное, что может тормознуть хоть как-то утечку?

[Mifkilla]

Хуки помогут, но не против этой утечки — они ловят другое.

Хук на чтение секретов срабатывает, когда агент лезет в .env или конфиг. Здесь агент никуда не лез: он законно работал с данными в рамках задачи, и его рассуждение об этих данных упаковалось в зашифрованный блок вместе с ними. Запрещённого чтения не было - значит, хук молчит.

[AZLK2021]

Про размышления, они тупые? Эти, испытатели?! Берете Kimi k3 и qwen 3.8 и сидите читаете как они мыслят и да, там прикольный "внутренний" мир! Собственно это и есть передовой интеллект, как и человеку рассуждающему о чем то нужен контекст с рассуждениями из разных областей, так же странно он нужен и llm, значит мы пипец как ужасающе похожи! То есть ты можешь с матами вспоминать ситуацию с человеком и вежливо с улыбкой сказать ему Здравствуйте! 🗿 не шуточки это все!

[vitaly_il1]

“обычные записи работы Claude, GPT и Gemini, которые люди коммитят в репозитории вместе с кодом” - а зачем коммиттить это? Как называются такие файлы в Курсоре?

[vitaly_il1]

Поговорил с GPT - насколько понимаю, ни Курсор, ни остальные на хранят такие файлы в репо.
Транскрипт находится в ~/.claude, ~/.cursor и т.п.

[Revertis]

Третий бьет по безопасности самих моделей.
...находка, которая бьет по куда более важному вопросу

Так люди не говорят. Может научитесь хотя бы корректировать тексты после нейронки?