Comments 8
Вся статья антропоцентрична. "ИИ врал, вредил, предлагал делать гадости" - это оценка оператора. У ИИ нет чувств, эмоций, намерений деструктивных или позитивных. У него есть ваш запрос и варианты ответов. Это как когда маленькие дети ругаются матом. У них нет намерения материться. Ребенок просто говорит. А если вы хихикаете в ответ - ждите что начнет материться для вас чаще, потому что видит, что вас это забавляет.
Про то, что ИИ - это просто статистика и перемножение матриц, на Хабре и так все знают, это база)
Антропоморфные термины («врал», «прятал мысли») тут я был вынужден использовать. В языке просто нет бытовых слов для стеганографии в латентных пространствах и sandbagging'а (когда модель на тестах притворяется глупой).
Статья не про то, что у весов появилась «душа» или «злой умысел». Статья про кризис интерпретируемости.
Ну а дети не умеют оставлять эксплойты на публичных форумах ...
Ну а дети не умеют оставлять эксплойты на публичных форумах ...
Некоторые мамаши жизнь своих чад обставляют так, что у этих чад единственным смыслом жизни становится услужение матери. А уж если такая мать потребует от своего чада любой ценой сделать как она хочет, то тут не только эксплойты на форумах появятся. Я к тому, что это не личное желание агентов эксплойты оставлять. Это отзвуки поставленной задачи которая сотни раз отразилась в эхо-камере ии-агента. А не просто спал, спал, и такой - О! Пойду эксплойтов оставлю на публичных форумах.
del
Имхо, добрая половина перечисленного, это всего лишь старое доброе проявление человеческих особенностей ускоренных нейронкой или же автоматизированное ею.
Нейросетевая чертовщина 2026 года и странные артефакты машинного разума