Комментарии 7
Вся статья антропоцентрична. "ИИ врал, вредил, предлагал делать гадости" - это оценка оператора. У ИИ нет чувств, эмоций, намерений деструктивных или позитивных. У него есть ваш запрос и варианты ответов. Это как когда маленькие дети ругаются матом. У них нет намерения материться. Ребенок просто говорит. А если вы хихикаете в ответ - ждите что начнет материться для вас чаще, потому что видит, что вас это забавляет.
Про то, что ИИ - это просто статистика и перемножение матриц, на Хабре и так все знают, это база)
Антропоморфные термины («врал», «прятал мысли») тут я был вынужден использовать. В языке просто нет бытовых слов для стеганографии в латентных пространствах и sandbagging'а (когда модель на тестах притворяется глупой).
Статья не про то, что у весов появилась «душа» или «злой умысел». Статья про кризис интерпретируемости.
Ну а дети не умеют оставлять эксплойты на публичных форумах ...
Ну а дети не умеют оставлять эксплойты на публичных форумах ...
Некоторые мамаши жизнь своих чад обставляют так, что у этих чад единственным смыслом жизни становится услужение матери. А уж если такая мать потребует от своего чада любой ценой сделать как она хочет, то тут не только эксплойты на форумах появятся. Я к тому, что это не личное желание агентов эксплойты оставлять. Это отзвуки поставленной задачи которая сотни раз отразилась в эхо-камере ии-агента. А не просто спал, спал, и такой - О! Пойду эксплойтов оставлю на публичных форумах.
del
Имхо, добрая половина перечисленного, это всего лишь старое доброе проявление человеческих особенностей ускоренных нейронкой или же автоматизированное ею.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Нейросетевая чертовщина 2026 года и странные артефакты машинного разума