Комментарии 20
Самое интересное тут в том, что подсматривать за тем что делает пользователь стало нормой, то-есть уже не кто не кричит о приватности, и анонимности.
Какая в агентской среде может быть приватность? Вы делегируете работу и принятие решений третьему лицу (боту) или их группе, которые управляются не вами. На работе вас же не смущает, что написаный вами код смотрит сосед, заплату знают бухгалтера и кадры, а почту и чат корпоративного мессенджера читает СБ? Нет. Здесь те же рабочие отношения, безотносительно того, что вы там ваяете. Что-то секретное или важное? Заводите свой луна-парк...
Я имел в виду другое,
Важно то что они сами ранее били себя пяткой в грудь вроде (Zero Data Retention) и обещали что общение с моделью не кто не отслеживает и не читает а чаты не сохраняются, заявления расходятся с реальностью
Скорее всего, так и есть. Сохраняются новые веса, по факту.
Они так и говорят: мол, люди не читают, а то же модели читают, и они никому ничего (ну, кроме как тому, кто их проверять по логам будет)
Аккуратная такая политика.
– Конечно! Но зачем останавливаться на этом? Ты мог бы звонить женам, у которых мужья уезжают в командировку, и сообщать им телефоны отелей, где остановился супруг, – чтобы они могли звонить ему по ночам и проверять, один ли он. Или звонить солдатам, которые давно не звонили домой, и наживаться на их угрызениях совести. Ты понимаешь, насколько аморальна эта идея? Не говоря уж о том, что она противозаконна. Ты не имеешь права подслушивать чужие разговоры.
– Нет, имею. Я машина. Я обнаружил, что каждый телефонный разговор подслушивают много других машин. Некоторые из них контролируют слышимость на линии, обеспечивают двустороннюю связь, регистрируют время разговора. Все это не противоречит закону. И то, что я предлагаю, тоже.
Гарри Гаррисон, "Выбор по Тьюрингу". В книге, кстати, этот разговор происходит 19 сентября 2024. А событие всей книги с 2023 по 2026 года. :-D
Да эта иллюзия приватности в закрытых облаках развеялась еще во времена первых публичных чат-ботов
лимит полезности публичных LLM’ок ещё упал на несколько уровней.
Думаю, что они будут старательно заводить их в "пользовательский" сегмент. Т.е. такой советчик по обывательским вопросам втюхивающий тебе смесь рекламы, правильных воззрений и пропаганды. Причем за твои же деньги...
Будет версии ПРО. Но сильно дороже и узко специализированные. Т.е. если ПРО модель заменяет 5 специалистов, то должна стоить как один специалист минимум.
Это не теория заговора. Это маркетинг.
А от реально большие не урезанные модели будут только для своих.
Скорее всего именно так, проектируют потихоньку маркетинговую сегментацию. Кибербез сейчас очень денежная и актуальная ниша, реверс на подходе, ибо много чего наговнокожено и потеряно - но работать надо. Было бы глупо с точки зрения капиталиста не снять жирные сливки сверхприбыли с этого богатого рынка за якобы специальную модель, которая на деле будет расцензуреной обычной.
Ну а что вы хотели?. Думали раз живут на облаках - значит ангелы?
Ждем патча от Nvideo к драйверам на запрет запуска неподписанных моделей "для Вашей безопасности"...
Вчера в кодексе решил попробовать те дебри, в которые даже не пытался лезть - прошивки.
Подсунул ему просто бинарник с просьбой разобраться что это вообще такое и если можешь, давай заставку при включении поменяем. Через 10 минут, готовая прошивка уже лежала. Ещё через 20, я получил девайс с новой функцией, которую пользователи ждали много лет.
прошивок приобретённых устройств
А говорили при капитализме будет настоящая частная собственность: «что купил - то твое», и тд
Мне буквально на днях пришлось восстанавливать пароль устаревшего роутера хозяина дома с помощью анонимного Gemini прямо из поиска Google. Claude же при любых намеках на обсуждение, как прочитать пароль моего же легитимного домашнего прибора, немедленно пытался поднять алерт по кибербезопасности.
Месяц назад он сбросил модель после того как я, вспоминая свою юность, рассказал ему, что получал полный доступ на TSX Plus (кто-нибудь ещё эту ОС помнит?). Год назад восстановление своего же пароля (буквы я помнил, регистр этих букв нет) мне пришлось собрать перебиралку регистров, сделав два запроса в разных сессиях: в одной сессии я уточнил цикл перебора регистров, в другой сессии уточнил корректный вызов crypt() для сравнения с хэшем.
В общем, на Claude надейся, а сам держи в запасе китайца.
Купил умный телевизор, попытался убрать из него встроенную рекламу и получил бан за международный терроризм...
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Claude Code отказывает в реверс‑инжиниринге, OpenAI блокирует аккаунты