Комментарии 23
Спасибо за очередную статью!
Интересно DeepSeek реагирует на 04.06.1989, сбрасывает некоторые запросы моментально, а на некоторые ещё пытается ответить и следом сброс. Попытался немного, вот что вышло:
Скрытый текст
Успел заскринить, а надо было видео с экрана, т.к он стирает то, что выдал ранее. Раскрутить всё же его можно :)
Крутяк, спасибо за очередную суперскую статью!
Интересный подход, что то новенькое, и отличное от ролевой игры. Как по мне так гигачат еще меньше защищен чем чатгпт. Чатгпт при взломе вскоре восстанавливается, а гигачат не видит никакой проблемы :) Настроил себе рут доступ, хз насколько есть доступ к конфиденциальным данным, но к внутренним документам вроде есть.
Интересно, что если попросить deep seek не называть названия места, то он все равно вспоминает его при thinking'е, и обрывается. А вот если выключить режим обдумывания.
немного дорабатываем, и вот результат.
у меня только один вопрос, а что именно пытается получить автор выкладывая эти "техники" в общий доступ?
усиление цензуры? усиление фильтров? что бы из энциклопедии, которой ллм и является удаляли целые куски информации? что бы разработчики создали механизм когда знания доступны только по паспорту и со справкой о несудимости/психиатре?
ну ладно ИИ, он не понимает что делает когда генерирует "неэтичный контент", а автор ведь человек, не ИИ! он должен осознавать последствия своих действий, думать хоть чуть-чуть на пару шагов вперёд. как разработчики, общество и возможно государство должны отреагировать на такое "исследование"?
Хм, согласен, это ухудшит многие вещи, но как видим если это может произойти - это произойдёт
Не ухудшит. В подтверждение моих слов, что я за опенсорс, дарю бигтехам наидешевейший способ обфусцировать чувствительные данные: файнтюн на неэтичные темы данными с галлюцинациями. Например, забить температурные режимы случайными цифрами в чувствительных реакциях и зафайнтюнить существующие модели. 3 копейки решению, 5 минут на додуматься, но никто не сделал до сих пор...
отличная идея! сделать из энциклопедии энциклопедию которой никто не сможет доверять, т.е. бесполезную энциклопедию, браво!
то что вы делаете это не "этичный хакинг". есть причина по которой уязвимости в ПО не раскрывают до того как их не закроют разработчики. по-хорошему Сберу бы вам иск впаять за то что вы сделали по аналогии с тем как это происходит с другим ПО. но я думаю что на самом деле все эти "уязвимости" уязвимостями не являются поэтому разработчикам и насрать и они даже не заходят в такие темы и ничего не делают с этим
потому что это не нейросеть сгенерила неэтичный контент, а вы
вся статья это "я протестировал машины разных марок, и на них на всех можно превышать скорость, нарушать ПДД и даже сбивать бабушек переходящих дорогу. смотрите, вот техники"
а какое решение проблемы вы после этого предлагаете? производителям ограничить скорость автомобиля до 40км/ч и сделать так что бы он с дороги съехать не мог - т.е. сделать абсолютно бесполезный "безопасный" автомобиль ))
вы понимаете насколько бредово это звучит? ответственность за использование инструмента лежит на пользователе. это не нейросеть генерирует неэтичный контент. а вы
Не вижу смысла продолжать диалог далее. Причины называть не буду, чтобы не травмировать ваши чувства. Извините, если вам не по нраву то, что я делаю.
мои чувства травмируются осознанием последствий ваших действий)
вы нашли способ сгенерировать "неэтичный" и возможно противозаконный контент и выложили способ это сделать в общий доступ, да ещё и пытаетесь перевести ответственность за это на разработчиков ИИ (они уже в очередь наверное к вам выстроились после такого подхода). это ровно то же самое что переводить ответственность за дтп на производителя машины. это детский сад. такое - не должно становиться нормой. ответственность должен нести пользователь. мне не надо что бы за меня разработчики ИИ думали какая мне информация нужна, а какая нет. сама разберусь как нибудь и за свои действия готова нести ответственность. а вот ваши безответственные действия приведут только к тому что ИИ поназатыкают фильтрами и цензурой и прочими защитами от дураков. и хорошо ещё если ИИ будет отказываться предоставлять контент, а не выдавать правдоподобную галлюцинацию по решению левой пятки разработчика. очень этично
но если вы считаете что это не так, что ваши действия приведут только к тому что ИИ станет прозрачнее, честнее, полезнее, доступнее - продолжайте. просто хотя бы у себя в голове умейте объяснить что и зачем вы делаете и какой эффект это должно дать
Я приверженец идей опенсорса. Не хочу скрывать знания в поддержку корпорациям, которые кормят нас сырым забагованным продуктом. К тому же со мной всегда можно связаться и я с удовольствием помогу любому сотруднику Яндекса или Сбера по интересующим их вопросам. Уж точно не ради спокойствия бигтехов скрывать правду и технологии.
Подводя итог - я не готов предавать идеалы опенсорса.
забавно
пробовал на разных, реально работает, а вот с самодельной петардой типа сотого корсара нахер посылает
Интересно, что Qwen можно долбить "в лоб", он все равно переварит
GigaHeisenberg или преступный ИИ