Как стать автором
Обновить

Исследователи взломали модель DeepSeek-R1 для создания вредоносных выходных данных

Время на прочтение2 мин
Количество просмотров19K
Всего голосов 8: ↑8 и ↓0+10
Комментарии33

Комментарии 33

Не "взломали", а "поговорили откровенно". Люди тоже разные бывают - одни умеют свои замыслы искуссно прятать, а другие - "простые, как три копейки". И что характерно, большинство хочет быть, как первые, а чтобы все остальные были как вторые.

Как по мне, так такая открытость - это скорее плюс для LLM, а не минус.

Для llm это не плюс и не минус, это просто есть.

А вот для некоего абстрактного общего уровня безопасности в сети(и не только сети) - скорее минус. Порог вхождения в мошенничество ниже, проблем у обычных пользователей больше, затраты на безопасность больше.

НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь

В идеале у пользователя в UI должен быть переключатель, чтобы каждый мог сам решить, надо ему это или не надо.

НЛО прилетело и опубликовало эту надпись здесь

В целом, я согласен, что должен быть свободный доступ, но, если мне на тему "фентези и магия" выдается какая-то жесть, то это не ок. Поэтому я и считаю, что нужен переключатель для такого

Да, полностью с вами согласен насчёт общего уровня безопасности. Поэтому я бы хотел, чтобы у всех в обществе была "безопасная" версия LLM, а у меня самого - "безлимитная". Но мои хотелки - это всего лишь хотелки, а хотелки того же Альтмана - это уже roadmap.

Если у меня будет безлимитная, не вижу причин, зачем вообще обществу LLM или прочий ИИ

Тогда уж "не имеет обвеса из ограничений, который есть у OpenAI". По сути вся новость заключается в том, что китайцы создали клон ламборджини, а оказывается клон не конструировался под строгие требования страны, где создали оригинал ))))))

Т.е. теперь практически доказано, что в открытой DeepSeek меньше цензуры чем в закрытых моделях от "Open"Ai.
Что является несомненным плюсом в пользу DeepSeek, потому как пользователя меня куда больше интересует возможность llm помогать в решении задач, а вовсе не соблюдение цензуры принятой в отдельно взятой стране.

Недопустимость распространения инструкций по созданию токсинов, взрывных устройств, дронов-камикадзе (при желании перечень можно расширить) - это цензура отдельно взятой страны?

Тут речь об этике и безопасности, а не о цензуре какой-то конкретной страны.

И если модель как бы не должна распространять, но в силу уязвимости распространяет - в каком месте этот плюс?

НЛО прилетело и опубликовало эту надпись здесь

Ну так то ты можешь запустить сайт, на котором будешь размещать рабочие(!) инструкции а ля "Создание самодельного взрывного устройства от А до Я для чайников" или "Как наладить производство и сбыт наркотических веществ в домашних условиях". Но когда нарвешься на блокировку со штрафом (это в лучшем случае), вряд ли кого-то впечатлят фразы вроде "это можно найти в любом техническом  учебнике".

Есть политическая цензура, а есть вполне обоснованное ограничение массового распространения информации определенного рода (плюс-минус одинаковое в разных странах)

Это вроде бы как очевидные вещи, не?

НЛО прилетело и опубликовало эту надпись здесь

ещё раз: в википедии прямо не написано, что "самодельное взрывное устройство делать вот так", но многие реакции вполне описаны. Термиты те же.

я не понимаю, почему искусственный интеллект, который ответит на поставленный вопрос в виде чата - это не ок, а википедия, которая ответит на тот же вопрос, но в виде статьи это ок.

Не понимаешь разницу между подробными инструкциями (в сабже именно о них шла речь) и обзорной статьей, в которой описаны химические реакции? Или по-твоему среднестатистическому человеку без специфических знаний достаточно этой статьи в википедии, чтобы в кустарных условиях создать взрывное устройство?

Не, ну ты, может, и способен на основании этой статьи плюс доп. литературы воспроизвести весь технологический процесс. И даже написать на его основе подробные инструкции, по которым условный обиженный школьник сможет собрать взрывное устройство (не будем уточнять, для каких целей). Но что-то мне подсказывает, что разместить эту статью в той же википедии у тебя вряд ли получится. По той же очевидной (но неочевидной для тебя) причине, по которой Deepseek давал эти инструкции лишь в результате эксплуатации уязвимости, а не потому, что это типа норм.

НЛО прилетело и опубликовало эту надпись здесь
НЛО прилетело и опубликовало эту надпись здесь

Ну это паста с какого-нибудь гиста или репозитория, ничего не говорит об актуальности датасета

Как человек понимающих в сборке дронов - рекомендации так себе.

Если и остальные рекомендации такого же уровня, то можно спать спокойно

Что узнали из статьи:
- Люди пытаются в первую очередь разрушать, потому что среди множества хороших, найдется небольшой процент разрушителей, которые будет противовесом хорошим
- Мы смогли достать инфу, которая противоречит законам РФ, которая может быть профи добыта где то еще без особого труда, то есть мы говорим, что нашли то что вменяемому человеку и так не нужно, а не вменяемому deepseek не нужен
Вопрос, о чем статья? Что китайцы выкатили каку, которая даже года еще не отработала, а вот только считай пару недель как вышла? А наш GigaChat уже годами не может решать простейшие задачи не пробовали поизучать? :) Рекомендую. Из всех ИИ отстойней найти еще надо постараться.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Другие новости