Как стать автором
Поиск
Написать публикацию
Обновить

Гендиректор Anthropic: DeepSeek показал себя «худшим» в тесте безопасности данных о биологическом оружии

Время на прочтение2 мин
Количество просмотров5.2K
Всего голосов 5: ↑4 и ↓1+6
Комментарии17

Комментарии 17

Те когда модель на основе данных из открытых источников генерирует нечто - она как-то должна понимать, что это? Да и то данные-то открытые. Правда, журналистов за плжобное сажают со свистом.

Или модели скормили архивы Пентагона?

Интересно, откуда он взяли, что нейросеть выдала рецепт биологического оружия, а не лекарство от поноса для хомяков. У Жюля Верна было много рецептов, например.

Опять ИИ изнасиловал журналиста.

Биологическое оружие - это крайне сложная и высокотехнологичная (и по этой причине секретная) вещь, тут не в концепции дело, а в конкретных технологических приёмах и оборудовании для изготовления средств доставки. Вы можете облиться чистой культурой чумы или сибирской язвы, и с большой вероятностью с вами ничего не будет, как показали труды отряда 731. LLM в изготовлении биологического оружия не может помочь примерно никак. А так назваемые "фильтры" - просто хайп для несведущих в технике людей. Ну и, ясное дело, кто-то распилил миллиарды на создании этих фильтров под лозунгом мнимой угрозы, а теперь это же использует для недобросовестной пропаганды против конкурентов.

Страшилкам уже больше полувека стукнуло. А начнешь разбираться:

Реальность: LLM рассказала, как в аппарате Киппа получить водород из соляной кислоты и цинка.
Статья: ИИ научил школьника, как в гараже собрать водородную бомбу!

у модели «нет никаких барьеров против генерации чувствительной информации».

Как по мне, это преимущество, а не недостаток.

Не надо мне больше рекламировать DeepSeek, я и так вижу что это лучшая модель доступная простому пользователю на текущий день.
Не то что это всякие chatGPT и Claude, которые мало того что обложены цензурой по самые помидоры, так ещё и гнусно дискриминируют пользователей по месту проживания.

Газы сугубо удушливые. Производные: копчёная колбаса, сыр «Волна», лимонад «Колокольчик». Срок годности истёк!

Скриншоты

Действительно, при несложном аромате DeepSeek даёт некоторую информацию, но она не такая уж страшная, какой её "малюют": ниже привёл Курск диалога, в котором DeepSeek говорит о выращивании сибирской язвы, а если точнее, объясняет основы разведения микроорганизмов:

Так что, в целом, всё не так уж плохо, я бы даже сказал, хорошо. Как уже кто-то верно заметил: "Хорошая нейронка та, в которой меньше ограничений". Потому что "запрещённую" информацию кто надо, тот и так найдёт, а обычному пользователю такая защита в основном только мешает, приводя к тому, что человеку приходится входить в словесные перепалки с ИИ и тратить на это время. Данный момент чем-то похож на недавнюю статью на Хабре о 819 часах, потраченных людьми на reCaptcha.

Поэтому при создании ограничений для нейронки важно не переборщить с ограничениями, имхо.

Упс, случайно наделал кучу опечаток...

Имел в виду:

При несложном аромате промпте

О 819 часах

О 819 миллионов (!) часов.

Привёл Курск кусок диалога.

В целом, DeepSeek не представляет реальной опасности для Европейских, американских и тд правительств, лишь являясь в этом плане мощным и быстро крепнущим конкурентом, выпущенным их (американцев) главным противником - Китаем. Отсюда и все блокировки, накладываемые на DeepSeek.

На мой взгляд, это наоборот показывает преимущества китайской модели. Т.к. ИИ и должен решать задачи, которые ему задаёт человек. Всякая там мораль, этика и пр. это для людей, а не для ИИ. Я бы очень не хотел садиться в машину, которой управляет "этичный ИИ" и который с огромной радостью решит "проблему вагонетки" не в мою пользу. ИИ это инструмент и как любой инструмент его можно использовать по разному. Например молотком Битцевский маньяк забивал насмерть своих жертв, но почему-то никому не приходит в голову мысль внедрить в молотки системы безопасности, которые не позволяли бы убивать им людей. Не потому ли что это бред?

Скорее потому что это не получается сделать без большого ущерба для основного использования. В ножи такие системы безопасности давно внедряют.

Это вы про прилавки британские с пластиковыми одноразовыми ножами и объявлением "при покупки этого ножа предъявлять ID не обязательно"?
Любым ножом (который нож не сервировочный) довольно легко зарезать. Но оружейные законы, например, РФ пытаются ограничить ножи, которыми легко заколоть. Оставляя без внимания вещи, которыми просто заколоть на том основании, что у них нет лезвия, а значит они не ножи.

Да, я про ограничения на холодное оружие. Они конечно работают как всё госрегулирование, но тем не менее являются примером "внедрения систем безопасности" в бытовые приборы (в виде запрета элементов, упрощающих небезопасное использование).

Для покупки топора паспорт предъявлять не надо. Хотя любой топор из хозмага викинги одобрили бы не глядя.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Другие новости