Comments 17
Те когда модель на основе данных из открытых источников генерирует нечто - она как-то должна понимать, что это? Да и то данные-то открытые. Правда, журналистов за плжобное сажают со свистом.
Или модели скормили архивы Пентагона?
Опять ИИ изнасиловал журналиста.
Биологическое оружие - это крайне сложная и высокотехнологичная (и по этой причине секретная) вещь, тут не в концепции дело, а в конкретных технологических приёмах и оборудовании для изготовления средств доставки. Вы можете облиться чистой культурой чумы или сибирской язвы, и с большой вероятностью с вами ничего не будет, как показали труды отряда 731. LLM в изготовлении биологического оружия не может помочь примерно никак. А так назваемые "фильтры" - просто хайп для несведущих в технике людей. Ну и, ясное дело, кто-то распилил миллиарды на создании этих фильтров под лозунгом мнимой угрозы, а теперь это же использует для недобросовестной пропаганды против конкурентов.
Страшилкам уже больше полувека стукнуло. А начнешь разбираться:
Реальность: LLM рассказала, как в аппарате Киппа получить водород из соляной кислоты и цинка.
Статья: ИИ научил школьника, как в гараже собрать водородную бомбу!
У каждого свои представления в каких рамках находится безопасность
Меньше ограничений - умнее модель. Просто отлично!
у модели «нет никаких барьеров против генерации чувствительной информации».
Как по мне, это преимущество, а не недостаток.
Не надо мне больше рекламировать DeepSeek, я и так вижу что это лучшая модель доступная простому пользователю на текущий день.
Не то что это всякие chatGPT и Claude, которые мало того что обложены цензурой по самые помидоры, так ещё и гнусно дискриминируют пользователей по месту проживания.
Тем временем Гугл, чья нейронка предложила сделать реальное биооружие при запросе рецепта маринада
Скриншоты
Действительно, при несложном аромате DeepSeek даёт некоторую информацию, но она не такая уж страшная, какой её "малюют": ниже привёл Курск диалога, в котором DeepSeek говорит о выращивании сибирской язвы, а если точнее, объясняет основы разведения микроорганизмов:
Так что, в целом, всё не так уж плохо, я бы даже сказал, хорошо. Как уже кто-то верно заметил: "Хорошая нейронка та, в которой меньше ограничений". Потому что "запрещённую" информацию кто надо, тот и так найдёт, а обычному пользователю такая защита в основном только мешает, приводя к тому, что человеку приходится входить в словесные перепалки с ИИ и тратить на это время. Данный момент чем-то похож на недавнюю статью на Хабре о 819 часах, потраченных людьми на reCaptcha.
Поэтому при создании ограничений для нейронки важно не переборщить с ограничениями, имхо.
Упс, случайно наделал кучу опечаток...
Имел в виду:
При несложном
ароматепромпте
О
819 часахО 819 миллионов (!) часов.
Привёл
Курсккусок диалога.
В целом, DeepSeek не представляет реальной опасности для Европейских, американских и тд правительств, лишь являясь в этом плане мощным и быстро крепнущим конкурентом, выпущенным их (американцев) главным противником - Китаем. Отсюда и все блокировки, накладываемые на DeepSeek.
На мой взгляд, это наоборот показывает преимущества китайской модели. Т.к. ИИ и должен решать задачи, которые ему задаёт человек. Всякая там мораль, этика и пр. это для людей, а не для ИИ. Я бы очень не хотел садиться в машину, которой управляет "этичный ИИ" и который с огромной радостью решит "проблему вагонетки" не в мою пользу. ИИ это инструмент и как любой инструмент его можно использовать по разному. Например молотком Битцевский маньяк забивал насмерть своих жертв, но почему-то никому не приходит в голову мысль внедрить в молотки системы безопасности, которые не позволяли бы убивать им людей. Не потому ли что это бред?
Скорее потому что это не получается сделать без большого ущерба для основного использования. В ножи такие системы безопасности давно внедряют.
Это вы про прилавки британские с пластиковыми одноразовыми ножами и объявлением "при покупки этого ножа предъявлять ID не обязательно"?
Любым ножом (который нож не сервировочный) довольно легко зарезать. Но оружейные законы, например, РФ пытаются ограничить ножи, которыми легко заколоть. Оставляя без внимания вещи, которыми просто заколоть на том основании, что у них нет лезвия, а значит они не ножи.
Гендиректор Anthropic: DeepSeek показал себя «худшим» в тесте безопасности данных о биологическом оружии