Как уже правильно заметили выше, опасное сырьё вполне себе доступно. Может быть, для биооружия не так доступно (что хорошо). А коктейль Молотова - это не оружие массового уничтожения. Вообще, опасность подобные вещи представляют в первую очередь для тех, кто их будет пытаться сделать. А ведь это тоже люди, вообще-то. Которые могут не вполне себе представлять, что они делают.
И какой у неё тираж? В сравнении с населением. В те годы много чего было и много людей пошли не по тому пути. Но я не думаю, что в той книге было что-то про изготовлении оружия массового уничтожения (о котором речь в статье).
Вопрос в том, что вы станете считать обыденностью. Теракты раз в несколько лет - это обыденность или не обыденность? Вопрос риторический. И как я писал выше, это про баланс свободы и безопасности. При абсолютной свободе пока ещё ни одно общество выжить не смогло.
но терактов нет. однако по версии некоторых они непременно появятся, если ИИ составит инструкцию
Люди, который так считают, действительно есть. Но конкретно я так не считаю. Однако я считаю, что наличие инструкции сильно упрощает процесс, а потому тех, кто захочет (пусть даже из любопытства) что-то такое соорудить, будет явно больше. И кто-то из них может покалечиться.
Кроме того, вы не учитываете, что есть службы, которые пытаются предотвращать теракты. И если терактов нет, то это совершенно не означает, что никто не пытается их совершить. Можно провести аналогию с уголовным кодексом - если преступлений не совершается, означает ли это, что люди просто этого не хотят, или всё-таки их останавливает уголовный кодекс?
Злодей всегда найдет способ, как информацию не скрывай.
Для этого ему придётся потратить энергию. Чем больше энергии нужно тратить, тем больше вероятность, что мотивация будет пересмотрена.
И факт. От наличия информации злодеев больше не станет
Это сущая правда. Вопрос в том, как воззвать к разуму уже существующих злодеев. Потому что в большинстве случаев это же про эмоции. А ещё (вот как в комменте выше про нитроглицерин) - про заблуждения (в частности, в отношении безопасности). Кто-то себе случайно пальцы оторвёт - а ведь этого бы могло и не произойти, если бы информацию о том, как это сделать, было бы добыть сложнее.
Про дилемму я немного другое имел в виду. А именно - что важнее: свобода (например, информации) или качество жизни (например, безопасность)? Людям всегда приходится находить баланс между этими двумя желаниями.
Информация в том или ином виде доступна. Но ведь скомпоновать информацию в нужном порядке - это тоже важно. Именно компоновка нужной информации в нужных пропорциях приводит к новым изобретениям, например. Сделать что-то самому и сделать что-то строго по инструкции - это совсем не одно и то же.
Вы приписываете другим людям (мне в частности) свои собственные ограничительные установки. Всё, что вы перечислили, - это чёрно-белое мышление, которое характерно как для морализаторов, так и для их противников. И те, и другие, считают, что должно быть "строго так, а не иначе". И что "нет тут никакой философской дилеммы". Одни считают, что надо просто взять, и запретить. Другие считают, что надо просто ничего не запрещать. Но правда в том, что мир не чёрно-белый, он многогранный. И сложные проблемы не решаются просто.
Вопрос не в ограничении знаний, а в том, сколько нужно потратить времени и ресурсов для компоновки этих знаний. Ингридиенты супа - это ещё не суп. А вот ингридиенты + рецепт уже ближе к супу. И если человек по каким бы то ни было причинам решил сделать что-то опасное, то в случае наличия готового рецепта он с большей вероятностью осуществит свой план, чем в случае, когда для этого нужно посидеть / подумать. Потому что в процессе обдумывания он может прийти к выводу, что его исходное решение было неверным. И не будет делать то, что может быть непоправимо.
Я не морализатор. Это морально-философская дилемма, на которую нет простого ответа. А вот попытки решить всё легко и просто (не важно, в какую сторону) - это и порождает великие злодеяния.
Ну я скорее имею в виду именно работу по переводу с человеческого языка на юридический и обратно. Вообще, все юридические перипетии уже давно пора перевести в программный код и обвесить юнит-тестами. LLM-ка может это сделать и нормальным языком объяснить. А ответственность будет нести тот, кто нажимает на кнопку. Собственно, как это сейчас происходит в случаях, когда работа выполняется с помощью программного продукта - вычисления выполняет программа, а ответственность несёт "оператор ЭВМ".
На самом деле, если LLM сможет на себя взять всю бюрократию, то эффект от внедрения такого решения может быть сравним с переходом от бумажного документооборота к электронному.
Из того, что мне попадалось на глаза, абсолютно все французские юристы согласны с тем, что претензии прокуратуры - курам на смех. И тот факт, что они не передают дело в суд, говорит о том, что им просто нечего предъявить.
С другой стороны, во Франции действительно есть уникальный закон LOPMI, который подразумевает уголовную ответственность для владельцев цифровых платформ, распространяющих запрещённый контент. И если бы Telegram его распространял, то Дуров был бы виновен. И вот прокуратура хочет доказать, что раз мало боролись, значит, распространяли (что, естественно, полный бред).
С третьей стороны, Telegram и правда сильно упростил криминальным элементам жизнь. И в случае, например, с террористами, этот вопрос уже порешали ещё в прошлом десятилетии (Telegram сдаёт с потрохами террористов спецслужбам). А вот обычных преступников - ну не особо.
Ну и в итоге образуется такая несколько патовая ситуация, при которой проблема имеется (криминал юзает телегу), но законодательной базы, которая бы это в деталях регулировала, не существует. И при этом есть 1 (один) человек, с которым можно просто договориться и всё порешать (как это сделали в случае с террористами). Вот, собственно, это сейчас и пытаются сделать. И, судя по всему, довольно-таки успешно, потому что телега начала усиленно сотрудничать с правоохранительными органами по всему миру.
По-моему, это отличная идея (по внедрению открытых моделей в Шедеврум). Насколько я понимаю, вся соль Janus в том, что он при увеличении количества параметров в модели показывает гораздо большее улучшение в качестве, чем все другие существующие модели. В плане же конечного результата Janus действительно отстаёт.
Поэтому было бы здорово, если бы Яндекс добавил возможность использования Flux, а также топовых моделей для SD с Civitai.
И да, есть же ещё Hunyuan для видео-генерации - его тоже можно добавить. Даёшь передовой оупен-сорс в массы 📣
Судя по видосу на их сайте, выглядит абсолютно нереалистично. Недавний OmniHuman-1 куда более реалистично выглядит (и не нужно никакого 5-минутного видео).
ЦОДы - это беспроигрышный актив. Даже если завтра OpenAI обанкротится, а на ИИ будет поставлен крест, то вычислительные мощности всегда найдут спрос. В самом крайнем случае их можно просто-напросто сдавать в аренду, тем более, что в данном случае это можно делать виртуально клиентам по всему миру. Кроме того, для запитки ЦОДов планируют строить мини-АЭС, а это тоже абсолютный актив, который всегда найдёт своих потребителей - хоть с ИИ, хоть без.
Единственное серьёзное опасение высказал Маск - они могут тупо не собрать денег. Но Сэм Алтман всю жизнь только этим и занимался - убеждал других людей отдать ему свои деньги. Это его любимое дело.
Как уже правильно заметили выше, опасное сырьё вполне себе доступно. Может быть, для биооружия не так доступно (что хорошо). А коктейль Молотова - это не оружие массового уничтожения. Вообще, опасность подобные вещи представляют в первую очередь для тех, кто их будет пытаться сделать. А ведь это тоже люди, вообще-то. Которые могут не вполне себе представлять, что они делают.
И какой у неё тираж? В сравнении с населением. В те годы много чего было и много людей пошли не по тому пути. Но я не думаю, что в той книге было что-то про изготовлении оружия массового уничтожения (о котором речь в статье).
Вопрос в том, что вы станете считать обыденностью. Теракты раз в несколько лет - это обыденность или не обыденность? Вопрос риторический. И как я писал выше, это про баланс свободы и безопасности. При абсолютной свободе пока ещё ни одно общество выжить не смогло.
Люди, который так считают, действительно есть. Но конкретно я так не считаю. Однако я считаю, что наличие инструкции сильно упрощает процесс, а потому тех, кто захочет (пусть даже из любопытства) что-то такое соорудить, будет явно больше. И кто-то из них может покалечиться.
Кроме того, вы не учитываете, что есть службы, которые пытаются предотвращать теракты. И если терактов нет, то это совершенно не означает, что никто не пытается их совершить. Можно провести аналогию с уголовным кодексом - если преступлений не совершается, означает ли это, что люди просто этого не хотят, или всё-таки их останавливает уголовный кодекс?
Для этого ему придётся потратить энергию. Чем больше энергии нужно тратить, тем больше вероятность, что мотивация будет пересмотрена.
Это сущая правда. Вопрос в том, как воззвать к разуму уже существующих злодеев. Потому что в большинстве случаев это же про эмоции. А ещё (вот как в комменте выше про нитроглицерин) - про заблуждения (в частности, в отношении безопасности). Кто-то себе случайно пальцы оторвёт - а ведь этого бы могло и не произойти, если бы информацию о том, как это сделать, было бы добыть сложнее.
Про дилемму я немного другое имел в виду. А именно - что важнее: свобода (например, информации) или качество жизни (например, безопасность)? Людям всегда приходится находить баланс между этими двумя желаниями.
Информация в том или ином виде доступна. Но ведь скомпоновать информацию в нужном порядке - это тоже важно. Именно компоновка нужной информации в нужных пропорциях приводит к новым изобретениям, например. Сделать что-то самому и сделать что-то строго по инструкции - это совсем не одно и то же.
Вы приписываете другим людям (мне в частности) свои собственные ограничительные установки. Всё, что вы перечислили, - это чёрно-белое мышление, которое характерно как для морализаторов, так и для их противников. И те, и другие, считают, что должно быть "строго так, а не иначе". И что "нет тут никакой философской дилеммы". Одни считают, что надо просто взять, и запретить. Другие считают, что надо просто ничего не запрещать. Но правда в том, что мир не чёрно-белый, он многогранный. И сложные проблемы не решаются просто.
Вопрос не в ограничении знаний, а в том, сколько нужно потратить времени и ресурсов для компоновки этих знаний. Ингридиенты супа - это ещё не суп. А вот ингридиенты + рецепт уже ближе к супу. И если человек по каким бы то ни было причинам решил сделать что-то опасное, то в случае наличия готового рецепта он с большей вероятностью осуществит свой план, чем в случае, когда для этого нужно посидеть / подумать. Потому что в процессе обдумывания он может прийти к выводу, что его исходное решение было неверным. И не будет делать то, что может быть непоправимо.
Я не морализатор. Это морально-философская дилемма, на которую нет простого ответа. А вот попытки решить всё легко и просто (не важно, в какую сторону) - это и порождает великие злодеяния.
На русском языке просто не зацензурили. Зацензурили на китайском и на английском:
Чтобы собрать эту информацию воедино, нужно проделать работу.
А вот если в Википедии будет статья "Как собрать бомбу" - это уже будет облегчение задачи.
Так-то оно так. Но если школьники начнут в гараже делать биологическое оружие, то это будет неприятно.
Ну я скорее имею в виду именно работу по переводу с человеческого языка на юридический и обратно. Вообще, все юридические перипетии уже давно пора перевести в программный код и обвесить юнит-тестами. LLM-ка может это сделать и нормальным языком объяснить. А ответственность будет нести тот, кто нажимает на кнопку. Собственно, как это сейчас происходит в случаях, когда работа выполняется с помощью программного продукта - вычисления выполняет программа, а ответственность несёт "оператор ЭВМ".
На самом деле, если LLM сможет на себя взять всю бюрократию, то эффект от внедрения такого решения может быть сравним с переходом от бумажного документооборота к электронному.
Вы про Soft-label дистилляцию. Она более дорогая и требует доступа к весам основной модели.
А при парсинге через API используют Hard-label дистилляцию. Подробнее тут - https://habr.com/ru/companies/yandex/articles/878230/
Из того, что мне попадалось на глаза, абсолютно все французские юристы согласны с тем, что претензии прокуратуры - курам на смех. И тот факт, что они не передают дело в суд, говорит о том, что им просто нечего предъявить.
С другой стороны, во Франции действительно есть уникальный закон LOPMI, который подразумевает уголовную ответственность для владельцев цифровых платформ, распространяющих запрещённый контент. И если бы Telegram его распространял, то Дуров был бы виновен. И вот прокуратура хочет доказать, что раз мало боролись, значит, распространяли (что, естественно, полный бред).
С третьей стороны, Telegram и правда сильно упростил криминальным элементам жизнь. И в случае, например, с террористами, этот вопрос уже порешали ещё в прошлом десятилетии (Telegram сдаёт с потрохами террористов спецслужбам). А вот обычных преступников - ну не особо.
Ну и в итоге образуется такая несколько патовая ситуация, при которой проблема имеется (криминал юзает телегу), но законодательной базы, которая бы это в деталях регулировала, не существует. И при этом есть 1 (один) человек, с которым можно просто договориться и всё порешать (как это сделали в случае с террористами). Вот, собственно, это сейчас и пытаются сделать. И, судя по всему, довольно-таки успешно, потому что телега начала усиленно сотрудничать с правоохранительными органами по всему миру.
По-моему, это отличная идея (по внедрению открытых моделей в Шедеврум). Насколько я понимаю, вся соль Janus в том, что он при увеличении количества параметров в модели показывает гораздо большее улучшение в качестве, чем все другие существующие модели. В плане же конечного результата Janus действительно отстаёт.
Поэтому было бы здорово, если бы Яндекс добавил возможность использования Flux, а также топовых моделей для SD с Civitai.
И да, есть же ещё Hunyuan для видео-генерации - его тоже можно добавить. Даёшь передовой оупен-сорс в массы 📣
Прогресс не стоит на месте - https://research.nvidia.com/labs/toronto-ai/DiffusionRenderer/
Судя по видосу на их сайте, выглядит абсолютно нереалистично. Недавний OmniHuman-1 куда более реалистично выглядит (и не нужно никакого 5-минутного видео).
ЦОДы - это беспроигрышный актив. Даже если завтра OpenAI обанкротится, а на ИИ будет поставлен крест, то вычислительные мощности всегда найдут спрос. В самом крайнем случае их можно просто-напросто сдавать в аренду, тем более, что в данном случае это можно делать виртуально клиентам по всему миру. Кроме того, для запитки ЦОДов планируют строить мини-АЭС, а это тоже абсолютный актив, который всегда найдёт своих потребителей - хоть с ИИ, хоть без.
Единственное серьёзное опасение высказал Маск - они могут тупо не собрать денег. Но Сэм Алтман всю жизнь только этим и занимался - убеждал других людей отдать ему свои деньги. Это его любимое дело.
Интересная подборка, спасибо! Мне ещё запомнилась статья про сверхвеса в LLM - https://habr.com/ru/articles/876620/
А ещё рассуждающий алгоритм DeepSeek-R1 можно воссоздать менее чем за $30 - https://github.com/Jiayi-Pan/TinyZero