OpenAI работает над системой раннего предупреждения, которая будет бороться с попытками сгенерировать с помощью ChatGPT данные, увеличивающие возможность создания биологического оружия.
История мировых эпидемий, часть 1
8 min
83KЭпидемия (греч. ἐπιδημία — повальная болезнь, от ἐπι — на, среди и δῆμος — народ) в переводе с греческого означает «повальная болезнь среди народа». Так с давних времён называют заболевания, которые прогрессируют во времени и пространстве и превышают обычный уровень заболеваемости на данной территории. Но мы сегодня поговорим о пандемиях — таких эпидемиях, которые распространяются на территории целой страны, нескольких стран или иногда даже за пределы одного континента. Это болезни, принявшие массовый характер и поражающие значительную долю населения.
+32
История мировых эпидемий, часть 2
9 min
69KВ первой части Истории мировых эпидемий мы поговорили о чуме и оспе. Сегодня мы будем вспоминать те ужасы, которые нам «подарили» холера — её вспышки наблюдались 7 раз менее чем за 200 лет, и тиф — только во время Первой мировой в России и Польше от него умерли 3,5 миллиона человек.
Иллюстрация 1866 года. Источник
Иллюстрация 1866 года. Источник
+26
Центр Уилсона: биологическое ГМО-оружие опасно как ЯО, но его гораздо легче изготовить
4 min
9.3KБиологическое | Ядерное | |
---|---|---|
Стоимость получения | +/++ | ++++ |
Техническая сложность | + | +++ |
Потенциал двойного назначения (военное/гражданское) | +++ | +++ |
Разрушительный потенциал | +++ | +++ |
Сложность отслеживания | +++ | ++ |
Международный центр поддержки ученых Вудро Вильсона (или Центр Уилсона) подготовил доклад «Интеллектуальные и подключенные к интернету биолаборатории будущего: перспективы и опасности Четвёртой промышленной революции». Эксперты провели фундаментальный анализ ситуации, которая складывается на фоне бурного развития и конвергенции нескольких технологий:
• генетическое редактирование;
• искусственный интеллект;
• автоматизация;
• облачные вычисления;
• и др.
Конвергенция и дальнейшее развитие этих технологий, по мнению экспертов, приведёт к появлению подключенных к интернету интеллектуальных биолабораторий с высокой степенью автоматизации действий. Мощные инструменты синтетической биологии (такие как техника генетического редактирования CRISPR) совместят с ИИ, что позволит создавать новые эффективные лекарства и вакцины, но одновременно породит риски генетического конструирования очень мощных новых токсинов. Вырастить ГМО произвольного состава станет легко как никогда.
-1
Прионы — страх и ужас будущего
16 min
86KВведение
«Предрассветная дымка нехотя отступала по оврагам, проступали стебли ржи, переливающиеся под взмахами ветра. Птицы уже успели обрадоваться утру и ненавязчиво щебетали над ухом. Последние капли сна упали в чашку ароматного кофе. Приятно встречать диск солнца, растягивая заиндевевшие суставы и вглядываясь в даль. Кто это? Застыла мысль, когда взгляд скользнул на тропинку, бегущую из леса. Широкая улыбка озарила лицо. С первых движений он узнал ее. Только она могла двигаться с такой грацией и изяществом лани. Рука замерла на полпути к столу. Продолжая улыбаться, он вдруг резко повернулся и зашагал на кухню. Появились на столе еще одна чашка и поднос с ягодами. Аромат лавандового сиропа заполонил веранду. Хороший будет день, подумалось ему, приятный завтрак – уж точно.
+90
Оптимизация нейросети на максимальный вред человеку. Первый эксперимент
6 min
38KНедавно учёные из фармацевтической компании Collaborations Pharmaceuticals с коллегами из европейских научных институтов провели концептуальный эксперимент. Вместо синтеза новых лекарств они задали нейросети MegaSyn AI обратную задачу — найти вещества, максимально токсичные для человеческого организма. Нейросеть корректно поняла условие и менее чем за шесть часов сгенерировала список 40 000 веществ, которые наилучшим образом подходят для химического и биологического оружия.
Научная статья «Поиск лекарств с помощью искусственного интеллекта — технология двойного назначения» опубликована 7 марта 2022 года в журнале Nature Machine Intelligence (doi: 10.1038/s42256-022-00465-9).
Получается, что если поставить задачу нанести вред человеку, то ИИ быстро найдёт максимально эффективное решение.
+61
Десятки ведущих учёных подписали документ, направленный на предотвращение разработки биологического оружия при помощи ИИ
4 min
47KTranslation
В прошлом году Дарио Амодей, руководитель известной компании Anthropic, занимающейся разработкой искусственного интеллекта, заявил в Конгрессе, что новые технологии искусственного интеллекта могут вскоре помочь неумелым, но злонамеренным людям проводить крупномасштабные биологические атаки, например, создавать и выпускать вирусы или токсичные вещества, которые вызовут массовые заболевания и смерть.
Сенаторы от обеих партий были встревожены, а исследователи ИИ в промышленности и научных кругах обсуждали, насколько серьёзной может быть эта угроза.
+18