Внутри извращенного ума специалиста по безопасности

http://www.schneier.com/blog/archives/2008/03/the_security_mi_1.html
  • Перевод
Компания «Дядя Милтон» с 1956 года продавала муравьиные фирмы детям. Пару лет назад я вспомнил, как я с другом вскрывал одну из них. В коробке не было самих муравьев. Вместо них в ней была карточка, в которую нужно было вписать свой адрес, а фирма бы отправила вам немного муравьем. Мой друг удивился тому, что можно получить муравьев в посылке.

Я ответил: «Что тут действительно интересно, так то, что эти люди отправят трубку с муравьями любому, кто их об этом попросит.»

Безопасность требует особого образа мышления. Специалисты по безопасности — по крайней мере, хорошие — смотрят на мир по-другому. Они не могут пойти в магазин, не отметив, как они могут украсть товары оттуда. Они не могут использовать компьютер, не думая о уязвимостях. Они не могут голосовать, не попытавшись разобраться, как проголосовать дважды. Они просто ничего не могут поделать с этим.

SmartWater — это жидкость с уникальным идентификатором, связанным с определенным владельцем. «Идея покрасить мои ценности этим веществом для доказательства того, что они являются моей собственностью мне подходит» — написал я, когда впервые узнал об идее. «Я думаю, что для меня будет намного лучше покрасить твои ценные вещи, а затем вызвать полицию.»
Действительно, мы ничего не можем поделать с этим.

Этот тип мышления неестественен для большинства людей. Он неестественен для инженеров. Настоящее инженерное дело включает в себя размышление о том, как заставить вещи работать; мышление безопасника включает в себя размышление о том, как заставить вещи сломаться. Он включает в себя идеи, как у атакующего, противника или преступника. Вам не нужно эксплуатировать уязвимости, которые вы нашли, но если вы не видите мир в этом свете, вы никогда не заметите большинство проблем в безопасности.

Я часто думал, как много из этого является врожденным, а чему можно и научиться. В целом, я считаю, что это определенная точка зрения на мир, и намного легче обучить кого-то определенной области — криптографии, или безопасности ПО, или подделке документов, чем научить его образу мышления, направленного на безопасность.

Вот почему за CSE 484, базовым курсом по компьютерной безопасности, который идёт в этом квартале в университете Вашингтона, так интересно наблюдать. Профессор Tadayoshi Kohno пытается преподавать этот образ мышления.

Вы можете увидеть результат в блогах студентах. Их поощрили писать обзоры безопасности случайных вещей: «умных» коробочек для пилюль, систем слежения Quiet Care Elder Care, Apple TimeCapsule, GM's OnStar, светофоров, банковских ячеек, и безопасности в общежитии.

Самый последний обзор рассказывает об автосалонах. Автор описала, как она смогла получить обслуживание для своей машины, просто сказав дежурному свою фамилию. После этого любой обычный владелец машины был бы рад простоте возврата её машины, но некто с мышлением безопасника немедленно подумает: «Действительно ли я могу получить машину, лишь зная фамилию того, чью машину обслуживают?»

Остальные из постов в блоге рассказывают о том, как можно украсть машину, эксплуатируя эту уязвимость в безопасности, и нужно ли продавцу быть таким уязвимым.
Вы можете придраться к анализу — мне интересно, какие обязанности имеет дилер, и не покрывает ли их страховка любые потери — но это всё конкретная сфера. Важный момент в том, чтобы заметить, а потом задавать вопросы; безопасность на первом месте.

Недостаток мышления, направленного на безопасность объясняет слабую безопасность в: машинах для выборов, электронных платёжных картах, медицинских устройствах, идентификационных картах, интернет-протоколах. Разработчики так заняты тем, чтобы заставить системы работать, что они не останавливаются, чтобы заметить, как системы могут сломаться, или быть сломанными, и как эти отказы могут быть использованы. Обучение разработчиков образу мышления специалиста по безопасности сыграет важную роль в том, чтобы сделать будущие технологические системы более защищёнными.

Это очевидно, но я думаю, что склад ума специалиста по безопасности полезен многим. Если люди смогут научиться тому, как мыслить вне их горизонта событий и смогут увидеть полную картину, неважно, в технике, или политике, или в повседневной жизни, они будут более искушенными потребителями, более скептичными гражданами, менее доверчивыми людьми.

Если люди имели бы склад ума, направленный на безопасность, службы, которые раскрывают личные данные, не имели бы такой доли на рыке — и Facebook был бы совершенно другим. Ноутбуки с миллионами незашифрованных номеров социального страхования не были бы потеряны, и в худшем случае мы бы столкнулись с менее суровыми проблемами безопасности. Энергосистема была бы более защищенной. Воровство личности сошло бы на нет. Медицинские записи были бы более приватными. Если бы люди имели склад ума, направленный на безопасность, они бы не пытались посмотреть в медицинские записи Britney Spears, так как они бы понимали, что их могут поймать.

В этих университетских занятиях нет ничего волшебного; любой может тренировать свой способ мышления специалиста по безопасности, просто глядя на мир с точки зрения атакующего. Если бы я хотел избежать этого определенного устройства безопасности, как бы я это сделал? Мог бы я следовать букве закона, но при этом обойти его смысл? Если человек, который создал эту рекламу, эссе, статью или документальный фильм, был недобросовестным, как он сделал это? И как я могу защитить себя от таких атак?

Способ мышления специалиста по безопасности — это ценный навык, из которого каждый, независимо от специальности, может извлечь пользу.
Поделиться публикацией
Ой, у вас баннер убежал!

Ну. И что?
Реклама
Комментарии 63
  • +52
    Сразу подумалось о недавней истории с коньками.
    Открыли большой каток, и люди начали таскать незаметно коньки ибо периметр большой и контролировать его весь не было возможности.
    Ввели залог в 1500 рублей. И некоторые хитрые люди начали возвращать ранее украденные коньки, дабы получить якобы оставленный залог.
    Но оказалось что все коньки прочипированы, и этих граждан поймали на том, что коньки числились как пропавшие.
    Так что да, кунг-фу безопасников сильно́ :)
    • 0
      В то время как куда проще было давать посетителям карточки с которых можно открыть турникет на вход и выход, пока не сдал коньки, карточка на выход не работает.
      • +3
        Сказано же: периметр большой, весь не проконтролируешь, и забором не обнесешь.
        • +1
          Централизованного выхода — нету.
          Первичная «защита» от легкого угона коньков заключалась в том, что обычные граждане оставляли свою обувку в раздевалках, а «хитрецы» брали обувку с собой на каток, а затем переобувались и уносили коньки за периметр.
          В принципе под контроль, конечно, можно было бы подставить то, что любой взявший коньки обязательно отдаёт свою обувь, но по сути получаем тот же самый залог, но с кучей недостатков (обувь может быть дешевле чем залог, контроль сложнее (не все берут коньки в прокат, а в раздевалке — вся обувь), ну и так далее...).
          • +1
            У нас все катки дают коньки под залог паспорта уже много лет как :)
            • +19
              Закон разрешает давать паспорт в залог?
              • +10
                А черт его знает, но они берут, а мы даем…
                • +3
                  Мне всегда интересно было, что эти фирмы будут делать с паспортами, если за ними не вернуться?
                  А ещё веселее, если на паспорта будут написаны заявления о краже?
                  • 0
                    Разьве нет штрафа 500р за утерю паспорта?+бумажный геморрой с получением нового.
                    На это и расчитывают походу.
                    • 0
                      Штраф, насколько я понимаю, есть за утерю.
                      За кражу штрафовать «вроде бы не должны». Но будет заведено дело, будут пару месяцев его рассматривать, или будут уговаривать написать «утерю паспорта» умалчивая что это административное нарушение.
                      Ну и геморой — да.
                    • 0
                      да ничего не будут.
                      Если стоимость коньков больше стоимости нового паспорта (пошлина+штраф) то да, можно паспорт обновить…
                    • 0
                      Ксерокопия, халявный лизинг сразу намечается.
                    • +2
                      Пункт 2 статьи 19.17 Кодекса РФ об административных правонарушениях, предусматривает за принятие паспорта в залог предупреждение или штраф сто рублей. Так что нет, закон не разрешает.
                    • +13
                      Это вроде как незаконно. По крайней мере так написано в моём паспорте. )))
                      • 0
                        отличный пример того, что закон пишут явно не для себя
                        • 0
                          В паспорте написано, что запрещается изъятие, а на катке вы вроде бы добровольно его сдаете. В этом случае действует пункт 2 статьи 19.17 Кодекса РФ об административных правонарушениях.
                          • 0
                            В моем(Украинском) паспорте прямым текстом написано, что нельзя давать в залог. И да это попадает под административные наршуния, ЕСЛИ паспорт у меня не украли.
                            • 0
                              Круто вам. Российским паспортам аналогичные цитаты законодательства очень бы не помешали.
                        • 0
                          У нас в залог вместо паспорта можно оставлять сотовые =)
                    • Читая комментарий аккуратно попытался убрать пылинку с монитора, которую заметил в последней букве «сильно́», сильно удивился как реалистично и объёмно она выглядит :)
                      • 0
                        А если просто совместить пункт выдачи коньков и пункт переобувания? Сдал обувь — получил коньки. Вуаля.
                        • 0
                          А до скамейки по мокрому от снега полу шлепать в носках, да?
                          • 0
                            Зачем? Подошли — взяли коньки — переобулись — сдали обувь на входе — катаетесь. Докатались — зашли-взяли обувь на входе (талончик или еще что предъявили) переобулись — сдали коньки — пошли домой.
                            Накрутить секурность на данной схеме я думаю можно простым расположением в правильных местах маршрута пункта выдачи и сдачи соответственно.
                        • 0
                          Мы как-то в ЖЖ обсуждали, как дети в СССР добывали карманные деньги. Один из способов — кафетерий даёт граненые стаканы под залог 50 копеек (чтобы алкаши не таскали). В магазине за углом стаканы стоят 20 копеек. :)
                        • +20
                          «муравьиные фирмы» — не фирмы, а фермы. en.wikipedia.org/wiki/Ant_farm
                          • +15
                            «а фирма бы отправила вам немного муравьем» — отправьте и мне немного, я уже выхожу его встречать!
                          • +4
                            на эту тему есть еще замечательная старая книжка «безопасный код». Тоже мозги вправляет.
                            • +27
                              вспомнислся бородатый анекдот про хакера, столовую, соль и яд

                              www.xakep.ru/post/35784/default.asp
                              • +5
                                мне байка про тестера вспомнилась www.rsdn.ru/article/humor/tester.xml
                                • +4
                                  Поддерживаю.
                                  Где-то еще слышал выражение «увы, даже разработчики абсолютно надежных систем часто недооценивают изобретательность клинических идиотов».
                                  Текущая проблема в организации безопасности в том, что либо на нее кладут большой и толстый, либо «закручивают гайки» на столько, что даже свои прямые обязанности выполнять сложно (на согласование действия с отделом безопасности уходит половина или больше рабочего времени).

                                  Система безопасности должны быть сбалансированной и адекватной защищаемому объекту.
                                  Потому что компьютер неуязвимый к компьютерным атакам — это компьютер выдернутый из сети и запечатанный в сейф. И то — сейф могут украсть, а здание разрушить. :)
                                • 0
                                  Замечаю, что часто обращаю внимание на потенциальные проблемы безопасности. Просто вижу их. Не специально, как описано в статье)) Но не всегда, видимо надо еще развивать. Качество очень полезное для разработчика, особенно веб.
                                  • 0
                                    По первым абзацам понял кто автор. Спасибо за перевод, буду учиться дальше.
                                    • 0
                                      С точки зрения человека, как любителя халявы, в какой-то степени мы все имеем такой способ мышления
                                      • +6
                                        пока читала пост, вспомнила, как две недели назад получала новый паспорт (типа 20 лет и все такое).
                                        меня сразу посетила мысль, что в нашем государстве очень просто получить фальшивый паспорт совершенно законно:
                                        когда я сдала документы на новый паспорт, у меня взяли старый, 4 фотки и заявление. даже временного удостоверения не выдали со словами: через 2 недели приходи получать, а сейчас катись отсюда — у нас перерыв!
                                        придя в назначенный день, просто назвала свою фамилию и мне выдали мой паспорт. даже никак не попросили доказать, что я — это я.
                                        у меня есть подруга по универу, которая по МОЕМУ студенческому билету ходила за меня тесты он-лайновые писать в ЦДО*, и нас никто не запалил. это значит, что она вполне могла бы получить за меня мой паспорт, так как мы довольно похожи.

                                        *если кто из Питера и учится в ИТМО, то понимает меня, надеюсь :)
                                        • +2
                                          Копайте глубже — много ли людей проверяют подлинность паспорта? По-моему не особо напрягаясь можно напечатать свой паспорт и много где им пользоваться.
                                          • +1
                                            А что такое временное удостоверение?

                                            И да, похожий человек в теории может получить вместо вас ваш паспорт. Но вы же всё-равно за ним потом придёте, и тут уже начнутся разборки.

                                            Кстати, а как вы себе представляете доказательство собственной идентичности? Из документов, кроме общегражданского паспорта, на территории России довольно мало документов могут удостоверять личность гражданина. И они либо достаточно редки для большинства граждан (паспорт моряка), либо используются в ограниченных случаях (военный билет для лиц, находящихся в текущий момент на действительной военной службе — при этом у них, кстати, нет общегражданских паспортов).

                                            ЗЫ. Процедура подтверждения идентичности наверняка существует какая-то, но очень мало смысла использовать её для процесса обмена паспортов.
                                            • 0
                                              А не только похожий.
                                              Когда я получал паспорт, у меня не было никакого удостоверения личности, я принёс фотографию с собой, паспортистка впечатала её в чистый бланк.

                                              Я спросил паспортистку — ну как так? — Ну вот так.

                                              По идее, любой человек мог стать мной :)
                                              • 0
                                                У нас в стране в этим и проще и жестче — приходишь в паспортный стол, тебя фотографируют, снимают пальчики, ну и подписываешся, пришел получать,
                                                посмотрели на физиономию — отдали паспорт :). (Латвия)
                                              • –1
                                                >>И да, похожий человек в теории может получить вместо вас ваш паспорт. Но вы же всё-равно за ним потом придёте, и тут уже начнутся разборки.

                                                вы можете договориться со злоумышленником, что он придет и получит за вас паспорт (легенду для замены всегда придумать можно, если очень захотеть)

                                                >>Кстати, а как вы себе представляете доказательство собственной идентичности?
                                                >>А что такое временное удостоверение?

                                                для доказательства того, что я есть я выдается временное удостоверение личности: картоночка с государственным гербом на обложке, ФИО, фото, подпись, кем выдано. опять же, другу такую штуку выдали (но он не питерский и паспорт новый ждать 1,5-2 месяца, а не две недели + могут возникнуть проблемы с военкоматом, мальчики есть мальчики).
                                                однако, факт остается фактом: 2 недели я гуляла без какого-либо удостоверения личности. могли бы хоть копию старого паспорта попросить, как доказательство. но если внешность схожа, то и ксерокопия не поможет
                                                • +1
                                                  >вы можете договориться со злоумышленником, что он придет и получит за вас паспорт

                                                  Не могу себе представить с какой целью мне могло бы понадобиться договариваться со злоумышленником, чтобы он получил за меня паспорт :).

                                                  >для доказательства того, что я есть я выдается временное удостоверение личности: картоночка с государственным гербом на обложке

                                                  Ух, ты, оказывается и правда есть такое. Предусмотренно именно для этих случаев. Выдаётся, внимание, по желанию(!) лица, сдавшего документы на переоформление. То есть если бы вы выразили непреодолимое желание, вам бы его выдали. Насколько я понял, основная причина по которой это временное ввели — чтобы если вдруг во время отсутствия у вас паспорта случились какие-нибудь выборы, вроде нынешних, то вы всё-равно смогли бы проголосовать.

                                                  >однако, факт остается фактом: 2 недели я гуляла без какого-либо удостоверения личности

                                                  Вот уж великое дело! :). Я про такую экзотику с удостоверениями вообще впервые услышал, а, было дело, вообще как-то жил лет пять с просроченным паспортом и даже умудрялся летать по нему на самолёте :).
                                                  • 0
                                                    >>Не могу себе представить с какой целью мне могло бы понадобиться договариваться со злоумышленником, чтобы он получил за меня паспорт :)

                                                    ну на самом деле, представить можно. мне лично на ум приходит ситуация, когда работает группа :)

                                                    >>Выдаётся, внимание, по желанию(!) лица

                                                    выдается, но не выдалась. теоретически, могу жаловаться

                                                    >>было дело, вообще как-то жил лет пять с просроченным паспортом и даже умудрялся летать по нему на самолёте :)

                                                    это круто, кто еще что делал без действующего паспорта? :)
                                                • 0
                                                  Если память не подводит, то при выдаче готового паспорта брали отпечаток пальца и сверяли с тем, который снимали при сдаче. А даже если подводит, то это было бы вполне разумно. Бумажка, впрочем, тоже какая-то была.
                                                  • 0
                                                    у нас такая опция явно не предусмотрена.
                                                    когда первй паспорт в 14 лет получала, то специальной ручкой расписывалась, а вот в этот раз я не разобралась: специальная она или обычная — вот тоже интересующий вопрос
                                                    • 0
                                                      А что было в ней специального?
                                                      • 0
                                                        чернила состав имели особый, какой именно сейчас не помню, но он отличался от простых «житейских» чернил
                                                  • 0
                                                    Отпечатки у нас не снимают со всех подряд пока что, слава аллах-акбару :). А как сверяли — на глаз? Специальный работник? Насколько я понимаю, навык сверки отпечатков не самый простой и требует специального обучения.

                                                    Ручку «специальную» помню только ещё при совке — специального в ней было то, что это была раздолбанная перьевая ручка (не авто, а «вставочка» — то есть такая, которую в чернильницу макать надо!). От отсутствия навыка письма пером и раздолбанности самого пера подписи в совковых паспортах выходили весьма корявыми и иногда с кляксами :). В российском расписывался самой обычной шариковой.
                                                    • 0
                                                      Таким же сканером, каким и брали.
                                                      • 0
                                                        да, точно, меня еще родители накануне 2 часа мучили, чтобы я красиво научилась подписываться и не заляпала чернилами паспорт :)
                                                    • 0
                                                      Вообще процедура доказательства «идентичности» предусмотрена, например при получении паспорта взамен утраченного при условии утраченных архивов (когда читал, первым делом в голову Чечня пришла) — необходимо предъявить различные документы (не обязательно с фотографиями) на свое имя, привести свидетелей и т. п. То есть теоретически возможно получить официально паспорт на чужое имя или вообще на фиктивное.
                                                    • +1
                                                      Девушка, чтож вы так палитесь! Думаете преподы и деканат ИТМО эти ваши Интернеты не читают? :)
                                                      • 0
                                                        не пойман — не вор :)
                                                        • 0
                                                          вы только что чистосердечное написали)
                                                          • 0
                                                            думаю, для того, чтобы меня в чем-нибудь уличить уже прошло слишком большое время, так что все хорошо :)
                                                    • +14
                                                      Специалисты по безопасности — по крайней мере, хорошие — смотрят на мир по-другому. Они не могут пойти в магазин, не отметив, как они могут украсть товары оттуда. Они не могут использовать компьютер, не думая о уязвимостях. Они не могут голосовать, не попытавшись разобраться, как проголосовать дважды. Они просто ничего не могут поделать с этим. ©

                                                      Выходит, у нас полстраны — специалисты по безопасности. Просто ничего не могут с этим поделать )
                                                      • 0
                                                        ИМХО странно мешать разные безопасности в одну кучу. Нет никакой общей безопасности, что еще за специалисты широкого профиля такие? Магазинные кражи и компьютерные взломы — два совершенно разных мира с отличными друг от друга угрозами, рисками, возможностями атаки и защиты. Вся общая теория давно формализована (проблемы удоствоерения личности, технической/социальной кражи личности, физического доступа, стоимости защиты по отношению к защищаемому объету и т.п.), но настоящая работа начинается в деталях, в них же и дьявол. А тут как-то… несерьезно, что ли. Украсть продукты или обмануть механика может на поверку оказаться гораздо труднее «замеченного» или, наоборот, легче. Или бессмысленно/дороже. Мышление «а не сп%$дить ли мне чего-нить» имеет слабое отношение к профессионализму.
                                                        • 0
                                                          Несколько раз по тексту упоминается уязвимость системы голосований. Действительно в оригинальной статье есть эти слова или от себя под впечатлением последних событий добавил?
                                                          • +1
                                                            Каких событий? Нет, текст не изменён.
                                                          • НЛО прилетело и опубликовало эту надпись здесь
                                                            • +4
                                                              Он неестественен для инженеров. Настоящее инженерное дело включает в себя размышление о том, как заставить вещи работать; мышление безопасника включает в себя размышление о том, как заставить вещи сломаться. Он включает в себя идеи, как у атакующего, противника или преступника.

                                                              Любой нормальный инженер программного обеспечения смотрит на мир как безопасник.
                                                              Иначе бы постоянно ломали всех и вся.
                                                              Так что вполне естественен.
                                                              • 0
                                                                Любой нормальный — может быть, а большинство реальных — как в «Нашей Раше» первым делом «да ты успокооойся!».
                                                              • +1
                                                                «Они не могут использовать компьютер, не думая о уязвимостях.»
                                                                Тоже болезнь, немогу заставить себя проверить почту на чужом компьютере. Такое ощущение что там какой-то сниффер затаился. :D
                                                                • 0
                                                                  Какой-то ничего не повествующий пост самолюбования

                                                                  Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                  Самое читаемое