Комментарии 24
А ведь вы уже не кантианец. Вы, так сказать, еретик
Кантианство не религия, хотя и основано на вере в разум и достоинство.
Поэтому я не еретик, а критик.
А критика не убивает, а развивает.
Замечательно, я с вами полностью согласен, но постоянно ссылаться на Канта там, где вы строите свою философию не совсем этично.
Для меня неэтично не ссылаться на первоисточник. Я показываю - что я беру, а что меняю у Канта. Я же не могу взять императив и сказать что я сам его придумал. А термин "кантианец" означает "субъект, выполняющий императив Канта".
Но что, если логическое требование не разрушает систему, а просто её искажает?
А далеко, по Вашему, от искажения до разрушения? Может, не корректная аналогия, но представим здание в котором несущая балка имеет маленький такой, визуально не видимый дефект (каверна или внутренняя трещина). Есть ненулевая вероятность того, что до того как здание отслужит свой срок, оно рухнет из-за резкого изменения геометрии и несущей способности этой самой балки. И такое, увы, случалось: здания падали, котлы взрывались, рельсы лопались
Не нашел в тексте конкретных предложений по защите от социальной инженерии. Что конкретно Вы, как гуманитарий, хотите сказать айтишнику в диалоге, чтобы улучшить, (изменить, отменить?) алгоритм двухфакторной аутентификации, если он так плохо защищает от социальной инженерии?
Спасибо за вопрос — он абсолютно справедлив. Давайте говорить конкретно.
Я не предлагаю отменять двухфакторную аутентификацию (2FA) и другие технические меры. Они необходимы, как замок на двери.
Но, как и замок, 2FA не защищает от внутреннего доступа, от доверия, которое обманывают, от смысла, который переопределяют. Социальная инженерия — это не взлом системы, а взлом смысла.
Вот что я надумал про конкретику.
Проведите междисциплинарный аудит системы
Организуйте мозговой штурм с участием не только инженеров, но и специалистов в области философии, лингвистики, этики и UX-дизайна.
Задача — разделить все угрозы и решения на три уровня:Логические (синтаксис: «Если A, то B»),
Семантические (смысл: «Что подразумевается под „безопасностью“?»),
Прагматические (действие: «Как пользователь интерпретирует это уведомление?»).
Это позволит выявить не только баги, но и скрытые манипулятивные паттерны.
Ищите и анализируйте семантические уязвимости - то, как переопределен смысл.
Анализируйте:Какие слова вызывают доверие или тревогу?
Где граница между «помощью» и «давлением»?
Какие нормы закладываются в ИИ через промпты? Например, как работает "искусственная совесть" вашей системы?
Эти уязвимости — не «баги», а архитектурные риски, требующие специальной диагностики.
Проектируйте субъективный опыт пользователя
Пользователь не просто взаимодействует с системой — он переживает её.
Используйте подходы к проектированию опыта (UX), основанные на:Категориях Аристотеля (логос, этос, пафос) — чтобы понимать, как система убеждает, вызывает доверие и влияет на эмоции,
Кантовском дуализме формы и содержания — чтобы учитывать доопытные структуры восприятия (например, ожидание последовательности, причинности, автономии).
Это превращает дизайн из технической задачи в этический процесс.
Регулярно повышайте гуманитарную квалификацию команды
Без понимания семантики нельзя защищать смысл.
Рекомендую ввести в план развития:Семиотику — анализ знаков и их воздействия на примерах из практики ващей системы,
Герменевтику — интерпретацию намерений и контекста пользователей,
Кантианство — основы автономии и морального суждения,
Этику и эстетику — для осознанного дизайна,
Логику — для ясности аргументации.
Это не «философия ради философии», а необходимый инструментарий для проектирования безопасных систем.
Спасибо за ответ. После прочтения этих четырех пунктов, я (в некоторой степени айтишник), каюсь, не уловил причинно-следственную связь между указанными мероприятиями и повышением защиты от социальной инженерии. Как айтишник может эффективно влиять на условного пенсионера, которому позвонили жулики с просьбой продиктовать код из СМС, кроме как добавив в СМС фразу "никому не сообщайте этот код"? Например, есть реально наболевшая проблема получения несанкционированного доступа к личному кабинету граждан на портале государственных услуг через социальную инженерию. Хотелось бы на этом конкретном примере услышать хотя бы гипотетическую пару (цепочку) конкретных айти решений и ожидаемых позитивных последствий, повышающих защиту от социальной инженерии. Как пример: гуманитарии предложили добавлять айтишникам в текст СМС фразу: "не говори никому код, а не то умрешь страшной смертью через 7 дней, а все твои деньги уйдут жуликам", ожидая, что такое запугивание лучше повлияет на умы людей и спасет от необдуманных действий.
Попробую я за автора привести пример реализации "И если мы хотим, чтобы технологии служили людям, нам нужно больше семантики.": В подозрительных случаях использовать звонок ИИ-ассистента для оценки (в том числе) эмоционального состояния пользователя.
Осталось только не разгневать граждан своими подозрениями и говорящими роботами. ) Дорого, сомнительно, но ок. Просто сомневаюсь, что для таких не особо то и креативных решений нужны вот эти вот все уважаемые Канты, Аристотели и "прочие философии", а достаточно обычного здравого смысла, которого должно с запасом хватать у людей, принимающих решения, хоть у "физиков", хоть у "лириков".
По моим наблюдениям, чаще всего "здравый смысл" сводится к попыткам создания новых алгоритмов и "заглушек" вместо семантического анализа.
За себя могу сказать, что во всех случаях, когда банк тормозил мою транзакцию, моя оценка банка только повышалась, хотя понимаю, могут быть ситуации, когда такое может здорово навредить, мы на территории, где нет идеальных решений.
Просто сомневаюсь, что для таких не особо то и креативных решений нужны вот эти вот все уважаемые Канты, Аристотели и "прочие философии"
А я согласен, автор явно поспешил, генерируя ответ на ваш запрос. Философы нужны чтобы поднимать вопросы, а не отвечать на них.
Да, гуманитарий не может стоять за спиной пенсионера.
Но он может вместе с инженером провести анализ и дать инженеру инструменты, чтобы система сама стала защитой.
Разберем проблему: жулик звонит пенсионеру, представляется сотрудником службы поддержки, убеждает, что «аккаунт взломан», и просит продиктовать код из СМС.
Техническое решение: «Добавить в СМС: „Никому не сообщайте код“».
Но это не работает — потому что жулик говорит: «Это как раз и нужно, чтобы остановить взлом».
Слово «никому» оказывается внутри манипуляции.
С точки зрения гуманитарного анализа нам надо вывить семантику манипуляции.
Мошенник использует триггеры доверия: имитация заботы («ваш аккаунт в опасности»), срочность («нужно срочно»), авторитет («я из техподдержки»).
Это не логическая ошибка, а прагматическая атака — он переопределяет смысл самого уведомления.
Далее нам надо понятьи описать контекст восприятия, влияющую на семантику. Пожилой пользователь не различает «СМС от системы» и «команду от живого человека». Для него важнее голос, тон, уверенность, чем текст.
Слово «никому» — абстракция. А «спаси меня» — эмоция.
Исходя из этого надо проанализировать сценарии поведения в этом контексте и понять - как система может встроить «анти-стыд» или «анти-доверие» в критический момент? Как сделать так, чтобы пользователь на секунду остановился, а не подчинился?
На основе семантики и суенария ищем ИТ-решения (что делает инженер на основе анализа):
1. Динамическое уведомление в СМС (семантический слой) Было: «Код: 123456. Никому не сообщайте» Стало: «Код: 123456. Это НЕ подтверждает действия по телефону. Ни один сотрудник не попросит его вслух. Если вам звонят — это мошенники. Полиция №112»
Почему это работает?
Убирает двусмысленность: «не сообщайте» → «это не для телефона»
Демонтирует доверие: «никто не попросит» — ломает иллюзию легитимности звонка
Дает инструкцию: «звоните в полицию» — переключает с паники на действие, на прагматику.
2. Голосовое уведомление при входе (прагматический слой)
При первом входе после авторизации система говорит: «Вы вошли. Напоминаем: никто из службы поддержки никогда не звонит, чтобы попросить ваш код. Это всегда мошенники»
Эффект: Создает аудиальный антимем — голос системы против голоса жулика Укрепляет установку до атаки, а не после
3. Сценарий «проверка голоса» (UX-сценарий)
Если пользователь вводит код из СМС, но при этом с устройства не было запроса на вход: → система не подтверждает вход, а показывает: «Вы вводите код, но никто не пытается войти. Кто-то просит вас ввести код по телефону? Это 100% мошенники. Нажмите „Сообщить“» Результат: Система вступает в диалог, а не просто выдает код,
Это превращает пользователя из пассивного объекта в активного участника защиты Ожидаемые последствия: Снижение числа успешных атак — не за счёт страха («умрешь через 7 дней»), а за счёт ясности и уверенности.
Формирование устойчивой установки: пользователь перестаёт считать звонок «частью процесса».
Снижение нагрузки на поддержку — меньше звонков вроде «почему не пускаете, я же код сказал».
Гуманитарный анализ не заменяет инженера — он расширяет его инструментарий Гуманитарий не пишет код. Но он помогает понять: какие слова манипулируют, какие эмоции используются, какой контекст вскрывает уязвимость.
Инженер берет это и встраивает в архитектуру — в текст, в голос, в поведение системы. Так защита перестает быть просто «баннером», и превращается в среду, которая учит, а не только предупреждает.
Это и есть диалог гуманитария и ИТ-шника — не ради философии, а ради реальной защиты человека.
1. Мне кажется, вы сильно преувеличивает преимущество одного текста перед другим в способности преодолеть влияние голоса живого мошенника, который уже предварительно ввел жертву в эмоциональный контекст: «времени нет, поэтому делать будем не думая, человек на трубке мой спаситель». Если нет ссылки на какое-то АБ тестирование, что такая замена текста работает для целевой группы, то я больше поверю, что большинство жертв даже не осознают смысл текста СМС, каким бы он ни был. Жертвы просто автоматически диктуют цифры, которые мозг успешно выделяет без осознанного прочтения (по себе знаю). Мошенники, заранее зная текст предупреждения, просто будут учитывать его в своем сценарии предварительной накачки и сопровождении по ходу разговора.
2. И на каком устройстве это голосовое уведомление проигрывается? У мошенника на компьютере, когда он успешно введет код? Ведь бабушка при звонке мошенников сидит на кухне и хорошо, если не с кнопочным телефоном. Жертвы на госуслуги заходит 1,5 раза в жизни, а некоторые даже и не помнят, что они у них есть, поэтому, если они когда-то, что-то услышали при входе, то уже забыли, и не вспомнят, т.к. ситуация в которой это происходила ничем не напоминает текущую, другой контекст, «условный рефлекс» не отработает.
3. Наверное гениально, но я к вечеру пятницы плохо соображаю. Вроде как код СМС пользователь (он же жертва) никуда не вводит, он вообще думает, что это новый код от домофона, который надо продиктовать для сверки, или код заказа посылки, которая его ждет на почте. Я вообще не понимаю, куда можно вводить код, если "никто не пытается войти". Этот код вводит мошенник. Вводит на компьютере, с которого он сделал запрос на вход. Сервер, получивший запрос и засылающий СМС не знает, где сейчас географически находится владелец аккаунта, он не знает, что телефон в руках у бабушки в деревне на кухне, а не у мошенника в «колл-центре» перед компьютером, он не знает, что бабушка по неопытности, передаст код вербальным каналом мошеннику.
Просите великодушно, но в важности такого академического (на мой взгляд наукообразного) подхода к обсуждаемой проблеме я пока не убедился.
«Код: 123456. Это НЕ подтверждает действия по телефону. Ни один сотрудник не попросит его вслух. Если вам звонят — это мошенники. Полиция №112»
Почему это работает?
неизвестно работает ли это.
из общих соображенией. во внушениях и приказах частица "не" часто проходит мимо восприятия.
слишком длинно.
на мой взгляд вот что сработает: "Код 123456. Кто спросит - посылайте на%уй, в пи4ду, к е--ной матери и сразу вешайте трубку ". шок-контент мимо восприятия просто так не пройдет, даже при нервяках и нагнетании. есть однозначная инструкция.
тоже вариант
тут всё проще, только надо смотреть в немножко более правильную сторону.
чтобы сесть за руль, нужны водительские права, т.е. мед.комиссия и экзамены, а чтобы взять телефон и продиктовать смс не нужно ничего. плюс к этому разная среда: когда водишь автомобиль, то препятствия приходится обходить постоянно, а когда пользуешься телефоном, то препятствий не встречается вообще никаких.
итак, ключевой фактор - это иммунитет. на дороге он формируется и поддерживается постоянно, пока не заснешь за рулем, а в эксплуатации систем с двухфакторной авторизацией иммунитет, вообще, не формируется. значит, надо его тренировать. надо звонить всем и постоянно пытаться развести по самым новым схемам мошенников только лишь для того, чтобы тренировать и проверять иммунитет. если иммунитет слаб, надо уменьшать лимиты на транзакции.
и еще есть внешний иммунитет: по недвижимости, например, в процессе совершения транзакции какую-то роль играют риелторы, юристы, нотариусы, регистрационные органы, а по кредитам и прочей наркоманской тематике нет никого.
когда-то построили дороги и сделали экзамены. а когда сделали онлайн кабинет, в котором можно набрать кредитов и потерять всё - какие-то экзамены сделали?
ну и так, в целом, к тому, что нет никакого иммунитета, людям прививают странные и ложные установки, что можно защититься 4 цифрами, при том, что технология такова, что кто угодно может перевыпустить симкарту и все эти цифры забрать себе.
Кажется, настоящая кибербезопасность начинается там, где инженеры перестают спорить с гуманитариями и начинают работать вместе.
инженеры перестают спорить с гуманитариями
с гуманитариями в постСССР-РФ есть одна проблема. очень мало кто из них готов рисковать, придумывать и выводить в паблик что-то новое, неортодоксальное. в основном от них идут (или мне попадаются в инфопотоке ?) комментарии на комментарии на комментарии. или это наследство СССР, где вся гуманитарщина была задавлена марксизмой-ленинизмой, или это общемировая тенденция.
а настоящая ИБ делается так https://habr.com/ru/articles/938782/ см последний абзац.
Почему алгоритм плохо защищает от социальной инженерии: мысленный эксперимент в мире кантианцев-манипуляторов