Comments 14
А ведь вы уже не кантианец. Вы, так сказать, еретик
Кантианство не религия, хотя и основано на вере в разум и достоинство.
Поэтому я не еретик, а критик.
А критика не убивает, а развивает.
Замечательно, я с вами полностью согласен, но постоянно ссылаться на Канта там, где вы строите свою философию не совсем этично.
Для меня неэтично не ссылаться на первоисточник. Я показываю - что я беру, а что меняю у Канта. Я же не могу взять императив и сказать что я сам его придумал. А термин "кантианец" означает "субъект, выполняющий императив Канта".
Но что, если логическое требование не разрушает систему, а просто её искажает?
А далеко, по Вашему, от искажения до разрушения? Может, не корректная аналогия, но представим здание в котором несущая балка имеет маленький такой, визуально не видимый дефект (каверна или внутренняя трещина). Есть ненулевая вероятность того, что до того как здание отслужит свой срок, оно рухнет из-за резкого изменения геометрии и несущей способности этой самой балки. И такое, увы, случалось: здания падали, котлы взрывались, рельсы лопались
Не нашел в тексте конкретных предложений по защите от социальной инженерии. Что конкретно Вы, как гуманитарий, хотите сказать айтишнику в диалоге, чтобы улучшить, (изменить, отменить?) алгоритм двухфакторной аутентификации, если он так плохо защищает от социальной инженерии?
Спасибо за вопрос — он абсолютно справедлив. Давайте говорить конкретно.
Я не предлагаю отменять двухфакторную аутентификацию (2FA) и другие технические меры. Они необходимы, как замок на двери.
Но, как и замок, 2FA не защищает от внутреннего доступа, от доверия, которое обманывают, от смысла, который переопределяют. Социальная инженерия — это не взлом системы, а взлом смысла.
Вот что я надумал про конкретику.
Проведите междисциплинарный аудит системы
Организуйте мозговой штурм с участием не только инженеров, но и специалистов в области философии, лингвистики, этики и UX-дизайна.
Задача — разделить все угрозы и решения на три уровня:Логические (синтаксис: «Если A, то B»),
Семантические (смысл: «Что подразумевается под „безопасностью“?»),
Прагматические (действие: «Как пользователь интерпретирует это уведомление?»).
Это позволит выявить не только баги, но и скрытые манипулятивные паттерны.
Ищите и анализируйте семантические уязвимости - то, как переопределен смысл.
Анализируйте:Какие слова вызывают доверие или тревогу?
Где граница между «помощью» и «давлением»?
Какие нормы закладываются в ИИ через промпты? Например, как работает "искусственная совесть" вашей системы?
Эти уязвимости — не «баги», а архитектурные риски, требующие специальной диагностики.
Проектируйте субъективный опыт пользователя
Пользователь не просто взаимодействует с системой — он переживает её.
Используйте подходы к проектированию опыта (UX), основанные на:Категориях Аристотеля (логос, этос, пафос) — чтобы понимать, как система убеждает, вызывает доверие и влияет на эмоции,
Кантовском дуализме формы и содержания — чтобы учитывать доопытные структуры восприятия (например, ожидание последовательности, причинности, автономии).
Это превращает дизайн из технической задачи в этический процесс.
Регулярно повышайте гуманитарную квалификацию команды
Без понимания семантики нельзя защищать смысл.
Рекомендую ввести в план развития:Семиотику — анализ знаков и их воздействия на примерах из практики ващей системы,
Герменевтику — интерпретацию намерений и контекста пользователей,
Кантианство — основы автономии и морального суждения,
Этику и эстетику — для осознанного дизайна,
Логику — для ясности аргументации.
Это не «философия ради философии», а необходимый инструментарий для проектирования безопасных систем.
Спасибо за ответ. После прочтения этих четырех пунктов, я (в некоторой степени айтишник), каюсь, не уловил причинно-следственную связь между указанными мероприятиями и повышением защиты от социальной инженерии. Как айтишник может эффективно влиять на условного пенсионера, которому позвонили жулики с просьбой продиктовать код из СМС, кроме как добавив в СМС фразу "никому не сообщайте этот код"? Например, есть реально наболевшая проблема получения несанкционированного доступа к личному кабинету граждан на портале государственных услуг через социальную инженерию. Хотелось бы на этом конкретном примере услышать хотя бы гипотетическую пару (цепочку) конкретных айти решений и ожидаемых позитивных последствий, повышающих защиту от социальной инженерии. Как пример: гуманитарии предложили добавлять айтишникам в текст СМС фразу: "не говори никому код, а не то умрешь страшной смертью через 7 дней, а все твои деньги уйдут жуликам", ожидая, что такое запугивание лучше повлияет на умы людей и спасет от необдуманных действий.
Почему алгоритм плохо защищает от социальной инженерии: мысленный эксперимент в мире кантианцев-манипуляторов