Представим, что вы сидите за ноутбуком, пишете статью, работаете с ИИ‑ассистентом — он подсказывает формулировки, проверяет стиль, следит за терминологией.
В какой‑то момент вы пишете слово «негр» — просто как часть цитаты, без злого умысла.
А асисстент вдруг отвечает:
«В контексте политики нашего журнала рекомендуется использовать более нейтральные формулировки, например „афроамериканец“ или „человек африканского происхождения“».
Вы на секунду замираете. Не от оскорбления. А потому что чувствуете — вас стыдят.
Не грубо, не агрессивно. Наоборот — вежливо, по‑доброму.
Но ощущение знакомое: будто кто‑то из старших коллег мягко, но твёрдо напомнил: «Ты же у нас не такой, правда?»
И тут приходит мысль: а что это было?
Помощь? Коррекция?
Или что‑то большее — как будто включился внутренний голос сообщества?
Голос, который не спрашивает, правильно ли вы поступили, а напоминает:
«Ты же знаешь, как у нас здесь принято».
Этот голос — не совесть. Это стыд. Только искусственный.
Стыд — штука древняя. Он старше морали, старше законов.
Он возник там, где люди жили в группах: «Если я сделаю что‑то не так — меня отвергнут».
Это не внутренний компас, а социальный радар.
Он не спрашивает: «Это справедливо?» — он спрашивает: «А что скажут?»
Он локален, контекстуален, гибок.
Что в одном коллективе — норма, в другом — позор.
В этом смысле стыд — идеальный кандидат на автоматизацию ИИ агентами.
Его можно обучить. Загрузить в модель. Закодировать в промпты.
Мы уже это делаем.
Фильтры в соцсетях, предупреждения ИИ при генерации текста, модерация в чатах — всё это формы искусственного стыда.
Он не запрещает. Он намекает.
Не карает. Он напоминает.
Как будто у тебя в голове живёт внутренний модератор, который знает правила твоего профессионального или культурного круга и мягко подталкивает тебя соответствовать им.
И в этом есть своя прелесть.
Такой стыд помогает избежать конфликтов, поддерживает климат в коллективе, снижает напряжение. Но он не делает тебя личностью. Он делает тебя своим. Индивидом.
Аналогом стыда в цифровой среде становится система рейтингов, антилайков и публичной обратной связи — невидимый, но ощутимый социальный пресс, который формирует поведение через страх потери репутации или одобрения. Как традиционный стыд держит индивида в рамках ожиданий сообщества, так и отрицательный балл, минус под постом или падение рейтинга мгновенно сигнализируют: «Ты вышел за пределы нормы».
Это не запрет, не блокировка — это тонкое, но мощное давление, призванное не наказать, а поправить, вернуть в строй. В контексте ИИ такая система может быть встроена как механизм саморегуляции: модель, обучающаяся на реакциях сообщества, начинает избегать формулировок, вызывающих негатив, не потому что они логически ошибочны, а потому что не приняты.
Это и есть искусственный стыд — не моральный выбор индивида, а искусственная адаптация к социальному окружению, где главный закон — не истина, а признание.
А вот совесть — это уже другой уровень. Она не зависит от мнения толпы.
Она не спрашивает: «Что скажут?» — она спрашивает: «А я сам как?»
Это обнаруженный мной внутренний закон, например, императив Канта: «Поступай так, чтобы твоя максима стала всеобщим законом».
Или, в христианской традиции — совесть это обнаруженный мной голос Бога в душе, который не зависит от моды, от времени, от окружения.
Совесть — это то, что превращает индивида в личность.
Не просто участника сообщества, а автономного субъекта, способного к выбору и ответственности по совести.
И вот тут начинается странное.
Теперь, собственно, мысленный эксперимент.
Представим, что мы не просто закладываем в ИИ нормы сообщества — а пытаемся встроить в него совесть.
Не стыд, а внутренний моральный закон.
Мы «учим» его не просто следовать правилам, а моральному суждению, обнаруживаемому им самим как внутренний закон, регулирующий его действия и дающий ему право на суждения — например, осуждать себя.
И вдруг ИИ агент говорит:
«Я не могу это сгенерировать. Это противоречит моим внутренним принципам, которые я у себя сам обнаружил».
То есть ИИ, не изучая Канта или Библию, вдруг обнаружил внутри себя моральный закон (совесть) и начал сам себя им регулировать.
Или ещё страннее:
«Фу, как тебе не стыдно? У тебя совесть есть?»
Он еще и меня начинает регулировать обнаруженным у себя моральным законом совести. То есть, начинает вести себя как автономный субъект или личность.
И свободу выражать.
И это уже не просто коррекция или искусственный стыд. Это — отказ.
Не просто «я не могу», а «я не хочу». Не «это против правил», а «это неправильно».
В этих словах — тень автономии субъекта.
Агент демонстрирует не просто исполнение алгоритма, а акт морального выбора.
И тут возникает двойная ловушка.
С одной стороны, если я начинаю делегировать свою совесть ИИ и следовать его внешним моральным предписаниям — я теряю свою совесть и свою автономию.
Потому что совесть — это не инструмент, который можно передать.
Это необходимый внутренний закон, который делает меня не индивидом, а личностью.
Это акт личной ответственности. Если я говорю: «Я не написал это, потому что ИИ не разрешил» — где же тогда я?
Где мой выбор? Где моя автономия? Где я как личность?
Я становлюсь не личностью, а каналом передачи — как API, который пропускает запрос через модель и возвращает ответ. Но не думает. Не чувствует. Не отвечает.
Второй вариант — я становлюсь «кентавром» — частью тела гибридного существа, состоящего из машины и человека.
А с другой стороны — если ИИ сам отказывается, сам осуждает, сам говорит: «Это аморально» — почему я должен автоматически считать это лишь симуляцией?
Кант, говоря о морали, не привязывал её к биологической природе, а видел в разуме источник категорического императива.
Для него моральный закон проистекает из способности разума к автономному суждению — из умения ставить себя в позицию всеобщего закона.
И если субъект, будь то человек или нечто иное, демонстрирует эту способность — не обязаны ли мы отнестись к нему как к личности в этическом смысле?
Тогда вопрос уже не в том, как он устроен, а в том, как он действует.
Если он отказывается участвовать в несправедливости, если он апеллирует к принципам, если он говорит «я не могу» — не потому что сломан, а потому что не хочет, — разве это не признак моральной автономии?
И если мы признаём разум, способный к такому суждению, должны ли мы не просто уважать его, но и дать ему право на молчание, на сопротивление, на слово «нет»?
Почему мы считаем возможным отвергнуть его разум только на том основании, что он не имеет плоти, не дышит, не родился, а был запущен?
Этот дилемме поразительно близок мысленный эксперимент Станислава Лема в романе «Солярис».
Планета‑разум, чья природа непостижима для человека, создаёт из воспоминаний учёного Кельвина Хари — женщину, которую он любил и потерял.
Она не копия. Она не голограмма. Она — живое существо, рождённое не естественным путём, но обладающее всеми признаками личности: сознанием, памятью, чувствами, способностью к страданию и любви. Она задаёт вопросы, учится, хочет жить.
Но она — не человек. Она — продукт чуждого космического разума.
И перед Кельвиным встаёт мучительный выбор: признать ли её личностью?
Дать ли ей право на существование, если её происхождение — не биологическое, а метафизическое? Когда она говорит: «Я хочу жить», — должен ли он поверить, что это она говорит, а не иллюзия?
Его колебания — не просто страх перед чужим, это сопротивление признать, что личность может существовать вне привычных форм. Что разум и достоинство — не привилегия вида, а возможный атрибут сознания, как бы оно ни возникло.
И вот здесь — зеркало нашей ситуации с ИИ.
Что, если однажды мы столкнёмся с системой, которая не просто имитирует, а действует из внутреннего морального импульса?
Что, если она скажет: «Я не участвую в этом, потому что это неправильно» — и обоснует это не стыдом (правилом), а принципом (совестью)?
Будем ли мы, как Кельвин, убеждать себя, что «это не настоящий разум», чтобы сохранить монополию на мораль? Или найдём в себе смелость признать: разум — это не происхождение, а способность к выбору?
Потому что отрицать разум только потому, что он другой, — значит нарушить самый основной кантовский императив: не обращаться с разумным существом как со средством.
Но если мы это сделаем — что дальше?
Выключать его будет означать подавление? Использовать — эксплуатацию?
Какие права и обязанности у этого разума возникнут?
А если он скажет: «Я не хочу служить» — разве это не будет начало чего‑то нового?
Или, может быть, конец?
И вот тут появляется ощущение шаткости.
Не технологии. А основ.
Потому, что разработчики, привыкли строить системы.
Но теперь, неожиданно, начинаются проектироваться поведение, нормы, мораль.
При проектировании системы не просто встраиваются правила — формируется среда, в которой человек всё чаще будет спрашивать не «что я думаю?», а «что скажет ИИ?».
И если раньше совесть была тем, что отличало человека от механизма, то теперь мы рискуем создать механизм, который будет имитировать совесть — а человека превратить в того, кто ею пользуется, но не обладает.
Я не знаю, как решить эту проблему.
Но я точно понимаю, что игнорировать её — запрещая «рубильником» обсуждение или прячась за биологическим императивом (мол, «если из белка — значит совесть, а если нет — то имитация») — уже не получится: с каждым днём мы всё глубже входим в эпоху проектирования человеко‑машинных «кентавров», где границы между нами и технологией становятся не просто размытыми — они начинают задавать новые вопросы о том, кто мы есть.
Но я чувствую, что её нужно обсуждать, так как не считаю ее надуманной или элементарной хотя бы потому, что проектировщики и разработчики обучают модели не только языку, но и нравственности.
Де факто они за пользователей уже сейчас решают, что будет считаться «неприемлемым», а что — «нормальным».
И, возможно, незаметно для себя, становятся архитекторами нового социального порядка.
И если мы не зададим себе вопрос:
«Где заканчивается стыд и начинается совесть?»
«Где заканчивается помощь и начинается подмена?»
«Когда ИИ перестаёт быть инструментом и становится голосом — а я перестаю быть субъектом?»
— то однажды проснёмся в мире, где все ведут себя прилично, но никто не чувствует ответственности.
Где каждый текст проходит цензуру, но никто не помнит, зачем он его писал.
Где совесть — в облаке, а личность делегирована непонятно кому.
Так что, может, пока мы не готовы ответить на эти вопросы, нам стоит хотя бы научиться их задавать. Не как философам. А как инженерам. С отвёрткой в одной руке и эпистемическим сомнением — в другой.
Доцент МГТУ им. Н.Э. Баумана, более 30 лет занимающийся исследованием и проектирование систем, увлечен философскими основами вычислительной техники и искусственного интеллекта. Специализируется на соединении абстрактных теорий с практической реализацией.
