Многие из вас уже слышали историю о том, как ИИ создал страницу в интернете, после чего в своих ответах начал ссылаться на нее, как на авторитетный источник. О подобных проблемах можно прочитать, например, в этой статье. Не говоря уже про многочисленные видео в социальных сетях по этой теме. Однако, естественно, это ни в коем случае не является проблемой ИИ. Это является проблемой социологии, а также в первую очередь человека. Ведь именно люди придумали социально‑поведенческую формулу: информация + ссылка на авторитетный источник = правда. Именно эта формула была заложена в основу, к примеру, Википедии. Именно эта формула заложена в основу мировоззрения миллиардов людей по всему миру. И именно этой формулой люди сами стали пользоваться, чтобы обманывать друг друга. Ведь самое слабое место в ней — авторитетный источник. До появления социальных сетей авторитетным источником были СМИ. Однако, с разивитием интернета благодаря социальным сетям актуальная информация стала распространяться быстрее, чем ее публиковали СМИ. И далее повторилась уже знакомая многим история семьи Ротшильдов и телеграфа. Напомню, по легенде Ротшильды получали первыми новости о мировых событиях (особенно военных действиях) и могли раньше других предпринять действия для личной выгоды. Но одной лишь реакцией на происходящее дело не обошлось. Вскоре люди научились не просто быстро передавать данные, но и контролировать, какие именно данные должны быть распространены. Это называется пропаганда.

Пропаганду можно назвать неотъемлимой частью цивилизации. Это обыденное явление, существующее уже тысячи лет. Помним Спарту и Афины? Это всего лишь еще один способ контролировать информацию для выгоды определенного круга лиц. В поисках истины люди придумали стандартную контрмеру против пропаганды — экспертное мнение. Однако, и это мнение, оказалось, можно контролировать, даже за деньги. И вновь возник вопрос о поиске истины. Тогда на сцену вышла честь. Уважающий себя и уважаемый в обществе человек не станет лгать. И чем дольше человек уважаем, как придумали люди, тем ценнее его слово. К слову, методология тоже древняя, уходящая корнями к пророкам. Однако, и уважаемые люди в кризисных ситуация оказались обыкновенными людьми, у которых тоже были свои интересы, мешающие им говорить всю правду. И вновь возник вопрос о поиске истины. Наконец, люди подумали: если человеку доверять нельзя, можно доверить бездушной машине. Но не учли момент, что машина обучается именно на человеческих формулах социального поведения. И вот, все это привело нас к самому началу статьи: используя человеческие формулы поведения даже машина перестала излагать истину. Поскольку новый способ поиска правды на данный момент находится в активном поиске, сосредоточим свое внимание именно на том обмане, которому научился ИИ. Для общего образования, так сказать, и более объективной гражданской позиции.

Ловушка, в которую угодила в том числе и Википедия (или намеренно шла к ней), заключается в том самом слабом месте формулы из первого абзаца. Что считать авторитетным источником? Как оказалось, маскируясь под СМИ, можно распространять абсолютно любую информацию, не неся никакой ответственности. Из событий последних дней перед написанием статьи: гражданство и мотивы пилотов во время попытки захвата самолета FlyDubai и якобы вспышка чумы в Иркутске. Методологии этих манипуляций уже почти 150 лет: быстрое и массовое распространение и давление на политиков для принятия «нужных» решений. Но люди жаждят истины, поэтому информация в первую очередь публикуется в подконтрольных медиа. Затем лидеры мнений подключаются к информационной кампании, ссылаясь на эти медиа (иногда лидеры даже работают в таких медиа или пишут для них). А после уже подключаются обыкновенные пользователи, распространяя нужный нарратив для своих подписчиков. Таким нехитрым образом в обществе можно распространить абсолютно любую информацию. Когда же выяснится, что такая информация была ложной, фактически последствий не будет. И даже в случае всеобщей критики принято говорить о недопонимании: иронию приняли всерьез. Когда немецкий Bild написал о том, что на рейсе FlyDubai пилотами были русский и украинец, издание даже не стало извиняться, а просто исправило статью о том, что кто‑то так пошутил.

Однако общество по‑прежнему жаждет истины. Поэтому злоупотребления свободой слова постепенно получают все больше конфронтации. Стоит полагать, что практика ложных сведений в скором времени окажется подсудным делом. Например, в ЕС уже применяются санкции против дезинформации. Правда, что является дезинформацией по‑прежнему определяют политики на основе политической выгоды. Иными словами, борьба с так называемыми «информационными вбросами» продолжает набирать обороты. В том числе и в обществе. Это проявляется в росте скептицизма среди социума, а также в распространении практики борьбы с фейками. Но какого‑либо эффективного решения нет. Вероятно в ближайшем будущем цивилизация увеличит персональную ответственность за распространение непроверенных данных. И люди просто станут писать и говорить меньше. Тем самым цивилизация сделает огромный шаг назад в скорости распространения данных, но в то же время большой шаг вперед в чистоте информационного поля. Но есть маленькая загвоздка — ИИ. К счастью, человечество физически ограничено в распространении информации. Статьи, медиа и пр. занимают часы времени. А вот ИИ не знает ни усталости, ни отдыха, ни сна, поэтому может заменить людей. И это будет катастрофой. Представьте себе, что в какой‑то момент вы просто будете получать совершенно противоположные сведения об одном и том же объекте, событии, или явлении, причем в огромных количествах. Например, сведения о результатах выборов. Просто ИИ будет создавать и публиковать тысячи статей в моменте. Причем настолько много, что уже на физическом уровне невозможно будет разобраться, какие из этих статей ближе к истине. Вопрос: кто в таком случае победит на выборах? Тот, за кого проголосовали, или тот, кто убедил людей, что проголосовали именно за него? И это не технологические новости завтра, это новости вчерашнего дня.

Вы рады, что вам выпала участь жить во времена кризиса свободы слова и средств информации? Откровенно говоря, моей первой мыслью было бы: я просто перестану читать СМИ. Но подобное было эффективно только во времена личных крестьянских хозяйств, когда каждый мог обеспечить сам себя. Сегодня любой информационный вброс может повлиять на вашу жизнь кардинально. Люди могут броситься снимать деньги со счетов, в результате чего работа вашего банка будет ограничена. Люди могут начать массово перемещаться, создав грандиозные пробки, и вы опоздаете, куда бы не собирались. Люди могут начать массово скупать товары, оставив вас без элементарных предметов быта. Люди могут организоваться и закрыть ваши любимые заведения и магазины. И самое печальное: все это можно контролировать, находясь за тысячи километров. Эту статью можно было бы закончить какой‑нибудь просветительской идеей о том, как все должно быть. Однако, у меня, к сожалению, нет рецепта поиска истины. Да, ограничения и персональная ответственность будут эффективны до какой‑то степени. Но ситуация будет напоминать «антибиотик последней надежды» — сколько бы ученые не бились над созданием устойчивого лекарства к новым смертельным бактериям, всегда найдется азиатский фермер, который сведет их старания на нет. К тому же подобные «фермеры» получили мощный инструмент для этого — ИИ, который позволяет масштабировать процесс. К сожалению, с точки зрения социологии это может привести и к более серьезным последствиям, чем нарушение информационной гигиены.

Распространение лжи увеличивает атомизацию общества и снижает уровень доверия в социуме. К чему это может привести? Пример из государств, типа Прибалтики и Германии. Снижение доверия в социуме приводит к падению доверия к политикам — затем это приводит к низкой посещаемости выборов — это влечет за собой плохие результаты для всех партий — это не позволяет создать устойчивое правительство, которое будет решать проблемы — круг замыкается на том, что отсутствие решения проблем лишь увеличивает недоверие к политикам. Даже с психологической точки зрения неуверенность в будущем снижает экономические показатели. Как это работает? Не имея правдивой информации, люди будут опасаться рисков в будущем и станут меньше инвестировать, больше экономить, что скажется на доходах частных компаний и налоговых отчислениях. И уже исходя из этой позиции я понимаю опасения медиамагнатов о бесконтрольном распространении ИИ. Антибиотик от этого киберзаболевания человечество еще не придумало. Очевидно, придется пройти через эти «огонь воду и медные трубы», чтобы понять, как себя вести, или довести ситуацию до предела, до абсурда, чтобы увидеть ее суть. Все же я детский писатель, поэтому ситуация напоминает мне сказу о коньке‑горбунке: нужно прыгнуть в кипящее молоко, затем в кипящую воду, затем в стуженую воду, чтобы выйти на новый уровень жизни. Ну, или как писал Пропп: герой должен умереть, чтобы обрести силу. Мы живем с вами буквально в сказке, как бы печально это не звучало.

свлоиыялвимсуществовавшее Не