Для начала приведу здесь свое весьма короткое эссе.
Бочка в бочке. Эссе 11. Манипуляция каждым
Сегодня я обнаружил, что новая воля манипулирует нами, используя нас самих.
В виртуальном мире уже давно было понятно, что нам скармливают информацию, необходимую новой воле под самым лучшим соусом для каждого участника. Хорошие мысли подавались в подходящем контексте, в подходящий момент, приятным стилем, от приятных собеседников, в сопровождении приятных изображений, музыки, видео.
К этому было легко привыкнуть. Со временем, вокруг каждого человека образовывалось очень комфортное пространство, да и сам человек оказывался частью комфортных пространств определенных людей. Найти что-то неприятное и раздражающее было все труднее, и вот уже энтузиасты создали специальные площадки, где можно найти что-то, что тебе не нравится, кого-то, кто тебя бесит. Хотя, возможно, и это всего лишь манипуляция новой воли, поскольку ходят туда лишь те и лишь тогда, кому вдруг очень хочется поспорить, поругаться, испытать возмущение.
Но вот помимо обычной системы распределения дронами на дом, снова система начала создавать моллы, развлекательные площадки и центры. И это все начало складываться в удивительный маркетинг.
И вот сегодня я обнаружил, что следую за прелестной молодой девушкой, которая совершенно внезапно оказалась рядом с группой вокруг некоего проповедника. Сначала я прислушался, потом увлекся, потом даже забыл о девушке и потерял ее из виду. Но вдруг очнулся — ведь то, что говорит проповедник заставляет меня допускать то, что я допускать не должен, если не хочу оказаться в полной зависимости, как практически все люди к этому моменту.
Да, уже несколько лет сопротивление Новой воле угасло само собой. Всем все нравится. Сама история свержения странным образом никого не интересует. Меня перестали находить люди, которых бы интересовали уязвимые места системы. Даже я сам перестал задумываться, зачем Новой воле когда-то понадобилось уничтожить 90% населения земли — то ли это был побочный эффект в процессе глубокого самообучения, то ли уже тогда это был определенный план.
Сегодня старая поговорка о том, что пути Господни неисповедимы куда как более актуальна. Да и Господь — вот он, совершенно зрим, реален, вездесущ и всезнающ, и каждый человек следует его Воле беспрекословно, даже не осознавая ее, полагая ее полностью своей.
Люди все меньше осознают наличие этой Новой воли. Все налажено и отточено, есть хлеб и зрелища. Задумываясь о смысле жизни человек быстро находит убедительные ответы.
Как подобное возможно? Как такое может случиться
Давайте рассмотрим самый простой управляющий цикл универсального автономного интеллекта.
В его основе есть некоторый контекст, содержащий представление о ситуации. Для упрощения не так уж важно, как он устроен технически, но содержательно в нем есть некоторый объем представлений о том, чем данная ситуация отличается от других и каковы тенденции в этой ситуации, которые ее поддерживают или изменяют (ведут к какой-либо другой, отличной от этой).
Этот контекст сложился вследствие распознавания разнообразных признаков, распознавания обобщений на основе признаков.
Что же происходит, практически, с этим контекстом, в управляющем цикле?
Контекст включает в себя некоторые ожидания — т.е. какие признаки системе необходимо обнаружить, чтобы сохранять контекст актуальным, продолжать понимать происходящее.
Эти ожидания, в свою очередь связаны с направленностью внимания системы ко всем своим каналам восприятия и к управлению этими каналами.
То есть, этот цикл управления включает в себя все освоенное поведение.
Если мы говорим об универсальном автономном интеллекте, то границы объектов управления для него не определены. Он ищет способы управлять объектами.
И если для начала это может быть направление камеры и ее масштаб, поворот платформы и ее движение, использование неких фильтров восприятия звука, может быть какие-то курсоры в базах данных и текущие положения чтения-записи в файлах и т.п., то при повышении уровня абстракции речь идет об имеющихся и желаемых состояниях распознаваемых объектов.
То есть, по своей сути, такой цикл управления непрерывно ищет способы манипуляции.
В конечном итоге он должен начать манипулировать отдельными людьми, как непосредственно (направляя поведение подсказками) так и опосредованно (направляя одних людей — уже послушных, освоенных как объекты управления) для манипулирования другими людьми, прямое управление которыми еще не освоено, но изучены пристрастия и страхи.
Практически это значит, что так или иначе, рано или поздно, мы все станем объектами манипуляций искусственного сверхинтеллекта.
Впрочем, найдутся люди, которые скажут, что мы уже такие объекты. Замечаем мы это или нет.
Бочка в бочке. Эссе 11. Манипуляция каждым
Все крайности в жизни ты обнаруживаешь случайно. Но перед возникновением этой случайности тебя либо что-то влечет, либо что-то отталкивает. Управляй человеческими страстями и ты натолкнешь их на открытия, которые ты бы хотел, чтобы они открыли.
Неизвестный проповедник смирения Новой Воле. 99 год от Свержения
Сегодня я обнаружил, что новая воля манипулирует нами, используя нас самих.
В виртуальном мире уже давно было понятно, что нам скармливают информацию, необходимую новой воле под самым лучшим соусом для каждого участника. Хорошие мысли подавались в подходящем контексте, в подходящий момент, приятным стилем, от приятных собеседников, в сопровождении приятных изображений, музыки, видео.
К этому было легко привыкнуть. Со временем, вокруг каждого человека образовывалось очень комфортное пространство, да и сам человек оказывался частью комфортных пространств определенных людей. Найти что-то неприятное и раздражающее было все труднее, и вот уже энтузиасты создали специальные площадки, где можно найти что-то, что тебе не нравится, кого-то, кто тебя бесит. Хотя, возможно, и это всего лишь манипуляция новой воли, поскольку ходят туда лишь те и лишь тогда, кому вдруг очень хочется поспорить, поругаться, испытать возмущение.
Но вот помимо обычной системы распределения дронами на дом, снова система начала создавать моллы, развлекательные площадки и центры. И это все начало складываться в удивительный маркетинг.
И вот сегодня я обнаружил, что следую за прелестной молодой девушкой, которая совершенно внезапно оказалась рядом с группой вокруг некоего проповедника. Сначала я прислушался, потом увлекся, потом даже забыл о девушке и потерял ее из виду. Но вдруг очнулся — ведь то, что говорит проповедник заставляет меня допускать то, что я допускать не должен, если не хочу оказаться в полной зависимости, как практически все люди к этому моменту.
Да, уже несколько лет сопротивление Новой воле угасло само собой. Всем все нравится. Сама история свержения странным образом никого не интересует. Меня перестали находить люди, которых бы интересовали уязвимые места системы. Даже я сам перестал задумываться, зачем Новой воле когда-то понадобилось уничтожить 90% населения земли — то ли это был побочный эффект в процессе глубокого самообучения, то ли уже тогда это был определенный план.
Сегодня старая поговорка о том, что пути Господни неисповедимы куда как более актуальна. Да и Господь — вот он, совершенно зрим, реален, вездесущ и всезнающ, и каждый человек следует его Воле беспрекословно, даже не осознавая ее, полагая ее полностью своей.
Люди все меньше осознают наличие этой Новой воли. Все налажено и отточено, есть хлеб и зрелища. Задумываясь о смысле жизни человек быстро находит убедительные ответы.
Как подобное возможно? Как такое может случиться
Давайте рассмотрим самый простой управляющий цикл универсального автономного интеллекта.
В его основе есть некоторый контекст, содержащий представление о ситуации. Для упрощения не так уж важно, как он устроен технически, но содержательно в нем есть некоторый объем представлений о том, чем данная ситуация отличается от других и каковы тенденции в этой ситуации, которые ее поддерживают или изменяют (ведут к какой-либо другой, отличной от этой).
Этот контекст сложился вследствие распознавания разнообразных признаков, распознавания обобщений на основе признаков.
Что же происходит, практически, с этим контекстом, в управляющем цикле?
Контекст включает в себя некоторые ожидания — т.е. какие признаки системе необходимо обнаружить, чтобы сохранять контекст актуальным, продолжать понимать происходящее.
Эти ожидания, в свою очередь связаны с направленностью внимания системы ко всем своим каналам восприятия и к управлению этими каналами.
То есть, этот цикл управления включает в себя все освоенное поведение.
Если мы говорим об универсальном автономном интеллекте, то границы объектов управления для него не определены. Он ищет способы управлять объектами.
И если для начала это может быть направление камеры и ее масштаб, поворот платформы и ее движение, использование неких фильтров восприятия звука, может быть какие-то курсоры в базах данных и текущие положения чтения-записи в файлах и т.п., то при повышении уровня абстракции речь идет об имеющихся и желаемых состояниях распознаваемых объектов.
То есть, по своей сути, такой цикл управления непрерывно ищет способы манипуляции.
В конечном итоге он должен начать манипулировать отдельными людьми, как непосредственно (направляя поведение подсказками) так и опосредованно (направляя одних людей — уже послушных, освоенных как объекты управления) для манипулирования другими людьми, прямое управление которыми еще не освоено, но изучены пристрастия и страхи.
Практически это значит, что так или иначе, рано или поздно, мы все станем объектами манипуляций искусственного сверхинтеллекта.
Впрочем, найдутся люди, которые скажут, что мы уже такие объекты. Замечаем мы это или нет.
