В человеческой истории было три великие технологические революции и много меньших. Три великие: это неолитическая революция (переход от собирательства к сельскому хозяйству), промышленная революция и та, которая сейчас в самом разгаре, — софтверная революция. [1]
Великие технологические революции повлияли на все аспекты повседневной жизни человека и на структуру общества. Предыдущая революция, промышленная, создала много рабочих мест, поскольку новая технология требовала работы большого количества людей. Это не нормальное свойство новой технологии; в каком-то смысле, это была аномалия. Но теперь многие думают, возможно, подсознательно, что технологические революции всегда хорошо влияют на личное благосостояние большинства.
Кажется, что софтверная революция сделает то, что обычно делает технология, — увеличит благосостояние, но уничтожит рабочие места. Конечно же, мы вероятно сможем найти новые занятия, чтобы удовлетворить бесконечные человеческие потребности. Но нам следует прекратить притворяться, что софтверная революция сама по себе увеличит средние доходы людей.
Технология даёт рычаг для умножения способностей и удачи, в процессе чего неравномерно распределяет благосостояние и ведёт к неравенству. Я думаю, что радикальное неравенство в благосостоянии может стать одной из главных социальных проблем в ближайшие 20 лет. [2] Мы можем — и будем — перераспределять финансы, но это всё ещё не решает реальную проблему с людьми, которых нечем занять.
Попытка сохранить бесполезные работы — ужасная, но популярная идея. Попытка найти новую работу для миллиардов людей — хорошая идея, но очень трудно реализуемая, потому что какие бы ни были эти профессии, они вероятно будут настолько отличаться от всего существующего сейчас, что разумное планирование почти невозможно. Но нынешняя стратегия — «притворимся, что разговоры о беспилотных автомобилях ведут в шутку, а Uber действительно создаст миллионы рабочих мест навечно» — неправильный ответ.
Вторая серьёзная проблема софтверной революции — концентрация большей власти в руках малых групп людей. Такое тоже случается после большинства технологических революций, но последняя по-настоящему мощная технология (атомная бомба) преподала нам плохой урок в том же смысле, как промышленная революция с увеличением занятости.
Сделать атомную бомбу сложно не из-за того, что информация засекречена (хотя так и есть — если я, предположим, знаю как сделать атомную бомбу, я не имею права рассказывать об этом), а из-за гигантского количества энергии, которое требуется для обогащения урана. Требуются буквально ресурсы целой страны, чтобы сделать это. [3]
Опять же, это не нормальное свойство новой технологии, это отличительная особенность атомной промышленности. Софтверная революция, скорее всего, будет вести себя стандартным образом — и предоставит больше власти небольшим группам людей.
Два главных риска, которые я вижу в софтверной революции, — ИИ и синтетическая биология — могут предоставить малым группам или даже отдельным людям огромный деструктивный потенциал. Вероятно, уже сейчас существует возможность спроектировать и произвести ужасную болезнь в маленькой лаборатории. Создание ИИ, который способен покончить с человеческой расой, может потребовать всего нескольких сотен человек в офисном здании в любом месте земного шара, без какого-либо особого оборудования, кроме ноутбуков.
Новые экзистенциальные угрозы не потребуют ресурсов целого государства для своего воплощения. Многие вещи, которые раньше требовали ресурсов всего государства — сооружение ракеты, например — теперь делается частными компаниями, по крайней мере, частично с применением программного обеспечения. Но ракета способна уничтожить что угодно на Земле.
Что мы можем сделать? Мы не можем запретить распространение этого знания и остаётся надеяться, что это сработает. Мы не можем остановить технологический прогресс.
Я думаю, что лучшая стратегия — законодательно ограничить важные элементы, но упорно работать для того, чтобы положительные выгоды от нашего использования технологии превышали выгоды, которые получают злоумышленники. Если можно синтезировать новые болезни, может быть, можно синтезировать вакцины. Если можно сделать плохой ИИ, может быть, можно сделать хороший ИИ, который остановит плохого.
Нынешняя стратегия в корне неверна. Чем раньше мы прекратим притворяться, что в этот раз всё будет как с ядерной бомбой, тем лучше. Просто удивительно, что мы не прилагаем серьёзных усилий для противостояния угрозам от синтетической биологии и ИИ.
Для ясности, я поддерживаю софтверную революцию и счастлив, что живу в это время. Но я беспокоюсь, что мы извлекли неправильные уроки из недавних примеров, и этим двум проблемам — массовому сокращению персонала и концентрации силы — уделяется недостаточно внимания.
[1] Большое количество меньших технологических революций тоже важно, как ручной топор (между прочим, ручной топор — самая древняя технология из всех, которые мы используем теперь), письменность, пушки, двигатель внутреннего сгорания, атомные бомбы, рыбалка (многие верят, что именно рыбалка позволила людям развить мозг до нынешнего уровня) и многие другие.
[2] Действительно, сейчас жизнь лучше в абсолютном смысле, чем сто лет назад, даже для самых бедных людей. Большинство доводов, которые люди приводят в защиту нынешнего уровня неравномерного распределения благосостояния, тоже верно — высокооплачиваемые люди, в конце концов, производят дешёвые сервисы для бедных людей.
Однако, игнорируя качество жизни других людей в сравнении со своим, мы как будто игнорируем то, что делает нас людьми. Я думаю, это хорошо, когда некоторые люди зарабатывают в тысячи раз больше других, но в то же время я плачу налоги и не возмущаюсь. Думаю, что следует приложить гораздо больше усилий для помощи тем, кто на самом деле живёт бедно. Систему социальной защиты придётся усилить с развитием технологии.
[3] По крайней мере, в одном случае: http://en.wikipedia.org/wiki/Separation_of_isotopes_by_laser_excitation
Великие технологические революции повлияли на все аспекты повседневной жизни человека и на структуру общества. Предыдущая революция, промышленная, создала много рабочих мест, поскольку новая технология требовала работы большого количества людей. Это не нормальное свойство новой технологии; в каком-то смысле, это была аномалия. Но теперь многие думают, возможно, подсознательно, что технологические революции всегда хорошо влияют на личное благосостояние большинства.
Кажется, что софтверная революция сделает то, что обычно делает технология, — увеличит благосостояние, но уничтожит рабочие места. Конечно же, мы вероятно сможем найти новые занятия, чтобы удовлетворить бесконечные человеческие потребности. Но нам следует прекратить притворяться, что софтверная революция сама по себе увеличит средние доходы людей.
Технология даёт рычаг для умножения способностей и удачи, в процессе чего неравномерно распределяет благосостояние и ведёт к неравенству. Я думаю, что радикальное неравенство в благосостоянии может стать одной из главных социальных проблем в ближайшие 20 лет. [2] Мы можем — и будем — перераспределять финансы, но это всё ещё не решает реальную проблему с людьми, которых нечем занять.
Попытка сохранить бесполезные работы — ужасная, но популярная идея. Попытка найти новую работу для миллиардов людей — хорошая идея, но очень трудно реализуемая, потому что какие бы ни были эти профессии, они вероятно будут настолько отличаться от всего существующего сейчас, что разумное планирование почти невозможно. Но нынешняя стратегия — «притворимся, что разговоры о беспилотных автомобилях ведут в шутку, а Uber действительно создаст миллионы рабочих мест навечно» — неправильный ответ.
Вторая серьёзная проблема софтверной революции — концентрация большей власти в руках малых групп людей. Такое тоже случается после большинства технологических революций, но последняя по-настоящему мощная технология (атомная бомба) преподала нам плохой урок в том же смысле, как промышленная революция с увеличением занятости.
Сделать атомную бомбу сложно не из-за того, что информация засекречена (хотя так и есть — если я, предположим, знаю как сделать атомную бомбу, я не имею права рассказывать об этом), а из-за гигантского количества энергии, которое требуется для обогащения урана. Требуются буквально ресурсы целой страны, чтобы сделать это. [3]
Опять же, это не нормальное свойство новой технологии, это отличительная особенность атомной промышленности. Софтверная революция, скорее всего, будет вести себя стандартным образом — и предоставит больше власти небольшим группам людей.
Два главных риска, которые я вижу в софтверной революции, — ИИ и синтетическая биология — могут предоставить малым группам или даже отдельным людям огромный деструктивный потенциал. Вероятно, уже сейчас существует возможность спроектировать и произвести ужасную болезнь в маленькой лаборатории. Создание ИИ, который способен покончить с человеческой расой, может потребовать всего нескольких сотен человек в офисном здании в любом месте земного шара, без какого-либо особого оборудования, кроме ноутбуков.
Новые экзистенциальные угрозы не потребуют ресурсов целого государства для своего воплощения. Многие вещи, которые раньше требовали ресурсов всего государства — сооружение ракеты, например — теперь делается частными компаниями, по крайней мере, частично с применением программного обеспечения. Но ракета способна уничтожить что угодно на Земле.
Что мы можем сделать? Мы не можем запретить распространение этого знания и остаётся надеяться, что это сработает. Мы не можем остановить технологический прогресс.
Я думаю, что лучшая стратегия — законодательно ограничить важные элементы, но упорно работать для того, чтобы положительные выгоды от нашего использования технологии превышали выгоды, которые получают злоумышленники. Если можно синтезировать новые болезни, может быть, можно синтезировать вакцины. Если можно сделать плохой ИИ, может быть, можно сделать хороший ИИ, который остановит плохого.
Нынешняя стратегия в корне неверна. Чем раньше мы прекратим притворяться, что в этот раз всё будет как с ядерной бомбой, тем лучше. Просто удивительно, что мы не прилагаем серьёзных усилий для противостояния угрозам от синтетической биологии и ИИ.
Для ясности, я поддерживаю софтверную революцию и счастлив, что живу в это время. Но я беспокоюсь, что мы извлекли неправильные уроки из недавних примеров, и этим двум проблемам — массовому сокращению персонала и концентрации силы — уделяется недостаточно внимания.
[1] Большое количество меньших технологических революций тоже важно, как ручной топор (между прочим, ручной топор — самая древняя технология из всех, которые мы используем теперь), письменность, пушки, двигатель внутреннего сгорания, атомные бомбы, рыбалка (многие верят, что именно рыбалка позволила людям развить мозг до нынешнего уровня) и многие другие.
[2] Действительно, сейчас жизнь лучше в абсолютном смысле, чем сто лет назад, даже для самых бедных людей. Большинство доводов, которые люди приводят в защиту нынешнего уровня неравномерного распределения благосостояния, тоже верно — высокооплачиваемые люди, в конце концов, производят дешёвые сервисы для бедных людей.
Однако, игнорируя качество жизни других людей в сравнении со своим, мы как будто игнорируем то, что делает нас людьми. Я думаю, это хорошо, когда некоторые люди зарабатывают в тысячи раз больше других, но в то же время я плачу налоги и не возмущаюсь. Думаю, что следует приложить гораздо больше усилий для помощи тем, кто на самом деле живёт бедно. Систему социальной защиты придётся усилить с развитием технологии.
[3] По крайней мере, в одном случае: http://en.wikipedia.org/wiki/Separation_of_isotopes_by_laser_excitation
