Станислав Лем давным-давно в своей «Сумме технологии» объяснил, почему такой контроль недостаточен. Дело в том, что сильный ИИ (у Лема, правда, такого термина не было), имеющий возможность управлять экономикой, промышленностью и т.д., может вносить мелкие изменения в глобальные системы, медленно меняя их. И не исключено, что через несколько сотен лет либо люди внезапно осознают, что уже поздно, либо некому будет особо осознавать.
При этом Лем ни разу не был луддитом, просто он рассмотрел такую вероятность в своём труде.
Мне вспоминается, как будучи школьниками, мы играли в первый Serious Sam на двух компьютерах по LAN в тесной комнате. Сигналы от беспроводных мышек время от времени пересекались, что вносило элемент неожиданности в и без того весёлый процесс.
Да. Мне, например, в 2015г. приходило оповещение от страховой компании о месте и времени проведения осмотра автомашин после ДТП. Настоящая телеграмма, отпечатанная на чём-то вроде матричного принтера (Москва).
При этом Лем ни разу не был луддитом, просто он рассмотрел такую вероятность в своём труде.