Comments 3
Сразу говорю противоположное - без ИИ мы все умрём, только он сможет вылечить все болезни, найти способ поменять климат и сделать космические полёты возможными
В том и проблема с ИИ. Технология обоюдоострая.
С одной стороны потенциал ИИ очевиден. Огромное количество проблем можно решить закидав их сверхчеловеческими мозгами. С другой?
Выстрелить себе в ногу со сверхчеловеческим ИИ можно так, что не останется ни ноги, ни всего остального организма. Минус цивилизация.
Теория игр говорит, что при выборе решения нужно выбирать решение, при котором возможный проигрыш минимальный, а не то решение, при котором выигрыш максимальный.
Если мы выберем запретить ИИ - какие возможные выигрыш и проигрыш - выигрыш - медленное развитие человечества, излечение от всех болезней, расселение по всем планетам через тысячи лет, проигрыш - медленное угасание человечества. Если выберем использовать ИИ, выигрыш - излечивание всех болезней, автоматизация, генетическое преобразование человека, возможно, расселение по планетам, причем за срок порядка столения. Проигрыш при этом - уничтожение человечества, причем за годы.
Делайте выводы.
Рецензия на книгу: If Anyone Builds It, Everyone Dies