Илон Маск считает, что искусственный интеллект опасен для человечества

Об опасности искусственного интеллекта много говорят и пишут. Есть те, кто считает, что ИИ никогда не будет вредить по той либо иной причине (хотя бы потому, что искусственный разум будет подчиняться трем законам робототехники).

Но есть и те, кто считает, что человек может стать жертвой технологической сигнулярности, а искусственный интеллект — опасен. Недавно Стивен Хокинг, один из величайших умов нашего времени, назвал искусственный интеллект величайшей ошибкой человечества. Похоже, что примерно так считает и небезызвестный Илон Маск.

Выяснилось это в пятницу, когда автор термина «виртуальная реальность» Джарон Ланье открыл дисскуссию об ИИ. Его идеи стали обсуждать многие ученые, писатели, инженеры и бизнесмены. Среди прочих был опубликован и комментарий от Илона Маска, где он прогнозирует риск появления «чего-то очень опасного в пределах 5-10 лет». Под «чем-то опасным» подразумевается опасный для человека искусственный разум.

Через несколько минут Маск (или его отдел по работе со СМИ) стер комментарий, но его успели заскринить:



Маск считает, что сейчас успехи специалистов, работающих над созданием ИИ, чрезвычайно заметны, дело двигается очень быстро, и уже через несколько лет мы можем увидеть реальный искусственный интеллект. И этот разум может быть вовсе не дружелюбным в отношении человеку. Маск надеется на то, что создатели ИИ смогут его контролировать, и не дать плохим парням (в смысле, цифровому суперразуму) убежать в Интернет.

Кстати, не так давно Маск назвал искусственный интеллект «созданным человеком демоном».

Мнение маска ставит его в положение человека, который не только пытается прогнозировать будущее, но и старается предусмотреть различные варианты опасностей, которые могут встретиться на пути развивающегося человечества. И одной из таких опасностей вполне может быть ИИ.

Пресс-секретарь Илона Маска пообещал в письме к Mashable, что вскоре Маск опубликует более подробное мнение об искусственном интеллекте. Будем ждать.

Кстати, здесь нельзя не вспомнить НФ рассказ, в котором человечество расселилось по Галактике, и каждая планета создала по суперкомпьютеру. После было решено объединить все супермашины в единую сеть. После того, как это было сделано, руководитель проекта спросил машину: «Есть ли бог?». И машина ответила ему «Теперь есть». После этого с чистого и ясного неба ударила молния, запаяв рычаг во включенном положении. Заодно молния убила и оператора, который пытался выключить систему.

Время написания рассказа — 1954 год. Похоже, фантасты, как всегда — впереди планеты всей.