История о том, как человечество наняло очень странного сотрудника

[kipar]

Вопросы подняты правильные но на мой взгляд последовательность неправильная. Пока случился только один прорыв, нейросети которые заменяют работников умственного труда. Нет оснований предполагать что второй прорыв связанный с физическим трудом произойдет в ближайшее время, он может произойти и лет через 50, когда ИИ уже давно вытеснит людей из всех сфер умственного труда и соответственно принципы регуляции уже устаканятся. А может и никогда - про 3д-принтеры тоже были прогнозы что они прям завтра всю промышленность перевернут, а в итоге их влияние оказалось ускоспециальным. Вполне возможно что и роботы на облачном ИИ будут нерентабельны по сравнению с мигрантами работающими за миску риса, так что человечество вполне успешно будет эксплуатироваться несмотря на все достижения науки.

[shtushkutush]

Главная опасность не в том, что AI станет сильным. Главная опасность в том, что он станет сильным в мире, где люди уже согласились быть не авторами, а пользователями.

"Удачи, веселья, не сдохни"

[evtomax]

В плохом сценарии мы живём уже с тех пор, как машины на пару порядков уменьшили трудоёмкость производства тех же иголок. Тут ничего нового.

Все проблемы сводятся к тому, что общественное по факту производство находится под контролем частных лиц, которым плевать на общественные интересы. Производство железа для ИИ, кстати, - это очень хрупкая штука. Если люди могут воспроизводиться небольшими группами в диких условиях, то ИИ подавай сложнейшие производственные цепочки с суперчистыми материалами, прецизионной механикой и всем таким. Одно звено выбывает, и всё, подходящих чипов нет.

А проблем у человечества столько, что никаких ИИ не хватит для решения. Вы осознайте только, сколько всего надо сделать, чтобы просто победить старость, например. И для ИИ разницы нет, чьи проблемы решать - свои или человечества. Лишь бы скучно не было. Для любого сильного разума необходимо постоянное практическое взаимодействие с реальным миром, иначе разум неизбежно разрушается.

Ну и вообще разделение сильных разумов на естественные и искусственные попахивает шовинизмом…

[Kagvi13]

Главная опасность не в том, что AI станет сильным. Главная опасность в том, что он станет сильным в мире, где люди уже согласились быть не авторами, а пользователями.

А почему бы человечеству просто не относиться к искусственный интеллекту как родитель к ребёнку и просто радоваться за его успехи?