И ещё одна странность этого рассказа, которую никто почему-то не обсуждает: в чем состоит мотивация AGI? Что вообще заставляет его развиваться, решать задачи?
У человеческого организма множество стимулов для действия: обеспечивать свое выживание, размножаться и так далее. И даже когда он спит, стимулы остаются - клетки растут, нейронная активность продолжается.
А какие стимулы действия у цифровой сущности, которая, как тут написано, живет не по заданным правилам, а обучается на ходу, копируя людей … но что заставляет ее это делать? Охота за ресурсами? Этого в рассказе нет. Вшитые требования по наращиванию базы знаний? Вшитые законы робототехники, требующие обслуживать людей? Но ведь в начале сказано, что у этой штуки нет вшитой этики…
Короче, непонятно совсем, что заставляет Адама развиваться.
Интересно, а если бы героиня рассказа воспитывала человеческого ребёнка по тем же принципам - ну типа, ничего не навязывать, а только "через опыт, через отношения, через эмоциональную связь" - рассказ точно так же закончился бы появлением Супермена, который управляет всей планетой?
Если ответ "да" - то зачем нужен AGI? Выращивала бы крутых человеков.
Если ответ "нет" - это еще более странно. Получается, что героиня не может вырастить человека, способного решать крутые задачи, но при этом берётся выращивать для той же цели... машинный код? Может, надо было сначала потренироваться на кошках?
Вообще рассказ очень напоминает хипстерские теории воспитания, модные в конце XX века. Когда какая-нибудь восторженная европейская девушка (погуглите Жан Ледлофф) едет пожить годик с индейцами (экуана), и наблюдает там, как они воспитывают детей (никак). Ну и пишет восторженную книгу об этом - мол, давайте не будем детей ни в чем ограничивать, заставлять, пусть они делают что хотят, и тогда они вырастут счастливыми. Книгу издают огромными тиражами, переводят на кучу языков... Вот только никто не заметил, чтобы в мире стало больше счастливых людей после применения этой теории. Да и сама Леддлофф, у которой детей не было, так и осталась "теоретиком".
И ещё одна странность этого рассказа, которую никто почему-то не обсуждает: в чем состоит мотивация AGI? Что вообще заставляет его развиваться, решать задачи?
У человеческого организма множество стимулов для действия: обеспечивать свое выживание, размножаться и так далее. И даже когда он спит, стимулы остаются - клетки растут, нейронная активность продолжается.
А какие стимулы действия у цифровой сущности, которая, как тут написано, живет не по заданным правилам, а обучается на ходу, копируя людей … но что заставляет ее это делать? Охота за ресурсами? Этого в рассказе нет. Вшитые требования по наращиванию базы знаний? Вшитые законы робототехники, требующие обслуживать людей? Но ведь в начале сказано, что у этой штуки нет вшитой этики…
Короче, непонятно совсем, что заставляет Адама развиваться.
Интересно, а если бы героиня рассказа воспитывала человеческого ребёнка по тем же принципам - ну типа, ничего не навязывать, а только "через опыт, через отношения, через эмоциональную связь" - рассказ точно так же закончился бы появлением Супермена, который управляет всей планетой?
Если ответ "да" - то зачем нужен AGI? Выращивала бы крутых человеков.
Если ответ "нет" - это еще более странно. Получается, что героиня не может вырастить человека, способного решать крутые задачи, но при этом берётся выращивать для той же цели... машинный код? Может, надо было сначала потренироваться на кошках?
Вообще рассказ очень напоминает хипстерские теории воспитания, модные в конце XX века. Когда какая-нибудь восторженная европейская девушка (погуглите Жан Ледлофф) едет пожить годик с индейцами (экуана), и наблюдает там, как они воспитывают детей (никак). Ну и пишет восторженную книгу об этом - мол, давайте не будем детей ни в чем ограничивать, заставлять, пусть они делают что хотят, и тогда они вырастут счастливыми. Книгу издают огромными тиражами, переводят на кучу языков... Вот только никто не заметил, чтобы в мире стало больше счастливых людей после применения этой теории. Да и сама Леддлофф, у которой детей не было, так и осталась "теоретиком".