Comments 16
Революции роботов не будет.
O, rly?
Как бы хорошо ни развилась робототехника в мире, они всегда останутся инструментом. Даже если инженер разрабатывает робота, который может рисовать портреты, то он закладывает в него определенный алгоритм, который придумал сам. И, по сути, даже такой «креативный» робот остается лишь инструментом. А истинным креативщиком является инженер.
Одно слово. Нейросети.
Каждый раз, когда вижу подобные сообщения хочется вспоминать слова скептиков прошлого о том, что автомобили слишком неповоротливы и медлительны, чтобы заменить лошадей, самолеты слишком тяжелые, и останутся навсегда только игрушками, но не массовым транспортом, а компьютеры будут нужны только в лабораториях и штабах из-за своих огромных размеров и бесполезности в быту.
Вполне возможно материал сыроват, много деталей и моментов упущено, но с чего-то надо начинать. Позже буду выкладывать более проработанные тексты. Это мой первый текст подобного рода выложенный в сеть и отклик меня радует. Спасибо.
Я не считаю себя скептиком, скорее даже наоборот, я излишне оптимистичен. Я не говорю, что роботы будут игрушками, да они прочно войдут в нашу жизнь, будут широко использоваться в быту. Но у человека есть некоторые фундаментальные психологические барьеры, которые никогда не будут преодолены, социум никогда не позволит роботам рулить обстановкой. Ситуации, когда робот превратился в Брейвика, не будет. Человек не допустит даже гипотетической возможности развития подобного сценария.
Я не считаю себя скептиком, скорее даже наоборот, я излишне оптимистичен. Я не говорю, что роботы будут игрушками, да они прочно войдут в нашу жизнь, будут широко использоваться в быту. Но у человека есть некоторые фундаментальные психологические барьеры, которые никогда не будут преодолены, социум никогда не позволит роботам рулить обстановкой. Ситуации, когда робот превратился в Брейвика, не будет. Человек не допустит даже гипотетической возможности развития подобного сценария.
Робот уже стал брейвиком, ещё задолго до Брейвика.
Ещё семь лет назад роботизированная пушка Oerlikon GDF-005 «сошла с ума», самопроизвольно перешла в полностью автоматический режим и расстреляла кучу людей.
Тем не менее её даже не сняли с вооружения, не говоря уж о том, что автоматизация систем вооружения с тех пор только взросла.
Ещё семь лет назад роботизированная пушка Oerlikon GDF-005 «сошла с ума», самопроизвольно перешла в полностью автоматический режим и расстреляла кучу людей.
Тем не менее её даже не сняли с вооружения, не говоря уж о том, что автоматизация систем вооружения с тех пор только взросла.
К тому же, в каком-то смысле роботы уже рулят много чем. Игроки на бирже полагаются на нейросети для прогнозов тенденций на рынке, интеллектуальные системы управляют электростанциями и инфраструктурой связи. Политики принимая решения зачастую полагаются на статистику, сбор которой зачастую задача тоже для обучающихся систем. Правительство США сейчас активно разрабатывает правила движения для роботизированных автомобилей.
Психологические барьеры сильно привязаны к времени, в котором человек живет, так как человек, как и любое другое животное с развитой нервной системой умеет очень хорошо адаптироваться под условия окружающей среды.
Психологические барьеры сильно привязаны к времени, в котором человек живет, так как человек, как и любое другое животное с развитой нервной системой умеет очень хорошо адаптироваться под условия окружающей среды.
«социум никогда не позволит роботам рулить обстановкой»
Как то это, поверхностно что ли. Ну, примерно, как фраза: «социум никогда не позволить диктаторам рулить обстановкой».
«Человек не допустит даже гипотетической возможности развития подобного сценария.»
Это какая же вера должна быть в людей, что бы утверждать подобное. Пускай человек хотя бы ОС без багов напишет, ну или не расплавит ядро ядерного реактора при проведении испытаний. Сейчас на планете нет ни одного человека, который полностью понимал как устроена та же Windows, а вы хотите что то запретить потенциально более сильному разуму?
Как то это, поверхностно что ли. Ну, примерно, как фраза: «социум никогда не позволить диктаторам рулить обстановкой».
«Человек не допустит даже гипотетической возможности развития подобного сценария.»
Это какая же вера должна быть в людей, что бы утверждать подобное. Пускай человек хотя бы ОС без багов напишет, ну или не расплавит ядро ядерного реактора при проведении испытаний. Сейчас на планете нет ни одного человека, который полностью понимал как устроена та же Windows, а вы хотите что то запретить потенциально более сильному разуму?
Ваше заблуждение в том, что вы предполагаете человеческую психологию чем-то статичным, в то время как она постоянно меняется по мере развития технологий. То, что вы считаете фундаментальным барьером, по сути представляет собой всего лишь текущий шок будущего, адаптация к которому — дело времени. К тому же, если человечество до сих пор не обладает надежными средствами защиты даже от существующих и подтвержденных угроз типа диктатур или раздолбайства на АЭС, каким образом оно внезапно «не допустит даже гипотетической возможности» того, что по сути является следующим закономерным этапом прогресса технологий, экономики и самого человечества? Скорее наоборот — я бы сказал, исключена даже гипотетическая вероятность того, что человечество поголовно погрязнет в луддизме и технофобии и каким-то образом повсеместно заблокирует развитие робототехники (клонирование «заблокировано» только юридически и то из-за шока будущего и религиозных предрассудков; рано или поздно оно станет реальностью и будет легализовано). Мне кажется. вы экстраполируете лично свои представления о человечности на все человечество.
— до тех пор, пока человек сам не получит возможность выполнять эти задачи. И вот почему.
Ну вообще, изначально был ручной труд, в целях облегчения были разработаны подобного рода роботы, манипуляторы или просто усиливающие силу мышц человека. Я не верю, что человечество сможет снова вернуться к ручному труду в больших масштабах (где сейчас используются роботы), если, конечно, не экологическая катастрофа и прочие «техногенности», где просто ничего работать-то не будет, но со временем каких-то элементарных роботов даже в таком случае всё равно умельцы смастерят.
А вообще всё остальное так вообще очевидные вещи.
… чтобы сделать робота подобным по поведению на человека, нужно будет заложить возможность самостоятельной трансформации и изменения по воздействинем внешней среды. В тот момент, когда кто-то первый заложит в код подобную возможность, то сразу возникнет громадная волна негодования общественности
Подобная возможность уже давно есть в роботах.
Так, например, выпущенный 15 лет назад робот-пёс SONY AIBO умел самообучаться, подстраивая своё поведение под конкретного хозяина, окружающую обстановку и т.д.
Стоит ли говорить, что AIBO не спровоцировал волну негодования, а напротив, имел существенную популярность?..
Даже если инженер разрабатывает робота, который может рисовать портреты, то он закладывает в него определенный алгоритм, который придумал сам. И, по сути, даже такой «креативный» робот остается лишь инструментом. А истинным креативщиком является инженер.
Если это жёсткий чёткий алгоритм — да.
А вот если инженер закладывает лишь систему самообучения, а затем робот тренируется, постепенно оттачивая навык рисования (см. выше: это не что-то нереальное), то тут уже он никакой не инструмент, а самый настоящий творец.
Какие-то сплошные заблуждения.
1. «Бездушные» машины способны эволюционировать — как в плане развития их интеллекта, так и в плане эмоционального восприятия людьми. Выше уже упомянули Aibo, и с каждым годом таких «питомцев» и прочих социальных роботов, используемых для обучения, реабилитации или развлекательных целей. становится все больше. По мере развития нейронауки интеллект роботов будет все больше приближаться к интеллекту людей, и здесь в принципе нет никакой конкретной грани, за которой можно было бы строго отличить гуманный интеллект от негуманного или способный к самоапгрейду от неспособного. То есть люди и роботы будут эволюционировать совместно, а «бездушность» — это скорее ярлык человеческого восприятия, чем какое-то принципиальное ограничение железа.
2. Замена ручного труда.
Никаких фундаментальных экономических ограничений на замену ручного труда робототехникой не существует. Экономическая выгода робототехники в том, что основные затраты на нее приходятся на этап начальной разработки, а затем достаточно просто тиражировать и апгрейдить, потому стоимость эксплуатации роботов, даже если изначально довольно высока, со временем снижается, а для человека наоборот, и его так просто тиражировать нельзя. Даже если приобрести робота пока дорого, а бизнес небольшой, его можно арендовать — и это обойдется дешевле, чем арендовать человеческий ресурс со всеми ограничениями и расходами. Это всё вопрос времени.
Сохраняющаяся сегодня человеческая занятость во многих профессиях типа «человек-человек» может также диктоваться субъективными психологическими предпочтениями. Например, чтобы выпить кофе в современном городе, можно воспользоваться автоматом, подойти к кофемобилю или киоску, усесться в кафе/ресторане в ожидании официанта, или приготовить кофе самому, располагая соответствующим оборудованием (от лоутечного до хайтечного). Все это по сути разные комплексные услуги на основе базового продукта, показательный пример постиндустриализма. Роботизация в этой сфере может создать новые варианты услуг (типа кафе с официантами-роботами), а также изменить конъюнктуру по существующим (к примеру, сделать человеческий труд дороже); однако чтобы полностью вытеснить человека из такой сферы, где ценность имеет не только результат, но и процесс, нужно, чтобы конъюнктура изменилась настолько сильно, чтобы вызвать масштабный культурный сдвиг, когда ценность процесса исчезнет или станет отрицательной. В индустриальном же производстве она изначально отсутствует, там важен исключительно результат с максимальным эффективным качеством, в чем роботы заведомо опережают человека.
3. Креативный класс роботов.
Если сегодняшние роботы-«художники» и «музыканты», типа программы, написанной почти 50 лет назад Курцвейлом, воспринимаются прежде всего как объект технического творчества, а не субъект художественного, то по мере усложнения их интеллекта и опыта творчество таких машин начнет все больше поднимать философские вопросы насчет того, кто кого творит и т. д. Сначала они начнут занимать некую отдельную нишу квазиискусства (типа «творчества» животных), а затем, когда их интеллект подойдет достаточно близко к человеческому, а сами роботы займут заметную роль в человеческом обществе, — изменят вообще многие сложившиеся представления и о творчестве, и о разуме, и о человеке. Это уже никак не будет «всего лишь инструмент», да и даже сегодняшнего уровня техника — для человека отнюдь не только утилитарное средство реализации своих потребностей, но и часть цивилизации, культуры, человечества как такового. А в случае с разумными роботами именно этот аспект выйдет на передний план, т. е. цивилизация должна будет обратиться к самой сути таких понятий, как разум, человечность, творчество, переосмыслить их. чтобы развиваться дальше. Что же это, как не революция роботов?
Ну а насчет вот этого вообще не понял, что имел в виду автор:
Причем здесь возрастающее (с замедляющимися темпами, которые скорее всего не будут увеличиваться до существенного прорыва в освоении энергетических и других ресурсов, например заселения внеземного пространства и других планет, или виртуализации человеческих личностей) количество людей? Оно что — отменяет прогресс в робототехнике? Скорее даже наоборот, чем больше людей живет на планете, тем быстрее они будут учить роботов все большему количеству операций, которые сами не хотят выполнять, и сколько бы после этого не появилось новых людей, роботы все равно будут эффективнее в производительности труда. Почему это роботы — «временные помощники» и какие такие специализированные задачи человек якобы должен у них отобрать? Исследование Марса и других экстремальных космических сред? Так это мизерная часть всех применений робототехники, и к тому времени, как человек физически ступит на Марс, возможно — будучи слегка модифицированным для адаптации к планете, можно будет отправить роботов в еще более труднодоступные и опасные среды типа ближних окрестностей Солнца или дальнего космоса. А микро-, нанороботы, способные исследовать и модифицировать объекты, которые человеку невооруженным глазом и не разглядеть? И дело даже не в том, что потенциально человек мог бы сконструировать такого наноробота, который передавал бы ему картинку в реальном времени и позволял собой манипулировать напрямую, а в том, что для многих операций таких нанороботов понадобятся миллионы и миллиарды. Может ли человек, без очень радикальной модификации своего мозга, одновременно вручную чистить миллиардом нанороботов миллиарды клеток своего организма? И зачем ему такой микроменеджмент, если можно запрограммировать рой роботов на более высоком уровне абстракции, а дальше они будут действовать автономно, как любой более-менее продвинутый софт? А если говорить о макромасштабных промышленных роботах, назначение которых — производить какую-то материальную продукцию, то зачем с ними в этом конкурировать человеку? Ну да, человек в принципе может себя заапгрейдить так, что сможет работать где-нибудь на Венере при +500. Но зачем, если только не из исследовательских, первопроходческих побуждений? Если там нужно тупо добывать ископаемые, то человека в это запрягать незачем — для этого и разрабатывают роботов.
В общем, рекомендую почитать, например, того же Курцвейла Age of Intelligent Machines, Age of Spiritual Machines, The Singularity Is Near (до How To Create A Mind еще не добрался, но она по идее тоже имеет отношение к теме).
1. «Бездушные» машины способны эволюционировать — как в плане развития их интеллекта, так и в плане эмоционального восприятия людьми. Выше уже упомянули Aibo, и с каждым годом таких «питомцев» и прочих социальных роботов, используемых для обучения, реабилитации или развлекательных целей. становится все больше. По мере развития нейронауки интеллект роботов будет все больше приближаться к интеллекту людей, и здесь в принципе нет никакой конкретной грани, за которой можно было бы строго отличить гуманный интеллект от негуманного или способный к самоапгрейду от неспособного. То есть люди и роботы будут эволюционировать совместно, а «бездушность» — это скорее ярлык человеческого восприятия, чем какое-то принципиальное ограничение железа.
2. Замена ручного труда.
Никаких фундаментальных экономических ограничений на замену ручного труда робототехникой не существует. Экономическая выгода робототехники в том, что основные затраты на нее приходятся на этап начальной разработки, а затем достаточно просто тиражировать и апгрейдить, потому стоимость эксплуатации роботов, даже если изначально довольно высока, со временем снижается, а для человека наоборот, и его так просто тиражировать нельзя. Даже если приобрести робота пока дорого, а бизнес небольшой, его можно арендовать — и это обойдется дешевле, чем арендовать человеческий ресурс со всеми ограничениями и расходами. Это всё вопрос времени.
Сохраняющаяся сегодня человеческая занятость во многих профессиях типа «человек-человек» может также диктоваться субъективными психологическими предпочтениями. Например, чтобы выпить кофе в современном городе, можно воспользоваться автоматом, подойти к кофемобилю или киоску, усесться в кафе/ресторане в ожидании официанта, или приготовить кофе самому, располагая соответствующим оборудованием (от лоутечного до хайтечного). Все это по сути разные комплексные услуги на основе базового продукта, показательный пример постиндустриализма. Роботизация в этой сфере может создать новые варианты услуг (типа кафе с официантами-роботами), а также изменить конъюнктуру по существующим (к примеру, сделать человеческий труд дороже); однако чтобы полностью вытеснить человека из такой сферы, где ценность имеет не только результат, но и процесс, нужно, чтобы конъюнктура изменилась настолько сильно, чтобы вызвать масштабный культурный сдвиг, когда ценность процесса исчезнет или станет отрицательной. В индустриальном же производстве она изначально отсутствует, там важен исключительно результат с максимальным эффективным качеством, в чем роботы заведомо опережают человека.
3. Креативный класс роботов.
Если сегодняшние роботы-«художники» и «музыканты», типа программы, написанной почти 50 лет назад Курцвейлом, воспринимаются прежде всего как объект технического творчества, а не субъект художественного, то по мере усложнения их интеллекта и опыта творчество таких машин начнет все больше поднимать философские вопросы насчет того, кто кого творит и т. д. Сначала они начнут занимать некую отдельную нишу квазиискусства (типа «творчества» животных), а затем, когда их интеллект подойдет достаточно близко к человеческому, а сами роботы займут заметную роль в человеческом обществе, — изменят вообще многие сложившиеся представления и о творчестве, и о разуме, и о человеке. Это уже никак не будет «всего лишь инструмент», да и даже сегодняшнего уровня техника — для человека отнюдь не только утилитарное средство реализации своих потребностей, но и часть цивилизации, культуры, человечества как такового. А в случае с разумными роботами именно этот аспект выйдет на передний план, т. е. цивилизация должна будет обратиться к самой сути таких понятий, как разум, человечность, творчество, переосмыслить их. чтобы развиваться дальше. Что же это, как не революция роботов?
Ну а насчет вот этого вообще не понял, что имел в виду автор:
Это лишь временные помощники. Учитывая возрастающее количество людей, роботы будут востребованы лишь в специализированных целях и то — до тех пор, пока человек сам не получит возможность выполнять эти задачи.
Причем здесь возрастающее (с замедляющимися темпами, которые скорее всего не будут увеличиваться до существенного прорыва в освоении энергетических и других ресурсов, например заселения внеземного пространства и других планет, или виртуализации человеческих личностей) количество людей? Оно что — отменяет прогресс в робототехнике? Скорее даже наоборот, чем больше людей живет на планете, тем быстрее они будут учить роботов все большему количеству операций, которые сами не хотят выполнять, и сколько бы после этого не появилось новых людей, роботы все равно будут эффективнее в производительности труда. Почему это роботы — «временные помощники» и какие такие специализированные задачи человек якобы должен у них отобрать? Исследование Марса и других экстремальных космических сред? Так это мизерная часть всех применений робототехники, и к тому времени, как человек физически ступит на Марс, возможно — будучи слегка модифицированным для адаптации к планете, можно будет отправить роботов в еще более труднодоступные и опасные среды типа ближних окрестностей Солнца или дальнего космоса. А микро-, нанороботы, способные исследовать и модифицировать объекты, которые человеку невооруженным глазом и не разглядеть? И дело даже не в том, что потенциально человек мог бы сконструировать такого наноробота, который передавал бы ему картинку в реальном времени и позволял собой манипулировать напрямую, а в том, что для многих операций таких нанороботов понадобятся миллионы и миллиарды. Может ли человек, без очень радикальной модификации своего мозга, одновременно вручную чистить миллиардом нанороботов миллиарды клеток своего организма? И зачем ему такой микроменеджмент, если можно запрограммировать рой роботов на более высоком уровне абстракции, а дальше они будут действовать автономно, как любой более-менее продвинутый софт? А если говорить о макромасштабных промышленных роботах, назначение которых — производить какую-то материальную продукцию, то зачем с ними в этом конкурировать человеку? Ну да, человек в принципе может себя заапгрейдить так, что сможет работать где-нибудь на Венере при +500. Но зачем, если только не из исследовательских, первопроходческих побуждений? Если там нужно тупо добывать ископаемые, то человека в это запрягать незачем — для этого и разрабатывают роботов.
В общем, рекомендую почитать, например, того же Курцвейла Age of Intelligent Machines, Age of Spiritual Machines, The Singularity Is Near (до How To Create A Mind еще не добрался, но она по идее тоже имеет отношение к теме).
Sign up to leave a comment.
Роботы и человеческая психология