Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 16
Потрясающая статья. Как жаль что здесь таких крайне мало, и как жаль, что тут пока только один мой коммент. Думать об этом надо всем, и сейчас самое время начинать об этом думать. Разговоры про сильный ИИ и копирование личности мне кажутся даже излишними. Ибо эта точка не выглядит для нас достижимой, всё кончится гораздо раньше. Низвести нас до уровня цифровых дебилов вполне хватит нынешнего ИИ, может чуть более продвинутого.
В истории такое происходило уже тысячи раз. Достаточно почитать сказки тысячи и одной ночи, где один из распространенных сюжетов - наивный падишах предающийся пирам, соколиным охотам и гаремным развлечениям, и злой визирь, по факту рулящий всеми делами государства. Кончается всё очень плохо, и для падишаха, и для государства. Потом правда находится рояль в кустах, и для визиря дело тоже кончается отрубленной головой, но во-первых это уже ПОТОМ, во-вторых на то она и сказка... Ничем не напоминает наши дни ???
У Стругацких в "Далёкой Радуге" упоминается Массачусетская Машина. Которая проработала 4 минуты и её едва успели выключить. После чего залили бетоном и обнесли колючей проволокой. У нас не будет никакой Массачусетской Машины. У нас всё будет прекрасно и замечательно. Прибыль будет расти, издержки падать. В смартфонах и соцсетях появляться новые фичи. А мы будем потихоньку, но необратимо терять навыки и компетенции... И никто не щёлкнет рубильником, пока не станет слишком поздно.
Мне в своё время понравилась одна аллегория. Человечество сидит у урны и достаёт из неё камушки - изобретения и открытия. Почти всегда камушки белые. Очень редко попадаются красные. Например ядерное оружие. И совсем, совсем редко, скорее всего один раз за всё время жизни цивилизации (по вполне понятной причине) камушек оказывается черным.
Просто попытки постоянно что то упростить для конечного покупателя, той сфере куда влез ИИ - слишком резко получилось...
Когда то изобрели калькулятор, потом инженерный, еще были сайты, надо бы из знать и искать всякую нужную там инфу, а сейчас быстро, не в уме и не на листочке всё считается, а вместо гтрудирования сайтов и форумов - ИИ быстро лупит ответ..
Как многие родители с современными детьми.
Ему скоро 5 и они все его одевают и памперсы носят.
Да нет, в эпохи водяных мельниц, паровых молотов, карманных калькуляторов и даже персональных компьютеров, решение всегда принимал человек. Сейчас формально тоже. Но всё более и более формально. В конце концов мы будем царствовать, но не править, как тот самый падишах. Всё идет к этому. И царствовать мы будем до первого серьёзного сбоя в инфраструктуре, хотя бы типа события Керрингтона. Починить его будет уже некому.
Возвращаясь к тысяче и одной ночи, представьте себе Аладина с его джином-рабом лампы. По Стругацким правда джинны умеют только разрушать города и строить дворцы (Понедельник начинается в субботу), а по Высоцкому только морды бить (У вина достоинство, говорят целебное), но положим у нас джин-универсал. Хошь вина царского, хошь золото-брульянты, хошь гарем наложниц невиданной красоты. В сказке всё приятно и замечательно. На практике Аладин очень быстро деградирует до уровня раба раба лампы, растеряв все компетенции и утратив контроль. И случись что с его джином, судьба его будет печальна. Вот и нас боюсь ждёт примерно то же самое.
Низвести нас до уровня цифровых дебилов вполне хватит нынешнего ИИ
да не обязательно ИИ а вообще некоторая техника.
к примеру смартфон: у нас у некоторых ресторанов исчезли меню и поставили QR коды (а у меня сматрфон как раз сломался и ходил месяц с обычным телефоном) на вопрос что мне делать с QR кодом без сматрфона - ее как будто облило холодной водой.
или просто мобильный телефон:
мама приехала из-за границы и пошла открывать карточку - а там мы вам пришлем PIN по смс/ или в приложение - на вопрос что у нее нет ни телефона ни приложения: пожали плечами что у нас только так и никак по другому.
А самое забавное, что в мире существует ещё примерно шесть, семь миллиардов людей которые ни про какие ИИ не знают. Но при этом замечательно умеют выживать и они очень быстро придут к изнеженным владельцам ИИ. А что будет дальше представить довольно просто, но я почему-то не хочу.
Вы сгущаете краски. Эта проблема и сейчас неплохо решается - поставкой оружия этим замечательным миллиардам за их же собственный счёт. Для наркоты и других "полезных" развлечений можно просто рецептик подкинуть, а производить и на месте получается.
Чтобы они сами себя поубивали, а к изнеженным не лезли.
/s
Во-первых это вряд ли. Уж чему чему, а эффективно убивать эту штуку научат в первую очередь. Во-вторых в случае успеха умеющих выживать, это не поможет. Легкодоступные ресурсы исчерпаны. И для добычи той же нефти нужны серьёзные технологии, в чём эти ребята не сильны. А значит жесточайший цивилизационный откат. Причем второго шанса скорее всего у нас уже не будет. Через несколько тысяч лет наступит ледниковый период, который покончит с нашими остатками. Нам нужно удержаться как минимум на нынешнем технологическом уровне, и при этом не оскотиниться. Увы нынешний порядок вещей этому совершенно не способствует. Возможно это и есть тот самый Великий Фильтр. От таких мыслей честно говоря хочется сбежать в деревню, пасти коз и сажать картошку...
В рыночной экономике все эти экстраполяции разбиваются о бетонную арифметическую стену. При наличии конкуренции цена на товары стремится к сумме затрат на сырьё, затрат на амортизацию оборудование, средней нормы прибыли и затрат на зарплаты. Затраты на сырьё и амортизацию можно точно также рекурсивно свести к средней норме прибыли и зарплатам. Если ИИ исключает затраты на зарплаты, то из-за наличия конкуренции в долгосрочной перспективе мы получаем не взлёт прибыли, а обрушение цен. А если у нас обрушились цены, то зарплаты живых людей могут быть настолько крошечными, что их найм становится дешевле дальнейшей автоматизации.
А если мы мысленно переходим к ситуации, когда на каждом предприятии собственник заменил всех людей на ИИ, то каждый такой собственник будет еле сводить концы с концами, а не купаться в роскоши. При наличии конкуренции рынок за продукцию такого предприятия будет платить чуть больше, чем затраты на сырьё, оборудование и ИИ. Найм реальных людей - это единственная возможность стабильно получать значительную прибыль. Либо придётся наделить ИИ человеческими правами и сделать полноценным экономическим субъектом…
Большой бизнес умные люди делают, они-то могу между собой и договориться. Жёсткая конкуренция - это только для низших индивидов.
Найм реальных людей - это единственная возможность стабильно получать значительную прибыль.
Вот с этим я бы согласился. Только стабилизирующий фактор - скорее такой-же, как был во время промышленной революции. Когда умные люди поняли, что научиться массово клепать ширпотреб - это только половина задачи. Чтобы получить прибыль, продукцию должен кто-то покупать.
Капитал по своей природе должен расти бесконечно. Когда всё поделено и расти дальше некуда, придётся нарушить договорённости, и чего-нибудь оттяпать у партнёра.
Чтобы получить прибыль, продукцию должен кто-то покупать.
Этого мало. Чтобы получить прибыль, цена продукции должна быть выше, чем сумма затрат на производство. Единственная затрата на производство, которая обладает стабильным свойством увеличивать цену конечной продукции больше, чем цена этой затраты - это наёмные работники, либо свой собственный труд. Всё остальное, в том числе и ИИ, в долгосрочной перспективе переносится в цену, как есть, то есть не приносит прибыли, а только позволяет не проиграть конкурентам.
Единственная затрата на производство, которая обладает стабильным свойством увеличивать цену конечной продукции больше, чем цена этой затраты - это наёмные работники, либо свой собственный труд
Не совсем понятно, почему роботы вместо работников не обладают " стабильным свойством увеличивать цену конечной продукции больше, чем цена этой затраты " на предприятии, где они внедрены? Можете пояснить?
Ибо в рыночная экономика - это экономические отношения между людьми. Самый рациональный и логичный обмен - это продукт человеческого труда поменять на другой продукт, в который вложено такое же количество человеческого труда. А за продукцию робота вам средний покупатель заплатит не больше, чем стоит амортизация этого робота плюс стоимость сырья, плюс ваши трудозатраты на управление роботом. И рыночная конкуренция за этим проследит. От робота что-то выиграть можно только в самом начале, когда конкуренты ещё не подсуетились. А потом робот прибыли не приносит, а только позволяет не вылететь с рынка.
А за продукцию робота вам средний покупатель заплатит не больше, чем стоит амортизация этого робота плюс стоимость сырья, плюс ваши трудозатраты на управление роботом
Если подставить в вашу фразу вместо робота работника, то я не вижу что там по существу поменяется. Ну, амортизация робота пусть соответствует выплачиваемой зарплате, где тут ошибка, если дело к формулам свести?
Большой бизнес не конкурирует, там все относительно свои. Тут есть 2 варианта:
Владельцы датацентров захватят все, а обычные люди будут умирать
Обычные люди смогут надавить на государство и ИИ частично обобществят так, чтобы безработное население земли могло закрыть хотя-бы базовые потребности. Государства поделятся на владельцев сильных ИИ и остальных. Первые потихоньку захватят вторых, т.к. никакое международное право уже работать не сможет - нет мотивации соблюдать интересы слабых. Ядерку скорее всего никто не использует, обмануть можно будет так, что до ядерки никто не докоснется, да и никто не хочет унтчтожения всего мира.
В рыночной экономике невозможно отказаться от конкуренции. Ваш партнёр вас предаст при первой же возможности. В рыночной экономике невозможно захватить всё, ибо без конкуренции и без политической активности снизу любая структура быстро деградирует и распадается.
На экономические отношения обычных людей опирается власть владельцев частной собственности, в том числе собственности на датацентры. Если обычные люди исключаются из экономики, то на ваше право частной собственности всем становится плевать. Вы теперь не собственник датацентра. Вы теперь случайный человек, который по какому-то недоразумению управляет датацентром.
Современное производство слишком хрупкое для современного оружия. Захватить силой не получится. Достаточно совсем немножко повредить завод по выпуску чипов 5-нм, и чипов с этого завода больше не будет.
Не удивлюсь, если в ближайшем будущем на ИИ будут распространятся те же правила, что и на ядерное оружие. Потому что уже очевидно, что оба этих изобретения человечества вполне способны его уничтожить.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Когда капитал перестанет ждать человека