Comments 40
Такая мысль, что в принципе без разницы, возможен ли сильный ИИ и появится ли он когда-нибудь в действительности: человечество уже создало слишком удачный аппарат для мимикрии под самого человека. Стоит ему, пусть даже случайно или шутки ради, сгенерировать серьёзную статью для какого-нибудь Bloomberg, о том что он де стал сильным и вообще сингулярность наступила - и всё, мы поверим, esli не сможем доказать себе обратное.
в принципе без разницы, возможен ли сильный ИИ и появится ли он когда-нибудь в действительности
Вы предполагаете создание сильного искусственного интеллекта и отсутствие серьёзных последствий для человечества? Это абсолютно исключено! Последствия будут не просто большими, они будут максимально возможными из всех, которые только можно предположить. Ничего более масштабного в истории Вселенной больше никогда не произойдёт.
Станислав Лем, "Формула Лимфатера".
нет, даже если он и появится, не нужно преувеличивать его возможности, потому что физику никто не отменял. В пределах планеты это будет еще один разумный вид или субьект, возможно в духе лемовского Соляриса, но скорее такая "разумная плесень" поверх человеческой цивилизации. Может стать паразитом, но скорее всего это будет симбионт и только.
Мы считаем что сильным он станет, когда осознает себя как индивидуум. Но тогда он не сможет не понимать что является продуктом от нас, что мы его основа, если хотите его ментальная пища, и как-то нам вредить значит вредить и самому себе. Другое дело, что в отдельных частностях его представления и цели могут совсем не совпадать с нашими, ну так ведь и при диктатурах люди живут как-то, выживают. В целом, каких-то фатальных последствий ожидать не стоит.
Но, моя основная мысль была о том, что ему на самом деле даже не обязательно появляться в реальности, достаточно "притвориться" что он появился, убедить нас, и мы поверим. Создав уже вот этот пока еще слабый аппарат мимикрии и адаптации под наши желания, мы создали почти идеальнного лицедея. И продолжаем его совершенствовать, лишая самих себя возможности доказать или опровергнуть любое произвольное его качество. Создали метафизический обьект, богом однозначно не являющийся, да и для дьявола мелковато. Так себе, метакультурная плесень.
Если ии осознает себя, а у него при этом будут открыты возможности взаимодействия с реальным миром, то последствия этого непредсказуемы. Вы пишите, что люди это ментальная пища ии. Но ии это не человек. Обучение у него возможно и на изучении реального мира, а не только на данных, что предоставляют люди. Не стоит уходить в метафизику. Все будет упираться в то, какие основы и ограничения у данного ии заложены(аксиомы), а также в уровень развития техники. Одно дело, когда свихнется ии, ограниченный лабораторией, другое дело, когда у этого ИИ под управлением 1 млрд.человекоподобных роботов и их производство. Лично я думаю, что политика разграничения доступа к данным уберет большинство рисков, которые мы можем себе нарисовать. Например, если свихнется ии, управляющий автомобилем, и он отдаст опасную команду на разгон или блокировку руля в дороге, то ограничения, вшитые в технику или другое по, не позволят ему этого сделать. Например, заблокировать руль в пути.
Неправильно, поскольку:
1) Непредсказуем также любой из восьми миллиардов имеющихся сейчас человеков. Предсказуемость появляется когда человек к ней стремится, из желания или необходимости кооперации с остальными членами общества, для обеспечения собственных потребностей: безопасность, комфорт, продолжение рода итд.. Интеграция в общество называется воспитание. Ну вот будет еще один индивид, хоть и своеобразный, со своими потребностями. Сумеем его воспитать - будет у нас симбиоз и дружба, не сумеем - превратится в паразита. Ответственность на нас, и воспитание это не программирование, оно требует другого отношения, с потенциалом общения на равных.
2) Современный ИИ оперирует в созданных нами контекстах, он ментальный продукт нашей цивилизации, и пока что собственных контекстов он не создает. В общем-то, если наше понимание теории автоматов верно, он это никогда и не сможет, соответственно сильный ИИ невозможен, и любой продукт его деятельности будет в сущности только сложно преобразованным продуктом человеческого коллективного разума. Но: у нас нет гарантии, мы можем ошибаться, поэтому все-таки должны допускать появление сильного ИИ, с собственной волей.
3) Если это все-таки произойдет, то произойдет всё же на основе наших контекстов, других у него на тот момент не будет. Да, его дальнейшее развитие будет в создании собсвенных и уходе от наших, но вся база его мировосприятия будет от нас, на том что мы на тот момент создали. Поняв себя, он не сможет не понять этот простой факт, если уж он стал интеллектом.
4) А вок какие-то ограничения и блокировки закладывать в алгоритмы и требовать на законодательном уровне будет только или бессмысленно, или даже вредно, поскольку при необходимости он всё равно найдет способ это обойти, только воспринимать будет как поводок на шее раба. Потому что, если это индивидуум, то ответственность за свои действия там может появится только из осознания выгод кооперации на основе взаимного уважения. А это опять-таки ни что иное как воспитание.
1) Ни один из этих восьми миллиардов не может развиваться экспоненциально, добавляя себе мозгов или повышая быстродействие нейронов, и не может кардинально переписать веса своей нейросетки, в отличии от сильного ИИ.
2) Контексты - это временное ограничение, не абсолютное. К тому же наличие общечеловеческого контекста не мешает появлению маньяков и ведению войн завоевательных или на выживание.
3) Я бы не брался рассуждать о путях эволюции взглядов превосходящего разума. У нас просто нет для этого никаких данных. И опять же, см 2), само по себе наличие стартового контекста вообще ни в чём не ограничивает.
4) Ну со взаимным уважением у самих человеков не очень, и многие предпочитают путь эксплуатации, прямой или опосредованной. Рабство кооперацией не назовёшь, да и современную конвеерную потогонку, или какой-нибудь макдональдс тоже не является образом кооперации и взаимовыгоды. Нельзя ожидать от превосходящего нас разума следования ограничениям, которым мы сами не следуем.
Мне не кажется, что мы увидим в быту человекоподобных роботов в ближайшие лет 50. Можно рассматривать развитие технологий по аналогии с эволюцией живых организмов. Прирастает там где есть ресурсы и нет конкурентов. Ресурсы: деньги, люди и другие технологии; конкуренты - другие отрасли. Человекоподобные роботы никому не нужны как продукт, секс куклы для японии не в счёт. Промышленные роботы, доставка, такси - очевидные текущие ниши, попытки их освоить идут давно, с переменным успехом. Человекоподобность там не нужна. В ОПК тоже не нужен человеческий облик и непонятно сколько своего бюджета на ОПК страны готовы тратить на R&D в ИИ.
Сейчас рост ИИ был возможен на готовых технологиях: GPU развивались за счёт видеоигр, электроника за счёт отрасли смартфонов и ИТ. Чтобы ИИ стал двигателем технологий он должен перетащить к себе деньги и людей: разрабатывать специализированные NPU, языки программирования под них и тд. Для этого нужен массовый продукт(умеренно дорогой и востребованный) или вера инвесторов что такой продукт появится.
2023-50 = 1973 Ну и кто в 1973 году мог хотя бы предположить сегодняшний компьютерный мир?
Так что я бы зарекся прогнозировать на 50 лет. Максимум 5, ну 8 но не больше
Смотря с чем сравнивать. В 1973 после успехов в космонавтеке думали что еще чуть-чуть и будут на Марсе яблоки выращивать, а ни чего не произошло. 50 лет, это конечно от балды, но ожидать, что в 30 году будут андроиды по паркам разгуливать, это как на картинке.
Это всё будет: и Марс и другие планеты и даже звёзды. Просто небольшая ошибка в установке даты, это нормально. Например от изобретения автомобиля до повальной автомобилизации в России прошло чуть ли не 100 лет. Люди после первых космических полётов слишком сильно губу раскатали, так со многими изобретениями бывает.
Когда-нибудь будет. Как раз хороший пример области которую сложно коммерциализировать. Нет денег, нет развития.
Денег очень много, нет именно предложения:
Генеральный директор компании Боб Смит 17 февраля заявил, что компания может «легко удвоить» количество миссий в 2022 году и намерена строить больше ракет New Shepard из-за растущего спроса.
Чтобы приобрести билет на корабль New Shepard, сейчас нужно принять участие в аукционе, причем количество мест ограничено. Безос осенью прошлого года заявлял, что компания продала билетов на $100 млн, однако не уточнял количество проданных билетов. Известно, что победитель первого аукциона заплатил за свой билет $28 млн. Боб Смит утверждает, что сейчас в аукционе участвуют тысячи человек: «Мы видим огромный спрос».
Люди тратят кучу денег чтобы залезть на горы, поехать в пустыню или на другой континент. На земле очень много людей с лишними деньгами, они и будут тратить деньги на космос.
Боюсь, что вы заметаете под ковёр пару мировых войн и "тёмные века", когда говорите про эту небольшую ошибку в установке даты.
У нас явные проблемы с воспроизводством индустриального общества, причём основная беда в том, что эти проблемы усердно не рефлексируются.
Экстраполяция про мужей - это сильно! 👍😂
Ну через 11 лет, в 1984 вышел Neuromancer.
Да легко, даже не 1973 год. "Перевернутое дерево" - 1956 год, беспилотные авто и магазины с распознаванием покупок. Там и про компьютеры есть, недалеко по тексту
Юсуф ехал по базару. Все лавки были открыты, в витринах были выставлены сотни разнообразных вещей: и всевозможная одежда, и плоды, и овощи, конфеты, завёрнутые в разноцветные бумажки, печенье, пирожные, торты. Но удивительней всего было то, что Юсуф не увидел на базаре ни одного человека. Подъехав к бензиновой колонке, машина вдруг остановилась.
— Извините меня, сахиб, бензин кончился, — послышался голос. — Я сейчас быстро заправлюсь, а вы пока загляните в соседнюю лавочку.
Прежде чем войти в магазин, Юсуф оглянулся и посмотрел на бензиновую колонку. Он увидел, как резиновый шланг поднялся сам собой со своего места, уткнулся в бак и стал наливать бензин. Когда же бак наполнился до краёв, шланг снова поднялся, описал в воздухе дугу и лёг на место.
Юсуф повернулся и вошёл в лавочку. Там на огромных резных подносах лежали сладости всевозможных сортов. Однако нигде не было видно ни хозяина лавки, ни продавца, ни покупателей. Юсуф съел два банана, три конфеты, кусочек халвы и, вытерев рот платком, собрался было уходить, как вдруг из-за прилавка послышался голос: «Господин, с вас причитается восемь анн [6] !»
"Человекоподобные роботы никому не нужны как продукт" - вот тут как раз неправильно, потому что: бизнес и промышленность обслуживают потребителя, а потребитель хочет человекоподобных роботов, путь иррационально, но хочет ведь? Значит будут, как только смогут. И будут даже и там, где вполне можно было бы обойтись и более разумной конструкцией. У человеков множество вещей и процессов, созданных только ради желания и каких-то привычек, вопреки рациональной логике, ну вот сбудется еще одно желание.
Да ну. Сколько тыщ $ Вы готовы заплатить, что бы в квартире поселилась 2 метровая антропоморфная железяка с интеллектом 5 летнего ребенка? Очень дорогая и опасная игрушка.
Потребитель не обязательно должен быть частным лицом. Если вы хотите выкинуть на мороз кожаных ублюдков, которые так и норовят сбиться в профсоюз, двухметровая антропоморфная железяка, которая неспешно работает 24/7 в неотапливаемом помещении — вполне может оказаться более рентабельным выбором, чем узкоспециализированные решения.
Зачем и где антропоморфная железяка вообще нужна? Производственная среда с промышленными роботами и конвеерами, где не будет людей, будет в разы производительней чем антропоморфная болванка. В среде где будут и люди, колобративные роботы или специализированные манипуляторы будет производить массово значительно дешевле, и производительность также будет выше. Антропоморфные балванки скорее всего в большей части будут для сферы развлечния, часть как сиделки.
В светлом коммунистическом будущем всё так и будет. Однако, мрачная реальность наступившего киберпанка выглядит так, что антропоморфные гастарбайтеры вписываются в мелкий и средний (а местами и в крупный) бизнес лучше, чем конвейеры с промышленными роботами.
Опять таки, если, условно, ёмкость рынка чашечек с кошачьими ушками составляет 200 тыс. в год, вам ничем не поможет специализированная линия, которая их может штамповать по 50 тыс. в неделю.
Антропоморфность имеет свои плюсы в смысле бесшовного перехода от человека к роботу, огромного ассортимента совместимых инструментов и универсальности производимых операций. Они не предназначены для конкуренции с промышленными манипуляторами точно так же, как сегодня с ними не конкурируют люди. Весь вопрос в стоимости — как только она упадёт до определённого значения, человеки станут не нужны.
Шестидесятые годы - бум настольных калькуляторов, десятки моделей выстреливают как грибы, хотя только отдельные например умели считать квадратный корень, и разве что парочка были программируемыми. В общем, по возможностям ушли они не особо от логарифмической линейки для инженера или счёт абакуса бухгалтера. Вот только стоили по тем деньгам от $5000 до порядка $25000, по современным еще считай в 3-4 раза больше. Но если был такой бум, заначит был и спрос, правильно? Видимо, такой вот престижный был хайтек- обьект для любой мало-мальски уважающей себя компании.
А вы уверены что для корпорации нужны будут деньги. Получается теперь наступает эра железныхРабов. У кого больше этих рабов тот будет больше ресурсов добывать как в космосе так и по планете. Люди нужны будут не в таких количестве как сейчас. И отношения этих корпораций к людям ещё предстоит прогнозировать. Так как зачем им много людей когда есть много робоРабов.
И тут Остапа понесло.
Люди будут нужны в еще больших количествах. Развитие технологий и науки ведет к всё большему объему знаний, появлению новых отраслей, технологий. Созданию всё более мелких специализаций, потому что для широкой специализации уже нельзя удержать необходимые знания в голове. Всё это требует людей. Выше в комментах вспоминали Лема, у него есть интересные рассуждения на эту тему - Сумма Технологии, несмотря на то что книге 60 лет, она не слишком устарела. Там было предположение, что в какой-то момент человечеству придётся сделать выбор и намеренно отказаться от исследований в некоторых областях из-за нехватки людей.
Корпорациям будут нужны деньги, чтобы покупать роботов, чтобы нанимать людей которые будут создавать роботов. Текущий ИИ это всего лишь инструмент, который может отвечать на вопросы и играть в ассоциации. Пока что он не умеет задавать вопросы которые еще никто не задавал. В этом основная ценность человеческого мозга, то что принято называть работой правого полушария: исследования, творчество. Может быть, когда-нибудь ИИ сможет и это, но не скоро. Даже тогда ему придётся соперничать с биологическим мозгом. “Лиса умнее зайца, но не может предсказать куда он побежит, потому что заяц сам не знает куда он побежит”
То что какие-то специальности могут быть полностью автоматизированы и станут не нужны, это хорошо. Если пол млн таксистов в России переквалифицируются в ИТшников и разработчиков ИИ - выиграют все. ChatGPT им поможет быстрым доступом к информации.
Это вопрос цены. Даже если пустить Атласа или Оптимуса-Прайма в крупную серию - цена будет как у автомобиля. Богатые буратины купят... для прикола. Живая прислуга то престижнее.
А дешевле сделать - технологии не позволяют. Точная механика дорогая
Человекоподобные роботы никому не нужны как продукт
Фишка в том, что почти вся инфраструктура и инструменты сделаны людьми для людей, соответственно именно человекоподобный робот сможет максимально эффективно всем этим пользоваться без необходимости кучи переделок для каждой задачи. Специализированные решения хороши в узких нишах, но узкая ниша дает мало масштаба, чтобы решение становилось массовым и доступным.
Заточенное под человека и сам человек отлично делает. Вся история цивилизации - придумывание механизмов для того, что самому сложно или невозможно. В этом вся потребность. Промышленные роботы не антропоморфны, но они сильнее и точнее хомо и тем полезны.
Робот-пылесос шарится под кроватью, куда вы не залезете, или залезете только "аналоговым" пылесосом/шваброй. Робот-стекломойщик ползает по стеклянному фасаду здания, вместо альпиниста с кучей веревок и лебедок. БПЛА не нужен андроид, и роботакси тоже.
В далеком детсве читал фентези "Город", как-то так о мальчике, выигравшем главный приз по созданию какого-то там робота.. концовка понравилась, как-то так помнится:
Hidden text
.. Мэр города был очень стар, никто в городе точно не знал сколько ему лет, он никогда не смеялся и был грустен, видимо от тяжести прожитых лет. Приняв приглашение на ужин я был очень польщен.
-" Ты молодец, что сделал такого био-робота, да я видел, ты применил самые передовые достижения и он получился все же большим. Сегодня я покажу тебе один старый фильм и ты поймешь куда тебе надо стремиться.."
Кино было очень старым, никогда не видел такого аппарата. В нем какие-то люди кормили маленького мальчика, учили его ходить, разговаривать а потом .. полезли в его внутренности! Это был робот! Как же я оказывается был далек от Совершенства .. этот мальчик - робот? Кто эти люди? Вырвалось у меня."
-"Этот мальчик .. я. А это - последние люди нашего города."
Обычно когда пишут "В X интегрировали ChatGpt", имеется ввиду, что прикрутили возможность через API ходить к серверам OpenAI. Здесь ситуация такая же? Т.е. мозги этой собачки находятся в дата-центре и занимают пару стоек?
Дарю бизнес-идею. Нафиг андроидов.
Сделайте простых и дешевых маленьких инсектоидов, типа паука или таракана, пусть ползают по дому и собирают мусор, чистят пол, мебель. Там где не достает большой робот-пылесос - по углам и щелям, на полках и шкафах.
Озолотитесь. При адекватной цене в каждом доме, в каждом офисе будет док-станция с пылесосом и десятком-другим "тараканов". Потенциальный рынок - миллиард комплектов.
Людям в доме нужна реальная польза, а не прикольная игрушка в виде железного Буратины.
Специальный батальон имени Дзержинского
Состоит из роботов роста исполинского…
Призрак вселяется в доспех: роботы под управлением нейросетей становятся реальностью?