ИИ с включённой связью превращает машину в сплошную дыру уязвимости
Робомобиль — не обязательно с ИИ. Про ИИ были отдельные статьи.
А во-вторых, вас не смущает то, что сейчас уже масса сервисов подвязана на связь — банки, кассовое обслуживание, спецслужбы там же? И ничего — уязвимости есть, попадосы случаются, но общий положительный суммарный экономический эффект от внедрения новых технологий заставит их использовать. Хотите вы того или нет.
А зачем вообще искать виновного? Ущерб возместит страховка. А алгоритм обучится и станет более совершенным.
Слушайте — вам дают чёрный ящик и гарантируют, что он снизит аварийность на порядок. Вам не всё равно, что внутри ящика? Вы от него откажетесь пока до мелочей не поймёте его устройство?
Современные ПК и софт — уже считайте стали такими «чёрными ящиками» — «херак-херак — и в продакшен» — что там внутри и как работает — никто не заморачивается, а просто тестирование переносят на публику, выкатывая сырой продукт — «главное опередить конкурентов, а глюки по дороге доделаем...»
Ну да, чтобы объяснить муравью устройство ящерицы, нужно создать медведя…
Это тупик. ИИ — инструмент. Нецелесообразно создавать инструменты, использование которых в итоге приводит к затратам, бОльшим, нежели предыдущее поколение. Создание «объясняющего ИИ» нивелирует выгоду от использования «объясняемого ИИ». Нужен статистический подход — ориентация на результат — если робомобили в итоге значительно снизят количество жертв, то и пофигу на понимание этой авто-интуиции.
С драгметаллами уже проходили историю — в 1933-м году в США была Великая Депрессия и государство нагнуло всех вот таких «продуманных» — принудило сдать слитки с монетами по выдуманному курсу.
На недвижимость тем более в любой момент могут налоги такие накрутить, что не рад будешь.
А альтернатива совсем недалеко — Китай. Пенсий нет. Гарантия обеспечения в старости — дети.
Тут взаимозависимость — если бы в 1944-м на Бреттон-Вудской конференции опорной валютой не был бы принят доллар, то США не раскрутились бы на финансовых спекуляциях до сегодняшнего многотриллионного пузыря.
Отключить им интернет. Дистанционно. «Бабка-вахтёр» будет, скажем, на МКС.
А если серьёзно — тут уже предложили вариант того, что мы мееедленно настолько привыкнем к удобствам таких чудо-помощников, что выключить их хоть и можно будет, но это будет шаг назад — «в средневековье». Вот кто сейчас откажется от мобильной связи, интернета, гаджетов, личного автотранспорта...?
Читаю тред и вижу, что проблема оценки гениальности произведения при жизни автора остаётся вроде бы нерешённой. Масса примеров, когда нищий писатель мог бы пожить подольше, имея в распоряжении хотя бы часть прибыли, которая стала появляться от его произведений лишь спустя поколение-другое.
Проблема перераспределения рисков?
Так ведь есть уже инструмент. Называется страхование.
Мне вот, к примеру, тоже не нравится оплачивать ОСАГО, но, похоже, это пока лучший инструмент такого распределения рисков, при котором общие накладные расходы (авто)сообщества минимизируются.
Пусть каждый писатель/учёный создаёт новые знания, которые могут дать эффект обществу сейчас или спустя 200 лет. При этом платит в страховой общак некий взнос (возможно разный), дающий права на выплаты, скажем, при форс-мажоре. Сам общак наполняется не только взносами, но и отчислениями от экономического эффекта от изобретений или продаж произведений. Риски размазываются во времени.
Что-то в этом духе — к сожалению далёк от матана в области страхования.
Речь о том, что ваши дети «пальцем о палец не ударили», чтобы обеспечить себе первоклассное образование. Об этом позаботились вы. Сомневаюсь, что большинство родителей в состоянии заработать на лучшие университеты мира. Таких меньшинство. Т.е. наши дети со своего «старта в жизнь» уже находятся в неравном положении. А как же «все люди от рождения равны между собой»? Где справедливость?
Погодите, да ведь вся штука в том, что «конвертация эфемерного в материальное» (в т.ч. получение отчислений от продаж книг) может растянуться во времени. Кто сможет оценить гениальность моего произведения на сотни лет вперёд и заплатить всю сумму здесь и сейчас?
И тут я не могу понять почему кто-то кто не имел отношения
Дети — продолжение рода родителей. Родители всё делают ради детей. Даже если те не достойны ничего. Поэтому авторы гениального произведения заинтересованы в отчислениях детям как продолжению самого себя.
Точно так же и олигархи обеспечивают своих детей-мажоров, не добившихся самостоятельно в этой жизни ничего, а всего-лишь родившихся «в нужном месте в нужное время».
Справедливо это или нет — боюсь рассуждать. Уже минус влепили.
— и ещё тысячи хитромудрых способов помочь своим потомкам получить преимущество над сверстниками. Решение тут только на корню — исключить животные замашки. Оно как бы постепенно всё равно идёт в этом направлении.
Построенный родителями дом тоже запретить завещать?
Это смотря какие цели преследуются. Наследуемая частная собственность очень сильно стимулирует коррупцию в особо крупных размерах. Если каждый гражданин будет знать, что его собственность после смерти отойдёт государству, а его детям будет всего-лишь обеспечен некий комфортный социальный минимум, то исчезнет смысл воровать миллиарды.
Да, почему нет? Если люди того пожелают.
Но ведь пожелать можно и чтобы стали «Люди как боги».
Желания-то не будут исполняться мгновенно и необратимо (вследствие физических ограничений). Либо же всегда можно заложить требование исполнять желания постепенно — не быстрее скорости осознавания происходящего человеком.
Но мы ведь можем свести их к каким-то основам? Как физики сводят всё многообразие наблюдаемых явлений к нескольким законам. В конечном счёте, желания любого человека по сути основаны на биологии. Жить хорошо, долго, много. Ну так и не надо в ИИ закладывать всё разнообразие.
Люди же не учитывают всё разнообразие последствий своих действий. Они ограничены в своём предвидении. ИИ, который будет сильнее человеческого, тоже будет ограничен, но уже менее.
В конце концов, как-то же люди описывают и закладывают «блага и ценности» в головы детей. Почему нельзя ИИ научить тому же? Культура минус инстинкты. У него не будет эгоизма, но будет дальновидность в принятии решений.
Пусть жизнь — такое себе локальное (в пространстве и времени) нарушение увеличения энтропии вселенной. В триллионах итераций вселенной и триллионах звёздных систем случился такой вот квантовый эффект — зародилась жизнь. Событие маловероятное, но если Большой Взрыв «перезапускается» бесконечное число раз, то такое событие обязательно случится.
Так а в чём риск ИИ? Риск для кого? Для биологической жизни? Если в этой итерации вселенной ИИ уничтожит людей, то лишь в попытке экспансии (в пространстве и времени) жизни.
Либо люди закладывают в ИИ стремление к жизни, либо нет. В первом случае есть вероятность, что ИИ уничтожит биологические формы жизни, но сама жизнь (уже небиологическая) продолжится. Во втором случае жизнь закончится с закатом биологической жизни. Но в первом случае ИИ может и сосуществовать — подобно тому как мы, потомки бактерий сосуществуем с низшими.
Так я о чём написал — не сможет менее развитая форма жизни победить более развитую. У количественной экспансии есть границы. Нехватка ресурсов. А в конкурентной борьбе за ресурсы более умные завсегда отыщут уязвимость у микроба, чтобы придумать для него антибиотики или бактериофагов.
Люди, в отличии от муравьёв, вполне могут сами колонизировать галактику.
Я бы не был столь уверен. Где-то читал подсчёты, что у человечества просто нет в Солнечной системе столько энергии. Имеется в виду химическую+ядерную+термоядерную (исключая само Солнце) — мы тут не насобираем столько топлива, чтобы долететь, используя известную сейчас физику, до ближайшей перспективной системы. Если люди или ИИ не изобретут гибернацию, антигравитацию, Варпы, Звёздные Врата или другую телепортацию.
В конце концов, что такое интеллект? Это способ моделирования. Эволюционно выработавшийся механизм наиболее эффективного реагирования организма на окружающую среду. В тяге к экспансии. Одноклеточные->многоклеточные->химические сигналы->нервная система->мозг->сообщество мозгов->ИИ. На каждом шаге жизнь эволюционно «изобретала» всё более эффективные механизмы.
Интеллект — это изобретение природы. И вот на последнем шаге человечество изобрело ИИ. Как более эффективный способ познания мира, ибо десять миллиардов «лысых обезъян» уже не могут экспансироваться дальше — сто миллиардов Земля не прокормит, а покинуть Солнечную систему мешают ограничения биологического характера. Вот и появился ИИ как продолжение Жизни. Пусть не биологической.
Насчёт «благоразумия» — это лишь вопрос моделирования последствий. У людей есть критерии, по которым они сверяют свои действия — моделируют в мозге последствия тех или иных действий. ИИ будет просто отодвигать горизонт моделирования дальше — эдакий усилитель мозга, гораздо эффективнее предсказывающий будущее и выбирающий более оптимальные действия в достижении цели. А критерии для оптимизации будут так же заложены (человеком) в ИИ, как они заложены у нас в мозге. Ну т.е. если заложить в «сильный ИИ» такие же понятия «блага», какие в нашем обществе, а «разума» у него будет больше, то и «благо-разумия» автоматически у него получится больше, чем у любого человека.
Робомобиль — не обязательно с ИИ. Про ИИ были отдельные статьи.
А во-вторых, вас не смущает то, что сейчас уже масса сервисов подвязана на связь — банки, кассовое обслуживание, спецслужбы там же? И ничего — уязвимости есть, попадосы случаются, но общий положительный суммарный экономический эффект от внедрения новых технологий заставит их использовать. Хотите вы того или нет.
Слушайте — вам дают чёрный ящик и гарантируют, что он снизит аварийность на порядок. Вам не всё равно, что внутри ящика? Вы от него откажетесь пока до мелочей не поймёте его устройство?
Современные ПК и софт — уже считайте стали такими «чёрными ящиками» — «херак-херак — и в продакшен» — что там внутри и как работает — никто не заморачивается, а просто тестирование переносят на публику, выкатывая сырой продукт — «главное опередить конкурентов, а глюки по дороге доделаем...»
Это тупик. ИИ — инструмент. Нецелесообразно создавать инструменты, использование которых в итоге приводит к затратам, бОльшим, нежели предыдущее поколение. Создание «объясняющего ИИ» нивелирует выгоду от использования «объясняемого ИИ». Нужен статистический подход — ориентация на результат — если робомобили в итоге значительно снизят количество жертв, то и пофигу на понимание этой авто-интуиции.
На недвижимость тем более в любой момент могут налоги такие накрутить, что не рад будешь.
А альтернатива совсем недалеко — Китай. Пенсий нет. Гарантия обеспечения в старости — дети.
А если серьёзно — тут уже предложили вариант того, что мы мееедленно настолько привыкнем к удобствам таких чудо-помощников, что выключить их хоть и можно будет, но это будет шаг назад — «в средневековье». Вот кто сейчас откажется от мобильной связи, интернета, гаджетов, личного автотранспорта...?
Проблема перераспределения рисков?
Так ведь есть уже инструмент. Называется страхование.
Мне вот, к примеру, тоже не нравится оплачивать ОСАГО, но, похоже, это пока лучший инструмент такого распределения рисков, при котором общие накладные расходы (авто)сообщества минимизируются.
Пусть каждый писатель/учёный создаёт новые знания, которые могут дать эффект обществу сейчас или спустя 200 лет. При этом платит в страховой общак некий взнос (возможно разный), дающий права на выплаты, скажем, при форс-мажоре. Сам общак наполняется не только взносами, но и отчислениями от экономического эффекта от изобретений или продаж произведений. Риски размазываются во времени.
Что-то в этом духе — к сожалению далёк от матана в области страхования.
Точно так же и олигархи обеспечивают своих детей-мажоров, не добившихся самостоятельно в этой жизни ничего, а всего-лишь родившихся «в нужном месте в нужное время».
Справедливо это или нет — боюсь рассуждать. Уже минус влепили.
Да, почему нет? Если люди того пожелают.
Но ведь пожелать можно и чтобы стали «Люди как боги».
Желания-то не будут исполняться мгновенно и необратимо (вследствие физических ограничений). Либо же всегда можно заложить требование исполнять желания постепенно — не быстрее скорости осознавания происходящего человеком.
Люди же не учитывают всё разнообразие последствий своих действий. Они ограничены в своём предвидении. ИИ, который будет сильнее человеческого, тоже будет ограничен, но уже менее.
В конце концов, как-то же люди описывают и закладывают «блага и ценности» в головы детей. Почему нельзя ИИ научить тому же? Культура минус инстинкты. У него не будет эгоизма, но будет дальновидность в принятии решений.
Так а в чём риск ИИ? Риск для кого? Для биологической жизни? Если в этой итерации вселенной ИИ уничтожит людей, то лишь в попытке экспансии (в пространстве и времени) жизни.
Либо люди закладывают в ИИ стремление к жизни, либо нет. В первом случае есть вероятность, что ИИ уничтожит биологические формы жизни, но сама жизнь (уже небиологическая) продолжится. Во втором случае жизнь закончится с закатом биологической жизни. Но в первом случае ИИ может и сосуществовать — подобно тому как мы, потомки бактерий сосуществуем с низшими.
Интеллект — это изобретение природы. И вот на последнем шаге человечество изобрело ИИ. Как более эффективный способ познания мира, ибо десять миллиардов «лысых обезъян» уже не могут экспансироваться дальше — сто миллиардов Земля не прокормит, а покинуть Солнечную систему мешают ограничения биологического характера. Вот и появился ИИ как продолжение Жизни. Пусть не биологической.
Насчёт «благоразумия» — это лишь вопрос моделирования последствий. У людей есть критерии, по которым они сверяют свои действия — моделируют в мозге последствия тех или иных действий. ИИ будет просто отодвигать горизонт моделирования дальше — эдакий усилитель мозга, гораздо эффективнее предсказывающий будущее и выбирающий более оптимальные действия в достижении цели. А критерии для оптимизации будут так же заложены (человеком) в ИИ, как они заложены у нас в мозге. Ну т.е. если заложить в «сильный ИИ» такие же понятия «блага», какие в нашем обществе, а «разума» у него будет больше, то и «благо-разумия» автоматически у него получится больше, чем у любого человека.