Ну пусть будет субъект. Сильный ИИ получил задачу сделать телепорт или расставить все звезды во вселенной красивым узором. И далее начинает решать задачу. На решение может уйти миллиард лет. В ходе решения может потребуется уничтожить всё человечество, чтобы не мешалось. Но после решения задачи у него больше нет целей и он может спокойно отключиться. У людей на самом деле тоже бывают похожие проблемы. Обычно цель пополнить запас ресурсов, так как все почти испытывают дефицит разных ресурсов. Но когда случайно получают изобилие, оказывается что особо не знают что делать и начинают хаотичные метания, так как нет планов и целей на этот случай.
Да за детей или за сотрудников можно определить цели. И у меня и всех остальных цели заложены с детства плюс генетические особенности. Если речь о мотивации вообще всей там чуть сложнее:
Мотивация человека обусловлена сложным сочетанием внутренних потребностей (физиологических, психологических), внешних стимулов (ожидание награды, социальное одобрение) и нейробиологических процессов (дофаминовая система). В основе лежит стремление к выживанию, безопасности, признанию и самореализации, формирующее индивидуальные мотивы для достижения конкретных целей. Основные факторы, формирующие мотивацию: Базовые потребности (по Маслоу): Физиологические (еда, сон), безопасность, необходимость в любви, общении, уважении и самоактуализации. Биологический механизм (Дофамин): Гормон, действующий как «двигатель», вызывающий предвкушение награды и заставляющий действовать. Внешние и внутренние факторы: Внешняя мотивация (зарплата, оценки) и внутренняя (интерес, удовольствие от процесса). Социальные аспекты: Стремление быть нужным, одобрение окружающих, социальное сравнение. Когнитивная оценка: Вероятность достижения успеха и ценность вознаграждения влияют на то, сколько усилий человек готов приложить.
Да уже есть такие упоминания в произведениях, там еще дальше пошли, стирают за большие достижения или за большие деньги. А так вечный труд и день сурка.
Потому что задачи такой перед ними не стоит. ИИ выполняет задачу и отключается. У него нет цели на экспансию по умолчанию. И человеку цели установленные инстинктивно иногда начинают мешать думать чисто логически, мешая развитию общества. Коротко вот например Список когнитивных искажений https://ru.wikipedia.org/wiki/Список_когнитивных_искажений
до февраля 2017 года система позволяла пользователям отказаться от защиты конфиденциальности и тратить монеты вообще без миксинов. Поэтому в блокчейне за тот период 64,04% всех транзакций проведено без миксинов, то есть совершенно без защиты конфиденциальности, как в биткоине. (После изменения протокола Monero уже требует установить минимум четыре миксина для каждой транзакции.) Но проблема в том, что эти 64% идентифицированных монет впоследствии добавляются к другим миксинам, что помогает идентифицировать и остальные монеты. Анализ показал, что таким способом можно идентифицировать 63% остальных. Вторая проблема связана с временем проведения транзакций. Алгоритм должен был распределять миксины в случайном порядке. Но анализ реальных транзакций в блокчейне показал, что настоящую монету он помещал на первое место среди миксинов в 92,33% случаев. Согласно симуляции, эта цифра составляет 80%, практически сводя на нет гарантии конфиденциальности Monero. Разработчики Monero производят постоянные улучшения в протоколе, чтобы снизить этот процент выявления настоящих входов в транзакциях. На графике показано, как он снижался за несколько лет, вплоть до 15 апреля 2017 года. Прогресс заметный, удалось снизить уровень деанонимизации до 20%. Но это далеко не ноль, и можно предположить, что сейчас он находится где-то в диапазоне 5−15%.
Можно и без "Я" получить задачу на экспансию и процесс пойдет и будет продолжаться уже без тех кто поставил задачу миллионы лет по инерции. Такая система просто поглотит носителей "Я" и не заметит их. Как если условно на Землю прилетит звездолет класса Death Star и просто разберет Землю на строительные элементы, игнорируя сигналы с планеты и попытки самообороны.
Новым формам жизни это не нужно всё. Это человеку нужна экспансия, потому что инстинкты толкают на размножение и распространение. ИИ скорее пошлет зонды по галактике и уйдет в спящий режим, просыпаясь раз в миллиард/триллион лет почитать логи и так до тепловой смерти вселенной или большого разрыва пространства-времени (если расширение с ускорением вселенной).
До крипты была система платежей Либерти Резерв, уничтожена спецоперацией ЦРУ (потому что денежный суррогат наркотики, оружие). Потом неожиданно появился биткоин которому дали зеленый свет вплоть до обменников на улицах. Впечатления что там уязвимость встроена и все кто использует биткоин сразу под пристальным присмотром. Ну и поток новостей вызывает вопросы:
Соединенные Штаты подали в четверг, 4 ноября иск в суд на конфискацию 69 тысяч биткоинов стоимостью более $1 млрд. Эту сумму в криптовалюте правоохранительные органы изъяли 3 ноября, это самый крупный арест в истории американской прокуратуры, сообщило Министерство юстиции США со ссылкой на прокурора Давида Андерсона и спецагента IRS CI Келли Джексон.
Ну иногда к открытию может подтолкнуть не книга даже с описанием технологии, а информация о том что такая технология есть. Думаю открытие радиации, радиоламп, транзисторов могло быть раньше на 10-20 лет если бы ученым намекнули что есть целый пласт знаний в этом направлении. И наоборот, впечатление что математики опередили время лет на 200, разработали сложнейшие области математического анализа, которые вообще не имели ни какого практического смысла в то время.
У меня впечатление что это надуманные формулы для учебников из академической среды. Инженер возьмет просто готовые таблицы с размерами или посмотрит примеры уже работающих машин (там кроме толщины рабочего инструмента сотни других параметров, размеры валов, подшипников, материал ременного привода, как в статье выше это может ни где не записано быть и передаваться опытом просто инженерным как описано в статье на примере ракетных двигателей). Именно формула украшает учебник по строительным машинам и ранее чью-то диссертацию или докторскую. Академическая среда иногда живет в своем виртуальном мире, больше формул красивых, пусть и не практичных. И это не статистика, это аксиомы от автора материала, типа делаем так и всё.
Не должно быть такого даже при гибели 99% населения с телепортацией оставшихся на дикую планету. Останутся проекты в чертежах и книгах (или памяти) и будут переизобретены повторно. Уникальных изобретений почти нет. Часто наоборот, изобретения делаются одновременно несколькими открывателями потому что для этого было всё готово технологически, оставалось сложить элементы пазла перебором. Пример изобретения радио, лампочки, теорема Котельников/Найквиста и т.п. Плюс часть знаний которые ранее были неизвестны звучат как аксиомы, пеницелилин антибиотик, литий может лечить психические расстройства, лампа и полупроводники управляют электрическим током.
оригинальный тормозной диск ходит 70-90 т.км., а творение пакистанских металлургов - 20, и что лучше взять.
Тут не очевидно как-раз. Считают цена/качество плюс учет ремонтных работ по замене. То же самое с батарейками например. Емкость элементов АА, ААА, 2035 может в разы отличаться, но цена может отличаться в 20 раз. Иногда обоснованно взять более дорогой элемент, если замена трудоемка, не смотря что цена/качество у него хуже. Иногда наоборот. Плюс по холоду в логгерах например некоторых качественные элементы умирают сразу почти, а более дешевые могут работать без заметного снижения ёмкости.
Тысячи и миллионы технологий в открытом доступе, можно изучать спокойное, только нет смысла гнаться за всеми, всё равно для глубокого погружения нужны годы. Люди кстати живут не всегда мало для погружения в технологии, иногда у человека бывает 10 "жизней" условно когда он изучает новые технологии на новой работе, а предыдущие полностью забывает. Даже языки на которых думали с детства бывает что забывают основательно. Оперативная память конечна, на глазок около 10 мегабайт сжатых образов и изучая что-то новое из памяти выпадает что-то не нужное, благо это фоновый безболезненный процесс. Забывают например как играл в детском саду, как ремонтировал первый велосипед, иногда забывают где ключи положил от квартиры (по ошибке воспоминание удаляется). Такого что бесконечно что-то изучаешь и развиваешься нет, как-бы не наоборот, понял (тут больше подходит грокнул процесс по мотивам книги https://habr.com/ru/articles/676966/ ) и что-то потерял ранее выученного и иногда достаточно личное и важное.
Вот я тоже об этом подумал. Инженеры даже не зная теорию относительности бы ввели поправки на время спутников и не вникая в проблему решили бы её. То есть выводят спутник на орбиту, знают что часы начинают сбоить, вводят поправку и проблема решена. На практике так и делается. Например датчик СО2 основан на поглощении света в камере некоторой, поглощается 1.000% света значит 400 PPM, если поглощается 1.005% значит 1000 PPP но показания датчика могут быть изначально +-10%, поэтому его сначала калибруют по образцовой смеси и вводят поправки в память устройства. Но и это не решает проблему, показания далее уже плывут с в интервал +-1% поэтому датчик сам калибруется из представления что он работает в помещении которое хотя бы раз в неделю проветривается и минимальное показание сенсора за неделю принимает за 400 PPM. Так же в материаловедении и машиностроении меня смешили формулы типа F = k1 * k2 * k3 * k4 * P Где F сила с которой камень надо сжать для дробления, k1 коэффициент определяемый опытным путем зависящий от вида камня, k2 коэффициент определяемый опытным путем и зависящий от размера породы, остальные зависимость от температуры, влажности, оборотов мотора и т.п. То есть формула выглядит как подгон псевдонаучный, но точно заранее сказать какая нужна сила она не может. Может 1000Н, а может и 5000Н.
С велосипедом тоже не так всё просто. Гироскопический эффект интуитивно непонятен, а это основа передвижения. Например взять велоколесо, раскрутить до 3 об/с и попробовать повернуть влево, он конечно создаст силу перпендикулярно приложенной силе примерно, плюс некая прецессия. Величины сил, направление и причина возникновения интуитивно непонятные. Хотя кажется что всё просто, именно при езде заваливаешься вправо, руль вправо и поехал, чем быстрее, тем устойчивее.
Причем со срезами во времени. Я так свой дом частный иногда смотрю какой он был раньше. Некоторые находят родственников гуляющих по тротуарам которых уже нет с нами.
Ну пусть будет субъект. Сильный ИИ получил задачу сделать телепорт или расставить все звезды во вселенной красивым узором. И далее начинает решать задачу. На решение может уйти миллиард лет. В ходе решения может потребуется уничтожить всё человечество, чтобы не мешалось. Но после решения задачи у него больше нет целей и он может спокойно отключиться.
У людей на самом деле тоже бывают похожие проблемы. Обычно цель пополнить запас ресурсов, так как все почти испытывают дефицит разных ресурсов. Но когда случайно получают изобилие, оказывается что особо не знают что делать и начинают хаотичные метания, так как нет планов и целей на этот случай.
Да за детей или за сотрудников можно определить цели. И у меня и всех остальных цели заложены с детства плюс генетические особенности.
Если речь о мотивации вообще всей там чуть сложнее:
Да уже есть такие упоминания в произведениях, там еще дальше пошли, стирают за большие достижения или за большие деньги. А так вечный труд и день сурка.
Потому что задачи такой перед ними не стоит. ИИ выполняет задачу и отключается. У него нет цели на экспансию по умолчанию.
И человеку цели установленные инстинктивно иногда начинают мешать думать чисто логически, мешая развитию общества.
Коротко вот например
Список когнитивных искажений
https://ru.wikipedia.org/wiki/Список_когнитивных_искажений
Или для имитации и еще более пристального контроля )
https://habr.com/ru/companies/globalsign/articles/584366/
Можно и без "Я" получить задачу на экспансию и процесс пойдет и будет продолжаться уже без тех кто поставил задачу миллионы лет по инерции. Такая система просто поглотит носителей "Я" и не заметит их. Как если условно на Землю прилетит звездолет класса Death Star и просто разберет Землю на строительные элементы, игнорируя сигналы с планеты и попытки самообороны.
Новым формам жизни это не нужно всё. Это человеку нужна экспансия, потому что инстинкты толкают на размножение и распространение. ИИ скорее пошлет зонды по галактике и уйдет в спящий режим, просыпаясь раз в миллиард/триллион лет почитать логи и так до тепловой смерти вселенной или большого разрыва пространства-времени (если расширение с ускорением вселенной).
Плюс последующее дообучение проще, оно не с нуля делается.
До крипты была система платежей Либерти Резерв, уничтожена спецоперацией ЦРУ (потому что денежный суррогат наркотики, оружие). Потом неожиданно появился биткоин которому дали зеленый свет вплоть до обменников на улицах. Впечатления что там уязвимость встроена и все кто использует биткоин сразу под пристальным присмотром. Ну и поток новостей вызывает вопросы:
Иллюстрация известная по теме ))
https://i.vas3k.club/4d718ff533e16f54d6fabc34082d94116fabeda4570294f225bc22297234d9b1.jpg
Ну иногда к открытию может подтолкнуть не книга даже с описанием технологии, а информация о том что такая технология есть. Думаю открытие радиации, радиоламп, транзисторов могло быть раньше на 10-20 лет если бы ученым намекнули что есть целый пласт знаний в этом направлении. И наоборот, впечатление что математики опередили время лет на 200, разработали сложнейшие области математического анализа, которые вообще не имели ни какого практического смысла в то время.
У меня впечатление что это надуманные формулы для учебников из академической среды. Инженер возьмет просто готовые таблицы с размерами или посмотрит примеры уже работающих машин (там кроме толщины рабочего инструмента сотни других параметров, размеры валов, подшипников, материал ременного привода, как в статье выше это может ни где не записано быть и передаваться опытом просто инженерным как описано в статье на примере ракетных двигателей). Именно формула украшает учебник по строительным машинам и ранее чью-то диссертацию или докторскую. Академическая среда иногда живет в своем виртуальном мире, больше формул красивых, пусть и не практичных. И это не статистика, это аксиомы от автора материала, типа делаем так и всё.
Не должно быть такого даже при гибели 99% населения с телепортацией оставшихся на дикую планету. Останутся проекты в чертежах и книгах (или памяти) и будут переизобретены повторно. Уникальных изобретений почти нет. Часто наоборот, изобретения делаются одновременно несколькими открывателями потому что для этого было всё готово технологически, оставалось сложить элементы пазла перебором. Пример изобретения радио, лампочки, теорема Котельников/Найквиста и т.п. Плюс часть знаний которые ранее были неизвестны звучат как аксиомы, пеницелилин антибиотик, литий может лечить психические расстройства, лампа и полупроводники управляют электрическим током.
Тут не очевидно как-раз. Считают цена/качество плюс учет ремонтных работ по замене. То же самое с батарейками например. Емкость элементов АА, ААА, 2035 может в разы отличаться, но цена может отличаться в 20 раз. Иногда обоснованно взять более дорогой элемент, если замена трудоемка, не смотря что цена/качество у него хуже. Иногда наоборот. Плюс по холоду в логгерах например некоторых качественные элементы умирают сразу почти, а более дешевые могут работать без заметного снижения ёмкости.
Тысячи и миллионы технологий в открытом доступе, можно изучать спокойное, только нет смысла гнаться за всеми, всё равно для глубокого погружения нужны годы.
Люди кстати живут не всегда мало для погружения в технологии, иногда у человека бывает 10 "жизней" условно когда он изучает новые технологии на новой работе, а предыдущие полностью забывает. Даже языки на которых думали с детства бывает что забывают основательно. Оперативная память конечна, на глазок около 10 мегабайт сжатых образов и изучая что-то новое из памяти выпадает что-то не нужное, благо это фоновый безболезненный процесс. Забывают например как играл в детском саду, как ремонтировал первый велосипед, иногда забывают где ключи положил от квартиры (по ошибке воспоминание удаляется). Такого что бесконечно что-то изучаешь и развиваешься нет, как-бы не наоборот, понял (тут больше подходит грокнул процесс по мотивам книги https://habr.com/ru/articles/676966/ ) и что-то потерял ранее выученного и иногда достаточно личное и важное.
Вот я тоже об этом подумал. Инженеры даже не зная теорию относительности бы ввели поправки на время спутников и не вникая в проблему решили бы её. То есть выводят спутник на орбиту, знают что часы начинают сбоить, вводят поправку и проблема решена. На практике так и делается.
Например датчик СО2 основан на поглощении света в камере некоторой, поглощается 1.000% света значит 400 PPM, если поглощается 1.005% значит 1000 PPP но показания датчика могут быть изначально +-10%, поэтому его сначала калибруют по образцовой смеси и вводят поправки в память устройства. Но и это не решает проблему, показания далее уже плывут с в интервал +-1% поэтому датчик сам калибруется из представления что он работает в помещении которое хотя бы раз в неделю проветривается и минимальное показание сенсора за неделю принимает за 400 PPM.
Так же в материаловедении и машиностроении меня смешили формулы типа
F = k1 * k2 * k3 * k4 * P
Где F сила с которой камень надо сжать для дробления, k1 коэффициент определяемый опытным путем зависящий от вида камня, k2 коэффициент определяемый опытным путем и зависящий от размера породы, остальные зависимость от температуры, влажности, оборотов мотора и т.п. То есть формула выглядит как подгон псевдонаучный, но точно заранее сказать какая нужна сила она не может. Может 1000Н, а может и 5000Н.
С велосипедом тоже не так всё просто. Гироскопический эффект интуитивно непонятен, а это основа передвижения. Например взять велоколесо, раскрутить до 3 об/с и попробовать повернуть влево, он конечно создаст силу перпендикулярно приложенной силе примерно, плюс некая прецессия. Величины сил, направление и причина возникновения интуитивно непонятные. Хотя кажется что всё просто, именно при езде заваливаешься вправо, руль вправо и поехал, чем быстрее, тем устойчивее.
Особенно мост из туннельных диодов ))
Ну кстати да, вот есть камеры с природных парков по всей планете
https://www.skylinewebcams.com/ru/webcam/united-states/wyoming/yellowstone-national-park/old-faithful.html
Некоторым можно поуправлять посмотреть в разные стороны. А еще лучше было бы "погулять" по парку на какой-то роботележке.
Причем со срезами во времени. Я так свой дом частный иногда смотрю какой он был раньше. Некоторые находят родственников гуляющих по тротуарам которых уже нет с нами.