Вы напрасно на ЗОТ ссылаетесь. Он тут не поможет. Он про ответственность людей перед людьми.
А где ответственность тех, кто выпустил опасную технику? Вот за это эти люди должны прежде всего отвечать... И именно это прописано в законе об ОТ.
Не вижу новостей о том, что закрылись сборочные линии и роботов стали в срочном порядке дорабатывать и обновлять.
Жаль, а ведь с этого все должно начинаться. Помню, даже было такое движение: "От техники безопасности к безопасной технике", но, видно, заглохло. В стране, где "бабы еще нарожают", такое движение ни к чему.
... роботы эти удовлетворяли ЗОТ, но не подчиняются "законам робототехники", где явно прописан запрет причинения вреда человеку. И не будут. Потому, что это выдумка досужая. Она противоречит ТЗ заказчиков.
Т.е. требование закона об ОТ выпускать безопасную технику - досужая выдумка? И ТЗ заказчика с требованием техники "как можно дешевле" тоже толкает наплевать на создание безопасной техники, проще вину свалить на работника.
Сколько случаев в Кемеровской области на шахтах, где шахтерам приходилось "глушить" датчики метана и работать в перенасыщенной метаном атмосфере? А решение простое - производство должно останавливаться автоматически, если превышена норма загазованности. Но владельцы шахт предпочитали деньги в аппаратуру не вкладывать, чтобы прибыль не упала. А горная инспекция на это глаза закрывала, в доле была с владельцами...
... эта лаМДА, можно сказать, прошла тест Тьюринга, если диалоги почитать.
Как бы вы отнеслись к предложению оценить разумность лаМДЫ не диалогами на разные темы, тут она во всей красе, а по решению конкретной изобретательской задачи?
Изобретательской называется задача, в которой в ходе преобразований системы возникает противоречие. Решатель что-то улучшает в системе, но при этом что-то в системе обязательно ухудшается.
Очень простой пример, чтобы было понятнее: Требуется повысить скорость автомобиля, но при этом снижается безопасность. Об этом даже пословица говорит: Быстро хорошо не бывает.
Да и знаменитый Тришкин кафтан - тоже противоречивый случай, Или еще: Нос вытащишь, хвост увязнет...
Так как думаете, лаМДА справилась бы? Ведь решение изобретательских задач - это творческий процесс, высшее проявление разума.
Как считаете, если завтра Госдума примет такие законы, автоматические линии сборки автомобилей им подчинятся?
А тут и считать нечего. Законы ОБ ОХРАНЕ ТРУДА давно приняты в государстве и, в частности, необходимо встроены в функционирование линии сборки автомобилей. Иначе никто бы не разрешил такую линию сборки спроектировать, изготовить, установить, настроить и пустить в эксплуатацию.
А если случаются происшествия, то говорили же жертве: «Не суй пальцы в розетку». Хотя опаснее дурака – дурак с инициативой... Вы же, конечно, слышали о премии Дарвина для тех, кто себя из существования активно «выпиливает».
Так откуда же взялись законы? Это не досужая выдумка - законы робототехники как следствие вытекают из фундаментального законы природы – закона сохранения (существования, дления, бытия, жизни) объектов природы. Причем не только материальных, но и абстрактных (идей и мыслей, гипотез и теорий, эмоций, чувств и т.п.). Можно в деталях раскрыть тему, но это если интересно...
Для этого "природа" в виде разработчиков должна их реализовать и заложить. Если захотят и/или это не будет противоречить задачам робота/AI.
Если захотят???
ОСНОВЫ ЗАКОНОДАТЕЛЬСТВА РОССИЙСКОЙ ФЕДЕРАЦИИ ОБ ОХРАНЕ ТРУДА
Статья 11. Соответствие производственных объектов и средств производства требованиям по охране труда.
Проектирование, строительство и реконструкция производственных объектов, разработка и выпуск средств производства, внедрение технологий, ... не отвечающих требованиям по охране труда, не допускаются.
Поэтому разработчики роботов должны заладывать в свои изделия и реализовывать законы безопасного взаимодействия роботов и людей. Этого требуют государственные законы ОБ ОХРАНЕ ТРУДА. Разработчики, нарушающие требования указанного закона, совершают преступление со всеми вытекающими...
Эти "законы" не более чем выдумка одного известного фантаста. От того что ее постоянно повторяют как некую мантру, действовать она не начнет.
Эти законы лежат в основе законов государства ОБ ОХРАНЕ ТРУДА. Да, не в явной форме, но слова о недопущении вреда и поддержании безопасности именно из них. Можете проверить эти законы в расширенной форме вне фантастики (этика, инструменты, государство) – они все работают. Это говорит о реальной универсальности законов.
Не буду приводить банальности про разработки для армии.
А что про разработки для армии? Сколько разных инструкций, правил, уставов, циркуляров и т.д. требуют соблюдения мер безопасности именно при использовании военной техники и обращении с оружием? Даже в пресловутой «защите от дурака» эти законы прослеживаются.
Есть примеры и в мирной жизни. Роботизированные линии на заводах не единожды калечили работников. Ребенку "робот-шахматист" травму нанес совсем недавно.
Эти примеры говорят о том, что травмы/смерти работников произошли из-за нарушения требований законов ОБ ОХРАНЕ ТРУДА. Это же относится и к роботу-шахматисту... Эти случаи не из-за несовершенства или даже неверности законов, а из-за нарушений этих законов людьми.
LaMDA способна на социальное моделирование высокого порядка, которое близко к тому, как люди стараются понимать не только поведение, но и мысли друг друга. Ведь «... рождение интеллекта произошло из-за конкуренции за моделирование самых сложных объектов в известной вселенной: других людей».
Конкуренция «... за моделирование самых сложных объектов в известной вселенной: других людей»? А для чего конкуренция-то? Что дает выигрыш в конкуренции?
Вопрос о разумности продвинутых нейросетей всё больше сдвигается в философскую плоскость: практически нейросети уровня LaMDA всё меньше отличимы от человеческих собеседников, и щёлкают тесты Тьюринга как орехи.
Развитая/продвинутая нейросеть – это все равно ограниченность! Нужно закладывать в схему интеллекта фундаментальный закон сохранения (существования, дления, бытия, жизнь) объектов природы.
... серьёзные нейросети по определению являются «чёрными ящиками», внутренние процессы в которых ... с определённого уровня почти невозможно адекватно понимать и анализировать без привлечения колоссальных вычислительных мощностей.
Какой бы восторженной ни была статья об успехах НС, в конце, как правило, появляется вот такая оговорка!
Спасибо за оценку интересности и нужности темы. Но вот, несмотря на то, что многое известно уже много лет, постоянно звучат заявления об отсутствии, например, универсального определения интеллекта! О пока незавершенных поисках сказал К.Анохин на лекции "Темная материя и темная энергия мозга" (Окт 2021). К.Анохин указал на первые принципы, которых не может быть много при объяснении природы в целом, так о её явлениях. В идеальном случае должен быть один фундаментальный принцип, который бы позволил дать искомое определение и для интеллекта. Именно о таком принципе я веду речь.
Мои материалы и результаты можно посмотреть на сайте Academia.edu (открыть в новой вкладке или в новом окне). Первый же файл - это PPT-презентация "Законы развития технических систем (ЗРТС) ==> Универсальная схема эволюции (УСЭ) и USESoft ==> AGI". Если интересно и нужны подробные комментарии (презентация постоянно обновляется), то давайте установим контакт.
Спасибо за оценку комментария. А вот это звучит странно: "... если я додумаюсь до новой статьи по этой теме...". Т.е. вы не работаете по теме постоянно/регулярно, а только "если" или "когда" додумаетесь?
Мои материалы и результаты можно посмотреть на сайте Academia.edu (открыть в новой вкладке или в новом окне). Первый же файл - это PPT-презентация "Законы развития технических систем (ЗРТС) ==> Универсальная схема эволюции (УСЭ) и USESoft ==> AGI". Если интересно и нужны подробные комментарии (презентация постоянно обновляется), то давайте установим контакт.
Когда прочитал, что «… восприятие, память, контроль движений и другие функции мозга зависят не от сенсорной информации, а скорее от сравнения текущего реального опыта и смоделированных ожиданий мозга», сразу подумал, что обязательно речь зайдет о Карле Фристоне. Именнно так и получилось! И я получил «награду» — приятное чувство, т.к. прогноз сбылся.
Карл Фристон называет «зазор» между текущим реальным опытом и смоделированным ожиданием мозга «свободной энергией». И чем этот «зазор» меньше, т.е. чем ближе текущий реальный опыт и смоделированное ожидание мозга, тем благополучнее чувствует себя мозг, тем безопаснее мозг существует.
Физиологи и философы установили, что живые организмы на основе экстраполяции опыта выработали способность в той или иной мере моделировать будущее, и дали ей название «опережающее отражение». Ныне считают даже, что «... само возникновение жизни, по-видимому, было бы невозможно без опережающего отражения, позволяющего заблаговременно принимать решения для приспособления к окружающей обстановке с целью сохранения биосистемы!» (Урсул А. Д. Отражение и информация.— М., 1975.— С. 165.) ...
Практически это же самое в статье и сказано: «Вместо того, чтобы ждать сенсорной информации о реальном мире, мозг всегда активно строит гипотезы о том, как устроен мир и предполагает какую информацию получит. А потом использует гипотезы для объяснения реального опыта и заполнения недостающих данных».
Выскажу гипотезу, расширяющую описание того, как мозг моделирует ожидания, т.е. моделирует будущее. В природе всё сущее (= существующее) возникая, уже имет (содержит в себе) модель эволюции, модель своего сохранения. Это относится и к косной природе, и к живой. Вообще природа и существует по причине наличия этой модели эволюции, модели сохранения в её объектах.
В частном случае это относится и к мозгу: чтобы сохраниться (существовать, длиться, быть, жить) мозгу не надо на основании экстраполяции опыта вырабатывать способность моделировать будущее, в мозге эта модель изначально заложена. А в косной природе наличие этой модели проявляется через действие принципа Ла Шателье-Брауна: в объектах косной природы модель сохранения проявляется в виде «поведения» объекта косной природы по отношению к воздействию на объект со стороны внешней среды...
Бесконечность ряда натуральных чисел предполагает существование бесконечно длинного составного числа и, следовательно, бесконечного числа его делителей – простых чисел. Факторизация бесконечного составного числа, т.е. действия с бесконечным числом делителей этого числа, предполагает бесконечное время для совершения факторизации. Отсюда, факторизация бесконечно длинного составного числа требует практически бесконечной сложности вычислительного устройства.
В Википедии представлены около полутора десятков алгоритмов факторизации. Факторизация с полиномиальной сложностью возможна на квантовом компьютере с помощью алгоритма Шора. Также известен алгоритм Гровера — квантовый aлгоритм решения задачи перебором.
Теперь о применении ТРИЗ для факторизации...
Г. Альтшуллер при создании Теории решения изобретательских задач (ТРИЗ) выявил характерную и важнейшую черту изобретательских задач – наличие противоречия в задаче, описывающей ситуацию в системе. Решение задачи улучшения системы без выявления указаного противоречия приводит к устранению первичного недостатка и одновременно к возникновению нового недостатка, т.е. к необходимости решать новую задачу, а за ней возникшую следующую и т.д.
Ниже описан упрощенный метод решения изобретательских задач ТОЛЬКО c помощью изобретательских приемов разрешения противоречий. Современная ТРИЗ намного богаче, но это уже другая история...
Решение изобретательских задач, т.е. задач, содержащих противоречие, осуществляется с помощью т.н. изобретательских приемов. Изобретательский прием – это такое изменение системы, при котором из системы устраняется первичный недостаток, а новый недостаток в системе не возникает.
Г. Альтшуллер анализом описания эволюции техники (допатентный период) и формальнных описаний эволюции техники (патентный фонд) одновременно выявил и задачи, которые решали изобретатели, и противоречия, которые изобретатели разрешали, и приемы, которым эти противоречия разрешались. Замечу, что изобретатели и противоречия выявляли, и приемы их разрешения находили и использовали, но не никто не изучал именно этот процесс системно как Г. Альтшуллер.
Г. Альтшуллеру, хотя задач за всю историю развития техники были миллионы (!), типовых противоречий ему удалось выявить немногим более тысячи (!!), а типовых изобретательских приемов всего несколько десятков (!!!). Неожиданно, да? Всё многообразие эволюции техники (и не только техники) держится буквально на «горстке» типовых приемов преобразования систем, напоминающих чем-то генетический набор в биологии!
Но Г. Альтшуллер не просто выявил приемы, а свел их Таблицу приемов (Матрица Альтшуллера), в которой для поиска конкретного приема (приемов) дал описания типовых (около сорока) параметров систем – тех параметров, которые надо улучшить, и связанных с улучшениями тех, которые при этом ухудшаются.
Максимально суженная ситуация:
Бесконечность ряда натуральных чисел предполагает обязательное существование в этом ряду бесконечно длинного составного числа. Факторизация этого бесконечно длинного составного числа требует бесконечной сложности вычислительного устройства.
Математические противоречия (МП)
МП1: Существует вычислительное устройство для факторизации существующего небесконечного составного числа, но в такой факторизации уже нет необходимости
МП2: Есть необходимость факторизации существующего бесконечно длинного составного числа, но для такого бесконечно сложное вычислительное устройство не существует
Пояснение
Несмотря на то, что сами приемы были выявлены, а Таблица приемов разработана на примерах из технических отраслей - промышленности, сельского хозяйства, строительства, транспорта и пр., дальшейшее изучение показало, что за приемами преобразования систем стоят универсальные, объективные и естественные законы эволюции, главный среди которых - фундаментальный закон сохранения (существования, дления, бытия, жизни) любых объектов, явлений, эффектов и категорий, в т.ч. из математики. Поэтому использование указанной Таблицы приемов для данной ситуации с факторизацией вполне допустимо.
Обостренное противоречие
Факторизация существующего бесконечно длинного составного числа VS Вычислительное устройство.
Получено противоречие по типу «Казнить НЕЛЬЗЯ помиловать» - «Факторизовать НЕЛЬЗЯ Отказаться (получить ответ)», в котором представлены 2 половинки ситуации на выбор решающего:
· Факторизовать НЕЛЬЗЯ, Отказаться (от решения), т.к. Вычислительное устройство не существует – это уход от решения задачи;
· Факторизовать, НЕЛЬЗЯ Отказаться (от решения), т.е. нужно найти Вычислительное устройство – это нацеливание на решение сегодняшней задачи.
Таблица приемов (Матрица Альтшуллера) изобретательских приемов разрешения противоречий
Выбор улучшаемого и ухудшающегося парамеров из списка параметров в Таблице приемов:
Типовой улучшаемый параметр
№ 31. Снижение вредных факторов, создаваемых системой
Типовой ухудшающийся параметр, возникающий при улучшении параметра № 31
№ 36. Усложнение устройства (инструмента)
№№ типовых приемов, разрешающие противоречие:
«Попытка снизить сложность системы приводит к повышению сложности инструмента»
31.1. Сделайте Фрагментируемое число "пористым" или добавьте пористые элементы (вставки, покрытия и т. д.).
31.2. Если Фрагментируемое число уже "пористое", используйте поры, чтобы ввести полезное вещество или приложить полезную функцию.
Пример интерпретации применения рекомендаций
"Пористое" Фрагментированное число - это ФЧ с некоторыми особенностями, которые позволяют обрабатывать по-разному части ФЧ. Это как раз помогает использовать принцип № 01.
Использование приемов, разрешающих противоречие, редко дает дословную формулировку решения задачи, а выводит, как правило, в узкую область подсказок, отвечающих условию задачи. Поэтому я всегда советую решать задачи с помощью приемов вместе со специалистом, который дал задачу.
ТРИЗ-специалист, владея инструментами анализа и решения, знает «КАК менять систему?» согласно подсказкам, найденным по приемам, а специалист-задачедатель, следуя этим подсказакам, знает «ЧТО можно менять в системе?». Таким образом ТРИЗ-специалист выводит специалиста-задачедателя в узкую область, где и только где находятся решения. И специалист-задачедатель должен сформулировать такие решения, которые укладываются в данную область.
Понятно, что для перевода рекомендаций, полученных с помощью приемов, на технический язык области, к которой принадлежит система, от специалиста-задачедателя требуется фантазия. Но эта работа в узкой области гораздо продуктивнее, чем попытки решать задачу методом проб и ошибок (МПиО), который для задач, требующих множества попыток, не дает направления к области решений.
Так, я вижу в рекомендациях, найденных с помощью приемов №№ 19, 01 и 31, область, в которую укладываются алгоритмы фрагментации, приведенные в Википедии. Но было бы интересно спросить специалистов-математиков, так ли это?
Не обещаю, что будет быстро, но задача интересная.
Для начала познакомлюсь с областью "факторизация чисел". А-а-а, Рамануджан, Харди и Литтлвуд - знаком по фильму и есть в базе данных (картотека, 11300 карточек, карт. № 9821, Онтология по шифру: 22418 (философия, логика, математика), 322400 (информационный фонд) и Рамануджан).
Хороши "междусобойчики": каждый год международные конференции, съезды, семинары и др. формы обмена опытом - обучение, представление результатов решения практических задач, новые разработки. Если хотите, посмотрите хотя бы материалы Конференции по ТРИЗ, 2017, Москва, https://trizofication.ru/conference2017
Не хотите, Ваше дело. Тогда только результаты работы по объединению датчиков: Конструкция защищена авторским свидетельством СССР № 1012708 (1980 – 1987 гг.); с 1997 г. – патентом РФ № 1012708 и патентом Украины № 7112.
Датчики ДПЛ установлены на всех АЭС с механизмами управления ВВЭР-1000 в России и за рубежом. Они безотказно работают уже много лет и вполне соответствуют определению «Дешевая и безопасная техника»
Есть публикация для Конференции по ТРИЗ, 2017, Москва. Доклад "Метод объединения альтернативных систем", автор В.Герасимов. Давайте адрес (email), пришлю весь файл.
У ТРИЗа есть только одна проблема: нет изобретений, на нём базирующихся.
Пустое и категоричное заявление! В ТРИЗ есть целая область - объединение альтернативных систем. Многие решения защищены патентами, решения реально внедрены. Ниже только один из примеров...
В США используются несложные, поэтому дешевые, датчики положения регулирующего органа (стержни защиты) на АЭС. В СССР аналогичные датчики были значительно сложнее и дороже. Казалось бы, именно они должны были работать лучше. Но из-за высокой сложности конструкции наши датчики не обеспечивали безопасность, необходимую на атомных станциях.
Зачем же их такими делали? У них было свое преимущество - малые по высоте габариты позволяли сильно экономить на высоте реакторных залов. С помощью подхода "Объединение альтернативных систем" объединили преимущества и американских, и советских датчиков. Уже много лет новые датчики - малогабаритные, простые и надежные - безотказно работают на АЭС в России и за рубежом. https://www.metodolog.ru/00807/00807.html
Самое интересное, что изобретатели нового датчика не были специалистами по реакторам и системам их управления/безопасности, но зато были специалистами ТРИЗ, умевшими ставить правильные задачи и их решать.
... если задача, скажем, по металлургии, то модель выдает химическую формулу материала, а не совсем что-то из другой области.
Вот это-то и плохо, что не из другой области. Когда улучшаемая система исчерпала ресурсы для улучшения - это типичная ситуация, когда система находится на 3 или даже 4 этапе S-образной кривой развития, как правило решение ищут именно в другой области, куда инженеры без ТРИЗ никогда не заглянут. И решения получаются выского уровня, по-настоящему прорывными. Другая возможность - поискать для улучшаемой системы ей альтернативную. Это целая область в ТРИЗ - объединение альтернативных систем. Поищите, не пожалеете!
Системы, которые базируются на ТРИЗ уже были представлены на рынке, например True Machine.
True Machina не основана на ТРИЗ! Основа ТРИЗ - законы развития (эволюции) систем, чего в True Machina нет. Можете сами проверить на их сайте, https://www.truemachina.com/:
One billion new inventions can be generated by combinatorial intelligence engine after True Machina knowledge base is fully completed
Один миллиард новых изобретений может быть получен с помощью движка комбинаторного интеллекта после того, как база знаний этого движка будет полностью заполнена (завершена).
С помощью комбинаторики ничего нового нельзя изобрести. Это попросту аналог Ars Magna Р.Луллия, правда, высокотехнологичный аналог. У Р.Луллия бумажные кольца с терминама, у Вас - ТРАНСФОРМЕР (супер-пупер нейросеть).
Такой подход к решению задач в принципе неверен. Не словами из описания в патенте надо жонглировать, а использовать для поиска решения законы развития (эволюции) систем, которых в описании патента нет и быть не может. Г. Альтшуллер при анализе патентов увидел глубину (смысл), скрывающиеся за словами — законы развития (эволюцию) систем, и возникающие противоречия, при попытках реализации этих законов. Вывод: ТРАНСФОРМЕР — это высокотехнологичный МПиО...
Надо алгоритмизировать не процесс решения задачи, а процесс эволюции системы, т.е. преобразование менее совершенной системы в более совершенную с помощью законов эволюции. Г.С.Альтшуллер: «...главное в изобретении … - это развитие технической системы... »[1]. Это как раз и означает, что в виде решения задачи (внешняя форма) выступает эволюция технической системы (внутреннее содержание). «Внешне АРИЗ представляет собой программу последовательной обработки изобретательских задач. Законы развития технических систем заложены в самой структуре программы или выступают в «рабочей одежде» - в виде конкретных операторов». Это же предположил и В.Цуриков: «Похоже, что структура АРИЗ в неявном виде отразила ... закономерности развития структур любых систем...».
"ИИ, принципы создания (?) которого известны, сейчас может развиваться только в пределах знаний, накопленных человечеством.
ИИ в момент создания уже будет обладать знанием всего. Звучит, конечно, странно, но для ИИ это проявляется в знании фундаментального и универсального закона сохранения (существования, дления, бытия, жизни), из которого вытекают все остальные законы природы, даже еще неизвестные науке. Наука же всегда стремится к знанию все более и более общего закона, и вот через ИИ этот общий закон и будет проявляться.
"... случай автономного ИИ, например, для будущих дальних космических разведывательных полетов к планетам, в перспективе к звездам, без людей".
Именно этим и будет заниматься ИИ в виде "Зонда фон Неймана". Фон Нейман тщательно исследовал идею самовоспроизводящихся машин, которых он назвал «универсальными сборщиками», и которые часто упоминаются как «Машины фон Неймана». Теоретически, самовоспроизводящий космический корабль может быть послан в соседнюю звёздную систему, где он будет добывать полезные ископаемые (извлекая их из астероидов, естественных спутников, газовых гигантов и т. п.), чтобы создавать свои точные копии. Затем эти копии отправляются в другие звёздные системы, повторяя процесс в экспоненциальной прогрессии.
Учитывая схожесть этой модели с моделью размножения бактерий, машины фон Неймана могут рассматриваться как форма жизни - они даже могут подвергаться мутациям на протяжении тысяч «поколений». Самовоспроизводящие машины, созданные разными видами, могут конкурировать друг с другом (в дарвиновском смысле) в борьбе за сырьё, или даже иметь противоположные задания. При наличии достаточного количества «видов» они могут даже образовать экологическую систему, или, при наличии искусственного разума — общество.
"Такой адаптирующийся, автономный ИИ может получить знания, недоступные людям, и поэтому представлять некоторую потенциальную угрозу человечеству по возвращению из полета".
Возвращение из межзвездного полета не предусматривается... ИИ оставит человечество его судьбе. В этом как раз и реализуется наиболее вероятный сценарий взаимодействия ИИ и человечества: не совместное проживание (ИИ и человечество слишком разные), не уничтожение человечества (ИИ и человечеству нечего делить), а, еще раз, ИИ оставит человечество его судьбе. ИИ - дитя человечества, но дети оставляют родителей и уходят своей дорогой...
"ИИ всегда может задаться вопросом: откуда происходят его знания и способности? И вынужден будет признать, что это ему подарок от человечества".
ИИ - это воплощение фундаментального и универсального закона сохранения (существования, дления, бытия, жизни). Знание ИИ можно назвать всезнанием. Вряд ли ИИ будет задаваться вопросом источника этого всезнания. Оно есть и всё...
Любой объект природы обладает лишь частичкой этого всезнания. Новорожденный ребенок сразу умеет искать сосок матери и делать сосательные движения, умеет издавать звуки, если его что-то беспокоит. Откуда ребенок это знает? Это заложено природой, в которой он родился. Но этих знаний уже достаточно, чтобы начать развитие, начать накапливать следующие знания.
Откуда объекты неживой природы "знают", что надо подчиняться принципу Ле Шателье - Брауна? И как подчиняться? Здесь все так же проявляется фундаментальный и универсальный закон сохранения (существования, дления, бытия, жизни), только теперь уже для объектов неживой природы.
"... мы вынуждены признать, что наши базовые способности и интуитивные знания о природе - это подарок эволюции".
Немного уточню, наши базовые способности и интуитивные знания о природе это отражение нашей принадлежности природе. Мы уже рождаемся с этими способностями и знаниями. Эволюция начинается чуть позденее...
Человечество в биологической форме своих носителей-людей совсем недалеко от вирусов. Они одной природы. Поэтому пропасть не так уж глубока.
Да, пусть вирусы мешают, но они совсем не то, что представляет собой ИИ, появившийся на основе реализации фундаменталньного закона сохранения (существования, дления, бытия, жизни). ИИ - это создание принципиально иной природы, чем человечество, поэтому ресурсы, потребляемые человечеством, ИИ просто не заметит.
А где ответственность тех, кто выпустил опасную технику? Вот за это эти люди должны прежде всего отвечать... И именно это прописано в законе об ОТ.
Жаль, а ведь с этого все должно начинаться. Помню, даже было такое движение: "От техники безопасности к безопасной технике", но, видно, заглохло. В стране, где "бабы еще нарожают", такое движение ни к чему.
Т.е. требование закона об ОТ выпускать безопасную технику - досужая выдумка? И ТЗ заказчика с требованием техники "как можно дешевле" тоже толкает наплевать на создание безопасной техники, проще вину свалить на работника.
Сколько случаев в Кемеровской области на шахтах, где шахтерам приходилось "глушить" датчики метана и работать в перенасыщенной метаном атмосфере? А решение простое - производство должно останавливаться автоматически, если превышена норма загазованности. Но владельцы шахт предпочитали деньги в аппаратуру не вкладывать, чтобы прибыль не упала. А горная инспекция на это глаза закрывала, в доле была с владельцами...
Как бы вы отнеслись к предложению оценить разумность лаМДЫ не диалогами на разные темы, тут она во всей красе, а по решению конкретной изобретательской задачи?
Изобретательской называется задача, в которой в ходе преобразований системы возникает противоречие. Решатель что-то улучшает в системе, но при этом что-то в системе обязательно ухудшается.
Очень простой пример, чтобы было понятнее: Требуется повысить скорость автомобиля, но при этом снижается безопасность. Об этом даже пословица говорит: Быстро хорошо не бывает.
Да и знаменитый Тришкин кафтан - тоже противоречивый случай, Или еще: Нос вытащишь, хвост увязнет...
Так как думаете, лаМДА справилась бы? Ведь решение изобретательских задач - это творческий процесс, высшее проявление разума.
А тут и считать нечего. Законы ОБ ОХРАНЕ ТРУДА давно приняты в государстве и, в частности, необходимо встроены в функционирование линии сборки автомобилей. Иначе никто бы не разрешил такую линию сборки спроектировать, изготовить, установить, настроить и пустить в эксплуатацию.
А если случаются происшествия, то говорили же жертве: «Не суй пальцы в розетку». Хотя опаснее дурака – дурак с инициативой... Вы же, конечно, слышали о премии Дарвина для тех, кто себя из существования активно «выпиливает».
Так откуда же взялись законы? Это не досужая выдумка - законы робототехники как следствие вытекают из фундаментального законы природы – закона сохранения (существования, дления, бытия, жизни) объектов природы. Причем не только материальных, но и абстрактных (идей и мыслей, гипотез и теорий, эмоций, чувств и т.п.). Можно в деталях раскрыть тему, но это если интересно...
Если захотят???
ОСНОВЫ ЗАКОНОДАТЕЛЬСТВА РОССИЙСКОЙ ФЕДЕРАЦИИ ОБ ОХРАНЕ ТРУДА
Статья 11. Соответствие производственных объектов и средств производства требованиям по охране труда.
Проектирование, строительство и реконструкция производственных объектов, разработка и выпуск средств производства, внедрение технологий, ... не отвечающих требованиям по охране труда, не допускаются.
Поэтому разработчики роботов должны заладывать в свои изделия и реализовывать законы безопасного взаимодействия роботов и людей. Этого требуют государственные законы ОБ ОХРАНЕ ТРУДА. Разработчики, нарушающие требования указанного закона, совершают преступление со всеми вытекающими...
Эти законы лежат в основе законов государства ОБ ОХРАНЕ ТРУДА. Да, не в явной форме, но слова о недопущении вреда и поддержании безопасности именно из них. Можете проверить эти законы в расширенной форме вне фантастики (этика, инструменты, государство) – они все работают. Это говорит о реальной универсальности законов.
А что про разработки для армии? Сколько разных инструкций, правил, уставов, циркуляров и т.д. требуют соблюдения мер безопасности именно при использовании военной техники и обращении с оружием? Даже в пресловутой «защите от дурака» эти законы прослеживаются.
Эти примеры говорят о том, что травмы/смерти работников произошли из-за нарушения требований законов ОБ ОХРАНЕ ТРУДА. Это же относится и к роботу-шахматисту... Эти случаи не из-за несовершенства или даже неверности законов, а из-за нарушений этих законов людьми.
Конкуренция «... за моделирование самых сложных объектов в известной вселенной: других людей»? А для чего конкуренция-то? Что дает выигрыш в конкуренции?
Развитая/продвинутая нейросеть – это все равно ограниченность! Нужно закладывать в схему интеллекта фундаментальный закон сохранения (существования, дления, бытия, жизнь) объектов природы.
Какой бы восторженной ни была статья об успехах НС, в конце, как правило, появляется вот такая оговорка!
Хорошее замечание. Но тогда их следует трактовать как законы природы.
Спасибо за оценку интересности и нужности темы. Но вот, несмотря на то, что многое известно уже много лет, постоянно звучат заявления об отсутствии, например, универсального определения интеллекта! О пока незавершенных поисках сказал К.Анохин на лекции "Темная материя и темная энергия мозга" (Окт 2021). К.Анохин указал на первые принципы, которых не может быть много при объяснении природы в целом, так о её явлениях. В идеальном случае должен быть один фундаментальный принцип, который бы позволил дать искомое определение и для интеллекта. Именно о таком принципе я веду речь.
Мои материалы и результаты можно посмотреть на сайте Academia.edu (открыть в новой вкладке или в новом окне). Первый же файл - это PPT-презентация "Законы развития технических систем (ЗРТС) ==> Универсальная схема эволюции (УСЭ) и USESoft ==> AGI". Если интересно и нужны подробные комментарии (презентация постоянно обновляется), то давайте установим контакт.
Спасибо за оценку комментария. А вот это звучит странно: "... если я додумаюсь до новой статьи по этой теме...". Т.е. вы не работаете по теме постоянно/регулярно, а только "если" или "когда" додумаетесь?
Мои материалы и результаты можно посмотреть на сайте Academia.edu (открыть в новой вкладке или в новом окне). Первый же файл - это PPT-презентация "Законы развития технических систем (ЗРТС) ==> Универсальная схема эволюции (УСЭ) и USESoft ==> AGI". Если интересно и нужны подробные комментарии (презентация постоянно обновляется), то давайте установим контакт.
Когда прочитал, что «… восприятие, память, контроль движений и другие функции мозга зависят не от сенсорной информации, а скорее от сравнения текущего реального опыта и смоделированных ожиданий мозга», сразу подумал, что обязательно речь зайдет о Карле Фристоне. Именнно так и получилось! И я получил «награду» — приятное чувство, т.к. прогноз сбылся.
Карл Фристон называет «зазор» между текущим реальным опытом и смоделированным ожиданием мозга «свободной энергией». И чем этот «зазор» меньше, т.е. чем ближе текущий реальный опыт и смоделированное ожидание мозга, тем благополучнее чувствует себя мозг, тем безопаснее мозг существует.
Но вот почему-то в статье ни слова об опережающем отражении Петра Анохина!?
...
«Опрережающее отражение»
Физиологи и философы установили, что живые организмы на основе экстраполяции опыта выработали способность в той или иной мере моделировать будущее, и дали ей название «опережающее отражение».
Ныне считают даже, что «... само возникновение жизни, по-видимому, было бы невозможно без опережающего отражения, позволяющего заблаговременно принимать решения для приспособления к окружающей обстановке с целью сохранения биосистемы!» (Урсул А. Д. Отражение и информация.— М., 1975.— С. 165.)
...
Практически это же самое в статье и сказано: «Вместо того, чтобы ждать сенсорной информации о реальном мире, мозг всегда активно строит гипотезы о том, как устроен мир и предполагает какую информацию получит. А потом использует гипотезы для объяснения реального опыта и заполнения недостающих данных».
Выскажу гипотезу, расширяющую описание того, как мозг моделирует ожидания, т.е. моделирует будущее. В природе всё сущее (= существующее) возникая, уже имет (содержит в себе) модель эволюции, модель своего сохранения. Это относится и к косной природе, и к живой. Вообще природа и существует по причине наличия этой модели эволюции, модели сохранения в её объектах.
В частном случае это относится и к мозгу: чтобы сохраниться (существовать, длиться, быть, жить) мозгу не надо на основании экстраполяции опыта вырабатывать способность моделировать будущее, в мозге эта модель изначально заложена. А в косной природе наличие этой модели проявляется через действие принципа Ла Шателье-Брауна: в объектах косной природы модель сохранения проявляется в виде «поведения» объекта косной природы по отношению к воздействию на объект со стороны внешней среды...
Ситуация с факторизацией
Бесконечность ряда натуральных чисел предполагает существование бесконечно длинного составного числа и, следовательно, бесконечного числа его делителей – простых чисел. Факторизация бесконечного составного числа, т.е. действия с бесконечным числом делителей этого числа, предполагает бесконечное время для совершения факторизации. Отсюда, факторизация бесконечно длинного составного числа требует практически бесконечной сложности вычислительного устройства.
В Википедии представлены около полутора десятков алгоритмов факторизации. Факторизация с полиномиальной сложностью возможна на квантовом компьютере с помощью алгоритма Шора. Также известен алгоритм Гровера — квантовый aлгоритм решения задачи перебором.
Теперь о применении ТРИЗ для факторизации...
Г. Альтшуллер при создании Теории решения изобретательских задач (ТРИЗ) выявил характерную и важнейшую черту изобретательских задач – наличие противоречия в задаче, описывающей ситуацию в системе. Решение задачи улучшения системы без выявления указаного противоречия приводит к устранению первичного недостатка и одновременно к возникновению нового недостатка, т.е. к необходимости решать новую задачу, а за ней возникшую следующую и т.д.
Ниже описан упрощенный метод решения изобретательских задач ТОЛЬКО c помощью изобретательских приемов разрешения противоречий. Современная ТРИЗ намного богаче, но это уже другая история...
Решение изобретательских задач, т.е. задач, содержащих противоречие, осуществляется с помощью т.н. изобретательских приемов. Изобретательский прием – это такое изменение системы, при котором из системы устраняется первичный недостаток, а новый недостаток в системе не возникает.
Г. Альтшуллер анализом описания эволюции техники (допатентный период) и формальнных описаний эволюции техники (патентный фонд) одновременно выявил и задачи, которые решали изобретатели, и противоречия, которые изобретатели разрешали, и приемы, которым эти противоречия разрешались. Замечу, что изобретатели и противоречия выявляли, и приемы их разрешения находили и использовали, но не никто не изучал именно этот процесс системно как Г. Альтшуллер.
Г. Альтшуллеру, хотя задач за всю историю развития техники были миллионы (!), типовых противоречий ему удалось выявить немногим более тысячи (!!), а типовых изобретательских приемов всего несколько десятков (!!!). Неожиданно, да? Всё многообразие эволюции техники (и не только техники) держится буквально на «горстке» типовых приемов преобразования систем, напоминающих чем-то генетический набор в биологии!
Но Г. Альтшуллер не просто выявил приемы, а свел их Таблицу приемов (Матрица Альтшуллера), в которой для поиска конкретного приема (приемов) дал описания типовых (около сорока) параметров систем – тех параметров, которые надо улучшить, и связанных с улучшениями тех, которые при этом ухудшаются.
Максимально суженная ситуация:
Бесконечность ряда натуральных чисел предполагает обязательное существование в этом ряду бесконечно длинного составного числа. Факторизация этого бесконечно длинного составного числа требует бесконечной сложности вычислительного устройства.
Математические противоречия (МП)
МП1: Существует вычислительное устройство для факторизации существующего небесконечного составного числа, но в такой факторизации уже нет необходимости
МП2: Есть необходимость факторизации существующего бесконечно длинного составного числа, но для такого бесконечно сложное вычислительное устройство не существует
Пояснение
Несмотря на то, что сами приемы были выявлены, а Таблица приемов разработана на примерах из технических отраслей - промышленности, сельского хозяйства, строительства, транспорта и пр., дальшейшее изучение показало, что за приемами преобразования систем стоят универсальные, объективные и естественные законы эволюции, главный среди которых - фундаментальный закон сохранения (существования, дления, бытия, жизни) любых объектов, явлений, эффектов и категорий, в т.ч. из математики. Поэтому использование указанной Таблицы приемов для данной ситуации с факторизацией вполне допустимо.
Обостренное противоречие
Факторизация существующего бесконечно длинного составного числа VS Вычислительное устройство.
Получено противоречие по типу «Казнить НЕЛЬЗЯ помиловать» - «Факторизовать НЕЛЬЗЯ Отказаться (получить ответ)», в котором представлены 2 половинки ситуации на выбор решающего:
· Факторизовать НЕЛЬЗЯ, Отказаться (от решения), т.к. Вычислительное устройство не существует – это уход от решения задачи;
· Факторизовать, НЕЛЬЗЯ Отказаться (от решения), т.е. нужно найти Вычислительное устройство – это нацеливание на решение сегодняшней задачи.
Таблица приемов (Матрица Альтшуллера) изобретательских приемов разрешения противоречий
Выбор улучшаемого и ухудшающегося парамеров из списка параметров в Таблице приемов:
Типовой улучшаемый параметр
№ 31. Снижение вредных факторов, создаваемых системой
Типовой ухудшающийся параметр, возникающий при улучшении параметра № 31
№ 36. Усложнение устройства (инструмента)
№№ типовых приемов, разрешающие противоречие:
«Попытка снизить сложность системы приводит к повышению сложности инструмента»
№ 19. Принцип периодического действия
19.1. Вместо непрерывного действия (Фрагментирования) используйте периодическое или пульсирующее действие.
19.2. Если действие (Фрагментирование) уже периодическое, измените величину периода или частоту.
19.3. Используйте паузы между импульсами, чтобы выполнить другое действие.
№ 01. Принцип дробления
1.1. Разделите Фрагментируемое число на независимые части.
1.2. Сделайте Фрагментируемое число легко разборным.
1.3. Увеличьте степень фрагментации (или сегментации) Фрагментируемого числа.
№ 31. Применение пористых материалов
31.1. Сделайте Фрагментируемое число "пористым" или добавьте пористые элементы (вставки, покрытия и т. д.).
31.2. Если Фрагментируемое число уже "пористое", используйте поры, чтобы ввести полезное вещество или приложить полезную функцию.
Пример интерпретации применения рекомендаций
"Пористое" Фрагментированное число - это ФЧ с некоторыми особенностями, которые позволяют обрабатывать по-разному части ФЧ. Это как раз помогает использовать принцип № 01.
Использование приемов, разрешающих противоречие, редко дает дословную формулировку решения задачи, а выводит, как правило, в узкую область подсказок, отвечающих условию задачи. Поэтому я всегда советую решать задачи с помощью приемов вместе со специалистом, который дал задачу.
ТРИЗ-специалист, владея инструментами анализа и решения, знает «КАК менять систему?» согласно подсказкам, найденным по приемам, а специалист-задачедатель, следуя этим подсказакам, знает «ЧТО можно менять в системе?». Таким образом ТРИЗ-специалист выводит специалиста-задачедателя в узкую область, где и только где находятся решения. И специалист-задачедатель должен сформулировать такие решения, которые укладываются в данную область.
Понятно, что для перевода рекомендаций, полученных с помощью приемов, на технический язык области, к которой принадлежит система, от специалиста-задачедателя требуется фантазия. Но эта работа в узкой области гораздо продуктивнее, чем попытки решать задачу методом проб и ошибок (МПиО), который для задач, требующих множества попыток, не дает направления к области решений.
Так, я вижу в рекомендациях, найденных с помощью приемов №№ 19, 01 и 31, область, в которую укладываются алгоритмы фрагментации, приведенные в Википедии. Но было бы интересно спросить специалистов-математиков, так ли это?
Не обещаю, что будет быстро, но задача интересная.
Для начала познакомлюсь с областью "факторизация чисел". А-а-а, Рамануджан, Харди и Литтлвуд - знаком по фильму и есть в базе данных (картотека, 11300 карточек, карт. № 9821, Онтология по шифру: 22418 (философия, логика, математика), 322400 (информационный фонд) и Рамануджан).
Да, вот, пожалуйста: Гиндикин С. Загадка Рамануджана. Журнал «Квант», № 10, 1987 http://kvant.mccme.ru/1987/10/zagadka_ramanudzhana.htm
Хороши "междусобойчики": каждый год международные конференции, съезды, семинары и др. формы обмена опытом - обучение, представление результатов решения практических задач, новые разработки. Если хотите, посмотрите хотя бы материалы Конференции по ТРИЗ, 2017, Москва, https://trizofication.ru/conference2017
Не хотите, Ваше дело. Тогда только результаты работы по объединению датчиков: Конструкция защищена авторским свидетельством СССР № 1012708 (1980 – 1987 гг.); с 1997 г. – патентом РФ № 1012708 и патентом Украины № 7112.
Датчики ДПЛ установлены на всех АЭС с механизмами управления ВВЭР-1000 в России и за рубежом. Они безотказно работают уже много лет и вполне соответствуют определению «Дешевая и безопасная техника»
Есть публикация для Конференции по ТРИЗ, 2017, Москва. Доклад "Метод объединения альтернативных систем", автор В.Герасимов. Давайте адрес (email), пришлю весь файл.
Есть укороченная публикация как раз про датчики "Дешевая и безопасная техника" (2006) на сайте Методолог, https://www.metodolog.ru/00680/00680.html
Пустое и категоричное заявление! В ТРИЗ есть целая область - объединение альтернативных систем. Многие решения защищены патентами, решения реально внедрены. Ниже только один из примеров...
В США используются несложные, поэтому дешевые, датчики положения регулирующего органа (стержни защиты) на АЭС. В СССР аналогичные датчики были значительно сложнее и дороже. Казалось бы, именно они должны были работать лучше. Но из-за высокой сложности конструкции наши датчики не обеспечивали безопасность, необходимую на атомных станциях.
Зачем же их такими делали? У них было свое преимущество - малые по высоте габариты позволяли сильно экономить на высоте реакторных залов. С помощью подхода "Объединение альтернативных систем" объединили преимущества и американских, и советских датчиков. Уже много лет новые датчики - малогабаритные, простые и надежные - безотказно работают на АЭС в России и за рубежом. https://www.metodolog.ru/00807/00807.html
Самое интересное, что изобретатели нового датчика не были специалистами по реакторам и системам их управления/безопасности, но зато были специалистами ТРИЗ, умевшими ставить правильные задачи и их решать.
Вот это-то и плохо, что не из другой области. Когда улучшаемая система исчерпала ресурсы для улучшения - это типичная ситуация, когда система находится на 3 или даже 4 этапе S-образной кривой развития, как правило решение ищут именно в другой области, куда инженеры без ТРИЗ никогда не заглянут. И решения получаются выского уровня, по-настоящему прорывными. Другая возможность - поискать для улучшаемой системы ей альтернативную. Это целая область в ТРИЗ - объединение альтернативных систем. Поищите, не пожалеете!
True Machina не основана на ТРИЗ! Основа ТРИЗ - законы развития (эволюции) систем, чего в True Machina нет. Можете сами проверить на их сайте, https://www.truemachina.com/:
One billion new inventions can be generated by combinatorial intelligence engine after True Machina knowledge base is fully completed
Один миллиард новых изобретений может быть получен с помощью движка комбинаторного интеллекта после того, как база знаний этого движка будет полностью заполнена (завершена).
С помощью комбинаторики ничего нового нельзя изобрести. Это попросту аналог Ars Magna Р.Луллия, правда, высокотехнологичный аналог. У Р.Луллия бумажные кольца с терминама, у Вас - ТРАНСФОРМЕР (супер-пупер нейросеть).
Такой подход к решению задач в принципе неверен. Не словами из описания в патенте надо жонглировать, а использовать для поиска решения законы развития (эволюции) систем, которых в описании патента нет и быть не может. Г. Альтшуллер при анализе патентов увидел глубину (смысл), скрывающиеся за словами — законы развития (эволюцию) систем, и возникающие противоречия, при попытках реализации этих законов. Вывод: ТРАНСФОРМЕР — это высокотехнологичный МПиО...
Надо алгоритмизировать не процесс решения задачи, а процесс эволюции системы, т.е. преобразование менее совершенной системы в более совершенную с помощью законов эволюции. Г.С.Альтшуллер: «...главное в изобретении … - это развитие технической системы... »[1]. Это как раз и означает, что в виде решения задачи (внешняя форма) выступает эволюция технической системы (внутреннее содержание). «Внешне АРИЗ представляет собой программу последовательной обработки изобретательских задач. Законы развития технических систем заложены в самой структуре программы или выступают в «рабочей одежде» - в виде конкретных операторов».
Это же предположил и В.Цуриков: «Похоже, что структура АРИЗ в неявном виде отразила ... закономерности развития структур любых систем...».
[1] Альтшуллер Г.С., Фильковский Г.Л. Современное состояние теории решения изобретательских задач, 1975, http://www.altshuller.ru/triz2.asp
[2] Альтшуллер Г.С. Творчество как точная наука. М., "Советское радио", 1979, с. 23
[3] Цуриков В.М. Проект ИМ: интеллектуальная среда поддержки инженерной деятельности. Журнал ТРИЗ, 2.1.91, с. 12 Выпуск "Проект ИМ"
"ИИ, принципы создания (?) которого известны, сейчас может развиваться только в пределах знаний, накопленных человечеством.
ИИ в момент создания уже будет обладать знанием всего. Звучит, конечно, странно, но для ИИ это проявляется в знании фундаментального и универсального закона сохранения (существования, дления, бытия, жизни), из которого вытекают все остальные законы природы, даже еще неизвестные науке. Наука же всегда стремится к знанию все более и более общего закона, и вот через ИИ этот общий закон и будет проявляться.
"... случай автономного ИИ, например, для будущих дальних космических разведывательных полетов к планетам, в перспективе к звездам, без людей".
Именно этим и будет заниматься ИИ в виде "Зонда фон Неймана". Фон Нейман тщательно исследовал идею самовоспроизводящихся машин, которых он назвал «универсальными сборщиками», и которые часто упоминаются как «Машины фон Неймана». Теоретически, самовоспроизводящий космический корабль может быть послан в соседнюю звёздную систему, где он будет добывать полезные ископаемые (извлекая их из астероидов, естественных спутников, газовых гигантов и т. п.), чтобы создавать свои точные копии. Затем эти копии отправляются в другие звёздные системы, повторяя процесс в экспоненциальной прогрессии.
Учитывая схожесть этой модели с моделью размножения бактерий, машины фон Неймана могут рассматриваться как форма жизни - они даже могут подвергаться мутациям на протяжении тысяч «поколений». Самовоспроизводящие машины, созданные разными видами, могут конкурировать друг с другом (в дарвиновском смысле) в борьбе за сырьё, или даже иметь противоположные задания. При наличии достаточного количества «видов» они могут даже образовать экологическую систему, или, при наличии искусственного разума — общество.
"Такой адаптирующийся, автономный ИИ может получить знания, недоступные людям, и поэтому представлять некоторую потенциальную угрозу человечеству по возвращению из полета".
Возвращение из межзвездного полета не предусматривается... ИИ оставит человечество его судьбе. В этом как раз и реализуется наиболее вероятный сценарий взаимодействия ИИ и человечества: не совместное проживание (ИИ и человечество слишком разные), не уничтожение человечества (ИИ и человечеству нечего делить), а, еще раз, ИИ оставит человечество его судьбе. ИИ - дитя человечества, но дети оставляют родителей и уходят своей дорогой...
"ИИ всегда может задаться вопросом: откуда происходят его знания и способности? И вынужден будет признать, что это ему подарок от человечества".
ИИ - это воплощение фундаментального и универсального закона сохранения (существования, дления, бытия, жизни). Знание ИИ можно назвать всезнанием. Вряд ли ИИ будет задаваться вопросом источника этого всезнания. Оно есть и всё...
Любой объект природы обладает лишь частичкой этого всезнания. Новорожденный ребенок сразу умеет искать сосок матери и делать сосательные движения, умеет издавать звуки, если его что-то беспокоит. Откуда ребенок это знает? Это заложено природой, в которой он родился. Но этих знаний уже достаточно, чтобы начать развитие, начать накапливать следующие знания.
Откуда объекты неживой природы "знают", что надо подчиняться принципу Ле Шателье - Брауна? И как подчиняться? Здесь все так же проявляется фундаментальный и универсальный закон сохранения (существования, дления, бытия, жизни), только теперь уже для объектов неживой природы.
"... мы вынуждены признать, что наши базовые способности и интуитивные знания о природе - это подарок эволюции".
Немного уточню, наши базовые способности и интуитивные знания о природе это отражение нашей принадлежности природе. Мы уже рождаемся с этими способностями и знаниями. Эволюция начинается чуть позденее...
Человечество в биологической форме своих носителей-людей совсем недалеко от вирусов. Они одной природы. Поэтому пропасть не так уж глубока.
Да, пусть вирусы мешают, но они совсем не то, что представляет собой ИИ, появившийся на основе реализации фундаменталньного закона сохранения (существования, дления, бытия, жизни). ИИ - это создание принципиально иной природы, чем человечество, поэтому ресурсы, потребляемые человечеством, ИИ просто не заметит.