Ну давайте тогда определения «принимает решение», «реагирует» и «реагирует по большому счёту», «срабатывает» с указанием авторитетных источников, как в вики.
Допустим, мы заменяем живого человека с вероятностью ошибки 0.01% на автопилот с вероятностью ошибки 0.001%.
Предлагаете заменить всех живых водителей на автопилот? Т.е. отобрать права у живых. Это новое. А как в отношении других моих примеров со спас.шлюпками и пожарными выходами? Откажемся от таких излишеств?
Д.И.Менделеев родился в 19 веке — может от его таблицы отказаться? А Пифагор еще раньше — как быть с его теоремой? ;)
Математическая модель нейрона появилась уже после его смерти.
Но эта модель не помогла машинному доказательству теорем, о котором я пишу. Читал, что было сделано много мат.моделей для предсказания землетрясений, но не работают. Есть много областей, где мат. модели плохо помогают.
Пьяный водитель будет наказан: лишен прав, оштрафован и т.д. А «железка» не наказуема.
У Теслы на это был хороший аргумент — автопилот неидеален, но он уже сейчас ошибается меньше чем живые люди.
ИМХО отвратительный аргумент. Так можно «обосновать» что угодно. Нпр.:
«автоматика на нашем самолете ошибается, но меньше чем живые пилоты».
Или:
«На нашем пароме нет достаточного количества спасательных шлюпок, но они нужны очень редко».
Или:
«В нашем здании нет пожарных выходов, но пожары случаются редко».
Но и теоретических запретов на создание такого тоже ведь нет, как со скоростью света например.
ИМХО м.б. есть теоретические запреты. Мы уже знаем, что не может наш мозг. См.:
я про это написал:
Стоит также сказать несколько слов о самопознании (самоанализе). Его непреодолимая трудность является одним из ярчайших примеров ограниченности естественного интеллекта. Известный основоположник философии интуитивизма А. Бергсон отмечал, что хотя человек может поднять руку, он не может объяснить, как он это делает. Позже, работая над системами автоматического доказательства теорем, исследователи столкнулись с парадоксальным фактом: ни один математик не может объяснить, как он доказывает теоремы настолько полно, насколько нужно для реализации этих систем. Не помогает и то обстоятельство, что математике люди учатся в сознательном возрасте и могут шаг за шагом рассказать, как они изучали математику. Еще сложнее представляется ситуация с распознаванием речи и зрительных образов – никто не может рассказать, как он этому научился. Таким образом, ограничение естественного интеллекта проявляется в трудностях обучения ИИ распознаванию речи, зрительных образов, доказательству теорем и т.д.
природа однозначно подсказывает нам, что сделать это можно.
Что можно сделать? Микросхему, которая будет равноценна мозгу и потреблять 25Вт? — В природе такого нет.
Сделать белковый мозг, как в природе? — Таких технологий у нас нет. И нет доказательства, что мы сумеем их изобрести.
Проблема затрагивает в первую очередь людей с низкими зарплатами и простыми обязанностями, и скажем честно, не сможет дворник переучиться на ремонт роботов-уборщиков — квалификация не та.
По моим наблюдениям, чтобы заменить сгоревшую плату на исправную особой квалификации не нужно.
«Лифт не должен причинить вред человеку», звучит бредово однако.
ИМХО не бредово, но актуально, т.к. наметилась явная тенденция ставить непродуманные чипы везде.
Алгоритм распознавания пешеходов — это всего лишь алгоритм распознавания пешеходов, он не может «не захотеть» работать или вдруг захотеть убить своего владельца. Собственно, он вообще ничего не может хотеть ибо не умеет. Это спекуляции для домохозяек.
говорить о «принципах робототехники» тут пока рано имхо.
ИМХО не рано. Дело не только в том какие решения принимает САУ самостоятельно, а и в том какие решания туда зашили конструкторы. Прошивка м.б. на уровне ОС, на уровне ПЗУ и на уровне схемы. Реле в лифте это тоже прошивка. Если лифт зажал дверьми детскую коляску и начал движение, то не важно приняла такое решение нейросеть или сработало тривиальное реле.
В случае реле вина разрабов очевидна — не предусмотрели, а в случае сети у них отговорка — она сама обучалась. Против таких отговорок и нужны законы, похожие на законы Азимова. Должны быть блокираторы самообучившихся сетей. При этом совсем не важно может сеть мыслить и ощущать себя личностью или не может.
«Опасность» ИИ пока что в другом — даже простых устройств, типа автономных автомобилей, голосовых ассистентов и роботов-пылесосов, уже достаточно чтобы миллионы людей остались без работы. Куда эти люди пойдут, на биржу труда, или более успешных граждан в темных переулках грабить?
Пока миллионы людей НЕ остались без работы. Следовательно этих устройств пока еще слишком мало. Чтобы сделать их избыток нужны доп. заводы, т.е. новые рабочие места, на которые и уйдет часть потенциальных безработных. Сами себя эти устройства чинить не умеют и не скоро сумеют, т.о. еще значительная часть людей уйдет в ремонтеры. Если кто-то и пойдет в грабители, то полицейских нужно будет больше. И для штрафования/остановки неисправных робомобилей дополнительный штат будет нужен. Т.о. ИМХО катастрофичной безработицы в скором времени не возникнет.
(а) мы пока не знаем как, это все равно что иметь кучу микросхем но не иметь схемы соединений
Предположим, что чудесным образом у нас оказалась схема соединений. Тогда столкнемся с очень сложными проблемами:
— чтобы запитать очень много микросхем энергии Солнца может не хватить;
— не просто охлаждать конструкцию, потребляющую энергию звезды, большей, чем Солнце;
— где взять столько меди, припоя и стеклотекстолита, чтобы реализовать схему соединений? Сколько времени пойдет на реализацию? ;)))
Не вижу принципиальной разницы между «реагирует» и «реагирует по большому счёту», «срабатывает». Мне стало любопытно — я и спросил.
Мечтать не вредно, но обсуждать мечты смысла нет.
Д.И.Менделеев родился в 19 веке — может от его таблицы отказаться? А Пифагор еще раньше — как быть с его теоремой? ;)
Но эта модель не помогла машинному доказательству теорем, о котором я пишу. Читал, что было сделано много мат.моделей для предсказания землетрясений, но не работают. Есть много областей, где мат. модели плохо помогают.
ИМХО отвратительный аргумент. Так можно «обосновать» что угодно. Нпр.:
«автоматика на нашем самолете ошибается, но меньше чем живые пилоты».
Или:
«На нашем пароме нет достаточного количества спасательных шлюпок, но они нужны очень редко».
Или:
«В нашем здании нет пожарных выходов, но пожары случаются редко».
Ага, нет вины. Пострадавшему не повезло.
Сделать белковый мозг, как в природе? — Таких технологий у нас нет. И нет доказательства, что мы сумеем их изобрести.
ИМХО не бредово, но актуально, т.к. наметилась явная тенденция ставить непродуманные чипы везде.
Однако читаем:
и читаем уже про воздух:
Про современные проблемы распознавания стоит отметить статью про леопарда и диван. Ну и с велосипедами не всегда.
В общем:
ИМХО не рано. Дело не только в том какие решения принимает САУ самостоятельно, а и в том какие решания туда зашили конструкторы. Прошивка м.б. на уровне ОС, на уровне ПЗУ и на уровне схемы. Реле в лифте это тоже прошивка. Если лифт зажал дверьми детскую коляску и начал движение, то не важно приняла такое решение нейросеть или сработало тривиальное реле.
В случае реле вина разрабов очевидна — не предусмотрели, а в случае сети у них отговорка — она сама обучалась. Против таких отговорок и нужны законы, похожие на законы Азимова. Должны быть блокираторы самообучившихся сетей. При этом совсем не важно может сеть мыслить и ощущать себя личностью или не может.
Пока миллионы людей НЕ остались без работы. Следовательно этих устройств пока еще слишком мало. Чтобы сделать их избыток нужны доп. заводы, т.е. новые рабочие места, на которые и уйдет часть потенциальных безработных. Сами себя эти устройства чинить не умеют и не скоро сумеют, т.о. еще значительная часть людей уйдет в ремонтеры. Если кто-то и пойдет в грабители, то полицейских нужно будет больше. И для штрафования/остановки неисправных робомобилей дополнительный штат будет нужен. Т.о. ИМХО катастрофичной безработицы в скором времени не возникнет.
— чтобы запитать очень много микросхем энергии Солнца может не хватить;
— не просто охлаждать конструкцию, потребляющую энергию звезды, большей, чем Солнце;
— где взять столько меди, припоя и стеклотекстолита, чтобы реализовать схему соединений? Сколько времени пойдет на реализацию? ;)))
См.