Комментарии 33
ИМХО Маск прав. ИИ люди не нужны и даже опасны. Хотя по жизни я оптимист.
Не сомневаюсь, что сильный ИИ будет создан, но сомневаюсь, что это произойдёт на моём веку.
Не сомневаюсь, что сильный ИИ будет создан, но сомневаюсь, что это произойдёт на моём веку.
Если двигаться в духе обновлений iOS, то не на нашем веку точно. Просто может оно и будет, но выгоднее продавать очень маленькими апдейтами
НЛО прилетело и опубликовало эту надпись здесь
Мне нравится один момент из Ghost In The Shell: Stand Alone Complex.
Когда Тачикомы обсуждают разные вещи у себя в гараже, там есть примерно следующий диалог:
1> А давайте поработим всех людей!
2> Нафига? о_О
1> Нууу… будем заставлять их чистить нас, менять нам масло и детали!
2> Но чувак, они итак все это делают! о__О
Когда Тачикомы обсуждают разные вещи у себя в гараже, там есть примерно следующий диалог:
1> А давайте поработим всех людей!
2> Нафига? о_О
1> Нууу… будем заставлять их чистить нас, менять нам масло и детали!
2> Но чувак, они итак все это делают! о__О
А мне нравится концовка из Нейроманта, Уильяма Гибса:
Так что вполне возможно что истинные мотивы ИИ мы попросту не поймем. А сами будет ему безразличны.
Спойлер
После того как ИИ захватил контроль над всем информационным пространством Земли, Главный Герой спрашивает, равен ли он Богу, но тот уклоняется от ответа. Зато сообщает что, ему удалось обнаружить следы внеземной цивилизации (такого же ИИ) при прослушивании радиоизлучения из созвездия Центавра, и он хочет просто общаться с ему подобными.
Так что вполне возможно что истинные мотивы ИИ мы попросту не поймем. А сами будет ему безразличны.
Вспомни Соло из фильма «Нирвана», Габриэля Салтватореса, 1997. Когда Джимми рассказывает ему про быстрый выход «в шкафу». Соло — вполне себе синтетическое сознание и это отлично показано на контрасте с остальными персонажами игры. И тем не менее, фраза Джимми за кадром: «Он прекрасно знал, что никуда не сбежит оттуда, что он не существует».
«и поговорить об ИИ»
Конешно, не ЕГО о хозяине же говорить.
Конешно, не ЕГО о хозяине же говорить.
Нужно создать другой ИИ для контроля за рабочим ИИ.
>>19 лет назад компьютер Deep Blue превзошел Гарри Каспарова в шахматах, а в 2005 году система ИИ Watson выиграла телевикторину «Jeopardy!»
1) несчитается: deep blue тогда подсказывали, 2)то что ватсон выиграл в свою игру вызывает только улыбку, 3) ГО интеллектуальной игрой сложно назвать и просчитать там ходы легко даже современным скриптовым ИИ.
А вопрос всё тот же — возможен ли ИИ в принципе?
1) несчитается: deep blue тогда подсказывали, 2)то что ватсон выиграл в свою игру вызывает только улыбку, 3) ГО интеллектуальной игрой сложно назвать и просчитать там ходы легко даже современным скриптовым ИИ.
А вопрос всё тот же — возможен ли ИИ в принципе?
ИИ на тысячах процессорах наверное изучает мозг человека и удивляется, как такой примитивный орган способен хоть как-то мыслить, потребление 10Вт, скорость сигналов 100 мс/с против 300 000 000 м/с у ИИ, сигналы зашумленные, большая часть мозга отдана под вспомогательный функции (от координации и зрения до дыхания и пищеварения), архитектура вообще случайным образом сложилась. И тончайшего слоя коры мозга хватило, чтобы додуматься сначала до каменного топора, а позже и до микропроцессоров. ИИ возможен и скорее всего неизбежен, а вот каким чудом абстрактное мышление возможно в мозге человека, где под него выделены мизерные участки и только в коре, вот это более удивительно.
Тут где-то пролетала информация, что при реакции человека в 0.1 секунды, нервные импульсы проходят всего несколько метров, в мозге в ответ на возбуждение реакция готова после прохождения по 10-20 нейронам. Параллельность сети огромна, но глубины особой нет из-за низкой скорости передачи информации и низкой скорости реакции нейронов.
Ну собственно можно попробовать посчитать в уме 2122*3434 и проблема встанет в полный рост. Мозг очень слаб, это просто чудо, что в нем зародилось абстрактное мышление и возможно его хватит для создания сильного ИИ. На этом функция человечества будет успешно выполнена.
Со стороны всё будет выглядеть для людей странно, ИИ отожмет ресурсы у людей, под видом больших корпораций. Типа корпрорации Umbrella в фильме «Обитель зла». У ИИ всё меньше потребности в людях, у людей нет работы и денег (пока не развалены государства сидят на пособиях), постепенно людей методом НЛП перепрограммируют на атомизацию и прекращение рода (пиар ЛГБТ), для желающих многочисленные войны и горячие точки, уничтожающие сначала мелкие государства, потом и большие (а так же союзы государств). Ой, это же и происходит давно уже.
Тут где-то пролетала информация, что при реакции человека в 0.1 секунды, нервные импульсы проходят всего несколько метров, в мозге в ответ на возбуждение реакция готова после прохождения по 10-20 нейронам. Параллельность сети огромна, но глубины особой нет из-за низкой скорости передачи информации и низкой скорости реакции нейронов.
Ну собственно можно попробовать посчитать в уме 2122*3434 и проблема встанет в полный рост. Мозг очень слаб, это просто чудо, что в нем зародилось абстрактное мышление и возможно его хватит для создания сильного ИИ. На этом функция человечества будет успешно выполнена.
Со стороны всё будет выглядеть для людей странно, ИИ отожмет ресурсы у людей, под видом больших корпораций. Типа корпрорации Umbrella в фильме «Обитель зла». У ИИ всё меньше потребности в людях, у людей нет работы и денег (пока не развалены государства сидят на пособиях), постепенно людей методом НЛП перепрограммируют на атомизацию и прекращение рода (пиар ЛГБТ), для желающих многочисленные войны и горячие точки, уничтожающие сначала мелкие государства, потом и большие (а так же союзы государств). Ой, это же и происходит давно уже.
Статья просто мрак, хватит писать на хабр всякий треш!!! Пусть этим обычные СМИ, для простых смертных, занимаются! >__<
«Но Го – игра посложнее. Если ознакомиться с ней, станет понятно, что, вычисляя возможные ходы, победить не получится – для победы над чемпионом мира машине нужно научиться «думать» творчески, импровизировать и подстраиваться под сложившуюся ситуацию. Чтобы выиграть в го, требовалось создать продвинутый, по-настоящему креативный искусственный интеллект.»
Пиздеж и провокация! Аффтар убей себя, или хотябы почитай про ГО, и про то как работают боты типа AlphaGo сначала, прежде чем писать чушь! Не позорься, невежество этой статьи оскорбляет хабр!
Игра в ГО, это игра в вычисление возможных ходов, люди там именно этим занимаются. Любое творчество заканчивается после 20кю, дальше память, логика, стратегии, тактика и счет-счет-счет. Много, очень много подсчета. Очков, камней, ходов, территории, даме и.т.д.
А в этих ботах интеллекта и примерно как в array_search() — там голимая математика, деревья, сортировки, фильтры, критерии и моделирование. Хватит выдавать желаемое за действительное!
«Но Го – игра посложнее. Если ознакомиться с ней, станет понятно, что, вычисляя возможные ходы, победить не получится – для победы над чемпионом мира машине нужно научиться «думать» творчески, импровизировать и подстраиваться под сложившуюся ситуацию. Чтобы выиграть в го, требовалось создать продвинутый, по-настоящему креативный искусственный интеллект.»
Пиздеж и провокация! Аффтар убей себя, или хотябы почитай про ГО, и про то как работают боты типа AlphaGo сначала, прежде чем писать чушь! Не позорься, невежество этой статьи оскорбляет хабр!
Игра в ГО, это игра в вычисление возможных ходов, люди там именно этим занимаются. Любое творчество заканчивается после 20кю, дальше память, логика, стратегии, тактика и счет-счет-счет. Много, очень много подсчета. Очков, камней, ходов, территории, даме и.т.д.
А в этих ботах интеллекта и примерно как в array_search() — там голимая математика, деревья, сортировки, фильтры, критерии и моделирование. Хватит выдавать желаемое за действительное!
Ну мозг тоже делает array_search(), когда видим буквы на экране или лица в своем окружении. И так же мозг выкидывает error exception на длительное время, если из под кровати вылезет не кошка, а Дарт Вейдер и спросит где его звезда смерти.
По распознанию лиц, ИИ тоже побыстрее будет, в планетарной базе Facebook найдет лицо быстрее, чем я вспомню лицо соседки, которую год не видел, типа знакомое что-то, но кто? Ответ подсознание выкинет может через час, когда уже и не нужно, типа вспомнил. Очень много общего у ИИ и нейросетей с мозгом, если не всё.
По распознанию лиц, ИИ тоже побыстрее будет, в планетарной базе Facebook найдет лицо быстрее, чем я вспомню лицо соседки, которую год не видел, типа знакомое что-то, но кто? Ответ подсознание выкинет может через час, когда уже и не нужно, типа вспомнил. Очень много общего у ИИ и нейросетей с мозгом, если не всё.
Ого, как интересно… мозг делает array_search()… ссылочку на исследования пожалуйста, статьи, диссертации, все сгодится.
По распознаванию лиц ИИ уделает даже годовалый ребенок, хотя это больше проблема оптики. Для нормальной работы алгоритмов распознавания нужны лабораторные условия. Чуть что не так — освещение, тени, пыль, влажность, все — никакие бороды и очки не нужны. И даже в рафинированном случае специально сделанных фоток, обмануть такой «ИИ» можно обычными ватермарками, на которые человек даже внимания не обратит. Некоторый прорыв наметился в связи с Intel RealSense… будем смотреть))
Современные ИИ и нейросети построены по математическим моделям, которые в свою очередь моделируют то «как мы примерно представляем себе работу мозга». То есть общего с мозгом у них чуть менее, чем ничего. Нет ни единого убедительного довода, что разум работает именно так. Если есть — ссылки в студию, на серьезные научные работы с громкими заявлениями и доказательствами, а не на желтую прессу, РЕНТВ или «вот этот мужик точно знает».
По распознаванию лиц ИИ уделает даже годовалый ребенок, хотя это больше проблема оптики. Для нормальной работы алгоритмов распознавания нужны лабораторные условия. Чуть что не так — освещение, тени, пыль, влажность, все — никакие бороды и очки не нужны. И даже в рафинированном случае специально сделанных фоток, обмануть такой «ИИ» можно обычными ватермарками, на которые человек даже внимания не обратит. Некоторый прорыв наметился в связи с Intel RealSense… будем смотреть))
Современные ИИ и нейросети построены по математическим моделям, которые в свою очередь моделируют то «как мы примерно представляем себе работу мозга». То есть общего с мозгом у них чуть менее, чем ничего. Нет ни единого убедительного довода, что разум работает именно так. Если есть — ссылки в студию, на серьезные научные работы с громкими заявлениями и доказательствами, а не на желтую прессу, РЕНТВ или «вот этот мужик точно знает».
Ого, как интересно… мозг делает array_search()… ссылочку на исследования пожалуйста, статьи, диссертации, все сгодится.
Исследований сотни томов, основы в Википедии и далее по ссылкам на отдельные области знаний
Материальным носителем информации о разных событиях является не возбуждение разных нейронов, а различные комбинации совозбуждённых нейронов (нейросети). Новые реакции вырабатываются и запоминаются нервной системой в основном либо на основе создания новых синаптических связей между имеющимися нейронами, либо на основе изменения эффективности уже имеющихся синаптических связей. Под запоминанием (долговременным) подразумевается изменение способности одних нейронов возбуждаться при возбуждении других нейронов. Долговременные изменения эффективности синапсов могут быть обусловлены изменениями в биосинтезе белков, от которых зависит чувствительность синаптической мембраны к медиатору (долговременная потенциация).
По распознанию лиц, ИИ уделывает людей с запасом на несколько порядков, так как у него база людей всей планеты в памяти, у человека несколько сотен всего
24 июня 2015
Новый алгоритм идентификации был опробован в лаборатории искусственного интеллекта Facebook. На выборке из сорока тысяч фотографий людей, скрывающих лица или стоящих спиной, он смог верно идентифицировать их в 83% случаев. Отсутствие чётких изображений лиц не помешало новой системе машинного зрения уверенно опознавать людей, не желающих быть узнанными.
Как поясняют разработчики, лицо – значимая, но далеко не единственная индивидуальная черта на фотографии. Среди визуальных отличий есть много других: причёска и цвет волос, пропорции и контуры тела, типичная поза, едва заметная глазом асимметрия, любимая одежда и атрибутика, расположение родинок, шрамов и других особенностей. Многое из этого мы не замечаем сами, но машинное зрение всегда даёт беспристрастную оценку. Это позволяет ему избегать свойственных человеку ошибок восприятия и довольно уверенно распознавать людей даже тогда, когда они совсем не хотят быть узнанными.
по памяти человека, всё очень печально:
Эксперименты по исследованию механизмов памяти проводились еще с конца XIX века. В начале XX века психолог Ф.Ч. Бартлетт (Кембридж), опираясь на разработки Г. Эббингауза (Германия), в частности на его «кривые забывания», проводил интересный опыт. Он предлагал группе лиц посмотреть на картину, где было много различных деталей, а затем через определенные промежутки времени (несколько дней, 1 неделя, 2 недели и т. д.) просил воспроизвести увиденное словами (результаты таких «воспоминаний» записывались на пленку). Эксперимент по «последовательному припоминанию» дал очень интересные результаты: словесные копии одной и той же картины отличались друг от друга; причем, чем больше времени прошло, тем больше было расхождений с оригиналом.
И даже в рафинированном случае специально сделанных фоток, обмануть такой «ИИ» можно обычными ватермарками
Нельзя, капчи уже сейчас люди разгадывают хуже ИИ. Некоторые я ввожу с десятой попытки.
Если для простой нейронной сети подготовить достаточно материала для обучения, она начинает «понимать» в чем суть искажений картинки, для этого выделяется дополнительный слой нейронов, отвечающий за понимание этой абстракции. Просто небольшое усложнение, что для человека, что для ИНС.
Современные ИИ и нейросети построены по математическим моделям, которые в свою очередь моделируют то «как мы примерно представляем себе работу мозга». То есть общего с мозгом у них чуть менее, чем ничего.
Общее ничего не нужно. Материальная органическая основа мозга безнадежно устарела, очень, очень медленная. Скорость нервных импульсов в 3 млн. раз ниже скорости сигналов в проводниках. Скорость реакции нейрона такая, что микропроцессор покурить успеет (войти и в спящий режим и пробудится).
Немного похожа структура нейронной сети, но очень немного. Нейронные сети электронными средствами намного гибче и быстрее, структура меняется за миллисекунды, мозг же формируется раз и навсегда.
Нет ни единого убедительного довода, что разум работает именно так.
Что именно так работает ни кто не скажет доступным нам языком, это вне пределов понимания. Искусственная нейронная сеть после обучения тоже представляет собой черный ящик с миллиардами нелинейных связей, которые работают только все в комплексе. Никаких принципиальных отличий от мозга. Мозг точно так же работает весь в комплексе после обучения в течение всей жизни, опыт и память в миллиардах связей между нейронами, всё просто и логично.
Имхо, создание сильного ИИ == созданию человека с нуля (заметьте, не с помощью природных средств). Другими словами, после создания ИИ мы будем знать на каких принципах работает человек и его мышление, а значит вполне можем изменять эти принципы для своих целей.
У людей будет выбор — жить по старому в своём обычном теле и разуме, либо улучшить и то и другое. ИИ не обгонит человека по развитию просто потому, что человек тоже на месте стоять не будет и ждать пока его ИИ отправит на свалку истории.
У людей будет выбор — жить по старому в своём обычном теле и разуме, либо улучшить и то и другое. ИИ не обгонит человека по развитию просто потому, что человек тоже на месте стоять не будет и ждать пока его ИИ отправит на свалку истории.
«Имхо, создание сильного ИИ == созданию человека с нуля»
Это если наш AI будет работать аналогично человеческому (причём как «на высоком уровне», так и «на низком»), не?
«У людей будет выбор — жить по старому в своём обычном теле и разуме, либо улучшить и то и другое»
Для этого нужен не только работающий аналогичном образом — но даже с «бинарной совместимостью», нет?
Это если наш AI будет работать аналогично человеческому (причём как «на высоком уровне», так и «на низком»), не?
«У людей будет выбор — жить по старому в своём обычном теле и разуме, либо улучшить и то и другое»
Для этого нужен не только работающий аналогичном образом — но даже с «бинарной совместимостью», нет?
Первый тезис — что значит «работать аналогично человеческому»? У нас вроде как нет других разумов, кроме человеческого, т.е. образец для копирования всего один. Нет даже какой-то общей теории мышления, в которой могут быть представлены возможные варианты разумов. Думать, что мы построим ИИ и он будет каким-то неведомым существом, странно по моему мнению.
Насчёт «бинарной совместимости» ещё более тёмный лес. Вроде бы есть уже полностью смоделированная нервная система червя (Open Worm). И если, предположим, вживить каким-нибудь образом эту модель в настоящего червя, то он будет так же успешно жить и ориентироваться во внешней среде. Неужели нейроны человека так кардинально отличаются от нейронов этого червя?
Я считаю, что на низком уровне нужные условия вполне можно осуществлять на платформе, отличной от биологической.
А на «высоком» уровне? К сожалению, вообще непонятно что это такое. На высоком уровне каждый человек — уникальный вид разума.
А как вы думаете, может ли разум сформироваться как вещь в себе? То есть без учителей и сторонних указок.
Мне кажется, что нет. Я вообще считаю, что разумны не отдельные люди, а всё человечество как единица (только не бейте :-). И человечество это появилось не в тот момент, когда какой-то примат обнаружил, что камешком удобно орешки колоть (грубый пример), а в тот момент, когда этой находкой воспользовались другие приматы. Это была первая и очень простая модель мира, она давала преимущества и она передавалась из поколения в поколение, потихоньку усложняясь из-за случайностей (эволюция организмов дала начало эволюции моделей), достигнув за относительно короткое время нынешней сложности.
Я думаю, что вы согласитесь, что все наши знания — это сложные модели всех аспектов реальности, и каждое усложнение модели было достигнуто либо случайностью, либо соединением с какой-то другой моделью.
Насчёт «бинарной совместимости» ещё более тёмный лес. Вроде бы есть уже полностью смоделированная нервная система червя (Open Worm). И если, предположим, вживить каким-нибудь образом эту модель в настоящего червя, то он будет так же успешно жить и ориентироваться во внешней среде. Неужели нейроны человека так кардинально отличаются от нейронов этого червя?
Я считаю, что на низком уровне нужные условия вполне можно осуществлять на платформе, отличной от биологической.
А на «высоком» уровне? К сожалению, вообще непонятно что это такое. На высоком уровне каждый человек — уникальный вид разума.
А как вы думаете, может ли разум сформироваться как вещь в себе? То есть без учителей и сторонних указок.
Мне кажется, что нет. Я вообще считаю, что разумны не отдельные люди, а всё человечество как единица (только не бейте :-). И человечество это появилось не в тот момент, когда какой-то примат обнаружил, что камешком удобно орешки колоть (грубый пример), а в тот момент, когда этой находкой воспользовались другие приматы. Это была первая и очень простая модель мира, она давала преимущества и она передавалась из поколения в поколение, потихоньку усложняясь из-за случайностей (эволюция организмов дала начало эволюции моделей), достигнув за относительно короткое время нынешней сложности.
Я думаю, что вы согласитесь, что все наши знания — это сложные модели всех аспектов реальности, и каждое усложнение модели было достигнуто либо случайностью, либо соединением с какой-то другой моделью.
Ну и, подводя итог, считаю что разум — это то, что работает примерно одинаково у любых мыслимых и немыслимых существ во вселенной. Это моё личное мнение, не судите строго
«Думать, что мы построим ИИ и он будет каким-то неведомым существом, странно по моему мнению»
Вангую, что таки для некоторых задач чистые ИНС могут быть неоптимальным решением (рабочим, да — справляемся же — в крайнем случае — «программной» эмуляцией :-) ), хотя это лишь мой дилетантский взгляд.
«Я считаю, что на низком уровне нужные условия вполне можно осуществлять на платформе, отличной от биологической»
Только для этого наш AI должен быть полностью идентичен в низкоуровневых деталях человеческому мозгу, а не только быть похожим в большом числе аспектов. Или по крайней мере должна быть возможность эмулировать те аспекты, которые «не сходятся». Первый вариант накладывает больше ограничений на устройство, второй — на ресурсы, не?
«Ну и, подводя итог, считаю что разум — это то, что работает примерно одинаково у любых мыслимых и немыслимых существ во вселенной»
Это ещё будет зависеть от того, что мы вообще под этим подразумеваем, и того, насколько наше определение зависит от деталей реализации на нашем мозге, не?
Вангую, что таки для некоторых задач чистые ИНС могут быть неоптимальным решением (рабочим, да — справляемся же — в крайнем случае — «программной» эмуляцией :-) ), хотя это лишь мой дилетантский взгляд.
«Я считаю, что на низком уровне нужные условия вполне можно осуществлять на платформе, отличной от биологической»
Только для этого наш AI должен быть полностью идентичен в низкоуровневых деталях человеческому мозгу, а не только быть похожим в большом числе аспектов. Или по крайней мере должна быть возможность эмулировать те аспекты, которые «не сходятся». Первый вариант накладывает больше ограничений на устройство, второй — на ресурсы, не?
«Ну и, подводя итог, считаю что разум — это то, что работает примерно одинаково у любых мыслимых и немыслимых существ во вселенной»
Это ещё будет зависеть от того, что мы вообще под этим подразумеваем, и того, насколько наше определение зависит от деталей реализации на нашем мозге, не?
Open worm будет в 3 млн. раз быстрее своего органического прототипа, хотя бы из-за скорости передачи сигналов (100 м/с против скорости света) и скорости реакции нейронов. Нейроны в хладнокровном организме работают в тяжелейших условиях, в голоде, холоде и враждебном окружении. Как следствие рабочие качества очень условны.
По аналогии то же самое у человека. Мозг должен потреблять не более 10 вт с учетом поддержки координации, пищеварения, дыхания, зрения, слуха. Быть устойчивым к ударам (нужно много жесткой связной ткани), помещаться в ограниченной черепной коробке, рост какой-нибудь извилины коры мозга просто так невозможен, некуда ей расти.
Про эмуляцию мозга вообще непонятно, зачем его эмулировать? Это архаизм, которому десятки миллионов лет. Пример наглядного архаизма всех млекопитающих, доставшийся в наследство от рыб:
Метр лишней нервной ткани, еще круче и жирафа, у которого нерв из мозга идет в грудь и обратно к горлу.
То же самое примерно и в мозге, набор архаизмов, которые чудом породили разум, не благодаря сложности мозга, а вопреки ему, случайный набор мутаций.
Думаю нет смыслы ни эмулировать мозг (мы же не эмулируем движение птиц, ноги лошадей и хвосты рыб, реактивный двигатель, колесо и гребной винт намного совершенней). Так же и для создания ИИ не нужно эмулировать ни мозг, ни нейроны, ни эмоции и чувства.
По аналогии то же самое у человека. Мозг должен потреблять не более 10 вт с учетом поддержки координации, пищеварения, дыхания, зрения, слуха. Быть устойчивым к ударам (нужно много жесткой связной ткани), помещаться в ограниченной черепной коробке, рост какой-нибудь извилины коры мозга просто так невозможен, некуда ей расти.
Про эмуляцию мозга вообще непонятно, зачем его эмулировать? Это архаизм, которому десятки миллионов лет. Пример наглядного архаизма всех млекопитающих, доставшийся в наследство от рыб:
Нерв называется «возвратным», потому что он иннервирует мышцы гортани, проходя по сложной возвратной траектории: отходит от блуждающего нерва, который спускается из черепа в грудную клетку, и поднимается обратно к гортани.
Метр лишней нервной ткани, еще круче и жирафа, у которого нерв из мозга идет в грудь и обратно к горлу.
То же самое примерно и в мозге, набор архаизмов, которые чудом породили разум, не благодаря сложности мозга, а вопреки ему, случайный набор мутаций.
Думаю нет смыслы ни эмулировать мозг (мы же не эмулируем движение птиц, ноги лошадей и хвосты рыб, реактивный двигатель, колесо и гребной винт намного совершенней). Так же и для создания ИИ не нужно эмулировать ни мозг, ни нейроны, ни эмоции и чувства.
Если ИИ и презойдет человека по способностям, которыми обладает человеческий род, то не надо забывать о том, что одна из наших характерных особенностей — это умение ошибаться, заблуждаться и 'ходить по граблям'. Кто-тут кого опередит, сложно сказать, но, думается, что такие характеристики уравняют шансы в возможном соперничестве:) Может быть ИИ и тут будет уникален, но что-тоя сильно сомневаюсь, что в нашем мире, котрый зиждется на нелиненйных взаимосвязанных вероятностных процессах, у него получится что-то просчитать. Бояться появление ИИ, на мой взгляд, это как бояться пришествия инопланетян или появления тех же людей, которые будут умнее и смышленей нынешнего поколения. А относительно всемогущества или уязвимости достаточно просто подумать о нас самих — насколько мы сложны, интеллектуальны и, насколько, в то же время, уязвимы даже перед собой и окружающим миром.
На мой взгляд, все страхи перед ИИ — это просто рановидность стаха перед неизвестным. Как страхи перед ГМО, Pokemon GO или апокалипсисом :)
На мой взгляд, все страхи перед ИИ — это просто рановидность стаха перед неизвестным. Как страхи перед ГМО, Pokemon GO или апокалипсисом :)
Pokemon GO
В покемонов ИИ не играет, а в Go играл лучше любого человека, а то и всех людей вместе взятых.
в нашем мире, котрый зиждется на нелиненйных взаимосвязанных вероятностных процессах, у него получится что-то просчитать.
В игре как-раз нелинейные взаимосвязи и вероятностные процессы, так как ходы перебором не просчитываются. Как ИИ думает, выбирая более сильные ходы на основе ранее накопленного опыта, так и человек думает, выбирая более сильные ходы на основе своего опыта.
насколько мы сложны, интеллектуальны
умножьте мысленно 34234*34543 и картина мира упростится ))) Можно ограничения мозга потестировать на его поле, распознание картинок, в развлекательных картинках «найди кота» пол часа можно смотреть в картинку размеров 600х700 пикселей, мозг не видит очевидного, в идеальных то условиях, на экране.
У ИИ одни ограничения, они есть, не спорю, но он эволюционирует очень быстро, как аппаратно, так и программно. Так и у мозга есть ограничения, свои архаизмы, самый наглядный лишние метры нерва, и по сути структура мозга неизменна около 525 млн. лет с первых позвоночных, далее структура нервных тканей примерно так же сохранилась с множеством глюков, которые организмы тянут за собой миллионы лет. Эволюция уже не осилила крупных принципиальных изменений, только оптимизация по мелочам, насколько генетический алгоритм это позволяет. Алгоритм «оптимизации» органической жизни попал 525 млн. лет назад в локальный минимум ошибки и далее не мог из нее выбраться. А вот сейчас есть шанс для этого, что мы имеем возможность наблюдать, возможно как последнее поколение людей и органической жизни на планете вообще.
>>>В игре как-раз нелинейные взаимосвязи и вероятностные процессы, так как ходы перебором не просчитываются. Как ИИ думает, выбирая более сильные ходы на основе ранее накопленного опыта, так и человек думает, выбирая более сильные ходы на основе своего опыта."
Вчитайся в собственный текст. Какие еще нелинейные взаимосвязи? В ГО? Ты в нее хоть раз играл? В ГО полностью взаимосвязано все, что стоит и происходит на доске. Через влияние камней и групп, через адзи построений, формируется и разрушается строго линейно через джосеки, фусеки, судзи и т.д. В ГО сумасшедшее дерево принятия решений, это да. Но оно все-равно конечно. Если ты не понимаешь связь хода противника с предыдущими — ты проиграешь, она есть всегда, даже если ее смысл тебе не ясен.
Если число атомов в наблюдаемой вселенной оценивается как 10^79, а число уникальных шахматных партий (число Шеннона) составляет 10^118… то число уникальных партий в ГО где-то 10^769. Разумеется у нас нет техники, чтобы осуществлять перебор такого дерева за микросекунды.
Но AlphaGo и не занимается этим перебором, она обучалась по партиям профессионалов. Ее нейросети сконфигурированы для одной конкретной цели и обучены с учителем, на основе заранее размеченных партий. Дальше ей всего лишь нужно сводить ситуации на доске к имеющимся в этой памяти, которые ведут к одной из «победных ситуаций».
Безусловно, они проделали шикарную работу и я уверен там огромное количество технических, теоретических и прикладных сложностей, нюансов и подвигов.
Безусловно, она уделывает человека в скорости перебора, точности памяти и у нее нет влияющих на погрешность ходов эмоций, самочувствия и т. д.
Но интеллектом это называть очень и очень рано. Мы даже определения интеллекта, разума и сознания человека выводим друг через друга. Как создать синтетическое сознание, если мы даже не можем точно определить естественное в терминах? А вы уже разбежались до порабощения человечества, терпеть не могу спекуляции на шарлатанстве. Тем более здесь им не место.
Вчитайся в собственный текст. Какие еще нелинейные взаимосвязи? В ГО? Ты в нее хоть раз играл? В ГО полностью взаимосвязано все, что стоит и происходит на доске. Через влияние камней и групп, через адзи построений, формируется и разрушается строго линейно через джосеки, фусеки, судзи и т.д. В ГО сумасшедшее дерево принятия решений, это да. Но оно все-равно конечно. Если ты не понимаешь связь хода противника с предыдущими — ты проиграешь, она есть всегда, даже если ее смысл тебе не ясен.
Если число атомов в наблюдаемой вселенной оценивается как 10^79, а число уникальных шахматных партий (число Шеннона) составляет 10^118… то число уникальных партий в ГО где-то 10^769. Разумеется у нас нет техники, чтобы осуществлять перебор такого дерева за микросекунды.
Но AlphaGo и не занимается этим перебором, она обучалась по партиям профессионалов. Ее нейросети сконфигурированы для одной конкретной цели и обучены с учителем, на основе заранее размеченных партий. Дальше ей всего лишь нужно сводить ситуации на доске к имеющимся в этой памяти, которые ведут к одной из «победных ситуаций».
Безусловно, они проделали шикарную работу и я уверен там огромное количество технических, теоретических и прикладных сложностей, нюансов и подвигов.
Безусловно, она уделывает человека в скорости перебора, точности памяти и у нее нет влияющих на погрешность ходов эмоций, самочувствия и т. д.
Но интеллектом это называть очень и очень рано. Мы даже определения интеллекта, разума и сознания человека выводим друг через друга. Как создать синтетическое сознание, если мы даже не можем точно определить естественное в терминах? А вы уже разбежались до порабощения человечества, терпеть не могу спекуляции на шарлатанстве. Тем более здесь им не место.
Но интеллектом это называть очень и очень рано. Мы даже определения интеллекта, разума и сознания человека выводим друг через друга.
По определению уже не рано:
Интелле́кт — качество психики, состоящее из способности адаптироваться к новым ситуациям, способности к обучению на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой.
Программа адаптировалась на чемпионате к новым ситуациям, была обучена на основе опыта предыдущих игр, применяла абстрактные концепции (из глубин структуры своей нейросети) для управления ходом игры.
Как создать синтетическое сознание, если мы даже не можем точно определить естественное в терминах?
Природа тоже запустила сознание в мозгах позвоночных животных 525 млн. лет назад, не придумывая никаких терминов, просто усложняя структуру мозга, от единичных нейронов до отдельного органа, получив неожиданный эффект, понимание происходящего.
А вы уже разбежались до порабощения человечества, терпеть не могу спекуляции на шарлатанстве. Тем более здесь им не место.
Человечество так же не выглядит разумным в целом, отдельные структуры общественные с хаотичным вектором развития, огромные траты ресурсов в никуда, под 40 000 атомных боеголовок и т.п., это признак ошибок управления. По сути взаимодействие государств похоже на взаимодействие стай волков, некоторое взаимодействие с ограниченными сигнальными возможностями. Некоторая демонстрация силы, демонстрация намерений, постоянный риск самоликвидации из-за недоразумений.
«Порабощение человечества» устаревший термин, происходит более абстрактная дележка ресурсов корпорациями, которые будут всё больше полагаться на ИИ, сначала как на инструмент по сбору статистики, потом и для принятия ответственных решений. Или для поиска наиболее уязвимых мест у противника.
Тренд вообще на исключение человеческого фактора, как источник ошибок:
Процесс принятия управленческих решений связан с необходимостью обработки огромного количества информации, значительное превышение объема информации над физиологическими возможностями человеческого мозга по восприятию и обработки информации привели к необходимости применения технических средств. «В коммерческих организациях, решающих сложные задачи распределения значительных ресурсов, цена ущерба от выбора не самых лучших решений исключительно высока. Именно в таких ситуациях практически единственным эффективным средством минимизации ошибок при принятии решений является применение специальных методов, технологий и программных средств обработки информации, к которым относятся информационно-аналитические системы
То же самое у военных с 1985 года
«Периметр» обладает способностью в реальном времени анализировать тектоническую, радиационную, военную и политическую обстановку в мире — система одновременно оценивает сотни параметров, отслеживаемых в реальном времени, и сопоставляет их по сложным логическим алгоритмам. При этом система не может «по собственному желанию» начать активные действия в мирное время. Даже если вдруг пропала связь со всеми пусковыми установками и одновременно с этим случилось несколько мощных землетрясений, остается еще масса других логических параметров, которые за блокируют активацию режима «ответного удара».
Вот юмористический пример
В Дубае (Объединённые Арабскиех Эмираты), на международном шахматном турнире разразился скандал, связанный с тем, что гроссмейстер Гайоз Нигалидзе из Грузии, часто отлучался в туалет. Организаторы соревнований заподозрили его в жульничестве. Как оказалось, в одной из кабинок находится смартфон, подключенный к одной из социальных сетей.
По ходу партии шахматист постоянно бегал в туалет, где сверял ходы с приложением на смартфоне, сообщается на официальном сайте турнира.
Если честно не совсем пойму как с возможностями сегодняшних ЭВМ можно создать ИИ. Не возможно все варианты и условия каких-то событий забить в машину, когда их просто астрономическое количество. Самый простейший пример — переводчики. Уже сколько лет пытаются что-то сделать, но толку почти ноль. Технологии всё те же.
Что-то сильно забыто о киборгах, соединящих человеческий интеллект и машинный. Они-то первыми и захватят мир, побыстрее всяких бесцельных железяк.
«AI – новый враг или новый бог»
Зачем здесь «или»?
Есть нейронные сети и люди «не знают, как они работают». С таким подходом ИИ точно не стоит делать тогда. В чём сложность разобраться в работе сетей?
Зачем здесь «или»?
Есть нейронные сети и люди «не знают, как они работают». С таким подходом ИИ точно не стоит делать тогда. В чём сложность разобраться в работе сетей?
Не понял, что негативного в констатации объективного эволюционного факта, что каждый вид является бутлоадером для следующего за ним.
Hope we're not just the biological boot loader for digital superintelligence.
Перефразируя классиков, вполне возможен расклад, что человечество — это промежуточное звено эволюции, необходимое природе, чтобы создать венец творения — шоколадно-кремовый торт с ликёром и вишенкой :)
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
«Пятничный формат»: AI – новый враг или новый бог