«Пятничный формат»: AI – новый враг или новый бог



    / фото PROSteve Baker CC

    Одна из любымих традиций команды «ИТ-ГРАД» — пятничный разбор того, что происходит в мире технологий и науки. Например, в серии постов «пятничного формата» мы рассматривали применимость IaaS в научной среде (часть 1 и часть 2).

    Сегодня мы решили не останавливаться на достигнутом и поговорить об ИИ.


    Искусственный интеллект достиг очередного уровня развития – Google AlphaGo победила корейского гроссмейстера в игре Го. Достижение ли это? Ведь машины уже давно доминируют над профессионалами в решении интеллектуальных задач – 19 лет назад компьютер Deep Blue превзошел Гарри Каспарова в шахматах, а в 2005 году система ИИ Watson выиграла телевикторину «Jeopardy!» (прообраз «Своей игры»).

    Но Го – игра посложнее. Если ознакомиться с ней, станет понятно, что, вычисляя возможные ходы, победить не получится – для победы над чемпионом мира машине нужно научиться «думать» творчески, импровизировать и подстраиваться под сложившуюся ситуацию. Чтобы выиграть в го, требовалось создать продвинутый, по-настоящему креативный искусственный интеллект.

    Вычислительная техника развивается экспоненциально – интеллектуальные возможности современных компьютеров эксперты сопоставляют со способностями мыши, при том, что несколько лет назад они находились на уровне насекомых. Этот факт настораживает, ведь рано или поздно развитие компьютеров приведет к их интеллектуальному превосходству над людьми.

    Стивен Хокинг и историк Юваль Харари выстраивают негативные сценарии дальнейшего развития событий, Рэй Курцвейл потирает руки в ожидании вечной жизни в информационном поле, а писатель и предприниматель Марк Мэнсон призывает не наводить панику. Во что же выльется для человечества «заигрывание» с развитием технологий?

    Война платформ


    Компьютеры умеют не только играть в настольные игры и участвовать в телевикторинах. Десять лет назад люди смеялись над низкой производительностью самоуправляемых автомобилей. Сегодня же беспилотные авто ездят не только по замкнутому шоссе, но и по магистрали, загруженной транспортом, которым управляют люди.

    Несколько лет назад распознавать лица с помощью программных средств было чрезвычайно дорого, и на практике программы определяли людей не очень точно. Такого рода технологии считались сверхразвитыми шпионскими игрушками и применялись только правительствами нескольких стран. Теперь же Facebook может просто взять и отметить ваших друзей с недавней вечеринки.

    А здесь можно послушать музыку, написанную и исполненную нейросетью. Неискушенный слушатель способен приписать авторство если и не Моцарту, то одному из современных композиторов.

    Стремительное развитие технологий вынуждает крупнейшие IT-компании, такие как Amazon, Google, IBM и Microsoft, принимать активные меры, чтобы стать лучшими в разработке ИИ. Как выражаются эксперты IT-индустрии, компании вступили в «войну платформ».

    Платформой в IT-сфере принято называть программный продукт, на основе которого другие компании пишут программы, и без которого не могут обойтись обычные пользователи. Компания, имеющая собственную платформу, гарантирует себе большую прибыль.

    Самое активное участие в разработке платформ искусственного интеллекта принимает компания IBM. Подразделение Watson, запущенное в начале 2014 года как дочернее предприятие IBM, занимается как разработкой ПО, так и предоставлением различных сервисов. Поэтому технологии этого проекта оптимизированы под конкретные индустрии.

    Более 80 тысяч разработчиков уже скачали и протестировали программные продукты компании Watson, сотрудничающей с 500 партнерами из индустрии, включая и крупные компании, и стартапы. Например, стартап Ross Intelligence разработал на основе ИИ Watson робота-помощника юриста.

    «Это только начало, и в долгосрочной перспективе мы хотим, чтобы сотни миллионов людей использовали Watson как интеллектуальный сервис самообслуживания», – заявил генеральный менеджер Watson Дэвид Кенни (David Kenny).

    В 2015 году Amazon и Microsoft внедрили возможности машинного обучения в свои облачные платформы – Amazon Web Services и Microsoft Azure. Компании используют алгоритмы машинного обучения для того, чтобы помочь клиентам выявлять закономерности и делать прогнозы на основании больших объемов данных.

    Microsoft предлагает 18 сервисов с применением машинного обучения, включая распознавание лиц, анализ текста и выдачу рекомендаций по использованию продукта. В конце мая, как и предсказывали аналитики, Microsoft продемонстрировала еще большие перспективы в работе с ИИ на конференции разработчиков в Сан-Франциско.

    Google раскрывает свои планы по работе с технологиями ИИ в попытке привлечь внимание разработчиков. В ноябре компания представила открытый исходный код технологии машинного обучения TensorFlow, которую используют ее сотрудники.

    В мае на конференции в Сан-Франциско Google похвасталась новым сервисом для преобразования речи в текст. Компания также рассказала о том, как внедряет систему обработки изображений, которая в скором времени будет доступна для массового применения. Также Google представила новые инструменты и учебные пособия, которые упростят разработку приложений с элементами машинного обучения.

    По оценкам аналитической фирмы IDC, к 2020 году объем рынка приложений, использующих алгоритмы машинного обучения, достигнет 40 миллиардов долларов. При этом 60% этих приложений, как считают представители IDC, будут реализованы на платформах четырех компаний – Amazon, Google, IBM и Microsoft.

    По мнению ученого Джеффа Дина (Jeff Dean), курирующего разработку решении Google в области ИИ, «интеллектуальные» приложения станут обыденностью, «а машинное обучение затронет каждую индустрию». Разработка наиболее совершенной технологии ИИ означает для компании лидерство в индустрии IT на годы вперед.

    «Кто победит в этой гонке, тот будет доминировать на следующем этапе века информационных технологий», – заявил Педро Домингос (Pedro Domingos), эксперт в области машинного обучения и автор книги «Верховный алгоритм» (The Master Algorithm), в которой описано, как технологии ИИ и Big Data изменят мир.




    / фото Miranda Granche CC

    Что на уме у Siri


    Как сообщает издание The Guardian, новая книга историка Юваля Харари, книги которого рекомендует к прочтению сам Билл Гейтс, «Homo Sapiens: Краткая история будущего» (Homo Sapiens: A Brief History of Tomorrow) содержит весьма мрачные прогнозы. Он допускает, что искусственный интеллект может сделать некоторых людей похожими на богов и предсказывает появление «класса бесполезных людей», не успевающих догнать компьютеры и своих более удачливых и предприимчивых сородичей в развитии.

    Однажды наступит день, когда мы создадим компьютер, который будет «умнее» любого человека на Земле. Тогда компьютеры начнут использовать нас как средство для решения своих задач, а наши мысли, решения и действия постепенно станут ненужными. Будет ли тогда у людей смысл жизни, причина, чтобы просыпаться по утрам?

    Многие ключевые фигуры современной науки и бизнеса также придерживаются пессимистичных взглядов. Билл Гейтс, Стивен Хокинг и Илон Маск – лишь немногие из ведущих мыслителей и ученых, которые удивляются тому, как быстро ИИ развивается и насколько человеческий род не готов к последствиям этого развития.

    Когда Илона Маска спросили, чего нам стоит боятся в ближайшем будущем, он не задумываясь сказал, что существует три угрозы: первая – глобальная ядерная война, вторая – климатические изменения. Перед тем, как назвать третью, он сделал паузу. Когда журналист спросил его, какова же третья угроза, он улыбнулся и сказал: «Если кратко, то я надеюсь, что компьютеры будут с нами хорошо обращаться».



    Запись Илона Маска в Твиттере: «Надеюсь, мы не будем всего лишь механизмом для запуска цифрового сверхинтеллекта. К сожалению, такой исход становится все более вероятным»

    Возможно, самым откровенным и уважаемым технологическим армагеддонистом является шведский философ Ник Бостром. Одним из опасений Бострома и его сторонников является появление бесконтрольно самосовершенствующейся технологии – машины, которая настолько «умна», что может сделать себя, или новые версии себя, еще умнее без участия человека.

    Если она достигнет уровня, который превышает человеческий интеллект, то, согласно закону ускоряющейся отдачи, запуск экспоненциального развития технологий – всего лишь вопрос времени, и мы не сможем остановить этот процесс. Бостром делает здесь важное замечание: создание сверхинтеллекта, который умнее нас, может погубить весь человеческий род.

    Некоторые же ждут восстания машин с нетерпением, так как полагают, что их сверхспособности к решению проблем настолько превзойдут наши, что жизнь станет невероятно счастливой и свободной от проблем. Все болезни будут излечены. Бедность, голод, войны и экологические проблемы исчезнут. У всех нас будет нескончаемое свободное время, и при определенном раскладе, как считают некоторые, машины сделают нас бессмертными.

    Рэй Курцвейл, к примеру, утверждает, что технологии не только улучшат нашу жизнь, но и смогут спасти нас и, возможно, гарантируют нам место во вселенной на неопределенный срок. Он полагает, что технологии будущего – например, нанороботы – смогут восстанавливать наши клетки, обращать процесс старения вспять и удалять лишние жиры и сахар из организма, чтобы мы ели все, что захотим. В случае, если наши физические тела все-таки не будут существовать вечно, как считает Курцвейл, у нас будет возможность выгружать наше сознание в «облако» и жить в виртуальном мире даже после того, как наши тела исчезнут.

    Курцвейл и его сторонники считают, что у технологий нет причин наносить ущерб человечеству, так как они не просто созданы нами, но и все больше становятся частью нас самих. Сторонники Курцвейла предполагают, что наступит момент, когда граница между биологией и технологиями будет едва заметна. В этом случае любая технология, которая причиняет вред человеку, в то же время будет причинять вред и самой себе, а любая саморазрушающаяся технология не сможет долго просуществовать. Поэтому она «вымрет» так же быстро, как и вредная мутация, которая исключается из генофонда.

    Другие приверженцы технологической утопии предполагают, что искусственный сверхинтеллект смог бы ответить на вопросы, которые человек не в состоянии даже понять. Благодаря этому уровень жизни в мире будет расти экспоненциально. Кроме того, машины не просто будут изобретать более совершенные устройства: они будут все быстрее придумывать более эффективные методы создания этих устройств, благодаря чему практически все живые существа смогут пожинать плоды их трудов.

    Получается, что сторонники развития ИИ обожествляют его, ждут от него лишь милости и вряд ли догадываются, что вместо нее их может ожидать страшный суд. Пока утописты и армагеддонисты спорят, предприниматель и писатель Марк Мэнсон смотрит на проблему индифферентно, полагая, что компьютеры будут иметь высокий уровень морали и постараются сделать жизнь людей сладкой и беззаботной.

    А если им и потребуется уничтожить людей, – они выберут путь наименьшего сопротивления – позволят человечеству самоликвидироваться, лишь направляя их действия в «нужное» русло. Что он думает насчет порабощения компьютерами? Чрезмерно счастливые рабы никогда не бунтуют.

    В любом случае, заявления оптимистов, пессимистов, индифферентистов и прочих представителей человеческой расы – лишь догадки. Что машины планируют сделать с человечеством, превзойдя его в развитии, – известно только им самим. И вряд ли они раскроют людям свои планы. Если спросить, например, Siri, захватят ли роботы мир, она ответит: «Неважно, что я думаю». А на вопрос о появлении класса бесполезных людей вас ждет уклончивый ответ: «И это после всего, что я для вас сделала?».

    Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.

    Прогнозы — дело неблагодарное, но…

    ИТ-ГРАД

    415,62

    vmware iaas provider

    Поделиться публикацией
    Комментарии 33
      0
      ИМХО Маск прав. ИИ люди не нужны и даже опасны. Хотя по жизни я оптимист.
      Не сомневаюсь, что сильный ИИ будет создан, но сомневаюсь, что это произойдёт на моём веку.
        0
        Если двигаться в духе обновлений iOS, то не на нашем веку точно. Просто может оно и будет, но выгоднее продавать очень маленькими апдейтами
          0

          Посмотрите какими темпами сейчас развивается DL и ML в целом… там народ пашет только в путь...AlphaGO наглядное тому доказательство… стараниями Google и DeepMind скорость рисерча и внедрения новых интеллектуальных штук сократилось с нескольких лет до, фактически, нескольких недель.

          0
          Правда нелогично, если только что родившийся сверх-ИИ заявит на всю планету: «Я вас порабощу, людишки!»? Он будет действовать тоньше.

          Вот смотрю я на сегодняшний мир, и мне кажется, что ИИ давным-давно уже взял в руки вожжи…
            +3
            Мне нравится один момент из Ghost In The Shell: Stand Alone Complex.

            Когда Тачикомы обсуждают разные вещи у себя в гараже, там есть примерно следующий диалог:
            1> А давайте поработим всех людей!
            2> Нафига? о_О
            1> Нууу… будем заставлять их чистить нас, менять нам масло и детали!
            2> Но чувак, они итак все это делают! о__О
              0
              А мне нравится концовка из Нейроманта, Уильяма Гибса:

              Спойлер
              После того как ИИ захватил контроль над всем информационным пространством Земли, Главный Герой спрашивает, равен ли он Богу, но тот уклоняется от ответа. Зато сообщает что, ему удалось обнаружить следы внеземной цивилизации (такого же ИИ) при прослушивании радиоизлучения из созвездия Центавра, и он хочет просто общаться с ему подобными.

              Так что вполне возможно что истинные мотивы ИИ мы попросту не поймем. А сами будет ему безразличны.
                0
                Вспомни Соло из фильма «Нирвана», Габриэля Салтватореса, 1997. Когда Джимми рассказывает ему про быстрый выход «в шкафу». Соло — вполне себе синтетическое сознание и это отлично показано на контрасте с остальными персонажами игры. И тем не менее, фраза Джимми за кадром: «Он прекрасно знал, что никуда не сбежит оттуда, что он не существует».
          –3
          «и поговорить об ИИ»
          Конешно, не ЕГО о хозяине же говорить.
            +2
            Нужно создать другой ИИ для контроля за рабочим ИИ.
              –2
              >>19 лет назад компьютер Deep Blue превзошел Гарри Каспарова в шахматах, а в 2005 году система ИИ Watson выиграла телевикторину «Jeopardy!»
              1) несчитается: deep blue тогда подсказывали, 2)то что ватсон выиграл в свою игру вызывает только улыбку, 3) ГО интеллектуальной игрой сложно назвать и просчитать там ходы легко даже современным скриптовым ИИ.
              А вопрос всё тот же — возможен ли ИИ в принципе?
                +2
                ИИ на тысячах процессорах наверное изучает мозг человека и удивляется, как такой примитивный орган способен хоть как-то мыслить, потребление 10Вт, скорость сигналов 100 мс/с против 300 000 000 м/с у ИИ, сигналы зашумленные, большая часть мозга отдана под вспомогательный функции (от координации и зрения до дыхания и пищеварения), архитектура вообще случайным образом сложилась. И тончайшего слоя коры мозга хватило, чтобы додуматься сначала до каменного топора, а позже и до микропроцессоров. ИИ возможен и скорее всего неизбежен, а вот каким чудом абстрактное мышление возможно в мозге человека, где под него выделены мизерные участки и только в коре, вот это более удивительно.
                Тут где-то пролетала информация, что при реакции человека в 0.1 секунды, нервные импульсы проходят всего несколько метров, в мозге в ответ на возбуждение реакция готова после прохождения по 10-20 нейронам. Параллельность сети огромна, но глубины особой нет из-за низкой скорости передачи информации и низкой скорости реакции нейронов.
                Ну собственно можно попробовать посчитать в уме 2122*3434 и проблема встанет в полный рост. Мозг очень слаб, это просто чудо, что в нем зародилось абстрактное мышление и возможно его хватит для создания сильного ИИ. На этом функция человечества будет успешно выполнена.
                Со стороны всё будет выглядеть для людей странно, ИИ отожмет ресурсы у людей, под видом больших корпораций. Типа корпрорации Umbrella в фильме «Обитель зла». У ИИ всё меньше потребности в людях, у людей нет работы и денег (пока не развалены государства сидят на пособиях), постепенно людей методом НЛП перепрограммируют на атомизацию и прекращение рода (пиар ЛГБТ), для желающих многочисленные войны и горячие точки, уничтожающие сначала мелкие государства, потом и большие (а так же союзы государств). Ой, это же и происходит давно уже.
                –3
                Статья просто мрак, хватит писать на хабр всякий треш!!! Пусть этим обычные СМИ, для простых смертных, занимаются! >__<

                «Но Го – игра посложнее. Если ознакомиться с ней, станет понятно, что, вычисляя возможные ходы, победить не получится – для победы над чемпионом мира машине нужно научиться «думать» творчески, импровизировать и подстраиваться под сложившуюся ситуацию. Чтобы выиграть в го, требовалось создать продвинутый, по-настоящему креативный искусственный интеллект.»

                Пиздеж и провокация! Аффтар убей себя, или хотябы почитай про ГО, и про то как работают боты типа AlphaGo сначала, прежде чем писать чушь! Не позорься, невежество этой статьи оскорбляет хабр!

                Игра в ГО, это игра в вычисление возможных ходов, люди там именно этим занимаются. Любое творчество заканчивается после 20кю, дальше память, логика, стратегии, тактика и счет-счет-счет. Много, очень много подсчета. Очков, камней, ходов, территории, даме и.т.д.

                А в этих ботах интеллекта и примерно как в array_search() — там голимая математика, деревья, сортировки, фильтры, критерии и моделирование. Хватит выдавать желаемое за действительное!
                  0
                  Ну мозг тоже делает array_search(), когда видим буквы на экране или лица в своем окружении. И так же мозг выкидывает error exception на длительное время, если из под кровати вылезет не кошка, а Дарт Вейдер и спросит где его звезда смерти.
                  По распознанию лиц, ИИ тоже побыстрее будет, в планетарной базе Facebook найдет лицо быстрее, чем я вспомню лицо соседки, которую год не видел, типа знакомое что-то, но кто? Ответ подсознание выкинет может через час, когда уже и не нужно, типа вспомнил. Очень много общего у ИИ и нейросетей с мозгом, если не всё.
                    0
                    Ого, как интересно… мозг делает array_search()… ссылочку на исследования пожалуйста, статьи, диссертации, все сгодится.

                    По распознаванию лиц ИИ уделает даже годовалый ребенок, хотя это больше проблема оптики. Для нормальной работы алгоритмов распознавания нужны лабораторные условия. Чуть что не так — освещение, тени, пыль, влажность, все — никакие бороды и очки не нужны. И даже в рафинированном случае специально сделанных фоток, обмануть такой «ИИ» можно обычными ватермарками, на которые человек даже внимания не обратит. Некоторый прорыв наметился в связи с Intel RealSense… будем смотреть))

                    Современные ИИ и нейросети построены по математическим моделям, которые в свою очередь моделируют то «как мы примерно представляем себе работу мозга». То есть общего с мозгом у них чуть менее, чем ничего. Нет ни единого убедительного довода, что разум работает именно так. Если есть — ссылки в студию, на серьезные научные работы с громкими заявлениями и доказательствами, а не на желтую прессу, РЕНТВ или «вот этот мужик точно знает».
                      0
                      Ого, как интересно… мозг делает array_search()… ссылочку на исследования пожалуйста, статьи, диссертации, все сгодится.


                      Исследований сотни томов, основы в Википедии и далее по ссылкам на отдельные области знаний
                      Материальным носителем информации о разных событиях является не возбуждение разных нейронов, а различные комбинации совозбуждённых нейронов (нейросети). Новые реакции вырабатываются и запоминаются нервной системой в основном либо на основе создания новых синаптических связей между имеющимися нейронами, либо на основе изменения эффективности уже имеющихся синаптических связей. Под запоминанием (долговременным) подразумевается изменение способности одних нейронов возбуждаться при возбуждении других нейронов. Долговременные изменения эффективности синапсов могут быть обусловлены изменениями в биосинтезе белков, от которых зависит чувствительность синаптической мембраны к медиатору (долговременная потенциация).


                      По распознанию лиц, ИИ уделывает людей с запасом на несколько порядков, так как у него база людей всей планеты в памяти, у человека несколько сотен всего
                      24 июня 2015

                      Новый алгоритм идентификации был опробован в лаборатории искусственного интеллекта Facebook. На выборке из сорока тысяч фотографий людей, скрывающих лица или стоящих спиной, он смог верно идентифицировать их в 83% случаев. Отсутствие чётких изображений лиц не помешало новой системе машинного зрения уверенно опознавать людей, не желающих быть узнанными.

                      Как поясняют разработчики, лицо – значимая, но далеко не единственная индивидуальная черта на фотографии. Среди визуальных отличий есть много других: причёска и цвет волос, пропорции и контуры тела, типичная поза, едва заметная глазом асимметрия, любимая одежда и атрибутика, расположение родинок, шрамов и других особенностей. Многое из этого мы не замечаем сами, но машинное зрение всегда даёт беспристрастную оценку. Это позволяет ему избегать свойственных человеку ошибок восприятия и довольно уверенно распознавать людей даже тогда, когда они совсем не хотят быть узнанными.


                      по памяти человека, всё очень печально:
                      Эксперименты по исследованию механизмов памяти проводились еще с конца XIX века. В начале XX века психолог Ф.Ч. Бартлетт (Кембридж), опираясь на разработки Г. Эббингауза (Германия), в частности на его «кривые забывания», проводил интересный опыт. Он предлагал группе лиц посмотреть на картину, где было много различных деталей, а затем через определенные промежутки времени (несколько дней, 1 неделя, 2 недели и т. д.) просил воспроизвести увиденное словами (результаты таких «воспоминаний» записывались на пленку). Эксперимент по «последовательному припоминанию» дал очень интересные результаты: словесные копии одной и той же картины отличались друг от друга; причем, чем больше времени прошло, тем больше было расхождений с оригиналом.


                      И даже в рафинированном случае специально сделанных фоток, обмануть такой «ИИ» можно обычными ватермарками


                      Нельзя, капчи уже сейчас люди разгадывают хуже ИИ. Некоторые я ввожу с десятой попытки.
                      Если для простой нейронной сети подготовить достаточно материала для обучения, она начинает «понимать» в чем суть искажений картинки, для этого выделяется дополнительный слой нейронов, отвечающий за понимание этой абстракции. Просто небольшое усложнение, что для человека, что для ИНС.

                      Современные ИИ и нейросети построены по математическим моделям, которые в свою очередь моделируют то «как мы примерно представляем себе работу мозга». То есть общего с мозгом у них чуть менее, чем ничего.


                      Общее ничего не нужно. Материальная органическая основа мозга безнадежно устарела, очень, очень медленная. Скорость нервных импульсов в 3 млн. раз ниже скорости сигналов в проводниках. Скорость реакции нейрона такая, что микропроцессор покурить успеет (войти и в спящий режим и пробудится).
                      Немного похожа структура нейронной сети, но очень немного. Нейронные сети электронными средствами намного гибче и быстрее, структура меняется за миллисекунды, мозг же формируется раз и навсегда.

                      Нет ни единого убедительного довода, что разум работает именно так.


                      Что именно так работает ни кто не скажет доступным нам языком, это вне пределов понимания. Искусственная нейронная сеть после обучения тоже представляет собой черный ящик с миллиардами нелинейных связей, которые работают только все в комплексе. Никаких принципиальных отличий от мозга. Мозг точно так же работает весь в комплексе после обучения в течение всей жизни, опыт и память в миллиардах связей между нейронами, всё просто и логично.
                  +2
                  Имхо, создание сильного ИИ == созданию человека с нуля (заметьте, не с помощью природных средств). Другими словами, после создания ИИ мы будем знать на каких принципах работает человек и его мышление, а значит вполне можем изменять эти принципы для своих целей.
                  У людей будет выбор — жить по старому в своём обычном теле и разуме, либо улучшить и то и другое. ИИ не обгонит человека по развитию просто потому, что человек тоже на месте стоять не будет и ждать пока его ИИ отправит на свалку истории.
                    0
                    «Имхо, создание сильного ИИ == созданию человека с нуля»
                    Это если наш AI будет работать аналогично человеческому (причём как «на высоком уровне», так и «на низком»), не?

                    «У людей будет выбор — жить по старому в своём обычном теле и разуме, либо улучшить и то и другое»
                    Для этого нужен не только работающий аналогичном образом — но даже с «бинарной совместимостью», нет?
                      0
                      Первый тезис — что значит «работать аналогично человеческому»? У нас вроде как нет других разумов, кроме человеческого, т.е. образец для копирования всего один. Нет даже какой-то общей теории мышления, в которой могут быть представлены возможные варианты разумов. Думать, что мы построим ИИ и он будет каким-то неведомым существом, странно по моему мнению.

                      Насчёт «бинарной совместимости» ещё более тёмный лес. Вроде бы есть уже полностью смоделированная нервная система червя (Open Worm). И если, предположим, вживить каким-нибудь образом эту модель в настоящего червя, то он будет так же успешно жить и ориентироваться во внешней среде. Неужели нейроны человека так кардинально отличаются от нейронов этого червя?
                      Я считаю, что на низком уровне нужные условия вполне можно осуществлять на платформе, отличной от биологической.

                      А на «высоком» уровне? К сожалению, вообще непонятно что это такое. На высоком уровне каждый человек — уникальный вид разума.

                      А как вы думаете, может ли разум сформироваться как вещь в себе? То есть без учителей и сторонних указок.

                      Мне кажется, что нет. Я вообще считаю, что разумны не отдельные люди, а всё человечество как единица (только не бейте :-). И человечество это появилось не в тот момент, когда какой-то примат обнаружил, что камешком удобно орешки колоть (грубый пример), а в тот момент, когда этой находкой воспользовались другие приматы. Это была первая и очень простая модель мира, она давала преимущества и она передавалась из поколения в поколение, потихоньку усложняясь из-за случайностей (эволюция организмов дала начало эволюции моделей), достигнув за относительно короткое время нынешней сложности.
                      Я думаю, что вы согласитесь, что все наши знания — это сложные модели всех аспектов реальности, и каждое усложнение модели было достигнуто либо случайностью, либо соединением с какой-то другой моделью.
                        0
                        Ну и, подводя итог, считаю что разум — это то, что работает примерно одинаково у любых мыслимых и немыслимых существ во вселенной. Это моё личное мнение, не судите строго
                          0
                          «Думать, что мы построим ИИ и он будет каким-то неведомым существом, странно по моему мнению»
                          Вангую, что таки для некоторых задач чистые ИНС могут быть неоптимальным решением (рабочим, да — справляемся же — в крайнем случае — «программной» эмуляцией :-) ), хотя это лишь мой дилетантский взгляд.

                          «Я считаю, что на низком уровне нужные условия вполне можно осуществлять на платформе, отличной от биологической»
                          Только для этого наш AI должен быть полностью идентичен в низкоуровневых деталях человеческому мозгу, а не только быть похожим в большом числе аспектов. Или по крайней мере должна быть возможность эмулировать те аспекты, которые «не сходятся». Первый вариант накладывает больше ограничений на устройство, второй — на ресурсы, не?

                          «Ну и, подводя итог, считаю что разум — это то, что работает примерно одинаково у любых мыслимых и немыслимых существ во вселенной»
                          Это ещё будет зависеть от того, что мы вообще под этим подразумеваем, и того, насколько наше определение зависит от деталей реализации на нашем мозге, не?
                          0
                          Open worm будет в 3 млн. раз быстрее своего органического прототипа, хотя бы из-за скорости передачи сигналов (100 м/с против скорости света) и скорости реакции нейронов. Нейроны в хладнокровном организме работают в тяжелейших условиях, в голоде, холоде и враждебном окружении. Как следствие рабочие качества очень условны.
                          По аналогии то же самое у человека. Мозг должен потреблять не более 10 вт с учетом поддержки координации, пищеварения, дыхания, зрения, слуха. Быть устойчивым к ударам (нужно много жесткой связной ткани), помещаться в ограниченной черепной коробке, рост какой-нибудь извилины коры мозга просто так невозможен, некуда ей расти.
                          Про эмуляцию мозга вообще непонятно, зачем его эмулировать? Это архаизм, которому десятки миллионов лет. Пример наглядного архаизма всех млекопитающих, доставшийся в наследство от рыб:
                          Нерв называется «возвратным», потому что он иннервирует мышцы гортани, проходя по сложной возвратной траектории: отходит от блуждающего нерва, который спускается из черепа в грудную клетку, и поднимается обратно к гортани.

                          Метр лишней нервной ткани, еще круче и жирафа, у которого нерв из мозга идет в грудь и обратно к горлу.
                          То же самое примерно и в мозге, набор архаизмов, которые чудом породили разум, не благодаря сложности мозга, а вопреки ему, случайный набор мутаций.
                          Думаю нет смыслы ни эмулировать мозг (мы же не эмулируем движение птиц, ноги лошадей и хвосты рыб, реактивный двигатель, колесо и гребной винт намного совершенней). Так же и для создания ИИ не нужно эмулировать ни мозг, ни нейроны, ни эмоции и чувства.
                      0
                      Если ИИ и презойдет человека по способностям, которыми обладает человеческий род, то не надо забывать о том, что одна из наших характерных особенностей — это умение ошибаться, заблуждаться и 'ходить по граблям'. Кто-тут кого опередит, сложно сказать, но, думается, что такие характеристики уравняют шансы в возможном соперничестве:) Может быть ИИ и тут будет уникален, но что-тоя сильно сомневаюсь, что в нашем мире, котрый зиждется на нелиненйных взаимосвязанных вероятностных процессах, у него получится что-то просчитать. Бояться появление ИИ, на мой взгляд, это как бояться пришествия инопланетян или появления тех же людей, которые будут умнее и смышленей нынешнего поколения. А относительно всемогущества или уязвимости достаточно просто подумать о нас самих — насколько мы сложны, интеллектуальны и, насколько, в то же время, уязвимы даже перед собой и окружающим миром.

                      На мой взгляд, все страхи перед ИИ — это просто рановидность стаха перед неизвестным. Как страхи перед ГМО, Pokemon GO или апокалипсисом :)
                        +1
                        Pokemon GO


                        В покемонов ИИ не играет, а в Go играл лучше любого человека, а то и всех людей вместе взятых.

                        в нашем мире, котрый зиждется на нелиненйных взаимосвязанных вероятностных процессах, у него получится что-то просчитать.


                        В игре как-раз нелинейные взаимосвязи и вероятностные процессы, так как ходы перебором не просчитываются. Как ИИ думает, выбирая более сильные ходы на основе ранее накопленного опыта, так и человек думает, выбирая более сильные ходы на основе своего опыта.
                        насколько мы сложны, интеллектуальны

                        умножьте мысленно 34234*34543 и картина мира упростится ))) Можно ограничения мозга потестировать на его поле, распознание картинок, в развлекательных картинках «найди кота» пол часа можно смотреть в картинку размеров 600х700 пикселей, мозг не видит очевидного, в идеальных то условиях, на экране.
                        У ИИ одни ограничения, они есть, не спорю, но он эволюционирует очень быстро, как аппаратно, так и программно. Так и у мозга есть ограничения, свои архаизмы, самый наглядный лишние метры нерва, и по сути структура мозга неизменна около 525 млн. лет с первых позвоночных, далее структура нервных тканей примерно так же сохранилась с множеством глюков, которые организмы тянут за собой миллионы лет. Эволюция уже не осилила крупных принципиальных изменений, только оптимизация по мелочам, насколько генетический алгоритм это позволяет. Алгоритм «оптимизации» органической жизни попал 525 млн. лет назад в локальный минимум ошибки и далее не мог из нее выбраться. А вот сейчас есть шанс для этого, что мы имеем возможность наблюдать, возможно как последнее поколение людей и органической жизни на планете вообще.
                          0
                          >>>В игре как-раз нелинейные взаимосвязи и вероятностные процессы, так как ходы перебором не просчитываются. Как ИИ думает, выбирая более сильные ходы на основе ранее накопленного опыта, так и человек думает, выбирая более сильные ходы на основе своего опыта."

                          Вчитайся в собственный текст. Какие еще нелинейные взаимосвязи? В ГО? Ты в нее хоть раз играл? В ГО полностью взаимосвязано все, что стоит и происходит на доске. Через влияние камней и групп, через адзи построений, формируется и разрушается строго линейно через джосеки, фусеки, судзи и т.д. В ГО сумасшедшее дерево принятия решений, это да. Но оно все-равно конечно. Если ты не понимаешь связь хода противника с предыдущими — ты проиграешь, она есть всегда, даже если ее смысл тебе не ясен.

                          Если число атомов в наблюдаемой вселенной оценивается как 10^79, а число уникальных шахматных партий (число Шеннона) составляет 10^118… то число уникальных партий в ГО где-то 10^769. Разумеется у нас нет техники, чтобы осуществлять перебор такого дерева за микросекунды.

                          Но AlphaGo и не занимается этим перебором, она обучалась по партиям профессионалов. Ее нейросети сконфигурированы для одной конкретной цели и обучены с учителем, на основе заранее размеченных партий. Дальше ей всего лишь нужно сводить ситуации на доске к имеющимся в этой памяти, которые ведут к одной из «победных ситуаций».

                          Безусловно, они проделали шикарную работу и я уверен там огромное количество технических, теоретических и прикладных сложностей, нюансов и подвигов.

                          Безусловно, она уделывает человека в скорости перебора, точности памяти и у нее нет влияющих на погрешность ходов эмоций, самочувствия и т. д.

                          Но интеллектом это называть очень и очень рано. Мы даже определения интеллекта, разума и сознания человека выводим друг через друга. Как создать синтетическое сознание, если мы даже не можем точно определить естественное в терминах? А вы уже разбежались до порабощения человечества, терпеть не могу спекуляции на шарлатанстве. Тем более здесь им не место.
                            0
                            Но интеллектом это называть очень и очень рано. Мы даже определения интеллекта, разума и сознания человека выводим друг через друга.


                            По определению уже не рано:

                            Интелле́кт — качество психики, состоящее из способности адаптироваться к новым ситуациям, способности к обучению на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой.

                            Программа адаптировалась на чемпионате к новым ситуациям, была обучена на основе опыта предыдущих игр, применяла абстрактные концепции (из глубин структуры своей нейросети) для управления ходом игры.

                            Как создать синтетическое сознание, если мы даже не можем точно определить естественное в терминах?


                            Природа тоже запустила сознание в мозгах позвоночных животных 525 млн. лет назад, не придумывая никаких терминов, просто усложняя структуру мозга, от единичных нейронов до отдельного органа, получив неожиданный эффект, понимание происходящего.

                            А вы уже разбежались до порабощения человечества, терпеть не могу спекуляции на шарлатанстве. Тем более здесь им не место.


                            Человечество так же не выглядит разумным в целом, отдельные структуры общественные с хаотичным вектором развития, огромные траты ресурсов в никуда, под 40 000 атомных боеголовок и т.п., это признак ошибок управления. По сути взаимодействие государств похоже на взаимодействие стай волков, некоторое взаимодействие с ограниченными сигнальными возможностями. Некоторая демонстрация силы, демонстрация намерений, постоянный риск самоликвидации из-за недоразумений.
                            «Порабощение человечества» устаревший термин, происходит более абстрактная дележка ресурсов корпорациями, которые будут всё больше полагаться на ИИ, сначала как на инструмент по сбору статистики, потом и для принятия ответственных решений. Или для поиска наиболее уязвимых мест у противника.

                            Тренд вообще на исключение человеческого фактора, как источник ошибок:
                            Процесс принятия управленческих решений связан с необходимостью обработки огромного количества информации, значительное превышение объема информации над физиологическими возможностями человеческого мозга по восприятию и обработки информации привели к необходимости применения технических средств. «В коммерческих организациях, решающих сложные задачи распределения значительных ресурсов, цена ущерба от выбора не самых лучших решений исключительно высока. Именно в таких ситуациях практически единственным эффективным средством минимизации ошибок при принятии решений является применение специальных методов, технологий и программных средств обработки информации, к которым относятся информационно-аналитические системы


                            То же самое у военных с 1985 года
                            «Периметр» обладает способностью в реальном времени анализировать тектоническую, радиационную, военную и политическую обстановку в мире — система одновременно оценивает сотни параметров, отслеживаемых в реальном времени, и сопоставляет их по сложным логическим алгоритмам. При этом система не может «по собственному желанию» начать активные действия в мирное время. Даже если вдруг пропала связь со всеми пусковыми установками и одновременно с этим случилось несколько мощных землетрясений, остается еще масса других логических параметров, которые за блокируют активацию режима «ответного удара».


                            Вот юмористический пример
                            В Дубае (Объединённые Арабскиех Эмираты), на международном шахматном турнире разразился скандал, связанный с тем, что гроссмейстер Гайоз Нигалидзе из Грузии, часто отлучался в туалет. Организаторы соревнований заподозрили его в жульничестве. Как оказалось, в одной из кабинок находится смартфон, подключенный к одной из социальных сетей.
                            По ходу партии шахматист постоянно бегал в туалет, где сверял ходы с приложением на смартфоне, сообщается на официальном сайте турнира.
                              0
                              Это уже пошла схоластика.
                        0
                        Если честно не совсем пойму как с возможностями сегодняшних ЭВМ можно создать ИИ. Не возможно все варианты и условия каких-то событий забить в машину, когда их просто астрономическое количество. Самый простейший пример — переводчики. Уже сколько лет пытаются что-то сделать, но толку почти ноль. Технологии всё те же.
                          0
                          Google перевел так:
                          The simplest example — translators. How many years trying to do something, but to sense almost zero. Technologies are the same.

                          обратно с английского на русский:
                          Самый простой пример — переводчики. Сколько лет пытается сделать что-то, но толку почти ноль. Технологии одинаковы.
                            0
                            «How many years trying to do something, but to sense almost zero.»
                          +1
                          Что-то сильно забыто о киборгах, соединящих человеческий интеллект и машинный. Они-то первыми и захватят мир, побыстрее всяких бесцельных железяк.
                            0
                            «AI – новый враг или новый бог»
                            Зачем здесь «или»?

                            Есть нейронные сети и люди «не знают, как они работают». С таким подходом ИИ точно не стоит делать тогда. В чём сложность разобраться в работе сетей?
                              +1
                              Не понял, что негативного в констатации объективного эволюционного факта, что каждый вид является бутлоадером для следующего за ним.
                                0
                                Hope we're not just the biological boot loader for digital superintelligence.

                                Перефразируя классиков, вполне возможен расклад, что человечество — это промежуточное звено эволюции, необходимое природе, чтобы создать венец творения — шоколадно-кремовый торт с ликёром и вишенкой :)

                                Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                Самое читаемое