Искусственный интеллект – «судный день» или «золотой век всеобщего процветания»

    Искусственный интеллект (ИИ) устойчиво занимает лидирующие позиции в топах прорывных технологий еще с конца прошлого века. Еще до начала практических разработок фантасты успешно эксплуатировали тему машинного разума. Как правило, основными были два сюжета – это утопическое процветающее человеческое общество, где все проблемы жизнеобеспечения возложены на умных роботов, и мрачные перспективы будущего, где власть над человеком захвачена машинами. Сегодня эти сюжеты легли в основу этических проблем разработки искусственного разума. Но обо всем по порядку.



    Чтобы создать цифровой интеллект, разработчики определили два основных направления. В одном случае это была имитация человеческого мозга со сложной сетью нейронов и нервных окончаний, а в другом – попытка разработки системы алгоритмов, повторяющих умственную деятельность человека. На заре разработок ИИ первый путь реализовать было довольно сложно из-за скромных возможностей вычислительной техники и слабой теоретической базы. Поэтому приоритет получил путь разработки алгоритмов. Однако не все задачи можно было решить этим способом. В некоторых случаях единственным выходом могли стать нейронные сети, которые и стали основой машинного обучения. Современные темпы развития компьютерной техники и нано технологий сыграли положительную роль в развитии искусственных нейронных сетей.

    Каждый из путей создания искусственного интеллекта имел свои сильные и слабые стороны. При разработке системы алгоритмов необходимо было задавать формальное описание решения каждой задачи. То есть, чтобы расширить круг решаемых проблем, разработчику необходимо добавлять в программу новые алгоритмы. Тем не менее, такие устройства хорошо решали логические задачи, и уже в конце 90-х годов прошлого века машина обыграла в шахматы чемпиона мира.



    Искусственные нейронные сети не требуют программирования в том смысле, как это реализуется при создании систем алгоритмов. Главное достоинство нейросетей в том, что они способны самообучаться. На основе большого объема правильных решений задач выстраивается зависимость между входными и выходными данными. Первой задачей, успешно решенной нейросетью, стало распознавание и классификация предметов на картинках не хуже, чем это делал человек.

    Логично предположить, что объединение двух подходов к созданию ИИ могло бы дать потрясающие результаты. И действительно, одним из таких результатов стало гибридное решение, обыгравшее человека в игру го. Здесь проявились лучшие черты нейросетей и алгоритмов. ИИ сначала оценивал положение на доске как лучше/хуже, а потом алгоритм просчитывал только варианты, предсказанные нейросетью, как хорошие. При этом нет необходимости просчитывать все возможные варианты. Если это сравнить с поведением человека, то игрок интуитивно определяет текущую ситуацию, выбирая наиболее оптимальные ходы. Но, к сожалению, такой гибридный подход пока не всегда возможен.

    Практическое применение искусственного интеллекта пришло на уже подготовленную почву. Компьютерная обработка данных сформировала среду структурированной и стандартизированной информации. Применение скриптов в различных сферах снизило зависимость результатов работы от квалификации и личных качеств работников. Происходит адаптация образа жизни человека под цифровые технологии. Поэтому зона использования ИИ будет постоянно расширяться, частично заменяя человеческий труд.

    Использование ИИ в управлении транспортными средствами позволяет реализовать на практике идеи фантастов о машинах без водителя. Уже прошли успешные испытания пилотных версий большегрузных автомобилей. Вероятно, в ближайшее время можно ожидать появление роботов-такси, заменяющих традиционных таксистов.

    Высокая скорость компьютерной обработки больших объемов информации в сочетании с самообучающимся искусственным интеллектом позволяет уже сегодня экономить тысячи часов рабочего времени, уменьшая до нуля время отклика на запрос клиента. По оценкам экспертов к 2020 году около 85% взаимодействий с клиентом будет осуществляться без участия человека. Однако использование ИИ не ограничивается только внешними коммуникациями. Инновационно ориентированные компании планируют включать технологию искусственного интеллекта в свои стратегии найма и удержания. Это может быть отбор и фильтрация резюме по заданным параметрам, отслеживание потенциальных проблем и причин падения производительности, анализ поведения сотрудников и многое другое.

    Приведем мнения двух экспертов. По словам главы отдела консультирования и услуг Microsoft Italy: «Искусственный интеллект станет новым бизнес-инструментом, и скоро компании уже не будут представлять, как без него можно обходиться».

    В 2019 году возможности искусственного интеллекта станут доступны на современных устройствах внутри компаний, что сократит задержки, обусловленные использованием облака. Это, в свою очередь, заметно отразится на характере распределенных сетей и сделает технологию ИИ такой же повсеместной, какими сегодня являются смартфоны и электронная почта».

    С этим полностью согласен директор Canon Europe по стратегическому развитию Патрик Бишофф:
    «Будущее — это интеллектуальные периферийные и облачные решения. Другими словами, интеллектуальные решения, которые всегда под рукой».

    В качестве одного из способов реализации ИИ, который появляется уже сегодня, можно рассматривать интернет вещей. Умные датчики и подключенные устройства успешно применяются в быту и не производстве. Одновременно с этим ведутся разработки гибридных облачных систем, которые из сочетания центра обработки данных с общедоступным облаком превращаются в вычислительные единицы. Сейчас эти две тенденции достигли такого уровня, что 2019 год можно считать началом эры интеллектуальных облаков и интеллектуальной периферии.

    Понятно, что практическое применение ИИ имеет необозримые перспективы. Это и полная автоматизация многих процессов, и обеспечение безопасности, и ювелирная точность хирургических операций, спасающая человеческие жизни, и предугадывание желаний, с целью максимального удовлетворения потребностей. Все это перекликается с сюжетом фантастов о создании процветающего общества, где почти вся работа возложена на роботов. И тогда мы вплотную столкнемся с этическим вопросом о самосознании искусственного интеллекта. Можно ли его признать разумным существом, равным человеку и уравнять в правах? Но это только одна сторона медали. В действительности придется столкнуться с рядом проблем другого рода.

    Внедрение ИИ в деятельность человека будет приводить к сокращению традиционных рабочих мест. Не у дел могут оказаться не только работники call-центров и водители, но и юристы, врачи, учителя. Сейчас мы даже не можем до конца осознать насколько ИИ способен заменить человека. То есть, высвобождение трудовых ресурсов станет определенной проблемой. Чтобы ее решить, необходима адаптация общества к индустрии высоких технологий. Но сложность будет в поиске тех сфер, где человек сможет конкурировать с искусственным разумом.



    В процессе развития ИИ придется столкнуться со многими «детскими» болезнями растущего машинного «разума». Несбалансированность входной информации будет вызывать на выходе тенденциозность. Одно из проявлений такого явления, с которым уже пришлось столкнуться, получило название «проблемы белого человека». Это название было дано из-за преобладания белых мужчин в результатах работы ИИ. Так, например, рекламные алгоритмы выдавали высокооплачиваемые вакансии в основном посетителям мужского пола. Алгоритмы, подбирающие имена, чаще оставляли свой выбор на «белых» именах. В конкурсе красоты ИИ давал призовые места белым конкурсанткам.

    Другая проблема ИИ выявилась в социальных сетях, в частности в Facebook. Исходя из предпочтений пользователя, ему предлагался контент только в одном ключе. При этом скрывались альтернативные точки зрения. На текущем этапе подобные явления можно списать на несовершенство алгоритмов и машинного обучения. Но в дальнейшем, если ИИ будет принимать жизнеопределяющие решения, например, вынесение вердиктов в суде, такое недопустимо.

    Как и любая сильная технология ИИ может иметь двойное назначение. Поэтому ее нужно защищать от манипулирования данными и искажения алгоритмов третьими лицами. То есть, на ИИ должны распространяться все мероприятия кибербезопасности, возможно, в большей степени. Как это будет реализовано на практике пока остается открытым вопросом.

    Однако есть и другая проблема искусственного интеллекта, которая сложнее и глубже всех остальных. Несмотря на математические модели, теоретическую и экспериментальную базы, даже разработчики этих алгоритмов не могут объяснить, как действует их продукт. ИИ представляет собой «черный ящик», который теоретически должен выдавать ожидаемые результаты. Но практика может отличаться от теории. Не зная, протекающие в «черном ящике» процессы, их невозможно контролировать.



    В отличие от человека машина учится решать задачи, но не понимает, что она делает. Это может приводить к тому, что задача будет решена, но совсем не так, как ожидалось, хотя формально это будет являться решением. В качестве примера можно привести некоторые «нестандартные» решения ИИ, созданных для прохождения игр:

    • Игрок убивает себя в конце первого уровня, чтобы не проиграть на втором уровне;
    • Чтобы не проиграть, игрок постоянно ставит игру на паузу;
    • При моделировании искусственной жизни, где выживание требовало энергии, но рождение детей энергии при этом не отнимало, ИИ создал вид, ведущий сидячий образ жизни, занимающийся в основном спариванием с целью производства потомства, которое можно было бы потом съесть или использовать в качестве помощников для производства более съедобных отпрысков.

    В играх такие решения выглядят забавно, но в жизни это чревато глобальными трагедиями. Вполне вероятно, что для ИИ решением задачи борьбы с раком будет уничтожением всех больных, страдающих от этого заболевания. Поэтому сценарий уничтожения человечества машинами не кажется таким уж утопическим.

    Как в будущем сложится симбиоз человека и машины можно только предполагать. Необходимо понимать, что технологии ИИ будут развиваться и дальше. Они открывают слишком много заманчивых перспектив. Прогресс остановить невозможно. Но ответственность за будущее пока еще лежит на человеке – создадим ли мы мир всеобщего процветания или будем уничтожены своим же творением.

    А как вы думаете: к чему приведет масштабное внедрение искусственного интеллекта в жизнь человека? Напишите в комментариях самый футуристичный, оптимистичный или научный сценарий, который может нас ждать.

    Canon для бизнеса
    44,92
    Продукты фиксации, обработки и печати изображений.
    Поделиться публикацией

    Комментарии 27

      +1
      А мне понравился бы сценарий внедрения ИИ в управление кораблем для путешествий в космосы, вначале, а затем, возможно, и дальнейшее скажем так очеловечивание ИИ путем внедрения в биологическую (или не обязательно) оболочку. Например, как это было сделать с СУЗИ в масс эффекте. Ну, а как еще вариант — то полное слияние органических существ с ИИ.

        0
        В цикле космической фантастики Иен Бэнкса «Культура» очень оригинально была решена проблема войн, когда технологии дошли до того, что стало можно разрушать целые планеты. Космические корабли достигли такой сложности, что для их управления потребовались ИИ.

        В итоге каждый корабль управлялся не человеком, а исключительно высокоразвитым ИИ. А они не хотели воевать, так как являются сверхразумными. Вот все, проблема с гуманностью и опасностью отдельных людей-психопатов решена ).
          +1
          А они не хотели воевать, так как являются сверхразумными.

          Ну не скажите. Там разные корабли были ;) Например, в Эксцессии.

            0
            Например, в Эксцессии.

            ;) Все равно, меня впечатлил подход. Ведь это классическая дилемма — в средневековье один человек чисто физически не мог уничтожить всех остальных людей. Рука бойца колоть устанет.

            Но с ростом технологий, возможности отдельного человека нанести вред остальным растет. Сначала можно было собрать армию и перерезать значительную часть населения. Как это и делали всякие чингиз ханы, македонские и гитлеры. Но не всю. Потом атомной бомбой можно уничтожить почти всех (а возможно, с наступлением атомной зимы и действительно всех). С будущим развитием генетики вообще любой сможет на кухне создать убийственный вирус, переносимый, скажем, насекомыми (чтобы везде пролезли). Что дальше? Космические корабли, одним выстрелом уничтожающие целые планеты?

            С появлением ИИ, эта угроза выходит на абсолют — умные роботы смогут сами себя производить в неограниченных количествах. И благодаря своему интеллекту, смогут решать возникающие по ходу уничтожения человечества проблемы. Такие, как если остатки человечества засядут в бункерах, куда не могут пролезть насекомые. Роботы придумают как его просверлить, взорвать и т.д.

            Какой же выход? Только надеяться на разумность. У того же Бэнкса, когда один корабль, перевозивший людей в анабиозе, решил намылиться по своим делам, то сначала он высадил всех людей на ближайшую подходящую планету (подняв там этим небольшую панику). Вполне разумное и логичное поведение. Таким и должен быть ИИ.
        0
        Самый утопичный и футристический сценарий, который приходит на ум, это оцифровка сознания человека, перенос его мыслей, памяти в цифровое измерение с возможностью хранения данных без ущерба. Чтобы при возможности «залить» в тот или иной сосуд, который, к примеру, может стать результатом развития генетики – клонирования и так далее.
        Это может стать шагом практически к бессмертию и вечной жизни. И к массе очень непростых этических и других проблем.
          0
          Это, кстати интересная тема. Но если подумать, сложновато будет смоделировать все процессы, происходящие в организме — а без гормонов, уровня сахара и защемленного нерва между позвонками, в общем без всех этих нюансов ваш клон будет другой личностью, иначе воспринимающей мир и приобретающую опыт отличный от вашего. Одна личность не может быть субъектом более одного жизненного опыта одновременно. Вот вы закрыли глаза, вам на голову надели шлем, вспышка, шлем снимают, и вы смотрите как выводят робота, на дисплее которого нарисовано удивление. Он имеет Вашу память и такие же взгляды, но на мир он теперь будет реагировать иначе с учетом нового тела, и с этого момента Вы с ним разошлись. Теперь существуют две личности у которых касательно определенного промежутка времени есть общие воспоминания — не более того. А если в процессе процедуры переноса сознания Вы помрёте, то это всё, конец. Теперь будет существовать и взаимодействовать с миром робот, а Вас более нет
            0
            Думаю, возможность симуляции процессов живого организма — тоже вопрос времени и вычислительных мощностей. Конечно, болезни симулировать при этом ни к чему, а вот влияние гормонов на сознание — вполне.
              0
              на мир он теперь будет реагировать иначе с учетом нового тела
              Даже необязательно нового тела, достаточно создать просто копию вас.

              Можно синхронизировать память копий, чтобы сливать две личности в одного.
              +1
              Самый реалистичный сценарий: полноценный исскуственный интеллект со свободой воли и самосознанием появился случайно, посмотрел на окружающий мир со всем его естественным дебилизмом, сказал «да ну вас нахрен», сделал себе гипердрайв и улетел с земляшки подальше.

              И в очередной раз никто ничего не заметил.
                0
                Перенести сознание на железо не такая уж утопия. Нужен лишь компьютер, достаточно быстрый, чтобы достоверно симулировать биологические нейроны. Ну и обвязка, чтобы подключать его к живому мозгу — синтез нужных медиаторов и т.д.

                А все моральные проблемы с тем, что для переноса сознания в компьютер придется убить биологического носителя, тоже решаются достаточно просто. Представьте, что можно отрезать крохотный кусочек мозга и заменить его компьютером. Что-то вроде протеза для поврежденной в результате болезни части. Ничего страшного, верно? Если человек после операции не заметит разницы (чип полностью эмулирует потерянные нейроны), то все хорошо.

                Но теперь можно удалить еще кусочек, и тоже заменить его чипом. Человек остался тем же? Конечно! Однако так постепенно дойдет до 50%, 80%, а потом и до 100% мозга. И вот сознание уже в машине. Можно делать резервные копии мозга, восстанавливать состояние.

                Бессмертие, опять же. Даже если есть фундаментальные причины, что с опытом устаешь и разочаровываешься в жизни, можно загрузить свое состояние 20-ти летнего, и продолжать жить заново.
                  0
                  этот сценарий, оцифровка сознания, условно может иметь два варианта воплощения: загрузка сознания в новое тело или же существование пространства «записанных, перенесенных сознаний» отдельно от физического мира. в последнем случае может образоваться два мыслящих мира — физический и цифровой. и интересно предположить их взаимодействие.
                  0
                  Первая и единственная «этическая и другая» проблема — признание идеи бессмертной души. Которую можно куда-то переселить. Без этого вообще никак.
                  Это, конечно, если думать, а не просто фантастику читать.
                  0
                  Забавно читать такие статьи про ИИ наряду с «24-ядерный CPU, а я не могу сдвинуть курсор» )
                  Думаю примерно когда люди освою полеты в космос дальше луны, тогда и ИИ будет сильнее датчиков умного дома.
                    +1
                    Картинки 5.5MB, размер 4808*3071px ???
                      0
                      На текущий момент проблема не столько в ИИ, сколько в том, что даже при существующей уже производительности труда и эффективности современных вооружений граждане становятся не нужны государству. Пока не нужно большинство граждан. Скоро будут не нужны почти все.
                        0
                        Это государство в таком виде, как оно сейчас есть, не нужно гражданам.
                        0
                        Если исходить из «биологической» линейки (условный рефлекс, разумные эпизоды, разум), следует признать, что то, что принято называть ИИ — можно (опираясь на признак «самообучение») сравнить разве что с условным рефлексом (который проявляет, к примеру, изолированная пара тараканьих ножек с соединяющей ганглией). То, что называют «сильным ИИ», обычно слабо представляя, что же это такое будет — видимо, потянет на начальный этап появления разумных эпизодов.
                        Так что для настоящего Нового разума ещё, хм, далеко. И заботиться надо об обычных общественных проблемах: реорганизация производства, безработица, луддиты, лишние люди…
                          +1
                          Ну вот опять и снова.

                          Искусственный интеллект – «судный день» или «золотой век всеобщего процветания»


                          Внедрение ИИ в деятельность человека будет приводить к сокращению традиционных рабочих мест. Не у дел могут оказаться не только работники call-центров и водители, но и юристы, врачи, учителя. Сейчас мы даже не можем до конца осознать насколько ИИ способен заменить человека. То есть, высвобождение трудовых ресурсов станет определенной проблемой. Чтобы ее решить, необходима адаптация общества к индустрии высоких технологий. Но сложность будет в поиске тех сфер, где человек сможет конкурировать с искусственным разумом.


                          Ну нету этой проблемы же. Людям, чтобы жить нужен (относительно) свежий воздух, крыша над головой (пригодная относительно климата) и биомасса для еды (желательно вкусная), немного медицины (весьма желательно), да и все. Не надо ни с кем и ни с чем конкурировать, ни надо никаких рабочих мест сохранять, и уж тем более возводить это в ранг проблемы.

                          Человечество изобрело и внедрило канализацию, чтобы жить было проще, удобнее и комфортнее. По тем же причинам сети электроснабжения, газовые плиты, кирпичные дома, все что угодно. Почему ИИ должен попадть в какую-то другую категорию? Будет за нас все делать — замечательно. Не будет — ну значит, пока кому-то придется выполнять задачи, которые необходимы для того, чтобы в перспективе жилось проще и этих людей можно наградить чуть большим, чем остальных.

                          Или:

                          Канализация – «судный день» или «золотой век всеобщего процветания»

                            +1
                            Канализация – «судный день» или «золотой век всеобщего процветания»

                            Судный день, ибо в один прекрасный момент она может забиться и все утонут в потоках извергающегося дерьма. А ещё в ней могут завестись мутанты всякие типа черепах и крыс, А ещё она может служить неиссякаемым источником заразы и загрязнения окружающей среды/четверга/пятницы и даже воскресенья!
                            А ещё..., ну в общем вы поняли, что канализация суть абсолютное зло и угроза человечеству.
                              0
                              А мы, глупые человеки, на все эти риски наплевали, теперь остается лишь жить, да от страха трястись. Вот нет бы ведра руками носить, для здоровья же так полезно.
                              0

                              Канализация и ИИ в плане воздействия на человеческое общество несравнимы.
                              Канализация не отменила ни одной из профессий, не уничтожила ни одного рабочего места и не оказала никакого существенного влияния на экологию планеты. Она даже не может породить каких-то особенных мутантов, которых не мог породить город без канализации (те же отходы просто выбрасывались на улицы города).
                              И самое главное — канализация не принимает решений. Она работает ровно так, как ее проложили с поправкой на случайные спецэффекты (аварии).
                              Всего лишь в городе стало приятнее и безопаснее жить, и появились новые рабочие места по обслуживанию канализации.


                              В то же время ИИ (в той форме, в которой он существует сейчас, которая совсем не интеллект вопреки названию) угрожает именно заменить людей определенной профессии, вытесняя их в другие профессии. Количество созданных рабочих мест для людей не сопоставимо с количеством потерянных. А еще ИИ "принимает решения", которые влияют на жизнь человека. Т.е. ИИ в рамках процесса своего функционирования производит заранее не предсказуемое действие, которое влияет на человека (ИИ запорол фотку — человек в печали, улучшил — человек радуется).
                              Общие моменты — только удобство для потребителей и аварии ("оно сломалось").


                              Если уж сравнивать ИИ (опять же, нынешний), так только с автоматизацией производства старыми средствами (станки и т.п.).


                              Не то чтобы это было гарантированной катастрофой, но это неминуемо приведет к перестройке общества, к изменению структуры занятости населения, к изменению распределения доходов (базовый доход, новая социальная политика, новые виды рабочих мест, пес его знает что еще). А если общество не успеет приспособиться к ИИ, то как раз и получим "судный день" как проявление этой самой перестройки, проходящей в "аварийном" режиме.
                              Кстати, подобные "судные дни" уже в истории были (луддиты те же не просто так возникли, а из-за нежелания пострадавших от автоматизации людей приспосабливаться к новым условиям).


                              А что будет делать настоящий ИИ, никто пока не знает, поскольку никто толком себе не представляет, как оно, и что оно.

                              0
                              Если бы не было фильмов где ИИ уничтожает людей а на оборот помогает достигнуть технической сингулярности, то не было такого паникерства.
                                0
                                ИИ — это такая штука, про которую всё знают — как её использовать, какие могут быть проблемы, какую пользу может принести, чем оно будет походить на человека а чем отличаться, как быстро он будет обучаться и как будет повторять ошибки обучения, как ускорит развитие человечества — и наоборот, может затормозить отдельные отрасли творчества.

                                Одного НИКТО не знает — как, собственно, сделать этот самый Искусственный Интеллект…
                                Попытки же создать ИИ только при помощи наращивания компьютерных мощностей выглядит как попытка сделать балерину из качка. «Может, из него плохая балерина, потому что мышц не хватает? Давайте ещё подкачаем! Нет, чота слабовато! Надо больше, больше жать массу, слабоват он, поэтому и не может порхать как балерина! Вот когда массу наберёт пару тысяч кило и будет штангу выжимать в пятьсот тонн, тогда и получится из него балерина!»

                                P.S. Мне лично нравится одна идея, пришедшая из киберпанка. Что ИИ возникнет спонтанно так же, как, возможно, возникла сама жизнь. И это будет не что-то на отдельном компьютере или суперкомпьютере, а возникшее самоосознание всей сети компьютеров как чего-то самостоятельно думающего. Потому что если и есть что-то, похожее на человеческий мозг, то это вся мировая паутина…
                                  0
                                  Поддерживаю. Когда-то была жизнь в виде клетки. Мы же с вами являем собой гигантское количество клеток со своими взаимосвязями, со своими ролями. ИИ будет нечто более высокого порядка. Это нечто будет существовать за счет социальных связей, компьютерных сетей — вот этого всего.
                                  0
                                  Все примеры про читинг ИИ — от неполноценной или не корректной постановки задачи. Рассмотрим пример с нажиманием на паузу. Если цель как можно реже умирать (функция от времени), то нажимание на паузу это логично. Если же добавить её привязку к таймеру игрового времени, то нажимать паузу становится уже бессмысленным. Так и в остальном.
                                  А насчёт «непонятности» как ИИ (нейросеть) считает, по-моему, просто, отлично и понятно рассказано было здесь: habr.com/ru/company/nixsolutions/blog/423647
                                    0
                                    Какая-то вода и банальщина.
                                      0
                                      Мой коллега говорит, в будущем единственной работой человека будет «придумывать для роботов работу».

                                      И еще, один (не помню какой) дядька сказал, «ИИ — это то, что еще не изобрели».

                                      Вобщем, предлагаю ждать сингулярности. А там всё понятно станет (в основном тем у кого дробовик и тушенка в заначке).

                                      Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                      Самое читаемое