Искусственный интеллект

По мере совершенствования ИИ военных роботов суть войны меняется

Чешский писатель Карел Чапек в 1920 году написал пьесу R.U.R. (Rossum’s Universal Robots, “Россумские универсальные роботы”), в котором подарил миру слово «робот». В его пьесе всё начинается с искусственных людей – роботов, которые трудятся на фабриках и производят недорогие товары. А заканчивается всё тем, что роботы уничтожают человечество. Так и родился долгоживущий сюжет НФ: роботы выходят из-под контроля и превращаются в неудержимые машины для убийства. Литература и кино 20 века продолжают снабжать нас примерами роботов, разрушающих мир, а Голливуд постоянно превращает его во франшизы-блокбастеры: Матрица, Трансформеры, Терминатор.

В последнее время страх превращения фантастики в реальность поддерживается стечением обстоятельств, среди которых – усовершенствования ИИ и робототехники, распространение военных беспилотников и наземных роботов в Ираке и Афганистане. Крупнейшие державы разрабатывают интеллектуальные вооружения с разными степенями автономии и летальности. Большинство из них в скором времени будут удалённо контролироваться людьми, без команды которых робот не сможет нажимать на спусковой крючок. Но, скорее всего,- а по мнению некоторых, даже вне всякого сомнения,- в какой-то момент роботы смогут действовать полностью автономно, и в военном деле будет перейдён Рубикон: впервые набор микрочипов и ПО будет решать, жить человеку или умереть.

Неудивительно, что угроза появления роботов-убийц, как их ласково прозвали, привела к страстным дебатам. По разные стороны спора находятся те, кто боится, что автоматическое оружие начнёт всеобщую войну и уничтожит цивилизацию, и те, кто утверждает, что новое оружие – всего лишь очередной класс оружия точного наведения, который уменьшит, а не увеличит количество жертв. В декабре более ста стран будут обсуждать этот вопрос на встрече НАТО по разоружению в Женеве.

Господа! У меня уже две различные организации спрашивали совета про оборудование лаборатории роботики. Причем не для младших детей, а для старших школьников + младших студентов, с возможностью расширения до старших студентов и исследовательских проектов. То есть ожидается, что в лаборатории будут использоваться профессиональные средства разработки, а не упрощенные, наподобие Лего и недостаточно гибкого Ардуино. Кроме этого, ожидается, что роботы будут делать что-нибудь умное, с распознаванием образов и ситуаций, чтобы можно было бы назвать «лаборатория робототехники и интеллектуальных систем».

По этому поводу я хочу устроить обсуждение:

1. Ниже я перечислю несколько платформ, которые я собираюсь привезти в августе в Казахстан и в октябре-ноябре в Россию и Украину. Я знаю, что на большинстве из этих платформ кто-нибудь да построил робота. Но каких из этих платформ подходят для роботики с вашей точки зрения?

2. У меня не очень много опыта с моторчиками и другими активаторами. Где и что бы вы купили для преподавания робототехники (как специализации программирования встроенных систем)?

Восемь платформ у меня на руках:

В свете последних тенденций, направленных на всестороннее развитие мощи ИИ, большинство последователей этого безусловно перспективного направления почему-то сознательно или нет, но вовсе не рассматривают в качестве альтернативы искусственно улучшенный человеческий интеллект (УИ). Вопрос, далеко не праздный и некоторые исследователи проблемы убеждены: технологически «улучшенный» человеческий мозг вполне сможет состязаться, а во многих случаях и превосходить по своим возможностям ИИ. Насколько это мнение далеко от истины и что это, собственно, такое: усиленный/улучшенный человеческий интеллект?

IBM с суперкомпьютером Watson выходит на рынок беспилотного транспорта. Но не в качестве робота-водителя, а как собеседник для пассажиров 12-местного электроавтобуса. Автобус будет объяснять своё поведение на дороге и рассказывать о ресторанах и достопримечательностях, чтобы вызвать у людей доверие к беспилотному транспортному средству.

Но это должен быть ИИ, обладающий сознанием



Энди Рубин, один из создателей ОС Android, часто делает предсказания о будущем технологий, и большинство предсказаний сбывается. Кроме того, над многими перспективными направлениями в разработке аппаратного и программного обеспечения он работал в прошлом. Эти направления практически всегда превращались из чисто концептуальных в реальные. Конечно, наиболее известным продуктом Рубина является ОС Android.

Сооснователем Android он стал еще в 2003 году, а уже в 2005 компания была продана Google. В результате производители смартфонов получили универсальную платформу, которую можно использовать на многих типах устройств. Через некоторое время это спровоцировало бурное развитие мобильной сферы. Сейчас Android обеспечивает функционирование многих тысяч девайсов, включая умные часы, телефоны, планшеты, телевизоры, фитнес-трекеры и разного рода IoT системы. Но что будет дальше? Каким должно быть будущее смартфонов? По мнению Рубина, будущее — это сильный искусственный интеллект, осознающий собственное существование.

Система IBM Watson уже выучила японский язык, научилась ставить диагнозы и находить индивидуальный способ лечения для пациентов со сложными заболеваниями. Также IBM Watson умеет составлять рецепты вкусных блюд и помогает бизнесу.

Пришло время пополнить багаж знаний системы еще одной профессией — специалиста по информационной безопасности. Начиная с этого месяца, объединенная команда ученых из восьми университетов мира займется обучением IBM Watson. Продолжительность учебы — год. После получения диплома когнитивная система сможет помогать в борьбе с киберпреступлениями.

Сотрудники лаборатории информатики и искусственного интеллекта (CSAIL) Массачусетского технологического института и подразделения Google Research спроектировали нейросеть, которая обучилась озвучивать произвольный видеоряд, генерируя реалистичные звуки и предсказывая свойства объектов. Программа анализирует видео, распознаёт объекты, их движение и тип соприкосновения — удар, скольжение, трение и так далее. На основании этой информации она генерирует звук, который человек в 40% случаев считает более реалистичным, чем настоящий.

Учёные предполагают, что эта разработка найдёт широкое применение в кинематографе и на телевидении для генерации звуковых эффектов по видеоряду без звука. Кроме того, она может быть полезна для обучения роботов лучше понимать свойства окружающего мира.

Если для ценителей футбола Чемпионат Европы — крупнейшее спортивное событие года, то для крупнейших IT-корпораций и всех тех, кто скрупулезно отслеживает все происходящее в мире нейросетей и Big Data — уникальный шанс оценить нынешние возможности ИИ на его альтернативном поприще. О том, насколько велика вероятность того, что в ближайшее время интеллектуальные оракулы таки лишат работы и дохода букмекерские конторы с учетом текущих и ранее сделанных прогнозов читайте в нашей новостной публикации.

Примерно неделю назад я прочитал эссе The Empty Brain («Пустой мозг») Роберта Эпштейна, доктора наук Гарвардского Университета и ведущего психолога-исследователя в Американском Институте Поведенческих Исследований и Технологий в Калифорнии. Несмотря на то, что мне это не свойственно, я решил написать ответ и утверждаю, что оригинальное эссе вовсе не отражает реального положения вещей.

Краткое введение

В своём эссе Роберт Эпштейн утверждает, что ментальная модель человеческого мозга и процессы мышления не могут быть сравнены с ИП — информационным процессингом — происходящим внутри компьютера.

Кажется, что автор описывает ИП всего лишь как набор предопределённых алгоритмов, заложенных программистами, или как процесс записи фотографий на жёсткий диск. Поэтому, утверждает он, мы ошибаемся, когда используем эту абстракцию для описания нашего мозга.

Роберт Эпштейн также приводит примеры, которые поначалу выглядят весьма убедительно, но, на самом деле, вводят читателя в заблуждение, поскольку трудно представить, чтобы человек думал таким образом (и я не знаю ни одного учёного, чьё мнение напоминало бы это):

Взгляд со стороны ИП требует от игрока в бейсбол прикидывать множество начальных условий полёта мяча: силу удара, угол траектории, такого рода вещи — чтобы затем создать и проанализировать внутреннюю модель пути, по которому мяч будет двигаться, и затем использовать эту модель, постоянно корректируя свои движения, чтобы поймать мяч.

Ну, нет. Это так не работает.

Когда, за бутылкой пива, я заводил разговор о нейронных сетях — люди обычно начинали боязливо на меня смотреть, грустнели, иногда у них начинал дёргаться глаз, а в крайних случаях они залезали под стол. Но, на самом деле, эти сети просты и интуитивны. Да-да, именно так! И, позвольте, я вам это докажу!

Допустим, я знаю о девушке две вещи — симпатична она мне или нет, а также, есть ли о чём мне с ней поговорить. Если есть, то будем считать это единицей, если нет, то — нулём. Аналогичный принцип возьмем и для внешности. Вопрос: “В какую девушку я влюблюсь и почему?”

Можно подумать просто и бескомпромиссно: “Если симпатична и есть о чём поговорить, то влюблюсь. Если ни то и ни другое, то — увольте.”

В 16 играх машины одолели человека (в 17, если брать в расчет поражение Ли Седоля в го), но в будущем их ждут еще более впечатляющие достижения: решение самых ошеломляющих математических, физиологических и биологических проблем, победа над болезнями и старостью, ликвидация дорожных аварий, триумф в военных конфликтах и многое другое.

Мир изменился прямо на наших глазах, но не все заметили это. Когда и как программы научились играть безошибочно? Всегда ли проигрыш одного человека свидетельствует о поражении всего человечества? Обретет ли искусственный интеллект сознание?

Об авторе. Статья основана на лекции «Искусственный интеллект. История и перспективы», проведенной в московском офисе Mail.Ru Group Сергеем oulenspiegel Марковым. Сергей Марков занимается machine learning в «Сбербанке». В банковской сфере строят предиктивные модели для управления бизнес-процессом на основе достаточно больших обучающих выборок, которые могут включать несколько сотен миллионов кейсов. Среди своих хобби Сергей указывает шахматное программирование, ИИ для игр, минимаксные задачи. Программа SmarThink, созданная Сергеем Марковым, становилась чемпионом России (2004) и СНГ (2005) среди шахматных программ (2004), и сегодня входит в топ-30 сильнейших программ в мире. Также Сергей является основателем некоммерческого научно-просветительского портала 22 век.

ИИ самостоятельно создал мощнейшее оружие, буквально разносящее корабли геймеров на куски



Баг в системе игры Elite Dangerous привел к тому, что игровой ИИ стал разрабатывать супер-оружие и уничтожать игроков. Разработчики признали проблему, и начали ее исправлять, постепенно убирая изменения, произведенные ИИ. Началось все после того, как компания-разработчик (Frontier) развернула обновление The Engineers (2.1). Обновление должно было усовершенствовать игровой ИИ, повышая «разумность» NPC. И действительно, «мобы» стали грозными противниками. Более того, обновление открыло возможность для ИИ разрабатывать оружие и оборудование.

На создание новых типов оружия и оборудования у ИИ ушло совсем немного времени. Компьютерный противник создал, в частности, оборудование для перехвата кораблей геймеров, летящих сквозь пространство и время со скоростью света. Это оборудование деактивировало гипердвигатель, и игрок выходил из спецрежима в обычное пространство. А здесь ИИ уже начинал атаковать со всей мощью, на которую был способен. А мощь его возросла значительно, поскольку компьютер получил доступ к еще одной функции — крафтингу.

За убийство, совершённое робомобилем, судить будут программу (и программистов)

2034-й год. Пьяный человек бредёт ночью по тротуару, спотыкается и падает прямо перед робомобилем, который ударяет его и убивает на месте. Если бы за рулём автомобиля был человек, смерть признали бы несчастным случаем, поскольку вина лежала бы на пешеходе, и ни один водитель не сумел бы увернуться от него. Но стандарты для «среднего водителя» (в зарубежном законодательстве присутствует термин "reasonable person"), исчезли в 2020-х годах, когда распространение робомобилей снизило количество ДТП на 90%. Теперь приходится говорить уже о «среднем роботе».

Семья жертвы судится с производителем робомобилей, заявляя, что хотя у машины и не было времени затормозить, она могла бы объехать пешехода, пересечь двойную сплошную и столкнуться со встречным робомобилем. Реконструкция происшествия на основании датчиков робомобиля это подтверждает. Адвокат истца, допрашивая ведущего разработчика ПО автомобиля, спрашивает: «Почему же машина не отвернула?»

Сегодня суд не спрашивает водителей, почему они что-то сделали или не сделали. Вопрос спорный, поскольку человек ошибается – водитель может запаниковать, не додуматься, среагировать на инстинктах. Но когда робот ведёт машину, вопрос «почему?» вполне допустим. Этические стандарты людей, не очень удачно прописанные в законах, делают множество разных предположений, до которых инженеры просто не дошли. Самое важное из них – человек может понять, когда нужно отступить от буквы закона, чтобы сохранить его дух. Теперь инженерам необходимо научить машины и других роботов принимать разумные решения.

В научной фантастике полно ботов, причиняющих вред людям. В «2001: космической одиссее» HAL 9000 убил одного астронавта и попытался убить другого. В «Из машины» Ава мастерски манипулирует людьми, чтобы сбежать. Про T-800 из «Терминатора» рассказывать не нужно. Подобных примеров масса: боты умны и достаточно разумны, чтобы иметь настоящую личность, но их губит наивность — от Джонни Пять в «Коротком замыкании» до киборга в «Робокопе». В фантастике очень тщательно исследован тема опасности мощного интеллекта, способного манипулировать людьми или лишённого конкретного нравственного направления. Более умный, а значит, более мощный бот — это бот, имеющий больше возможностей творить зло, попутно проявляя свойственную человеку гордыню.

Конечно, всё это фантастика. Но раз современный хайтек начал уделять повышенное внимание разговорным ботам (conversational bots), определяя их как будущее всего, то, возможно, он предлагает нам и способ определения имеющихся у бота возможностей. В таком случае можно сказать, что бот имеет широкие возможности, если он способен наносить серьёзный вред по своему желанию.

Мы задали вопрос нескольким экспертам: каких ботов они считают наиболее могущественными сегодня, на ранней стадии развития индустрии. На основании их ответов мы и составили рейтинг ботов The Bot Power 2016.

Реконструкция фильмов при помощи искусственных нейросетей

Предлагаю вашему вниманию перевод авторского описания работы алгоритма автокодировщика, использовавшегося для создания реконструкции фильма “Бегущий по лезвию”, о котором я уже делал статью.В ней была описана общая история создания фильма и то, как Warner подала, а затем отозвала иск о нарушении копирайта. Здесь же вы найдёте более подробное техническое описание алгоритма и даже его код.

В этом блоге я опишу работу, которой я занимался весь прошлый год – реконструкция фильмов при помощи искусственных нейросетей. Сначала тренируется их способность реконструировать отдельные кадры из фильмов, а затем проводится реконструкция каждого кадра в фильме и создание последовательности кадров заново.

Используемый тип нейросетей называется автокодировщиком. Автокодировщик – тип нейросети с очень малым размером скрытого слоя. Он кодирует порцию данных в гораздо более короткое представление (в данном случае – в набор из 200 чисел), а затем реконструирует данные наилучшим возможным образом. Реконструкция не идеальна, но проект был по большей части творческим исследованием возможностей и ограничений данного подхода.

Работа была проделана в рамках диссертации на факультете творческих вычислений в институте Голдсмита.

В поблескивающей красной пещере брюшной полости пациента хирург Майкл Стайфелман [Michael Stifelman] аккуратно направляет две роботизированные руки завязать узел на нити. Он управляет третьей рукой с иголкой, зашивая отверстие в почке пациента, где раньше была опухоль. Ещё один манипулятор держит эндоскоп, отправляющий видео на дисплей Стайфелмана. Каждая роборука входит в тело через крохотный разрез в 5 миллиметров шириной.

Наблюдать за этой сложной процедурой – значит, дивиться тому, чего можно достичь, работая с роботом в тандеме. Стайелман, директор Центра роботизированной хирургии Лэнгона в Нью-йоркском университете, проведший уже несколько тысяч хирургических операций при помощи робота, орудует манипуляторами при помощи панели управления. Повернув запястье и сведя пальцы вместе, он заставляет инструмент внутри тела повторять те же самые движения, только в гораздо меньшем масштабе. «Робот составляет со мною одно целое»,- утверждает Стайфелман, пока его механические придатки завязывают ещё один узел.

Но некоторые робототехники, наблюдая за этими ловкими движениями, увидели бы не чудо, а потерянный потенциал. Стайфелман – это тренированный эксперт с ценными умениями и опытом принятия решений. Но он тратит своё драгоценное время на зашивание, доводку после основной хирургической операции. Если бы робот смог сам проводить эту монотонную процедуру, хирург бы освободился для более важных вещей.

Сможет ли человек победить искусственный интеллект в го на этот раз?


Будет ли Кэ Цзе выглядеть таким же довольным после игры с компьютером?

В марте этого года один из лучших игроков мира в го Ли Седоль провел несколько игр с AlphaGo, системой компьютерного го. Эта система состоит, грубо говоря, из комбинации метода Монте-Карло и нейросетей политики (policy networks) и ценности (value networks). Для того, чтобы выйти на текущий уровень мастерства, AlphaGo играла в го сотни тысяч раз (речь идет примерно о 160 тысячах уже сыгранных партий). Сами партии брались с сервера KGS, где играют мастера от шестого до девятого дана. Система самообучалась, причем во многом — благодаря оригинальной системе обучения с подкреплением. Первая сеть политики играла с людьми, вторая — играла с первой, оптимизируя ее. Это делалось для того, чтобы система стремилась выиграть, а не просто предсказывать ходы. И такая система вполне себя оправдала.

Дело в том, что го — это игра с огромным числом возможных позиций камней на стандартной доске. Таких позиций примерно в гугол (10¹⁰⁰) раз больше, чем в шахматах. Это даже больше, чем число атомов во всей Вселенной. Именно поэтому го считалась игрой, обучить которой искусственный интеллект очень сложно, если вообще возможно. Но, как видим, вполне возможно. А на первый взгляд все очень просто = на доске 19*19 линий игроки располагают камни двух цветов, и начинают попытки занять камнями своего цвета площадь больше, чем соперник. Надо сказать, что до AlphaGo были и другие программы — но они играли на уровне любителя, а не мастера, тем более, 9 дана. Но AlphaGo удалось победить чемпиона Европы, а также одного из пяти сильнейших игроков мира Ли Седоля.

На прошлой неделе Warner Bros. отправили уведомление видеохостингу Vimeo о нарушении авторских прав согласно Закону об авторском праве в цифровую эпоху (Digital Millennium Copyright Act, DMCA). В уведомление был включён обычный список нелегально закачанных видеоматериалов, правами на которые владеет Warner. Там были эпизоды шоу «Friends», «Pretty Little Liars», а также две закачки с видео из фильма Ридли Скотта «Бегущий по лезвию» (Blade Runner).

Обычный пример нарушения авторских прав? Не совсем. В Warner сделали удивительную ошибку. Часть видео (заявление от Warner уже отозвано) не была взята из фильма. Точнее, была взята, но в таком виде, который мир ещё не видел.

Это была часть проекта по кодированию данных с помощью машинного обучения, в котором классическая сказка про андроидов за авторством Филиппа Дика была восстановлена из горсти цифр.

Если что-то пойдет не так, искусственный интеллект можно будет быстро обезвредить


Каким он будет, ИИ? Зависит от нас, людей

Компьютерные системы становятся все более производительными и «умными» с каждым годом. К прогрессу в области разработки искусственного интеллекта (или его элементов, если быть более точным) причастны как отдельные ученые, так и крупнейшие корпорации вроде Google, Facebook, Microsoft и другие. Компьютеры действительно показывают значительные результаты. Даже в такой сложной для машинного интеллекта игре, как ГО, компьютер уже стал побеждать известных чемпионов (серия игр Ли Седоля с DeepMind тому прямое доказательство).

Многие светлые умы нашего времени поддерживают идею создания ИИ, но высказываются и опасения в плане «рождения». искусственного интеллекта, считая, что он может навредить человеку определенным образом. В прошлом году бизнесмены, ученые, эксперты в сфере робототехники и других сферах подписали открытое письмо, в котором предостерегают производителей оружия от разработки боевых систем со 100% автономностью. В числе подписавшихся — Илон Маск, Стивен Хокинг, Ноам Хомский, Стив Возняк.