Искусственный интеллект

Написав «Возможный путь создания сильного ИИ» я, конечно, понимал, что краткость изложения не позволила объяснить существенные моменты и уж тем более их обосновать. Попробую теперь сделать несколько постов, в которых остановлюсь на самых существенных идеях.

Первое с чем я всегда сталкиваюсь – это достаточно смутное понимание, даже у специалистов, роли эмоций у человека и того как эмоции управляют поведением.

Представьте, что каким-то чудесным образом нам явился компьютер внеземной цивилизации. Мы его нашли, и увидели, что там есть программа, выводящая на экран «Hello, world!».

Нам очень понравилась эта программа, и мы тут же решили написать такую же. Бились-бились, программировали-программировали, все языки и платформы перепробовали — не получается. А на вражеской железяке, как назло, никаких USB-портов нет и никакие отладчики-декомпиляторы не запустишь.

И тогда мы решили: зайдем, так сказать, брутфорсом. Привезли кучу аппаратуры и начали инопланетную технику изучать. Ну там, наводки разные, рентгеном просвечивать. Вроде бы уже вот-вот наконец составим полный список команд вражеского процессора, изучим всю архитектуру, и…

А что «и»? Ну даже составим-изучим — как это поможет написать «Hello world»? Если мы со своими .NET-ами и ведванолями не смогли его написать — чем нам список микрокоманд инопланетного процессора поможет?

И, если что, сложность работы программы «Hello world» относится к сложности изучения неизвестной архитектуры бесконтактными методами примерно так же, как сложность работы человеческого интеллекта к сложности моделирования человеческого мозга целиком.

Об экспресс-свиданиях (speed-dates) на Хабре уже писали. Вкратце, собирается группа участников, они беседуют в парах примерно по 5 минут, затем меняются собеседниками. Каждый участник про каждого из своих партнёров отмечает, насколько сильно он ему понравился; если симпатия окажется взаимной, организаторы передают обоим контакты друг друга.

Группа исследователей из Стэнфордского университета занимается анализом человеческих диалогов, пытаясь распознать как намерения говорящего, так и восприятие речи слушателем. Несоответствие между подразумеваемым и воспринимаемым — закономерное свойство естественной речи. Для анализа использовались стенограммы с экспресс-свиданий, на которых каждая сторона оценивала «заигрывающесть» партнёра, и отмечала свою. Построенной системе автоматического распознавания флирта удалось верно определять намерения говорящего в 71.5% случаев; это превзошло точность оценок самих участников экспресс-свиданий. Как выяснилось, люди в большей степени проециируют на собеседника собственные ощущения, чем анализируют его речь.

Ниже я опишу путь (основные принципы), который позволяет создать ИИ, способный пройти тест Тьюринга, то есть общаться с человеком не «механически», а «понимая» суть беседы. Этот интеллект во многом будет аналогичен человеческому, он будет «испытывать» те же эмоции, что и человек, он будет иметь память, он будет «мыслить». Я буду описывать процессы и механизмы, свойственные реальному мозгу, но указывать на способы реализации доступные при компьютерном моделировании, не утверждая, что они «похожи» на то, как природа решила аналогичные задачи.

В этой статье я хотел бы рассказать вам о нашем проекте.

ЗАДАЧА

Проект посвящен созданию действующей трехмерной компьютерной модели нематоды C. Elegans, то есть модель, включающую сенсорную, нервную и мышечную системы, взаимодействующие между собой и рассматриваемые в физическом окружении. Фундаментальная проблема, на решение которой направлен проект — выяснить, возможно ли на основе современных моделей биологического нейрона воспроизвести поведение виртуального организма, близкое к оригиналу. Модельным организмом, как уже было сказано выше, был взят C.Elegans (свободно живущая нематода). Наш выбор пал именно на этой нематоде, не просто так, C. Elegans — наиболее изученный многоклеточный организм, на сегодняшний день есть данные не только обо всех нейронах, но и о связях между ними (302 нейрона, более 5000 синапсов, более 2000 нейромышечных соединений и 95 мышечных клеток, осуществляющих движение, весь организм состоит из 959 клеток). В этой связи нематода C. Elegans представляется не просто одним из возможных объектов исследования, а ключом к проблеме интеллекта, поскольку обладает рядом уникальных свойств – инвариантностью строения нервной системы, упрощающей задачу наблюдения за состояниями нейронов в живом организме, предельно высокая изученность строения на сегодняшний день, и достаточно сложный спектр поведенческих реакций при относительной простоте нервной системы. Создание полнофункциональной виртуальной копии C. Elegans позволит заложить фундамент для изучения нервной системы значительно более сложных существ, а также существенно расширить возможности проектирования искусственных нейронных сетей, используя выявленные механизмы и паттерны, присущие биологическим нейронным сетям, что представляет исключительный интерес как для нейробиологии, так и для областей знаний, связанных и искусственным интеллектом.

Робот Ibin Sina (был назван в честь персидского ученого) был создан в UAE University. Он «понимает» два языка: английский и арабский. Разработчики говорят, что он в будущем сможет отвечать на вопросы в социальных сетях.

Балуясь с нейронными сетями и алгоритмами самообучения для них, столкнулся с мыслью, что алгоритм обучения с учителем вполне мог бы быть отнесен к категории самообучения, если бы учителя заменили «эмоциональными» нейронами. Такие нейроны, по сути, являются просто датчиками «хорошо/плохо», а при соединении с обычными нейронами создают определенные связи, гасящие либо возбуждающие в зависимости от типа датчика.

Прочитав недавно опубликованную статью «Обзор современных проектов крупномасштабного моделирования мозговой активности», хотелось бы рассказать о другом подобном проекте, проводимом научной группой Манчестерского Университета в Великобритании под руководством профессора
Стива Фурбера (Steve Furber), создателя BBC Microcomputer и 32-битного ARM RISC микропроцессора, а также основателя компании ARM.

Введение

В этот раз я хочу рассказать вам об одной из самых важных вех в развитии как нейрофизиологии, так и непосредственно кибернетики. Сейчас я говорю с одной стороны про формулировку первого работающего правила обучения искусственных нейронных сетей, а с другой стороны про попытку приблизиться к тайнам обучения живых существ.

Сегодня мы пройдем путь от изначального вида постулата Хебба к его непосредственному применению, а также попробуем обсудить возможность его применения для моделирования обучения в системах искусственного интеллекта.

К написанию данной статьи меня побудили комментарии к моим предыдущим топикам, в которых мне было необходимо выражать свое отношение к обучению за счет изменения силы синаптической связи. Поэтому я решил один раз разобрать все подробно, в том числе для самого себя.

Введение

В данном топике я хочу рассказать о модели необычной нейронной сети, в разработке которой мне посчастливилось участвовать. Данная модель была разработана около года назад (про авторство написано в последнем разделе), однако исследование ее после этого прекратились из-за совершенной нехватки времени (занятости в своих собственных проектах). Тем не менее я опишу ее здесь в надежде на то, что некоторые мысли покажутся читателям интересными и дадут ростки возможных дальнейших исследований в данном направлении.

Сразу оговорюсь, что эта модель не претендует никоим образом на прототип ИИ. Мы скорее хотели исследовать возможность самоорганизации и перспективы возникновения целостного целенаправленного поведения в динамической системе «эгоистичных» (гомеостатических) нейронов.
Как мне кажется, для более полного понимания логики работы модели будет полезно прочитать мой топик про Теорию функциональных систем, однако опять же это на ваше усмотрение.

Поехали!

Аннотация

Используя нейронную сеть, мы хотим, чтобы транспортное средство управляло собой само, избегая препятствий. Мы добиваемся этого путем выбора соответствующих входов/выходов и тщательного обучения нейронной сети. Мы скармливаем сети расстояния до ближайших препятствий вокруг автомобиля, имитируя зрение водителя-человека. На выходе получаем ускорение и поворот руля транспортного средства. Нам также необходимо обучить сеть на множестве стратегий ввода-вывода. Результат впечатляющий даже с использованием всего лишь нескольких нейронов! Автомобиль ездит, обходя препятствия, но возможно сделать некоторые модификации, чтобы это программное средство справлялось с более специфическими задачами.

Введение

Идея в том, чтобы иметь транспортное средство, которое управляет собой само и избегает препятствий в виртуальном мире. Каждое мгновение оно само решает, как изменить свою скорость и направление в зависимости от окружающей среды. Для того чтобы сделать это более реальным, ИИ должен видеть только то, что видел бы человек, если бы находился за рулем, так что ИИ будет принимать решения только на основе препятствий, которые находятся спереди транспортного средства. Имея реалистичный ввод, ИИ мог бы быть использован в реальном автомобиле и работать так же хорошо.
Когда я слышу фразу: "Управление транспортным средством с помощью ИИ", я сразу же задумываюсь о компьютерных играх. Многие из гоночных игр могут использовать эту технику для контроля транспортных средств, но есть целый ряд других приложений, которые ищут средство управления транспортом в виртуальном или же реальном мире.
Так как же мы это будем делать? Существует множество способов реализации ИИ, но ведь если нам нужен "мозг" для управления транспортным средством, то нейронные сети подойдут как нельзя лучше. Нейронные сети работают так же, как и наш мозг. Они, наверное, и будут правильным выбором. Мы должны определить, что будет входом, а что выходом нашей нейронной сети.

В последние годы область крупномасштабного моделирования мозговой активности стала активно развиваться и все большее количество математиков и нейробиологов вовлекается в нее. В данном обзоре я проведу краткий обзор наиболее известных и удачных проектов в этой области. Также в заключении опишу мои мысли по поводу перспективы и полезности дальнейшего развития проектов подобного рода.

Где-то в архивах этого блога можно найти статью про тетрадь в клеточку и ее душевные переживания. Содержание у этой статьи скорее философское, чем прикладное. Но вот сама идея изобразить работу мозга с помощью карандаша и тетради в клеточку показалась мне довольно интересной. Как заметил автор той статьи, работу любой программы можно изобразить на бумаге. Будь то стек вызовов или регистры процессора – их легко можно изобразить с помощью клеточек.

Но это все низкоуровневые процессы. Возможность изобразить их на бумаге скорее теоретическая. На практике от нее мало пользы. Вот если бы можно было с такой же легкостью описывать более высокоуровневые процессы…

Множество исследований в области искусственного интеллекта сталкиваются с проблемой отсутствия на сегодняшний момент какой-либо мощной теории сознания и мозговой активности. Фактически мы обладаем достаточно скудными знаниями о том каким образом мозг обучается и достигает адаптивного результата. Однако, на данный момент происходит заметное увеличение взаимовлияния области искусственного интеллекта и нейробиологии. По результатам математического моделирования мозговой активности ставятся новые цели для экспериментов в области нейробиологии и психофизиологии, а экспериментальные данные биологов в свою очередь во многом влияют на вектор развития ИИ.

Исходя из вышесказанного становится ясно, что для будущего успешного развития бионического ИИ необходимо плотное сотрудничество математиков и нейробиологов, которое в итоге будет плодотворным для обеих областей. Для этого в частности необходимо изучение современных успехов теоретической нейробиологии.

На данный момент существуют три наиболее проработанных и отчасти экспериментально проверенных теории строения сознания в области теоретической нейробиологии: теория функциональных систем П.К. Анохина, теория селекции нейрональных групп (нейродарвинизм) Джеральда Эдельмана и теория глобальных информационных пространств Жана-Пьера Шанже (изначально сформулирована Бернардом Баарсом). Остальные теории либо являются модификациями названных, либо не подтверждены никакими экспериментальными данными. В данной статье речь пойдет о первой из этих теорий — Теории функциональных систем П.К. Анохина.

По следам интеллекта

С момента первых попыток моделировать процессы, протекающие в человеческом мозге, наука прошла множество ступенек приближающих нас к ИИ. Но мозг человека, совершает пока что неподъемную и слабо отслеживаемую работу по непрерывной обработке потока сенсорной информации. Я попытаюсь осмысленно рассказать основные вехи эволюции искусственных нейронных сетей (ИНС).

Если распознающая машина-персептрон на рисунок слона отзывается сигналом «мура», на изображение верблюда — тоже «мура» и на портрет видного ученого — опять-таки «мура», это не обязательно означает, что она неисправна. Она может быть просто философски настроена.
К. Прутков-инженер. Мысль № 30.

Строгая логическая функция активации

Копируя принцип действия биологического нейрона при создании искусственных нейронных сетей, мы особо не задумываемся, какой смысл приобретает функция активации логической модели нейрона. Функция всегда записывается в виде логической суммы, логического «И» для конкретного набора входов и именно одновременная активность этих входов активирует наш нейрон. Если откинуть внешнюю смысловую привязку входов мы можем описать активацию нейрона следующим образом. Для одного внешнего события состоящего из набора входящих образов происходит объединение конкретной группы из пришедших образов в новый чисто логический образ — абстрагирование. Уже для группы таких событий активирующих нейрон, происходит выделение общего набора — обобщение.

Недавно завершился чемпионат мира, в котором победила сборная Испании. Самым известным «предсказателем» мундиаля стал осьминог Пауль, безошибочно предсказавший восемь результатов футбольных матчей подряд (в том числе исход финала).

Но, как оказалось, английские ученые тоже решили не отставать от осьминога и разработали модель, которая позволила предсказать победу Испании в финале и объяснить поражении Англии против Германии.

Доллары в квадрате уже достаточно повеселили досточтимую публику.

Однако, есть вещь, которая в гугле (яндексе и т.д.) сильно огорчает, не смотря на все их попытки «понимать», что ищет пользователь. Это отказ воспринимать спецсимволы.

Ведь понятно, что если я ищу «system()» (exit(), open() и т.д.) — это не то же самое, что просто «system», «exit», «open». Если я ищу "[:lower:]" это не то же самое, что «lower» (ладно, регэкспов в поисковиках не будет никогда, но хотя бы просто по заданной строке искать...). Ведь я явно говорю, что хочу найти. Ну просто бери man-страницу и показывай. Статья про system() на opengroup просто обязана быть пришлёпнута первой в результатах поиска… Но нет.

Много приходилось видеть, слышать и читать о том, как люди сравнивают человека и компьютер. Занятно со стороны наблюдать за этим процессом, особенно когда понимаешь, что происходит на самом деле. А на самом же деле происходит, ни много, ни мало сравнение творца с творением. Для того, чтобы это сравнение имело место быть, люди даже роботов делают похожими на людей. Но все равно, внутри таких недочеловеков «шестеренки и лампочки», как говорил герой фильма «Я, Робот». Но дело даже не в том, что сравниваемые с людьми отличаются по своему химическому составу. Ведь предметом сравнения является принцип и результативность их работы.

В первой части мы начали моделирование игры в шашки с помощью Alan.Platform. Мы создали библиотеку элементов, к которой добавили один элемент, оператор, управляющий расположением шашек. Также с помощью конструктора мы создали две шашки, расположенные по углам платформы. Все это можно было лицезреть в консоли, в виде текста, который был любезно составлен ObjectDumper'ом.

Как бы ни был хорош ObjectDumper — нашему мозгу трудно разглядеть доску для игры в шашки среди пар ключ-значение. Поэтому нужно создать графическое представление для модели. Этим мы в ближайшее время и займемся.