Предисловие
Сейчас всё больше говорят об опасности нейронных сетей. И чем сильнее они становятся, тем больше эта опасность осознаётся. Опасность в непредсказуемом поведении. Нельзя доверять решение ответственных задач тому, кто может принимать неадекватные решения, и не может свои решения как-то обосновать, объяснить.
Недостаток нейронных сетей не столько в том, что нельзя отследить процесс принятия решения, сколько в том, что при самообучении они не защищены от противоречивой информации. Они обобщают входную информацию не понимая её смысла.
А что значит понимать смысл?
Информация всегда выражена во фразах какого-то языка. Когда можно утверждать, что система понимает смысл фразы, текста?
Например, фраза: «Этот человек зашёл слишком далеко!» Как мы её понимаем? Слово «этот» означает, что есть контекст, мы говорим о ком-то конкретном. Зашёл пешком или в каком-то другом действии? Эта информация тоже должна быть в предыдущих фразах.
В общем случае, понимание фразы сводится к следующему. Фраза всегда описывает фрагмент модели какого-то объекта или процесса. Конкретного или абстрактного. Если этот фрагмент можно встроить в более полную модель этого объекта или процесса, имеющуюся у системы, тогда её смысл можно понять. Это можно сделать, когда достаточно информации, чтобы определить, о чём идёт речь и есть более полная модель того, о чём идёт речь. Если всё это есть, и фрагмент модели вписывается в более полную модель без противоречий, то новая информация дополняет модель. Если есть противоречия, то система должна их снять. Либо отвергнуть информацию, как ложную, либо заняться поиском дополнительной информации для совершенствования имеющейся модели объекта/процесса.
Нейронные сети этого делать не умеют, у них нет такой функции. Они могут обобщать входную информацию, но для построения адекватной модели объекта, и тем более процесса, этого мало. Особенно, если входная информация выражена во фразах естественного языка.
Конструкция сильного ИИ
У человека модель мира основана на информации от органов чувств и «записана» на некоем специальном «языке» внутреннего представления. Мы называем это «образами». Фразы естественного языка переводятся в образы. Обработка информации, мыслительный процесс, происходит в образах, а результаты обратно переводятся во фразы естественного языка.
Искусственный интеллект, претендующий на звание сильного, должен быть устроен так же. Его основой должна быть универсальная система представления знаний. Чтобы сделать такую систему, надо очень чётко определить понятие «знание». Те определения, которые есть сейчас, абсолютно непригодны по причине расплывчатости и не конструктивности. Конструктивность определения означает, что из него следует конструкция, конкретная схема. В данном случае, схема, структура данных для представления знаний.
Мы имеем дело с объектным миром, состоящим из объектов и процессов их изменения. В общем случае мир состоит из процессов. В основе любого процесса лежит алгоритм, так как все конкретные процессы кем‑то или чем‑то генерируются. В результате обобщения конкретных процессов происходит восстановление алгоритма, их порождающего. В этом и состоит процесс по‑Знания. Таким образом, знание — это алгоритм процесса. Совокупность алгоритмов представляет собой модель какого либо явления, части внешней среды или взаимодействия субъекта с ней.
Это определение знания конструктивно, потому, что понятие алгоритма определено исчерпывающе. Алгоритм, как класс процессов, оперирует классами объектов. Процесс познания или формирования базы знаний состоит в обобщении конкретных, воспринимаемых системой, процессов. Обобщаются не только конкретные процессы, но и абстрактные, т. е. сами алгоритмы. Этим создаётся база знаний, «расслаивающаяся» на разные уровни абстрактности. То есть, для создания системы сильного интеллекта, кроме универсальной системы представления знаний, нужен алгоритм обобщения процессов и алгоритмов, на выходе которого алгоритмы.
Такая база знаний, которая содержит знания разного уровня абстрактности, имеет две интересные способности.
Первая касается анализа новой информации. Если система попала в ситуацию, по которой у неё нет конкретных знаний, сориентироваться ей помогут абстрактные знания, аналогии со знакомыми ситуациями. Люди этим пользуются довольно часто.
Вторая способность связана с решением «творческих» задач. То есть задач, для решения которых у системы нет готового алгоритма. В общем случае, решением задачи является создание алгоритма действий для достижения поставленной цели. Для этого системе нужен алгоритм решения задач. По сути, алгоритм создания алгоритмов. Но, если процесс познания (обобщения), который тоже создаёт алгоритмы, направлен от конкретного к абстрактному, то процесс решения задач направлен от абстрактного к конкретному.
Творческая задача решается в два этапа:1) восхождение с конкретного уровня на тот абстрактный, с которого виден общий алгоритм решения; 2) спуск на конкретный уровень для создания конкретного алгоритма решения, как детализации общего алгоритма. На втором этапе могут возникнуть проблемы, связанные с нехваткой конкретных знаний. Сильный интеллект — это тот, который способен решать такую проблему: искать новые знания.
Знания ищут двумя способами: пассивным и активным.
Пассивный — это просто ждать, когда они появятся. Когда система попадёт в соответствующие ситуации, обобщит их и получит недостающие знания для решения задачи. Либо задавать вопросы тому, у кого такие знания есть.
Активный — это целенаправленно создавать нужные ситуации. Такой метод известен, как гипотеза‑эксперимент. Гипотеза — это непроверенное знание, сформулированное, как предположение. Гипотезу можно сформулировать только на основе более абстрактного знания для какой‑то более конкретной ситуации. Поэтому, активный поиск знаний может вести только сильный интеллект. Эксперимент — это создание нужной ситуации для проверки гипотезы. Создание заданной ситуации уже является решением задачи. Но для решения этой задачи у системы уже должны быть все необходимые знания.
И последнее.
Что такое самосознание?
Сильный интеллект, взаимодействуя с внешней средой, создаёт не столько модель внешней среды, сколько модель взаимодействия с ней. Нельзя создать объективную модель внешней среды, потому, что она строится на основе информации от органов чувств самой системы и взаимном воздействии системы и среды друг на друга. Если изменить параметры системы, модель будет другая.
Так вот, при росте адекватности модели, её детализации и расслоении, неизбежно она будет разделяться на две подсистемы, одна из которых будет моделью самой системы. Самосознание наступает тогда, когда эти две подсистемы разделяются на самом абстрактном уровне. То есть, всё, что происходит с системой, все изменения её состояния, точно разделяются как либо «внутренние», либо «внешние».
Вообще, язык, как средство общения, может появиться только тогда, когда расслоение модели на уровни абстрактности достигло достаточного предела. Ведь все слова являются абстракциями, обозначают либо классы объектов/процессов, либо их характеристики. А самосознание проявляется, как появление местоимения «Я».
Выводы
Итак, система сильного интеллекта должна конструктивно иметь:
Универсальную систему представления знаний.
Алгоритм обобщения процессов и алгоритмов для создания базы знаний.
Алгоритм генерации алгоритмов для использования базы знаний при решении задач.
Языковый модуль, который отвечает за общение, переводя с внутреннего представления во фразы языка и обратно. Он обучаем и не зависит от конкретного языка. С его помощью система сможет, в частности, обосновывать свои решения.
Подсистему активного поиска знаний.
Пункты 4 и 5 используют пункты 2 и 3, но не являются их прямым следствием и не появятся сами по себе по мере развития системы. Здесь имеется в виду система искусственного интеллекта.
Заключение
Конечно, представленное выше очень краткое изложение «конструкции» системы сильного ИИ, является результатом не только теоретической, но и практической работы. Ключевым и самым сложным для разработки является пункт:
1. Универсальная система представления знаний.
Только правильная и достаточно детальная разработка этого пункта даст возможность создать остальные. Мне это удалось сделать. Все остальные пункты также были разработаны, но с меньшей степенью детализации, только для того, чтобы иметь уверенность, что эта схема сильного интеллекта реализуема практически.
Конечно, такую систему в одиночку не сделать, нужна серьёзная команда. Но, в эпоху всеобщего увлечения нейронными сетями никого заинтересовать не удалось. Может быть, сейчас, когда сам Илон Маск выразил опасения, специалисты начнут всерьёз рассматривать альтернативу нейронным сетям в построении ИИ?
