Модель — это система, исследование которой служит средством для получения информации о другой системе; представление некоторого реального процесса, устройства или концепции.Вики
Модель имитирует моделируемую систему с некоторой точностью. Чем больше точность, тем больше в модели будет составляющих ее объектов. Информационная модель имеет информационные объекты. При максимальной точности на каждый моделируемый объект системы будет соответствующий ему информационный. То есть будет однозначное отображение (mapping). В дальнейшем под словом «модель» я буду подразумевать именно отображение одних объектов в другие, заданное соответствие реального и информационного.
Информационная система — это система для обработки информации. Информация некоторым образом поступает на вход информационной системы. Чтобы правильно ее обрабатывать, система имеет информационную модель.
Откуда поступает информация? Из какого-то внешнего источника. Я называю его «реальность».
Реальность — это всё, что находится вне информационной системы.
Итак, чтобы взаимодействовать с реальностью, информационная система должна иметь некоторую модель этой реальности. На каждый реальный объект должен быть соответствующий ему информационный, то есть модель этого объекта. Другая информационная система — это тоже реальный объект. Соответственно, если мы хотим с ней как-то взаимодействовать, для нее тоже нужна модель.
Необходимость такой модели хорошо заметна при разработке API. На сервере некая структура на выходе, на клиенте такая же структура на входе. В PHP и в JS одинаковые классы. Это не избыточность, это моделирование одной системы в другой.
Интеллект
Естественный интеллект — это тоже информационная система. У него есть датчики, которые дают входящую информацию. На основе этой информации он строит модель того, что происходит вне этой информационной системы, и на основе модели принимает решения о действиях. Таким образом, мы можем дать определение того, что такое интеллект.
Интеллект — это способность информационной системы строить модель реальности на основе входящей информации.
Компьютерная программа это тоже информационная система. Обладает ли она интеллектом? Нет, потому что модель в программу закладывает программист. Рассмотрим например программу для разметки жесткого диска. Информация о возможных форматах, порядок выполнения команд, коды ответов — это все заложено в исходном коде. В программе есть модель жесткого диска, она обновляется при получении ответов на команды, но программа ее не строит, не может ее изменить.
Искусственный интеллект должен строить правильную модель реальности. В том числе, он должен правильно на нее реагировать. Как минимум так же, как человек. Во-первых, это обратная связь для нас, по которой мы можем прийти к выводу, что интеллект у системы есть. Это можно проверить в отладчике, но надо знать, что там должно быть. Во-вторых, потому что одна из целей это выполнение деятельности человека в некоторых задачах.
Все животные так или иначе реагируют на реальность. Поэтому в отношении них нельзя говорить о том, есть интеллект или нет интеллекта. Можно говорить о том, больше его или меньше, достаточно ли его для определенного вида задач, для построения определенных моделей.
У одноклеточных практически нет интеллекта, потому что нет элементов, которые хранят и обрабатывают информацию об окружающей среде. Есть только химические взаимодействия, которые позволяют им функционировать. Их тоже можно считать моделью, но не информационной, а аппаратной. Из-за небольших размеров и химических законов она не может быть сложной.
Также стоит отметить, что интеллект тесно связан с понятиями объекта и памяти. Объект — это нечто, что обладает состоянием и поведением, что мы определяем как одно и то же в разные моменты времени. Память нужна, чтобы хранить признаки объектов между этими моментами, здесь и начинается модель. Но объекты это тема отдельного разговора.
Ощущения
Люди испытывают приятные и неприятные ощущения. Рассмотрим ощущение боли. Как ее можно описать? Боль это неприятное ощущение, если она присутствует, то мозг постоянно обращает на нее внимание. Обычно человек не может по желанию ощущать или не ощущать боль. При этом у людей неприятных ощущений несколько, например, есть еще страх.
Для произвольной информационной системы можно дать такое определение.
Ощущения — это процесс восприятия данных, которые поступают в информационную систему постоянно, требуют своей обработки, при этом система устроена так, что не может на них не реагировать. Восприятие — это то, как данные влияют на модель. Их наличие система может воспринимать как положительную или отрицательную обратную связь. Положительную связь она стремится увеличить, отрицательную уменьшить.
Любые сигналы с датчиков это ощущения.
Может ли искусственный интеллект испытывать боль?
Сначала заметим, что естественный интеллект испытывает несколько разных для него ощущений. Боль это просто название одного из них. Она сигнализирует о повреждениях. Таким образом, если некая информационная система с интеллектом получает ощущение с информацией о повреждениях, которое она определяет как неприятное для нее, стремится минимизировать его влияние и не может это сделать путем отключения, то это аналог боли. Именно аналог, мы можем лишь определять сходство, что «Ощущение 1» похоже на человеческую боль, а «Ощущение 2» на удовольствие от чего-либо. Главное здесь то, как реагирует сама система на эти данные. Как определить, что ИИ не врет? Проверить в отладчике.
Чем больше признаков, тем больше сходство, включая химические и электрические процессы. С большой вероятностью животные чувствуют ощущения, схожие с человеческими, так как реагируют аналогично человеку, тоже имеют нервные клетки, которые тоже состоят из органических соединений.
То есть, если мы сделаем информационную модель человека с точностью до атомов и электрических полей, а также окружающую его реальность, с которой он будет взаимодействовать, и смоделируем порез на пальце, то да, в этой реальности он будет испытывать боль. Если с помощью датчиков он будет взаимодействовать с нашей реальностью, то в нашей. Так как в плане обработки информации он ничем не будет отличаться от других людей.
Этично ли заставлять его чувствовать боль против его желания в какой-либо реальности? Думаю, нет. Это относится к любому другому существу и любому неприятному ощущению. Но так как это информационная модель, можно смоделировать другую реакцию или иной способ восприятия, и тогда уровень этичности будет другой.
Рассмотрим систему управления базами данных с мониторингом. Если происходит сбой, подсистема мониторинга начинает с некоторой периодичностью отправлять администратору уведомление с уровнем тревоги. Можно ли сказать, что такая система испытывает боль? Нет. Во-первых, у нее нет интеллекта, модель заложена в нее программистом, и там нет понятия, аналогичного боли. Во-вторых, хотя сигнал и оценивается как неприятный, у нее нет стремления его минимизировать. В общем-то даже наоборот, она сделана для того, чтобы предоставлять максимально точную модель того, что происходит с системой. Ее можно назвать аналогом нервных клеток, а не существа, которое их имеет.
Рассмотрим бота с ИИ в компьютерной игре. Игра для него это реальность, хоть и очень ограниченная. Для правильных действий необходима информация о повреждениях. Если бот получает ее по желанию — выполнял некоторые действия, обратил внимание на рану, начали поступать сигналы о повреждении, запомнил их параметры, отвлекся, перестали поступать — то это не аналог боли. Если бот воспринимает ее как дополнительную информацию, а не как негативное ощущение, уровень которого надо минимизировать, если она не влияет на действия, предпринимаемые для других целей (например, нет стремления отдернуть руку, если он получил удар по ране на руке), то тоже нет.
Другие понятия
Что такое сознание? Его можно определить как процесс функционирования интеллекта, процесс получения информации и обновления модели реальности. Оно тесно связано с понятием «Я». «Я» это элемент в модели, представляющий саму информационную систему. Есть ли понятие «Я» у собак? Да, это тот объект, с которым они связывают команды «Сидеть-Лежать». Это означает, что у собак есть сознание и интеллект. Но умножать например собаки не умеют. Возможно, это связано с тем, что для более высоких уровней абстракции нужны дополнительные информационные элементы, которые будут наблюдать более низкие уровни и строить их модель.
Сознание связано с самонаблюдением. То есть имеет место не просто получение информации о мире и обновление модели, а также и регистрация самих фактов получения, отражение их в модели, связь с объектом «Я». «Если мне тыкают под ребра, мне щекотно». «Вчера я не знал этого, сегодня знаю». То самое «Я мыслю — следовательно, я существую». Получается замкнутая система, часть элементов с выхода анализирующего блока передается на его вход. Можно предположить, что сознанием могут обладать только сложные существа, у которых достаточно информационных элементов для организации такой связи.
Что такое понимание? Что означает, когда мы говорим, что человек понял что-то? Это означает, что у него появилась правильная модель того, что он анализировал. Информационные элементы модели соответствуют элементам реальной системы. Понимание это построение правильной модели. Почему так важен опыт? Это модель. Она позволяет моделировать процессы в информационном виде, а потому планировать и выбирать нужный вариант.
Есть нейросети, они сами строят модель по входящей информации. Строят ли они правильную модель? Результаты показывают, что как-то не очень. Для них обычно требуется специальная выборка, это тоже подготовленная модель. Но какую-то модель они могут построить, поэтому некоторый уровень интеллекта у них есть.
Update: Важный момент. Объекты в модели это именно объекты, с состоянием и поведением, которые распознаются как одно и то же в разные моменты времени. Думаю, если информационная система не имеет механизма для понятия «тот же самый», то нельзя сказать, что у нее есть интеллект.
Китайская комната
Решил добавить анализ китайской комнаты, чтобы показать применимость этого подхода в разрешении непонятных вопросов.
Итак, есть комната, в ней сидит человек, у него есть инструкция, руководствуясь которой он перекладывает иероглифы. Комната отвечает на китайские вопросы, но человек не знает китайского. Ответ прост и уже дан ранее — китайский язык знает вся система в целом. Но есть и аргументы против. Рассмотрим некоторые моменты.
«Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа.»
Строго говоря, это невозможно, так как для ответа нужны дополнительные данные, которых нет в вопросе. Если система действительно отвечает правильно, они где-то хранятся. Это ее модель реальности.
«Формально аргументацию можно представить так:
1. Если гипотеза «сильного» ИИ верна, тогда существует такая программа для китайской письменности, при запуске которой в вычислительной системе эта система будет понимать китайскую письменность.
2. Я могу исполнить программу для китайской письменности без понимания этой письменности.
3. Следовательно, гипотеза «сильного» ИИ неверна.»
Пункт 1 должен выглядеть так: «существует такая программа для китайской письменности, при запуске которой в вычислительной системе эта программа будет понимать китайскую письменность». Система передает данные в программу, программа их обрабатывает.
Поэтому, из 2 не следует 3. Понимать китайскую письменность будет исполняемая программа, а не тот, кто ее исполняет.
Чтобы человек стал понимать китайский язык, надо расширить имеющуюся у него модель моделью из программы. А когда эти данные внутри виртуальной машины, они недоступны.
«Более общий вывод Сёрла говорит о том, что любые манипуляции с синтаксическими конструкциями не могут приводить к пониманию»
Верно. Понимание это построение правильной модели. Синтаксические конструкции лишь обозначают элементы модели.
«Система из книги правил, человека и комнаты, по их мнению, является разумной и понимает китайский язык. В качестве контраргумента Сёрл предлагает заставить человека запомнить формальные правила ответов для системы.»
И когда он будет исполнять программу, она будет понимать китайский язык.
Статья на английском с небольшими дополнениями: What is intelligence?
