Обновить
23

AI preacher

20
Подписчики
Отправить сообщение
Так проблема нейросетей в том, что обычно нельзя выделить эту составляющую. Даже отдельное направление есть для разработки сетей, которые могут объяснять свой вывод.
Не, не, не… ;)

Это разные задачи: Выделить составляющую и объяснить свой вывод. Объяснить свой вывод сеть не может — это просто подобранные веса во внутренних слоях.

А вот выделить некую корреляцию — вполне реально.

«Чистое изображение человека» тоже не нужно, это классы, а сначала нужны конкретные объекты, которые потом будут объединяться в классы на основе сходства признаков.
Я немного общее представление имею, но DesertFlow поправит, если что: то, о чем вы говорите, так примерно работают сверточные сети. В случае с анализом изображений, сначала работает сеть, обученная извлекать графические примитивы (линии, углы, контуры и тп) — результат ее работы подается на вход следующей сети, которая умеет находить элементы, типа глаза/уха/крыла/хвоста (а так же колеса/окна и прочего). Из них собираются объекты и в теории можно продолжать дальше. Могу ошибаться.
Ну…

Тут уже идет некоторая нестыковка на уровне понятий…

Я не уверен, что можно поставить знак равенства между инструкциями/правилами, связями и моделью. Связи не равно инструкции. А модель — это не только связи.

Китайская комната работает по принципу «раздражитель»-«реакция». Это модель простейших насекомых.

Так же, как база знаний — граф высокой плотности в узлах которого понятия не есть модель реальности.

Но вы же сейчас спросите в чем разница, да? ;)
А то получается забавно — говорят о двух отличающихся вещах, но чем они отличаются, сказать не могут.
Вот! Именно так оно и работает… Если не отличается — то суть одно. Это правильно.
А изнутри их можно отличить?
Можно! Можно посмотреть устройство, алгоритм, принцип действия и тп. ;)

Вот, скажем, нейронная сеть, распознающая символы. Самое первое, что реализовали — OCR. Если провести определенный реверс, то можно выделить/подобрать определенные изображения, которые абсолютно, никак не похожи на буквы/символы, но опознаются сетью как определенный символ с высокой (выше 90%) степенью вероятности (не могу что-то пруф найти, но точно встречал такое).
Получается, что если глянуть (пристально) в исходники чат-бота, который смог меня обмануть и пройти тест Тьюринга — весьма вероятно не только понять, что он таки «китайская комната», но и найти «те самые» вопросы, на которых он спалится!

Я не спорю — во многих отношениях вы правы. НО есть и обратные аргументы — нельзя возводить принцип подобия в абсолют! Думаю истина где-то посередине…

Т.е. в модели мира допустимо использовать два понятия как одно, если между ними нет различий, но… Здесь они есть. Я же вижу, что я думаю не как китайская комната! НЕ смотря, на возможное формально неотличимое поведение.
Если мы не можем это сказать, если там это распределено по весам и срабатывает только всё вместе, то это не модель.
Я так понимаю идея такая: прогоняем через подобную систему 100500 фоток или что там еще. Потом даем «чистое» (т.е. выделенное) изображение человека… Или несколько разных людей. То, что будет на выходе — это «сигнал», соответствующий понятию. Насколько он будет постоянным (будет ли в нем хоть что-то постоянное, без специального натаскивания именно на людей) — как раз и показывает, насколько сеть смогла выделить в своей модели понятие «люди».
Как определить, что она выделила именно концепцию «шагать»
Так же. Дать ряд примеров, где шагают и извлечь постоянную составляющую — это и будет понятие «шагать»…

Как я понимаю — это сферическая концепция в вакууме, которая в лоб работает не очень хорошо. Ее можно и нужно иметь ввиду, но с разумной степенью осторожности.
Я довольно много (но безуспешно) экспериментировал с этим.

Блин, вот это было бы интересно… Расскажите! Можно в общих чертах — что пробовали, почему не получилось.
Интересная концепция, хоть в чистом виде и не работает (только в отдельных частных случаях, с подбором гиперпараметров).

Может ее надо просто немного развить/поменять? ;)
Понимаю. Согласен.

Просто ряд соображений:

Когда я сталкиваюсь с решением какой-то задачи, будь то выбор в магазине или размышления над серьезной проблемой — у меня нет ощущения «высокой размерности». Может поэтому я паршиво играю в шахматы и вообще не люблю игр с высокой вариативностью, где у меня слишком мало критериев для выбора «правильного» хода.

И мне кажется, что это не какой-то волшебный механизм, подобранный эволюцией! просто в рамках любой конкретной ситуации полнота модели и процессное восприятие обеспечивают довольно ограниченный набор подходящих решений… Блин, сложно объяснить, нужен пример.

Это как с нейронной сетью — она же не ищет (перебором), правильно? Она просто автоматически по весам нейронов получает нужный выход, по входным данным. Правильно? Так и здесь — выходом будет классификация ситуации определенным образом, до тех пор, пока не будет одной подходящей стратегии для развития в нужном направлении.
Правильное построение модели — и есть поиск решения. Вернее поиск решения и построение модели — одно и то же.
Пример: прохождение лабиринта. У вас есть лабиринт. И есть модель, развернутая во времени, в которой вы сейчас — в начальной точке, а в «светлом будущем» — в конечной. Что бы ваша модель совпала с реальностью, вам нужно смоделировать свои действия по перемещению из точки А в точку Б и следовать этой модели — только и всего.
Про боль, кстати, момент интересный.

Безотносительно нейронных сетей — если нечто обучено избегать определенных… Ну не знаю — в зависимости от уровня реализации можно сказать от «раздражителей» до «ситуаций», а вы это нечто постоянно этим пичкаете (сугубо в научных целях, ага) — полагаю можно говорить о том, что вы причиняете ему боль.

В моем понимании модельного подхода такая ситуация будет принудительной рассинхронизацией модели и реальности, что безусловно есть фрустрация и страдание. ;)
Мало того — модель мало-мальски социально интегрированного человека, включает модели других людей! Однако дурная «бесконечность вложенности моделей» получается только у гуманитариев aka философы. Для ИТ-специалистов понятие рекурсивной ссылки не является чем-то невообразимым… ;)
Секунду, а не вы там выше в коментах рассуждали о некорректной импликации? ;) Давайте будем последовательны: если вы заявляете о невозможности объяснения такого поведения предыдущим опытом, и при этом апеллируете к строгим правилам риторики, то я хотел бы увидеть обоснованное доказательство утверждения о «невозможности...».
С моей точки зрения это говорит лишь о достаточно редком стечении обстоятельств, что в общем-то объясняет, почему лоси не занимаются подобными вещами каждый день!
Это проблема людей с гуманитарным складом ума


Зря вы так. ;) С той же википедии: Только с 2010 по 2014 год было выпущено более 750 статей в научных журналах, где обсуждается мысленный эксперимент Сёрла. Все прям гуманитарии?

Вы впадаете в ошибку того же Тьюринга. Он долго размышлял о природе интеллекта и не смог вывести критериев проверки ДЛЯ НЕСПЕЦИАЛИСТОВ. Т.е. чтоб любому гуманитарию было понятно, что вот эта вот штуковина не просто так тут гудит, а МЫСЛИТ! Поэтому он пошел по традиционному пути утиной типизации: «если крякает, как утка, плавает как утка, то...». Т.е. если не можем отличить от человека — значит думает.

И это ввергло отрасль в пучину чат-ботов! ;) Хотя вот мне кажется очевидным, что если есть машина, известны принципы ее построения и есть прямое проявление разумного поведения (в самых разных его проявлениях) то, даже если ее мышление не похоже на человеческое, а разговаривать она не может совсем, или только на своем особом языке, то оценить степень ее разумности вполне возможно. А чат-бот, он чат-бот и есть.

Что касается китайской комнаты — вы не совсем правы. Дело не в том, что раз невозможно разделить понимает или нет ПО ВНЕШНИМ ПРОЯВЛЕНИЯМ, то значит и нет разницы — вы правы. Нет. Просто нельзя судить о разумности по внешним проявлениям. Тут недавно было — мол людям же в голову не влезешь, откуда мы знаем, что они разумны? Может половина сплошь чат-боты! Так а я и не спорю! Может быть. Я знаю за себя — ибо осознаю. Буду знать за машину, если она будет по моим принципам построена. А за людей — не знаю! Наверняка — не знаю. Над более корректной проверкой, чем тест Тьюринга я еще не размышлял…

Кстати, я почти уверен, что довольно значительная часть людей не пройдет тест Тьюринга.

Так что для меня по комнате ответ простой — человек внутри комнаты не понимает иероглифов. И комната вместе с человеком не понимает. Это просто чат-бот, каким бы умным он не казался. И если он проходит тест Тьюринга, то или экзаминатор слабоват, или тест ни к черту! ;)
Дело в том, что разуму не нужна ни полнота, ни адекватность, ни непротиворечивость.
тонкость в том, что по определению — разум стремится к этому, однако, как я уже писал раньше — это недостижимо. Т.е. закончивший строить модель разум вероятно остановится. ВАжен сам процесс построения, устранения противоречий и тп.

Просто вы хотите оперировать в рамках математической логики
да не совсем математической… Логика может быть любая, хоть женская! Вопрос модели. Там скорее уместно говорить о теории множеств, или даже категорий.
1. Мыслит ли муравейник?
полагаю, что нет. Просто реагирует. НО возможно у меня недостаточно данных о примерах разумного поведения муравейника, которые нельзя объяснить уровнем реакции.
2. Разумен ли душевнобольной с неадекватной картиной мира?
безусловно. ОН просто имеет картину мира, которая не признается адекватной большинством. Я по «адекватностью» имел ввиду скорее корреляцию с реальностью, которая впрочем вполне легко может быть некорректной. Это не имеет значения.
3. Как соотносятся язык и мышление?
ох… Сложная тема. Практически прямо. Язык собственно и отличает нас от животных, позволяя, как писал уважаемый DesertFlow «снизить размерность» модели.
4. Как отличить разум от инстинкта?
Инстинкт требует отдельного определения. Под этим словом понимают как «инстинкт» выживания у высших животных, так и инстинктивное реагирование плоского червя на раздражители. Первое — предзагруженная часть модели, т.е. часть разума. Второе — простая нервная связь от рецепторов к двигательным нейронам.
Это круто! Но это вот тот самый случай, когда модель может и есть, но что с ней делать дальше — понятно не совсем…

Я же хочу строить такую модель, в которой действие и мотивация к действию — часть модели.
ИИ при том, что программисты создают модель, не имея модели (хотя это конечно не так — все имеют модель… Хоть плохонькую, но имеют). А я, будучи так же программистом, хочу понять модель в голове, что бы создать ее во внешнем мире… Ведь я же ее создаю без привязки к голове! Вроде бы…
Но на практике это не так — модель реальности отдельно, действия и принятия решений отдельно. И вот со вторым проблема.

А почему? Почему я не могу иметь модель в которой будущее задано, пошлое — постоянно уточняется, а мои действия — переход от одного к другому?

Я просыпаюсь с утра и мне нужно на работу. В принципе я вижу всю последовательность действий, необходимых для того, что бы там оказаться, с достаточной степенью как подробности, так и определенной вариативности. Т.е. в моей модели мира я завтра проснусь в шесть и через полтора часа буду на работе… И так в общем-то достаточно далеко. У меня есть планы и на выходные и на лето. И почему все мои действия не могут быть просто отработкой этой модели для сохранения соответствия?
Китайская комната — это мнимый философский парадокс. На самом деле его не существует.

Как я понимаю, существуют как минимум две категории людей: тех, для которых это вполне реальный пример, иллюстрирующий несостоятельность теста Тьюринга, и их противников, имеющих обратное мнение. ;) Причем автор парадокса Сёрл был таки из первых!
Насчет взаимодействия — а как же роботы, которые обучаются в виртуальных физических симуляторах?
Симуляторы как раз — замечательно! Я думаю так и нужно делать — создавать симуляцию реального мира (упрощенную) и симуляцию взаимодействия. Об этом я хотел написать во второй части. Но симуляция мира и база знаний с фактами не имеющими воплощения хотя бы в симуляции — не одно и то же.

Модель мира в автоэнкодере будет вполне адекватной.
Я не совсем уверен, что к автоэнкодеру применимо даже определение модели из википедии, ибо это явно не модель мира, а суперпозиция набора фотографий… Нейронные сети, особенно сверточные — прекрасный инструмент классификации и распознания, анализа входящей информации вообще, но их использование для постройки модели… НЕ то, что бы не возможно, но я пока не понимаю — как.

Проблема создания разума как раз в том, что дальше делать с этой моделью мира.
в приведенной мной концепции модель мира включает развертку модели во времени, с вариантом некоего «светлого будущего», для достижения которого необходимо предпринимать некие активные действия. Более развернуто об этом — во второй части… Т.е. модель должна включать в себя действие.
Не существует никаких индексированных и хорошо связанных ассоциациями баз, отражающих всю сложность реального мира. Делать такие еще не научились.

Ы этом главная ошибка. Нам не нужно «всю сложность»! Нам нужно всего мира. А насколько детально — вопрос. Меня бы устроил уровень трехлетнего ребенка. Не нужно пытаться на стадии проектирования впихивать в ИИ информацию, не имеющую значения для него. Пусть научится ходить в виртуальной симуляции, взаимодействовать с предметами, чего-то хотеть, а чего-то не хотеть. Различать объекты и строить модель с разверткой во времени. Нам не нужна база знаний, нам нужен разум!

Чтобы получить такую базу, нужен механизм снижения размерности, как это происходит в мозге.

Ну вообще, это называется индукция. Обобщение. Если два, формально разных объекта не различаются в плане использования — стратегии их использования одинаковы и в этих стратегиях указано обобщенное представление обоих объектов.

Но на само деле нужно наоборот — не детализировать без необходимости. Пока для тебя нет разницы — красный куб или зеленый шар — и то и то физический объект. они становятся разными, только при наличии разных кейсов использования.

Я вполне допускаю, что это сложно и размерность все равно получается заоблачная. НО я готов на то, что бы в начале получить тупой и медленный интеллект, но что бы он был реализацией заявленных принципов.
Механистический подход к жизни не единственный

Кто бы спорил…

Мне тоже близка концепция в стиле «органы чувств не столько источник информации о мире, сколько фильтр», но…

Что-то мне говорит, что одно другому не мешает. Иметь чисто механистическую парадигму, хотя бы для того, что бы допустим на практике доказать, то она не работает — уже не плохо! ;)
Я вполне непротив поговорить на не вполне материалистические темы… ;) Согласен, что это слегка офф (хотя кто знает), так что можно в личку!
Да почему нет-то — вот чего я понять не могу! Т.е. я вам верю, но пока не понимаю. У меня ощущение, что мы просто не много о разном говорим. Взять хотя бы АльфаЗеро. Ведь он работает ровно, как человек. Он не перебирает все варианты — он в ситуации неопределенности делает случайный ход. И таким образом набивает шишки (т.е. набирает опыт). Чем больше опыт тем меньше случайных ходов. Но в любом случае охвачено далеко не все пространство вариантов и почти в любом случае остается место тому самому случайному ходу.
Ваше модель прекрасна. Я серьезно.

Но это немного не то. Это скорее ближе к концепции Джеффа Хоккинга «память-предсказание», которую он изложил в книге «ОБ интеллекте».

Для того, что бы это было ближе к нашему представлению о модели робот скорее должен строить карту доступного к перемещению пространства, локализовать себя в нем, иметь какую-то модель будущего (например «отсутствие белых пятен на карте»), и следовать этой модели. как он будет при этом перемещаться — не столь важно, но может продемонстрировать степень интеллектуальности. Например, если он будет продолжать двигаться случайно при небольшой необследованной зоне — это не тот вариант поведения, который хотелось бы ожидать от машины с зачатками разума. ;)

Информация

В рейтинге
Не участвует
Откуда
Москва и Московская обл., Россия
Зарегистрирован
Активность