Насчет идеального графа я имел в виду его абстрактную конструкцию, форму, лишенную содержания. Взять допустим пример хорошо проработанной теории, той же классической механики, и посмотреть какой граф знаний ей соответствует. Соотношения количества узлов, связей, типов связей. Что-то в этом роде. Далее ИИ берет другую область, допустим плохо проработанную область знаний, ее граф будет отличаться и система будет пытаться привести ее к идеальному графу. Заодно по большому объему данных о графах из разных областей корректируя понятие идеального графа.
Ну да, от субъективизма не уйти всё равно, но это не критично ведь. Главное что ИИ будет вести себя «целенаправленно», в том числе при взаимодействиях с человеком, пытаясь, если необходимо, извлечь из людей нужные знания.
Видимо я хотел провести одну мысль — воля в ИИ не то что порождается ситуативно, в контексте чего-нибудь, а также не набор неситуативных закономерностей. Если закономерность, то только одна, глобальная и универсальная, из которой следуют другие закономерности и модели поведения.
А так скорее обсуждения стимулируют дальнейшие мысли. Не знаю правильно ли я вас понял насчет эвристики, мне пока нравится то что я ниже в комментах предложил: есть некая выбранная человеком модель правильного графа понятий (или знаний) в базе знаний ИИ, далее ИИ пытается оптимизировать свои знания в соответствии с этой моделью. В процессе оптимизации порождаются новые знания, в том числе о том какой должна быть правильная модель графа, и этот процесс по сути бесконечен. Практически по Гегелю получается: «мировая идея» познаёт саму себя, в этом и состоит мировая воля. Если я конечно не переврал Гегеля.
Это да )) Кто-то пиарит идеи, кто-то их допиливает. Из философов самым слабым математиком был видимо Мопертюи, но он хорошо пиарил, и хорошие математики Эйлер с Лагранжем взялись за это дело. Как только определили, что именно надо минимизировать, получилась современная версия механики.
Скорей всего к математике сведется. Чтобы машине было понятно. Возможно тот самый принцип минимума. Вопрос только минимума чего. Ну это я уж оставлю за кадром.
По правде я сам не пойму, может что-то глупое написал :) Особенно для человека не в теме, как я. Может и так общепринято, что ИИ должен обладать функцией самосовершенстования, что отчасти напоминало бы волю… Надеюсь хоть ссылки на принцип минимума меня оправдывают, это же интересно. Особенно работа Гринченко. По-моему, он мегакрут.
Кстати процесс наверное можно зациклить — чтобы система пыталась улучшать первоначальный критерий, согласно которому она совершенствуется. Тогда уж вообще всё станет непредсказуемым.
Алгоритмы в «большом искусственном интеллекте» могут быть довольно нетривиальными и напоминать допустим научное исследование: когда отсутствует некое звено в цепочке рассуждений, вы собираете данные и анализируете их. Быть может проводите какой-то эксперимент. Потом быть может что-то обобщаете. Т.е. порождаете новые сущности, новое знание, которое включается в новые итерации процесса и т. д. Процесс и может выглядеть как следование неочевидной глобальной цели. Точнее, изначальный критерий как я выше для примера в комменте сказал, этот критерий может быть сравнительно простым, но к чему он в итоге приведет и какими путями ИИ его будет реализовывать — одному богу будет известно :)
Допустим у экспертной системы будет критерий, например, красивого графа понятий и связей между ними. Она анализирует то что имеет и понимает, что это не совсем красивый граф. И далее пытается предпринять что-то, чтобы система понятий стала стройнее.
Пришла еще мысль. Как в упомянуто в заметке, неизвестно, какие именно факторы вы должны ввести в сеть. Это по-прежнему делается «руками». В предлагаемом обобщенном PageRank стратегия может быть простой — чем больше факторов, тем лучше — если введете не очень важные, они мало на что и повлияют, это уже от вас не зависит.
Проблема лишь в том, что будет, если вы не введете какой-нибудь важный фактор. В принципе конечно понятно что будет — рейтинг исказится. Но собственно посыл данного поста заключен в гипотезе, что по косвенным признакам можно выявлять отсутствие важных факторов в PageRank-сети. Взять какую-нибудь упрощенную модельную задачу, где все значимые факторы заранее известны и известен «правильный» рейтинг, и посмотреть допустим на распределение ранков и на скорость, с которой PageRank-система приходит в равновесие. А потом поэкспериментировать — удалять важные факторы и смотреть на упомянутые показатели, а также на то как изменяется рейтинг.
В реальной, немодельной сети таким путем, естественно, не вычислить, какие именно важные факторы отсутствуют. Но мне кажется само наличие таких индикаторов — уже круто.
Я не слежу за ним плотно, поэтому всё смутно, только общие впечатления. Когда я с ним зафрендился он вроде работал в какой-то относительно известной софтовой конторе, я забыл в какой. Потом их купили, а его впоследствии уволили при новом руководстве. Дальше он устраивался не знаю куда, работал, но типа всякие начальники-кретины, коллеги идиоты, долго не продерживался. Сейчас вроде проштудировал материалы и позиционирует себя как веб-программиста.
У меня френд-программист, лет 20 назад эмигрировавший в Канаду, постоянно имеет какие-то проблемы с работой. По-моему, больше полугода нигде не задерживается. И по-моему, не живет особо зажиточно. Меня всё это удивляет. Вроде он не трехмесячный программист.
У меня тоже были мысли о рейтингах, в частности что делать если статистика мала. Например для постов с малым количеством проголосовавших использовать «презумпцию невиновности» и помещать их в какой-нибудь топ, но без авторства. Дальше статья либо быстро выходит из топа, либо закрепляется там. Еще можно попробовать проводить эксперименты и приблизительно оценивать величину эффекта обратной связи, соответственно делать поправку на него.
А вообще всё это сильно зависит от сайта, на котором что-то рейтингуется. Нужно учитывать его специфику. Одно дело ютуб, другое хабр. Разумеется на ресурсах типа хабра проблему недостаточной статистики нужно решать в комплексе с другими подходами, в частности с использованием веса голосов пользователей. Если за пост мало голосов, но это авторитетные люди, это нужно учитывать. Помнится я так и делал, когда разрабатывал рейтинговую систему для одного сайта.
Кстати да. Я даже хотел это упомянуть, но как-то с биологической стороны. Типа электрическая активность мозга — внимание гуляет по разным зонам. Но потом подумал что в биологии я не силен и это может как глупость прозвучать. Вы правильнее сформулировали. Замечу только, что не только воспоминания. Быть может даже весь процесс мышления. В смысле процесс размышлений, блуждания мыслей…
Да, я понял. Просто зацепила инфа про Бен Ладена. Вот откуда у него ноги растут, оказывается. Ну а эти вещи наверняка будут, Азимов прав. Собственно и сейчас есть, но по частям. Дмитрий Чернавский например разрабатывал модель поведения экономики. а он в свое время заработал в конкурсе 100 кг золота, между прочим (сегодня вечер странных фактов. Пятница 13-е, что возмешь :)
Сейчас глянул Википедию: роман Азимова произвёл огромное впечатление на Усаму бин Ладена и даже повлиял на его решение создать террористическую организацию «Аль-Каида». Бен Ладен уподобил себя Гэри Селдону, который управляет обществом будущего путём заранее запланированных кризисов. Да уж… :)
Ну да, от субъективизма не уйти всё равно, но это не критично ведь. Главное что ИИ будет вести себя «целенаправленно», в том числе при взаимодействиях с человеком, пытаясь, если необходимо, извлечь из людей нужные знания.
А так скорее обсуждения стимулируют дальнейшие мысли. Не знаю правильно ли я вас понял насчет эвристики, мне пока нравится то что я ниже в комментах предложил: есть некая выбранная человеком модель правильного графа понятий (или знаний) в базе знаний ИИ, далее ИИ пытается оптимизировать свои знания в соответствии с этой моделью. В процессе оптимизации порождаются новые знания, в том числе о том какой должна быть правильная модель графа, и этот процесс по сути бесконечен. Практически по Гегелю получается: «мировая идея» познаёт саму себя, в этом и состоит мировая воля. Если я конечно не переврал Гегеля.
Проблема лишь в том, что будет, если вы не введете какой-нибудь важный фактор. В принципе конечно понятно что будет — рейтинг исказится. Но собственно посыл данного поста заключен в гипотезе, что по косвенным признакам можно выявлять отсутствие важных факторов в PageRank-сети. Взять какую-нибудь упрощенную модельную задачу, где все значимые факторы заранее известны и известен «правильный» рейтинг, и посмотреть допустим на распределение ранков и на скорость, с которой PageRank-система приходит в равновесие. А потом поэкспериментировать — удалять важные факторы и смотреть на упомянутые показатели, а также на то как изменяется рейтинг.
В реальной, немодельной сети таким путем, естественно, не вычислить, какие именно важные факторы отсутствуют. Но мне кажется само наличие таких индикаторов — уже круто.
А вообще всё это сильно зависит от сайта, на котором что-то рейтингуется. Нужно учитывать его специфику. Одно дело ютуб, другое хабр. Разумеется на ресурсах типа хабра проблему недостаточной статистики нужно решать в комплексе с другими подходами, в частности с использованием веса голосов пользователей. Если за пост мало голосов, но это авторитетные люди, это нужно учитывать. Помнится я так и делал, когда разрабатывал рейтинговую систему для одного сайта.