Комментарии 35
Мало букв :(
Ну, чем богаты, как говорится… Просто идея. Как и раньше про матмоделирование общения.
Идея, у Капитана, идея!
По правде я сам не пойму, может что-то глупое написал :) Особенно для человека не в теме, как я. Может и так общепринято, что ИИ должен обладать функцией самосовершенстования, что отчасти напоминало бы волю… Надеюсь хоть ссылки на принцип минимума меня оправдывают, это же интересно. Особенно работа Гринченко. По-моему, он мегакрут.
Я тоже однажды понадеялся, что математика решит все проблемы. Особенно, когда начался курс исследования операций.
И именно на этом курсе была произнесена реплика Чеширского Кота:
«Мы можем оптимизировать любую функцию, которую в данном случае мы назовём эвристикой. Главное, чтобы человек её выбрал своей волей».
Не вижу у вас принципов или предложений по выбору эвристики.
И именно на этом курсе была произнесена реплика Чеширского Кота:
«Мы можем оптимизировать любую функцию, которую в данном случае мы назовём эвристикой. Главное, чтобы человек её выбрал своей волей».
Не вижу у вас принципов или предложений по выбору эвристики.
Видимо я хотел провести одну мысль — воля в ИИ не то что порождается ситуативно, в контексте чего-нибудь, а также не набор неситуативных закономерностей. Если закономерность, то только одна, глобальная и универсальная, из которой следуют другие закономерности и модели поведения.
А так скорее обсуждения стимулируют дальнейшие мысли. Не знаю правильно ли я вас понял насчет эвристики, мне пока нравится то что я ниже в комментах предложил: есть некая выбранная человеком модель правильного графа понятий (или знаний) в базе знаний ИИ, далее ИИ пытается оптимизировать свои знания в соответствии с этой моделью. В процессе оптимизации порождаются новые знания, в том числе о том какой должна быть правильная модель графа, и этот процесс по сути бесконечен. Практически по Гегелю получается: «мировая идея» познаёт саму себя, в этом и состоит мировая воля. Если я конечно не переврал Гегеля.
А так скорее обсуждения стимулируют дальнейшие мысли. Не знаю правильно ли я вас понял насчет эвристики, мне пока нравится то что я ниже в комментах предложил: есть некая выбранная человеком модель правильного графа понятий (или знаний) в базе знаний ИИ, далее ИИ пытается оптимизировать свои знания в соответствии с этой моделью. В процессе оптимизации порождаются новые знания, в том числе о том какой должна быть правильная модель графа, и этот процесс по сути бесконечен. Практически по Гегелю получается: «мировая идея» познаёт саму себя, в этом и состоит мировая воля. Если я конечно не переврал Гегеля.
По теореме Гёделя о неполноте любая непротиворечивая система аксиом генерирует непроверяемые заявления.
И любой там граф понятий имеет врождённые, согласно теореме, изъяны. Нет универсальной позиции, объясняющей всё. Ни бог, ни отсутствие бог — не абсолютные мировоззрения.
А так в качестве графа, вы, конечно же вольны выбрать или законы Дарвина (наследственность, изменчивость, естественный отбор), или пирамиду Маслоу (выживание, секс, безопасность, социализация, признание, исследование, эстетика, самореализация), или ещё что вам угодно.
Вот это «что вам угодно» («вам угодно»(sic!)) и есть эвристика.
И любой там граф понятий имеет врождённые, согласно теореме, изъяны. Нет универсальной позиции, объясняющей всё. Ни бог, ни отсутствие бог — не абсолютные мировоззрения.
А так в качестве графа, вы, конечно же вольны выбрать или законы Дарвина (наследственность, изменчивость, естественный отбор), или пирамиду Маслоу (выживание, секс, безопасность, социализация, признание, исследование, эстетика, самореализация), или ещё что вам угодно.
Вот это «что вам угодно» («вам угодно»(sic!)) и есть эвристика.
Насчет идеального графа я имел в виду его абстрактную конструкцию, форму, лишенную содержания. Взять допустим пример хорошо проработанной теории, той же классической механики, и посмотреть какой граф знаний ей соответствует. Соотношения количества узлов, связей, типов связей. Что-то в этом роде. Далее ИИ берет другую область, допустим плохо проработанную область знаний, ее граф будет отличаться и система будет пытаться привести ее к идеальному графу. Заодно по большому объему данных о графах из разных областей корректируя понятие идеального графа.
Ну да, от субъективизма не уйти всё равно, но это не критично ведь. Главное что ИИ будет вести себя «целенаправленно», в том числе при взаимодействиях с человеком, пытаясь, если необходимо, извлечь из людей нужные знания.
Ну да, от субъективизма не уйти всё равно, но это не критично ведь. Главное что ИИ будет вести себя «целенаправленно», в том числе при взаимодействиях с человеком, пытаясь, если необходимо, извлечь из людей нужные знания.
Вы абсолютно точно выразили ту самую мысль, которую я давно уже обдумаю. Проблема с ИИ состоит в том, что все равно все интеллектуальные системы задумываются и разрабатываются, как инструменты. Как очень интеллектуальные инструменты для решения конкретных задач. А вот задачу разработать систему, которая сама будет ставить себе задачу, никто не ставит. Потому то и Лем такой грустный.
Наверное это следствие начального этапа отрасли. Всё-таки не развился ИИ еще до такой степени, чтобы такие вопросы стали актуальны. Люди однако думают об этом. Вот например Андрей Мирошниченко что думает (много букв, этому посвящен один из разделов). Довольно причудливая модель, на мой взгляд.
Почему-то вспомнился referats.yandex.ru/all.xml?mix=philosophy&philosophy=on.
>> Допустим поисковые сервисы трансформируются в экспертные системы и затем в глобальный искусственный разум
>> Вероятно, тест Тьюринга такая штука пройдет, но у нее по-прежнему не будет чего-то, побуждающего ставить задачи самой себе. Т.е. не будет воли
а как человек ставит задачи? Обычно он берет то, что еще не знает (вряд ли человек по собственной воле будет заниматься какой то рутинной задачей, смысл — он в создании нового). Если предположить, что экспертная система будет владеть всеми знаниями — то новых вопросов для исследования и развития конечно же не будет. Воля побуждает исследовать задачи, которые не были решены ранее, а в случае «всемогущества» — таких задач попросту нет. И чтобы окончательно ответить на ваш вопрос, надо сначала оценить поведение человека, который знает все, а таких, к сожалению, нету.
>> Вероятно, тест Тьюринга такая штука пройдет, но у нее по-прежнему не будет чего-то, побуждающего ставить задачи самой себе. Т.е. не будет воли
а как человек ставит задачи? Обычно он берет то, что еще не знает (вряд ли человек по собственной воле будет заниматься какой то рутинной задачей, смысл — он в создании нового). Если предположить, что экспертная система будет владеть всеми знаниями — то новых вопросов для исследования и развития конечно же не будет. Воля побуждает исследовать задачи, которые не были решены ранее, а в случае «всемогущества» — таких задач попросту нет. И чтобы окончательно ответить на ваш вопрос, надо сначала оценить поведение человека, который знает все, а таких, к сожалению, нету.
Допустим у экспертной системы будет критерий, например, красивого графа понятий и связей между ними. Она анализирует то что имеет и понимает, что это не совсем красивый граф. И далее пытается предпринять что-то, чтобы система понятий стала стройнее.
Ну в таком случае система не встанет. Она будет действовать согласно своему алгоритму, чтобы «получить идеальные знания». При наличии цели, воля может появиться. Без цели — вряд ли.
Однако боюсь что идеальный Overmind создать не выйдет. Либо он будет весьма беден в плане знаний. Абсолютных истин очень мало.
Однако боюсь что идеальный Overmind создать не выйдет. Либо он будет весьма беден в плане знаний. Абсолютных истин очень мало.
У среднего человека тоже нет воли. На дейстия его побуждает что-то извне.
Это может быть новая электронная игрушка или банальный голод.
Радость познания это редкий наркотик, который мало кому доступен, который тоже не всегда существует сам по себе, а только после решения насущных вопросов, или в качестве их решения.
Это может быть новая электронная игрушка или банальный голод.
Радость познания это редкий наркотик, который мало кому доступен, который тоже не всегда существует сам по себе, а только после решения насущных вопросов, или в качестве их решения.
Воля — это следование некоторой неочевидной цели, если своими словами. То есть, экономисты приведут свои пирамиды потребностей, и скажут — вот человек стремится, что бы поэтапно удовлетворить свои потребности. Дарвинисты скажут, что раскидать гены — первоочередная задача всех живых и остальные подчиняются им. Физики — они мне наиболее симпатичны — скажут, что у системы есть задача: уменьшить потенциальную энергию и увеличить кинетическую.
Вот это все и есть — воля. Воля общества, индивида, системы и т.д.
Остальное — умение разбивать эти глобальные задачи на подзадачи — вопрос чисто алгоритмический.
Вот это все и есть — воля. Воля общества, индивида, системы и т.д.
Остальное — умение разбивать эти глобальные задачи на подзадачи — вопрос чисто алгоритмический.
Алгоритмы в «большом искусственном интеллекте» могут быть довольно нетривиальными и напоминать допустим научное исследование: когда отсутствует некое звено в цепочке рассуждений, вы собираете данные и анализируете их. Быть может проводите какой-то эксперимент. Потом быть может что-то обобщаете. Т.е. порождаете новые сущности, новое знание, которое включается в новые итерации процесса и т. д. Процесс и может выглядеть как следование неочевидной глобальной цели. Точнее, изначальный критерий как я выше для примера в комменте сказал, этот критерий может быть сравнительно простым, но к чему он в итоге приведет и какими путями ИИ его будет реализовывать — одному богу будет известно :)
Кстати процесс наверное можно зациклить — чтобы система пыталась улучшать первоначальный критерий, согласно которому она совершенствуется. Тогда уж вообще всё станет непредсказуемым.
Сначала надо обьяснить системе в доступной форме что значит «улучшить». А у человечества проблемы с таким вопросом как смысл жизни (в общем для всех варианте)
У большей части рассуждений об ИИ на хабре есть один много общего. Дается куча слов, выдернутых из разных отраслей знаний, много бла-бла-бла и полное отсутствие связи с реальностью. Напоминает кухонную политику уровня «Как сделать всем хорошо? Мужакам по бабе, бабе по мужику, всем много денег». Сделайте хоть один шажок в сторону чугунной реальности.
Сделайте хоть один шаг навстречу реальности.
Сделайте хоть один шаг навстречу реальности.
Когда мы начнем общаться с компьютерами и ставить им задачи на человеческом языке (HAL9000 форева!)… ничего не будет стоить заложить в них какие-нибудь базовые максимы — рассматривать любую комбинацию своих действий через призму… скажем уничтожения Человечества и всего живого на Земле… Вот Вам и 'воля'.
НЛО прилетело и опубликовало эту надпись здесь
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Моделирование воли в искусственном интеллекте