Я не выношу никакого оценочного суждения Вашему сообщению, но просто интересно развить Ваши вопросы: Вы можете их сформулировать не в терминах человечество/не человечество, а в терминах я/другие люди? Что при этом изменится?
На тему проблем безопасности общего ИИ есть специальная (научная) литература. Она не очень внятная (и бродит шутка, что если человеку нечего сказать по существу AGI, он говорит про проблемы его безопасности), но она таки есть. Люди над этой проблемой думают не первый год, обсуждают ее, в том числе на международных конференциях, и т.д. Вот, к примеру, обзорчик: intelligence.org/files/ResponsesAGIRisk.pdf
В этом направлении есть определенные результаты, которые не надо переизобретать, а на которых, если уж эту проблему обсуждать, желательно базироваться, чтобы говорить по ее поводу что-то хоть немного содержательное.
Вы знакомы с «этими хиппарями» лично или хотя бы читали их работы, чтобы делать категоричное заявление, что у них нет шансов? Или Ваше утверждение имеет преимущественно эмоциональную, а не информационную основу? Не берусь утверждать, что Гёрцель — гений, тем более уровня Эйнштейна, но он производит впечатление весьма умного и подкованного человека. Я встречал очень мало людей, которые бы, как он, с полуслова понимали и могли оценить новые идеи в этой области, требующие обширного или специфического бэкграунда. У него есть такой бэкграунд и в когнитивных науках (к примеру, один из его сотрудников, с которым мы общались, лингвист, который использовал одну из ранних книг Гёрцеля в своей диссертации еще в начале 1990-х), и в computer science. Так что у Гёрцеля есть как желание, время, энтузиазм и в какой-то мере инвестиции, так и собственные мозги и знания. Опять же, не берусь утверждать, что этого ему хватит для создания ИИ, но шансов у него всяко гораздо больше, чем у многих других людей, ставящих перед собой данную цель. Ну, и, не факт (хотя и весьма вероятно), что для создания ИИ нужен гений — может, эта проблема решается экстенсивно.
Честно — не знаю, как это описать понятнее. В статье, вроде, все сказано, и я просто буду повторять то, что там есть, разве что другими словами. Могу попробовать привести другие примеры, но хотелось бы знать, какие будут показательными. Может, имеет смысл Вам попробовать почитать другие источники — ту же упоминавшуюся книжку Probabilistic models of cognition…
Да, я упоминал случай независимых величин. Но существует как минимум 3 «стандартных» варианта нечеткой логики. Каждый получается в рамках своих предположений. Если бы совместные вероятности всегда и полностью выражались через маргинальные вероятности отдельных случайных переменных, то Байесовские сети не были бы столь популярными. Но, да, иногда лучше как можно сильнее все упростить, чтобы хоть как-то работало, чем иметь дело с неподъемной задачей. Поэтому нечеткая логика получила такую популярность — она давала практические рецепты. Однако, если бы этого было бы достаточно во всех случаях, то не было бы движения сначала к графическим моделям, а от них теперь — к вероятностному программированию.
Утверждение, что нечеткая логика ничем не отличается от теории вероятностей, формально неверно. В нечеткой логике есть несколько вариантов правил вычисления функций принадлежности от составных высказываний (например, дизъюнкций и конъюнкций), но во всех этих правилах функции принадлежности факторизуются, то есть для вычисления функции принадлежности составного высказывания нужны только значения функций принадлежности его частей. В теории вероятностей совместные вероятности событий в общем случае не факторизуются. Вывод очевиден: из функций принадлежности не могут быть в общем случае получены распределения вероятностей. Однако обратное возможно: для каждого типа нечеткой логики можно найти условия, при которых правила нечеткого вывода оказываются частным случаем расчета вероятностей. Самый простой случай — это статистическая независимость случайных величин (но есть и другие варианты, например, когда одна величина полностью зависит от другой). Так что, в лучшем случае, нечеткую логику можно рассматривать как совокупность частных случаев теории вероятностей, так что говорить, что «нечеткая логика ничем не отличается от теории вероятностей» — это все равно, что говорить «мужчина ничем не отличается от человека», или «физика ничем не отличается от науки» или «искусственная нейронная сеть ничем не отличается от алгоритма».
Стоит отметить, что, на самом деле, любители нечеткой логики отстаивают утверждение, что и такое сведение не вполне справедливо. На уровне математического формализма им спорить сложно, так что они спорят на уровне интерпретаций: по их мнению, смысл случайности и смысл нечеткости разный (например, приписывать статистический смысл лингвистическим переменным действительно может быть не очень комфортно). С точки зрения математики, конечно, это нерелевантный аспект. Однако в смысле практики использования отличия есть и существенные. Опять же — аналогия между ИНС и алгоритмами вообще. ИНС — это распиаренный класс алгоритмов. Да. Но это не «обыкновенные» (произвольные) алгоритмы, а конкретный класс, для которого есть своя терминология, свой инструментарий.
Когда я говорил, что нечеткая логика немного похожа на вероятностное программирование, я имел в виду не ту банальность, что и то, и другое как-то связано с вероятностями, а то, что способы использования у них могут быть похожи, но вероятностное программирование имеет гораздо более широкие возможности, чем нечеткая логика.
1. С куцей вики идет ссылка на целую книжку по языку (его использованию в когнитивном моделировании) Probabilistic models of cognition, о которой упоминалось в тексте, а также на 4 реализации (хотя можно их можно «редуцировать» до полутора при желании). Так что не надо грустить.
2. Статья была не про сам Чёрч, а про вероятностные языки как подход на примере Чёрча. И, да, прикладное использование пока ограничено, о чем тоже говорилось…
На MCMC свет клином не сошелся. Его ограничения вполне понятны. Но вероятностное программирование как подход применяют и в автоматическом анализе видео (конечно, при этом создают весьма специализированные механизмы вывода). Есть надежда, что такие механизмы вывода можно не хардкодить, а синтезировать средствами метавычислений. Да и то, что 10 лет назад казалось непрактичным из-за требований к вычислительным ресурсам, сейчас вполне используется. Те же сети глубокого обучения (которые также в своей нынешней форме лет через 5 отживут свое и заменятся более общими генеративными моделями). Ну, а конкретно нас интересует проблематика общего ИИ, что заставляет работать на перспективу.
Занятно. Однако для вероятностных программ такие процессоры, видимо, все же не подойдут, так как там основная часть вычислений детерминированная, а случайность черпается из контролируемого источника. Но, может, какие-то родственные приложения придумать можно…
Один мой коллега как раз занимается проблемой совмещения онтологий. Когда он недавно познакомился с вероятностным программированием, у него возникла идея применить его к этой проблеме. К сожалению, пока идея не реализована, и не факт, что он этим займется. Но приложение, тем не менее, интересное. Если у Вас вдруг будут какие-то продвижения в этом направлении, пожалуйста, сообщите.
Для совмещения онтологий, видимо, нужно строить для них общую генеративную модель, отдельные онтологии для которой будут ее реализациями. Вопрос в том, насколько произвольную структуру этой модели задавать. Чем произвольнее, тем интереснее результаты могут быть получены, но тем больше нужно будет данных, и тем сложнее будет задача вывода… В общем, это вопрос для исследования.
На больших базах специализированные (но более общие, чем стандартные) методы могут работать. Вот, вроде, релевантный пример probcomp.csail.mit.edu/bayesdb/
А какие примеры были бы информативнее, а фразы конкретнее?
Суть концепции в том, чтобы трактовать программы со случайными выборами как распределения вероятностей и реализовать данную вероятностную семантику языков на уровне интерпретаторов/компиляторов.
Пожалуйста!
Как в статье сказано, работа с непрерывными вероятностными переменными — не самая сильная сторона Чёрча. То есть сделать-то ИНС можно, но общие механизмы вывода будут работать весьма неэффективно. Новое качество само не появится, но достичь его очень просто. В Тьюринг-полных вероятностных языках легко можно задать генеративную модель, не просто параметризованную связями сети, но порождающую нейронные сети с разной структурой. При этом, скорее всего, не будет эффекта переобучения. Но, опять же, все уткнется в проблему эффективного вывода.
Вероятностные языки типа Infer.NET для частного вида ИНС могут подойти больше, так как вывод в них (для графических моделей) гораздо эффективнее прямого сэмплирования. Однако там не получится реализовать произвольные ИНС (опять же, как упоминалось в статье, машины Больцмана там не реализовать, но над реализацией автоэнкодеров мы сейчас немного работаем) и не получится автоматически формировать их архитектуру.
Но эта область активно развивается. Я видел работы от Microsoft Research, посвященные Тьюринг-полным вероятностным языкам. Да и в новую версию Infer.NET уже добавлен Fun. Также видел ряд работ, где проводилась автоматическая генерация эффективных алгоритмов вывода для Чёрча для моделей частного вида (и есть даже доступные реализации типа cosh, но их возможности пока ограничены). Мы сами сделали экспериментальный язык, где процедуры сэмплирования типа mh-query в Чёрче заменены генетическим программированием, что для ряда задач катострафически поднимает производительность (и, кстати, надо попробовать нашу реализацию на нейронных сетях).
В общем, с точки зрения пользователя вероятностные языки уже могут найти применение, но пока не глобальное. Однако в перспективе их роль будет продолжать расти.
В издательстве говорят, что они сейчас в электронном виде не распространяют. В лучшем случае дают подписку для онлайн-библиотек, с сайтов которых нельзя скачать целиком, но с которых можно читать постранично. Однако они сейчас рассматривают вопрос о распространении книг в электронном виде, и готовы выслушать предложения читателей по тому, с помощью каких технологий это лучше делать (технологий, удобных пользователям и безопасных для издательства).
В общем, если есть желание оказать стимулирующее воздействие на развитие индустрии русскоязычных электронных книг, можно сообщить издательству свои пожелания в этом вопросе ))
Доставляются. Единственное, идти может долго с учетом нашей почты. Если есть какие-то сомнения, можно их попробовать выяснить у издательства. На их сайте приведена электронная почта для связи по подобным вопросам: sales(at)polytechnics.ru
В этом направлении есть определенные результаты, которые не надо переизобретать, а на которых, если уж эту проблему обсуждать, желательно базироваться, чтобы говорить по ее поводу что-то хоть немного содержательное.
Стоит отметить, что, на самом деле, любители нечеткой логики отстаивают утверждение, что и такое сведение не вполне справедливо. На уровне математического формализма им спорить сложно, так что они спорят на уровне интерпретаций: по их мнению, смысл случайности и смысл нечеткости разный (например, приписывать статистический смысл лингвистическим переменным действительно может быть не очень комфортно). С точки зрения математики, конечно, это нерелевантный аспект. Однако в смысле практики использования отличия есть и существенные. Опять же — аналогия между ИНС и алгоритмами вообще. ИНС — это распиаренный класс алгоритмов. Да. Но это не «обыкновенные» (произвольные) алгоритмы, а конкретный класс, для которого есть своя терминология, свой инструментарий.
Когда я говорил, что нечеткая логика немного похожа на вероятностное программирование, я имел в виду не ту банальность, что и то, и другое как-то связано с вероятностями, а то, что способы использования у них могут быть похожи, но вероятностное программирование имеет гораздо более широкие возможности, чем нечеткая логика.
2. Статья была не про сам Чёрч, а про вероятностные языки как подход на примере Чёрча. И, да, прикладное использование пока ограничено, о чем тоже говорилось…
Для совмещения онтологий, видимо, нужно строить для них общую генеративную модель, отдельные онтологии для которой будут ее реализациями. Вопрос в том, насколько произвольную структуру этой модели задавать. Чем произвольнее, тем интереснее результаты могут быть получены, но тем больше нужно будет данных, и тем сложнее будет задача вывода… В общем, это вопрос для исследования.
На больших базах специализированные (но более общие, чем стандартные) методы могут работать. Вот, вроде, релевантный пример
probcomp.csail.mit.edu/bayesdb/
Суть концепции в том, чтобы трактовать программы со случайными выборами как распределения вероятностей и реализовать данную вероятностную семантику языков на уровне интерпретаторов/компиляторов.
Как в статье сказано, работа с непрерывными вероятностными переменными — не самая сильная сторона Чёрча. То есть сделать-то ИНС можно, но общие механизмы вывода будут работать весьма неэффективно. Новое качество само не появится, но достичь его очень просто. В Тьюринг-полных вероятностных языках легко можно задать генеративную модель, не просто параметризованную связями сети, но порождающую нейронные сети с разной структурой. При этом, скорее всего, не будет эффекта переобучения. Но, опять же, все уткнется в проблему эффективного вывода.
Вероятностные языки типа Infer.NET для частного вида ИНС могут подойти больше, так как вывод в них (для графических моделей) гораздо эффективнее прямого сэмплирования. Однако там не получится реализовать произвольные ИНС (опять же, как упоминалось в статье, машины Больцмана там не реализовать, но над реализацией автоэнкодеров мы сейчас немного работаем) и не получится автоматически формировать их архитектуру.
Но эта область активно развивается. Я видел работы от Microsoft Research, посвященные Тьюринг-полным вероятностным языкам. Да и в новую версию Infer.NET уже добавлен Fun. Также видел ряд работ, где проводилась автоматическая генерация эффективных алгоритмов вывода для Чёрча для моделей частного вида (и есть даже доступные реализации типа cosh, но их возможности пока ограничены). Мы сами сделали экспериментальный язык, где процедуры сэмплирования типа mh-query в Чёрче заменены генетическим программированием, что для ряда задач катострафически поднимает производительность (и, кстати, надо попробовать нашу реализацию на нейронных сетях).
В общем, с точки зрения пользователя вероятностные языки уже могут найти применение, но пока не глобальное. Однако в перспективе их роль будет продолжать расти.
В общем, если есть желание оказать стимулирующее воздействие на развитие индустрии русскоязычных электронных книг, можно сообщить издательству свои пожелания в этом вопросе ))