Моя задача скромнее. :) Я делаю ИИ, который, по моему мнению, будет лучше нейронных сетей. То есть, сильный. А в статье порассуждал о том, может ли он быть опасен в перспективе.
Цитаты из стати «Конструктивное определение искусственного интеллекта».
А какое определение ИИ было бы абсолютно конструктивным? Такое, в котором используемые термины в конечном итоге, в процессе их определения, сводились бы к однозначно понимаемым терминам.
И сделаем это в процессе рассуждений. Конечно, в более лёгком варианте, в виде общей структуры и общего алгоритма полнофункциональной системы ИИ. Описание доведём до понятных функциональных модулей и потоков данных. Конечно, это будет не абсолютно формальное определение, как работающая система, но, на основе такого определения можно будет начать разработку реальной системы.
То есть определение – это не просто одна фраза. Если в ней есть термины, которые могут быть поняты неоднозначно, они должны быть определены тоже. И так далее до общепринятых, однозначно понимаемых терминов.
Например, в статье есть определение разума в виде одной фразы: «Разум – это поведение автономных систем, связанное с самосохранением.» В этом определении термин «самосохранение» должен быть определён. И так далее, И всё это приводит к описанию структуры и общего алгоритма разумной системы. Это и есть определение разума. Но, для полной конструктивности оно должно быть доведено до работающей программной системы.
Теперь про определение интеллекта.
А что такое интеллект?
Искусственные системы создаются не для самосохранения, а для выполнения заданий от человека. То есть, главным критерием успеха и неуспеха для искусственной системы является достижение поставленной человеком цели. В этом и состоит отличие естественного разума от искусственного интеллекта.
Это значит, что структура и алгоритм ИИ те же, что и у разума. Только плюс и минус ставит человек.
Думаю, при внимательном чтении всё это можно было бы заметить.
Конкретные алгоритмы будут в следующих статьях по ходу программной реализации проекта. А по поводу идеальных решений. Ваш интеллект работает идеально? В смысле идеальной логики, строгих решений на основе строгих же доказательств? Или есть догадки, гипотезы, заблуждения и т.д. Математики додумались до персептрона, доказали его универсальность. А дальше? Кто во что горазд?
Рассуждения основаны на знании общего алгоритма разума
В статье приведено общее описание алгоритма в виде, достаточном для целей статьи. Более подробное описание этих алгоритмов приводить нет смысла.
Разум – это поведение автономных систем, связанное с самосохранением. Разумная система стремится избежать попадания в отрицательное состояние, и держаться в положительном состоянии.
Не надо понимать инстинкт самосохранения так узко. Когда люди жертвуют жизнью ради других - это проявления инстинкта самосохранения системы, частью которой люди являются.
Конструктивное определение искусственного интеллекта
В этой статье есть исчерпывающее и конструктивное определение искусственного интеллекта.
В статье всё, что нужно есть. Там сказано, что рассуждать об опасности ИИ имеет смысл только на основе адекватного знания механизма интеллекта. В смысле, сильного интеллекта. В статье «Сильный интеллект, что это значит?» (https://habr.com/ru/articles/735136/) , по сути, описан мой подход к разработке ИИ. А современный ИИ в виде нейронных сетей стать сильным не имеет шансов, поэтому, он может быть опасен только своей глупостью.
Вообще, есть два подхода к разработке чего либо: функциональный и копирование. Овладеть внешним видом, как говорил Жванецкий, это ещё не решение задачи. Могут быть нюансы. Если в случае копирования мозга при помощи персептронов получается не всё, то стоит подумать о правильности подхода. По моему опыту, функциональный подход даёт лучшие результаты. Хотя, он сложнее. Вместо эвристических способов соединения нейронов и разработки стратегий их обучения нужно разрабатывать очень сложные структуры данных и алгоритмы. Но, зато они универсальны!
Переселение душ упомянуто только как возможный механизм, который, на мой взгляд, лучше всего объясняет происхождение совести. Если у Вас есть идея лучше, расскажите. Чтобы говорить о том, что обещать в случае покупки, надо сначала сделать то, что можно купить. :)
"Откуда вы это взяли? Это же одна из самых больших проблем безопасности современных ИИ..." - Вы правы. Но, откуда Вы взяли, что у меня современный ИИ (нейросеть). У меня другой ИИ, свой, без нейронов. И в нём есть такой алгоритм обобщения, который делает как надо.
Хорошо. Вы правы отчасти. Каждая предметная область представляется своими структурами данных. В программировании их создают программисты и потом записывают на языке программирования (универсальном представлении "знаний"). В объектном языке объект - это некоторое множество полей (свойств) с некоторым диапазоном значений (свойства). Как человек получает способность переводить реальный объект в описание на таком языке? Сначала он долго обучается воспринимать, потом долго обучается говорить на естественном языке (который тоже объектен), потом долго обучается программированию. Человек универсален, поэтому всё долго. Искусственную систему лучше сделать специализированной. Это значит наличие специализированной подсистемы, которая формирует модель объекта и переводит его в универсальное представление. С которым уже работает ядро системы, в котором хранятся и перерабатываются все знания. В смысле обобщения, расслоения на уровни абстрактности, решения задач, поиска новых знаний, общения на естественном языке с кем угодно и т.д. Специализированная система может получать информацию как в виде матрицы однотипных элементов, так и в виде фраз естественного языка. Это коротко. На самом деле всё немного сложнее.
Спасибо! В одном из комментариев выше я упомянул о том, что мне сначала пришлось переосмыслить всю философию. Не меньше. В результате получилась теория. Без формул, конечно, но с аксиомами, определениями и теоремами. В конечном итоге, они доведены до структур данных и алгоритмов. Чтобы проверить их в работе, пришлось сделать ограниченную программную реализацию. Например, при обучении естественному языку, программа генерирует знания в виде синтаксических диаграмм, связанных со смыслом (фрагменты модели предметной области на внутреннем представлении). Постепенно они обобщаются, уточняются и т.д. Очень интересно. К сожалению, до вау-эффекта ещё далеко, итак на всё это ушло более двух лет.
Сама теория тоже интересна. Получилась полная противоположность материализму. Помните основной вопрос философии: что первично, материя или идея?
Возможно, имеет смысл сделать следующее. 1. Опубликовать небольшими частями саму теорию в кратком изложении. Там есть вывод общего алгоритма Разума. Потом структуру данных и алгоритм генерации знаний. Конечно, без критических "know-how", для общего представления.
Конструктивно! Насчёт изучения процесса творчества. Сейчас для этого изучают мозг, его конструкцию. Обнаружили нейрон, примерно поняли, как он работает. И, почему-то решили, что если соединить их много друг с другом, получится мозг. Это как изучать работу программы разбирая компьютер. В основе разума, как и всего остального, лежат идеи, то есть, алгоритмы. Нейроны в системе делают не взвешивание, а логические операции. Вот в чём дело.
Моя задача скромнее. :) Я делаю ИИ, который, по моему мнению, будет лучше нейронных сетей. То есть, сильный. А в статье порассуждал о том, может ли он быть опасен в перспективе.
Интересная мысль. А в данном случае надо рассматривать человека отдельно от его Разума?
Ок!
Цитаты из стати «Конструктивное определение искусственного интеллекта».
То есть определение – это не просто одна фраза. Если в ней есть термины, которые могут быть поняты неоднозначно, они должны быть определены тоже. И так далее до общепринятых, однозначно понимаемых терминов.
Например, в статье есть определение разума в виде одной фразы: «Разум – это поведение автономных систем, связанное с самосохранением.» В этом определении термин «самосохранение» должен быть определён. И так далее, И всё это приводит к описанию структуры и общего алгоритма разумной системы. Это и есть определение разума. Но, для полной конструктивности оно должно быть доведено до работающей программной системы.
Теперь про определение интеллекта.
А что такое интеллект?
Это значит, что структура и алгоритм ИИ те же, что и у разума. Только плюс и минус ставит человек.
Думаю, при внимательном чтении всё это можно было бы заметить.
Конкретные алгоритмы будут в следующих статьях по ходу программной реализации проекта. А по поводу идеальных решений. Ваш интеллект работает идеально? В смысле идеальной логики, строгих решений на основе строгих же доказательств? Или есть догадки, гипотезы, заблуждения и т.д. Математики додумались до персептрона, доказали его универсальность. А дальше? Кто во что горазд?
Во-первых, спасибо за вопросы по существу. Во-вторых, труда не составит, только сейчас нет времени. Сделаю вечером.
По порядку.
В статье приведено общее описание алгоритма в виде, достаточном для целей статьи. Более подробное описание этих алгоритмов приводить нет смысла.
Не надо понимать инстинкт самосохранения так узко. Когда люди жертвуют жизнью ради других - это проявления инстинкта самосохранения системы, частью которой люди являются.
В этой статье есть исчерпывающее и конструктивное определение искусственного интеллекта.
В статье всё, что нужно есть. Там сказано, что рассуждать об опасности ИИ имеет смысл только на основе адекватного знания механизма интеллекта. В смысле, сильного интеллекта. В статье «Сильный интеллект, что это значит?» (https://habr.com/ru/articles/735136/) , по сути, описан мой подход к разработке ИИ. А современный ИИ в виде нейронных сетей стать сильным не имеет шансов, поэтому, он может быть опасен только своей глупостью.
Вообще, есть два подхода к разработке чего либо: функциональный и копирование. Овладеть внешним видом, как говорил Жванецкий, это ещё не решение задачи. Могут быть нюансы. Если в случае копирования мозга при помощи персептронов получается не всё, то стоит подумать о правильности подхода. По моему опыту, функциональный подход даёт лучшие результаты. Хотя, он сложнее. Вместо эвристических способов соединения нейронов и разработки стратегий их обучения нужно разрабатывать очень сложные структуры данных и алгоритмы. Но, зато они универсальны!
Переселение душ упомянуто только как возможный механизм, который, на мой взгляд, лучше всего объясняет происхождение совести. Если у Вас есть идея лучше, расскажите. Чтобы говорить о том, что обещать в случае покупки, надо сначала сделать то, что можно купить. :)
"Откуда вы это взяли? Это же одна из самых больших проблем безопасности современных ИИ..." - Вы правы. Но, откуда Вы взяли, что у меня современный ИИ (нейросеть). У меня другой ИИ, свой, без нейронов. И в нём есть такой алгоритм обобщения, который делает как надо.
"Вам мои стихи не нравятся? А Вы их читали?" "Что, я других не читал? Ладно, поверю на слово, скажите сами, хороши ваши стихи или нет?" Не знакомо?
Это комментарий к названию или Вы успели прочитать остальное?
И эту фразу перефразировал В.В. Путин в одном из своих выступлений, заменив информацию на искусственный интеллект.
Вообще то «Кто владеет информацией, тот владеет миром» (Н.М. Ротшильд)
Спасибо, не знал, что во времена Ленина уже был ИИ.
Спасибо, освежу.
Хорошо. Вы правы отчасти. Каждая предметная область представляется своими структурами данных. В программировании их создают программисты и потом записывают на языке программирования (универсальном представлении "знаний"). В объектном языке объект - это некоторое множество полей (свойств) с некоторым диапазоном значений (свойства). Как человек получает способность переводить реальный объект в описание на таком языке? Сначала он долго обучается воспринимать, потом долго обучается говорить на естественном языке (который тоже объектен), потом долго обучается программированию. Человек универсален, поэтому всё долго. Искусственную систему лучше сделать специализированной. Это значит наличие специализированной подсистемы, которая формирует модель объекта и переводит его в универсальное представление. С которым уже работает ядро системы, в котором хранятся и перерабатываются все знания. В смысле обобщения, расслоения на уровни абстрактности, решения задач, поиска новых знаний, общения на естественном языке с кем угодно и т.д. Специализированная система может получать информацию как в виде матрицы однотипных элементов, так и в виде фраз естественного языка. Это коротко. На самом деле всё немного сложнее.
Что, в мозгу под каждую задачу свои нейроны? Или в компьютере под каждую задачу свои биты?
Спасибо! В одном из комментариев выше я упомянул о том, что мне сначала пришлось переосмыслить всю философию. Не меньше. В результате получилась теория. Без формул, конечно, но с аксиомами, определениями и теоремами. В конечном итоге, они доведены до структур данных и алгоритмов. Чтобы проверить их в работе, пришлось сделать ограниченную программную реализацию. Например, при обучении естественному языку, программа генерирует знания в виде синтаксических диаграмм, связанных со смыслом (фрагменты модели предметной области на внутреннем представлении). Постепенно они обобщаются, уточняются и т.д. Очень интересно. К сожалению, до вау-эффекта ещё далеко, итак на всё это ушло более двух лет.
Сама теория тоже интересна. Получилась полная противоположность материализму. Помните основной вопрос философии: что первично, материя или идея?
Возможно, имеет смысл сделать следующее. 1. Опубликовать небольшими частями саму теорию в кратком изложении. Там есть вывод общего алгоритма Разума. Потом структуру данных и алгоритм генерации знаний. Конечно, без критических "know-how", для общего представления.
Конструктивно! Насчёт изучения процесса творчества. Сейчас для этого изучают мозг, его конструкцию. Обнаружили нейрон, примерно поняли, как он работает. И, почему-то решили, что если соединить их много друг с другом, получится мозг. Это как изучать работу программы разбирая компьютер. В основе разума, как и всего остального, лежат идеи, то есть, алгоритмы. Нейроны в системе делают не взвешивание, а логические операции. Вот в чём дело.