Comments 18
del
Я должен признать, что текст написан в своеобразном стиле, однако, если у Вас есть замечания по содержанию или какие-то вопросы, я бы на них с удовольствием ответил, будь Ваш комментарий чуть более развернутым)
Может, анонсируете список названий всех остальных частей и подчастей? Пока не очень ясно, к чему вы ведёте, в чём цель повествования (нет ни введения, ни заключения в частях, потому мне как читателю не очень понятно, зачем я это всё прочитал и правильно ли понял прочитанное). Похоже на ответы к вопросам, известным только самому автору, на формализмы ради формализмов, которые не добавляют новых знаний о… о чём? О чём вообще этот текст? В последней части мы придём к какой-то принципиально новой модели ИИ? В чём её новизна, в каких задачах эта модель применима?
Я вас понимаю. Думаю, что у людей, так или иначе соприкоснувшимися с практическими задачами восприятия машин, есть некоторое представление о проблемах, которым посвящена публикация, однако и Ваша критика вполне обоснована — статья рассчитана на широкий круг читателей и не должна поэтому предполагать у них какого-то специального опыта. Давайте я сначала опишу задачу, которую, по всей видимости, в общем виде пока что не по силам будет решить ни одному исследовательскому коллективу в мире. Если бы это было не так, то вы бы обязательно нашли статью с похожим содержанием — мне ничего похожего найти не удалось.
И так, задача.
Перед вами экран, который горит одним из трех цветов: красным, белым или зеленым, и две кнопки №1 и №2. Вы можете нажимать на каждую из этих кнопок в любой последовательности сколько угодно раз, причем известно, что цвет экрана, если и меняется(что совсем не обязательно), то только в момент нажатия кнопок. Заведомо известно, что весь этот эксперимент представляет крайне простое явление, настолько простое, что любой ребенок немного поэкспериментировав с кнопками, сможет назвать его суть. Требуется создать алгоритм, (не заглядывая в ответ) который достаточно долго нажимая на кнопки, смог бы абстрактно охарактеризовать это явление.
Перед тем, как раскрыть суть эксперимента, я хотел бы акцентировать внимание на том, что если программист знает в чем она заключается, то эта задача может показаться ему простой — нетрудно написать тривиальную специализированную программу. Тем не менее, любая подобная программа скорее всего провалится, если явление подменить на какое-нибудь сравнимое с исходным по простоте.
Теперь о том, что же показывает экран на самом деле. На самом деле, на столе лежит ожерелье формы окружности из не более чем 10 бусин: красного, белого и зеленого цвета, причем на ожерелье бусы одинакового цвета могут находится рядом. Изначально выбрана бусина, цвет которой и показывает экран перед первым нажатием кнопки. При каждом последующем нажатии на №1 экран будет показывать цвет бусины справа (против хода часовой стрелки) от той, чей цвет он показывал до нажатия, кнопка №2 имеет противоположный эффект.
Программа по наблюдаемым закономерностям между нажатием кнопок и цветом экрана должна сформировать абстрактные понятия движения, места, и ту идею, что эти «места» находятся в простом циклическом порядке, если ожерелье симметрично, это так же должно быть отмечено соответствующим абстрактным понятием конкретной симметрии.
Теперь мотивы автора должны прояснится.
И так, задача.
Перед вами экран, который горит одним из трех цветов: красным, белым или зеленым, и две кнопки №1 и №2. Вы можете нажимать на каждую из этих кнопок в любой последовательности сколько угодно раз, причем известно, что цвет экрана, если и меняется(что совсем не обязательно), то только в момент нажатия кнопок. Заведомо известно, что весь этот эксперимент представляет крайне простое явление, настолько простое, что любой ребенок немного поэкспериментировав с кнопками, сможет назвать его суть. Требуется создать алгоритм, (не заглядывая в ответ) который достаточно долго нажимая на кнопки, смог бы абстрактно охарактеризовать это явление.
Перед тем, как раскрыть суть эксперимента, я хотел бы акцентировать внимание на том, что если программист знает в чем она заключается, то эта задача может показаться ему простой — нетрудно написать тривиальную специализированную программу. Тем не менее, любая подобная программа скорее всего провалится, если явление подменить на какое-нибудь сравнимое с исходным по простоте.
Теперь о том, что же показывает экран на самом деле. На самом деле, на столе лежит ожерелье формы окружности из не более чем 10 бусин: красного, белого и зеленого цвета, причем на ожерелье бусы одинакового цвета могут находится рядом. Изначально выбрана бусина, цвет которой и показывает экран перед первым нажатием кнопки. При каждом последующем нажатии на №1 экран будет показывать цвет бусины справа (против хода часовой стрелки) от той, чей цвет он показывал до нажатия, кнопка №2 имеет противоположный эффект.
Программа по наблюдаемым закономерностям между нажатием кнопок и цветом экрана должна сформировать абстрактные понятия движения, места, и ту идею, что эти «места» находятся в простом циклическом порядке, если ожерелье симметрично, это так же должно быть отмечено соответствующим абстрактным понятием конкретной симметрии.
Теперь мотивы автора должны прояснится.
Нет, мотивы не проясняются. Какой смысл в этой задаче? Что значит «программа должна сформировать абстрактные понятия»? В каком виде эти понятия будут представлены и какую пользу (и в какой задаче) это представление будет нести? Или ваша модель не прикладная, а более фундаментальная, феноменологическая, новое слово в философии сознания? Тогда гуглить нужно было не статьи, а целые книги или даже циклы книг — это точно в одну статью не уместится.
Вы из тех редукционистов, кто познавательную функцию высшей психической деятельности сводит к динамике переключения нейронов («лампочек»), оставляя за скобками эволюцию культуры и языка, в которой, собственно, математика и родилась? Чтобы действительно претендовать на «математическую модель восприятия», неплохо бы было начать с той науки, где само это явление, восприятие, и сформулировано. Начать с изначальных формализаций, а не подменять смысл песни параметрами её частотного спектра.
А решений по выявлению закономерностей (симметрий, повторов, энтропийных характеристик) из входящего информационного потока полно — HTM, например, или AIX, как самые популярные (имеющие к тому же применение и в практических задачах).
Так что же получится в конце ваших статей (оглавления вы так и не дали)? Какую задачу модель решает? «Объяснительную», о том, как вы понимаете феномен восприятия с точки зрения вашего математического опыта? Или всё-таки есть прикладная задача (не про сферическое ожерелье в вакууме)?
Вы из тех редукционистов, кто познавательную функцию высшей психической деятельности сводит к динамике переключения нейронов («лампочек»), оставляя за скобками эволюцию культуры и языка, в которой, собственно, математика и родилась? Чтобы действительно претендовать на «математическую модель восприятия», неплохо бы было начать с той науки, где само это явление, восприятие, и сформулировано. Начать с изначальных формализаций, а не подменять смысл песни параметрами её частотного спектра.
А решений по выявлению закономерностей (симметрий, повторов, энтропийных характеристик) из входящего информационного потока полно — HTM, например, или AIX, как самые популярные (имеющие к тому же применение и в практических задачах).
Так что же получится в конце ваших статей (оглавления вы так и не дали)? Какую задачу модель решает? «Объяснительную», о том, как вы понимаете феномен восприятия с точки зрения вашего математического опыта? Или всё-таки есть прикладная задача (не про сферическое ожерелье в вакууме)?
Не хотел показаться резким, возможно, эти статьи просто не предназначены для меня. Тогда неплохо бы было обрисовать ваших потенциальных читателей, которым информация из ваших статей может показаться полезной/интересной, и минимальный уровень их подготовки. Меня эта тема (тема strong AI и симуляции функций высшей психической деятельности in silico) очень волнует, потому я в любом случае дочитаю ваши статьи. Но не хотелось бы потратить время впустую, выяснив, что это очередная «теория всего», никак не применимая к реальности, нефальсифицируемая, живущая сама в себе (вызывая успокаивающее ощущение «понимания происходящего», как и положено религиозным текстам).
В шахматы, например, ваша модель сможет сыграть без «объяснения» ей правил?
В шахматы, например, ваша модель сможет сыграть без «объяснения» ей правил?
Если ее потенциально наказывать и поощрять, возможно, через лет десять развития технологии, Вы сможете ее как-то заинтересовать, чтобы устно объяснить правила игры. Но все это — пока что фантастика.
Примерно такие же обещания в 50-хх давали энтузиасты искусственных нейросетей. Я не против пафосных заявлений, но хоть что-то конкретное сформулируйте о конечной цели ваших текстов. Что получится в конце? Как вы проверили работоспособность вашей модели? В какой задаче сравнили с уже известными решениями? Картинки модель научилась распознавать или кластеризовать? Играть в крестики-нолики?
Говорят, были такие далекие времена, когда вместо википедии люди читали книги, а если мужчина возвращался домой позже обычного, то от него непременно пахло шахматами. Я вскоре опубликую третью часть — она пока в работе.
Вам я посоветовал бы для начала У. Росс Эшби «Введение в кибернетику», попробуйте освоить «Умозрительные эксперименты с последовательностными машинами». С этими авторами Вы точно будите в хорошей компании
Мы уже в хорошей компании с Биром, Винером и даже «междисциплинарным» Лефевром (который как раз математическую формализацию рефлексии произвёл, надстроив её поверх идеи теории игр). Потому и спрашиваю, относительно каких идей новизна ваших текстов, что они опровергнуть или расширить пытаются. Это просто краткое введение в кибернетику, в теорию сигналов и управления? Возможно, моя единственная претензия сводится к выбору вами слишком многообещающего заголовка для ваших текстов.
ext_fix: Со стороны кибернетики мы уже в хорошей компании с Биром, Винером и даже «междисциплинарным» Лефевром (который как раз математическую формализацию рефлексии произвёл, надстроив её поверх идеи теории игр). Со стороны нейронов мы в хорошей компании с Хьюбелом. Со стороны теории знаний мы в хорошей компании с Минским. Со стороны психологии (и понятия «социального интеллекта» как обусловленного социальной средой) мы в хорошей компании с Айзенком. Потому и спрашиваю, относительно каких идей новизна ваших текстов, что они опровергнуть или расширить пытаются. Это просто краткое введение в кибернетику, в теорию сигналов и управления? Возможно, моя единственная претензия сводится к выбору вами слишком многообещающего заголовка для ваших текстов.
В моих комментариях очень много предложений, заканчивающихся знаком вопроса и проигнорированных вами. Не могли бы вы на них ответить или объяснить, почему этого не делаете (причина типа «потому что текст не для вас» тоже годится — я уже просил обрисовать круг ваших потенциальных читателей, которым вы адресуете текст)? Или текст настолько гениален и самодостаточен, что не нуждается, на ваш взгляд, в продвижении среди подобных мне дилетантов? Тогда поделитесь вашей биографией, чтобы понимать, откуда у читателя должно было родиться доверие к качеству материала.
Я уже сильно в роли эгоистичного потребителя контента, и вы подначиваете меня эту роль отыгрывать дальше.
Я уже сильно в роли эгоистичного потребителя контента, и вы подначиваете меня эту роль отыгрывать дальше.
Вы заставляете меня нарушить последовательность изложения идей. По сей день нет пока ничего действенного для обнаружения логических закономерностей в символьных последовательностях. Можете, например, предложить из известных вам на рынке технологий, такую, которая по достаточно большому набору слов некоторого конечноавтоматного языка, смогла бы восстановить за приемлемое время вычислений хорошо описывающий этот язык автомат, или еще лучше: решала эту задачу для КС — языков? Боюсь, ничего подобного пока нет и дело по сравнению с 70-ми годами вряд ли далеко ушло вперед. Все хотят сразу учить машины разглядывать картины, играть в покер и читать стихи, и это часто удается гению создателя программ, однако гению его творений даже примитивные, по сравнению с этими задачами, вещи остаются пока недоступны.
Во введении к первой части я говорил о роли участия описательного языка в процессе восприятия. Кроме того, что в этой работе впервые формализованы и исследованы некоторые абстрактные понятия (к ним прибавятся еще «предмет» и «место»), одним из ее результатов, как вы позднее увидите, является тот, что все эти понятия не могут быть подмечены машиной, если она в явной или скрытой форме не использует достаточно развитый описательный язык и не анализирует свои записи на нем. Изначально вся статья называлась «Языковая природа абстрактных понятий», впоследствии по некоторым соображениям название было изменено.
Я уверен, что много исследователей работали над феноменом восприятия, однако в выбранном мною направлении, скорее всего, еще попыток не было.
Мною не утверждается, что приведенные в статье результаты, как-то сами по себе могут решить какую-то из упомянутых здесь проблем или, тем более, в голом виде применены на практике, однако я имею основания полагать, что эти результаты являются пусть даже малым, но необходимым фрагментом знания на пути к пониманию принципов мышления возможности наделения машин (алгоритмов) способности развитого восприятия и поведения.
Марвин Минский написал вместе с Папертом книгу «Персептроны», если вы ее полистаете, то найдете некоторое обоснование приведенных мною доводов в пользу формализации восприятия.
Близкая к теме обсуждения книга фон Неймана «Теория самовоспроизводящихся автоматов», в ней вы тоже найдете доводы о необходимости применения описательных языков, правда для процесса воспроизведения.
Во введении к первой части я говорил о роли участия описательного языка в процессе восприятия. Кроме того, что в этой работе впервые формализованы и исследованы некоторые абстрактные понятия (к ним прибавятся еще «предмет» и «место»), одним из ее результатов, как вы позднее увидите, является тот, что все эти понятия не могут быть подмечены машиной, если она в явной или скрытой форме не использует достаточно развитый описательный язык и не анализирует свои записи на нем. Изначально вся статья называлась «Языковая природа абстрактных понятий», впоследствии по некоторым соображениям название было изменено.
Я уверен, что много исследователей работали над феноменом восприятия, однако в выбранном мною направлении, скорее всего, еще попыток не было.
Мною не утверждается, что приведенные в статье результаты, как-то сами по себе могут решить какую-то из упомянутых здесь проблем или, тем более, в голом виде применены на практике, однако я имею основания полагать, что эти результаты являются пусть даже малым, но необходимым фрагментом знания на пути к пониманию принципов мышления возможности наделения машин (алгоритмов) способности развитого восприятия и поведения.
Марвин Минский написал вместе с Папертом книгу «Персептроны», если вы ее полистаете, то найдете некоторое обоснование приведенных мною доводов в пользу формализации восприятия.
Близкая к теме обсуждения книга фон Неймана «Теория самовоспроизводящихся автоматов», в ней вы тоже найдете доводы о необходимости применения описательных языков, правда для процесса воспроизведения.
«Лингвистический» путь к построению ИИ (символьный и логический) — исторически самые первые попытки моделирования мыслительной деятельности человека как раз. Агентный подход так же появился почти сразу (примерно так и возникла кибернетика, в общем-то). Вы верно упомянули фон Неймана, но почему-то говорите о новаторстве. Что ж, будет интересно почитать продолжение ваших трудов и выяснить, в чём заключается «малый, но необходимый фрагмент знания на пути к пониманию», и каковы основания такого мнения. Марвина Минского «листал», и даже больше, уж будьте уверены, разряжённая самопополняющаяся семантическая сеть на фреймоподобных структурах с добавлением эвристических правил вывода новых фреймов — это моя первая «взрослая» модель ИИ. А текущие мои поделки как раз «лингвистические», я тоже выращиваю «описательные языки предметной области» разными способами (иногда даже получается практическое применение таким заготовкам найти), но вот «настоящий человеческий» интеллект (с той самой психической функцией «восприятие», которую вы в заголовке указали), увы, без моделирования ключевых культурных явлений в виртуальной среде невозможен, а потому невозможен без моделирования социума с генетической/меметической динамикой, схожей с таковой у людей.
Т.е., ваш подход применим (это всё с моей личной точки зрения, конечно), если вы в конце расскажете, как будете моделировать виртуальную среду, в которой будут развиваться ваши интеллектуальные агенты, чтобы она способна была подстегнуть их к усложнению сигнальной системы коммуникации до полноценного языка (а это значит, что в нём должны способны отражаться явления, подобные, например, социальным, психическим, политическим, экономическим, религиозным — это помимо «базовых» представлений о пространстве и времени, которые, вообще говоря, являются не базовыми, а как раз производными из вышеперечисленных). Оказывается, что механизм оптимизации информационного потока в самом агенте непринципиален, это может быть даже обычный компрессор (я пробовал и кодер Хаффмана, и что-то похожее на арифметическое кодирование), выход которого частично замкнут на его вход, а частично связан с эффекторами (это примерная идея AIX, «интеллектуального агента как энтропийного оптимизатора», адаптирующего своё поведение так, чтобы входной поток был максимально предсказуемым). Принципиальными для возникновения рефлексивного языка являются события, возникающие в ходе «жизнедеятельности» агентов и создающие «ценность» их символизации. Без рефлексии нет никакого восприятия, нет того, кто скажет кому-то «я понял это так».
И да, всё это в математически-философском ключе описано и у Хофштадтера, в книге 79-го года, которую я уже упоминал.
В общем, если снизите амбиции с «новое слово в ИИ» до «введение в кибернетику», лично я смогу воспринимать спокойнее (менее ревностно) ваш текст. Но это всё моё личное впечатление, надеюсь, оно не помешает получить удовольствие ни вам, ни вашим читателям. Спасибо за уделённое на диалог время.
Т.е., ваш подход применим (это всё с моей личной точки зрения, конечно), если вы в конце расскажете, как будете моделировать виртуальную среду, в которой будут развиваться ваши интеллектуальные агенты, чтобы она способна была подстегнуть их к усложнению сигнальной системы коммуникации до полноценного языка (а это значит, что в нём должны способны отражаться явления, подобные, например, социальным, психическим, политическим, экономическим, религиозным — это помимо «базовых» представлений о пространстве и времени, которые, вообще говоря, являются не базовыми, а как раз производными из вышеперечисленных). Оказывается, что механизм оптимизации информационного потока в самом агенте непринципиален, это может быть даже обычный компрессор (я пробовал и кодер Хаффмана, и что-то похожее на арифметическое кодирование), выход которого частично замкнут на его вход, а частично связан с эффекторами (это примерная идея AIX, «интеллектуального агента как энтропийного оптимизатора», адаптирующего своё поведение так, чтобы входной поток был максимально предсказуемым). Принципиальными для возникновения рефлексивного языка являются события, возникающие в ходе «жизнедеятельности» агентов и создающие «ценность» их символизации. Без рефлексии нет никакого восприятия, нет того, кто скажет кому-то «я понял это так».
И да, всё это в математически-философском ключе описано и у Хофштадтера, в книге 79-го года, которую я уже упоминал.
В общем, если снизите амбиции с «новое слово в ИИ» до «введение в кибернетику», лично я смогу воспринимать спокойнее (менее ревностно) ваш текст. Но это всё моё личное впечатление, надеюсь, оно не помешает получить удовольствие ни вам, ни вашим читателям. Спасибо за уделённое на диалог время.
Sign up to leave a comment.
Математическая модель восприятия (Часть 2)