Comments 99
Может кто со мной и не согласится, но лично я не вижу не соответствия понятий "смысла", "понимания" как его интерпретирует автор статьи для той же GPT-3.
Попытки формализовать "понимание" Только через ответы с грохотом нарываются на парадокс китайской комнаты. А другого мы пока не придумали.
Муравьи умеют пересказывать друг другу усиками путь из 10 поворотов. понимает ли муравей послушавший разведчика куда надо идти? Он совершенно точно идет туда куда надо, но утверждать мы можем только то, что он если и понимает, то точно не так как мы.
Так парадокса нет. И все, что мы имеем, это ответы. Извините, искать неонку внутри головы — нет возможности.
Внутри головы -нет, а внутри искусственной нейросети можно пытаться. Посмотрите мою статью здесь 2015 года про "ансамбли синапсов — структурный элемент нейросети". Точно таким же способом можно попытаться посмотреть есть ли у нейросети консолидированное понятие "глаза" и "уши", например, или нет. Хотя том тоже, конечно свои огромные факторы субъективизма.
Я почитал вашу статью. А зачем ковыряться внутрях нейронок? Чтобы все-таки убедиться, что она понимает, как это видно по её ответам?
А ведь все просто: нейросеть понимает, если функционал качества на тестовых данных хороший.
Ну может что-то стрельнет…
Ваши ансамбли синапсов, про которые я читал. Можно вопрос? Вам не кажется, что «ансамбль синапсов» — громко сказано и нет смысла этот термин вводить? Ансамбль — это часть нейросети, и известно, что чем глубже слой, тем абстрактнее признак. Вы показали, что да, абстрактный признак, а иногда ещё сложный (хитро запутанный) и часто не совпадающий с человеческим представлением о признаках.
Но возьмём человека: он обучается на данных, содержащих глаза, очень много и долго и у него признак «глаз» сформировался. Но можно привести кучу примеров, когда и у человека в нейронах каша.
Ансамбль синапсов я ввёл для того чтобы провести различие с «нейроном бабушки» с одной стороны а с другой стороны чтобы подчеркнуть согласованное срабатывание синапсов не относящихся не только к одному нейрону, но часто и даже к одному слою.
Но возьмём человека: он обучается на данных, содержащих глаза, очень много и долго и у него признак «глаз» сформировался. Но можно привести кучу примеров, когда и у человека в нейронах каша.Абсолютно согласен. Человек может интуитивно понимать какую-то отрасль физики и тогда ему достаточно мимолётного упоминания эффекта чтобы понимать его место в общей системе и, например, другие его применения. А может вызубрить определение из учебника к экзамену, но замена хотя бы одного слова в вопросе приводит к тому, что он ничего не может ответить. У меня самого был в жизни шикарный случай, когда на экзамене по дифференциальной геометрии препод вертя в руках мою зачётку попросил меня привести пример тензора, который бы мы не изучали в курсе дифгема. От такого вопроса я офигел и ушёл с экзамена со вполне заслуженной тройкой. И только выйдя из аудитории до меня допёрла суть произошедшего — лектор, принимавший у меня экзамен увидел в зачётке, что предыдущий мой экзамен был специальная теория относительности по которой у меня пять и проверил ПОНИМАЮ ли я, что те математические манипуляции, которые я успешно научился делать на СТО, но которые тензором тогда не назывались, чтобы не путать студентов, это ровно то же самое чему он пытался научить меня в течении полугода. Но я не понимал.
ИМХО это и есть понимание, и именно его прямое изучение и оптимизация нейросете так чтобы оно в них было это и есть то чем стоит заниматься. И вот вам, как раз, инструмент, хоть и очень рассчётно сложный. Вычисления роли синапсов по моему алгоритму, к сожалению, имеет рассчётную сложность o(n^2) от количества синапсов и поэтому доступно только в вырожденных случаях, ну или для суперкомпьютеров. Но если чётко сформулировать перед собой такую задачу можно придумать как её решить более эффективно.
подчеркнуть согласованное срабатывание синапсов не относящихся не только к одному нейрону, но часто и даже к одному слою.
А зачем это подчёркивать? Бэкпроп действительно согласованно обучает слой за слоем от выходу к входу, один слой учит предыдущий на своих ошибках. И бэкпроп вполне может выстраивать сложную логику, когда все нейроны работают согласованно на общий результат.
Про китайскую комнату Вы не совсем правы. Человек, выполняющий инструкцию в китайской комнате, не понимает, а вся комната вместе с инструкцией вполне. Такова по крайней мере одна из современных интерпретаций этого эксперимента в философии.
А муравей, да, понимает, если правильно интерпретирует сигналы. Отличие только в том, что мы знаем, что понимаем, а он просто понимает )
Смыслом высказывания может быть намерение, например, что-то доказать, не выраженное в самом тексте (свою правоту)
То, что вы приводите не есть смысл высказывания. Это цель или мотив высказывания — коммуникативного акта (КА). Также как процесс понимания в КА заключается в интерпретации сообщения — построении соответствия между последовательностью сигналов (имен) и собственной имеющейся на момент у адресата-участника КА ментальной репрезентации. Это очень своеобразная расшифровка при наличии разных шифро-блокнотов у адресата и адресанта. И понимание (непонимание) существенно зависит от очень многих факторов.
Ну а почему цель или ценность, выраженная в тексте, не может быть его смыслом? Смысл это любое суждение о тексте, его интерпретация (см. Герменевтика), но не сам текст
Суждение о тексте (в смысле теории интерпретации и понимания текстов) или критика (литературная критика) — это порождение другого текста, реализация другого КА, имеющего другую семантику и, естественно, прагматику. С моей точки зрения любое суждение о тексте, его интерпретация, направленная вовне — это новый текст.
Текста самого по себе нет — в нем, в силу возможностей адресанта, «закодировано» некоторое соотв. между символами (именами) и ментальными репрезентациями автора (адресанта). Он имеет не только семантику (смысл как соответствие, отношение между именами (сложное имя — предложение, высказывание) и денотатом (представлением)) как и всякое другое сообщение, но и прагматику (цель сообщения — она может быть представлена разными способами, в том числе и не языковыми средствами). Вы можете выражать в тексте (в своем сообщении) какие-то оценки, суждения, относительно другого текста, но они также как и любое другое семантическое наполнение, будут у адресата «проходить» интерпретацию. Поймет адресат (сможет дать адекватную интерпретацию, сделать адекватное сопоставление между именами и денотатами — его ментальными репрезентациями) сделанные вами оценки или отвергнет их, только из-за другой интерпретации текста, зависит от очень многих факторов. В большинстве случаев необходима обратная связь: сообщение или действие, направленное от бывшего адресата к вам. Таким орудием обратной связи могут быть элементы невербальной коммуникации (жесты, интонация, разметка и т.п.). Грубо говоря: чисто языковых средств всегда недостаточно для успешного понимания (успешного завершения КА).
Последовательность (цепочка) КА может растягиваться во времени в зависимости от целей и мотивов коммуникантов. Возможно до того момента пока не будет достигнута какая-то цель: например, максимально точно интерпретировать намерения автора или получить точную информацию о состоянии третьего лица, получить точную инструкцию для выполнения какого-либо действия. Очевидно, что при этом цели и мотивы коммуникантов всегда разные.
Для успешной интерпретации сообщения адресатом существенно важным фактором является его «модель» адресанта, наличие определенного опыта прошлого общения, представления о его возможных действиях и пр.
Смысл это любое суждение о тексте...
Если вы под суждением понимаете внутреннее — ментальное — представление текста (возбужденность определенных зон, структур НС) адресата, то да.
… построение онтологий…… Теперь можно констатировать, что такой способ решения проблемы «понимания» провалился...
это не совсем точно. Для адекватного существования в некоторой действительности естественные и искусственные эфирные нейронные гиперсети так или иначе должны содержать в той или иной форме соответствующую объекту и среде онтологию в своём образно-ассоциативном архиве. Другое дело, что одной лишь онтологии для полноценного понимания недостаточно. Необходим также и интеллект — эволюционность сознания — инструмент для построения самой онтологии посредством эволюции информации…
но о понимании можно говорить только в диалоговых системах Искусственного Интеллекта (ИИ)
У вас сразу в первом предложении необоснованное утверждение. Поэтому все дальнейшие рассуждения логически бессмысленны.
Понимание системой ИИ означаете ее способность ДОСТРАИВАТЬ правдоподобные гипотезы о картине мира по отрывочным знаниям фактов из этого мира.
Это неправильное утверждение. Как вы определите, правдоподобная гипотеза или нет, со своим пониманием сравните? А ваше понимание тогда откуда взялось? Откуда взялось понимание самого первого человека?
И другой вопрос — а когда система узнает один конкретный факт, это не является пониманием? Если это не понимание, тогда что? Тут все сводится к тому, что означает термин "знание факта", определения которому вы не дали. И с большой вероятностью в этом определении будет присутствовать термин "понимание", потому что иначе система не сможет его использовать, так же как компьютер не может использовать информацию из учебника, который в нем хранится.
Рад, что Вы присоединились к обсуждению, но прошу все таки, если пишите, что автор не прав, то пишите почему. Иначе это голословное личное мнение, не стоящее даже ответа
Это про первую цитату. Вторая аргументирована, поэтому отвечаю.
Правильность достраивания, конечно, проверяется по человеку, потому что априори принимается, что он такой способностью обладает, мы же свои способности по построению картины мира хотим смоделировать — они модельными и выступают.
Понимаете и есть правильное достраивание, которое возможно только если бот обладает знанием этого кусочка картины мира по крайней мере. Знание в данном случае и есть способность построения ответа, соответствующего картине мира.
если пишите, что автор не прав, то пишите почему
Это про первую цитату
Я не сказал, что вы не правы, я сказал, что ваше утверждение необосновано. Необосновано оно потому что там нет обоснования, это же вроде очевидно. И именно потому что вы сами не написали там, почему. Почему вы сами не пишете обоснование, а от других требуете?
Правильность достраивания, конечно, проверяется по человеку
У вас там написан не метод проверки, а определение понятия. Я говорю о том, что это определение неправильное. У человека тоже есть понимание, но его никто не проверяет. И у животных оно было миллионы лет до появления человека, но их тоже никто не проверял.
Понимание и есть правильное достраивание
Нет, и контр-примеры для этого я привел. Давайте еще один приведу. Я говорю "дважды два равно четыре", вы это высказывание конечно понимаете. Но никакого достраивания неизвестных фактов здесь нет. Достраивание того, что неизвестно, это уже результат логических рассуждений, для этого уже нужно иметь понимание известных фактов.
Необосновано оно потому что там нет обоснования, это же вроде очевидно
А по моему очевидно, что оно ниже и приведено в трех пунктах. Как вы узнаете еще у системы, что она понимает, ели она никак не отвечает? Это вроде очевидно, поэтому диалоговые. В общем, согласен, что за этой очевидностью такое вступление просто лишнее.
У человека тоже есть понимание, но его никто не проверяет.
Для проверки нашего понимания нужен разум, который понимает больше, не встречал пока такого )
Давайте еще один приведу.
Вы приводите пример не понимания, а знания одного факта, что не является пониманием. Факты знает грубо говоря и винчестер, на котором он записан. Понимание же значит и как он получен, и как можно получить ДРУГИЕ примеры сложения, то есть достроить… Это означает понимать правила сложения, например. Именно так как Вы написали дальше "Достраивание того, что неизвестно, это уже результат логических рассуждений, для этого уже нужно иметь понимание известных фактов". Рассуждение и есть достраивание.
А по моему очевидно, что оно ниже и приведено в трех пунктах
В этих трех пунктах описаны характеристики ответов диалоговых систем искусственного интеллекта. Там ничего не говорится про не-диалоговые системы, а следовательно, там нет доказательства, что понимания в не-диалоговых системах быть не может. Я вот считаю, что понимание в не-диалоговых системах очень даже может быть. Пример тому дикие животные, которые миллионы лет обходились без диалогов, но умели распознавать объекты окружающий среды и даже предсказывать их действия (например при охоте).
Для проверки нашего понимания нужен разум, который понимает больше, не встречал пока такого )
Ну так из этого следует, что ваше определение понимания неверно. По вашему определению для понимания нужен тот, кто будет проверять результат. У человека понимание есть, а проверяющего нет. Значит в определении термина "понимание" никакого проверяющего быть не должно, равно как и связанных с ним характеристик типа "правдоподобность".
Вы приводите пример не понимания, а знания одного факта, что не является пониманием.
Я про это и написал — все сводится к определению термина "знание факта", определения которому вы не дали. В отношении человека знание факта предполагает его понимание. Если я вам скажу факт "asdnjks dogfae", можно ли сказать, что вы его знаете? Нет, обычно про неизвестный набор символов так не говорят.
Понимание же значит и как он получен, и как можно получить ДРУГИЕ примеры сложения, то есть достроить
Неправда. В общепринятом смысле термин "понимание" этого не требует. Можно не знать, как получен факт "дважды два равно четыре" и сколько будет "дважды три", но понимать этот факт и даже использовать при решении задачи "сколько будет дважды два".
Также можно рассмотреть понимание отдельных слов в этом высказывании — что означает "два", что означает "жды" и т.д. Или более простой пример — понимание слова на незнакомом языке. Допустим, вы поехали на подработки в другую страну. Сказали вам, что "гоуклинзефлор" означает "иди мой пол", и показали что надо делать, и в следующий раз вы поймете, что от вас требуется, даже если вы других слов на этом языке не знаете и предложение не можете построить.
Ни одно из этих пониманий не соответствует вашему определению, но люди все равно называют это пониманием.
Пример тому дикие животные,
Разве тут речь про животных? ))
Ну так из этого следует, что ваше определение понимания неверно
Откуда это следует? Мы пока априори считаем себя понимающими картину мира лучше ботов, это они не могут ответить на наши вопросы, а не мы на их. По моему это очевидно опять же.
В отношении человека знание факта предполагает его понимание.
Неверное утверждение. Знание факта не обязательно предполагает его понимание. Я знаю факт «asdnjks dogfae», это факт набора букв, и что? ))
В общепринятом смысле термин «понимание» этого не требует.
Можете привести общепринятое определение? Даже интересно… )))
Можно не знать, как получен факт «дважды два равно четыре»
Это значит не понимать, а только знать (факт) и повторять его как есть.
Или более простой пример — понимание слова на незнакомом языке
Слова не могут быть поняты без контекста, без «употребления» как установил Витгенштейн. Поэтому, пока вам не показали, что по этому речевому акту следует мыть пол вот так (контекст), вы его не поняли. Я об этом понимании ровно и говорю. Действие только для ботов — это речь.
ваше определение понимания неверно
Возникает вопрос — вы о каком определении говорите? Я его не давал.
Разве тут речь про животных? ))
А вы думаете, у животных какое-то особое понимание?) Тут речь про понимание, которым обладают люди, животные, и нейросети.
Откуда это следует?
Я написал же — по вашему определению для понимания нужен тот, кто будет проверять результат, определять правдоподобность.
Вы говорите, что для понимания нужен некто, проверяющий правдоподобность, что у человека есть понимание, и что у человека нет проверяющего правдоподобность этого понимания. В этих 3 утверждениях противоречие.
Возникает вопрос — вы о каком определении говорите? Я его не давал.
Давали:
"Понимание системой ИИ означает ее способность ДОСТРАИВАТЬ правдоподобные гипотезы о картине мира по отрывочным знаниям фактов из этого мира."
Даже если считать это просто описанием характеристик, это ничего не меняет. Для понимания эти характеристики необязательны.
Мы пока априори считаем себя понимающими картину мира лучше ботов, это они не могут ответить на наши вопросы, а не мы на их. По моему это очевидно опять же.
Да. Только это опять же не связано с тем, о чем я говорю. Мы считаем себя понимающими картину мира лучше ботов. Но ваше определение понимания все равно неверно. Потому что противоречие в 3 утверждениях выше от этого никуда не девается.
Неверное утверждение. Знание факта не обязательно предполагает его понимание. Я знаю факт «asdnjks dogfae», это факт набора букв, и что?
Не надо играть словами. Любой изложенный на письме факт это набор букв. Тем не менее, в общепринятом понимании "знание факта" это не то же самое, что "запоминание набора букв". Потому что подразумевается не факт существования набора букв, а смысл, заданный в этих буквах. Этот смысл и есть описание факта, а "знание факта" означает знание этого смысла.
Можете привести общепринятое определение?
- см. понять.
- Способность осмыслять, постигать содержание. смысл, значение чего-н.
- То или иное толкование чего-н.
- Уяснить значение чего-н., смысл чьих-н. слов, поступков.
- Познать, постигнуть.
Тут нигде нет критериев вида "как он получен, как можно получить ДРУГИЕ примеры, достроить".
Это значит не понимать, а только знать (факт) и повторять его как есть.
Нет, ответ на вопрос "сколько будет дважды два" будет "четыре", а не "дважды два четыре". Это не повторение как есть, а использование имеющегося знания для решения задачи. А факт 'Наш мир, включая все звезды, называется "Вселенная"' вообще не предполагает ДРУГИХ примеров. Но его тоже можно понимать и использовать. Это ничем не отличается от понимания и использования факта "дважды два четыре" без знания математики.
Поэтому, пока вам не показали, что по этому речевому акту следует мыть пол вот так (контекст), вы его не поняли. Я об этом понимании ровно и говорю.
Нет, по вашему определению это является фактом, а понимание это способность достраивать правдоподобные гипотезы на основе этих фактов.
Я как раз и говорю, что в этом примере никакого достраивания гипотезы нет, а понимание есть.
У меня есть определение, которое я считаю более правильным, и вы этим примером к нему уже подошли. Понимание это построение информационной модели внутри информационной системы, которая соответствует реальности вне информационной системы. Чем более подробная модель, тем больше понимания. А слова это обозначения элементов этой информационной модели. Вам показали действие "мыть пол", у вас в воображении появился информационный элемент с представлением этого действия. Вам сказали название, вы его запомнили. В следующий раз по этому слову будет активироваться этот информационный элемент.
В реальности начальник хочет, чтобы вы помыли пол, и каким-то образом передает вам эту информацию — может слово назвать или действием показать, или пальцем по часам на руке постучать, мол "пора уже". Понимание это когда в вашем воображении появляется информационный элемент "начальник хочет, чтобы я помыл пол".
А вы думаете, у животных какое-то особое понимание?)
Вы уже забыли, о чем речь в этом пункте. Он не про понимание, а про ИИ.
Вы говорите, что для понимания нужен некто, проверяющий правдоподобность, что у человека есть понимание
Мы проверяем понимание не человека, а бота, для которого человек — проверяющий. Вы запутались, поэтому у вас противоречие. У меня его нет.
Для понимания эти характеристики необязательны.
Опять голословно. Я считаю обязательными и пишу об этом.
Потому что подразумевается не факт существования набора букв, а смысл, заданный в этих буквах
Вот этим знание факта и отличается, к вашему сведению, от его понимания. Фактов много, понимание их может быть одно. И да, это не смысл. Смысл — это третье )
Тут нигде нет критериев вида «как он получен, как можно получить ДРУГИЕ примеры
Во-первых, Словарь Ожогова вряд ли годится для определения понятия. Это все-таки словарь русского языка, его употребления, а не научное определение понятия. Во-вторых, если бы я хотел повторить чье-то определение, я вряд ли бы стал писать статью ) Конечно, я иду чуть дальше Ожогова, позволите? )))
использования факта „дважды два четыре“ без знания математики.
:) Использовать 2+2=4 без знания математики можно ТОЛЬКО как написано и больше никак, а значит, не понимать, что это значит! Покажите это 4-х летнему ребенку, он может повторить эту надпись. Понимает он ее, не зная математику? Нет.
Я как раз и говорю, что в этом примере никакого достраивания гипотезы нет, а понимание есть.
Когда вам показывают, что надо делать в ответ на эту абракадабру, это и есть „достраивание“, в знакомых вам действиях и предметах. И только тогда вы обретаете понимание этого абракадабры, и можете даже сами найти тряпку, если вам ее не дали. „Достроить“ ее необходимость, ибо поняли…
Понимание это построение информационной модели внутри информационной системы, которая соответствует реальности вне информационной системы.
Это вы подошли к тому, что я вам объясняю, если все таки включили в определение слово „построение“. О нем и речь, что картины всей реальности у человека готовой нет, он ее для понимания налету создает. И если понял, может достроить сам недостающие или аналогичные примеры, которых не было в предъявленной „реальности“. Но данное вами определение слишком примитивно. Прям теория отражения Ульянова-Ленина. Оно не отвечает на вопрос, откуда мы знаем то, что не встречали.
Вы уже забыли, о чем речь в этом пункте. Он не про понимание, а про ИИ.
Говорите за себя пожалуйста, не надо мне приписывать ваши выдумки.
Этот пункт про понимание.
"но о понимании можно говорить только в диалоговых системах Искусственного Интеллекта (ИИ)"
Разговор о понимании, это написано прямым текстом. У вас вся статья про понимание, у нее даже в названии про это написано.
Мы проверяем понимание не человека, а бота, для которого человек — проверяющий. Вы запутались, поэтому у вас противоречие.
Говорите за себя пожалуйста.
Неважно, про чье понимание мы говорим. Понимание у всех одинаковое, у нас вообще цель сделать ИИ, который будет понимать так же, как человек. Определение должно описывать понимание любого существа. Нет смысла выдумать для ИИ какое-то особое понимание. Если вам хочется ввести какую-то новую сущность, которой нет у людей, придумайте для нее новый термин, а не используйте общеприниятый. Либо хотя бы поясняйте сразу, что вы используете это слово в какой-то другом смысле, не связанном с общепринятым.
Опять голословно. Я считаю обязательными и пишу об этом.
Раз вы проигнорировали примеры, где я доказывал, что они необязательны, я их повторю.
"Пример тому дикие животные, которые миллионы лет обходились без диалогов, но умели распознавать объекты окружающий среды и даже предсказывать их действия (например при охоте)."
"Сказали вам, что "гоуклинзефлор" означает "иди мой пол", и показали что надо делать, и в следующий раз вы поймете, что от вас требуется, даже если вы других слов на этом языке не знаете и предложение не можете построить."
"А факт 'Наш мир, включая все звезды, называется "Вселенная"' вообще не предполагает ДРУГИХ примеров. Но его тоже можно понимать и использовать."
"Ни одно из этих пониманий не соответствует вашему определению, но люди все равно называют это пониманием."
Почему вы называете это голословным, если я приводил доказательства? Что по-вашему будет не-голословным? Расскажите, я так и сделаю.
подразумевается не факт существования набора букв, а смысл, заданный в этих буквах
Вот этим знание факта и отличается, к вашему сведению, от его понимания.
Вас не смущает, что именно это я вам сразу и сказал?
"с большой вероятностью в этом определении будет присутствовать термин "понимание", потому что иначе система не сможет его использовать".
Если вы говорите про смысл, вы говорите и про понимание. Понимание это процесс, а смысл это то, что понимается, то есть что участвует в этом процессе.
Перестаньте пожалуйста использовать нравоучительный тон.
Можете привести общепринятое определение?
Словарь Ожогова вряд ли годится для определения понятия. Это все-таки словарь русского языка, его употребления, а не научное определение понятия
Вы просили общепринятое определение, а не научное. Но я не вижу причин, почему научное определение должно противоречить общепринятому. Сначала появился термин для обозначения явления, а уже потом его начали изучать. Оно может его расширять для универсальности, но не противоречить.
Понимает он ее, не зная математику? Нет
В соответствии с вашим определением нет. В соответствии с моим да. Математику он не понимает, а конкретно это утверждение вполне.
Когда вам показывают, что надо делать в ответ на эту абракадабру, это и есть „достраивание“
Но это не результат работы интеллекта, это внешняя информация, которую показывает кто-то другой. Это не достраивание, а получение фактов, но основе которых вы предполагаете достраивание.
Если в вашей теории это все-таки достраивание, как тогда выглядит получение фактов?
Это вы подошли к тому, что я вам объясняю, если все таки включили в определение слово „построение“
Но я не говорю про достраивание чего-то неизвестного на основе чего-то ранее известного, я говорю про процесс получения неизвестного.
Я вообще-то как раз и спорю из-за этого различия. Я говорю, что получение фактов это и есть понимание, а вы говорите, что это какая-то последующая обработка этих фактов.
И если понял, может достроить сам недостающие или аналогичные примеры, которых не было в предъявленной „реальности“
Нет. Никаких "других примеров" для понимания не требуется. Вселенная у нас одна, других примеров нет, но понять факт, что она есть, возможно.
Оно не отвечает на вопрос, откуда мы знаем то, что не встречали.
Мы не знаем то, что не встречали. Мы можем предположить что-то путем логических рассуждений, но для этого нужно уже понять какие-то факты.
Этот пункт про понимание.
Не надо выдергивать из контекста и все станет яснее: "… о понимании можно говорить только в диалоговых системах Искусственного Интеллекта (ИИ)" То есть речь только про ИИ.
Неважно, про чье понимание мы говорим. Понимание у всех одинаковое, у нас вообще цель сделать ИИ, который будет понимать так же, как человек.
В логике это называется подмена аргумента. Вообще-то в этом пункте идет речь не об определении, а об проверке понимания у программ, сделанных человеком.
Сказали вам, что «гоуклинзефлор» означает «иди мой пол», и показали что надо делать,
И я вам могу повторить, что это и есть достраивание — из самого «гоуклинзефлор» не ясно, что надо мыть полы, это приходится пояснять, то есть говорить про «гоуклинзефлор» что то еще, чтобы у адресат мог достроить связи этого слова с тем, что он знает, тогда он сможет понять (достроить) что надо взять тряпку. Не вижу опровержения этого тезиса.
Животные, конечно, понимают, достраивая не словом, а правильным действием «понимаемое» (пищу — едят). Но речь тут не про животных, о чем написал выше в первом пункте.
Вселенная одна только у нас в голове. Даже ее единичность предполагает, что помимо ее может быть и другая, и множественность вселенных — то, что можно достроить к факту ее единичности. Некоторые ученые так и считают )
Сначала появился термин для обозначения явления, а уже потом его начали изучать.
Вот только все происходит наоборот — термин появляется в результате изучения нового явления. Можно почитать об этом у Т. Кун.
а конкретно это утверждение вполне
И что он в нем «понимает» кроме расстановки нарисованных фигур, значения которые он не знает? )
Если в вашей теории это все-таки достраивание, как тогда выглядит получение фактов?
Ответил выше, но это хороший вопрос. Поэтому отвечу чем факт отличается от понимания. Понимание — это многовариантная модель, включая все возможные случаи, а факт — один из вариантов, одна из комбинаций значений слотов в фрейме, если вы знакомы с таким понятием (Мински М.).
Я говорю, что получение фактов это и есть понимание, а вы говорите, что это какая-то последующая обработка этих фактов
Тогда я не до конца понимаю, о чем вы. Поясню свою еще раз. Чтобы понять факт, именно понять, а не просто его узнать, надо сопоставить, как тут писали некоторые, факту какую-то модель в понимающей системе, а не запись. Иначе бы винчестер тоже «понимал» отыскав на своих дисках набранную вами фразу один-в-один. Модель тем и отличается, что она многовариантна как фреймы. Это необходимо, чтобы животное, научившись на одном примере, могло в других примерах действовать так же и предполагать возможные действия, которые в факте НЕ СОДЕРЖАТСЯ.
Мы можем предположить что-то путем логических рассуждений, но для этого нужно уже понять какие-то факты.
Именно это я и называю пониманием — возможность логически предполагать на основе каких-то фактов.
Не надо выдергивать из контекста и все станет яснее: "… о понимании можно говорить только в диалоговых системах Искусственного Интеллекта (ИИ)" То есть речь только про ИИ.
Вот про ваше "только", которое вы включили в выделение, и было мое возражение и пример про животных. Не только.
Это "только" и подразумевает все остальные варианты, из которых мы выбираем.
Поэтому животные здесь при том, что это не-диалоговая система, которая опровергает ваше утверждение.
Независимо от того, о чем идет речь, в тексте используется термин "понимание", которым обладает не только ИИ.
Слова из контекста я не выдергивал. То, что я процитировал и выделил, имеет тот же смысл, что и в вашей статье.
В логике это называется подмена аргумента.
Вообще-то в этом пункте идет речь не об определении, а об проверке понимания у программ, сделанных человеком.
Я не говорил, что в этом пункте идет речь об определении. То, что я называю "ваше определение", находится в разделе "Резюме".
И аргументы я не подменял. У вас используется термин "понимание"? Используется. Он означает общеизвестное явление, или что-то, выдуманное вами? Общеизвестное.
Но речь тут не про животных, о чем написал выше в первом пункте.
Ну да, не про животных. И что дальше-то? У них какое-то другое понимание? Вы почему-то проигнорировали этот вопрос в прошлый раз.
Вот только все происходит наоборот — термин появляется в результате изучения нового явления. Можно почитать об этом у Т. Кун.
Мне неважно, о чем писал Т.Кун. Апелляция к авторитету это логическая ошибка. Можно изложить аргументы и сделать отсылку к автору, но не заменять аргументы именем автора.
Под словом "термин" я подразумеваю любое слово языка. Вы считаете, что все слова придумывают ученые, а потом разрешают ими пользоваться обычным людям что-ли?) Если нет, значит определение термина "понимание" из словаря русского языка является общепринятым. А ученые, его изучающие, могут лишь его дополнить, сделать более строгим.
Чтобы понять факт, именно понять, а не просто его узнать
А я говорю, что "узнать факт" это и есть понимание. Чем больше таких фактов, тем больше понимания.
Если мы факт не понимаем, то нельзя сказать, что мы знаем факт. Это не факт, а бессмысленный набор букв. Или слов.
В этом случае мы можем только знать другой факт, который о существовании записи этого факта в некоторой форме, но не сам этот факт.
И что он в нем «понимает» кроме расстановки нарисованных фигур, значения которые он не знает?
А что вы понимаете в выражении "Вселенная это весь мир, который нас окружает"? Совсем-совсем ничего не понимаете, или все-таки какую-то информацию можете из него получить? Вы же не астроном, значит в соответствии с вашими критериями для вас это расстановка нарисованных фигур, так получается?
Он понимает факты, в нем изложенные. Что между "два" и "четыре" есть некоторая связь. Что есть какой-то непонятный суффикс "жды", который добавляется к слову "два" и видимо обозначает эту связь. А уж если он умеет считать до 4, то может извлечь еще больше взаимосвязей с известными ему понятиями. При это он может совершенно не знать математику.
Понимание — это многовариантная модель, включая все возможные случаи, а факт — один из вариантов, одна из комбинаций значений слотов в фрейме
То есть различие только количественное, а не качественное? Ну тогда это плохое определение, ничего нового не дает, не описывает нужную сложность взаимосвязей. А если факт такой, что комбинаций может быть только одна? Тогда их вообще нельзя различить.
Чтобы понять факт, именно понять, а не просто его узнать, надо сопоставить, как тут писали некоторые, факту какую-то модель в понимающей системе, а не запись.
А как эта модель появилась-то? Вот как она появляется, это и есть понимание. А у вас получается, что понимание появляется после модели, а для первоначального построения модели надо использовать какой-то другой термин. Но люди говорят фразу "а-а-а, понял" при обучении, то есть как раз при первоначальном построении модели.
А когда люди говорят что-то типа "я не понял, что ты сказал, повтори пожалуйста", это относится к пониманию факта "человек сказал мне факт X", а не про сам факт "X".
Это необходимо, чтобы животное, научившись на одном примере, могло в других примерах действовать так же и предполагать возможные действия, которые в факте НЕ СОДЕРЖАТСЯ.
Да не предполагает понимание достраивание неизвестной информации, я уже несколько примеров привел, которые его не требуют. Достраивание это уже логические рассуждения.
"которые в факте НЕ СОДЕРЖАТСЯ" — появление факта в информационной системе это и есть его понимание. Оно уже на этом шаге необходимо, иначе фактом будет нельзя пользоваться, чтобы что-то достроить. Понимание это как раз узнавание того, что в этом факте СОДЕРЖИТСЯ.
А еще можно досконально знать некоторую область, и тогда вообще не будет неизвестных действий или фактов, которые надо достраивать. По вашему определению тут получается полное отсутствие понимания)
Именно это я и называю пониманием — возможность логически предполагать на основе каких-то фактов.
Ну тогда для узнавания системой этих фактов вам нужен другой термин. А "логически предполагать" в общепринятом понимании называется "логические рассуждения". Это способность рассуждать, а не способность понимать.
Вот про ваше «только», которое вы включили в выделение
«Только» касается диалоговых систем, как одного из видом систем ИИ по мимо остальных, а не помимо животных. Это уже ваша версия.
И аргументы я не подменял. У вас используется термин «понимание»?
В этом пункте речь шла о проверке понимания, а не о самом понимании, а вы спорите в последнем комментарии по пункту об определении. Смотрите выше. Поэтому это подмена.
Вы считаете, что все слова придумывают ученые, а потом разрешают ими пользоваться обычным людям что-ли?
Нет. Я считаю, что мы говорим о научном понятии, а не о простонародном. И я привел аргумент, подкрепленный ссылкой на автора, где можно посмотреть подробнее. Только для этого. Причем тут логическая ошибка? )
Если мы факт не понимаем, то нельзя сказать, что мы знаем факт.
А как вы определите, понимает или нет, если просите только его повторить? Для этого точно не обязательно понимать. Умение считать до 4 это уже понимание в моем смысле, так как подразумевает не только 2+2=4.
То есть различие только количественное, а не качественное?
Это качественное отличие, так как модель становится способной к достраиванию даже того, что не знала. Это надо уже показывать, если будет интересно, приглашу на тестирование. Доказательство, кстати, вы и подсказали — единичных фактов не существует, потому что модель всегда вариативна, и А предполагает возможность В.
А у вас получается, что понимание появляется после модели, а для первоначального построения модели надо использовать какой-то другой термин.
Совершенно верно. А-а-а говорят, когда новое соединяется с имеющимся знанием, иногда достраивают модель в том числе. Тогда это уже даже Эврика! ) «Я не понял, повтори» — это ошибка коммуникации, а не понимания.
Да не предполагает понимание достраивание неизвестной информации, я уже несколько примеров привел, которые его не требуют.
А я ответил, на ваших же примерах, что даже предполагают возможность достраивания.
появление факта в информационной системе это и есть его понимание.
Тогда винчестер все понимает. О, да! ) Использование факта и есть достраивание, я об этом уже много комментариев только и пишу. Как иначе вы проверите, что факт понят?
и тогда вообще не будет неизвестных действий или фактов, которые надо достраивать
Тут у вас логическая ошибка. Вы никогда не сможете высказать сразу все знания области, только часть. И при высказывании части, вы можете достроить остальные, вам не надо их высказывать даже. Знание всей предметной области и есть модель, она в нас, по ней мы идентифицируем отдельные факты предметной области.
Это способность рассуждать, а не способность понимать.
Способность рассуждать и есть факт понимания. В этом мое утверждение.
«Только» касается ращаемся к вопрос систем, как одного из видом систем ИИ по мимо остальных, а не помимо животных
А почему не помимо животных-то?) У животных тоже есть интеллект, как и у систем ИИ. В этом и проблема вашего подхода, он неприменим к тем существам, чье понимание мы хотим воспроизвести. Если это имеет значение, значит по вашей теории получается, что у животных, а следовательно и у человека, какое-то другое особое понимание, у которого должны быть другие критерии. Вы уже 2 раза проигнорировали этот вопрос, хотя он очень важен.
Я вот вообще не вижу разницы, будем мы рассматривать не-диалоговую настоящую собаку или не-диалоговую собаку-робота. У не-диалоговой собаки-робота тоже может быть понимание.
В этом пункте речь шла о проверке понимания, а не о самом понимании, а вы спорите в последнем комментарии по пункту об определении
— понимание в не-диалоговых системах очень даже может быть. Пример тому дикие животные
— Разве тут речь про животных? ))
— А вы думаете, у животных какое-то особое понимание?)
— Вы уже забыли, о чем речь в этом пункте. Он не про понимание, а про ИИ.
Извините, я не вижу тут ничего про определение. Вы сказали про применимость критериев, я спорю про применимость.
Определением я называю это утверждение "Понимание системой ИИ означаете ее способность ДОСТРАИВАТЬ правдоподобные гипотезы о картине мира по отрывочным знаниям фактов из этого мира", и спорю про него в других пунктах.
Нет. Я считаю, что мы говорим о научном понятии, а не о простонародном.
Ну и что? Почему вы считаете, что общепринятое ему противоречит? Ок, приведите определение из научного источника, которым вы пользуетесь. Я свое привел.
И я привел аргумент, подкрепленный ссылкой на автора, где можно посмотреть подробнее
Нет, не привели. Вы просто привели спорное утверждение и сказали "Кун так говорил, поэтому оно верно". Это в чистом виде апелляция к авторитету, а это одна из логических ошибок.
Понятие "ссылка" подразумевает конкретный источник. У Куна много книг, вы конкретную книгу не указали. Фактически вы сказали "иди туда, не знаю куда, ищи то, не знаю что, но это связано с Т. Куном".
В данном случае правильный аргумент был бы если бы вы привели конкретную цитату, где доказывается, что слово "понимание" появилось в результате изучения нового явления, а не было придумано обычными людьми, и сказали бы, что это цитата из такой-то книги за авторством Т. Куна. То есть аргумент в споре вы должны всегда приводить сами и возможно сопровождать его отсылкой к источнику.
А как вы определите, понимает или нет, если просите только его повторить?
Я не прошу его только повторить. Я могу задать вопрос "сколько будет дважды два" и получить ответ "четыре". Это отличается от исходного утверждения "дважды два равно четыре". Значит оно было проанализировано и разложено на информационные элементы.
А вот если я вам скажу "Liǎng cì děngyú liù", а потом спрошу "сколько будет дважды два", вы вряд ли ответите.
Умение считать до 4 это уже понимание в моем смысле, так как подразумевает не только 2+2=4.
Так умение считать до 4 это не единственное возможное знание, с которым можно установить взаимосвязи нового факта. Любые известные слова "два", "равно", умение распознавать отдельные слова, структура предложений языка это точно такие же известные факты. Выражение "дважды два равно шесть" вы понимаете лучше, чем "Liǎng cì děngyú liù", не правда ли?) Хотя выражения об одном и том же.
Это качественное отличие, так как модель становится способной к достраиванию даже того, что не знала.
Эм, из одного того того, что "Понимание — это многовариантная модель" не следует, что модель становится способной к достраиванию. "Включая все возможные случаи" это вообще невыполнимое требование, мы не можем знать, все возможные случаи рассмотрели или нет. Для примера можно взять модель атома, правильный вариант которой ученые нашли не так уж давно.
Но "модель становится способной к достраиванию даже того, что не знала" это все равно не понимание, я рассуждение. Понимание это о том, что она уже знает.
«Я не понял, повтори» — это ошибка коммуникации, а не понимания.
Почему же тогда там присутствует слово "понял"? К чему оно относится, по-вашему?
А я ответил, на ваших же примерах, что даже предполагают возможность достраивания.
Нет, вы там подменяете понятия. Сначала вы говорите, что достраиваются правдоподобные гипотезы о неизвестных фактах по известным фактам, потом говорите, что получение известного факта это и есть достраивание. Я собственно спорил с первым, а не со вторым. Первое это не понимание, потому что понимание требуется для второго, на котором у вас основано первое.
появление факта в информационной системе это и есть его понимание.
Тогда винчестер все понимает. О, да! )
Нет. Винчестер ничего не понимает, и мои слова никак этому не противоречат.
Возьмем выражение "Jīntiān duōyún". Вы можете его запомнить, но вы не понимаете это как факт о чем-то. Нельзя сказать, что вы знаете этот факт, вы не сможете ответить на вопросы о нем, не сможете его использовать. На винчестере не хранятся факты, там хранится информация. И это выражение вы можете запомнить только как информацию, а не как факт о чем-то.
А вот если я вам скажу "Сегодня пасмурно", это уже будет известный вам факт. И завтра вы сможете ответить на вопрос "Какая вчера была погода?".
То есть если вы не поняли смысл, значит это нельзя назвать знанием факта.
Использование факта и есть достраивание
У вас тут что-то вообще путаница. Использование это чтение имеющейся информации, а достраивание предполагает запись.
Как иначе вы проверите, что факт понят?
По соответствию его реальности. По соответствию поведения. Показали яблоко — у ИИ активировался некий информационный элемент. Убрали яблоко — деактивировался. В какой-то степени достаточно развитая система может сама проверять соответствие фактов реальности. Думаем что кружка с чаем холодная, взяли в руку, а она горячая. Появилось знание факта, что кружка горячая. Без всяких диалогов, заметьте.
Тут у вас логическая ошибка. Вы никогда не сможете высказать сразу все знания области, только часть.
Откуда вдруг взялось "высказать"? Мы говорили про наличие знаний, а не про их высказывание.
Самый простой пример, когда можно знать все возможные варианты в некоторой области — таблица истинности логических операторов "И", "ИЛИ". Там всего 4 варианта и других быть не может.
Способность рассуждать и есть факт понимания.
Так это следствие понимания. Потому они и называются разными терминами.
Понимание вообще не означает способность рассуждать. Можно слушать и понимать что говорят, читать и понимать что написано, но не искать взаимосвязи между полученными фактами. Это больше всего проявляется например при усталости.
А почему не помимо животных-то?)
Вы похоже забили о чем этот пункт. Вы утверждали по поводу «только диалоговых», что это неверное утверждение. Я написал, что верное, так как Я веду тут речь только о системах ИИ, о чем и написал. Вы же почему то о животных.
О животных я вам тоже ОТВЕТИЛ, что судить об их понимании можно по их действия. См. выше (пища — есть). Речевой акт, кстати, это то действие, так что моя гипотеза как раз ОЧЕНЬ подходит для всех случаев, включая животных.
Извините, я не вижу тут ничего про определение.
Опять подзабыли, о чем этот пункт, я отвечал вот на это ваше буквально в предыдущем вашем ответе «Определение должно описывать понимание любого существа. Нет смысла выдумать для ИИ какое-то особое понимание». Хотя в этом пункте речь о том, что вы написали в первом сообщении «Как вы определите, правдоподобная гипотеза или нет, со своим пониманием сравните?».
Вы просто привели спорное утверждение и сказали «Кун так говорил, поэтому оно верно»
Вы занимаетесь подлогом — вы взяли в кавычки не мою цитату, а выдуманное вами. Вот что написал я буквально несколькими шагами выше, чтобы понять, что Куна я приводил не как доказательство! «Вот только все происходит наоборот — термин появляется в результате изучения нового явления. Можно почитать об этом у Т. Кун». Это называется приведение ссылки для изучения ПОДРОБНОСТЕЙ к тому утверждению, которое я привел. В данном случае имеется ввиду, конечно, самое известное произведение «Структура научных революций». Если для вас это спорное утверждение, приведите иное! Желательно с ссылкой на ПОДРОБНОЕ изложение так как вы вряд ли являетесь авторитетом по этому вопросу. И речь тут идет уже не о слове «понятие», а об этом вашем неверном утверждении «Сначала появился термин для обозначения явления, а уже потом его начали изучать».
Я могу задать вопрос «сколько будет дважды два» и получить ответ «четыре».
Это повторить, что есть продолжить отрывок «факта» до конца. Так же как «Liǎng cì děngyú?» — «liù».
Выражение «дважды два равно шесть» вы понимаете лучше, чем «Liǎng cì děngyú liù», не правда ли?)
Именно потому, что я знаю, что означает равно и «жды», а значит могу «жды» и другие числа. Например, два-жды три равно шесть. Только тогда это называется пониманием в отличие от Liǎng cì děngyú liù, по поводу которого я ничего не могу сказать, так как не понимаю. Хотя факт наблюдаю. И даже не смотря на то, что они (для кого то другого) об одном и том же.
… это все равно не понимание, я рассуждение. Понимание это о том, что она уже знает
Я и утверждаю, уже в пятый раз, что понимание и есть способность рассуждать, то есть достраивать, в том числе новые факты, которые «не знали». Включая все возможные случаи именно в этой модели, конечно! В этом и секрет модели — она предполагает в себе все логические возможности.
Сначала вы говорите, что достраиваются правдоподобные гипотезы о неизвестных фактах по известным фактам,
И только об этом говорю, уже шестой раз. Сколько раз надо повторить, что бы вы убедились в моей позиции? У вас может быть своя, не спорю, но приведенные аргументы никак ее не доказывают, вы не привели ни своего определения понимания, ни способа его проверки. Не о чем пока спорить даже.
На самом деле, вы уже согласились дважды с моим определением, отвечая на вопрос про винчестер, а именно
Нельзя сказать, что вы знаете этот факт, вы не сможете ответить на вопросы о нем, не сможете его использовать.
Это и есть достраивание, о котором я говорю. Судить о понимании можно только если «понимающий» может ответить на вопрос (диалоговая) или совершить соответствующие действия (использование). Спасибо, что согласились. На этом попрощаюсь.
Вы утверждали по поводу «только диалоговых», что это неверное утверждение. Я написал, что верное, так как Я веду тут речь только о системах ИИ
Нет. Неважно, о чем вы ведете речь, если ваше утверждение о понимании противоречит фактам. Либо вы говорите о каком-то другом явлении, которое к пониманию в общепринятом научном или бытовом смысле не имеет никакого отношения. Тогда используйте другой термин, чобы никого не путать.
О животных я вам тоже ОТВЕТИЛ, что судить об их понимании можно по их действия
Но у вас в статье не написано про "судить о", у вас написано "можно говорить только в", что означает, что в не-диалоговых системах понимания быть не может. Я спорю про их принципиальную возможность их иметь такую способность, а не про то, как мы можем определить ее наличие.
я отвечал вот на это ваше буквально в предыдущем вашем ответе «Определение должно описывать понимание любого существа»
Хотя в этом пункте речь о том, что вы написали в первом сообщении «Как вы определите, правдоподобная гипотеза или нет, со своим пониманием сравните?»
Да. И эта моя фраза в первом сообщении относится ко второй цитате из вашей статьи "Понимание системой ИИ означает ее способность ДОСТРАИВАТЬ правдоподобные гипотезы", которая находится в разделе "Резюме".
Вот диалог полностью:
— Понимание системой ИИ означаете ее способность ДОСТРАИВАТЬ правдоподобные гипотезы
— Это неправильное утверждение. Как вы определите, правдоподобная гипотеза или нет, со своим пониманием сравните?
— Правильность достраивания, конечно, проверяется по человеку
— У человека тоже есть понимание, но его никто не проверяет.
— Для проверки нашего понимания нужен разум, который понимает больше, не встречал пока такого
— Ну так из этого следует, что ваше определение понимания неверно
— Откуда это следует?
— Я написал же — по вашему определению… для понимания нужен некто, проверяющий правдоподобность, и что у человека нет проверяющего правдоподобность
— Мы проверяем понимание не человека, а бота, для которого человек — проверяющий.
— Неважно, про чье понимание мы говорим. Определение должно описывать понимание любого существа. Нет смысла выдумать для ИИ какое-то особое понимание.
Я здесь говорил только про вашу фразу "Понимание системой ИИ означает". Пример про животных относился к другой фразе "о понимании можно говорить только в диалоговых системах Искусственного Интеллекта".
Вы занимаетесь подлогом — вы взяли в кавычки не мою цитату, а выдуманное вами.
Вам незнакомо выражение "в кавычках"? Кавычки вообще-то не только цитаты означают.
в кавычках — так называемый, что называется, с позволения сказать, как говорится, так сказать, можно сказать
У меня это короткое перефразирование длинного высказывания. Можно туда добавить "и сказали [что-то вроде]". По правилам русского языка в данной фразе нельзя его оформить по-другому.
Вот что написал я буквально несколькими шагами выше, чтобы понять, что Куна я приводил не как доказательство! «Вот только все происходит наоборот — термин появляется в результате изучения нового явления. Можно почитать об этом у Т. Кун».
Да. И это называется апелляция к авторитету.
Я могу написать "Вот только все происходит не наоборот — явление называют некоторым словом, а потом его изучают. Можно почитать об этом у меня, я вот только что это написал".
Если вы считаете отсылку к Куну аргументом, значит отсылка ко мне тоже является аргументом. А вот если вы начинаете "ну Кун он же известный, а вы кто", это и значит, что вы аппелируете к его авторитету.
Как я уже сказал, для корректной дискуссии вы должны были привести конкретный аргумент Куна и сделать отсылку на конкретную его книгу с указанием главы, где этот аргумент написан. А то вдруг я прочитаю все книги Куна, а его там нет.
Это называется приведение ссылки для изучения ПОДРОБНОСТЕЙ
У вас нет ссылки, есть только автор, у которого несколько книг.
Желательно с ссылкой на ПОДРОБНОЕ изложение так как вы вряд ли являетесь авторитетом по этому вопросу.
Во, ну я же говорю, апелляция к авторитету. Заканчивайте уже ее использовать, еще древние греки назвали это логической ошибкой. Или по-другому, логической уловкой. Имеют значение только аргументы.
И речь тут идет уже не о слове «понятие», а об этом вашем неверном утверждении «Сначала появился термин для обозначения явления, а уже потом его начали изучать».
Да. Потому что термин "понимание" придуман не учеными. Он появился вместе с речью для описания понимания этой самой речи. Как и множество остальных общеупотребимых слов.
Происхождение слова понять — «Яти» в древнерусском языке значило «хватать», «овладевать». Поэтому и «понять» буквально значит «овладеть», «усвоить» (какое-то сведение, мысль).
Я вообще не понимаю, как по-вашему люди должны обозначать некоторое явление до того, как его кто-то начнет изучать.
Это повторить, что есть продолжить отрывок «факта» до конца.
Ну задайте это вопрос винчестеру, на котором этот факт записан. Он сможет вам его продолжить?
Так же как «Liǎng cì děngyú?» — «liù».
Да. Только если вы не понимаете, что там написано, вы не сможете узнать, какое слово надо повторить в качестве ответа на вопрос. Может вас спросили "дважды сколько равно четыре?".
Вот только "Сколько будет дважды два?" на китайском будет "Liǎng liǎng cì shì duōshǎo?", а не "Liǎng cì děngyú?". Вот вам и наглядный пример, чем знание текста отличается от знания факта. Знание факта подразумевает понимание, о чем я и говорю.
Именно потому, что я знаю, что означает равно и «жды»
а значит могу «жды» и другие числа
Да.
Нет.
Другие числа для понимания совершенно неважны. Мы же рассмотрели пример с ребенком, который ответит так же, как и вы, только он не умеет "жды" другие числа.
По первому кстати тоже нет, ваше знание что означает "жды" здесь нерелевантно. Потому что у меня дважды два равно шесть. И вы не знаете, сколько у меня будет дважды три, то есть не можете "жды" другие числа. Тем не менее, мою фразу вы поняли.
понимание и есть способность рассуждать, то есть достраивать, в том числе новые факты
А как же старые-то факты появились без понимания?)
И откуда у вас вдруг появилось "в том числе"? В статье у вас было четко "способность ДОСТРАИВАТЬ правдоподобные гипотезы".
Если бы там изначально было так написано, то и вопросов бы не было. Хотя был бы вопрос, что еще входит в "то число".
Включая все возможные случаи именно в этой модели, конечно
она предполагает в себе все логические возможности.
Так откуда мы знаем-то, все они или не все?) Я же приводил пример с моделью атома, может текущая модель тоже неверна. Но другие возможные варианты мы не знаем. По-вашему мы не понимаем, как устроен атом? Дак тогда мы ничего не понимаем. А вдруг какой-то ученый уже нашел другую модель, только никому еще не рассказал. То есть все в мире кроме него знают не все возможности, а значит по вашему определению не понимают.
А вот если можно знать не все, значит можно знать и одну.
И только об этом говорю, уже шестой раз. Сколько раз надо повторить, что бы вы убедились в моей позиции?
Не надо вырывать фразы их контекста. У меня там вторая часть предложения есть, в котороя я показываю противоречие в ваших словах. Противоречие подразумевает 2 варианта, поэтому цитирование одного это вырывание из контекста.
Неважно, сколько раз вы повторите, противоречие от этого никуда не денется. Надо не повторять, а приводить аргументы, устраняющие противоречия.
вы не привели ни своего определения понимания
Это неправда. Я приводил его в этом комментарии
"Понимание это построение информационной модели внутри информационной системы, которая соответствует реальности вне информационной системы."
Нельзя сказать, что вы знаете этот факт
Это и есть достраивание, о котором я говорю
Вы же только что сказали "понимание и есть способность рассуждать", которая у вас основана на знании фактов. Теперь это уже не способность рассуждать, а само знание факта?
Я как раз и говорю о том, что в одном месте вы называете достраиванием одно, а в другом другое.
Появление нового факта в системе и установление его связей с известными, и логический вывод факта это разные процессы. Логический вывод кстати менее достоверный, вдруг у нас исходная информация неверна. Поэтому в науке логические выводы проверяются экспериментом.
Спасибо, что согласились.
Не надо мне приписывать то, чего я не говорил.
Программа должна научиться вести внутренний диалог с самой собой и прежде чем отвечать человеку она должна доказать себе, что она права. А для этого нужно обрести критическое мышление.
На мой взгляд, интересной могла бы быть комбинация нейросети и прологовской экспертной системы. Система не только способная отвечать, но формулировать вопросы для восполнения недостаточной информации.
Во-первых, зрительная кора кошки известным автором, например, разобрана очень подробно и мы имеем успехи именно в распознании образов искусственными нейросетями. Во-вторых, именно для того чтобы понять как смоделировать высшие функции и надо рассуждать о них, разве нет? )
Создание все более сложных и мощных ансамблей нейронок без понимания того, о чем я пишу — это пальцем в небо. Может, конечно, повезти. Но надо бы и понимать куда копать.
Я не в курсе ваших статей
Во-вторых, именно для того чтобы понять как смоделировать высшие функции и надо рассуждать о них, разве нет?
Нет. Надо ли для понимания методов решения уравнений рассуждать о них, не зная таблицу умножения? Чтобы понять, как смоделировать высшие функции, надо сначала смоделировать низшие. Потому что тогда высшие функции будут описаны в виде "соединяем низшие функции A, B, C таким-то образом".
Создание все более сложных и мощных ансамблей нейронок без понимания того, о чем я пишу — это пальцем в небо
Понимание того, о чем вы пишете, ни на шаг не приблизит нас к искусственному интеллекту. Потому что оно находится на другой стороне оврага, через который надо построить мост. А если мы построим мост, то и на другую сторону оврага перейти будет очень просто.
Потому что тогда высшие функции будут описаны в виде «соединяем низшие функции A, B, C таким-то образом».
Нет. Совершенно неверно и ошибочно. Вы не сможете соединить А, В и С так, чтобы оно заработало, не понимая это соединение как целое на высшем уровне. Иначе вам придется столкнуться с факториалом вариантов соединения, учитывая количество даже слов — больше времени жизни вселенной.
Понимание того, о чем вы пишете, ни на шаг не приблизит нас к искусственному интеллекту.
Не говорите за всех. Вас не приближает, меня с коллегами приближает. Мост строится с двух сторон. Удачи ))
Вы не сможете соединить А, В и С так, чтобы оно заработало, не понимая это соединение как целое на высшем уровне.
То, что я написал — это и есть понимание на высшем уровне. У нас есть низшие функции A, B, C, D, E, F, мы анализируем, как их можно соединить, чтобы получить высшую функцию X, и в какой-то момент мы такие "а-а-а, надо соединить A, B, C вот так".
Низшие это не самые низкие, низшие это на уровень ниже.
Иначе вам придется столкнуться с факториалом вариантов соединения
Способов соединения миллиона транзисторов тоже факториал. Из этого следует, что процессор невозможен? Нет. Потому что никто не перебирал все возможные варианты соединений. Думали как их можно соединить, чтобы получить нужный результат.
Вас не приближает, меня с коллегами приближает.
Можно узнать ваши с коллегами достижения?
и в какой-то момент мы такие «а-а-а
Я уже написал, сколько вам придется ждать этого а-а-а, если не пытаться сначала понять, куда и зачем идете вообще (высший уровень). И с фразой про! низшие» у вас что-то не так )
Потому что никто не перебирал все возможные варианты соединений.
А почему? )) Потому что была идея транзистора, даже нарисованная модель! О чем и говорю, не понимаю, с чем тут спорить. Очевидно.
Я уже написал, сколько вам придется ждать этого а-а-а, если не пытаться сначала понять, куда и зачем идете вообще
Ну и что, что написали. Вы же это не доказали Я вот по-другому написал, и контр-пример привел.
Мы знаем, куда мы идем, знаем, какой должен быть результат.
А вот вы пытаетесь попасть пальцем в небо. Что если вы что-то предположили неправильно? Зачем туда идти?
А почему? )) Потому что была идея транзистора, даже нарисованная модель! О чем и говорю
Ну так транзисторы это низшие элементы. А из них собрали процессор, с защищенным режимом, виртуальной памятью, кешами разных уровней. То есть имели понимание работы низкоуровневых элементов и придумали "надо соединить их вот так, чтобы получить процессор". Это противоречит тому, что вы говорите.
о том, когда и как именно будет написан сильный ИИ я написал в ЖЖ в трёх частях, вот ссылка на первую часть — https://djsens.livejournal.com/2269.html
А мы пока котиков на фото со всеми терабайтами псевдо-нейронных сетей распознаем даже не на 95%. И горе-маркетоложники выдают это за ИИ.
Это все очевидно. Вопрос в том, что это за модель, как в ней, например, решается вопрос «применимости этой модели к разным ситуациям».Если вам очевидно мое утверждение, то почему не очевидно то, что вы спрашиваете?
Вопрос в том, что это за модельЛибо уже имеющаяся в библиотеке запомненная ранее, подходящая для наблюдаемой/воображаемой сцены. Либо модель сконструированная специальными способами из других моделей и подходящая для наблюдаемой/воображаемой сцены. Конструирование одних моделей из других — отдельная тема.
как в ней, например, решается вопрос «применимости этой модели к разным ситуациям»Если составные части наблюдаемой/воображаемой сцены совпадают с критическими частями модели и модель способна генерировать интересующие выводы/выводы в зоне внимания, то такая модель и выбирается.
teology
так как осознание понимания — это субъективная оценка постороннего лица.Не соглашусь. Прежде всего ощущение понимания это частично выработанный и подкрепленный практикой навык думающего, частично работа встроенной в ДНК программы. Я бы отнес частично встроенную программу «ощущения понимания» как производную от совершенно встроенной программы «ощущения успешного действия».
Для нейроскептиков: www.ferra.ru/amp/news/apps/razrabotano-prilozhenie-perevodchik-s-koshachego-yazyka-09-11-2020.htm
А человек не может!!!
Функционал программы позволяет создать профиль питомца и закреплять за определенным мяуканьем ярлыки. Таким образом программа изучает звуки, классифицируя их по 10 внедренным параметрам. Уже сейчас программу можно скачать на Android и iOS-смартфоны.
Вы проверяли работу этой программы? Я например, не могу проверить — не держу дома кошек.
Вспомните статистику, связанную с обучением (натаскиванием) для известных вам нейросетей и сравните с тем что нужно для этого человеку.
Поднятая вами тема хорошо обсуждалась комментариях к статье Александра «Чего не хватает ИИ?»
А человек не может!!!
У вас видимо нет кошки )) Еще как может, даже ребенок (закрепить ярлыки за определенными мяуканиями). Вообще, это не достижение, а примитивная приблуда.
Ну конечно же сам понимающий может сам себя оценить путем самоанализа. Но во всяком случае понимание субъективно, т.е. необъективно.
Объективнее всего логарифм ошибок и среднеквадратичное отклонение — функционалы качества из анализа данных. Это самые объективные оценки понимания. При условии, что анализатор получает объективные данные по обработке искусственным интеллектом тестовых датасетов.
То есть оценка понимания даётся на практике и оценивается компетентным лицом по балльной системе. А вы какие глупости понимали под пониманием???
Понимания смысла в полной мере нельзя отнести к теме понимания контекста диалога, так как смысл высказывания собеседника может быть по-разному интерпретирован, и какой интерпретации должно соответствовать состояние понимания, не ясно.
Вести речь о «понимании/непонимании» можно только при рассмотрении единичного акта (действия) коммуникации – коммуникативный акт (КА). Чтобы быть более понятным – попробую привести свои соображения более подробно.
В КА участвуют как минимум два агента (передатчик/приемник): адресант (передатчик) и адресат (приемник). В некоторых случаях может иметь место внутренний диалог – договоримся: что пока нам это будет неинтересно.
Этими агентами могут быть люди или искусственные устройства – ИИ (с одной или с другой стороны).
Для инициации КА у адресанта должны созреть предпосылки к нему:
– намерение (желание)
и
– сформировано ожидание (результат завершившегося КА).
Эти предпосылки, как правило, возникают у адресата в результате подсознательных процессов.
Эти два фактора можно рассматривать в другом аспекте как мотив и результат КА.
На следующем шаге адресат формирует вербальное сообщение. Качество, соответствие сообщения его предпосылкам, естественно определяется наличием у адресанта определенных когнитивных и языковых навыков и ресурсов НС. Но и слова «составлять» друг с другом это далеко не весь мыслительный процесс. Это один из факторов успешности КА, понимания сообщения адресатом. Сообщение в форме речи или текста попадает в коммуникационный канал (КК). Эти два процесса могут происходить практически одновременно. Как правило, этот процесс – точнее: речь – будет сопровождаться некоторой эмоциональной экспрессией – жестикуляцией, изменениями позы, мимикой, интонацией и т.п.
Все компоненты – вербальные и невербальные – практически одновременно будут вброшены в пространство диалога (пока диалога – ведь мы рассматриваем диалоговую систему).
Рассмотрим то, что будет происходить на стороне адресата (человека):
1. в большинстве случаев сознательно и/или бессознательно адресат обратит внимание (обработает) на невербальные компоненты КА – как правило, это происходит автоматически/бессознательно и требует меньше ресурсов НС; выполнит преднастройку своей психики, к анализу поступающей информации.
2. одновременно с этим, в вербальном канале будет происходить последовательная интерпретация/реинтерпретация сообщения – декодирование или разложение в своем «когнитивном базисе» получаемой информации (сопоставление со своими квалиа, концептами и т.д.). Интерпретация/реинтерпретация у адресата будет происходить под влиянием со стороны невербальных сигналов, поступающих от адресанта – если таковые присутствуют во время диалога. Это значение слова «понимание» соотв. некоторому процессу интерпретации. Этот процесс сопровождается невербальной реакцией адресата («привет» эмоциям!). В завершении КА у адресата должна сложиться некоторая целостная «картинка» сообщения – очаг из «возбужденных» и согласованных между собой элементов (квалиа, i-моделей, концептов, когов (в терминологии К.В. Анохина) и т.п.).
Определяющим моментом «понимания» со стороны адресата должна быть полнота, непротиворечивость и согласованность этих элементов – по крайней мере, в очаге возбуждения (доминанте) должны отсутствовать взаимо-конфликтующие элементы или слабо возбужденные. Это второе значение «понимания» в КА.
Возможна (правда, не всегда) перестройка «когнитивного базиса» адресата как ответная реакция на сообщение.
3. Завершением единичного КА можно назвать некоторое действие или бездействие адресата. В некоторых (и нередких) случаях завершение КА может быть вызвано «бурной» эмоциональной или, даже физической реакцией адресата с нанесением увечий адресанту.
4. Адресант всегда следит за результатом, инициированного им КА: он должен проверить соотв. полученного результата своим ожиданиям, целям. Если говорить точнее: он это делает на протяжении всего времени передачи сообщения. Это третий существующий в единичном КА канал от адресата к адресанту – он невербальный (мне сложно представить другой вариант).
5. Оценка понимания (третье значение – текущее состояние психики адресата после получения сообщения) выполняет адресант. Эта оценка строиться на окончательном сопоставлении ожидания и поведения (действие или невербальная реакция) адресата – тут других вариантов нет (в «мозги» адресату просто так не залезешь). В той или ной степени, адресант в меру своего коммуникативного опыта или способностей к коммуникации может «расшифровать» необходимую оценку: понимает или не понимает.
Монолог предполагает оценку только по невербальному каналу (в том числе наблюдение за дальнейшим поведением адресата). Такая оценка, как правило, будет некорректной.
Сразу надо сказать, успешность КА – понятие гораздо шире, чем просто «понимание адресатом». КА есть вербальное действие и как всякое действие может преследовать совершенно различные цели.
6. Ответным действием со стороны адресата может быть смена ролей в коммуникации: в новом КА бывший адресат выступит в качестве адресанта. Например: потребует уточнения какого-либо понятия, изменение тональности диалога, иной дополнительной информации, подтверждение понимания (я правильно вас понял, вы хотели сказать…) и пр.
7. В случае если на стороне адресата выступает искусственная система – тот случай, когда человек (адресант) работает с диалоговой системой ИИ. Он, прежде всего, ожидает полноты и точности ответа, только по этим характеристикам он может оценить «понимание» диалоговый системы его запроса.
Б.
Вы предлагаете следующие критерии оценки качества коммуникации человека с диалоговой системой ИИ:
1. Порождаемые диалоговой системой тексты отвечают «здравому смыслу».
2. Ответы системы соответствуют контексту диалога и ожиданиям человека.
3. Понимание целей, намерений высказываний человека в диалоге.
Это не о понимании, это критерии успешности диалога, коммуникации.
По первому п.: Нет и не может, быть единого определения «здравого смысла» (Common Sense). Это культурный феномен. Согласитесь, для разных социальных слоев, для разных национальных общностей, субкультур и т.п. – он разный. Или, по крайней мере, для этого надо быть человеком (не ИИ или ИР), находиться в среде психически здоровых людей, принадлежащих к одной культуре, выросших и воспитанных в ней – к сожалению, этот ценный земной ресурс, похоже, исчезает.
По второму п.: В этом требовании вы говорите (используя принятую в информатике терминологию) о пертинентности. Это требование практически невыполнимо: ожиданиям какого человека – усредненного – или конкретно вас, должна удовлетворить диалоговая система. Чтобы полностью соответствовать вашим ожиданиям в данный конкретный момент, любая система (даже обладающая в полной мере человеческим разумом) должна для этого «мониторить» вас 24 часа в сутки, 7дней в неделю, на протяжении всей вашей жизни – вы к этому готовы? А вы готовы к тому, что и конфеты эта диалоговая система ИИ за вас будет кушать? Что и пытаются нам всем навязать.
По третьему пункту: смотря как будет выстроен диалог (прагматика) – ответ фактически содержится в первой части А. Тоже самое к вашему разделу Анализ подходов. Стоит только добавить – что ИР должен обладать внутренним адаптивным поведением не только по отношению к «семантике», но и к «прагматике».
Понимания смысла в полной мере нельзя отнести к теме понимания контекста диалога, так как смысл высказывания собеседника может быть по-разному интерпретирован, и какой интерпретации должно соответствовать состояние понимания, не ясно.
Давайте говорить конкретнее. Понимание, установление смысла или актуализация отношения символов (имен) к некоторым значениям (ментальным образам, концептам, квалиа и пр.) никогда не может быть полным, всеобъемлющим и универсальным, раз и навсегда заданным. По причинам а) индивидуальности этих самых значений (субъектность – это из области психологии) и разнообразию форм коммуникации и конвенциональности языка; б) динамичности, изменчивости и противоречивости мира за пределами субъективной реальности (диалектика и гносеология, — однако; это если касаться научного познания; в сфере интерсубъективной реальности).
В.
Понимание системой ИИ означает ее способность ДОСТРАИВАТЬ правдоподобные гипотезы о картине мира по отрывочным знаниям фактов из этого мира.
Хорошо.
И для экономии система должна уметь для описания бесконечного числа фактов использовать ограниченный язык, что достигается механизмами, подобными метафоре.
В этом предложении у вас содержится ТЗ, состоящее из двух требований:
1. система должна уметь для описания бесконечного числа фактов использовать ограниченный язык;
2. при этом система должна использовать ограниченный язык, что достигается механизмами, подобными метафоре.
Первое требование, как это хорошо известно – противоречиво в строгом формальном своем значении.
Второе требование:
что достигается механизмами, подобными метафоре
Если следовать определению метафоры система должна в ответ на ваш запрос намекать, приводить аналогии, используя «ограниченный язык» и еще быть полной, достоверной и соответствовать вашим ожиданиям? Хорошо, а, вы учитываете, что метафора всегда подразумевает наличие не менее двух значений? Это облегчит понимание (интерпретацию) – главная тема вашей статьи «О понимании в искусственном интеллекте»? Если это не так – разъясните: в чем состоит роль метафоры в решении поставленной вами проблемы (конечно, если вы стремитесь добиться понимания от участников дискуссии).
Впрочем, каждый из нас в большей или в меньшей степени погружен в свою собственную субъективную реальность, «наслаждается» своими метафорами, аллюзиями, иллюзиями…
P.S: Текст подготовил вчера, а сегодня увидел сообщение teology. Полностью разделяю его мысль
Понимание само по себе не существует, так как осознание понимания — это субъективная оценка постороннего лица. А так как посторонние лица в разной степени наблюдают за поведением «понимающего», то и оценки обычно разные.
Ну конечно же сам понимающий может сам себя оценить путем самоанализа. Но во всяком случае понимание субъективно, т.е. необъективно.
P.P.S: Тема обширная, можно даже написать статью…
Полностью разделяю его мысль
Понимание само по себе не существует, так как осознание понимания — это субъективная оценка постороннего лица.
Думаем, что кружка чая горячая, взяли в руку, а она холодная. По-вашему нельзя сказать, что мы поняли, что она холодная?
По-вашему нельзя сказать, что мы поняли, что она холодная?
В быту можно говорить, все что угодно, особо не задумываясь над тем, что вы на самом деле делаете (описываете или что с вами в этот момент происходит). Бытовое общение (коммуникация) наполнено метафорами, аллюзиями.
Приведенную вами фразу можно без изменения смысла заменить на
Я осознал, что она холодная
или
Я почувствовал, что она холодная
В таких случае, мы как правило обращаемся к лицу (адресату, а это вы можете произнести и для себя в своей внутренней речи), который уже имеет в своей психике образцы вашего речевого (коммуникативного) поведения — он легко расшифрует ваше послание. По крайней мере, ваш адресат, вероятнее всего, будет иметь близкий с вами жизненный опыт и менталитет: у него будет во многом близкий к вашему «шифроблокнот». Проблем с интерпретацией не предвидеться…
Также построенное сообщения адресантом может быть «адаптировано» (приближено) к уровню способностей вашего адресата (основываясь на ваших представлениях о нем — модель адресата) — вы хотите добиться успешности КА.
2. Я расписал КА. И поэтому комментарий teology я рассматривал в рамках вышеизложенного отн. КА (контекста своего комментария и содержания статьи).
Его слова, можно было, с моей точки зрения, изложить в след. виде:
Понимание в КА само по себе не существует, так как понимание — это субъективная оценка постороннего лица. А так как посторонние лица в разной степени наблюдают за поведением «понимающего», то и оценки обычно разные.
Ну конечно же сам понимающий может сам себя оценить путем самоанализа. Но во всяком случае понимание субъективно, т.е. необъективно.
Последующее высказывания teology я комментировать не буду…
Приведенную вами фразу можно без изменения смысла заменить
Так оно в обоих случаях подразумевает понимание.
Бытовое общение (коммуникация) наполнено метафорами, аллюзиями.
В данном случае "понимание" это не метафора. Слово "понимание" как раз и возникло для описания таких ситуаций. То, что мы называем пониманием, существовало у животных миллионы лет без всякой оценки посторонних лиц.
А вот правильность понимания уже подразумевает того, кто будет проверять эту правильность. Но это не означает, что этим должно быть другое лицо. Достаточно развитая система сама может проверить правильность своего понимания, путем логических рассуждений и экспериментов. В общем, мне кажется, второе лицо в определении понимания является необязательной характеристикой, а логические рассуждения и эксперименты добавляют объективность.
Так оно в обоих случаях подразумевает понимание.
Здесь мы с вами расходимся еще раз. Понимание включает в себя как отдельные фазы:
1. интерпретацию (бессознательную работу психики) — основная, главная фаза и
2. осознание — опционально (может и не происходить).
Слово «понимание» как раз и возникло для описания таких ситуаций.
Прошу дать конкретное указание на источник. Без всякой иронии — мне хотелось бы увидеть фактуру, познакомиться с контекстом этого утверждения. Буду вам за это благодарен.
То, что мы называем пониманием, существовало у животных миллионы лет без всякой оценки посторонних лиц.
Вы знакомы с понятием «восприятие»?
Достаточно развитая система сама может проверить правильность своего понимания, путем логических рассуждений и экспериментов.
Нет. Это будет ее квалиа.
Вы можете сколько угодно говорить о понимании вами чего-либо, например СТО, но пока вы не «продемонстрируете» (в общении, реальным действием, поведением, изменением вашей ментальности) говорить о «понимании» можно лишь условно. Всегда найдутся аргументы, чтобы опровергнуть заявляемый системой уровень понимания. Я могу в этом комментарии декларировать: я понимаю о чем вы говорите или я пониманию цель написания данной статьи. На что ко мне возникнут претензии с вашей стороны и/или третьих лиц: вы ничего не поняли.
Не надо расширять объем понятия «понимание». Я ограничиваю «работу» этого понятия рамками КА.
Так мы будем бесконечно долго вести наш диалог.
P.S.:
Я могу в этом комментарии декларировать: я понимаю о чем вы говорите или я пониманию цель написания данной статьи. На что ко мне возникнут претензии с вашей стороны и/или третьих лиц: вы ничего не поняли.
С моей точки зрения, конечно, я написал неправильно. Гораздо боле правильными вариантами будут следующие утверждения:
я надеюсь на то что понимаю о чем вы говорите или я предполагаю (догадываюсь) что цель написания данной статьи состоит в том то и том то.
— По-вашему нельзя сказать, что мы поняли, что она холодная?
— Бытовое общение наполнено метафорами, аллюзиями.
— Слово "понимание" как раз и возникло для описания таких ситуаций.
— Прошу дать конкретное указание на источник.
Эм, ну могу дать определение из словаря. Продублирую из другого комментария.
Понять — Уяснить значение чего-н., смысл чьих-н. слов, поступков. Познать, постигнуть.
Происхождение слова понять — «Яти» в древнерусском языке значило «хватать», «овладевать». Поэтому и «понять» буквально значит «овладеть», «усвоить» (какое-то сведение, мысль).
Вот то, что кружка холодная, это сведение. Если вы считаете, что в данном случае "понять" это метафора, тогда для описания каких ситуаций оно употребляется не как метафора?
Вы знакомы с понятием «восприятие»?
Да, но понимание это результат восприятия. Ну или по крайней мере оно возникает после него. Я имел в виду ситуации типа предсказать куда побежит дичь на охоте и как ее быстрее догнать. Это предполагает некоторое понимание ситуации.
Всегда найдутся аргументы, чтобы опровергнуть заявляемый системой уровень понимания.
У меня система ничего не заявляет. Я говорю про оценку правильности понимания внутри самой системы, без оценивающих наблюдателей. Видит человек, что из кружки идет пар, думает "наверно она горячая". Подошел, потрогал, и правда горячая. Значит правильно понял.
Эм, ну могу дать определение из словаря. Продублирую из другого комментария.
Понять — Уяснить значение чего-н., смысл чьих-н. слов, поступков. Познать, постигнуть.
1. Для работы в направлении построения диалоговой ИИ необходимо иметь конструктивное определение понятию «ПОНИМАНИЕ» — не только ЧТО, но и КАК это реализуется или может быть реализовано (гипотетически);
2. Использование лексических значений, увы, ограничено «бытовой» сферой общения и применения. Если вы хотите продвинуться дальше вам необходимо дать более все более и более строгое определение.
Происхождение слова понять — «Яти» в древнерусском языке значило «хватать», «овладевать». Поэтому и «понять» буквально значит «овладеть», «усвоить» (какое-то сведение, мысль).
А в других языках?
Вот то, что кружка холодная, это сведение. Если вы считаете, что в данном случае «понять» это метафора, тогда для описания каких ситуаций оно употребляется не как метафора?
Я давал ответ А. Хомякову (это все также есть в одном из моих первых комментариев). Приведу его еще раз. Я выделял 3-и значения, аспекта (см. текст) в контексте единичного КА с которыми, как мне кажется можно конструктивно работать:
1. «Понимание» как процесс интерпретации/реинтерпретации. Это значение слова «понимание» соотв. некоторому процессу интерпретации.
2. Субъективное состояние адресата.
Определяющим моментом «понимания» со стороны адресата должна быть полнота, непротиворечивость и согласованность этих элементов – по крайней мере, в очаге возбуждения (доминанте) должны отсутствовать взаимо-конфликтующие элементы или слабо возбужденные. Это второе значение «понимания» в КА.
Возможна (правда, не всегда) перестройка «когнитивного базиса» адресата как ответная реакция на сообщение.
Субъективная оценка (субъективность).
3. Оценка адресантом достижения цели – намерения в отношении адресата по завершении КА. Оценку состояния психики адресата после получения сообщения выполняет адресант. Интерсубъективный аспект.
Да, но понимание это результат восприятия. Ну или по крайней мере оно возникает после него. Я имел в виду ситуации типа предсказать куда побежит дичь на охоте и как ее быстрее догнать. Это предполагает некоторое понимание ситуации.
Начинается с ощущения, следующий этап – восприятие, далее (опционально) – осознание.
У меня система ничего не заявляет. Я говорю про оценку правильности понимания внутри самой системы, без оценивающих наблюдателей. Видит человек, что из кружки идет пар, думает «наверно она горячая». Подошел, потрогал, и правда горячая.
Значит правильно понял.
Значит правильно ПРЕДПОЛАГАЛ (предвидел, прогнозировал, антиципировал).
Я думаю, проблема в том, что вы неявно вводите в описываемую ситуацию – неосознаваемую внутреннюю речь (внутренний диалог) (Замечу что, ранее я специально оговаривал: что пока нам это будет неинтересно – это сильно усложняет картину). Что-то вроде такого:
– Эта кружка наполнена кипятком? – сомнение, предположение
– Действительно ли она наполнена кипятком? – сомнение, предположение
– Неуверен. Надо проверить. – сомнение, намерение
– Ну и как? – заинтересованность в результатах проверки
– Хм, действительно – горячая. – ощущение, восприятие, осознание (удивление)
– Верю… – оценка
– Был прав когда предполагал – оценка
(Не люблю давать такие расшифровки – в этом случае сделал для себя исключение, только как возможный пример.)
То, что вы вместо «Значит правильно предполагал» говорите «Значит правильно понял» в описываемой ситуации характеризует только ваш индивидуальный, жизненный опыт или возможные текущие бессознательные представления, укоренившиеся привычки (внутренний, оперативный (доступный и активный в текущей ситуации произнесения словарный запас) лексикон).
Успехов
Для работы в направлении построения диалоговой ИИ необходимо иметь конструктивное определение понятию «ПОНИМАНИЕ»
Так я с этим не спорю. Я говорил о ситуациях, которые мы обычно описываем словом "понимание". Как его реализовать это другой вопрос, но если то что вы реализовали не подходит для этих ситуаций, значит вы реализовали неправильно.
Использование лексических значений, увы, ограничено «бытовой» сферой общения и применения.
Так у нас и был разговор про то, какие ситуации в быту люди начали называть словом "понимание".
А в других языках?
А какая разница?) Вы думаете, что в них слово "понимание" было придумано не обычными людьми, а специальными учеными?
Субъективное состояние адресата.
Определяющим моментом «понимания» со стороны адресата должна быть полнота, непротиворечивость и согласованность этих элементов
Ну вот "кружка холодная" это и есть субъективное состояние адресата. Непротиворечивость здесь имеется между изначальным предположением и сведениями о реальном состоянии. Собственно тут вопрос, включать ли проверку непротиворечивости в эти элементы. Если нет, то будет ситуация "думает что понял". Относить ли это к формальному пониманию, спорный вопрос.
Начинается с ощущения, следующий этап – восприятие, далее (опционально) – осознание.
И на каком шаге тут присутствует понимание ситуации? В соответствии с общепринятым смыслом оно там точно есть.
Значит правильно ПРЕДПОЛАГАЛ (предвидел, прогнозировал, антиципировал).
В соответствии с общепринятым смыслом всё это подразумевает понимание.
Что-то вроде такого
Да, и с моей с точки зрения это является процессом понимания ситуации. Информационная ситуация начинает соответстовать реальной.
То, что вы вместо «Значит правильно предполагал» говорите «Значит правильно понял» в описываемой ситуации характеризует только ваш опыт или текущие бессознательные представления, привычки, лексикон
Не вижу никаких причин, почему я не могу использовать слово из лексикона для описания ситуации в соответствии с известным мне смыслом этого слова. Если у вас есть сведения, что слово "понимание" в русском языке означает не то, что я под ним подразумеваю, тогда приводите эти сведения, я скорректирую свой лексикон и буду употреблять его правильно.
Но насколько я знаю, слово "понимание" используется для описания приведенных мной ситуаций разными людьми. Если вы делаете реализацию понимания в железе, это ваша задача сделать так, чтобы результат соответствовал общепринятому смыслу этого слова. Иначе вы реализовали не понимание, а что-то другое.
А какая разница?) Вы думаете, что в них слово «понимание» было придумано не обычными людьми, а специальными учеными?
Людьми другой культуры.
И на каком шаге тут присутствует понимание ситуации? В соответствии с общепринятым смыслом оно там точно есть.
По моей версии — на этапе восприятия, когда требуется перестройка когнитивного «базиса» включаются сознательные процессы — мышление.
В соответствии с общепринятым смыслом всё это подразумевает понимание.
предвидел = прогнозировал = антиципировал — это другой мыслительный процесс. Их много. См. хотя бы словари.
Не вижу никаких причин, почему я не могу использовать слово из лексикона для описания ситуации в соответствии с известным мне смыслом этого слова. Если у вас есть сведения, что слово «понимание» в русском языке означает не то, что я под ним подразумеваю, тогда приводите эти сведения, я скорректирую свой лексикон и буду употреблять его правильно.
Я уже вам приводил пример. Больше ничем помочь вам не могу.
Но насколько я знаю, слово «понимание» используется для описания приведенных мной ситуаций разными людьми. Если вы делаете реализацию понимания в железе, это ваша задача сделать так, чтобы результат соответствовал общепринятому смыслу этого слова. Иначе вы реализовали не понимание, а что-то другое.
См. три значения.
Включайте перестройку своего «когнитивного базиса». У вас есть все факты и возможности для этого.
С наилучшими пожеланиями.
P.S.: Если хотите — перейдем к личной переписке.
Людьми другой культуры.
А какое это имеет дначение для обсуждаемого вопроса?
— Бытовое общение наполнено метафорами, аллюзиями.
— Слово "понимание" как раз и возникло для описания таких (бытовых) ситуаций.
Вы просили указание на источник для последнего утверждения. Вы думаете, люди другой культуры слово "понимание" использовали не для описания бытовых ситуаций? Тогда это вам надо приводить источник, так как это выглядит довольно сомнительно.
Могу еще источник для термина "слово" привести.
"Словами обозначаются конкретные предметы и отвлечённые понятия, выражаются человеческие эмоции и воля, называются «общие, абстрактные категории бытийных отношений» и т. д."
"Лексическое значение — это соотнесённость слова с каким-либо явлением объективной действительности, исторически закреплённую в сознании говорящих."
По моей версии — на этапе восприятия
Тогда это не противоречит моим словам.
предвидел = прогнозировал = антиципировал. См. хотя бы словари
"Прогнозировать — Установить (-на-вливать) прогноз."
"Прогноз — Предсказание о развитии и исходе каких-нибудь событий, явлений на основании имеющихся данных. Прогноз погоды."
Как же вы будете прогноз погоды делать без понимания процессов и текущей ситуации (имеющихся данных)?
Дело в общем-то в том, почему мы в бытовых ситуациях называем это "понял, что кружка холодная". Значит мы видим в этой ситуации какие-то признаки слова "понял".
Кстати, в моем примере нельзя заменить "понял" на "предвидел" или "спрогнозировал". Я как раз не предвидел, что она холодная, а думал, что она горячая. А вот взял в руку и понял, что что-то не так, как я думаю.
Я уже вам приводил пример
Ваш пример не объясняет, почему я не могу использовать слово "понял". Возможно эта ситуация не соответствует вашим критериям этого термина, но она соответствет общепринятым.
Если хотите — перейдем к личной переписке
Да не, там никто не увидит аргументы сторон) У нас по теме статьи же дискуссия, не оффтоп.
Если постороннее лицо знает правильный ответ, то оно может проверить и осознать, понимает или не понимает экзаменуемый. А самого процесса понимания не существует. Есть только переработка входной информации в выходную, неонок внутри головы никаких нет.
В случае чая происходит сразу два акта самоанализа («до этого не понимал, после — понимаю»), и это происходит в тот момент, когда узнается правильный ответ. До этого было трудно сказать, понимает или нет.
Если бы экзаменуемый изначально и заведомо давал правильные ответы, то это все равно следовало бы проверить. Но можно поверить в это. Тогда бы мы сказали, что понимание — это просто некоторое преобразование входной информации в выходную. А это неинтересно, без процесса обучения и совершаемых ошибок.
оно может проверить и осознать, понимает или не понимает экзаменуемый. А самого процесса понимания не существует.
Ну как же не существует. В момент времени X проверяющий делает вывод, что экзаменуемый не понимает. В момент времени X+D делает вывод, что понимает. Значит за время D в информационной системе экзаменуемого произошел некий процесс, который изменил ее состояние. Этот процесс и называется понимание.
Понимание не может не существовать, так как этим словом люди обозначают некий класс наблюдаемых ситуаций и отличают их от ситуаций непонимания.
Есть только переработка входной информации в выходную, неонок внутри головы никаких нет.
У нас разговор о том, что процесс понимания можно задать конкретным алгоритмом, и о том, какой он может быть. Ни про какие магические неонки речи не идет.
в тот момент, когда узнается правильный ответ. До этого было трудно сказать, понимает или нет.
Нет-нет. В моем примере до момента, когда узнается правильный ответ, совершенно точно никакого понимания нет. Вернее есть конечно, но оно не относится к рассматриваемой ситуации. Понимание это как раз когда узнается правильный ответ. Информационная модель начинает соответствовать реальности. Поэтому мы говорим в таких случаях "понял, что она холодная", так как это похоже например на понимание формулы в учебнике, когда наше знание о взаимосвязях величин начинает соответствовать изложенному в учебнике.
Для доказательства проведем мысленный эксперимент. Пусть имеется некоторая сплоченная команда, но один член команды подкуплен врагом. По идее все члены команды умны и адекватны, но капитан замечает, что предатель как будто что-то не понимает.
То есть капитан думает, что предатель не понимает. Хотя с объективной точки зрения подкупленный игрок ещё как все понимает…
А кто знает, что творится в голове у подкупленного члена команды в голове крутится… С чего мы взяли, что он адекватный??? Может он дурак? У нас тоже нет объективности в точке зрения.
Вывод — оценка понимания у каждого своя. У некоторых эта оценка 0, у некоторых 100 по 100-бальной шкале. Но ни у кого не может быть объективной. Вся проблема в том, что трудно выявить цели поведения экзаменуемого и затем оценить, действительно ли экзаменуемый правильно и адекватно шел к цели.
Осознание понимания существует только в голове у экзаменатора.
Нет, в голове экзаменуемого оно тоже может быть. Поэтому и существует выражение "я понял, что ...".
То есть капитан думает, что предатель не понимает. Хотя с объективной точки зрения подкупленный игрок ещё как все понимает
В данном случае "объективная точка зрения" это мы с вами, то есть такие же наблюдатели, как капитан. Просто нам известно больше информации.
Вместо нас можно рассмотреть другого игрока, который раскусил первого и знает, что он предатель.
И с точки зрения подкупленного игрока он тоже "ещё как все понимает", так как ему известна та же информация, что и нам.
С чего мы взяли, что он адекватный??? Может он дурак?
Может. Как это связано с пониманием и с чьим конкретно?
Вывод — оценка понимания у каждого своя.
Да. А по каким критериям мы ее оцениваем? Вот то, что у экзаменуемого влияет на эти критерии, и называется пониманием. Тут на самом деле надо разделять механизм, процесс и результат, но это уже детали.
трудно выявить цели поведения экзаменуемого и затем оценить, действительно ли экзаменуемый правильно и адекватно шел к цели.
Зачем нам выявлять цели экзаменуемого? Вы тут подменяете понятия. Существование механизма понимания внутри информационной системы и оценка этого понимания другой информационной системой это разные вещи. Оценка понимания по своему принципу это такое же понимание, только других фактов. Не факта "X", а факта "знает ли экзаменуемый факт X". Поэтому же экзаменатор и экзаменуемый может быть одним лицом, при этом свои цели поведения он знает точно.
Это давно применяется при оценке понимания при обучении людей, называется "расскажите своими словами". Ученик описывает свою информационную модель некоторого явления, преподаватель сравнивает ее со своей. Чем больше совпадения, тем считается больше понимания.
При этом неважно, что учитель может сам ошибаться, и его модель не соответствует реальным процессам во Вселенной. Существование механизма понимания от этого не меняется, в данном случае это понимание не реальных процессов, а того, что знает учитель. Как с моделью атома, сначала об этом были неправильные представления, но в университетах этому обучали и проверяли понимание студентов.
Ну давайте все-таки утвердим, понимание — не процесс и не состояние (так как субъективно), реальным процессом является оценка (самооценка) понимания, которое по сути является операцией сравнения ответов с эталоном (правильным ответами) и с подсчетом ошибок.
Ну давайте все-таки утвердим
Чего это вдруг?) Понимание это один процесс, оценка понимания другой системой это другой процесс. Я же вам выше доказывал, в один момент времени понимания по оценке нет, в другой момент времени по такой же оценке тем же лицом есть, значит оно появилось между этими моментами. Значит есть некий процесс и его результат. А результат где-то хранится, то есть это состояние информационной системы.
А вы предлагаете просто взять и утвердить без доказательства. Зачем это делать, мне непонятно.
Это не о понимании, это критерии успешности диалога, коммуникации.
Именно их я и считаю критериями понимания. Собственно у вас выше в А. приведены они же.
Или, по крайней мере, для этого надо быть человеком (не ИИ или ИР), находиться в среде психически здоровых людей, принадлежащих к одной культуре
И это достаточный критерий «здравого смысла». Но в общем смысле это просто факты, которые «логичны», то есть хотя бы возможны по нашему представлению.
Чтобы полностью соответствовать вашим ожиданиям в данный конкретный момент, любая система (даже обладающая в полной мере человеческим разумом) должна для этого «мониторить» вас 24 часа в сутки
Этого совершенно не требуется. Я ожидаю, например, просто получить одобрение — для этого не обязательно за мной следить круглые сутки ) Лаже гугл не следит за каждым моим действием (я вот сейчас пью чай, и он об этом не знает), но дает вполне удовлетворяющие мои ожидания ответы в поиске ))
Если следовать определению метафоры система должна в ответ на ваш запрос намекать, приводить аналогии, используя «ограниченный язык»
Нет, метафора понимается мной так как она используется в когнитивной лингвистике, введенной туда Лакофф Г. Метафора применяется как основной механизм получения новых концептов и понятий — времени из пространственного движения, власти из позиции верх-низ и т.п. Подробнее можно почитать у автора.
Полностью разделяю его мысль
Жаль, потому что эта позиция очень… странная. Конечно, осознание понимания самим субъектом субъективно. Это очевидно. Но речь о коммуникации, и оценка понимания по ответному поведению как вы написали в А, что вполне объективно как примере с холодной/горячей кружкой. Поэтому что именно утверждает teology и с чем вы именно согласны становится не понятным вообще.
Жаль, потому что эта позиция очень… странная. Конечно, осознание понимания самим субъектом субъективно. Это очевидно. Но речь о коммуникации, и оценка понимания по ответному поведению как вы написали в А, что вполне объективно как примере с холодной/горячей кружкой. Поэтому что именно утверждает teology и с чем вы именно согласны становится не понятным вообще.
Я выделял 3-и значения, аспекта (см. текст):
1. «Понимание» как процесс интерпретации/реинтерпретации. Это значение слова «понимание» соотв. некоторому процессу интерпретации.
2. Субъективное состояние адресата.
Определяющим моментом «понимания» со стороны адресата должна быть полнота, непротиворечивость и согласованность этих элементов – по крайней мере, в очаге возбуждения (доминанте) должны отсутствовать взаимо-конфликтующие элементы или слабо возбужденные. Это второе значение «понимания» в КА.И субъективная оценка (субъективность).
Возможна (правда, не всегда) перестройка «когнитивного базиса» адресата как ответная реакция на сообщение.
3. Оценка адресантом достижения цели – намерения в отношении адресата по завершении КА. Оценку состояния психики адресата после получения сообщения выполняет адресант. Интерсубъективный аспект.
Я ожидаю, например, просто получить одобрение
Это ваше личное ожидание. Но системе придется взаимодействовать с разными людьми…
И это достаточный критерий «здравого смысла». Но в общем смысле это просто факты, которые «логичны», то есть хотя бы возможны по нашему представлению.
Нет, метафора понимается мной так как она используется в когнитивной лингвистике, введенной туда Лакофф Г. Метафора применяется как основной механизм получения новых концептов и понятий — времени из пространственного движения, власти из позиции верх-низ и т.п. Подробнее можно почитать у автора.
1. Не думаю, что игра со словами может быть продуктивным инструментом мышления. И совершенно не согласен, с тем что, игра со словами может быть одной из базовых мыслительных (когнитивных) операций.
2. Также, скорее всего, эта парадигма специфична и применима определенных культурных рамках (западно-европейская цивилизация). В других культурах она может «не работать».
3. Сознательное применение этого инструмента возможно как одной их творческих методов, эвристик. Но по большей части это скорее паллиатив, «соломинка» за которую можно ухватиться при отсутствии других интеллектуальных инструментов, своеобразный генератор случайных вербальных образов. Для людей с доминирующим вербальным стилем мышления.
Рассчитываю, что достаточно полно ответил на ваши замечания.
Я выделял 3-и значения, аспекта (см. текст):
Вы пишите (в п.А) про «коммуникационный акт», а не про понимание, а это разные вещи, хотя одно и происходит в ходе другого.
Но системе придется взаимодействовать с разными людьми…
В каждый момент, или КА, как вы пишите, бот взаимодействует с одним человеком.
Не думаю, что игра со словами может быть продуктивным инструментом мышления
Нет, не игра слов, не культурная особенность и не только творческий прием. Это общекогнитивный механизм. Если вы не знакомы с этим, то вам стоит поверить тем, кто знает, например, Т. Скребцовой. ))
Всего доброго
Вы пишите (в п. А) про «коммуникационный акт», а не про понимание, а это разные вещи, хотя одно и происходит в ходе другого.
Вы невнимательно читаете… Я выделял 3-и значения (аспекта) понятия «ПОНИМАНИЯ» в КА (а что не КА?) — попробуйте еще раз перечитать текст. А о «ПОНИМАНИИ» в процессе научного познания вы в своей статье не затрагивали. Здесь есть поворотный пункт – мне кажется, что в гносеологии (эпистемологии) для описания процесса открытия необходимо использовать какой-то другой термин. Давайте не будем дальше эту тему затрагивать.
В каждый момент, или КА, как вы пишите, бот взаимодействует с одним человеком.
Но коммуникация ДС (диалоговой системой) не завершается только цепочкой КА с одним человеком: системе придется взаимодействовать с разными людьми…
Нет, не игра слов, не культурная особенность и не только творческий прием. Это общекогнитивный механизм. Если вы не знакомы с этим, то вам стоит поверить тем, кто знает, например, Т. Скребцовой. ))
Насколько я понимаю, вы отсылаете меня к учебнику Т.Г. Скребцовой Когнитивная лингвистика и, в данном контексте, ко второй главе.
Цитирую Скребцову Т.Г. (стр. 35):
«Суть метафоры, по Лакоффу и Джонсону, заключается в понимании и переживании сущности одного вида через сущность другого вида»
Откуда возникают в психике эти соответствия?
Рациональный ответ будет: в процессе обучения, нарабатываются в результате общения (коммуникации) в определенной среде (я надеюсь, мы не будем для этого привлекать теологические объяснения). Можно на этом остановиться. Итак – вы и дальше будете отрицать культурную обусловленность метафоры (здравого смысла)? Может быть предложите что-то свое?
По Лакоффу и Джонсону: Метафора – это единственный способ осмысления абстрактных сущностей (стр. 36; Скребцова Т.Г.).
Это с чего бы…?! Например, геометрия и в целом математический аппарат (в том числе формальная логика), в теоретической физике – например, диаграммы Фейнмана (привет вербальным представлениям); ментальные карты и пр. Как правило (не все) – это инструментарий, наработанный за долгие годы (столетия) набор приемов, методов. Я подозреваю, что сами авторы так не думают…
Сами авторы (Лакофф Дж., Джонсон М.) пишут следующее:
Значение предложения формируется на основе понятийной структуры. Как мы обнаружили, большая часть понятийной структуры естественного языка по своей сути метафорична. Понятийная структура, как и конвенциональные метафоры, коренится в материальном и культурном опыте. Следовательно, значение никогда не может быть объективным, оно всегда связано с человеком и всегда основывается на использовании понятийной системы, усвоенной человеком. Кроме того, истина всегда зависит от понятийной системы и метафор, которые ее структурируют. Тем самым истина не абсолютна или объективна, она основана на понимании. Таким образом, у предложений нет внутренне присущих им значений, которые существуют независимо от человека, и коммуникация не может быть просто передачей таких значений.
Цитирую по Лакофф Дж., Джонсон М. Метафоры, которыми мы живем -М.: Едиториал УРСС, 2004; с. 219.
Это как раз, то о чем я говорил. Обратите внимание, не я об этом сказал первым (как в «Покровских воротах»: Заметьте: не я это предложил!).
Про «когнитивную» метафору – увы, я так и не понял чем это отличает ее от обычного значения метафоры, как аналогии (отношения сходства).
В дополнение – в самом начале обсуждения, я в личном послании просил вас поправить фразу (или хотя пояснить смысл вами написанного):
чтобы шахматы ориентировались в любой, даже не встречавшейся ранее расстановке фигур. Но как это сделать в реальном мире, где правил на много порядков больше, пока не известно, что и составляет основное направление исследования автора.
Можно, наконец, получить от вас более содержательный ответ, чем просто «Спасибо!»
Успехов
Что же тогда можно называть «пониманием» у искусственных систем с прагматической точки зрения? Обыденный ответ – агент должен обладать знанием. При этом, как показывает опыт, всеобъемлющее знание построить невозможно. Еще ответом может быть логичность в ответах системы. Но как мы видим, обученные на огромных текстах системы не отличаются логичностью в порождаемых высказываниях.Всеобщего знания нет ни одного человека. Тем не менее, как правило, он всегда может дать правдоподобный ответ, если вопрос сформулирован корректно. Значит дело не в знаниях. Это нечто глубже, не формализовано и не вербализовано — интуитивно. Как показывают когнитивные исследования с нейровизуализацией, и др. методами объективными контроля, практически любые сентеции вызываю активацию не только зон отвечающих за абстрактное представление слов, но и сенсомоторные зоны. Например, оперирование числами, всегда вызывает активацию области отвечающей за чувство численности связанной с мультимодальной обработкой, в основном зрительной информации. Упоминание лиц — активацию области связанную с распознаванием лиц, цвета — области обработки цвета, и тд. Формирование этих областей обусловлено генетически, дополнительно они настраиваются во время обучения по мере взросления и получения опыта. То же относится и к связям этих областей — их отношениям. Вся эта система составляет так называемое когнитивное ядро, кот. условно можно назвать первичной моделью мира, или базовой семантикой мира. Это когнитивный результат всего эволюционного процесса развития живого и разума на Земле — эволюционное легаси. В нем также есть понятие отвечающее за материальное тело и его свойства. Даже ребенок с пеленок понимает, например, что тело твердое и не может пройти сквозь другое твердое тело. Поэтому, если речь в предложении о неизвестном теле, то оно моделируется именно этим представлением в ядре. Когнитивное ядро определяет базовые концепты языка, такие, как пространство, время, движение, материального тело, масса (вес), жидкость, и тд, что касается физической составляющей ядра (а есть еще математическая, биологическая и социальная), кот. затем наполняются конкретным содержанием в виде интерпретаций в контексте различных физических теорий. Именно эта модель мира позволяет человеку генерировать правдоподобные предположения (гипотезы) в условиях неопределенности связанной с предложениями. О том, что автор пишит в статье. Того, что пока нет в ИНС, на каких бы огромных выборках текста они не тренировались. Либо это должно быть некоторое структуированное обучение, где связи и отношения должны быть заранее разведены по уровням, но насколько удастся передать интуицию сетям таким способом? Либо это должно быть комбинирование обучение с текстом и связанным медиа в виде картинок и видео. А может и сенсоров, что уже будет ближе к человеку в виде роботов. Что-то похожее уже делается. Посмотрим, получится ли в этих проектах добиться понимания адекватного человеческому )
Понимание системой ИИ означаете ее способность ДОСТРАИВАТЬ правдоподобные гипотезы о картине мира по отрывочным знаниям фактов из этого мира. И для экономии система должна уметь для описания бесконечного числа фактов использовать ограниченный язык, что достигается механизмами, подобными метафоре.
Совершенно верно, никто не обладает всеми знаниями, но при этом может достроить конкретный кусочек картины мира вполне правдоподобно (здравый смысл). Я об этом и пишу. И вопрос именно в этом когнитивном ядре, которое позволяет строить не только правдоподобные факты, но и целые концепты (через метафоризацию).
Почему такое ядро не возникло у GPT и она нередко выдает откровенный бред? Ведь писали, что внимание в трансформере по сути создаёт свою псевдограмматику текста. И в части грамматики тексты GPT безупречны. Что не хватает достичь безупречности в "здравом смысле"? Или хотя бы понять, как в мозгу человека формируется этот базовый компонент?
И вопрос именно в этом когнитивном ядре, которое позволяет строить не только правдоподобные факты, но и целые концепты (через метафоризацию).В естественных науках несколько по иному происходит. Концепт один, например, массы, это обобщение, вербализованное со времен, реакции мышечной системы организма на инертную и гравитационную нагрузку. Это мы теперь понимаем и исследуем) а исходно, в быту, масса это просто вес. В клас. механике мера инертности и гравитации. В СТО эквивалент энергии, в ОТО мера кривизны пространственно-временного континуума, в СМ она связана с механизмом Хиггса. Чем она будет в след. фундаментально физ. теории? В разных теоретических контекстах наполнение разное, но эти контексты вложенные, и связаны принципом соответствия. О метафорах видимо можно говорить, как о переносе моделей, например, линейной модели для разных явлений.
Почему такое ядро не возникло у GPT и она нередко выдает откровенный бред? Ведь писали, что внимание в трансформере по сути создаёт свою псевдограмматику текста. И в части грамматики тексты GPT безупречны. Что не хватает достичь безупречности в «здравом смысле»? Или хотя бы понять, как в мозгу человека формируется этот базовый компонент?Не вникал подробно в устройство этих сетей, но при чем здесь внимание не совсем понятно. Если брать во внимание) его употребление в психофизиологии. Видимо это как раз можно отнести к случаю использования метафоры разработчиками этой технологии)) Возможно больше вводит в заблуждение, чем объясняет. Возможно ли только по не подготовленным текстам построить модель мира? На мой взгляд нет, или она будет не совсем корректной. Язык неоднозначный, неполный, метафорический, и тд. Только статистика встречаемости связей слов в текстах — парная, троичная, и тд, не восстановит эту модель в виде некоторой псевдограмматики полностью. Как эта модель возникает в мозге человека? Частично генетически, как писал, и уточняется по мере получения опыта. Очень мудрая система, с одной стороны младенец сразу готов к жизненно важным взаимодействиях с окружением, напр, реагированию на лица, звуки, делать количественный выбор, и тд, с другой может модифицироваться (эпигенетически, и др. механизмами) под текущие условия существования, ведь они меняются со временем, жестко все фиксировать в таких сложных системах было бы не удачным решением. Как именно представлена, например, та же масса в мозге? Это предмет широких когнитивных исследований, все, к сожалению, не так просто, как игра со словами. Очень запутано, это средний уровень когнитивной системы, где наибольшее число связей между областями в коннектоме. Если интересно, вот одно из последних исследований на тему представления массы. Здесь модель работы с массой. Есть генеративные варианты таких моделей. Это общий знаменатель многих связей на этом уровне в который транслируется упоминание слова «масса», или связанных с ним понятий в тексте. Это не может быть восстановлено потому как это ассоциации, кот. мы понимаем на интуитивном уровне. Так должно быть и все! Не поддерживаемое тело падать. Или двигаться по наклонной плоскости с определенной скоростью. Или оставаться в стабильном состоянии. В основном это могут понимать дети безо всякого обучения, и еще больше после некоторого опыта. Конечно все это можно вербализовать, структуировать в некотором виде, разнести по уровням, и в таком виде скормить сетям. Но для этого должна быть проделана предварительная работа, т.е. опять разметка, причем достаточно сложная. Китайским товарищам вряд-ли это аутсорсиш) Как-то в этом помогут существующие проекты семантических сетей. Но как? Пример mass на WordNet. Видим массу омонимов массы) Значит нужно разбирать контекст предложения. Но этого тоже может быть не достаточно. Напр. простое предложение — масса яблок в мешке. Это что? Общий вес, или как их там много? По статистике вероятнее первое. Предположим, привязались. GPT будут городить всякую несуразицу со словом масса, хотя и синтаксически правильную. Модель массы будет отсеивать среди них не релевантные ей использования массы. GPT может выдать что-то вроде «the priest said Mass», из выдачи ворднета. Но модель не обнаружит никаких связей (не выполнит преобразований) с телами с массой, и манипуляцией с ними, чтобы проверить ментальную выполнимость, как это мы делаем на ходу, и отвергнет это предложение. Как-то так видится.
Вопроса по моему остаются такие:
1. Метод обучения основан не только на внешних данных, но и на способе их «обработки», которая приводит этот опыт к системному виду. И в результате к сравнимому, сопоставимому, что позволяет из них делать выводы (рассуждения). Это некая grid-сетка, через которую пропускается весь опыт, в которой он записывается. Но про нее никто не говорит, все страстно набивают нейросети все большими данными и надеются на чудо, что она сама как-нибудь обучится и все поймет.
2. Сам функционал рассуждения, то что мы называем разными словами — метафора, аналогия, силлогизм (есть статья, где силлогизм разбирается как метафора), дедукция и индукция. Она следует из п.1, но им не является. Механизм этот как раз и позволяет делать правдоподобные выводы из фактов, дополняя картину мира. Но опять же он не известен и о нем не говорят.
Заметьте, что оба функционала являются по сути априорными, то есть врожденными, и не концептами твердого тела, а еще более базовыми как причинность и пространство. Но не они.
Это некая grid-сетка, через которую пропускается весь опыт, в которой он записывается. Но про нее никто не говорит, все страстно набивают нейросети все большими данными и надеются на чудо, что она сама как-нибудь обучится и все поймет.Почему? Это как раз структура сети и свойства нейронов в ней. Они предполагают некоторые возможности к генерализации, аппроксимации, сходимости, и тд. Эти возможности присутствуют в ней априори. Другое дело насколько разработчики понимают их и их ограничения. Невзирая на веру многих из них в обучение с «чистого» листа) что особенно распространилось со времен успеха AlphaGo, приводил ссылку с критикой подобных взглядов.
Другой аспект — соответствие обучающей выборки генеральной, связанной с поставкой задачи, для получения максимальной эффективности использования этих потенциальных возможностей сети. Дополнительно, для повышения скорости обучения возможно предобучение сети с тем, чтобы предварительно настроить ее (в основном установить веса связей), а не использовать случайное исходное состояние. При этом процедура предобучения может сводится к оптимизации весов сети исходя из различных критериев решаемой задачи. Подобные этапы проходят и нейросети мозга в натальный и постнатальный период роста, но на ином уровне биологической реализации, упоминал об этом ранее.
Вопрос, что хотим получить от автономного ИИ в перспективе? С «дружественной» логикой, или построенной на иных принципах? Последнее исследуется в этой публикации. Да, логика может быть иная, если даже у людей она сильно отличается, имею в виду практический уровень, а не аристотелевскую идеализацию. Но в перспективе такого расхождения можем получить сильного конкурента, кот. «себе на уме») Либо исследовать различия, и устранять наиболее сильные расхождения, и тогда логика ИИ будет более предсказуемой. Вот такая вилка)
Сам функционал рассуждения, то что мы называем разными словами — метафора, аналогия, силлогизм (есть статья, где силлогизм разбирается как метафора), дедукция и индукция. Она следует из п.1, но им не является. Механизм этот как раз и позволяет делать правдоподобные выводы из фактов, дополняя картину мира. Но опять же он не известен и о нем не говорят.Да… круто выходим на мировоззренческие проблемы. Что такое реальность? Как она организована, как человек познает ее, и тп? Вероятно подход к их пониманию в духе Канта самый честный в этих вопросах. Фактически начиная с представлений основателей когнитивной психологии, до современных исследований с использованием методов нейровизуалиции и нейросетевого моделирования, все больше подтверждает его предположения о существовании априорных форм познания, если использовать современные трактовки, и не брать в расчет его идеализм. В первом приближении таковыми можно считать функции когнитивного ядра, являющегося своеобразным интерфейсом между реальностью, и ее перцептивным представлением и теоретическим осмыслением. До этого уровня ИНС еще очень далеко. Их «реальность» пока тексты, фото и видео) В этом есть и плюсы, т.к. в исследовательских целях эту ситуацию можно рассматривать в качестве метафоры когнитивных процессов самого человека при взаимодействии с реальностью.
Заметьте, что оба функционала являются по сути априорными, то есть врожденными, и не концептами твердого тела, а еще более базовыми как причинность и пространство.
В последние десятилетия все более актуальным становится понимание причин торможения эффективности научных исследований (стагнации), в частности, в области физики, что сказывается на появлении новых технологий. Несмотря на рост людских и материальных затрат на науку, и кажущийся ответный вал публикаций и ссылок, открытий и инноваций, особенно в ИТ. Однако исследование объективных показателей и мат. моделирование говорит о другом, см. например, эти публикации в виде эссе (1, 2) и объяснение со ссылками на исследования, а также предложений по возможному выходу из этой ситуации. Есть большой массив исследований и публикаций на эти темы, в кот. наиболее частой причиной стагнации называют рост бремени познания. Однако это скорее интегральный показатель напряжения когнитивной системы человека. Истинная причина лежит глубже — в ограничениях возможностей когнитивного ядра, кот. обеспечивает поддержку ограниченного тезауруса базовых концептов. В основном они были использовании при создании классической физики. Их исчерпание привело к их комбинированию, например, концептов пространства и времени в единый континуум в ТО, концептов волны и частицы в их дуализм в КМ, добавление концепта поля для разработки КТП. Какие комбинации потребуются для создания след. фундаментальной теории? Той же теории кв. гравитации? Как ни странно когнитивные исследования могут дать подсказку выхода из этой застойной ситуации, и они будут находится в иной плоскости нежели это представляют себе физики.
Они предполагают некоторые возможности к генерализации, аппроксимации, сходимости, и тд.
Это общие вычислительные характеристики, а не характеристики построения «знаний», чем бы они ни были. Я же говорю о специфическом априорном способе выстраивания знаний. И не путем «переработки» информации, кстати. Вам наверняка известно, что, как Вы написали ниже, когнитивная все больше приходит к парадигме не обработки информации из вне, а ее генерации изнутри с корректировкой этой картины нашими органами. То есть наоборот, в когнитивной это еще называют «контролируемыми галлюцинациями». И это по моему даже очевидно — от объектов не исходит никакая инфо, она является функцией моделей. То есть грубо говоря, вся информация в нас уже есть, и мы способны не узнавать новую информацию, а только создавать новые модели. Я это развиваю как «интерактивный конструктивизм». Это к вопросу о реальности.
Вопрос, что хотим получить от автономного ИИ в перспективе? С «дружественной» логикой, или построенной на иных принципах?
Мы не можем представить себе Недружественную логику. Если мы ее представили, значит она уже возможная и для нас ) У нас у самих сейчас в науке столько логик, что не перечесть. Повседневная же логика — это не формальная логика, а «здравый смысл», то есть правдоподобная логика, частично культурно обусловленная к тому же. За ссылки спасибо, внимательно прочитаю. Но фундаментальный механизм рассуждений, о котором я пишу, скорее всего один у всех логик.
причин торможения эффективности научных исследований (стагнации),
Очень интересный момент! Я бы на Вашем месте написал бы тут отдельный пост. Но скорее всего это плато перед новым парадигмальным сдвигом. Но это не будет объединение каких-то теорий. Нет. Это будет изменение самого взгляда на мир как я описал выше. Похожий на то как в 11 веке вдруг поняли, что мы видим не потому что глаза испускают лучи, ощупывающие предметы, а наоборот ) Причем мы теперь то знаем, что именно ощупывает, но не испуская лучи — см. eyestracker. Но это точно философия )
В первом приближении таковыми можно считать функции когнитивного ядра, являющегося своеобразным интерфейсом между реальностью, и ее перцептивным представлением и теоретическим осмыслением
Вот именно в этом весь вопрос — что это за «когнитивное яро», которое работает между реальностью и представлением? Уже известно, что тут особую роль играет гиппокамп с его нейронами места и решетки, на которые я намекал выше. Но в чем именно она заключается пока никто не знает.
— неусреднение языка — скорее всего, выражение «чистовая пробивка тонких отверстий с непрерывным направлением пуансона» переводится на немецкий всего лишь одним словом;
— неусреднение ассоциативно-сюжетных связей — это не только «красивый образ» Троцкого в виде литературного Лиходеева, но и все эти намеки и аллюзии, чем переполнено мышление.
Скорее всего, если несколько исправить картину мира, ввести в нее несколько важных философских категорий, подправить (но не отменить) некоторые решения науки, то утилитарный искусственный интеллект (узко тематический или широко тематический, но строго предметный) возможен. Ну а насчет общего — сложно сказать, здесь одна психология мало в чем поможет, нужна теория литературы, понимание почему этому вкусу отвечают эти идеи ))))
И еще один такой момент — построители искусственного интеллекта почему-то не могут проникнуть в мир многообразия комбинаций, как комбинаций самих по себе; хотя если выбрать некую «область комбинаций», то для нее-то можно построить искусственный интеллект.
сложно сказать, здесь одна психология мало в чем поможет, нужна теория литературы
Алексей, не могли бы вы пояснить свою мысль?
О понимании в искусственном интеллекте