Comments 42
нашими мыслями, а опосредованно и речью управляет два органа, а не один - мозг и сердце. Причём мозг управляет, условно, не больше 10% информации.
Я даже не знаю, как это комментировать. Испанский стыд.
Создали то, что решает поставленную проблему с достаточной точностью.
Так ведь всегда было. Например, сначала для перемещения использовали силу животных, потом пар, потом электричество, сделали реактивные двигатели. Никто не ставил задачу – или создаем телепортатор из точки A в B, или будем продолжать перемещаться только на своих двоих.
Придумают лучше – будут использовать лучшее.
Вот вы тут критику развели, мол плохо всё, потёмкинские технологические подходы, голый зад ИИ, GPT-хайп... Да нет же! Это хорошо! Пусть так и остаётся. Чего мы все, как человечество, хотим достичь, запрограммировав искуственное сознание? Цель и выгодоприобретатель?
Всем сердцем с вами соглашусь. Технический прогресс вместе с комфортом и удобством несёт страх и тревогу. ( А, возможно, и катастрофу.) Но никто не способен его остановить. ИИ неминуемо придёт. Вопрос лишь в том выиграет ли человечество, если он придёт раньше или если он придёт позже.
Я задавался тем же вопросом и перерыл много литературы. Нигде нет конкретного определения, что такое Смысл. Везде пространные описания. Похоже, мы, люди не способны понять, что это такое.
По поводу определения термина "Смысл" - полностью поддержу, одни общие описание, в духе, что "смысл - ну это вообще все в общем, такие дела". Работать или моделировать подобное совершенно невозможно.
У некоторых авторов, кстати, есть достаточно прикладное понимание этого самого "Смысла" - это накопленный результат действий человека и обратной связи, полученной по результатам этих действий.
За, возможно, поверхностным описанием, скрывается глубокий фундамент, основанный на следующем тезисе:
Человек накапливает опыт и получает знания об окружающем мире за счет выполнения базовых действий и получая тот или иной отклик на них. Совокупность действий и откликов и создают индивидуальную, смысловую картину мира, которая представлена не буквально, а именно так, как ее человек воспринял - "осмысленно".
Комментарий можно было бы еще дальше расписывать, но наверное легче сослаться на серию статей, где про это достаточно подробно рассказано - https://habr.com/ru/post/554738/
Статья провокационная конечно. Но я плюсанул, потому что недовольство, это прямое стремление к лучшему. Так что, пусть будут недовольные, пусть и необоснованно. Довольство это прямой путь к упадку и деградации.
Пришли зайцы к сове:
- ты мудрая что нам делать от волков спасу нет.
- а вы возьмите и набейте им морды.
- а как это сделать, они же сильнее?
- идите нафиг, я стратег, а не тактик.
По законам драматургии, прервать произведение нужно на катарсисе - всё плохо, мир гибнет, мы все умрём! А во второй серии герой спасает мир). Это статья не финал истории.
![image](https://habrastorage.org/webt/nn/mx/qf/nnmxqfgtotbf3kyua60dcoct25w.png)
Все эти алгоритмы созданы для одной цели - поиска закономерностей, шаблонов и зависимостей… А теперь скажите какое отношение это всё имеет к мыслительному процессу по распознаванию смысла?
Восприятие окружающего мира строиться на том, что мы классифицируем предметы и взаимодействия, изучаем их свойства. Мы знаем, какие действия могут быть произведены с конкретным предметом, что с ним может произойти в определенных условиях, какими свойствами он может обладать.
Понимание смысла фраз базируется на нашем знании окружающего мира. Мы, точно также как и нейросети пытаемся вычленить из непрерывного потока данных, поступающих от органов чувств, зависимости и закономерности. Просто мозг помощнее любой нейросети и справляется с такой работой гораздо лучше.
Давайте представим такой эксперимент:
Вариант 1: Вас вывели на улицу и вы разглядываете, что вокруг находится и происходит. Вариант 2: Вас вывели на ту же улицу с завязанными глазами и словами рассказывают, что вокруг находится и происходит.
Вопрос, действительно ли в вашей голове во втором случае будет происходит процесс, который повторяет алгоритм действия gpt3. Или будет нечто другое?
Мозг человека выполняет множество функций. Система позволяющая понимать речь и разговаривать является лишь надстройкой над более сложным основанием, способным распознавать образы, делать прогнозы, иметь пространственную память и т.д.
Очевидно, что нейросеть типа GPT3, обученная на текстовых данных будет способна выявлять лишь закономерности построения предложений и фраз. Собственно на большее такие сетки и не претендуют.
Возможно, какого то прорыва стоит ждать от более универсальных нейросетей, обучение которых будет проводится на различных типах данных: тексте, изображениях, видео, информации с ладаров.
А статью точно не условный gpt3 написал?
вот тоже смущает. почему все идиоты ученые пошли по пути химии чтобы создавать вещества. алхимия принесла бы куда лучшие результаты, позволяя создавать хоть золото из железа
Вы ближе к истине, чем, возможно, сами подозреваете!
Человечество до сих пор считает, что передача электричества по воздуху невозможна, а эксперименты Тесла столетней давности доказывали обратное. Химия до сих пор не знает, что такое эфир. Возможно алхимия была ближе к пониманию, что это за субстанция и как ею пользоваться.
Не принимайте реальность как единственную догму. Она остаётся таковой пока не находится выскочка, который всё меняет. Моя статья о том, что не бойтесь думать не как все и отрицать правила. История этого мира показывает, что правила это сиюминутная условность, а не истина.
тогда я предлагаю вам поверить что я умею предсказывать будущее по причине тонкой чувствительности к окружающему эфиру:
"вы напишете следующую статью на хабр. в ней не будет ни одного логически корректного аргумента в вашу пользу. вашу статью раскритикуют за это. вы 'убедитесь' в том что все вокруг дураки и не могут смотреть также широко как вы"
не знаю что я написал в абзаце выше, это было в состоянии транса
Я не склонен считать кого-то дураком за то, что он думает иначе, чем я. (Хотя в статье, я, действительно, использовал провокационный стиль и резкость высказываний.)
Очень здорово, что под этой статьёй столько мнений, не согласных с моим. Если есть спор, значит есть движение к истине. Крутые идеи, изменившие этот мир, всегда встречались в штыки.
А по поводу предсказания будущего, так все мы ощущаем эфир по-разному.)
Именно поэтому мы и не можем поговорить с Яндекс.Алисой по душам. Она ведь ждёт вопросов и команд, а мы ей тут свой внутренний мир открываем.
А зачем? Алиса создана не для разговора по душам и не как замена живого общения, а как помощник. Не знаю, как вы, а я себе голосового помощника представляю как нечто, кому(чему) я могу делегировать функции, которые способен выполнить и без него - проверить погоду, узнать время, построить маршрут до пивного ларька. А с помощником я могу его просто попросить - и он это сделает за меня.
Как известно из истории нашей страны, когда-то давно, когда коммунисты хотели создать новую страну им понадобилось разрушить всё, что было создано до них веками. Это было крайне жёстко и безжалостно, но эффективно... Если не разрушить современные неработающие подходы и не развенчать мифы, то ничего нового создать не получится.
Вот только, увы, есть примеры стран, которые достигли больших (ударение на и, вопрос больше-меньше дискуссионный) успехов и без разрушения всего, что было создано до них.
Как по мне, текущая реализация голосового помощника свою функцию выполняет и, как минимум, странно требовать от неё чего-то большего. Никто и не говорит, что г.п. - тот же Вася или Петя, да никто так и не воспринимает их. Всем понятно, что это и для чего. А настоящий ИИ напишут, когда под него будет готова математическая основа, которой, пока что, нет.
Когда-то люди жили без мобильных телефонов, интернета, автомобилей и даже без электричества. И никто не считал, что этого всего ему не хватает. Однако отбери эти вещи сейчас у людей, и на Земле случится коллапс, если не катастрофа.
Пока нас не подсадят на очередное благо прогресса, мы не подозреваем, что не можем без него жить!)
У меня есть гипотеза, что человеческий интеллект, это гипертрофированная способность прогнозировать будущее. То есть, впервые это был механизм прогнозирования самого близкого будущего и это было эволюционно выгодно. (кстати, обратите внимание как например птицы реагируют на кошку. Они совершенно не понимают что будет через 2..3 секунд и реагируют только на прямое действие – прыжок кошки). А потом, этот механизм начал усовершенствоваться и пытаться прогнозировать все дальше и дальше и все шире и шире (и конечно грубее и грубее). Так вот, я думаю, что корни всего абстрактного мышления является именно механизм прогнозирования будущего.
С другой стороной, я не знаю про попытки сделать ИИ на этой основе. Все попытки ИИ, про которых читал, пытаются имитировать высокоуровневых функциях мышления, так сказать, на другой виртуальной машиной. И поэтому остаются только имитациями.
Интересная теория. То что вы подразумеваете по-другому называется интуиция. В восточных учениях она противопоставляется опыту. Опыт это прошлое, а интуиция это будущее. Все машинные алгоритмы, основанные на данных, по сути используют опыт прошлого. Как вывернуть их наизнанку и научить работать в обратном направлении тот ещё вопрос!
Нет, не совсем интуиция. Я подразумеваю, что вся интеллектуальная деятельность мозга, сознательная или нет состоит в предсказания будущего.
Например водя машиной на трассе, мы всегда прогнозируем что будет через 3..4..5 секунд и все наши действия состоят в коррекции плохой прогнозы, если такая случается. Если ошибаемся в прогнозе, то умираем (утрирую конечно). Чтобы сделать прогнозу, мы используем (конечно) весь наш предыдущий опыт сопоставляя его с данными поступающие из органов чувств. Например видим пенсионер, стоящий на тротуаре и мозг вспоминает, что уже видел такое и в прошлом пенсионер стоящий вот так, потом перешел дорогу. И делаем прогноз – вот-вот пенсионер начнет пересекать дорогу. Значит надо замедлить или хотя смотреть на него повнимательнее. Как-то так...
Не стреляйте в тапера (программиста), он играет, как умеет (с) Алгоритм, это раб лампы, который оптимально быстро и недорого выполняет несложные действия и предоставляет запрошенную информацию.
Человеку от служащего в справочном бюро, нужно ровно то же самое, что и от Алисы, - информацию. И он это от Алисы, в основном, получает. Что тут плохого?
Просто отделите для себя раз и навсегда швейцара (алгоритм) в отеле, от постояльца (человека), с которым можно поболтать по душам.
Что касается смысла, это не скоро. Возможно никогда. Потому как, очень похоже, что сначала нужно понять природу сознания.
Моё имхо такое:
Создать ДУМАЮЩИЙ алгоритм - это ещё не скоро.
Создать ПОНИМАЮЩИЙ алгоритм - это скоро.
Разве понимание возможно без думания?
Разве думание возможно без понимания?
Речь, конечно, не о вопросах уровня Алисы. А, например, о тексте, который вы предложили для обсуждения.
можно ли создать простой удивляющийся алгоритм
Это вряд ли. Удивление подразумевает понимание некой несообразности. Чтобы удивиться, алгоритм должен тонко понимать смысл чего-либо.
Это и люди не всякие умеют. Например, анекдоты понимают не все. Парадоксальность, анекдотичность ситуации обычно вызывает смех и удивление. Алгоритм должен понять всё на уровне человека и только затем удивиться.
Я на пальцах объясню. Возьмём как пример насекомое-таракан. Очевидно, что у него нет физиологии, называемой мозгом. Следовательно Думать он не умеет. Но при этом, когда ему грозит опасность он убегает от неё прочь. Значит у него появляется Понимание опасности.
Если алгоритму задать все возможные варианты приветствия, он сумеет Понимать, когда с ним поздоровались. Но думать он при этом так и не научится.
Поэтому я высказываю мысль, что Понимающий смыслы алгоритм создать легче, чем Думающий.
Я на пальцах объясню. Возьмём как пример насекомое-таракан...
Не надо профанировать. Это не понимание, а реакция. Можно привести пример еще проще: звонок понимает, что нужно звонить, когда нажмут на кнопку.
Я специально отметил, что уровень Алисы, а уж тем более таракана, нас не интересует.
Чтобы понимать смыслы нужно думать.
Мне приятно с вами дискутировать, потому что у нас очевидно очень разные картины мира. В моей голове сидит твёрдое убеждение, что "Чтобы думать нужно понимать смыслы".
Извините, но снова буду аргументировать примерами.
Подумайте об мороженом. После этой фразы мы все легко подумали о мороженом. А теперь подумайте о блюхостанколитодоте. И... ой, мы не можем это сделать, потому что не понимаем, что это такое. На этом примере я делаю вывод, что чтобы запустился процесс, который называется "думать" должен сначала отработать процесс, который называется "понять".
"Чтобы думать нужно понимать смыслы".
И наоборот. Смысл и думание невозможно разделить. Если смысл непонятен, то думание стопориться, человек начинает искать информацию вне себя. Или находит и думает дальше или бросает и живет без этого.
Примеры, это нормально. Но примеры о таракане или незнакомом слове не подходят. Вы ведь сами писали о том, что вас не устраивают простые алгоритмы уровня алисы. А аргументы приводите именно на этом уровне.
Берем какой-либо более-менее сложный текст, например. Попробуйте, понять не думая или думать не понимая. А потом подставьте вместо себя алгоритм и скажите, можно ли разделить у алгоритма понимание и думание во-время изучения этого текста.
ПС:
В моей голове сидит твёрдое убеждение...
Убеждения - это границы. Если речь о таблице умножения, то скорее всего вы окажетесь правы. Но если о сознании, например, то всякая инаковость будет от вас закрыта.
Автор правильно отмечает ограниченность концепции интентов, но они никогда и не претендовали на полноценное понимание текста и ведение осмысленных диалогов. Соответственно такая длинная статья с их критикой выглядит немного странной :)
Имхо, смысл любого текста/речи - в описание некоторых действий и их свойств. Так что например упоминаемая в статье фраза “Люблю погреться на солнышке” вполне себе может быть описана в этих понятиях (Действие - "греться", свойство 'где' - "на солнышке", свойство 'Мое отношение к действию' - "люблю")
Аналитика, основанная на интентах не даёт понимания смысла. Смотрите два примера:
Люблю погреться на солнышке.
Я думал, что люблю погреться на солнышке, пока не попал в Сахару.
Интент один, а смысл противоположный. И таких примеров в русском языке вагон и маленькая тележка! Чтобы справиться с этой проблемой, придётся уходить от интент-подхода, как бы он не казался приемлемым решением. Статья об этом.
Мир против интентов