«Мне известна эта теория, так как я читал книги Пенроуза. Никаких подтверждений в пользу этой теории, кроме желания Пенроуза, быть не таким, как робот нет. Скот Ааронсон считает, что то, что кто-то обсуждает эту теорию серьезно является удивительным. Я с ним согласен.» — книги Пенроуза написаны в конце 80х, документ. ссылку на который я вам приводил из 2014. И, повторю 2 раз — там есть подтверждения, если вы таки, прочтете работу, вы сами сможете это увидеть. Прямо научные подтверждения, да. Прямо теории Хамерова-Пенроуза. Скот Ааросон(вообще, ээто кажется уже аргумент из области ссылки на авторитеты, ну да ладно) может считать, что угодно, но факты указывают на обратное. По крайней мере пока. Еще раз — прочитайте принт, потом сможем аргументированно поговорить.
«Существуют теории того, как работает мозг. » — не могли бы вы сказать как она называется. Кажется информация, котороя обладаю я и вы радикально расходятся.
«Теория Пенроуза про сознание и интеллект тоже ничего особо не говорит» — если бы вы с ней ознакомились, то поняли. что это не так :).
" Т.е. ничего такого что бы отличалось от туманных философствований." — и это не верно. Там есть эмпирические факты.
«Традиционные взгляды на сознание в нейробиологии ни чем не хуже» — что за такие традиционные взгляды, если нет консенсуса, что такое сознание?
«Какие? Статья довольно длинная, если есть предсказания хотелось бы услышать» — ну, так прочитайте статью. Или вы хотите, чтобы я вам сюда перепечатал? Там во введении они перечисляются.
«Пока что эта теория сводится к тому что в микротрубочках есть квантовые эффекты, которые под воздействием неизвестного механизма из ничем не подтвержденной теории Пенроуза как-то осуществляют невычислимые процессы и это каким-то образом производит сознание.» — удивительно, вы можете давать оценку чему-то, даже не прочитав ни одного принта, основывая все свои знания на книге 30 летней давности? Лихо:).
«Доказательства того, что объективная редукция Пенроуза существует—нет» — прямых нет, но есть указания на то, что это может быть правдой. Кстати, доказательств того, что человеческое сознание вычислимо тоже нет. Почему вы в это верите? :)
«Все что в лучшем случае способна предложить эта теория, это то что в малых структурах мозга есть какие-то квантовые процессы (возможно).» — это вообще-то не что-то, а фундаментальное отличие от того, что вы так яростно защищаете :).
«Ну так у этой теории и нет никаких предсказаний. » — мы, кажется, ходим по кругу. Прочитайте, пожалуйста принт, чтобы мы могли аргументированно дискутировать.
«У обычной нейробиологии есть тысячи экспериментов от операций на мозге, до всяких электрических, химических воздействий, исследований МРТ и так далее.» — не очень понимаю, как операции на мозге и сканы МРТ указывают на вычислимость сознания и на то, что это вообще такое.
«Человек с разрезанным мозолистым телом может играть сам с собой в шахматы, потому что правая половина мозга не знает, что делает левая. Как так получается, что его сознание раздваивается?» — не знаком с этой работой, можно ссылку? И с чего вы взяли, что это именно сознание раздваивается?
«Нейробиологи знают этот эффект и объясняют его без всяких квантовых штук уже десятки лет. И таких способов воздействия на мозг известно много» — ну, есть множество эффектов, когда человек начинает вести себя странно, когда у него повреждается тело. Значит ли это, что сознание расположено по всему телу? Вообще это можно объяснить тем, что повреждая мозг вы ломаете «антену», которая принимает сознание(а в теории Хамерова-Пенроуза — сознание фундаментальное свойство вселенной).
Вообще говоря, если мы уж дошли до обсуждения частных случаев, могу привести вам в пример человека, который живет вообще без 90% мозра и прекрасно себя чувствует, как тебе такое Илон Маск? :) Вот тут статья на русском(она маленькая и научно-популярная). Это, кстати, еще оди довод в пользу того, что коннектом не так уж и важен, как считают некоторые.
«Генетический код у всех организмов один» — да сори, не так понял :).
«Потому что это показания препарата, для которых его применяют. Что такое сенсорные фильтры я не знаю» — показания препарата и механизм действия — это разные вещи, вообще говоря. Это как с анестезией — показания понятны, механизм — нет.
«Наверное могут вызывать. Тем не менее все это довольно туманно и серьезных подтверждений этому нет. Опять таки, ну есть микротрубочки и что? Квантовые устройства мы тоже умеем строить, понемногу делаем лучше.» — еще раз попрошу, вас прочитать статью.
«Нет. Всегда было понятно, что рассчитать шахматы невозможно.» — если вам это было понятно, то это не значит, что это было понятно всегда и всем. Еще раз. Шахматы — игра с полной информацией и конечным количеством состояний. Нет и не было никаких проблем расчитать все ходы с точки зрения математики. Все упиралось в вычислительные мощности и, в общем, лекго можно было предположить, что с их ростом это станет возможно. Я не понимаю как это можно отрицать. Это же элементарная комбинаторика.
«Проблема в том, что полный перебор найдет лучший ход когда все звезды во вселенной погаснут» — да, но ТЕОРЕТИЧЕСКИ это возможно и было возможно всенгда(наверное сразу как появились шахматы). Это просто дело техники. С сознанием это, очевидно не так, т.к. нет теории.
«Найти им лучшие ходы невозможно» — теоретически — возможно, не обманывайте себя.
«Ни люди, ни компьютеры таким образом ходы не ищут» — ну, компьютеры таки делают поиск в дереве решений, плюс у них есть справочник тысяч готовых ходов, который покрываят большой процент рельно возникающих ситуацией(считай — кэщ поиска). Так что ищут, еще как ищут, но только в упрощеном виде.
«люди умеют делать что-то что наши машины не умеют и как они это делают не понятно.» — ну я вам привел уже не раз пример того, что компьютеры делать не умеют — создавать то-либо на что не запрограммированы. Но вы почему то это игнорируете. И, да, как люди это делают — непонятно.
«И что? Конечно, они созданы человеком.» — а то, что компьютер такого без участия человека сделать не может :). Или вы видели компьютер-исследователь?
«С какой стати он фундаментально детерминирован? Я не знаю, конечно, что вы имеете в виду под детерминированностью.» — ээээ, ну как бы это факт современной вычислительной техники. Просто потому, что компьютер — это конечный автомат, как бы, с конечными ресурсами, а значит, конечным количеством состояний -> это детерминированный конечный автомат -> он детерминирован.
«Ну в смысле, что в мозгу триллионы синапсов и миллиарды нейронов и вообще сама структура сложнее.» — и что? А в самолете миллионы винтиков и болтиков и километры проводки, почему у него нет сознания? Сама структура сложнее, чем что? И сложнее в каком смысле? Я не очень понимаю ваших определений.
«А человек может породить что-то что не предопределено эволюцией и устройством его мозга» — а вы что фаталист? Вообще говоря, нигде вроде не сказано, что в процессе эволюции должен появиться, например, камаз. И эволюция — часть природы, к которой относится и сознания, а компьютер — нет.
«Вы можете вообразить 9-мерную сферу также отчетливо, как футбольный мяч» — вообразить наверное нет, а вот расчитать — да. Хотя 9 мерной сферы и не существует. А компьютер сам такого не может. Он может только выполнить программу, которая произведет расчет.
«Ну и в целом это демагогия. Вы считаете, что все что делает компьютер заложено разработчиком» — а вы считаете, что это не так? Ни разу не встречал примеров обратного.
«Даже если у вас будет робот, как в рассказе «200-летний человек» вы все равно скажете «это заложено разработчиком»» — не читал рассказ, но робота у меня таки нет.
«Есть у вас каике-то критерии, которые определяют когда интеллект будет как настоящий?» — я уже много раз говорил, что нет четкого понимания, что это такое. Но, пожалуй, я бы задумался если бы он мог сам поставить перед сабой задачу и решить ее или, например, в ответ на поставленную задачу построил бы какую либо систему рассуждений основанную на аксиоме, которая бы не была сзаранее заложена явно или неявно. Тоесть занялся бы исследованием.
«нет.» — да. Какие же проблемы были с теорией, можно полюбопытствовать? Это же школьная математика.
«Нет. Человек проигрывает программам уже давным давно без всяких шансов» — ну, вот Ли Седоль у альфаго таки выйграл один раз так что это все таки не правда.
И повторюсь — я не вижу ничего переворачивающего реальность в том, что программы выигрывают у людей в играх с полной информацией — статистика мощная штука. Я вообще не вижу почему программы не могут выполнять механические действия лучше человека. Это как удивляться тому, что машина быстрее человека и на этой основе приписывать ей интеллект.
«Даже несмотря на отсутствие внятного определения того, что такое интеллект, под этим словом понимают «что-то, решающее задачи похоже на то, как решает задачи человек» (тест Тьюринга)» — ну, могут же быть разные уровни интеллекта. Например, вороны тоже решают задачи, но не делают это как человек. Можно ли их на основе этого лишать права на интеллект?
«Кроме того, наверное, следовало бы различать понятия интеллекта и сознания (это еще менее определенное понятие, для него, насколько я знаю, даже ничего подобного тесту Тьюринга не предложено.)» — это да, я там все в кучу свалил.
«Какая же теория существует альтернативная той, что человек мыслит мозгом, при помощи обмена электрическими и химическими сигналами между клетками?» — повторю в 3 раз :). Теория Хамерова-Пенроуза. Есть еще Integrated Information Theory. Но там вообще панпсайхизм.
«Эта альтернатива не поддерживается подавляющим большинством нейробиологов» — ну, насколько я знаю, какой-либо общепринятой теория интеллекта-сознания вообще не существует, так что это довольно слабый аргумент :). Главное, что эта теория делает некоторые предсказания, которые сбываются. Можете ознакомиться тутесли интересно. А насколько я знаю в науке главное это главное чем, то, что «миллионы мух не могут ошибаться» :).
«Там идет воздействие на то как человек мыслит и ощущает себя. Например, становится более коммуникативным и общительным и т.д. На сенсорный аппарат разве что в качестве побочных эффектов.» — с чего вы это взяли? Я вам высказал свое мнение от первого лица. Коммуникативность связанна как раз с ослаблением сенсорных фильтров, по-моему.
«Но человечество знает точно что эффекты квантовой механики или потусторонние силы к анестизии почти наверняка не имеют отношения» — вот тут вы не правы. В теории Orch-OR выдвигается гипотеза, что как раз таки квантовые эффекты которые взаимодействуют с микротубулами могут и вызывать этот эффект. Потому что сознание фундаментально и работает на квантовом уровне. Ознакомтись с принтом, там про это написано.
«Нет. Ее сделали такой, потому что решали конкретную проблему — побеждать в абстрактные настольные игры. Проблема самообучения, саморазмножения или искусственной жизни— это другая проблема.» — ну так и она не решена :).
«Живые организмы довольно сложные вот и все. Куда копать довольно хорошо известно и создание искусственных примитивных организмов или организмов с другим генетическим кодом во всю исследуется. Опять же это не имеет отношения к разуму.» — очень громкое заявление не подтвержденно фактами, как мне кажется. Создание организмов с другим генетическим кодом — это что? Вроде как у всех организмов он и так разный. Переделка ДНК — это не создание новой жизни.
«Почему вы считаете что ваша интуиция это не статанализ и прочее?» — потому что нет никаких фактов на это указывающих. А почему вы считаете, что интуиция — это стат. анализ? Как мне статистически сделать допущение, которое с известной вероятностью и погрешностью приведет к открытию?
«Если бы человек мог безошибочно находить лучший шахматный ход, да я бы признал вашу правоту.» — ну, никто и не спорит, что человек — плохая числодробилка:). Шахматы — это игра с полной информацией, то, что ее можно полностью расчитать было понятно всегда. Почему вы считаете, что можно расчитать интеллектуальный процесс, который непонятно как даже описать(и не ясно можно ли теоретически получить по нему полную информацию с учетом, хотя бы квантовых эффектов).
Ну и человек таки умеет находить лучший ход в шахматах — для этого он создал такой инструмент как Deep Blue(или что там сейчас самое крутое считается), добавив к своей интуиции и знаниям математики(а нейронные сети и вообще глубокое обучение не имеют строгой теории под собой, построение нейронок — это с некоторой долей искусство) хорошую числодробилку.
«Трудно объяснить как это может быть возможно на основе известных нам законов физики.» — полный перебор? :) Теоретически он найдет лучший ход. Не вижу тут проблем.
«Где доказательство какого-то фундаментального отличия между людьми и машинами?» — к сожалению строгого доказательства я вам не приведу, как и вы мне строгого доказательства их фундаментального сходства. Я просто пользуюсь своей интуицией и знаниями :). У компьютера есть знания(в плане того, что он хранит информацию), но применять он ее не может. И я не вижу пока что как структурная сложность\whatever else могут это изменить, т.к. компьютер фундаментально детерминирован. Человек — никто не знает, но мне кажется, что нет.
«Какое отношение это имеет к вопросу интуиции или разума?» — такое, что у компьютера их нет :).
«Ясное дело, что компьютер на самозарождается в куче мусора. Он же поэтому называется Искуственный интеллект.» — главное не это, главное то, что даже включенный компьютер не способен породить ничего кроме того, что заложено в него разработчиком.
«Или вы имеете в виду, что выбор лучших ходов предопределен человеком? Нет, не предопределен, машины делают ходы, которые противоречат сотням лет человеческого опыта игры в шахматы или го.» — машина тут всего лишь инструмент. С тем же успехом можно сказать, что статистический анализ делает лучшие предсказания или комбинаторика делает лучшие предсказания. Но только я не слышал, чтобы их называли интеллектуальными. Ну и да, в некотором роде выбор ходов таки предопределен человеком — тем кодом, который он написал и теми данными на которых натренирована программа и более ничем.
«Вы все время требуете робота из книжек Айзека Азимова. Да, таких пока не существует, но то что существует уже гораздо более удивительно, чем я мог представить хотя бы 10 лет назад.» — я не требую робота из книжек. Я вообще ничего не требую :). Я просто пытаюсь понять на чем вы основываете свою уверенность.
«Как я уже сказал современные алгоритмы очень далеки от возможностей человеческого мозга в целом.» — с этим я согласен полностью.
«значительной степени потому что он гораздо больше, чем все что удавалось создать механически» — в каком смысле больше?
«Пока очень примитивные и экспериментальные.» — я не вижу ничего удивительного в том, что алгоритм оптимизации(коей и является нейронка) используется по прямому назначению и способен найти уравнение движени по заранее известным данным :). Задача по сути ничем не отличается от метода наименьших квадратов(конечно там все гораздо более изощренно, но суть — та же). Человек, по всей видимости, все таки не просто оптимизирует функции.
«Когда-то шахматы считались недоступной для машин игрой, даже любитель мог выиграть компьютер» — фундаментально всегда(ок, сотни лет точно, ели не тысячи) было известно как найти победные ходы из любого состояния. Все упиралось только в вычислительные мощности. То есть с теорией проблем не было никогда.
«Потому что как считалось человеческий мозг каким-то загадочным образом находил хорошие ходы, а компьютер просто перебирал варианты.» — не знаю кем это считалось, с мат. точки зрения там все предельно ясно. Другое дело, что таки не держа в голове весь объем сыграных партий за все времена(а современные шахматные программы пользуются справочниками) и не имею физической возможности расчитать игру хотя бы на несколько ходов вперед человек умудряется выигрывать или играть с программами вничью.
«Сегодня компьютер каким-то образом находит ходы, которые человек найти не может» — с помощью статистики и поиска в дереве решений. Да, человеку такое не доступно на приемлемой скорости.
Но разве это не противоречит ТЭ, ведь в ней предпологается, что мутации случайны и выживают просто те виды, которым повезло попасть у удачную мутацию. А тут вроде как все совсем наоборот. Но более того, удивляет в этом эксперименте «обратная» эволюция.
«Следующий вопрос, естественно возникающий из сделанного выше вывода — можно ли предполагать, что только смягчение условий способно провоцировать эволюцию. В этой связи проанализируем знаменитые опыты Г. X. Шапошникова (1961, 1965, 1966, 1978), в которых пересадка тлей Dysaphis anthrisci maicopica Shap. с пригодного кормового растения Anthriscus nemorosa MB. сначала на малопригодное (Chaerophyllum bulbosum L.), а затем на ранее совсем непригодное (Ch. maculatum Wild.) за считанное число поколений привела не только к значительным морфологическим изменениям, но и к утрате репродуктивной совместимости со своим видом и появлению полной совместимости с D. chaerophyllina Shap., исконным потребителем Ch. maculatum.»
То-есть это уже какой-то Ламаркизм почти в чистом виде.
Собственно, на странице в вики все эти проблемы обозначены.
«Писать сейчас развернутый реферат на тему, хотя и действительно очень интересную, но мне неблизкую, я в данный момент не готов, прошу меня простить.» — а не могли бы вы дать несколько ссылок на работы?
«Но ведь новый вид уже делали, прямо на наших глазах. В чём феномен того, что повторили в лаборатории?» — а можно подробности?
Единственный похожий эксперимент который всплывает в памяти — это тли Шапошникова и его наследники, но там образование «вида» получилось какое-то странное. Во первых «вид», который перестал спариваться с изначальным получал такую возможность обратно если был пересажен обратно на ту же диету, что и вид-предок, что вообще говоря противоречит теории эволюции. Ну и во вторых, эксперимент показал, что даже если принять то, что произошло за эволюцию, то это говорит о том, что это совсем не процесс выживания наиболее приспособленных, выбираемых из пула случайных мутаций, а вполне себе направленный процесс(в данном случае направленный диетой). Опыты Шапошникова, в некотором роде, противоречили Дарвинизму и поэтому замалчивались в СССР.
Может я что-то упустил и есть какие-то еще опыты.
«Но оно никак не отменяет современной теории эволюции, а лишь вносит коррективы по срокам.» — ну, со стороны это выглядит некоторым образом странно. Миллионы лет не происходит ничего, а потом почти мгновенно(как я понял из слов wibbtwo) образуются новые виды с очень сложными новыми признаками. Как минимум возникает вопрос, а почему это собственно происходит и почему не происходило раньше.
А какие есть доказательства того, что эти представители фауны действительно эволюционировали друг в друга, кроме схожести строения? Генетические сходства или что-то еще, было бы интересно почитать какие-то работы.
Сори, если вопрос глупый, просто быстрое гугление не дало результатов, а с теорией эволюции я знаком на дилетантском уровне.
«Мне кажется это общепринятое мнение в современной науке и я не видел серьезных аргументов против» — у меня другая информация. Да и собственно как такое возможно, если неизвестно, что такое сознание. Это же нонсенс. Как пример альтернативы, могу орпять же предложить теорию Хамерова-Пенроуза.
«Я знаю людей, которые употребляют разные вещества (т.е. например антидепрессанты и нейролептики) и то что молекулы этих веществ действуют на их поведение и самочувствие мне кажется сильным свидетельством в пользу данной теории» — как человек, сам употребляющий вещества, могу сказать, что там воздействие идет не на сознание, а скорее на сенсорный аппарат. Так то по сути, все действует на поведение и самочувтвие в той или иной степени. Но к примеру я знаю, что человечество до сих пор не знает как точно работает анастезия. Не могу сказать по поводу нейролептиков, но предположу, что так же.
«Ну программу для игры в го специально сделали так, чтобы она выполняла конкретную цель. Никто и не пробовал ее делать саморазвивающейся, например» — ну так, кажется, ее такой и не сделали просто потому что не знают как это сделать :).
«Искусственных «одноклеточных» в цифровой среде тоже делали. Думаю, что они делают что-то похожее, что и живые одноклеточные» — ну если считать таковыми клетки в «жизни» Конвея, то возможно(ну или нечто похожее) но насколько мне известно создать нечто даже отдаленно похожее на ту же Paramecium никому не удалось.
«Ну робот не обязательно должен делать все для максимизации полезности. Он тоже может что-то делать случайно, например.» — непонятно только зачем? С точки зрения той же бритвы Окамма это кажется довольно странным(это же нужно случайно выбрать, что вы ненавидите банан, сохранить эту информацию, иначе каждый раз при виде бананы вы его будете то любить, то ненавидеть). Кроме того сама по себе случайность не создает чувство отвращения к банану.
«Мы многое не знаем, но ключевые вещи мы знаем.» — вот это, если честно очень спорно, в том же примере с радио, на земле таки найдется хоть один человек, который худо бедно соберет простейшее. В случае с живым организмом такого нет. Более того, нет даже примерного понимания куда копать — это сложно назвать знанием ключевых вещей.
«Например, упомянутая ранее программа для Го, по мне так, вполне себе применяет интуицию при выборе хороших ходов.» — ну, программа для игры в го известно как работает — там не интуация, а стат. анализ и прочее. И главное тут, что все это все равно заложено человеком.
«Другой мой любимый пример — это языковая модель, которая умеет решать задачи типа вопросов стабильности дифференциальных уравнений, причем, скорее всего она не делает никаких символических вычислений.» — не знаком с этим, буду рад, если поделитесь ссылкой на работу, но кажется, это ничего не меняет принципиально. Было бы интересно, если бы она сама могла прийти к идее диффиренциальных уравнений(ну или к идее, хотя, бы простейшей арифметики).
«Аксиомы математики берутся из опыта, которому мы обучаемся на примерах реального мира. Я не вижу причин почему компьютер не может точно также вычленить их из реального мира.» — ну, мне таких примеров неизвестно. Принципиальную загвоздку я тут, опять же, вижу в том, что компьютер сам ничего вычленять не будет, ему как минимум для этого нужен человек который придумает какую-то мат.модель, которая это сделает(и нечто похожее, хоть и на примитивном уровне, действительно есть — это называется отбор признаков). То-есть, опять, же компьютер тут выступает всего лишь инструментом в руках человека. То есть это как сказать — «я не вижу причины почему станок не может сам придумать и собрать самолет». Вроде бы да, станок(ну или цех станков) есть, он может что-то резать, точить и т.д., однако самолеты он сам не собирает. Возвращаясь к вашему тезису — да, аксиомы берутся из опыта, однако опыт этот не формализуем(по крайней мере я не знаю способов это формализовать) и именно поэтому мы до сих пор не поставили процесс открытия на конвейер.
«Я думаю, что все что делает человек происходит потому, что в его мозгу передаются определенные электрические импульсы и определенным образом взаимодействуют разные молекулы.» — эта гипотеза имеет право на существование.
«Очевидно, что шахматная программа слишком примитивна, чтобы заняться интроспекцией или захотеть поиграть в другую игру.» — вот это как раз для меня не совсем очевидно. Почему вы так считаете? Когда она перестанет быть достаточно примитивной? Почему одноклеточные бе нервной системы могут учиться новому(ссылки на исследования выше), а программа для игры в го, которая считается одной из вершин прогресса не может?
«Почему я ненавижу бананы, которые отличный и полезный фрукт» — вот это как раз и является примером невычисляемого поведения(вы же пробовали есть бананы, у вас нет на них аллергии и прочее. С точки зрения формальной логики и максимизации полезной функции кажется, что вы должны их как минимум есть, но никак не ненавидеть).
«Аргумент в пользу того, что это возможно состоит в том, что мы уже знаем устройства с развитым интеллектом—это люди и животные и мы не нашли в их конструкции ничего, что указывало бы на их «надфизические» способности.» — почему тогда мы не можем создать хотя бы одноклетоное с нуля? Кажется, мы все таки не знаем как устроено живое, иначе мы бы могли его сделать.
«Тут дело даже в том, что нужно не просто душа, а чтобы она умела делать что-то чего точно не умеют машины, например, решать задачу остановки.» — ну, кажется человек уже много раз это делал, прилагая интуицию для решения задач, на что как раз таки даже самый мощный компьютер и алгоритм не способны(по крайней мере сейчас). Ведь все науки, включая математику строятся на невычислимых аксиомах к которым компьютер не может прийти по определению.
«Эта теория ничего не меняет» — позволю себе не согласиться. Она утверждает, что сознание фундаментально невычислимо ибо присутствует фундаментальный случайный фактор, соответственно невозможны копии сознания, как минимум. Меняет ли это что-то относительно того, можем ли мы создать ИИ? Вот это вопрос хороший, и мне кажется, что ответ на него также да.
«Не вижу чем это отличается от вашего мозга» — Ну, вообще, кажется очевидным, что отличия хотя бы в том, что человек понимает смысл игры и ее цель и способен сам захотеть научиться в нее играть. Собственно это и написано в той цитате, которую вы привели. Это то самое целеполагание. Ну, по крайней мере про себя я могу это сказать с определенной долей уверенности, про вас я быть так уверен не могу(как и про кого угодно другого) :).
«Со времене Тьюринга мне так и не удалось услышать ни одного убедительного аргумента на эту тему. Собственно я знаю ровно 3»
Могу сказать тоже самое по поводу аргументов в пользу того, что это возможно :).
«1) Это не возможно потому что это невозможно» — ну это и не аргумент вовсе, он сродни аргументам про структурную сложность.
«2) У человека есть душа» — да, в рамках современной науки это не проверяемо.
«Аргумент Лукаса-Перноуза» — есть теория сознания Хамерова-Пенроуза. И она имеет некоторые подтвержденные факты под собой. Почитайте если не слышали, довольно интересно.
«Не вижу противоречия — программы делают то, для чего их написали. Если вы пишете детерминированные программы, то они и работают детерминировано. Если вы используете генетические алгоритмы — они будут эволюционировать, будете использовать нейросети — они будут обучаться. Альфаго во все поля.» — это не противоречие, это факт, который, кажется, говорит о том, что на таких принципах сильный ИИ создан быть не может. Все, что делает даже тот же альфаго — перемалывает числа без малейшего понимания того, как и зачем он это делает. Это банальный стат. анализ. Все предпосылки к этому были известны уже лет 100 как, сейчас просто появились достаточно мощные компьютеры. Но это не качественный рывок и, кажется, на таких технологиях он не может быть сделан. Эволюцией генетические алгоритмы можно назвать лишь с большой натяжкой — это все таки просто алгоритм оптимизации по заранее заранее заданой разработчиком функции, на качественне изменения он не способен. Так же как и нейронные сети. Это большая разница.
«Про «логическое мышление» мне как-то даже нечего сказать — как часто вы видите программы, которые НЕ работают по заложенной в них логике? Еще есть вещи вроде Prolog, где вы даете компилятору пачку предикатов, а он сам выводит из них исполняемый код — логическое мышление в чистом виде.» — это все таки не логика — это вывод результата из заранее заданных предикатов. Живые существа способны применять логику к произвольным объектам.
«А если под «целеполаганием» вы подразумеваете способность самостоятельно придумывать себе цели — так это вообще черта сильного ИИ, если б он уже существовал — то наш диалог не имел бы смысла, не так ли?» — да, подразумевыется именно это. Вот я как раз не уверен, что сильный ИИ вообще возможен.
«Странно слышать это и ниже читать про «неподтвержденные способности микробов». Вы уж определитесь.» — вы возможно пропустили, но я все таки привел там статью где были вполне подтвержденные способности одноклеточных с отсутствующей нервной системой к обучению. И это не просто хим — реакции.
«Интеллект на данном этапе выглядит сложно (попробуйте формально описать все принципы, по которым вы принимаете решения), значит, потребуется много уровней декомпозиции (иначе задача была бы простой). Много уровней = сложная система. Никакого волшебства, те же принципы, что и про проектировании обычных программных комплексов.» — ну, вы же понимаете, что это в общем ни на чем не основанная гипотеза. Вполне вероятно, что дело не просто в декомпозиции, мы можем и не знать каких-то ПРИНЦИПОВ, соответственно качественно не иметь возможности его создать. Я уже приводил пример целепологания — я не вижу пока, что как декомпозиция поможет создать что-то способное к этому.
«По-первых, вы написали то же, что и я, только другими словами. Обучение по умолчанию подразумевает наличие памяти, как иначе учиться-то.» — вы просто поставили слово обучение в кавычки, я вероятно вас не так понял.
«Во-вторых, никаких примеров «ума» вы не привели. Ок, клетка в зависимости от внешнего воздействия меняет своё поведение — это нормально, переконфигурация нейронов так и работает. » — вы не прочитали вторую статью? Там даже во вступлении написано «For the first time, scientists have demonstrated that an organism devoid of a nervous system is capable of learning. Biologists have succeeded in showing that a single-celled organism, the protist, is capable of a type of learning called habituation. This discovery throws light on the origins of learning ability during evolution, even before the appearance of a nervous system and brain. It may also raise questions as to the learning capacities of other extremely simple organisms such as viruses and bacteria.»
Кроме-того непонятно причем тут переконфигурация нейронов — у них нет нейронов :). Ну и наконец — переконфигурация нейронов может быть следствием, а не причиной. Кажется, нет особых аргументов ни за то, ни за другое.
«Нет, это конечно круто, клеточная биохимия вообще офигенна, но если вы считаете это разумной жизнью» — ну, вообще говоря, судя по статье там дело не только в биохимии, да и в статье про Paramecium написано, что биохимия — это только гипотеза, которая не объясняет способность к памяти. Если у вас есть какие-то более свежие данные пожалуйста поделитесь, может я что-то упускаю.
«тогда давайте и hexbug за 5 баксов считать разумным, мы ж не знаем, чувствует ли он любовь в недрах своего attiny, или что там у него вместо мозгов.» — ну, как работает hexbug я все таки знаю, поэтому считать так причин крайне мало, хотя конечно некоторые современные гипотезы сознания типо Integrated Information Theory так и считают :).
«Для этого вам нужно доказать объективное существование того, что по условиям задачи не привязано к физической реальности.» — это да, с этим проблема).
«Не должно, важна структурная сложность.» — какого уровня структурной сложности мы должны достичь для этого? Пока что все наши структурно сложные изобретения не проявляют не спобности к целеполаганию, ни способности к логическому мышлению. Все что они могут выполнять заложенные в них функции ни на йоту не отклоняясь от них. Ни о каком подобии эволюции речи не идет. Кроме того сам тезис о важности структурной сложности натыкается на тот же вопрос — почему вы считаете, что важна именно она? Кажется, для этого так же нет никаких данных в пользу этого нет. Напротив, структурно более сложные чем одноклеточные Paramecium(о ней ниже) оказываются тупее чем эта самая Paramecium без нервной системы.
«Я, возможно, чего-то не знаю, но максимум «обучения» для них — научиться на заплывать на светлую сторону водоема, если там бьют током, и ученые вроде бы даже объяснили химию процесса. Нечему там выполнять сознание.» — насколько я знаю они гораздо «умнее». В частности они могут запоминать изученное(собственно авторы статьи на которую вы ссылаетесь это тоже отмечают и выдвигают гипотезу, как это может быть, но при это не приводят никаких доказательст и сами же и отмечают, что все это требует уточнения):
«Conclusion
In conclusion, our results in line with other studies suggest that paramecium can have associative learning. Meanwhile, there are several questions about learning in paramecium that need to be addressed i.e what is the exact molecular pathway that governs this behavior? Is there a similarity between learning mechanisms in paramecium and other animals that could potentially translate to Alzheimer’s disease research? These questions can be addressed through pharmacological manipulations of paramecium learning. Future studies on the mechanisms of paramecium learning can shed more light on our understanding of learning at the molecular level in unicellular organisms.»
Кроме нее есть и другой одноклеточный организм с подтвержденной способностью к обучению: вот.
Надо отметить, что это только ПОДТВЕРЖДЕННЫЕ способности, в реальности они могут быть шире(кто знает, может они тоже любят, переживают, грустят, но проявляется это по другому поэтому мы не замечаем этого).
Но в целом эти результаты, кажется, говорят, что и структурная сложность не играет решающей роли.
«С практической точки зрения, второй вариант видится мне таким же тупиком, как и основанная на невидимых драконах авиация.» — позволю себе не согласиться. Это покажет принципиальную ограниченность познания, как минимум.
«Конкретно те выступления Панчина, на которые я ссылаюсь, идут со ссылками на статьи в рецензируемых журналах» — спасибо, я смотрел их и до этого обсуждения и знаю уровень и главное избирательность Панчина.
«Более того, в других его работах» — касается ли это его работы по мидихлорианам?)
«а также работах его коллег по цеху, делается куча оговорок и уточнений о том, что все что они говорят, слушатели и читатели могут и должны перепроверить сами.» — простите, но ни разу такого не слышал, может плохо слушал.
«Вы приписываете мне удобные для вас мысли, после чего начинаете спорить с ними, именно: из моего утверждения «я умею читать научные статьи» никак не следует «А другие — не умеют». Вы же это мне приписали и немедленно поспешили пристыдить этим.» — ну, знаете, именно такое впечатление сложилось из вашей ремарки, это не переход на личности, а мое оценочное суждение. Видимо это вопрос взаимопонимания, так же как и вы не поняли моей шутки :). Однако мне не пришло в голову обвинять вас в демагогии :).
Однако-же. Я все таки предлагаю вернуться от темы обсуждения личности Панчина к теме статьи. Буду благодарен если вы таки ответите на тезисы, высказанные мной в этом комментарии.
Ну, в таком случае, вы должны почитать и более научную статью самого Вахштейна. Там прекрасно показано, что демагогом является скорее Панчин :)(И лично я с этим согласен, но это не так важно). Странно, кстати, что вы начали читать разбор, не досмотрев саму лекцию:). В любом случае мы кажется отдалились от основной темы обсуждения к обсуждению личностей теперешних популяризаторов — это кажется лишнее. Предлагаю вернуться в русло статьи.
«все те же подмены понятий да соломенные чучела, что и здесь.» — не могли бы вы тогда предметно ответить на мой комментарий, который показался вам оскорбительным? И показать где там использованы демагогические приемы.
«Существуют теории того, как работает мозг. » — не могли бы вы сказать как она называется. Кажется информация, котороя обладаю я и вы радикально расходятся.
«Теория Пенроуза про сознание и интеллект тоже ничего особо не говорит» — если бы вы с ней ознакомились, то поняли. что это не так :).
" Т.е. ничего такого что бы отличалось от туманных философствований." — и это не верно. Там есть эмпирические факты.
«Традиционные взгляды на сознание в нейробиологии ни чем не хуже» — что за такие традиционные взгляды, если нет консенсуса, что такое сознание?
«Какие? Статья довольно длинная, если есть предсказания хотелось бы услышать» — ну, так прочитайте статью. Или вы хотите, чтобы я вам сюда перепечатал? Там во введении они перечисляются.
«Пока что эта теория сводится к тому что в микротрубочках есть квантовые эффекты, которые под воздействием неизвестного механизма из ничем не подтвержденной теории Пенроуза как-то осуществляют невычислимые процессы и это каким-то образом производит сознание.» — удивительно, вы можете давать оценку чему-то, даже не прочитав ни одного принта, основывая все свои знания на книге 30 летней давности? Лихо:).
«Доказательства того, что объективная редукция Пенроуза существует—нет» — прямых нет, но есть указания на то, что это может быть правдой. Кстати, доказательств того, что человеческое сознание вычислимо тоже нет. Почему вы в это верите? :)
«Все что в лучшем случае способна предложить эта теория, это то что в малых структурах мозга есть какие-то квантовые процессы (возможно).» — это вообще-то не что-то, а фундаментальное отличие от того, что вы так яростно защищаете :).
«Ну так у этой теории и нет никаких предсказаний. » — мы, кажется, ходим по кругу. Прочитайте, пожалуйста принт, чтобы мы могли аргументированно дискутировать.
«У обычной нейробиологии есть тысячи экспериментов от операций на мозге, до всяких электрических, химических воздействий, исследований МРТ и так далее.» — не очень понимаю, как операции на мозге и сканы МРТ указывают на вычислимость сознания и на то, что это вообще такое.
«Человек с разрезанным мозолистым телом может играть сам с собой в шахматы, потому что правая половина мозга не знает, что делает левая. Как так получается, что его сознание раздваивается?» — не знаком с этой работой, можно ссылку? И с чего вы взяли, что это именно сознание раздваивается?
«Нейробиологи знают этот эффект и объясняют его без всяких квантовых штук уже десятки лет. И таких способов воздействия на мозг известно много» — ну, есть множество эффектов, когда человек начинает вести себя странно, когда у него повреждается тело. Значит ли это, что сознание расположено по всему телу? Вообще это можно объяснить тем, что повреждая мозг вы ломаете «антену», которая принимает сознание(а в теории Хамерова-Пенроуза — сознание фундаментальное свойство вселенной).
Вообще говоря, если мы уж дошли до обсуждения частных случаев, могу привести вам в пример человека, который живет вообще без 90% мозра и прекрасно себя чувствует, как тебе такое Илон Маск? :) Вот тут статья на русском(она маленькая и научно-популярная). Это, кстати, еще оди довод в пользу того, что коннектом не так уж и важен, как считают некоторые.
«Генетический код у всех организмов один» — да сори, не так понял :).
«Потому что это показания препарата, для которых его применяют. Что такое сенсорные фильтры я не знаю» — показания препарата и механизм действия — это разные вещи, вообще говоря. Это как с анестезией — показания понятны, механизм — нет.
«Наверное могут вызывать. Тем не менее все это довольно туманно и серьезных подтверждений этому нет. Опять таки, ну есть микротрубочки и что? Квантовые устройства мы тоже умеем строить, понемногу делаем лучше.» — еще раз попрошу, вас прочитать статью.
«Нет. Всегда было понятно, что рассчитать шахматы невозможно.» — если вам это было понятно, то это не значит, что это было понятно всегда и всем. Еще раз. Шахматы — игра с полной информацией и конечным количеством состояний. Нет и не было никаких проблем расчитать все ходы с точки зрения математики. Все упиралось в вычислительные мощности и, в общем, лекго можно было предположить, что с их ростом это станет возможно. Я не понимаю как это можно отрицать. Это же элементарная комбинаторика.
«Проблема в том, что полный перебор найдет лучший ход когда все звезды во вселенной погаснут» — да, но ТЕОРЕТИЧЕСКИ это возможно и было возможно всенгда(наверное сразу как появились шахматы). Это просто дело техники. С сознанием это, очевидно не так, т.к. нет теории.
«Найти им лучшие ходы невозможно» — теоретически — возможно, не обманывайте себя.
«Ни люди, ни компьютеры таким образом ходы не ищут» — ну, компьютеры таки делают поиск в дереве решений, плюс у них есть справочник тысяч готовых ходов, который покрываят большой процент рельно возникающих ситуацией(считай — кэщ поиска). Так что ищут, еще как ищут, но только в упрощеном виде.
«люди умеют делать что-то что наши машины не умеют и как они это делают не понятно.» — ну я вам привел уже не раз пример того, что компьютеры делать не умеют — создавать то-либо на что не запрограммированы. Но вы почему то это игнорируете. И, да, как люди это делают — непонятно.
«И что? Конечно, они созданы человеком.» — а то, что компьютер такого без участия человека сделать не может :). Или вы видели компьютер-исследователь?
«С какой стати он фундаментально детерминирован? Я не знаю, конечно, что вы имеете в виду под детерминированностью.» — ээээ, ну как бы это факт современной вычислительной техники. Просто потому, что компьютер — это конечный автомат, как бы, с конечными ресурсами, а значит, конечным количеством состояний -> это детерминированный конечный автомат -> он детерминирован.
«Ну в смысле, что в мозгу триллионы синапсов и миллиарды нейронов и вообще сама структура сложнее.» — и что? А в самолете миллионы винтиков и болтиков и километры проводки, почему у него нет сознания? Сама структура сложнее, чем что? И сложнее в каком смысле? Я не очень понимаю ваших определений.
«А человек может породить что-то что не предопределено эволюцией и устройством его мозга» — а вы что фаталист? Вообще говоря, нигде вроде не сказано, что в процессе эволюции должен появиться, например, камаз. И эволюция — часть природы, к которой относится и сознания, а компьютер — нет.
«Вы можете вообразить 9-мерную сферу также отчетливо, как футбольный мяч» — вообразить наверное нет, а вот расчитать — да. Хотя 9 мерной сферы и не существует. А компьютер сам такого не может. Он может только выполнить программу, которая произведет расчет.
«Ну и в целом это демагогия. Вы считаете, что все что делает компьютер заложено разработчиком» — а вы считаете, что это не так? Ни разу не встречал примеров обратного.
«Даже если у вас будет робот, как в рассказе «200-летний человек» вы все равно скажете «это заложено разработчиком»» — не читал рассказ, но робота у меня таки нет.
«Есть у вас каике-то критерии, которые определяют когда интеллект будет как настоящий?» — я уже много раз говорил, что нет четкого понимания, что это такое. Но, пожалуй, я бы задумался если бы он мог сам поставить перед сабой задачу и решить ее или, например, в ответ на поставленную задачу построил бы какую либо систему рассуждений основанную на аксиоме, которая бы не была сзаранее заложена явно или неявно. Тоесть занялся бы исследованием.
«нет.» — да. Какие же проблемы были с теорией, можно полюбопытствовать? Это же школьная математика.
«Нет. Человек проигрывает программам уже давным давно без всяких шансов» — ну, вот Ли Седоль у альфаго таки выйграл один раз так что это все таки не правда.
И повторюсь — я не вижу ничего переворачивающего реальность в том, что программы выигрывают у людей в играх с полной информацией — статистика мощная штука. Я вообще не вижу почему программы не могут выполнять механические действия лучше человека. Это как удивляться тому, что машина быстрее человека и на этой основе приписывать ей интеллект.
«Кроме того, наверное, следовало бы различать понятия интеллекта и сознания (это еще менее определенное понятие, для него, насколько я знаю, даже ничего подобного тесту Тьюринга не предложено.)» — это да, я там все в кучу свалил.
«Эта альтернатива не поддерживается подавляющим большинством нейробиологов» — ну, насколько я знаю, какой-либо общепринятой теория интеллекта-сознания вообще не существует, так что это довольно слабый аргумент :). Главное, что эта теория делает некоторые предсказания, которые сбываются. Можете ознакомиться тутесли интересно. А насколько я знаю в науке главное это главное чем, то, что «миллионы мух не могут ошибаться» :).
«Там идет воздействие на то как человек мыслит и ощущает себя. Например, становится более коммуникативным и общительным и т.д. На сенсорный аппарат разве что в качестве побочных эффектов.» — с чего вы это взяли? Я вам высказал свое мнение от первого лица. Коммуникативность связанна как раз с ослаблением сенсорных фильтров, по-моему.
«Но человечество знает точно что эффекты квантовой механики или потусторонние силы к анестизии почти наверняка не имеют отношения» — вот тут вы не правы. В теории Orch-OR выдвигается гипотеза, что как раз таки квантовые эффекты которые взаимодействуют с микротубулами могут и вызывать этот эффект. Потому что сознание фундаментально и работает на квантовом уровне. Ознакомтись с принтом, там про это написано.
«Нет. Ее сделали такой, потому что решали конкретную проблему — побеждать в абстрактные настольные игры. Проблема самообучения, саморазмножения или искусственной жизни— это другая проблема.» — ну так и она не решена :).
«Живые организмы довольно сложные вот и все. Куда копать довольно хорошо известно и создание искусственных примитивных организмов или организмов с другим генетическим кодом во всю исследуется. Опять же это не имеет отношения к разуму.» — очень громкое заявление не подтвержденно фактами, как мне кажется. Создание организмов с другим генетическим кодом — это что? Вроде как у всех организмов он и так разный. Переделка ДНК — это не создание новой жизни.
«Почему вы считаете что ваша интуиция это не статанализ и прочее?» — потому что нет никаких фактов на это указывающих. А почему вы считаете, что интуиция — это стат. анализ? Как мне статистически сделать допущение, которое с известной вероятностью и погрешностью приведет к открытию?
«Если бы человек мог безошибочно находить лучший шахматный ход, да я бы признал вашу правоту.» — ну, никто и не спорит, что человек — плохая числодробилка:). Шахматы — это игра с полной информацией, то, что ее можно полностью расчитать было понятно всегда. Почему вы считаете, что можно расчитать интеллектуальный процесс, который непонятно как даже описать(и не ясно можно ли теоретически получить по нему полную информацию с учетом, хотя бы квантовых эффектов).
Ну и человек таки умеет находить лучший ход в шахматах — для этого он создал такой инструмент как Deep Blue(или что там сейчас самое крутое считается), добавив к своей интуиции и знаниям математики(а нейронные сети и вообще глубокое обучение не имеют строгой теории под собой, построение нейронок — это с некоторой долей искусство) хорошую числодробилку.
«Трудно объяснить как это может быть возможно на основе известных нам законов физики.» — полный перебор? :) Теоретически он найдет лучший ход. Не вижу тут проблем.
«Где доказательство какого-то фундаментального отличия между людьми и машинами?» — к сожалению строгого доказательства я вам не приведу, как и вы мне строгого доказательства их фундаментального сходства. Я просто пользуюсь своей интуицией и знаниями :). У компьютера есть знания(в плане того, что он хранит информацию), но применять он ее не может. И я не вижу пока что как структурная сложность\whatever else могут это изменить, т.к. компьютер фундаментально детерминирован. Человек — никто не знает, но мне кажется, что нет.
«Какое отношение это имеет к вопросу интуиции или разума?» — такое, что у компьютера их нет :).
«Ясное дело, что компьютер на самозарождается в куче мусора. Он же поэтому называется Искуственный интеллект.» — главное не это, главное то, что даже включенный компьютер не способен породить ничего кроме того, что заложено в него разработчиком.
«Или вы имеете в виду, что выбор лучших ходов предопределен человеком? Нет, не предопределен, машины делают ходы, которые противоречат сотням лет человеческого опыта игры в шахматы или го.» — машина тут всего лишь инструмент. С тем же успехом можно сказать, что статистический анализ делает лучшие предсказания или комбинаторика делает лучшие предсказания. Но только я не слышал, чтобы их называли интеллектуальными. Ну и да, в некотором роде выбор ходов таки предопределен человеком — тем кодом, который он написал и теми данными на которых натренирована программа и более ничем.
«Вы все время требуете робота из книжек Айзека Азимова. Да, таких пока не существует, но то что существует уже гораздо более удивительно, чем я мог представить хотя бы 10 лет назад.» — я не требую робота из книжек. Я вообще ничего не требую :). Я просто пытаюсь понять на чем вы основываете свою уверенность.
«Как я уже сказал современные алгоритмы очень далеки от возможностей человеческого мозга в целом.» — с этим я согласен полностью.
«значительной степени потому что он гораздо больше, чем все что удавалось создать механически» — в каком смысле больше?
«Пока очень примитивные и экспериментальные.» — я не вижу ничего удивительного в том, что алгоритм оптимизации(коей и является нейронка) используется по прямому назначению и способен найти уравнение движени по заранее известным данным :). Задача по сути ничем не отличается от метода наименьших квадратов(конечно там все гораздо более изощренно, но суть — та же). Человек, по всей видимости, все таки не просто оптимизирует функции.
«Когда-то шахматы считались недоступной для машин игрой, даже любитель мог выиграть компьютер» — фундаментально всегда(ок, сотни лет точно, ели не тысячи) было известно как найти победные ходы из любого состояния. Все упиралось только в вычислительные мощности. То есть с теорией проблем не было никогда.
«Потому что как считалось человеческий мозг каким-то загадочным образом находил хорошие ходы, а компьютер просто перебирал варианты.» — не знаю кем это считалось, с мат. точки зрения там все предельно ясно. Другое дело, что таки не держа в голове весь объем сыграных партий за все времена(а современные шахматные программы пользуются справочниками) и не имею физической возможности расчитать игру хотя бы на несколько ходов вперед человек умудряется выигрывать или играть с программами вничью.
«Сегодня компьютер каким-то образом находит ходы, которые человек найти не может» — с помощью статистики и поиска в дереве решений. Да, человеку такое не доступно на приемлемой скорости.
«Следующий вопрос, естественно возникающий из сделанного выше вывода — можно ли предполагать, что только смягчение условий способно провоцировать эволюцию. В этой связи проанализируем знаменитые опыты Г. X. Шапошникова (1961, 1965, 1966, 1978), в которых пересадка тлей Dysaphis anthrisci maicopica Shap. с пригодного кормового растения Anthriscus nemorosa MB. сначала на малопригодное (Chaerophyllum bulbosum L.), а затем на ранее совсем непригодное (Ch. maculatum Wild.) за считанное число поколений привела не только к значительным морфологическим изменениям, но и к утрате репродуктивной совместимости со своим видом и появлению полной совместимости с D. chaerophyllina Shap., исконным потребителем Ch. maculatum.»
То-есть это уже какой-то Ламаркизм почти в чистом виде.
Собственно, на странице в вики все эти проблемы обозначены.
Единственный похожий эксперимент который всплывает в памяти — это тли Шапошникова и его наследники, но там образование «вида» получилось какое-то странное. Во первых «вид», который перестал спариваться с изначальным получал такую возможность обратно если был пересажен обратно на ту же диету, что и вид-предок, что вообще говоря противоречит теории эволюции. Ну и во вторых, эксперимент показал, что даже если принять то, что произошло за эволюцию, то это говорит о том, что это совсем не процесс выживания наиболее приспособленных, выбираемых из пула случайных мутаций, а вполне себе направленный процесс(в данном случае направленный диетой). Опыты Шапошникова, в некотором роде, противоречили Дарвинизму и поэтому замалчивались в СССР.
Может я что-то упустил и есть какие-то еще опыты.
Сори, если вопрос глупый, просто быстрое гугление не дало результатов, а с теорией эволюции я знаком на дилетантском уровне.
«Я знаю людей, которые употребляют разные вещества (т.е. например антидепрессанты и нейролептики) и то что молекулы этих веществ действуют на их поведение и самочувствие мне кажется сильным свидетельством в пользу данной теории» — как человек, сам употребляющий вещества, могу сказать, что там воздействие идет не на сознание, а скорее на сенсорный аппарат. Так то по сути, все действует на поведение и самочувтвие в той или иной степени. Но к примеру я знаю, что человечество до сих пор не знает как точно работает анастезия. Не могу сказать по поводу нейролептиков, но предположу, что так же.
«Ну программу для игры в го специально сделали так, чтобы она выполняла конкретную цель. Никто и не пробовал ее делать саморазвивающейся, например» — ну так, кажется, ее такой и не сделали просто потому что не знают как это сделать :).
«Искусственных «одноклеточных» в цифровой среде тоже делали. Думаю, что они делают что-то похожее, что и живые одноклеточные» — ну если считать таковыми клетки в «жизни» Конвея, то возможно(ну или нечто похожее) но насколько мне известно создать нечто даже отдаленно похожее на ту же Paramecium никому не удалось.
«Ну робот не обязательно должен делать все для максимизации полезности. Он тоже может что-то делать случайно, например.» — непонятно только зачем? С точки зрения той же бритвы Окамма это кажется довольно странным(это же нужно случайно выбрать, что вы ненавидите банан, сохранить эту информацию, иначе каждый раз при виде бананы вы его будете то любить, то ненавидеть). Кроме того сама по себе случайность не создает чувство отвращения к банану.
«Мы многое не знаем, но ключевые вещи мы знаем.» — вот это, если честно очень спорно, в том же примере с радио, на земле таки найдется хоть один человек, который худо бедно соберет простейшее. В случае с живым организмом такого нет. Более того, нет даже примерного понимания куда копать — это сложно назвать знанием ключевых вещей.
«Например, упомянутая ранее программа для Го, по мне так, вполне себе применяет интуицию при выборе хороших ходов.» — ну, программа для игры в го известно как работает — там не интуация, а стат. анализ и прочее. И главное тут, что все это все равно заложено человеком.
«Другой мой любимый пример — это языковая модель, которая умеет решать задачи типа вопросов стабильности дифференциальных уравнений, причем, скорее всего она не делает никаких символических вычислений.» — не знаком с этим, буду рад, если поделитесь ссылкой на работу, но кажется, это ничего не меняет принципиально. Было бы интересно, если бы она сама могла прийти к идее диффиренциальных уравнений(ну или к идее, хотя, бы простейшей арифметики).
«Аксиомы математики берутся из опыта, которому мы обучаемся на примерах реального мира. Я не вижу причин почему компьютер не может точно также вычленить их из реального мира.» — ну, мне таких примеров неизвестно. Принципиальную загвоздку я тут, опять же, вижу в том, что компьютер сам ничего вычленять не будет, ему как минимум для этого нужен человек который придумает какую-то мат.модель, которая это сделает(и нечто похожее, хоть и на примитивном уровне, действительно есть — это называется отбор признаков). То-есть, опять, же компьютер тут выступает всего лишь инструментом в руках человека. То есть это как сказать — «я не вижу причины почему станок не может сам придумать и собрать самолет». Вроде бы да, станок(ну или цех станков) есть, он может что-то резать, точить и т.д., однако самолеты он сам не собирает. Возвращаясь к вашему тезису — да, аксиомы берутся из опыта, однако опыт этот не формализуем(по крайней мере я не знаю способов это формализовать) и именно поэтому мы до сих пор не поставили процесс открытия на конвейер.
«Очевидно, что шахматная программа слишком примитивна, чтобы заняться интроспекцией или захотеть поиграть в другую игру.» — вот это как раз для меня не совсем очевидно. Почему вы так считаете? Когда она перестанет быть достаточно примитивной? Почему одноклеточные бе нервной системы могут учиться новому(ссылки на исследования выше), а программа для игры в го, которая считается одной из вершин прогресса не может?
«Почему я ненавижу бананы, которые отличный и полезный фрукт» — вот это как раз и является примером невычисляемого поведения(вы же пробовали есть бананы, у вас нет на них аллергии и прочее. С точки зрения формальной логики и максимизации полезной функции кажется, что вы должны их как минимум есть, но никак не ненавидеть).
«Аргумент в пользу того, что это возможно состоит в том, что мы уже знаем устройства с развитым интеллектом—это люди и животные и мы не нашли в их конструкции ничего, что указывало бы на их «надфизические» способности.» — почему тогда мы не можем создать хотя бы одноклетоное с нуля? Кажется, мы все таки не знаем как устроено живое, иначе мы бы могли его сделать.
«Тут дело даже в том, что нужно не просто душа, а чтобы она умела делать что-то чего точно не умеют машины, например, решать задачу остановки.» — ну, кажется человек уже много раз это делал, прилагая интуицию для решения задач, на что как раз таки даже самый мощный компьютер и алгоритм не способны(по крайней мере сейчас). Ведь все науки, включая математику строятся на невычислимых аксиомах к которым компьютер не может прийти по определению.
«Эта теория ничего не меняет» — позволю себе не согласиться. Она утверждает, что сознание фундаментально невычислимо ибо присутствует фундаментальный случайный фактор, соответственно невозможны копии сознания, как минимум. Меняет ли это что-то относительно того, можем ли мы создать ИИ? Вот это вопрос хороший, и мне кажется, что ответ на него также да.
«Со времене Тьюринга мне так и не удалось услышать ни одного убедительного аргумента на эту тему. Собственно я знаю ровно 3»
Могу сказать тоже самое по поводу аргументов в пользу того, что это возможно :).
«1) Это не возможно потому что это невозможно» — ну это и не аргумент вовсе, он сродни аргументам про структурную сложность.
«2) У человека есть душа» — да, в рамках современной науки это не проверяемо.
«Аргумент Лукаса-Перноуза» — есть теория сознания Хамерова-Пенроуза. И она имеет некоторые подтвержденные факты под собой. Почитайте если не слышали, довольно интересно.
«Про «логическое мышление» мне как-то даже нечего сказать — как часто вы видите программы, которые НЕ работают по заложенной в них логике? Еще есть вещи вроде Prolog, где вы даете компилятору пачку предикатов, а он сам выводит из них исполняемый код — логическое мышление в чистом виде.» — это все таки не логика — это вывод результата из заранее заданных предикатов. Живые существа способны применять логику к произвольным объектам.
«А если под «целеполаганием» вы подразумеваете способность самостоятельно придумывать себе цели — так это вообще черта сильного ИИ, если б он уже существовал — то наш диалог не имел бы смысла, не так ли?» — да, подразумевыется именно это. Вот я как раз не уверен, что сильный ИИ вообще возможен.
«Странно слышать это и ниже читать про «неподтвержденные способности микробов». Вы уж определитесь.» — вы возможно пропустили, но я все таки привел там статью где были вполне подтвержденные способности одноклеточных с отсутствующей нервной системой к обучению. И это не просто хим — реакции.
«Интеллект на данном этапе выглядит сложно (попробуйте формально описать все принципы, по которым вы принимаете решения), значит, потребуется много уровней декомпозиции (иначе задача была бы простой). Много уровней = сложная система. Никакого волшебства, те же принципы, что и про проектировании обычных программных комплексов.» — ну, вы же понимаете, что это в общем ни на чем не основанная гипотеза. Вполне вероятно, что дело не просто в декомпозиции, мы можем и не знать каких-то ПРИНЦИПОВ, соответственно качественно не иметь возможности его создать. Я уже приводил пример целепологания — я не вижу пока, что как декомпозиция поможет создать что-то способное к этому.
«По-первых, вы написали то же, что и я, только другими словами. Обучение по умолчанию подразумевает наличие памяти, как иначе учиться-то.» — вы просто поставили слово обучение в кавычки, я вероятно вас не так понял.
«Во-вторых, никаких примеров «ума» вы не привели. Ок, клетка в зависимости от внешнего воздействия меняет своё поведение — это нормально, переконфигурация нейронов так и работает. » — вы не прочитали вторую статью? Там даже во вступлении написано «For the first time, scientists have demonstrated that an organism devoid of a nervous system is capable of learning. Biologists have succeeded in showing that a single-celled organism, the protist, is capable of a type of learning called habituation. This discovery throws light on the origins of learning ability during evolution, even before the appearance of a nervous system and brain. It may also raise questions as to the learning capacities of other extremely simple organisms such as viruses and bacteria.»
Кроме-того непонятно причем тут переконфигурация нейронов — у них нет нейронов :). Ну и наконец — переконфигурация нейронов может быть следствием, а не причиной. Кажется, нет особых аргументов ни за то, ни за другое.
«Нет, это конечно круто, клеточная биохимия вообще офигенна, но если вы считаете это разумной жизнью» — ну, вообще говоря, судя по статье там дело не только в биохимии, да и в статье про Paramecium написано, что биохимия — это только гипотеза, которая не объясняет способность к памяти. Если у вас есть какие-то более свежие данные пожалуйста поделитесь, может я что-то упускаю.
«тогда давайте и hexbug за 5 баксов считать разумным, мы ж не знаем, чувствует ли он любовь в недрах своего attiny, или что там у него вместо мозгов.» — ну, как работает hexbug я все таки знаю, поэтому считать так причин крайне мало, хотя конечно некоторые современные гипотезы сознания типо Integrated Information Theory так и считают :).
«Для этого вам нужно доказать объективное существование того, что по условиям задачи не привязано к физической реальности.» — это да, с этим проблема).
«Я, возможно, чего-то не знаю, но максимум «обучения» для них — научиться на заплывать на светлую сторону водоема, если там бьют током, и ученые вроде бы даже объяснили химию процесса. Нечему там выполнять сознание.» — насколько я знаю они гораздо «умнее». В частности они могут запоминать изученное(собственно авторы статьи на которую вы ссылаетесь это тоже отмечают и выдвигают гипотезу, как это может быть, но при это не приводят никаких доказательст и сами же и отмечают, что все это требует уточнения):
«Conclusion
In conclusion, our results in line with other studies suggest that paramecium can have associative learning. Meanwhile, there are several questions about learning in paramecium that need to be addressed i.e what is the exact molecular pathway that governs this behavior? Is there a similarity between learning mechanisms in paramecium and other animals that could potentially translate to Alzheimer’s disease research? These questions can be addressed through pharmacological manipulations of paramecium learning. Future studies on the mechanisms of paramecium learning can shed more light on our understanding of learning at the molecular level in unicellular organisms.»
Кроме нее есть и другой одноклеточный организм с подтвержденной способностью к обучению: вот.
Надо отметить, что это только ПОДТВЕРЖДЕННЫЕ способности, в реальности они могут быть шире(кто знает, может они тоже любят, переживают, грустят, но проявляется это по другому поэтому мы не замечаем этого).
Но в целом эти результаты, кажется, говорят, что и структурная сложность не играет решающей роли.
«С практической точки зрения, второй вариант видится мне таким же тупиком, как и основанная на невидимых драконах авиация.» — позволю себе не согласиться. Это покажет принципиальную ограниченность познания, как минимум.
«Более того, в других его работах» — касается ли это его работы по мидихлорианам?)
«а также работах его коллег по цеху, делается куча оговорок и уточнений о том, что все что они говорят, слушатели и читатели могут и должны перепроверить сами.» — простите, но ни разу такого не слышал, может плохо слушал.
«Вы приписываете мне удобные для вас мысли, после чего начинаете спорить с ними, именно: из моего утверждения «я умею читать научные статьи» никак не следует «А другие — не умеют». Вы же это мне приписали и немедленно поспешили пристыдить этим.» — ну, знаете, именно такое впечатление сложилось из вашей ремарки, это не переход на личности, а мое оценочное суждение. Видимо это вопрос взаимопонимания, так же как и вы не поняли моей шутки :). Однако мне не пришло в голову обвинять вас в демагогии :).
Однако-же. Я все таки предлагаю вернуться от темы обсуждения личности Панчина к теме статьи. Буду благодарен если вы таки ответите на тезисы, высказанные мной в этом комментарии.
«все те же подмены понятий да соломенные чучела, что и здесь.» — не могли бы вы тогда предметно ответить на мой комментарий, который показался вам оскорбительным? И показать где там использованы демагогические приемы.