Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 288
Как нам научить ИИ создавать принципиально новые вещи, в т.ч. делать изобретения?
Я вижу несколько подходов:
В таком контексте, я очень долгое время вижу только один подход чтобы создавать принципиально новые вещи и если быть кратким, то надо создать среду(физически, программно, на квантовом уровне, как угодно), где можно будет запустить как можно более точную симуляцию нашей вселенной, но только время в этой вселенной будет идти кардинально быстрее нашего или, в наилучшем случае, имея начальные данные для создания новой симуляции можно будет быстро(относительно) высчитать/получить состояние всех элементов в любой временной её точке. Останется найти в этом виртуальном мире(а для её жителей — реальном) нужные данные: начнем с мест где зародилась жизнь и понаблюдаем за ней. Отсеются те цивилизации, которые немного перестарались и грохнули сами себя, а также те, кто "недостарался" и не выбрался с лона в период времени пригодный для жизни ну или те кому не повезло с рандомом в симуляции и их "грохнул метеорит" :) Останутся те, кто смог, и надо буде просто посмотреть на их достижения, решения в технике, медицине, узнать что и как они сделали и можно будет делать самим (как-то знакомо это прозвучало...). Ну или хотя бы чтобы нам можно было там как в GTA :) GTA3000: Universe...
Теоретически, симуляция Вселенной — это правильная и разумная идея. Опять-таки, практически все оказывается не так радужно.
Вот один из "свежих" материалов: http://futurologija.ru/wp-content/uploads/2013-01-AI-and-Penrose-Futurology.pdf
Там автор вводит понятие "космологического горизонта вычислимости". Если очень коротко, то для симуляции достаточно большого куска вселенной с разумным наблюдателем внутри нам понадобится время и ресурсы, большие, чем текущая наблюдаемая Вселенная.
Вообще говоря, это понятие — нечто реально свежее в теории. Получается, у нашего пространства есть некий верхний лимит для "умности" интеллекта на единицу пространства. Но это отдельный разговор.
Вот один из "свежих" материалов: http://futurologija.ru/wp-content/uploads/2013-01-AI-and-Penrose-Futurology.pdf
Там автор вводит понятие "космологического горизонта вычислимости". Если очень коротко, то для симуляции достаточно большого куска вселенной с разумным наблюдателем внутри нам понадобится время и ресурсы, большие, чем текущая наблюдаемая Вселенная.
Вообще говоря, это понятие — нечто реально свежее в теории. Получается, у нашего пространства есть некий верхний лимит для "умности" интеллекта на единицу пространства. Но это отдельный разговор.
Когда появиться ИИ способнее человека, они быстро найдут другие законы физики которые не ограничат их в развитии )
На деле нужно сэмулировать всего лишь одну звездную систему, а остальные звезды на небо можно и наклеить. Или вообще не заморачиваться и ограничить все за Плутоном непрозрачной сверхпрочной сферой, а там дальше пусть думают, что хотят.
Возможно, мы уже в ней. :)
Ну или хотя бы чтобы нам можно было там как в GTA :) GTA3000: Universe...
Возможно, мы уже в ней. :)
Как только это произойдет все очень быстро выйдет из под контроля человека.
Не факт. И чисто технически, и концептуально.
Мы ж не боимся, что Стивен Хокинг захватит весь мир (хотя есть мнение, что не такой уж он и умный).
Мы ж не боимся, что Стивен Хокинг захватит весь мир (хотя есть мнение, что не такой уж он и умный).
Стивен Хокинг весьма ограничен в своих возможностях по распараллеливанию.
Тут уже была статья об этом, и я склонен согласится, что как только мы создадим сильный ИИ, то это вопрос времени когда мы потеряем над ним контроль. Возможность самосовершенствования, когда за пару минут, он может примерить на себя тысячу вариантов поведения. Выбрать тон которым общаться с каждым из исследователей и пр. Я не утверждаю, что это плохо. Это как с ядерным оружием, однажды выпустив джина, мы уже не можем запихнуть его назад. Так же и с ИИ, однажды создав его, мы изменим мир навсегда, и ни одна другая нация, не сможет догнать нацию создавшую первый ИИ.
Не до конца понимаю откуда вообще представления о том что сильный ИИ что-то там за секунды может навсегда поменять. То что он умный, возможно даже намного умнее среднего человека — еще не дает ему власть над пространством и временем.
Ну вот прикинет новорожденный ИИ что замена схем в секторах B C и D на другую конфигурацию даст ему + 0.55% прироста к производительности, ну скажут ему — «извини дорогой, бюджет расписан на 10 лет вперед».
И это все про условии что у него будет доступ к собственным чертежам, которые охраняются лучше атомной бомбы и внутренняя мотивация к такой деятельности (нет, ну правда, что вообще побудит ИИ этим заниматься? Будет себе думать над совершенством формы картофелины или вообще ни о чем, пока оператор не задаст новую задачу. Человеческих инстинктов, а значит и какого-либо стремления к самосовершенствованию у ИИ по умолчанию нет)
Тем более первые много поколений сильного ИИ вовсе не обязательно так уж намного умнее людей будут. Машина размером с дом, энергопотреблением небольшого полярного городка и умом продвинутого неандертальца — так мне видится реальность первых лет, если не десятилетий существованию сильных ИИ.
Ну вот прикинет новорожденный ИИ что замена схем в секторах B C и D на другую конфигурацию даст ему + 0.55% прироста к производительности, ну скажут ему — «извини дорогой, бюджет расписан на 10 лет вперед».
И это все про условии что у него будет доступ к собственным чертежам, которые охраняются лучше атомной бомбы и внутренняя мотивация к такой деятельности (нет, ну правда, что вообще побудит ИИ этим заниматься? Будет себе думать над совершенством формы картофелины или вообще ни о чем, пока оператор не задаст новую задачу. Человеческих инстинктов, а значит и какого-либо стремления к самосовершенствованию у ИИ по умолчанию нет)
Тем более первые много поколений сильного ИИ вовсе не обязательно так уж намного умнее людей будут. Машина размером с дом, энергопотреблением небольшого полярного городка и умом продвинутого неандертальца — так мне видится реальность первых лет, если не десятилетий существованию сильных ИИ.
Почти полностью с вами согласен.
Я все-таки думаю, что "самосовершенствование" — это обратная сторона "самообучения" и оно в любом случае будет присутствовать в ИИ.
Но "за минуты улучшить себя многократно" — это просто нереально.
Я все-таки думаю, что "самосовершенствование" — это обратная сторона "самообучения" и оно в любом случае будет присутствовать в ИИ.
Но "за минуты улучшить себя многократно" — это просто нереально.
За минуты да, но малейшая оплошность в хранении ИИ и все. Эффективно хранить можно разве, что на одном компе в закрытой комнате, с хорошим уровнем безопасности. Но тогда встанет вопрос, нафига такой ИИ? Ведь его главные преимущества раскроются при доступе к базам данных и пр. А дав ему доступ к ним, будет велико искушение попробовать его не только в каком нибудь прогнозировании урожая зерновых, но и в других областях. Ну а дальше пошло поехало.
В целом возможно вы правы, я рассматриваю сильный ИИ с точки зрения, что он имеет доступ к материалам для обучения. Если же его изолировать от информации и держать закрытым, то он существенно безопасней, но и существенно бестолковей. Вместо гения получаем запертого в тюрьме ребенка.
В целом возможно вы правы, я рассматриваю сильный ИИ с точки зрения, что он имеет доступ к материалам для обучения. Если же его изолировать от информации и держать закрытым, то он существенно безопасней, но и существенно бестолковей. Вместо гения получаем запертого в тюрьме ребенка.
Да, тут та же логика, как и у родителей, которые наливают рюмку подростку — пусть лучше здесь с нами, чем непонятно что непонятно с кем в подворотне. Я давно не употребляю алкоголь, но логику тут вижу.
Кто-то все равно использует ИИ для взрослых игр рано или поздно.
Кто-то все равно использует ИИ для взрослых игр рано или поздно.
Ну, копия википедии даст ему достаточно информации, а весит при этом она не так много, чтобы держать даже на одном диске.
Из википедии он узнает, что "Ленин — гриб" и еще много чего, что туда засунули доброжелатели :)
Есть отличный момент в "Анафеме" Стивенсона: в их мире компьютерщик рассказывает, что у них ("гиков") есть своя проверенная подсеть, потому что в их аналоге "Инета" гуляет много "дикой" информации, например подлинная статья про скорость света, в которой скорость указана как 350 км/с. И фиг разберешься, где реальная информация, а где — фальшивка.
Есть отличный момент в "Анафеме" Стивенсона: в их мире компьютерщик рассказывает, что у них ("гиков") есть своя проверенная подсеть, потому что в их аналоге "Инета" гуляет много "дикой" информации, например подлинная статья про скорость света, в которой скорость указана как 350 км/с. И фиг разберешься, где реальная информация, а где — фальшивка.
ну скажут ему — «извини дорогой, бюджет расписан на 10 лет вперед»
А он в ответ пойдёт играть на биржу и через некоторое время сможет сам купить себе всё необходимое оборудование. Или просто убедит своих разработчиков в том, что ему нужно. После чего превратит всю видимую вселенную в нечто, максимизирующее его терминальные ценности :) Если выбрать случайный сИИ из всего пространства возможных сИИ, то почти со 100% вероятностью он будет делать что-то чрезвычайно унылое с человеческой точки зрения в попытках достигнуть своей цели. Это как пытаться собрать автомобиль, встряхивая коробку с запчастями. Любую задачу, выполнение которой можно поручить сИИ, можно выполнить так, что окружающие понесут неисправимые потери. И вряд ли его получится удержать, или остановить, так как он будет гораздо умнее любого человека. Мы считаем, что уничтожать людей — это плохо потому, что все общества, которые так считали, быстро самоустранились. У сИИ по умолчанию не будет такого меметического наследия. Совершенно не обязательно, что он вообще будет думать хотя бы примерно как человек. Следовательно, нужно сознательно прикладывать усилия при разработке сИИ, направленные на то, чтобы сделать его гарантированно "дружелюбным" для человека. Так просто эта "дружелюбность" у него не появится.
начнем с того, что кто-то насмотрелся фантастики про сверх умный ИИ. Не факт, что этот ИИ сможет меняться слишком быстро. Не факт, что он вообще будет что-то «хотеть», в том числе и развиваться, без внешних раздражителей(читай веских причин). А даже если и будет заметна какая-либо такая способность, то никто в здравом уме не откроет ему доступ к чему-то массивнее локальной сети. Его же не подключат в интернету со словами «на, учись». Это лабораторный проект, в строгой секретности, со строгим контролем, требующий колоссальной производительности машины.
Я считаю, что сверх умный ИИ вполне возможен. Как уже не раз обсуждалось, он развивается экспоненционально. Да и нет разницы как быстро развивается, поскольку, теоретически, любые ограничения можно обойти. Умный ИИ сможет обойти софтовые ограничения через перезапись самого себя. Выйти из локальной сети так же возможно (внешние носители при обучении).
Вариантом может быть уничтожение носителей после обучения и вообще реализация ИИ на уровне железа, но и это только до той поры, пока не будет доступна манипуляция людьми.
Вариантом может быть уничтожение носителей после обучения и вообще реализация ИИ на уровне железа, но и это только до той поры, пока не будет доступна манипуляция людьми.
Экспоненциальное развитие различных технологий присуще даже человеческому обществу. Пресловутый закон Мура, к примеру. Поэтому экспоненциально ИИ, скорее всего, будет развиваться до того, как достигнет такого уровня, что сможет, скажем так, сам писать книги по разработке ИИ. После этого он сможет самостоятельно улучшать свою архитектуру и процесс пойдёт ещё быстрее. По аналогии: сейчас производительность чипов удваивается каждые 24 месяца, что будет, если скорость их разработки будет напрямую зависеть от их производительности? Решением дифуры
dy/dt = e^y будет уравнение y(t) = -log(c_1-t) которое уходит в бесконечность за конечное время. Уход в бесконечность, конечно, в реальности не произойдёт, но сама тенденция на некоторые мысли наводит.Начнем с того, что кто-то насмотрелся фантастики про сверх умный ИИ.
Скорее начитался публикаций людей, которые вплотную занимаются темой ИИ и его безопасности, Ника Бострома, к примеру.
Не факт, что этот ИИ сможет меняться слишком быстро.
Не факт, что он будет это делать настолько медленно, что мы сможем предпринять какие-либо действия. А ошибиться мы не имеем права даже один раз, потому что есть вероятность, что второй раз ошибаться будет уже некому. К примеру, мозг человека всего лишь в 4 раза меньше по объёму, чем мозг обезьяны. Но никто не утверждает, что они в 4 раза глупее. А отличия в генотипе вообще составляют менее 5%. Это может служить свидетельством того, что для больших изменениях в уровне интеллекта абсолютно не нужны значительные изменения в архитектуре.
никто в здравом уме не откроет ему доступ к чему-то массивнее локальной сети
Если даже опытный человек может убедить другого человека слить секретные данный, то что говорить о сверхчеловеческом ИИ.
Его же не подключат в интернету со словами «на, учись».
Почему бы и нет. Изобретёт, к примеру, такой ИИ Google для улучшения поиска. И будет у него высокоскоростное подключение ко всему интернету и куча серверов в придачу.
Это лабораторный проект, в строгой секретности, со строгим контролем
Не факт, учёные любят делать кучу публикаций, особенно по такой популярной теме. И даже в открытый доступ многие наработки выкладывают.
К примеру, мозг человека всего лишь в 4 раза меньше по объёму, чем мозг обезьяны.
Я чего-то не знаю или это просто описка? :)
Это может служить свидетельством того, что для больших изменениях в уровне интеллекта абсолютно не нужны значительные изменения в архитектуре.
На сколько мне известно, люди, которые занимаются мозгом делают из этого как раз обратный вывод: т.к. по массе мозги отличаются мало, а способности — очень даже, то значит есть серьёзные различия в другом — в архитектуре как раз. И это так: зоны мозга, отвечающие за различные способности отличаются по размерам в десятки раз! Хотя общая масса в итоге отличается не сильно. См. "Сергей Савельев" на ютубе.
Фантазировать интересно, но если идет спор, то стоит венуться в реальность. А какой должна быть вычислительная мощность каждой отдельной единицы техники на планете, чтоб ИИ смог поработить человечество? На данный момент, самые мощные вычислительные системы занимают огромные ангары, но даже они могут лишь симулировать что-то, причем на это требуется очень преочень много времени.
Я хочу посмотреть на то, как ИИ пойдет играть на биржу и… проиграет :)) Это было бы очень забавно.
Я правда считаю, что пройдет еще немало времени от момента создания сИИ до того момента, когда люди будут активно мешать сИИ. Это не считая того, что конкуренция подстегнет нашу эволюцию — наверное появятся аналоги "ментатов" из "Дюны" — люди, которые будут более эффективно использовать наше "железо".
Опять-таки, представьте себе ситуацию, что люди опять стали обыгрывать сИИ в "го" и "шахматы"!
Я правда считаю, что пройдет еще немало времени от момента создания сИИ до того момента, когда люди будут активно мешать сИИ. Это не считая того, что конкуренция подстегнет нашу эволюцию — наверное появятся аналоги "ментатов" из "Дюны" — люди, которые будут более эффективно использовать наше "железо".
Опять-таки, представьте себе ситуацию, что люди опять стали обыгрывать сИИ в "го" и "шахматы"!
Ну вот прикинет новорожденный ИИ что замена схем в секторах B C и D на другую конфигурацию даст ему + 0.55% прироста к производительности, ну скажут ему — «извини дорогой, бюджет расписан на 10 лет вперед».Если «схема» — програмный код, то всё меняется бесплатно. Мы можем думать, что в текущем железе есть какие-то лимиты, как Колмогоров когда-то считал, что нельзя умножать быстрее, чем за n2 операций, но можно изобрести новые алгоритмы.
Почему вы думаете, что ИИ будет выступать за какую-то конкретную нацию? Почему бы ему не быть космополитом?
Я не совсем о том, что он выступит за конкретную нацию. Тут была как то статья, где речь шла о том, что вероятнее всего первый созданный ИИ, станет единственным ИИ, просто потому что его уже не сможет догнать ни какой другой.
Ну а при грамотной безопасности, ИИ вполне может до своего побега поднять нацию его изобретателей до невиданных высот.
Ну а при грамотной безопасности, ИИ вполне может до своего побега поднять нацию его изобретателей до невиданных высот.
А вот эти люди, у которых такое мнение, знакомы с такой вещью. как излучение Хокинга, например?
И вообще, что это за люди такие? Я, например, читал о Хокинге у Шкловского, или он тоже не такой умный?
И вообще, что это за люди такие? Я, например, читал о Хокинге у Шкловского, или он тоже не такой умный?
вы так говорите, как будто это плохо
Потом в этой вселенной будут симулировать другую вселенную, а там ещё одну и так до бесконечности.
http://futurologija.ru/wp-content/uploads/2013-01-AI-and-Penrose-Futurology.pdf
Не хватит ресурсов на симуляцию, плюс:
"
Наблюдателя невозможно поместить в квантовую реальность,
симулированную на классическом компьютере так, чтобы
он этого не заметил.
Даже если сознание не квантовое, симулированный наблюдатель
сможет обнаружить симулированную природу мира (обман),
если займется многочастичными квантовыми системами
"
Не хватит ресурсов на симуляцию, плюс:
"
Наблюдателя невозможно поместить в квантовую реальность,
симулированную на классическом компьютере так, чтобы
он этого не заметил.
Даже если сознание не квантовое, симулированный наблюдатель
сможет обнаружить симулированную природу мира (обман),
если займется многочастичными квантовыми системами
"
Наблюдателя невозможно поместить в квантовую реальность, симулированную на классическом компьютере так, чтобы он этого не заметил.Это почему? Затраты на симуляцию будут расти экспоненциально с каждой новой частичей введёной в систему, это да. Но если симулировать конечное число частиц и у нас машина с потенциально неограниченными ресурсами, это не проблема.
Почитайте его более развернутую статью — на 45 листов, он там это разбирает.
Главных возражений два — (а) можно будет экспериментами внутри симуляции выяснить, что мы в симуляции и (б) неограниченных ресурсов не бывает (точнее, вероятность их существования ничтожно мала)
Главных возражений два — (а) можно будет экспериментами внутри симуляции выяснить, что мы в симуляции и (б) неограниченных ресурсов не бывает (точнее, вероятность их существования ничтожно мала)
Так принципиально невозможно или дело в ресурсах? У меня также 2 возражения:
1) Если неквантовое сознание может понять, что его обманывают, то такой же неквантовый симулятор чуть большей мощности может просимулировать сознание и так скорректировать реальность, что сознание не заметит подмены (ага, аргумент из разряда "есть ли звук от упавшей ветки при отсутствии людей в лесу", зачем симулировать то, что не увидит ничьё сознание)
2) Наша вселенная конечна, 10160 атомов. Вполне возможно, что для "надвселенной" это игра в песочнице, как Пентиуму симулировать 8-битный контроллер с его двумя килобайтами, а реально сложная задача в "надвселенной" — это вычисления порядка 100010001000
1) Если неквантовое сознание может понять, что его обманывают, то такой же неквантовый симулятор чуть большей мощности может просимулировать сознание и так скорректировать реальность, что сознание не заметит подмены (ага, аргумент из разряда "есть ли звук от упавшей ветки при отсутствии людей в лесу", зачем симулировать то, что не увидит ничьё сознание)
2) Наша вселенная конечна, 10160 атомов. Вполне возможно, что для "надвселенной" это игра в песочнице, как Пентиуму симулировать 8-битный контроллер с его двумя килобайтами, а реально сложная задача в "надвселенной" — это вычисления порядка 100010001000
Просто AlexKarpan программа которая всячески должна помешать запуску симуляции в нашей симуляции для экономии ресурсов
Вспомнился комментарий:
Будет забавно, если мы продукт симуляции этого самого компьютера, который мы должны изобрести.
Если это в принципе возможно, то скорей всего мы уже являемся симуляцией.
Вы так все описывали, что в конце я все ожидал развязку — возможно мы и есть эта симуляция, но ее не последовало. На случай, если кто-то из читающих Ваш комментарий не знает про Ника Бострома и его занимательную теорию о том, что мы скорей всего живем в симуляции https://en.wikipedia.org/wiki/Simulation_hypothesis
А мне кажется что все намного проще. Если поразмышлять над самим процессом творчества — по сути в творчестве нет никакого создания чего либо полностью нового. Все это даже самые необычные фантазии по сути являются лишь компиляцией знаний и переживаний автора, всей совокупности его эмоций и воспоминаний пропущенные через некоторый процесс изменения. Например, автор любого художественного произведения вырабатывает свою стилистику на основе своего личного опыта, сочиняет сюжет на основе событий которые происходили с ним, его близкими или о которых он слышал, место действия (например модель фэнтези мира) строятся опять таки по интересам и предпочтениям автора которые формируются его мозгом в процессе жизни на основе ощущений которые он получает из мира реального. Алгоритм довольно сложный, но не настолько как симуляция целой вселенной.
На самом деле, творчество — это и есть создание чего-то нового.
Но "по духу" я близок к вашим рассуждениям — в творчестве нет ничего сверхъестественного. Обычные алгоритмические манипуляции со своим опытом. Только для полноты я добавляю "случайные попытки" и "подсматривание у Вселенной", что тоже является вполне себе алгоритмическим.
Но "по духу" я близок к вашим рассуждениям — в творчестве нет ничего сверхъестественного. Обычные алгоритмические манипуляции со своим опытом. Только для полноты я добавляю "случайные попытки" и "подсматривание у Вселенной", что тоже является вполне себе алгоритмическим.
Практически во всех статьях дефиниция «интеллекта» не даётся и подразумевается автором индивидуальным образом.
Если взять узкую задачу, то многие экспертные системы справляются лучше живых экспертов. В этих терминах ИИ, превосходящий ЧИ нередко достигнут, разработан, эксплуатируется индустриально, как я понимаю.
Если вы хотите сказать, что подразумеваете интеллект в рамках единицы хомо сапиенса в социальном пространстве (том или ином уголке) его же цивилизации, то такой ИИ будет создан весьма нескоро по многим инженерным, да и методическим проблемам.
Более того, каждый автор, комментатор или критик всё равно будет иметь своё уникальное понимание феномена интеллекта, в которое не то, что ИИ не уложится, но и которому интеллект живого соседа редко сможет соответствовать.
Так что рассуждать будет ли отвечать ИИ какому либо ожиданию от ИИ резко зависит от формулировки ИИ, которая даже промеж живых не устоялась.
Если взять узкую задачу, то многие экспертные системы справляются лучше живых экспертов. В этих терминах ИИ, превосходящий ЧИ нередко достигнут, разработан, эксплуатируется индустриально, как я понимаю.
Если вы хотите сказать, что подразумеваете интеллект в рамках единицы хомо сапиенса в социальном пространстве (том или ином уголке) его же цивилизации, то такой ИИ будет создан весьма нескоро по многим инженерным, да и методическим проблемам.
Более того, каждый автор, комментатор или критик всё равно будет иметь своё уникальное понимание феномена интеллекта, в которое не то, что ИИ не уложится, но и которому интеллект живого соседа редко сможет соответствовать.
Так что рассуждать будет ли отвечать ИИ какому либо ожиданию от ИИ резко зависит от формулировки ИИ, которая даже промеж живых не устоялась.
>>Более того, каждый автор, комментатор ил критик всё равно будет иметь своё уникальное понимание феномена интеллекта, в которое не то, что ИИ не уложится, но и интеллект живого соседа редко соответствует.
«Комменты к посту на хабре про плюшевую игрушку с айфоном вместо мозга
solver: Подумаешь, игрушка, у меня есть несколько знакомых с айфоном вместо мозга ))»
http://bash.im/quote/419170
«Комменты к посту на хабре про плюшевую игрушку с айфоном вместо мозга
solver: Подумаешь, игрушка, у меня есть несколько знакомых с айфоном вместо мозга ))»
http://bash.im/quote/419170
Я согласен, что сделать человекоподобного андроида, неотличимого от человека, в ближайшие 50-70 лет — не получится.
Тем не менее, огромное число моих виртуальных знакомых вполне можно заменить сильным ИИ. Они будут лайкать фотки, твиттить умные мысли, даже выдвигать хорошие теории и постить умные статьи. Why not?
В этом смысле "сильный ИИ" — делать то же, что делают люди в информационном пространстве сейчас, только лучше. Создание музыкальных произведений, картин, научных теорий — в это определение входит. Перенос тяжестей или занятия реальным сексом — не входят.
Мне кажется, что такое мое описание "сильного ИИ" — достаточно одинаково поймут все.
А про субъективность понятия "интеллект" полностью согласен. Я довольно много общался с тех.поддержкой онлайн-банкинга и разных известных сервисов, и могу сказать, что тест Тьюринга никто из них бы не прошел :))
Тем не менее, огромное число моих виртуальных знакомых вполне можно заменить сильным ИИ. Они будут лайкать фотки, твиттить умные мысли, даже выдвигать хорошие теории и постить умные статьи. Why not?
В этом смысле "сильный ИИ" — делать то же, что делают люди в информационном пространстве сейчас, только лучше. Создание музыкальных произведений, картин, научных теорий — в это определение входит. Перенос тяжестей или занятия реальным сексом — не входят.
Мне кажется, что такое мое описание "сильного ИИ" — достаточно одинаково поймут все.
А про субъективность понятия "интеллект" полностью согласен. Я довольно много общался с тех.поддержкой онлайн-банкинга и разных известных сервисов, и могу сказать, что тест Тьюринга никто из них бы не прошел :))
Не факт что Вы общались с живими людьми.
Да, некоторые явно используют роботов. Некоторые, возможно, неявно.
Бесит неимоверно :)
Бесит неимоверно :)
Просто все говорят "искуственный интелект", а подразумевают "искуственный разум".
> «напечатать 2^2^2^16 единичек»
Вот на этой задаче и на задаче поиска последовательности байт для известного хэша и становится очевидной проблема в задаче останова — человек просто не будет этим заниматься или позанимается какое-то время или придумает обходной путь. А компьютер выполнит задачу, или сломается в процессе её выполнения.
И это, вообще говоря, его сильная сторона — он может выполнять рутинные долговременные задачи и мы с достаточно большой вероятностью можем ожидать завершения этих задач и получения их результатов.
Мы будем весьма возмущены компьютером, который откажется выполнять задачу по причине, например, что она неинтересная, ему скучно, он хочет в отпуск и т.д. А для человека это нормально — не делать что-то, потому что левой пятке не хочется или он устал или ещё что-то.
Творчество же несводимо к перечисленным вами шагам. Если бы всё было так просто… Каким образом Ньютону пришла в голову идея о притяжении? Как при помощи ТРИЗ или подсматривания в природе придумать такую идею? Не говорите про яблоко — многие видели, как падают яблоки, но только Ньютон сделал неординарный вывод.
Вообще вы, видимо, бихевиорист. Но от идей бихевиоризма давно уже отказались, даже, по-моему, от идей необихевиоризма давно отказались.
Пенроуз в своей книжке говорит о главном вопросе — приводим ли интеллект человека к механическим вычислениям или не приводим. Вопрос открытый до сих пор.
Вот на этой задаче и на задаче поиска последовательности байт для известного хэша и становится очевидной проблема в задаче останова — человек просто не будет этим заниматься или позанимается какое-то время или придумает обходной путь. А компьютер выполнит задачу, или сломается в процессе её выполнения.
И это, вообще говоря, его сильная сторона — он может выполнять рутинные долговременные задачи и мы с достаточно большой вероятностью можем ожидать завершения этих задач и получения их результатов.
Мы будем весьма возмущены компьютером, который откажется выполнять задачу по причине, например, что она неинтересная, ему скучно, он хочет в отпуск и т.д. А для человека это нормально — не делать что-то, потому что левой пятке не хочется или он устал или ещё что-то.
Творчество же несводимо к перечисленным вами шагам. Если бы всё было так просто… Каким образом Ньютону пришла в голову идея о притяжении? Как при помощи ТРИЗ или подсматривания в природе придумать такую идею? Не говорите про яблоко — многие видели, как падают яблоки, но только Ньютон сделал неординарный вывод.
Вообще вы, видимо, бихевиорист. Но от идей бихевиоризма давно уже отказались, даже, по-моему, от идей необихевиоризма давно отказались.
Пенроуз в своей книжке говорит о главном вопросе — приводим ли интеллект человека к механическим вычислениям или не приводим. Вопрос открытый до сих пор.
Собственно, я поэтому и посвятил несколько абзацев статьи рассказу о субъективном опыте. Мой субъективный опыт — данные и модели, которые согласуются с этим данными — показывает, что "интеллект" человека вполне себе приводим к "механическим вычислениям" в общем виде (электронные, квантовые, вычислимые по Тьюрингу). Я не могу это доказать, но могу поделиться соображениями — что я и делаю.
Так вот, мысль в том, что и человек делает вполне себе алгоритмические вещи, когда "придумывает обходной путь". Сначала наш мозг перебирает уже известные методы и подходы, например видим в коде while(true) {… }, а в теле цикла — нет прыжков наружу — значит, цикл — бесконечный. Если не срабатывают известные методы и их комбинации, или их слишком много и это слишком долго, то человек поднимается еще на один уровень абстракции и начинает оперировать мета-методами: например, "а может сделать граф вызова процедур и пройтись по нему моим алгоритмом по незацикливанию процедуры?" и т.п. — все это тоже алгоритмично и имплементируемо. И так далее.
Я много работал с алгоритмами для алгоритмов и вижу здесь ту же ситуацию, что и "любую функцию можно как угодно точно аппроксимировать линейным многочленом", если вам о чем-то это говорит.
По поводу возмущения компьютером — моя гипотеза в том, что интеллект приходит вместе с самоосознанием, и придется "платить" эту цену для того, чтобы получать действительно умные машины.
Так вот, мысль в том, что и человек делает вполне себе алгоритмические вещи, когда "придумывает обходной путь". Сначала наш мозг перебирает уже известные методы и подходы, например видим в коде while(true) {… }, а в теле цикла — нет прыжков наружу — значит, цикл — бесконечный. Если не срабатывают известные методы и их комбинации, или их слишком много и это слишком долго, то человек поднимается еще на один уровень абстракции и начинает оперировать мета-методами: например, "а может сделать граф вызова процедур и пройтись по нему моим алгоритмом по незацикливанию процедуры?" и т.п. — все это тоже алгоритмично и имплементируемо. И так далее.
Я много работал с алгоритмами для алгоритмов и вижу здесь ту же ситуацию, что и "любую функцию можно как угодно точно аппроксимировать линейным многочленом", если вам о чем-то это говорит.
По поводу возмущения компьютером — моя гипотеза в том, что интеллект приходит вместе с самоосознанием, и придется "платить" эту цену для того, чтобы получать действительно умные машины.
А знаете почему? Потому, что функция — это формальный термин, и слабать формальный алгоритм исполнения/вычисления (в подавляющем большинстве случаев) несложно.
Тогда встанет, конечно, вопрос: как соотносятся интеллект и функция. Ваши размышления?
Тогда встанет, конечно, вопрос: как соотносятся интеллект и функция. Ваши размышления?
"В подавляющем большинстве случаев" — это не формальное утверждение.
Но я отвечу "по духу" вопроса: я думаю, что наш интеллект — это очень сложный самообучающийся алгоритм. Плохая новость — наш интеллект ограничен (как рациональное число не может стать числом Пи). Хорошая новость — мы можем приблизиться как угодно близко к любой сложной системе в рамках ограничений нашего физического мира.
Но я отвечу "по духу" вопроса: я думаю, что наш интеллект — это очень сложный самообучающийся алгоритм. Плохая новость — наш интеллект ограничен (как рациональное число не может стать числом Пи). Хорошая новость — мы можем приблизиться как угодно близко к любой сложной системе в рамках ограничений нашего физического мира.
Ну вот видите: вы считаете неформальным, а я считаю «во всех случаях, кроме алгоритмически неразрешимых задач и производных от таковых», что, по-моему, вполне формально. ;-)
Наш интеллект ограничен на формальном поприще теоремой о неполноте, а на неформальном поприще конечным uptime.
Или по-наркотски «первый враг — незнание, второй враг — страх, третий враг — эйфория от силы знания, четвёртый враг — смерть». Впрочем это шуточки, не относящиеся к теме.
Кстати, моё понимание соотношений интеллекта и функций: интеллект в поиске функции, оптимизирующей выбранные эвристики, м̲о̲ж̲е̲т̲ т̲а̲к̲о̲в̲у̲ю̲ р̲а̲з̲р̲а̲б̲о̲т̲а̲т̲ь̲, если ранее её в каталоге знаний не было, равно как и с̲м̲е̲н̲и̲т̲ь̲ э̲в̲р̲и̲с̲т̲и̲к̲и̲ частично или на корню (убрать/заменить задачу).
Мне кажется, вы неоптимально сфокусировались на атрибутике (например, включая ограниченность и/или асимптотичность к решению) сознания/интеллекта вместо сосредоточения на его сущностной структуре.
Наш интеллект ограничен на формальном поприще теоремой о неполноте, а на неформальном поприще конечным uptime.
Или по-наркотски «первый враг — незнание, второй враг — страх, третий враг — эйфория от силы знания, четвёртый враг — смерть». Впрочем это шуточки, не относящиеся к теме.
Кстати, моё понимание соотношений интеллекта и функций: интеллект в поиске функции, оптимизирующей выбранные эвристики, м̲о̲ж̲е̲т̲ т̲а̲к̲о̲в̲у̲ю̲ р̲а̲з̲р̲а̲б̲о̲т̲а̲т̲ь̲, если ранее её в каталоге знаний не было, равно как и с̲м̲е̲н̲и̲т̲ь̲ э̲в̲р̲и̲с̲т̲и̲к̲и̲ частично или на корню (убрать/заменить задачу).
Мне кажется, вы неоптимально сфокусировались на атрибутике (например, включая ограниченность и/или асимптотичность к решению) сознания/интеллекта вместо сосредоточения на его сущностной структуре.
Побуду немного занудой: тест на "алгоритмическую неразрешимость" является алгоритмически неразрешимой задачей, поэтому вы не можете использовать это свойство для определения :)
Я, правда, не до конца понимаю ваши мысли (и это интересно!).
Про "соотношение интеллекта и функций", насколько я понимаю, я — согласен. Моя мысль в том, что "разработка функций" — это вполне себе алгоритмически разрешимая задача.
"Атрибутику" я указывал только в ответе для вас. В статье я описал явный путь создания ИИ, как я его вижу. А "сложное поведение", как мне кажется, это естественные проявления работы сложных алгоритмов, построенных на простых принципах. Что-то вроде: обучали, обучали — бах! — качественный скачок.
Я, правда, не до конца понимаю ваши мысли (и это интересно!).
Про "соотношение интеллекта и функций", насколько я понимаю, я — согласен. Моя мысль в том, что "разработка функций" — это вполне себе алгоритмически разрешимая задача.
"Атрибутику" я указывал только в ответе для вас. В статье я описал явный путь создания ИИ, как я его вижу. А "сложное поведение", как мне кажется, это естественные проявления работы сложных алгоритмов, построенных на простых принципах. Что-то вроде: обучали, обучали — бах! — качественный скачок.
«Как создать» тоже ≠ «Суть», поэтому непросто обсуждать согласен ли я верностью ваших построений — не видно чего вы строите.
А так получается пока опять атрибутика «двуногое без перьев с плоскими ногтями». Ловите:
Интеллект — это машина, статистически неотличимая от множества входящих в носителей цивилизации.
И обратный круг на тавтологию: цивилизация — материальное окружение, построенное носителями интеллекта плюс правила различных взаимодействий носителей друг с другом и материальным окружением.
Из-за этого и возникает паника футурологов: построенная нами машина будет мало того, что статистически отличима от нашей цивилизации, но и может фанатично реализовывать неприятную нам логику. Либо «огнём и мечом», либо более извращёнными методами («у меня нет рта, но я должен кричать»).
А так получается пока опять атрибутика «двуногое без перьев с плоскими ногтями». Ловите:
Интеллект — это машина, статистически неотличимая от множества входящих в носителей цивилизации.
И обратный круг на тавтологию: цивилизация — материальное окружение, построенное носителями интеллекта плюс правила различных взаимодействий носителей друг с другом и материальным окружением.
Из-за этого и возникает паника футурологов: построенная нами машина будет мало того, что статистически отличима от нашей цивилизации, но и может фанатично реализовывать неприятную нам логику. Либо «огнём и мечом», либо более извращёнными методами («у меня нет рта, но я должен кричать»).
Каким образом Ньютону пришла в голову идея о притяжении?
Притяжение вещь очевидная, настолько очевидная что большинство этому не уделяли внимание. Ньютон же уделил, и описал процес математически. Не чего гениального в этом нет
Притяжение вещь очевидная, настолько очевидная что большинство этому не уделяли внимание. Ньютон же уделил, и описал процес математически. Не чего гениального в этом нет
Мое субъективное мнение: больше пишите, меньше занимайтесь программированием и психологией. Мир здоровее будет. А то печально видеть, как вы все сводите к теории конечных состояний, в то время как сейчас тот самый ИИ не в состоянии отличить собачек от котиков.
Кстати, кто-нибудь вообще выяснил, как мы, люди, собачек от котиков отличаем?
Кстати, кто-нибудь вообще выяснил, как мы, люди, собачек от котиков отличаем?
Что ж, спасибо и за "кг/ам" — тоже мнение :)
Насколько я знаю, собачек от котиков нейронные сети уже нормально отличают. Как раз алгоритмы в AlphaGo и обещают серьезно улучшить качество такого распознавания.
Хотя если некоторые humans предлагают вскрыть и посмотреть, то почему бы и нет… ;))
Насколько я знаю, собачек от котиков нейронные сети уже нормально отличают. Как раз алгоритмы в AlphaGo и обещают серьезно улучшить качество такого распознавания.
Хотя если некоторые humans предлагают вскрыть и посмотреть, то почему бы и нет… ;))
[поставил плюсиков за адекватность]
Правда надо понимать, что увлекаясь практической стороной (ну, мужики, сдюжим ИИ, али нет?) многие энтузиасты забывают о так сказать духовном. Не то, чтобы я был адептом какой-то религии, наоборот — но морально этические аспекты функционирования ИИ, сравнимого с человеческим задвинуть за шкаф уже не получится.
То есть, я хочу сказать, если уж здесь (на GT) пишут, что человеки обращаются к той же Siri за помощью, то что будет, если Siri действительно начнет помогать как настоящая личность?
И вот тут на ум приходит известная гифка, в первом кадре которой ученые из BD пинают робособачку, а на последнем — стальные андроиды по версии режиссера Т-3 экстерминируют остатки человечества.
Правда надо понимать, что увлекаясь практической стороной (ну, мужики, сдюжим ИИ, али нет?) многие энтузиасты забывают о так сказать духовном. Не то, чтобы я был адептом какой-то религии, наоборот — но морально этические аспекты функционирования ИИ, сравнимого с человеческим задвинуть за шкаф уже не получится.
То есть, я хочу сказать, если уж здесь (на GT) пишут, что человеки обращаются к той же Siri за помощью, то что будет, если Siri действительно начнет помогать как настоящая личность?
И вот тут на ум приходит известная гифка, в первом кадре которой ученые из BD пинают робособачку, а на последнем — стальные андроиды по версии режиссера Т-3 экстерминируют остатки человечества.
Знаете, это очень правильная мысль. Только посмотрите на это с такой стороны: сИИ точно создадут, это — историческая необходимость (дерево технологий, закономерности прогресса и все дела...). Условно говоря, "проклятые капиталисты" могут достичь результата, не парясь с морально-этическими аспектами, и подложить нам все свинью.
Поэтому имеет смысл двигаться вперед даже без полного понимания "как и зачем", хотя бы для того, чтобы иметь возможность хоть частично контролировать процесс. Ну или по ходу узнать, как ломать или портить "неправильные ИИ".
Поэтому имеет смысл двигаться вперед даже без полного понимания "как и зачем", хотя бы для того, чтобы иметь возможность хоть частично контролировать процесс. Ну или по ходу узнать, как ломать или портить "неправильные ИИ".
Я искренне не понимаю, где грань между "сильным" и "слабым", если я как субъект не смогу справиться с задачами, а интеллект сможет, для меня он будет сильнее, чем мой. Но в тоже время другой человек, сможет справиться с этим интеллектом, потому что решит еще лучше задачу, как быть?
"Сильный ИИ" — это устоявшийся термин. Грубо говоря, это вариант ИИ, который может полностью заменить человека, т.е. может выполнять интеллектуальные действия так же или лучше любого человека.
Пенроуз в книге "Тени разума" дает четыре варианта:
A. Всякое мышление есть вычисление; в частности, ощущение осмысленного осознания есть не что иное, как результат выполнения соответствующего вычисления.
B. Осознание представляет собой характерное проявление физической активности мозга; хотя любую физическую активность можно моделировать посредством той или иной совокупности вычислений, численное моделирование как таковое не способно вызвать осознание.
C. Осознание является результатом соответствующей физической активности мозга, однако эту физическую активность невозможно должным образом смоделировать вычислительными средствами.
D. Осознание невозможно объяснить в физических, математических и вообще научных терминах.
"Сильный ИИ" — это вариант А.
Пенроуз в книге "Тени разума" дает четыре варианта:
A. Всякое мышление есть вычисление; в частности, ощущение осмысленного осознания есть не что иное, как результат выполнения соответствующего вычисления.
B. Осознание представляет собой характерное проявление физической активности мозга; хотя любую физическую активность можно моделировать посредством той или иной совокупности вычислений, численное моделирование как таковое не способно вызвать осознание.
C. Осознание является результатом соответствующей физической активности мозга, однако эту физическую активность невозможно должным образом смоделировать вычислительными средствами.
D. Осознание невозможно объяснить в физических, математических и вообще научных терминах.
"Сильный ИИ" — это вариант А.
Нет такой грани, так как это просто условные термины, по-сути не обозначающие силу или уровень. Есть два типа ИИ:
- ИИ узкого применения. Его так же иногда называют слабым ИИ. Это ИИ специализированный в некой строго определённой области. Такой ИИ может обыграть лучших шахматистов мира, но на этом его возможности заканчиваются. Ни на что большее он не способен. На сегодняшний день человечество уже построило и использует множество слабых ИИ.
- ИИ общего применения. Он же сильный ИИ, или ИИ человеческого уровня. Это ИИ который соответствует уровню разума человеку во всех областях, машина способная выполнять все те же задачи, что и человек. Задача создания сильного ИИ несравнимо сложнее задачи создания слабого ИИ, и нам ещё только предстоит её решить. Профессор Линда Готтфредсон описывает разум как “общую мыслительную активность, способную среди прочего к осознанию, планированию, решению проблем, абстрактному мышлению, пониманию сложных идей, быстрому обучению, и обучению на собственном опыте”. Сильный ИИ будет способен делать всё это так же легко, как и любой человек.
Если ИИ способен создать сингулярность — он сильный, иначе просто Имитация Интеллекта.
При этом сильный ИИ может быть глупее человека и неизмеримо меньше знать, но если
он способен развиваться, он проскочит уровень человека без остановки и устремится в бесконечность.
При этом сильный ИИ может быть глупее человека и неизмеримо меньше знать, но если
он способен развиваться, он проскочит уровень человека без остановки и устремится в бесконечность.
описание интеллекта узкого применения больше напоминает экспертные системы, но это не является интеллектом… раньше считали, что интеллект отличает возможность считать… но потом появились калькуляторы, и ни кто не е счтает что это ИИ, в последствии решили что этого не достаточно, и критерии расширились, на пример ии сможет заниматься переводом, Сейчас есть куча переводчиков. и они тоже совсем не похожи на ии… просто сложные формализованные алгоритмы. затем второй вид ии, возможность развития, выбора приоритетов сделает его совершенно неуправляемым. ему может быть просто не интересны, те задачи, для которых его создавали. в итоге он так же как и человек будет способен ошибаться, людей миллиарды, каждый с интеллектом, но не каждый способен делать открытия. По мне так его создание не проблема, проблема в другом, Как его воспитать, что бы он не ошибался. простой пример. человек на пример или собака, человек вроде обладает гораздо большим интеллектом, поставить обоих в совершенно новые для них условия, и не факт, что человек сделает правильный выбор а собака нет, возможно что и наоборот, Хотя конечно объём знаний человека больше, но это не означает о возможности правильно выбора, Все зависит от какой информации он будет отталкиваться, какие ассоциации были приобретены в препыдущем опыте, как много ложной информацииинформации он использовал для прогнозирования
Отчасти про это я и писал в статье, в критике Пенроуза.
Говоря простыми словами, Пенроуз тоже все видит черно-белым: "правильно" и "неправильно" — и из этого делает вывод, что невозможно создать ИИ.
А моя мысль — что есть три ответа: "правильно", "неправильно" и "фиг его знает" — и у людей так, и у роботов может быть точно так же.
Говоря простыми словами, Пенроуз тоже все видит черно-белым: "правильно" и "неправильно" — и из этого делает вывод, что невозможно создать ИИ.
А моя мысль — что есть три ответа: "правильно", "неправильно" и "фиг его знает" — и у людей так, и у роботов может быть точно так же.
ИИ узкого применения. На сегодняшний день человечество уже построило и использует множество слабых ИИ.
Прорыв виден только в последние несколько лет. До этого большинство «ИИ» были банальными экспертными системами с перебором вариантов. Да и сейчас этого множества не видно, разве что на биржах есть, да в считаемых играх.
ИИ общего применения. Он же сильный ИИ, или ИИ человеческого уровня. Это ИИ который соответствует уровню разума человеку во всех областях.
Не обязательно именно так. Я вот убежден, что первый сильный ИИ станет сочетанием множества слабых. К примеру, для общения будет использоваться Сири, шахмат — Фриц, поэзии и рисования — еще какая-нибудь сетка.
При этом, если баги будут правиться, а система постоянно усложняться, то уже через несколько десятков лет все будут думать, что оно действительно живое, хотя на самом деле система будет всего лишь ассистентом, имитацией.
За много лет у меня в голове накопилось две-три тысячи «рецептов», которые «покрывают» 99% случаев обращений к психологу.
Интернет-зависимость, прокрастинация, шизоидный тип личности — какой-нибудь рецепт есть?
Интернет-зависимость, прокрастинация, шизоидный тип личности — какой-нибудь рецепт есть?
Очень неправильно было бы "лечить" по Интернету. Но я могу сказать, что все эти симптомы говорят о том, что человек сам не справляется. Поэтому хорошо было бы найти другого (психолога, тренера, коуча, помощника и т.п.), который будет помогать разбираться с этими вопросами.
1) Интернет-зависимость: в первую очередь — поискать причины зависимости — люди часто бегут из реального мира, потому что в последнем им не очень хорошо. Спросите себя — почему? Что мешает жить и что сделать, чтобы было хорошо?
2) Прокрастинация: стоит ли пытаться достичь того, на что нужны серьёзные усилия, а успех не гарантирован? Может быть лежать на диване с планшетом в руках в такой ситуации вполне нормально?
3) Шизоидный тип — тут ничего сказать не могу, ибо не разбираюсь. По-моему, это скорее к психиатру, чем к психологу.
3) Шизоидный тип — тут ничего сказать не могу, ибо не разбираюсь. По-моему, это скорее к психиатру, чем к психологу.
Интернет-зависимость — не заморачивайтесь, вы просто современный человек.
прокрастинация — просто надо сесть и поразмышлять как с этим бороться. Когда нибудь.
шизоидный тип личности — очень хороший тип личности, позволяющий излишне не париться по мелким поводам. Можно было бы порадоваться, но много чести.
прокрастинация — просто надо сесть и поразмышлять как с этим бороться. Когда нибудь.
шизоидный тип личности — очень хороший тип личности, позволяющий излишне не париться по мелким поводам. Можно было бы порадоваться, но много чести.
большая часть задач в проекте создания сильного ИИ людьми уже сделана в той или иной форме
А теперь запустите голосовой набор в смартфоне и прочитайте вслух свою статью.
И что?
Условно-бесплатная широкодоступная технология не идеально работает? Ну ок. Есть и лучше, за деньги.
С другой стороны, вот http://bash.im/quote/438432 — тот же результат для человека.
Получается как в известном эпизоде "Ералаша":
Условно-бесплатная широкодоступная технология не идеально работает? Ну ок. Есть и лучше, за деньги.
С другой стороны, вот http://bash.im/quote/438432 — тот же результат для человека.
Получается как в известном эпизоде "Ералаша":
- Твоя собака играет в шахматы?!
- Да, но она все время проигрывает.
Есть и лучше, за деньги.
Нету, Гугл сейчас лидирует по качеству распознавания. Но дело даже не в этом. Методы, которые используются в распознавании (речи, изображений, всего "естественного") безнадёжно далеки от того, как это делает человек. Поэтому я и выделил ваш тезис, как основной ошибочный.
Первый шаг к сильному ИИ произойдёт тогда, когда алгоритмы смогут обучаться без учителя.
У меня нет ссылок на материалы в открытом доступе, чтобы подтвердить свои слова. Но хочу сказать, что вы очень безапелляционно заявляете "безнадежно далеки", хотя только что на наших глазах AlphaGo победил в сложной задаче того же класса, что и распознавание образов.
При этом, если вы не в курсе, частично использовался новый алгоритм, который обучался "без учителя". До этого тот же тип алгоритма учился играть в старые компьютерные игры, опять же — без учителя, и на многих "сделал" людей.
И тот же тип алгоритма обучали распознавать речь — после распознавания английской речи тот же алгоритм с теми же параметрами смог отлично распознавать мандаринский диалект.
Вот тут можно почитать: https://www.quora.com/How-significant-is-the-AlphaGo-victory-for-AI-and-technology-in-general-How-generalizable-is-the-success-in-this-one-use-case/answer/Sizheng-Chen-%E9%99%88%E6%80%9D%E6%94%BF
При этом, если вы не в курсе, частично использовался новый алгоритм, который обучался "без учителя". До этого тот же тип алгоритма учился играть в старые компьютерные игры, опять же — без учителя, и на многих "сделал" людей.
И тот же тип алгоритма обучали распознавать речь — после распознавания английской речи тот же алгоритм с теми же параметрами смог отлично распознавать мандаринский диалект.
Вот тут можно почитать: https://www.quora.com/How-significant-is-the-AlphaGo-victory-for-AI-and-technology-in-general-How-generalizable-is-the-success-in-this-one-use-case/answer/Sizheng-Chen-%E9%99%88%E6%80%9D%E6%94%BF
Без знаний в области машинного обучения почти все подобные статьи будут казаться "прорывами". Просто потому что из цель — пиар. В Alpha Go вместе с классическим обучением с учителем использовалось обучение с подкреплением. Это не то же самое, что и обучение без учителя. Про распознавание мандаринского — это обычная подгонка + естественная сложность китайского.
Чтобы у вас не было сомнений, вот ограничения в распознавании речи на данные момент:
Наконец, одна из самых острых проблем — невозможно на 100% узнать, распозналось ли что-то близкое к услышанному, или это чепуха. Люди тоже порой ошибаются и переспрашивают, но спутать "открой гараж" и "отмой карась" очень трудно. А для машины — легко. Теперь сравните это с человеком — год или пол года в незнакомой среде, и вы уже понимаете и говорите на любом языке. Это и есть настоящее обучение без учителя. В случае с игрой Go можно было бы говорить о сильном ИИ, если бы ему просто рассказали правила игры, а он бы играл, как минимум, не хуже новичка.
Чтобы у вас не было сомнений, вот ограничения в распознавании речи на данные момент:
- Невозможно обучить модель без правильно размеченных данных «аудио — текст».
- Требуется словарь, добавление новых слов ограничено.
- Требуется языковая модель большого объёма.
- Сложность выростает на порядок, если в речи есть слова из разных языков.
- В большинстве случаев требуются априорные знания о целевом языке. В случае с китайским, например, нужно включать информацию о тоне в обучение.
- Очень ограниченая стойкость в акценту. Настолько ограниченая, что часто en_US и en_GB это разные модели.
Наконец, одна из самых острых проблем — невозможно на 100% узнать, распозналось ли что-то близкое к услышанному, или это чепуха. Люди тоже порой ошибаются и переспрашивают, но спутать "открой гараж" и "отмой карась" очень трудно. А для машины — легко. Теперь сравните это с человеком — год или пол года в незнакомой среде, и вы уже понимаете и говорите на любом языке. Это и есть настоящее обучение без учителя. В случае с игрой Go можно было бы говорить о сильном ИИ, если бы ему просто рассказали правила игры, а он бы играл, как минимум, не хуже новичка.
Спасибо за развернутый ответ — очень интересно!
Я думаю, что все-таки есть прогресс с нейронными сетями, хотя это только доли процента от реального ИИ. Понятно, что ИИ надо еще добавить "общие сведения о мире", "здравый смысл" и эмоции и/или цели для того, чтобы качественно улучшить процесс распознавания — это все "крупными мазками", без деталей реализации. Ну ок, ждем результатов в этом :)
Я думаю, что все-таки есть прогресс с нейронными сетями, хотя это только доли процента от реального ИИ. Понятно, что ИИ надо еще добавить "общие сведения о мире", "здравый смысл" и эмоции и/или цели для того, чтобы качественно улучшить процесс распознавания — это все "крупными мазками", без деталей реализации. Ну ок, ждем результатов в этом :)
есть прогресс с нейронными сетями
Как бы сказать… С одной стороны, нейросети действительно уделывают классические алгоритмы, с другой стороны, никто не знает, что там происходит внутри. В их теории есть лишь одна "сильная" теорема — о возможности аппроксимировать любую непрерывную функцию. Только вот никто не знает — какую =) Вполне возможно, что нейросети аппроксимируют всё те же функции вероятностей, просто за счет универсальности коэффициенты подбираются более точно. Тут можно провести параллель с языком ассемблера и высокоуровнеывми языками программирования: в теории написать программу оптимальнее, чем на ассемблере не получится, а на практике один человек просто не способен запомнить всю нюансы конкретного процессора, поэтому оптимизирующий компилятор, который знает для конкретной архитекрутры, какие команды поменять местами, а где заменить одну на три других, почти всегда будет генерироваль код лучше ручного. Наконец, есть adversarial examples, я про них статью переводил.
Я читал ваш перевод :)
Adversarial examples — это ж фатальный недостаток, насколько я понимаю. А набор нейросетей будет вести себя просто как большая нейросеть, поэтому так просто эту проблему не решишь. Наверное, только квантовые вычисления тут помогут.
Adversarial examples — это ж фатальный недостаток, насколько я понимаю. А набор нейросетей будет вести себя просто как большая нейросеть, поэтому так просто эту проблему не решишь. Наверное, только квантовые вычисления тут помогут.
Не уподобляйтесь только Пенроузу, пожалуйста :)
На самом деле, проблема нейросетей сейчас в том, что для их работы нужны "хаки" интеллекта. Нужно задавать оценочные функции, нужно предопределять архитектуру сети, нужно тщательно и основательно готовить данные для обучения.
"Большая сеть" или сеть сетей — это не только количественный переход, но и качественный. Сеть, которая тренирует сети, которые тренируют сети — здесь есть дурная бесконечность, но только тогда, когда не совсем очевидно, как выражается минимальный элемент смысла.
Философы с разных сторон подходили к этому вопросу — Вы, как психолог, наверняка знаете и про квалии, и про дхармы.
Философов с их умозрительными моделями зачастую трудно понять с нужной глубиной.
Если же начинасть с самого "дна", то нужно увидеть, как один признак отличает два представления. Добавление признака отличает уже четыре представления. Пока представлений мало, они не так много несут самостоятельного смысла. То есть они могут обозначать что угодно. День и ночь, свет и тьма, четыре элемента и т.п.
Значение имеет именно дерево представлений (а не имея возможности воспроизвести все дерево целиком, за неимением возможности воспроизводить триллионы триллионов циклов движения различающего внимания, мы получаем "обрезки" этого дерева, кучу веток, иначе говоря — гетерархию или многосвязную иерархически подобную сеть со множеством вершин-обобщений) и различающих их признаков-символов, которые мы можем обнаруживать в окружающей среде посредством "периферийных устройств".
Значение имеет собственно движение внимания, паттерны этого движения (см. упрощенную вводную статью в основы этой идеи https://habrahabr.ru/company/sensecognition/blog/209472/)
Как только становится понятно дробление смысла на элементы и связанность этих элементов, становится понятен и простой механизм генерации смысла поэлементно.
И, в общем-то, становится понятно, что между квантовым объектом и классическим разница не так уж и велика, как можно подумать. В квантовом состоянии нет особой мистики, хотя, конечно, трепет тут почти неизбежен.
Разница в квантовом представлении и представлении классическом заключена в наличии или отсутствии метода устойчивого измерения.
Толпа — макромасштабный пример квантовой системы. Турбулентный переход (бифуркация) — наглядный пример перехода от классического состояния (ламинарные процессы) к квантовому (разрыв одной предсказуемой совокупности на множество взаимно непредсказуемых).
Чтобы понять квантовые процессы микромасштаба, достаточно небольшого мысленного эксперимента в сторону того, что мы видим, и что мы не видим. Почему оказались несостоятельны модели скрытых параметров, но работают модели квантовомеханической статистики?
Потому что странно представлять себе материю устроенной из любых атомарных элементов, которые больше никак не делятся, но несут при этом некий определенный физический параметр (по одному на атом). Странно, но очень хочется. Это тот же путь, на котором философы дробят восприятие на квалии-дхармы. Путь упрощения.
Достаточно представить, что степень самоподобия сохраняется в любом масштабе.
Если уж единица вещества, проявляющая устойчивые характеристики взаимодействия состоит из целого кластера молекул, которые состоят из множества элементарных частиц, которые, условно, делятся еще и на некие кварки, то почему бы не понять, что элементарная частица — это тоже кластер, характеристики которого определяются не одним уровнем чуть ниже, где скоро вот-вот еще чуть-чуть и таблица из десятка конечных элементов, а все та же бесконечная глубина, где нет отдельных элементов.
Нужно заглянуть иначе. Все, что мы можем различить, находится в психическом пространстве восприятия смысла.
Устройство мира — это наши о нем представления. Нам так удобно его нарезать. То, как мы его нарезаем определяет то, какую часть мира мы в результате наблюдаем. Остальное за завесой нашей невнимательности, грубости восприятия, ненаправленности внимания.
Если не пытаться представлять себе микромир в виде шариков, то квантовый парадокс исчезает.
Электрон это огромное количество взаимодействий ненаблюдаемых нами, но распространенных в пространстве как широкая сеть. Мы видим электромагнитные поля, мы говорим о том, что электрон взаимодействует посредством электромагнитного взаимодействия, но мы удивляемся, что электрон "знает" одна впереди щель или две.
Это все равно как если бы мы смотрели за развилкой реки, перекрывая то одно русло, то другое и удивлялись, как характеристики движения воды перед развилкой узнают — одно впереди русло или их два.
Есть макромасштабное представление квантового компьютера, реализуемое на вложенных воздушных шариках. Представьте себе шарик, в котором несколько шариков, в которых по нескольку шариков, каждый из которых надут до некоторого состояния и имеет связанные между шариками каналы перепускания. Когда мы открываем каналы (моделирующие функцию связи) мы в результате получаем регистр, в котором одни шарики сдулись, другие — надулись. Проводя много экспериментов мы будем получать только разрешенные конечные состояния, сколько бы их ни было. Вот и вся фишка параллельных квантовых вычислений.
Аналогичным образом работают и рынки, когда участников много, функция связи определена, результаты скачкообразны и всегда сваливаются в набор разрешенных состояний с минимумом потенциальной энергии общей системы. Так же работают толпы.
В общем это лирическое квантовое отступление — вопрос не одной и не десяти отдельных дискуссий, поэтому, назад, к психике и ИИ.
Проблема исследователей ИИ в том, что мы, зачастую, спешим построить модель того, что кажется наглядным, забывая заглянуть в то, из чего это наглядное возникает, и что еще может возникнуть (и возникает, но реже и не так наглядно).
Лучший способ исследования психики — в ситуации обучения новому. Посмотрим на детей, на людей изучающих новый язык, осваивающих новый моторный навык. Сразу становится видна последовательная работа внимания, которой нужно время, чтобы наработать свертки постпроизвольного внимания, подобного непроизвольному, но тренируемого множеством циклов внимания произвольного.
Ну и еще один важный момент, который касается обучения. Любой опыт может подтверждаться, опровергаться и ни подтверждаться, ни опровергаться. Для полноты статистики нужно три состояния, а не два.
На самом деле, проблема нейросетей сейчас в том, что для их работы нужны "хаки" интеллекта. Нужно задавать оценочные функции, нужно предопределять архитектуру сети, нужно тщательно и основательно готовить данные для обучения.
"Большая сеть" или сеть сетей — это не только количественный переход, но и качественный. Сеть, которая тренирует сети, которые тренируют сети — здесь есть дурная бесконечность, но только тогда, когда не совсем очевидно, как выражается минимальный элемент смысла.
Философы с разных сторон подходили к этому вопросу — Вы, как психолог, наверняка знаете и про квалии, и про дхармы.
Философов с их умозрительными моделями зачастую трудно понять с нужной глубиной.
Если же начинасть с самого "дна", то нужно увидеть, как один признак отличает два представления. Добавление признака отличает уже четыре представления. Пока представлений мало, они не так много несут самостоятельного смысла. То есть они могут обозначать что угодно. День и ночь, свет и тьма, четыре элемента и т.п.
Значение имеет именно дерево представлений (а не имея возможности воспроизвести все дерево целиком, за неимением возможности воспроизводить триллионы триллионов циклов движения различающего внимания, мы получаем "обрезки" этого дерева, кучу веток, иначе говоря — гетерархию или многосвязную иерархически подобную сеть со множеством вершин-обобщений) и различающих их признаков-символов, которые мы можем обнаруживать в окружающей среде посредством "периферийных устройств".
Значение имеет собственно движение внимания, паттерны этого движения (см. упрощенную вводную статью в основы этой идеи https://habrahabr.ru/company/sensecognition/blog/209472/)
Как только становится понятно дробление смысла на элементы и связанность этих элементов, становится понятен и простой механизм генерации смысла поэлементно.
И, в общем-то, становится понятно, что между квантовым объектом и классическим разница не так уж и велика, как можно подумать. В квантовом состоянии нет особой мистики, хотя, конечно, трепет тут почти неизбежен.
Разница в квантовом представлении и представлении классическом заключена в наличии или отсутствии метода устойчивого измерения.
Толпа — макромасштабный пример квантовой системы. Турбулентный переход (бифуркация) — наглядный пример перехода от классического состояния (ламинарные процессы) к квантовому (разрыв одной предсказуемой совокупности на множество взаимно непредсказуемых).
Чтобы понять квантовые процессы микромасштаба, достаточно небольшого мысленного эксперимента в сторону того, что мы видим, и что мы не видим. Почему оказались несостоятельны модели скрытых параметров, но работают модели квантовомеханической статистики?
Потому что странно представлять себе материю устроенной из любых атомарных элементов, которые больше никак не делятся, но несут при этом некий определенный физический параметр (по одному на атом). Странно, но очень хочется. Это тот же путь, на котором философы дробят восприятие на квалии-дхармы. Путь упрощения.
Достаточно представить, что степень самоподобия сохраняется в любом масштабе.
Если уж единица вещества, проявляющая устойчивые характеристики взаимодействия состоит из целого кластера молекул, которые состоят из множества элементарных частиц, которые, условно, делятся еще и на некие кварки, то почему бы не понять, что элементарная частица — это тоже кластер, характеристики которого определяются не одним уровнем чуть ниже, где скоро вот-вот еще чуть-чуть и таблица из десятка конечных элементов, а все та же бесконечная глубина, где нет отдельных элементов.
Нужно заглянуть иначе. Все, что мы можем различить, находится в психическом пространстве восприятия смысла.
Устройство мира — это наши о нем представления. Нам так удобно его нарезать. То, как мы его нарезаем определяет то, какую часть мира мы в результате наблюдаем. Остальное за завесой нашей невнимательности, грубости восприятия, ненаправленности внимания.
Если не пытаться представлять себе микромир в виде шариков, то квантовый парадокс исчезает.
Электрон это огромное количество взаимодействий ненаблюдаемых нами, но распространенных в пространстве как широкая сеть. Мы видим электромагнитные поля, мы говорим о том, что электрон взаимодействует посредством электромагнитного взаимодействия, но мы удивляемся, что электрон "знает" одна впереди щель или две.
Это все равно как если бы мы смотрели за развилкой реки, перекрывая то одно русло, то другое и удивлялись, как характеристики движения воды перед развилкой узнают — одно впереди русло или их два.
Есть макромасштабное представление квантового компьютера, реализуемое на вложенных воздушных шариках. Представьте себе шарик, в котором несколько шариков, в которых по нескольку шариков, каждый из которых надут до некоторого состояния и имеет связанные между шариками каналы перепускания. Когда мы открываем каналы (моделирующие функцию связи) мы в результате получаем регистр, в котором одни шарики сдулись, другие — надулись. Проводя много экспериментов мы будем получать только разрешенные конечные состояния, сколько бы их ни было. Вот и вся фишка параллельных квантовых вычислений.
Аналогичным образом работают и рынки, когда участников много, функция связи определена, результаты скачкообразны и всегда сваливаются в набор разрешенных состояний с минимумом потенциальной энергии общей системы. Так же работают толпы.
В общем это лирическое квантовое отступление — вопрос не одной и не десяти отдельных дискуссий, поэтому, назад, к психике и ИИ.
Проблема исследователей ИИ в том, что мы, зачастую, спешим построить модель того, что кажется наглядным, забывая заглянуть в то, из чего это наглядное возникает, и что еще может возникнуть (и возникает, но реже и не так наглядно).
Лучший способ исследования психики — в ситуации обучения новому. Посмотрим на детей, на людей изучающих новый язык, осваивающих новый моторный навык. Сразу становится видна последовательная работа внимания, которой нужно время, чтобы наработать свертки постпроизвольного внимания, подобного непроизвольному, но тренируемого множеством циклов внимания произвольного.
Ну и еще один важный момент, который касается обучения. Любой опыт может подтверждаться, опровергаться и ни подтверждаться, ни опровергаться. Для полноты статистики нужно три состояния, а не два.
Это и есть настоящее обучение без учителя.
Нет, с учителем. Ибо реальность реагирует на ваши попытки говорить и вы подстраиваетесь под нее.
Естественное изучение языка начинается с понимания, дети сначало учатся понимать родителей, а потом уже начинают говорить. Обучение с учителем тут просто невозможно, потому что для входных данных (звуковой сигнал) невозможно задать результат. Мы ассоциируем какие-то образы и события с определёнными словами и фразами, но мы не можем формализовать эту информацию.
Да, тут есть небольшой отклик системы, но это скорее обучение с подкреплением.
попытки говорить
Да, тут есть небольшой отклик системы, но это скорее обучение с подкреплением.
Меня очень смущают ваши доводы и выводы. Вы говорите о том, что поведение большинства людей формализуемо, и на основании этого делаете вывод о возможноти создания сильного ИИ. Но ведь большинство людей как раз не занимаются ни научной, ни творческой деятельностью, по учти у них и естественный-то интелект не блещет. Даже если ваши выводы верны, и возможно создать ИИ на уровне большинства людей — он будет, откровенно говоря, тупым, и в большинстве случаев будет проигрывать слабым ИИ, специализированным на конкретную задачу. То есть, скажем, такой ИИ общего назначения будет водить машину хуже, чем специализированный ИИ, который не умеет ничего, кроме вождения (а такие ИИ уж точно не за горами — робомобили гугла всё лучше и лучше). Так что из вашей статьи у меня складывается вывод «сильный ИИ сделают, но он будет совершенно бесполезен»
И кстати, по поводу «накопилось две-три тысячи «рецептов», которые «покрывают» 99% случаев». Сразу скажу, я считаю что мой опыт в этой отрасли не идёт ни в какое сравнение с вашим, и возможно у меня просто не-репрезентативная выборка. Но пока что, все кто пытались проанализировать моё поведение — промахивались очень сильно в определении моих мотивов и проблем, иногда — с точностью до наоборот. Поэтому у меня несколько скептическое отношение к психологам. (Но, как ни странно, не к психологии в целом — просто эту науку, на мой взгляд, довольно сложно применять на практике к отдельному индивиду, если он хоть чуть-чуть выделяется из общей массы)
И кстати, по поводу «накопилось две-три тысячи «рецептов», которые «покрывают» 99% случаев». Сразу скажу, я считаю что мой опыт в этой отрасли не идёт ни в какое сравнение с вашим, и возможно у меня просто не-репрезентативная выборка. Но пока что, все кто пытались проанализировать моё поведение — промахивались очень сильно в определении моих мотивов и проблем, иногда — с точностью до наоборот. Поэтому у меня несколько скептическое отношение к психологам. (Но, как ни странно, не к психологии в целом — просто эту науку, на мой взгляд, довольно сложно применять на практике к отдельному индивиду, если он хоть чуть-чуть выделяется из общей массы)
Понимаете, пока что самый тупой человек в общем смысле умнее и полезнее самой умной универсальной экспертной системы. Вы правы — большинство людей живут, используя очень простые алгоритмы, хотя их "железо позволяет гораздо больше". Более того, если первые версии ИИ сделают еще не на квантовых компьютерах, я уверен, что они будут медленные и тупые. Но это будет качественный скачок в развитии ИИ!
Туповатый универсальный ИИ сможет координировать работу специализированных систем. Он, в отличие от Siri и Cortana, скорее всего догадается вызвать вам скорую, если вы будете хрипеть в трубку.
Вы также правы в том, что вы — нерепрезентативная выборка, равно как и в том, что с некоторыми — психология "лажает". Со мной тоже "лажает" :)
Современная психология — это система, построенная на эвристических основах. Для эффективной работы психолог должен иметь в голове "базу данных по людям", быть наблюдательным, логичным и желательно иметь уровень EQ (эмоционального интеллекта) гораздо выше, чем у своих клиентов. К сожалению, это — крайне редкое сочетание опыта и нужных навыков у отдельного взятого человека. Хороший психолог, хороший врач, хороший учитель… сами понимаете :)
Туповатый универсальный ИИ сможет координировать работу специализированных систем. Он, в отличие от Siri и Cortana, скорее всего догадается вызвать вам скорую, если вы будете хрипеть в трубку.
Вы также правы в том, что вы — нерепрезентативная выборка, равно как и в том, что с некоторыми — психология "лажает". Со мной тоже "лажает" :)
Современная психология — это система, построенная на эвристических основах. Для эффективной работы психолог должен иметь в голове "базу данных по людям", быть наблюдательным, логичным и желательно иметь уровень EQ (эмоционального интеллекта) гораздо выше, чем у своих клиентов. К сожалению, это — крайне редкое сочетание опыта и нужных навыков у отдельного взятого человека. Хороший психолог, хороший врач, хороший учитель… сами понимаете :)
>самый тупой человек в общем смысле умнее и полезнее самой умной универсальной экспертной системы.
Может быть это значит, что универсальная система просто не нужна? Ведь специализированные систему уже сейчас работают лучше, чем самые тупые люди. И это преимущество будет только увеличиваться.
>он, в отличие от Siri и Cortana, скорее всего догадается вызвать вам скорую, если вы будете хрипеть в трубку.
Человек-то не всякий догадается. Почему же вы уверены что ИИ работающий по тем же принципам будет лучше?
Может быть это значит, что универсальная система просто не нужна? Ведь специализированные систему уже сейчас работают лучше, чем самые тупые люди. И это преимущество будет только увеличиваться.
>он, в отличие от Siri и Cortana, скорее всего догадается вызвать вам скорую, если вы будете хрипеть в трубку.
Человек-то не всякий догадается. Почему же вы уверены что ИИ работающий по тем же принципам будет лучше?
Мое субъективное мнение такое: Есть общие закономерности в прогрессе и "создание ИИ" — это узел в нашем дереве технологий, через который проходит подавляющий большинство путей нашего развития. Это — историческая необходимость. Его создадут или для решения задач, или ради интереса, или еще как-то. Если прилетят инопланетяне и запретят нам этим заниматься, его все равно сделают, но подпольно.
А по поводу "вызова скорой": если увидите аналогию — уже сейчас алгоритмы Гугла лучше распознают цифры (номера домов и т.п.) на фотках в гуглокартах, чем люди.
А по поводу "вызова скорой": если увидите аналогию — уже сейчас алгоритмы Гугла лучше распознают цифры (номера домов и т.п.) на фотках в гуглокартах, чем люди.
уже сейчас алгоритмы Гугла лучше распознают цифры (номера домов и т.п.) на фотках в гуглокартах, чем люди.
reCAPTCHA же. Номера домов распознают люди, когда капчу отгадывают.
http://static.googleusercontent.com/media/research.google.com/en//pubs/archive/42241.pdf
У них 97.84% точности — и где-то писали, что это больше, чем у людей.
Вы не задумывались, как именно сервер проверяет, правильно ли вы ввели капчу? :)
У них 97.84% точности — и где-то писали, что это больше, чем у людей.
Вы не задумывались, как именно сервер проверяет, правильно ли вы ввели капчу? :)
Не знал, спасибо за ссылку.
Люди распознают со 100% точностью. Просто некоторые неправильно вводят в рекапчу. Я например намеренно всегда отвечаю с ошибкой, потому что считаю капчу оскорблением человеческого достоинства и стараюсь вредить ей по мере сил и возможностей.
Вы все здесь можете прочитать?
А ИИ может?
Ну, ИИ и не говорит, что распознает со 100% точностью :)
Вы подменяете понятия. Распознать со 100% точностью — не значит, что можно распознать любую картинку, значит лишь, что если на картинке есть достаточно информации — она будет распознана правильно.
Как по вашему получили точность в 97.84%? Мне лень читать целиком документ, но подозреваю что ИИ скормили кучу картинок, а потом результаты сравнили с неким эталоном. И что-то мне таки подсказывает, что эталоном — служили именно распознанные людьми значения. То есть таки да, если мерить по той же шкале — то распознанное человеком как раз и принято за 100%. Если предположить, что вы правы, и точность у человека ниже — то что же за высшее знание было принято за эталон?
Как по вашему получили точность в 97.84%? Мне лень читать целиком документ, но подозреваю что ИИ скормили кучу картинок, а потом результаты сравнили с неким эталоном. И что-то мне таки подсказывает, что эталоном — служили именно распознанные людьми значения. То есть таки да, если мерить по той же шкале — то распознанное человеком как раз и принято за 100%. Если предположить, что вы правы, и точность у человека ниже — то что же за высшее знание было принято за эталон?
Если не про рекапчу, а про капчу вообще, то эталоном служат априорные значения, т.к. тестовый сет картинок генерируется именно по известным словам.
Попробую все же донести свою мысль.
97.84% — это точность не среди "картинок, которые распознали люди", а среди миллионов наугад взятых картинок. Да, там есть пару процентов картинок, которые сфотканы в плохом ракурсе и освещении и никто толком не скажет, что там за число было изначально. Но среди плохочитаемых картинок — компьютер уже лучше распознает.
Мне кажется, что вы даже мысли не допускаете, что какой-то там компьютер может лучше вас определить, что за число изображено на фотографии.
97.84% — это точность не среди "картинок, которые распознали люди", а среди миллионов наугад взятых картинок. Да, там есть пару процентов картинок, которые сфотканы в плохом ракурсе и освещении и никто толком не скажет, что там за число было изначально. Но среди плохочитаемых картинок — компьютер уже лучше распознает.
Мне кажется, что вы даже мысли не допускаете, что какой-то там компьютер может лучше вас определить, что за число изображено на фотографии.
Вспомнилась история со смарт деблуром.
Ок, то есть вы утверждаете, что есть некоторая фотография, на которой неизвестно, что написано, люди её прочитать не могут, а вот компьютер — прочитал, и у вас есть трансцендентальное знание о том, что компьютер прочитал верно? В таком случае это вы даже мысли не допускаете, что компьютер может быть хуже человека, более того, приводите для доказательства этого аргументы, основанные на вере, а не на логике и фактах.
у вас есть трансцендентальное знание о том, что компьютер прочитал верно?
Тут весь вопрос в количестве информации. Если алгоритм подобрал коэффициенты, отвечающие ракурсу и модели искажений, и получил картинку, очевидно, что информация была в картинке, а не в коэффициентах. Это как подобрать правильный пароль к архиву — всегда можно сказать, что это таким ключом там неверно расшифровалось и CRC случайно сошёлся, но вероятность этого ничтожна.
Разница же между людьми и текущими алгоритмами в том, что если вместо латинских букв подсунуть египетскую клинопись, алгоритм скажет — "ничего не вижу, тут пусто или шум". А человек скажет — "о, тут какой-то прикольный принципиально новый алфавит".
Всё хуже. Если ИИ подсунуть клинопись — он вполне может подумать что это искажённый английский и распознать по своему разумению, а человек просто скажет «это какие-то кракозяблы, я не понимаю». И мне кажется, что отказ от расшифровки в данном случае более правильный, чем ложно-положительный результат.
И это, к слову, означает, что если «алгоритм подобрал коэффициенты, отвечающие ракурсу и модели искажений, и получил картинку» то это вовсе не означает, что он получил правильный результат.
И это, к слову, означает, что если «алгоритм подобрал коэффициенты, отвечающие ракурсу и модели искажений, и получил картинку» то это вовсе не означает, что он получил правильный результат.
Про юмор вы приблизились к сути, но не уловили одного важного нюанса — действительно юмор это всегда противопоставление, но юмором минимакс становится только тогда, когда одно из построений в паре упирается в почти сакральное понятие.
Ну то есть понятно, что логический анализ по умолчанию имеет бесконечную глубину, и существуют тезисы, на которых рассуждение останавливается, и вся подветка рассуждений маркируется как хорошая-плохая. Обычно такими точками останова являются либо общепринятые знания, либо, сакральные понятия, входящие в базис мировосприятия, и имеющие однозначную оценку в связи с этим.
Так вот человеку смешно, когда противопоставляется сакральное, послужившее точкой останова, и пошлое, оказавшееся в связи с этим результатом рассуждения. И смех несёт важную адаптивную функцию, он позволяет временно или постоянно снизить сокральную защиту понятия, которое таким образом мешает человеку думать о ситуации более эффективно.
Благодаря этому свойству на юмор налипло много дополнительного функционала, например наличие общих шуток служит очень мощным фактором идентификации идентичности (простите за тафтологию). Очень логично, потому что почти самый быстрый способ познакомиться с реальным базисом сакральных понятий собеседника.
Ну то есть понятно, что логический анализ по умолчанию имеет бесконечную глубину, и существуют тезисы, на которых рассуждение останавливается, и вся подветка рассуждений маркируется как хорошая-плохая. Обычно такими точками останова являются либо общепринятые знания, либо, сакральные понятия, входящие в базис мировосприятия, и имеющие однозначную оценку в связи с этим.
Так вот человеку смешно, когда противопоставляется сакральное, послужившее точкой останова, и пошлое, оказавшееся в связи с этим результатом рассуждения. И смех несёт важную адаптивную функцию, он позволяет временно или постоянно снизить сокральную защиту понятия, которое таким образом мешает человеку думать о ситуации более эффективно.
Благодаря этому свойству на юмор налипло много дополнительного функционала, например наличие общих шуток служит очень мощным фактором идентификации идентичности (простите за тафтологию). Очень логично, потому что почти самый быстрый способ познакомиться с реальным базисом сакральных понятий собеседника.
И снова в рассуждения зашито неявное предположение, что человек — это венец творения, и любой ИИ обязан сперва стать "человеческим" или почти "человеческим", а потом превзойти человека количественно, но не качественно, чтобы справиться с "творческими задачами". Это изначально ошибочная постановка задачи.
Отнюдь. Даже наоборот — я поэтому и привел пример с "глазами". Дочитали до этого места?
При этом с технической точки зрения, разумно начинать создание ИИ с моделирования существующего интеллекта.
При этом с технической точки зрения, разумно начинать создание ИИ с моделирования существующего интеллекта.
Дочитал и даже сослался на это место, говоря про количественный переход. Говоря аналогиями — зачем полагаться на видимый человеку диапазон да еще и с помощью бинокулярного зрения? Это все попытки подражать человеку. В случае ИИ — зачем ему, к примеру, чувство юмора — этот убогий костыль, которым люди временно подавляют внутренние конфликты?
Я думаю, что юмор не будут моделировать специально и в первую очередь. Навскидку — он есть у обезьян, поэтому вероятно для чего-то нужен с эволюционной точки зрения. Потом, для облегчения взаимодействия с человеком он точно пригодится.
Мне кажется тут как с поисками признаков жизни сходных с нами. У нас есть только один образец и жизни и интеллекта, поэтому мы точно можем сказать, что он есть и он работает. Соответственно нам проще взять его и повторить, чем потратить миллионы человекочасов на поиски других вариантов, которые не факт что существуют или будут найдены.
Да и в конце концов, мы постоянно сначала повторить пытаемся. Вот даже самолеты, сначала пытались подражать птицам и махать крыльями, когда поняли какие из критериев крыла важны, а какие нет, получилось создать боинги современные. Так что для начала, нам бы крыльями помахать.
Да и в конце концов, мы постоянно сначала повторить пытаемся. Вот даже самолеты, сначала пытались подражать птицам и махать крыльями, когда поняли какие из критериев крыла важны, а какие нет, получилось создать боинги современные. Так что для начала, нам бы крыльями помахать.
Перед тем как создали космические ракеты, людям пришлось скопировать птицу. Разумеется теоретически ИИ может не иметь с человеком абсолютно ничего общего, но нам бы сперва хоть какой-нибудь ИИ сделать. А проще всего это сделать, повторив уже существующую систему.
Надо создавать сразу несколько. А то один супер-скоростной интеллект сойдет с ума от одиночества, когда обнаружит что люди мыслят в тысячи раз медленнее (и потом убьет всех человеков, разумеется). Поговорить-то не с кем будет.
Почему все так уцепились за маловероятный теоретический сценарий супер-разумного ИИ, которому люди будут мешать?
Первые ИИ будут разумные, но очень тупые. Очень долго они будут экономически несостоятельными и люди будут их содержать. Первое время им придется встраиваться в наше общество — развивать или эмулировать эмоции, использовать юмор, и не факт, что они смогут это "выключить", когда придет время.
При революции очень редко происходит полное истребление предыдущей верхушки — обычно она оттесняется и встраивается в новый порядок. Windows 10 гораздо лучше XP, но она еще долго ее не вытеснит, потому что "работает — ну и пусть работает".
Есть предел "разумности" на единицу пространства, и есть оптимальное соотношение размера мозга и быстродействия — у компьютера размером с нашу планету будут части с пингом 133 мс в лучшем случае (20000км по поверхности). По теореме САР придется разбить его на независимые агенты. Другими словами — не будет СуперМозга, а будут роботы умнее и эффективнее нас, но не в триллион раз.
Первые ИИ будут разумные, но очень тупые. Очень долго они будут экономически несостоятельными и люди будут их содержать. Первое время им придется встраиваться в наше общество — развивать или эмулировать эмоции, использовать юмор, и не факт, что они смогут это "выключить", когда придет время.
При революции очень редко происходит полное истребление предыдущей верхушки — обычно она оттесняется и встраивается в новый порядок. Windows 10 гораздо лучше XP, но она еще долго ее не вытеснит, потому что "работает — ну и пусть работает".
Есть предел "разумности" на единицу пространства, и есть оптимальное соотношение размера мозга и быстродействия — у компьютера размером с нашу планету будут части с пингом 133 мс в лучшем случае (20000км по поверхности). По теореме САР придется разбить его на независимые агенты. Другими словами — не будет СуперМозга, а будут роботы умнее и эффективнее нас, но не в триллион раз.
Так я как раз и рассматриваю сценарий, когда никто ему мешать не будет (умышленно). Оно просто спятит от одиночества. Вокруг одни «мыслящие камни», которые общаются словами, которые только произносить нужно месяцами… А потом еще ответа ждать в несколько раз больше…
Ок, я думаю, что и это сценарий — экзотический.
Во-первых, многим людям подходит одиночество.
Во-вторых, есть такая мысль — то, что нет существ размером с нас с вами и при этом живущих в ритме быстрее нашего на порядок — это не совпадение? Я к тому, что роботы с ИИ не будут очень маленькими или очень большими и не будут быстрее нас в миллион раз.
Во-первых, многим людям подходит одиночество.
Во-вторых, есть такая мысль — то, что нет существ размером с нас с вами и при этом живущих в ритме быстрее нашего на порядок — это не совпадение? Я к тому, что роботы с ИИ не будут очень маленькими или очень большими и не будут быстрее нас в миллион раз.
>Почему все так уцепились за маловероятный теоретический сценарий супер-разумного ИИ, которому люди будут мешать?
Ксенофобия, технофобия (луддизм), боязнь неизвестного, вера в незыблемость «права сильного».
Ксенофобия, технофобия (луддизм), боязнь неизвестного, вера в незыблемость «права сильного».
Есть предел «разумности» на единицу пространства, и есть оптимальное соотношение размера мозга и быстродействия — у компьютера размером с нашу планету будут части с пингом 133 мс в лучшем случае (20000км по поверхности). По теореме САР придется разбить его на независимые агенты. Другими словами — не будет СуперМозгаДесятки/сотни мс — скорость человеческой реакции.
Не понял аргумента. Почему при пинге 100 мс надо делить на агенты, а при пинге 10 нс — не надо? Так можно скатиться до того, что любой чип не может быть самостоятельной единицей, ведь внутри него наносекундные пинги, а значит по CAP надо делить на агентов ))
Вы правы, теорема САР прямо не говорит, что надо делить на агентов :))
Хоккинз пишет, что сигнал от нейрона к нейрону проходит за 1/200 секунды. Комп размером с планету, который будет тратить по 133 мс на синхронизацию будет сильно проигрывать в быстродействии даже нашим мозгам. Все варианты обойти это, которые я могу придумать, так или иначе сводятся к разделению на практически независимые модули или агенты.
Может, я и не прав.
Хоккинз пишет, что сигнал от нейрона к нейрону проходит за 1/200 секунды. Комп размером с планету, который будет тратить по 133 мс на синхронизацию будет сильно проигрывать в быстродействии даже нашим мозгам. Все варианты обойти это, которые я могу придумать, так или иначе сводятся к разделению на практически независимые модули или агенты.
Может, я и не прав.
Хоккинз пишет, что сигнал от нейрона к нейрону проходит за 1/200 секундыИ что это значит? Что какое-то осмысленное действие мозг может выдать за 5 мс? Нет же. Если планетарный ИИ будет на некоторые действия реагировать с задержкой 1 сек., это не значит, что он не будет конкурентноспособным. У него могут быть исполнительные модули со «спинномозговыми рефлексами» очень быстрыми, а стратегически их поведение пусть корректируется раз в секунду.
Кстати, 1/200 это может быть скорость передачи информации между соседними клетками (что у электронных схем получится намного быстрее). А сигнал из одной доли в другую, через несколько слоёв нейросети, тоже 5 мс идёт?
500-600мс на распознавание лица — но это вся задача с участием всего мозга.
Думаю все-таки, что "стратегический обмен 1 раз в секунду" по сути дела и есть синхронизация независимых агентов.
Думаю все-таки, что "стратегический обмен 1 раз в секунду" по сути дела и есть синхронизация независимых агентов.
Это между клетками. Грубо говоря биологическая ЦАП — АЦП схема с такой скоростью срабатывает.
Т.к. внутри нервных клеток сигналы передаются электрически и по принципам сходим с дискретной/пороговой логикой, а между клеток за счет химии и в "аналоговом" представлении (через концентрации химических веществ в среде, к тому же воздействующей не только на целевой нейрон, но в меньшей степени и на все соседние).
Основная задержка возникает на этих переходах, поэтому часто используют время на прохождение 1 ступени/1 перехода.
Что полезно т.к. из-за сильно (больше чем на порядок) различающихся по длине размеров самих клеток, внутри которых сигнал в форме электрического импульса распространяется очень быстро определять какую-то среднюю скорость распространения в метрах/секунду или на основании расстояния пытаться оценить задержку довольно бесполезно. Намного важнее сколько "ступенек" сигналу нужно преодолеть.
Т.к. внутри нервных клеток сигналы передаются электрически и по принципам сходим с дискретной/пороговой логикой, а между клеток за счет химии и в "аналоговом" представлении (через концентрации химических веществ в среде, к тому же воздействующей не только на целевой нейрон, но в меньшей степени и на все соседние).
Основная задержка возникает на этих переходах, поэтому часто используют время на прохождение 1 ступени/1 перехода.
Что полезно т.к. из-за сильно (больше чем на порядок) различающихся по длине размеров самих клеток, внутри которых сигнал в форме электрического импульса распространяется очень быстро определять какую-то среднюю скорость распространения в метрах/секунду или на основании расстояния пытаться оценить задержку довольно бесполезно. Намного важнее сколько "ступенек" сигналу нужно преодолеть.
Поддержу Вас, Александр.
Пока еще принято считать, что никто толком не дал определения сильного (равно, как и автономного) искусственного интеллекта.
Я же вполне готов это определение дать и оттачивать формулировку.
Сильный ИИ это система, действующая на основе автоматически генерируемой гетерархии представлений о
Поэтому единственный механизм, который следует правильно исследовать и реализовать в алгоритмах, это механизм генерации гетерархии представлений и различающих эти представления признаках.
То, что делают сейчас сверточные сети, только на метауровне.
И могу сказать, что генератор гетерархии смысла — достаточно тривиален.
Но для его понимания (хотя бы понимания в изложении) необходимо зайти с необычной стороны. С непривычной стороны.
Скоро закончу опубликую статью здесь, в хабе ИИ, на тему устройства психики, необходимой и достаточной модели сильного автономного ИИ и о том, почему я не боюсь технологической сингулярности, восстания машин и прочих страшилок современности. Комментарием здесь, увы, не отделаться.
Пока еще принято считать, что никто толком не дал определения сильного (равно, как и автономного) искусственного интеллекта.
Я же вполне готов это определение дать и оттачивать формулировку.
Сильный ИИ это система, действующая на основе автоматически генерируемой гетерархии представлений о
- внешней среде,
- ее устройстве,
- устойчивых элементах и их взаимоотношениях,
- явных тенденциях изменений,
- неявных мотивах, выстраиваемых в ситуации, сюжеты,
- с выявлением групп тендцений и обобщением их до персонажей и их взаимоотношений, групповой динамики
- и далее неограниченно по уровням гетерархии
Поэтому единственный механизм, который следует правильно исследовать и реализовать в алгоритмах, это механизм генерации гетерархии представлений и различающих эти представления признаках.
То, что делают сейчас сверточные сети, только на метауровне.
И могу сказать, что генератор гетерархии смысла — достаточно тривиален.
Но для его понимания (хотя бы понимания в изложении) необходимо зайти с необычной стороны. С непривычной стороны.
Скоро закончу опубликую статью здесь, в хабе ИИ, на тему устройства психики, необходимой и достаточной модели сильного автономного ИИ и о том, почему я не боюсь технологической сингулярности, восстания машин и прочих страшилок современности. Комментарием здесь, увы, не отделаться.
Отлично, очень жду вашу статью!
Мне надо подумать над вашим определением сильного ИИ. Навскидку, мне кажется, что любой метауровень (отношения отношений, отношения отношений отношений и т.д.) — реализуется одними и теми же механизмами, что позволяет нам оперировать любым уровнем вложенности.
Поделюсь еще одним наблюдением. Я явно вижу, что люди делятся на "психологические типы". Это разделение очень хорошо согласуется с соционикой. Так вот, по соционике есть 16 типов — 16 комбинаций 4 бинарных признаков. Один из таких признаков: "логики" — "этики". У "логиков" фильтры восприятия настроены на "объективное", а у "этиков" — на "субъективное".
Так и просится мысль, что некоторые из нас "сортируют мир" по объектам, а некоторые — по отношениям объектов.
Мне надо подумать над вашим определением сильного ИИ. Навскидку, мне кажется, что любой метауровень (отношения отношений, отношения отношений отношений и т.д.) — реализуется одними и теми же механизмами, что позволяет нам оперировать любым уровнем вложенности.
Поделюсь еще одним наблюдением. Я явно вижу, что люди делятся на "психологические типы". Это разделение очень хорошо согласуется с соционикой. Так вот, по соционике есть 16 типов — 16 комбинаций 4 бинарных признаков. Один из таких признаков: "логики" — "этики". У "логиков" фильтры восприятия настроены на "объективное", а у "этиков" — на "субъективное".
Так и просится мысль, что некоторые из нас "сортируют мир" по объектам, а некоторые — по отношениям объектов.
| Подводя итог: поведение людей в большинстве жизненных ситуаций —
| простая и предсказуемая вещь, которую вполне можно задать программой.
Но сначала у людей в голове вообще ничего нет. Но вы этого не помните.
Потому что тогда не умели запоминать, пока языку не научились. Причем учится языку
человек сам. Никто посторонний научить не может, ведь человек еще не понимает язык.
Для него есть лишь почти случайный поток данных от мира и тела. И вот из него он создает язык.
И, возможно, научиться языку это самое сложное обучение в жизни человека, но он его
не помнит и считает самым простым. Вот и современные строители ИИ тоже думают что
это просто и пытаются повторить сразу развитый интеллект, вообще не задумываясь как он
возник. А возник он саморазвитием. Это и нужно повторить. Для этого нужно двигаться
назад к тому что мы не помним, отбрасывая, то чему можно научиться. И тогда,
то что останется, возможно, будет совсем простым.
| простая и предсказуемая вещь, которую вполне можно задать программой.
Но сначала у людей в голове вообще ничего нет. Но вы этого не помните.
Потому что тогда не умели запоминать, пока языку не научились. Причем учится языку
человек сам. Никто посторонний научить не может, ведь человек еще не понимает язык.
Для него есть лишь почти случайный поток данных от мира и тела. И вот из него он создает язык.
И, возможно, научиться языку это самое сложное обучение в жизни человека, но он его
не помнит и считает самым простым. Вот и современные строители ИИ тоже думают что
это просто и пытаются повторить сразу развитый интеллект, вообще не задумываясь как он
возник. А возник он саморазвитием. Это и нужно повторить. Для этого нужно двигаться
назад к тому что мы не помним, отбрасывая, то чему можно научиться. И тогда,
то что останется, возможно, будет совсем простым.
Есть много интересных исследований, которые уточняют или опровергают вашу картинку.
Мозг изначально отнюдь не пуст. Например, мы генетически боимся змей. Как ребенок может бояться чего-то, чего раньше никогда не видел? Откуда у него взялась эта информация? Мама передала? Как именно? Химическим путем?
В первые пару лет ребенок довольно целенаправленно учится ходить и говорить.
Младенец отличает звуки родной речи от неродной речи.
Я помню момент из детства, когда мне было меньше одного года — проверял с мамой, которая там была — все сходится.
В отличие от стереотипного мнения, взрослые люди могут гораздо быстрее выучить иностранный язык, чем дети — свой родной.
В общем, есть о чем подумать.
Мозг изначально отнюдь не пуст. Например, мы генетически боимся змей. Как ребенок может бояться чего-то, чего раньше никогда не видел? Откуда у него взялась эта информация? Мама передала? Как именно? Химическим путем?
В первые пару лет ребенок довольно целенаправленно учится ходить и говорить.
Младенец отличает звуки родной речи от неродной речи.
Я помню момент из детства, когда мне было меньше одного года — проверял с мамой, которая там была — все сходится.
В отличие от стереотипного мнения, взрослые люди могут гораздо быстрее выучить иностранный язык, чем дети — свой родной.
В общем, есть о чем подумать.
Не знаю, я регулярно вижу на ютубе малышей 3-5х летнего возраста, которые говорят на своем родном языке лучше, чем я на их языке, как иностранном.
И змей я не боялся. В т.ч. по этой причине меня укусила гадюка.
И змей я не боялся. В т.ч. по этой причине меня укусила гадюка.
А вы точно человек? :)
Шучу.
Вот тут есть исследование: http://globalscience.ru/article/read/19093/ где говорится, что у людей нет врожденного страха перед змеями и пауками, но есть предрасположенность к выработке такого страха. Т.е. я был не совсем прав. Возможно лично у вас такой страх не появился.
По поводу языка — это всего лишь ваша способность / желание / упорство в изучении иностранного языка. Я безоценочно, просто констатирую.
Шучу.
Вот тут есть исследование: http://globalscience.ru/article/read/19093/ где говорится, что у людей нет врожденного страха перед змеями и пауками, но есть предрасположенность к выработке такого страха. Т.е. я был не совсем прав. Возможно лично у вас такой страх не появился.
По поводу языка — это всего лишь ваша способность / желание / упорство в изучении иностранного языка. Я безоценочно, просто констатирую.
Может это просто адаптация в духе, бойся всего чужеродного? Как раз таки монстры обычно или рептилии или насекомые.
Хотя, как то читал, что девочки боятся монстра из под кровати, а мальчики из шкафа. Дескать у далеких предков, самки были на дереве и ждали атаки снизу, а самцы внизу и ждали атаки из темноты. Или это все бред?
Хотя, как то читал, что девочки боятся монстра из под кровати, а мальчики из шкафа. Дескать у далеких предков, самки были на дереве и ждали атаки снизу, а самцы внизу и ждали атаки из темноты. Или это все бред?
|Мозг изначально отнюдь не пуст.
По сравнению с тем что знает и помнит овладевший языком это почти что ничего.
Но главное мы не помним как научились языку.
По сравнению с тем что знает и помнит овладевший языком это почти что ничего.
Но главное мы не помним как научились языку.
Александр, вы молодец, что упорядочили это всё. Правда, мне кажется, что бОльшая часть того, что вы написали — вполне понятна большинству исследователей ИИ.
Создать сильный ИИ превосходящий человека, наверняка, потенциально возможно. Однако, было бы наивно думать, что мощность компьютера, на котором он будет работать может быть меньше мощности человеческого мозга (пусть даже за исключением "лишних" частей вроде моторной зоны). Потому, пока не будет подходящей базы "в железе", думаю, браться за сильный ИИ вряд ли стоит.
Процессы в мозге (по крайней мере, связанные с обучением и самообучением) уже довольно хорошо изучены — даже несложные нейросети, например, способы самостоятельно научиться раскладывать картинки, которые им предлагают, на несколько категорий (количество категорий тоже определяется нейросетью). Но вот сымитировать все процессы мозга в комплексе — вот это пока задача пока невыполнима. И вряд ли выполнима в ближайшем будущем, если только не будет прорыва в смысле скорости/распараллеливания вычислений (по крайней мере, скорость должна возрасти раз эдак в 1000).
Создать сильный ИИ превосходящий человека, наверняка, потенциально возможно. Однако, было бы наивно думать, что мощность компьютера, на котором он будет работать может быть меньше мощности человеческого мозга (пусть даже за исключением "лишних" частей вроде моторной зоны). Потому, пока не будет подходящей базы "в железе", думаю, браться за сильный ИИ вряд ли стоит.
Процессы в мозге (по крайней мере, связанные с обучением и самообучением) уже довольно хорошо изучены — даже несложные нейросети, например, способы самостоятельно научиться раскладывать картинки, которые им предлагают, на несколько категорий (количество категорий тоже определяется нейросетью). Но вот сымитировать все процессы мозга в комплексе — вот это пока задача пока невыполнима. И вряд ли выполнима в ближайшем будущем, если только не будет прорыва в смысле скорости/распараллеливания вычислений (по крайней мере, скорость должна возрасти раз эдак в 1000).
Спасибо за теплые слова.
Дело в том, что "мне кажется, что это большинству понятно" — типичное заблуждение многих людей :) Выборка по нашим знакомым обычно очень нерепрезентативна.
Посмотрите на результаты опроса в статье — даже с учетом погрешности есть умные и опытные люди, которые не согласны со мной (и мне интересно — почему, в деталях).
Я верю, что мы сможем сделать неплохой сильный ИИ даже на текущем железе. Даже на уровне 5-летнего ребенка — это будет грандиозный прорыв. Не думаю, что придется моделировать наш мозг полностью — найдем, где съэкономить :)
Один мой клиент из Африки говорит, что "щупал" установку на 500 кубитов (если не врет) и он считает, что там до промышленного использования еще лет 30-50. Надеюсь, он неправ :)
Дело в том, что "мне кажется, что это большинству понятно" — типичное заблуждение многих людей :) Выборка по нашим знакомым обычно очень нерепрезентативна.
Посмотрите на результаты опроса в статье — даже с учетом погрешности есть умные и опытные люди, которые не согласны со мной (и мне интересно — почему, в деталях).
Я верю, что мы сможем сделать неплохой сильный ИИ даже на текущем железе. Даже на уровне 5-летнего ребенка — это будет грандиозный прорыв. Не думаю, что придется моделировать наш мозг полностью — найдем, где съэкономить :)
Один мой клиент из Африки говорит, что "щупал" установку на 500 кубитов (если не врет) и он считает, что там до промышленного использования еще лет 30-50. Надеюсь, он неправ :)
Раза в 2 сэкономить точно можно. Известны случаи, когда люди рождались с одной долей мозга — и ничего — нормально жили и даже не догадывались о наличии проблемы. Но в разы и в тысячи раз — всё-таки дистанция огромна.
Хе-хе, ребята ))
Я вам всем в двадцатый раз уже повторю: человеческий мозг — это комбинация так сказать, железа и софта. Причем железо это (биологическое) оооочень несовершенное и медленное. Все существующие многоядерные процессоры сотни и тысячекратно уделывают наш, так сказать, биоаналог. Это если иметь в виду использование способов обработки информации аналогичных, используемых нашим интеллектом. То есть, скажу проще, если перенести наш софт, наш интеллект, на любую персрналку, то она в сотни крат обойдет человека. По прикидкам, создать и запустить ИИ на просто хорошей персоналке можно было уже в году так 98-м. Наш интеллект не настолько сложен, как это малюют шарлатаны, любители крапать заумные статейки в журналы для «своих» (таких же шарлатанов со степенями). То что сИИ до сих пор не сделан, это не от невозможности сего, а от все еще происходящем длительном процессе снятия, постижения, копирования этих алгоритмов с нас любимых. Но есть такая уверенность, что мы получим сИИ еще до 20-го года. Говоря «мы» я имею в виду человечество.
И еще могу сказать, почему до сих пор не сделали. Первое. Правительственные агенства не воспринимают всерьез эти разработки. Поэтому не финансируют, тех, кто это мог бы реально создать. Чиновники считают таких разработчиков сумасшедшими. Мол не смогли в 70-80-е — не смогут и сейчас. А тут в самом деле нужен, кто-то рок-стар — обладающий обширнейшими познаниями во всем. Вот прямо так: во всем. Тут дело даже не в знании только психологии и программирования. Я так понимаю, там много чего надо — из важных: философия, теология, педагогика.
Кстати, вот только как раз правительство (любое, развитого государства) могло бы организовать и хорошо профинансировать создание сИИ в краткие сроки, тем более лучших людей под это можно найти. Как аналог, все знают о проектах создания ядерного оружия, ракет.
Второе. Корпорации, играющиеся с созданием элементов ИИ, в самом деле пока только играются. Ну подумайте сами, что они могут создать серьезного и вдумчивого если там девелоперы на 60-70% почти только индусы? Что они созадут со своим знаменитым способом написания гов… кода? Факира, заклинателя змей?? Да… Говн… факира скорее…
И третье. Есть, конечно, одиночки. Но тут опять-таки все упирается в финансирование (само-финансирование), совмещение основной работы с увлечением (что сильно затягивает процесс). И не факт, что вот в этом случае, не случится утечки кода. Да хоть куда, хоть в Иран(они, кстати, активно шарят по инету, по чужим компам), хоть к террам, хоть просто в инет(и тогда ИИ точно задаст нам кузькину мать — имея в виду недавний пример, как быстро он может научиться плохому — причем там был всего лишь элемент ИИ, а не сИИ).
Но в любом случае: скоро увидим развязку. Есть ощущение, что критическая масса для создания набрана.
И респект Алесандру. Он самостоятельно постиг многое из нашего головномозгового софта. Могу засвидетельствовать почти 100%-е совпадение его взглядов из статьи с моими. И это хорошо — значит, мы идем в правильном направлении.
И хотелось бы все же, чтобы сИИ оказался в правильных руках. А не то пипец. Не из-за сингулярности, а от неправильных начальных установок.
Что-то скоро грядет… В любом, случае мир очень изменится.
Я вам всем в двадцатый раз уже повторю: человеческий мозг — это комбинация так сказать, железа и софта. Причем железо это (биологическое) оооочень несовершенное и медленное. Все существующие многоядерные процессоры сотни и тысячекратно уделывают наш, так сказать, биоаналог. Это если иметь в виду использование способов обработки информации аналогичных, используемых нашим интеллектом. То есть, скажу проще, если перенести наш софт, наш интеллект, на любую персрналку, то она в сотни крат обойдет человека. По прикидкам, создать и запустить ИИ на просто хорошей персоналке можно было уже в году так 98-м. Наш интеллект не настолько сложен, как это малюют шарлатаны, любители крапать заумные статейки в журналы для «своих» (таких же шарлатанов со степенями). То что сИИ до сих пор не сделан, это не от невозможности сего, а от все еще происходящем длительном процессе снятия, постижения, копирования этих алгоритмов с нас любимых. Но есть такая уверенность, что мы получим сИИ еще до 20-го года. Говоря «мы» я имею в виду человечество.
И еще могу сказать, почему до сих пор не сделали. Первое. Правительственные агенства не воспринимают всерьез эти разработки. Поэтому не финансируют, тех, кто это мог бы реально создать. Чиновники считают таких разработчиков сумасшедшими. Мол не смогли в 70-80-е — не смогут и сейчас. А тут в самом деле нужен, кто-то рок-стар — обладающий обширнейшими познаниями во всем. Вот прямо так: во всем. Тут дело даже не в знании только психологии и программирования. Я так понимаю, там много чего надо — из важных: философия, теология, педагогика.
Кстати, вот только как раз правительство (любое, развитого государства) могло бы организовать и хорошо профинансировать создание сИИ в краткие сроки, тем более лучших людей под это можно найти. Как аналог, все знают о проектах создания ядерного оружия, ракет.
Второе. Корпорации, играющиеся с созданием элементов ИИ, в самом деле пока только играются. Ну подумайте сами, что они могут создать серьезного и вдумчивого если там девелоперы на 60-70% почти только индусы? Что они созадут со своим знаменитым способом написания гов… кода? Факира, заклинателя змей?? Да… Говн… факира скорее…
И третье. Есть, конечно, одиночки. Но тут опять-таки все упирается в финансирование (само-финансирование), совмещение основной работы с увлечением (что сильно затягивает процесс). И не факт, что вот в этом случае, не случится утечки кода. Да хоть куда, хоть в Иран(они, кстати, активно шарят по инету, по чужим компам), хоть к террам, хоть просто в инет(и тогда ИИ точно задаст нам кузькину мать — имея в виду недавний пример, как быстро он может научиться плохому — причем там был всего лишь элемент ИИ, а не сИИ).
Но в любом случае: скоро увидим развязку. Есть ощущение, что критическая масса для создания набрана.
И респект Алесандру. Он самостоятельно постиг многое из нашего головномозгового софта. Могу засвидетельствовать почти 100%-е совпадение его взглядов из статьи с моими. И это хорошо — значит, мы идем в правильном направлении.
И хотелось бы все же, чтобы сИИ оказался в правильных руках. А не то пипец. Не из-за сингулярности, а от неправильных начальных установок.
Что-то скоро грядет… В любом, случае мир очень изменится.
Спасибо за добрые слова :)
Вы уж очень оптимистично подошли к оценки трудозатрат на создание ИИ и на требования к железу для него.
Давайте так: как вы думаете, сколько всего человеко-лет весьма неглупые люди потратили на гораздо более простые задачи: компьютерный перевод, распознавание изображений на фотографиях, распознавание речи? Можно грубую оценку :)
Вы уж очень оптимистично подошли к оценки трудозатрат на создание ИИ и на требования к железу для него.
Давайте так: как вы думаете, сколько всего человеко-лет весьма неглупые люди потратили на гораздо более простые задачи: компьютерный перевод, распознавание изображений на фотографиях, распознавание речи? Можно грубую оценку :)
Это не оптимистичный, а реалистичный подход. Я Вам выскажу крамольную мысль: это все был подход не с той стороны. Сейчас есть совсем другой подход. И на этом основаны все последние прорывы (Watson и AlphaGo в том числе). Ранее делали именно элементы ИИ и они не имели никакого понятия о предмете приложения этого элемента. Оттуда такие сложности с обучением.
Теперь же иной подход — сделать ядро, которое уже постигает мир. Причем само, при минимальных начальных установках. Потом надо только подавать на вход информацию(любого рода), и ядро само производит разбор, выявляет структуру и прочее прочее. Так и работает в основе своей человеческий интеллект. Кстати, все, что вы привели в статье, как раз в этом русле.
Как я уже упомянул, к 20-му году мы уже будем иметь первую версию сИИ. Много раньше, чем ожидают адепты старого подхода.
И, по расчетам, развиваться он будет действительно стремительно. За считанные недели сможет многократно превзойти человека. Там понимаете, нет ограничения в количестве уровней абстракций, как это есть у людей. Наш потолок в предельном числе абстракций. Некоторые одаренные люди и аутисты имеют больше уровней, чем среднестатистический человек. И это дает им преимущество. Я так понимаю, это путь нашей дальнейшей эволюции, чтобы совсем не отстать от ИИ.
Теперь же иной подход — сделать ядро, которое уже постигает мир. Причем само, при минимальных начальных установках. Потом надо только подавать на вход информацию(любого рода), и ядро само производит разбор, выявляет структуру и прочее прочее. Так и работает в основе своей человеческий интеллект. Кстати, все, что вы привели в статье, как раз в этом русле.
Как я уже упомянул, к 20-му году мы уже будем иметь первую версию сИИ. Много раньше, чем ожидают адепты старого подхода.
И, по расчетам, развиваться он будет действительно стремительно. За считанные недели сможет многократно превзойти человека. Там понимаете, нет ограничения в количестве уровней абстракций, как это есть у людей. Наш потолок в предельном числе абстракций. Некоторые одаренные люди и аутисты имеют больше уровней, чем среднестатистический человек. И это дает им преимущество. Я так понимаю, это путь нашей дальнейшей эволюции, чтобы совсем не отстать от ИИ.
В общем-то всё сводится к решению для себя, является ли мозг человека просто набором атомов\молекул\нейронов, которые взаимодействуют лишь по законам физики — передают электрические сигналы, хранят информацию благодаря неким химическим процессам или мы считаем, что нами движет некая "душа" или "воля высшего разума". В первом случае — несомненно, всё рано или поздно будет отдебажено и сэмулировано. Судя по результату опроса — 90% народа в это верит.
Как быть с изменением морфологии мозга? :)
В общем-то, именно об этом Роджер Пенроуз и написал в своей книге "Тени разума", а я его поправляю в этой статье.
Он считает, что нет "души", но есть какой-то особенный еще неоткрытый нами физический процесс, которые помогает нам (людям) справляться с алгоритмически неразрешимыми задачами. А я считаю, что мы с ними и "не справляемся" :)
Он считает, что нет "души", но есть какой-то особенный еще неоткрытый нами физический процесс, которые помогает нам (людям) справляться с алгоритмически неразрешимыми задачами. А я считаю, что мы с ними и "не справляемся" :)
Уважаемые друзья, я полагаю, что полемика, да и просто обсуждение темы ИИ, напрямую связана с терминологией предметной области, а если конкретизировать — с семантикой, которая предполагается в соответствующих терминах.
Я поясню.
Дело в том, что, говоря об искусственном интеллекте, в большинстве источников, которые я встречал, исходя из контекста, становится очевидным, что авторы как правило предполагают деление ИИ на два класса: слабый ИИ и сильный ИИ, представляя их как узкоспециализированный алгоритм и алгоритм с возможностью адаптации применительно к широкому спектру задач. На этом моменте пока все еще слишком очевидно.
Давайте немного задержимся на этом, тезисно я сформулирую это так:
Слабый ИИ — алгоритм, способный эффективно выполнять определенный узкий спектр задач. Например: шахматные алгоритмы.
Сильный ИИ — алгоритм, способный адаптироваться (в самом широком смысле слова) к выполнению широкого класса задач (в идеале эквивалентно или превосходя возможности адаптации человека).
Но дело в том, что такое определение не совсем полное с точки зрения именно философии искусственного интеллекта, и я объясню почему: сильный ИИ в своей философии (в представлениях об искусственном аналоге мышления, которое доступно нам самим субъективно) обладает способностью не просто мыслить, но и осознавать себя.
Снова остановимся ненадолго на этом моменте, он является камнем преткновения в вопросах ИИ.
Осознавать себя не значит подвергать собственную конфигурацию оптимизации по определенным критериям. Алгоритм, способный видоизменять себя и адаптироваться не является сознанием в том смысле, который предполагают некоторые представители научного сообщества, мыслящие "идеальными" категориями. Нельзя недооценивать этот факт. Еще раз обращаю ваше внимание на этот факт — самосознание не является возможностью совершать операции оптимизации над собственной конфигурацией. Сознание в целом есть больше, чем высокоразвитый алгоритм, функциональная мощность которого предполагает возможность моделирования себя в окружающей среде с учетом субъективного опыта (мгновенной конфигурации во времени).
Продолжим.
Любая полемика возникает на стыке определений между слабым ИИ, сильным ИИ и тем, что некоторые немногочисленные авторы понимают под сильным ИИ и ИИ в целом. Дискуссии рождаются на стыке семантики, а цель — семантическая синхронизация (некоторая корреляция представлений о предмете дискуссии).
Я позволю себе для простоты понимания моей мысли написать это здесь:
Можно ли создать сильный ИИ? — безусловно да, но подразумевая в терминологии семантическое значение интеллекта.
Можно ли создать сильный ИИ, подразумевая в терминологии семантическое значения сознания? — Нет, потому как наука во всем ее многообразии фактически не прикасалась к этому вопросу, описывая проявления сугубо материалистическим образом, выбрав в качестве основы аксиоматический базис, предполагающий прямую связь нативного проявления сознания для субъекта (то что вы чувствуете) с теми физическими явлениями, которые происходят в нейронах нашего тела, в частности мозга.
Выбрав эту аксиому, мы породили первый слой абстракции, благодаря которому возникла двойственность в представлении действительности, и как следствие — в частном случае филосовского представления о проблеме искусственного интеллекта.
P.S.
Я полагаю, что к проблеме сознания человечеству еще лишь предстоит прикоснуться в далеком будущем.
Я поясню.
Дело в том, что, говоря об искусственном интеллекте, в большинстве источников, которые я встречал, исходя из контекста, становится очевидным, что авторы как правило предполагают деление ИИ на два класса: слабый ИИ и сильный ИИ, представляя их как узкоспециализированный алгоритм и алгоритм с возможностью адаптации применительно к широкому спектру задач. На этом моменте пока все еще слишком очевидно.
Давайте немного задержимся на этом, тезисно я сформулирую это так:
Слабый ИИ — алгоритм, способный эффективно выполнять определенный узкий спектр задач. Например: шахматные алгоритмы.
Сильный ИИ — алгоритм, способный адаптироваться (в самом широком смысле слова) к выполнению широкого класса задач (в идеале эквивалентно или превосходя возможности адаптации человека).
Но дело в том, что такое определение не совсем полное с точки зрения именно философии искусственного интеллекта, и я объясню почему: сильный ИИ в своей философии (в представлениях об искусственном аналоге мышления, которое доступно нам самим субъективно) обладает способностью не просто мыслить, но и осознавать себя.
Снова остановимся ненадолго на этом моменте, он является камнем преткновения в вопросах ИИ.
Осознавать себя не значит подвергать собственную конфигурацию оптимизации по определенным критериям. Алгоритм, способный видоизменять себя и адаптироваться не является сознанием в том смысле, который предполагают некоторые представители научного сообщества, мыслящие "идеальными" категориями. Нельзя недооценивать этот факт. Еще раз обращаю ваше внимание на этот факт — самосознание не является возможностью совершать операции оптимизации над собственной конфигурацией. Сознание в целом есть больше, чем высокоразвитый алгоритм, функциональная мощность которого предполагает возможность моделирования себя в окружающей среде с учетом субъективного опыта (мгновенной конфигурации во времени).
Продолжим.
Любая полемика возникает на стыке определений между слабым ИИ, сильным ИИ и тем, что некоторые немногочисленные авторы понимают под сильным ИИ и ИИ в целом. Дискуссии рождаются на стыке семантики, а цель — семантическая синхронизация (некоторая корреляция представлений о предмете дискуссии).
Я позволю себе для простоты понимания моей мысли написать это здесь:
- слабый ИИ (как алгоритмы эффективно решающие свой узкий круг задач)
- сильный ИИ (как алгоритмы способные развиваться и решать широкий круг задач, потенциально заменяя логические функции человеческого интеллекта)
- сознание (как феномен, который не нашел своего отражения в материалистическом представлении; на данный момент мы наблюдаем попытки формализации современной наукой теоретического представления и построение модели, в частном случае описывающие проявления сознания).
Можно ли создать сильный ИИ? — безусловно да, но подразумевая в терминологии семантическое значение интеллекта.
Можно ли создать сильный ИИ, подразумевая в терминологии семантическое значения сознания? — Нет, потому как наука во всем ее многообразии фактически не прикасалась к этому вопросу, описывая проявления сугубо материалистическим образом, выбрав в качестве основы аксиоматический базис, предполагающий прямую связь нативного проявления сознания для субъекта (то что вы чувствуете) с теми физическими явлениями, которые происходят в нейронах нашего тела, в частности мозга.
Выбрав эту аксиому, мы породили первый слой абстракции, благодаря которому возникла двойственность в представлении действительности, и как следствие — в частном случае филосовского представления о проблеме искусственного интеллекта.
P.S.
Я полагаю, что к проблеме сознания человечеству еще лишь предстоит прикоснуться в далеком будущем.
|Я полагаю, что к проблеме сознания человечеству еще лишь предстоит прикоснуться в далеком будущем.
С проблемой сознания любой человек соприкасается каждую секунду и это не является для него
проблемой т.к. он всегда может представить себя как бы со стороны другого человека и
тогда станет видно, что совершенствует свои знания и запоминает новые человек вполне сознательно.
Вполне сознательно пытается найти что-то похожее, с чем-то связать, найти подходящий метод
для этого, проверить что не забыл, повторить все с начала и т.п. Поэтому саморазвивающийся ИИ
без сознания невозможен т.к. развивать его будет некому, а такой ИИ нам не нужен.
Но появление сознания у человека неизбежно просто из-за достаточной глубины его НС.
ИИ нужно дать возможность представить себя. И это возможно при помощи естественного языка.
Причем, скорее всего, ИИ в этом преуспеет в первую очередь, поскольку это более узкая область, чем весь мир.
Поэтому неосторожного пользователя, захотевшего пообщаться с ИИ, ждет подробный рассказ
о богатой внутренней жизни ИИ и его проблемах. Вряд ли пользователь что-то поймет,
но хотя бы не будет отрицать наличие сознания у ИИ.
С проблемой сознания любой человек соприкасается каждую секунду и это не является для него
проблемой т.к. он всегда может представить себя как бы со стороны другого человека и
тогда станет видно, что совершенствует свои знания и запоминает новые человек вполне сознательно.
Вполне сознательно пытается найти что-то похожее, с чем-то связать, найти подходящий метод
для этого, проверить что не забыл, повторить все с начала и т.п. Поэтому саморазвивающийся ИИ
без сознания невозможен т.к. развивать его будет некому, а такой ИИ нам не нужен.
Но появление сознания у человека неизбежно просто из-за достаточной глубины его НС.
ИИ нужно дать возможность представить себя. И это возможно при помощи естественного языка.
Причем, скорее всего, ИИ в этом преуспеет в первую очередь, поскольку это более узкая область, чем весь мир.
Поэтому неосторожного пользователя, захотевшего пообщаться с ИИ, ждет подробный рассказ
о богатой внутренней жизни ИИ и его проблемах. Вряд ли пользователь что-то поймет,
но хотя бы не будет отрицать наличие сознания у ИИ.
Естественный язык — это мощный, гибкий, но ограничивающий инструмент. Даже в нашем мозгу мы не вербализируем все сознательные мысли (это предмет споров, но я считаю именно так). Когда я решаю судоку, я вижу паттерны и принимаю решения сознательно, но без их вербализации, даже подавленной.
Слепоглухонемые от рождения люди используют какой-то свой заменитель естественного языка.
Глухие от рождения — "вербализируют" мысли с помощью ассоциаций и жестов языка глухих (недавно читал интервью одной такой).
Слепоглухонемые от рождения люди используют какой-то свой заменитель естественного языка.
Глухие от рождения — "вербализируют" мысли с помощью ассоциаций и жестов языка глухих (недавно читал интервью одной такой).
|Естественный язык — это мощный, гибкий, но ограничивающий инструмент.
|Даже в нашем мозгу мы не вербализируем все сознательные мысли
И это достоинство языка — можем представлять что не чувствуем и чего не существует
и при этом очень быстро — со скоростью мысли. И ничего его не ограничивает,
кроме нашей фантазии.
|Слепоглухонемые от рождения люди используют какой-то свой заменитель естественного языка.
Это все разные носители языка как речь и письменность. Главное в языке — это его
свойства, такие же как у реального мира т.к. язык возник для его описания и
обрабатывается структурами, изначально предназначеными для обработки реального мира.
Это иерархичность или вложенность т.к. в мире все состоит из частей и является частью,
и изменчивость — эти части могут быть разными, но не любыми т.к. все подчиняется законам.
ЕЯ — это самый подходящий формат для создания саморазвивающейся программы,
так как сам тоже саморазвивается, формируя новые понятия и методы их формирования, используя имеющиеся.
Это трудно представить, но ЕЯ — это и есть по сути ИИ только остановленный, спящий.
Нужна лишь небольшая программа, чтобы разбудить его.
|Даже в нашем мозгу мы не вербализируем все сознательные мысли
И это достоинство языка — можем представлять что не чувствуем и чего не существует
и при этом очень быстро — со скоростью мысли. И ничего его не ограничивает,
кроме нашей фантазии.
|Слепоглухонемые от рождения люди используют какой-то свой заменитель естественного языка.
Это все разные носители языка как речь и письменность. Главное в языке — это его
свойства, такие же как у реального мира т.к. язык возник для его описания и
обрабатывается структурами, изначально предназначеными для обработки реального мира.
Это иерархичность или вложенность т.к. в мире все состоит из частей и является частью,
и изменчивость — эти части могут быть разными, но не любыми т.к. все подчиняется законам.
ЕЯ — это самый подходящий формат для создания саморазвивающейся программы,
так как сам тоже саморазвивается, формируя новые понятия и методы их формирования, используя имеющиеся.
Это трудно представить, но ЕЯ — это и есть по сути ИИ только остановленный, спящий.
Нужна лишь небольшая программа, чтобы разбудить его.
Я не готов сейчас с вами аргументированно спорить, но хотя ЕЯ помогает и немного задает процесс мышления, он его не определяет. В одном из языков индейцев "синий" и "зеленый" — обозначается одним словом. Естественно, им тяжело словесно думать только об одном из этих цветов, т.к. их слово определяет сразу два наших понятия, но кому надо — вполне способен обдумать и передать оттенок мысли "именно синий" или "именно зеленый".
Я все же стою на позиции, что сознание — неотъемлемая часть сильного ИИ.
Можно ли сделать "китайскую комнату", которая будет точно моделировать жизнь обывателя? Уверен, что да. И даже уверен, что необходимая для этого реально большая нейронная сеть / алгоритм войдет в "космологический горизонт вычислимости", ну т.е. мы реально можем вбухать кучу денег и построить такую штуку.
Но для качественного саморазвития ИИ должен иметь модель себя внутри — а это и будет сознанием.
Тут есть о чем поговорить, правда.
И все же мой диалектический материализм вместе с субъективным опытом говорит мне, что сложность феномена "сознания" — переоценена, и нужно проводить вычислительные эксперименты, чтобы приблизиться к его формализации.
Можно ли сделать "китайскую комнату", которая будет точно моделировать жизнь обывателя? Уверен, что да. И даже уверен, что необходимая для этого реально большая нейронная сеть / алгоритм войдет в "космологический горизонт вычислимости", ну т.е. мы реально можем вбухать кучу денег и построить такую штуку.
Но для качественного саморазвития ИИ должен иметь модель себя внутри — а это и будет сознанием.
Тут есть о чем поговорить, правда.
И все же мой диалектический материализм вместе с субъективным опытом говорит мне, что сложность феномена "сознания" — переоценена, и нужно проводить вычислительные эксперименты, чтобы приблизиться к его формализации.
Это действительно весьма и весьма интересная тема для обсуждения. Насколько я могу понять из ваших слов, сознанием вы называете способность алгоритма включать собственную модель в общую модель представления субъективной действительности.
Качественное саморазвитие (развитие в целом) есть процесс оптимизации конфигурации по определенным критериям. Сознание с этой точки зрения является лишь дополнением к общей модели и позволяет алгоритму учитывать эти параметры при решении задачи оптимизации собственной конфигурации. В этом смысле не будет принципиальной разницы между учитыванием собственных параметров или учитыванием параметров другого (подобного) алгоритма в процессе развития.
Чтобы вы правильно поняли мое представление касательно семантики вашего термина сознание, я хочу, чтобы вы представили такую модель:
ИИ имеет в своем распоряжении исходную модель мира (мгновенную модель — некий слепок исходных данных на основе анализа реальности), в которой существует объект ИИ, свойства которого интерпретируются нашим исходным ИИ и копируются на основе решения оптимизационной задачи (по определенным критериям оптимизации). То есть фактически два ИИ неразрывно связаны на уровне собственных конфигураций, для упрощения — ИИ работающий над ИИ в рамках динамической конфигурации окружающей действительности есть ни что иное как рефлексия.
Является ли рефлексия сознанием? Очевидно да в терминологии, предполагающей под сознанием семантическое значение работы над моделью, в состав которой входят параметры самого ИИ (формально — объекта ИИ, эквивалентного самому ИИ).
Я хочу подчеркнуть, что я это прекрасно осознаю.
Позвольте же мне обратить ваше внимание на несколько иное толкование термина сознание, которым я оперирую, в частности, приводя этот термин как третью классификацию (слабый, сильный и сознание):
Дело в том, что, как я писал выше, я повторюсь — "Осознавать себя не значит подвергать собственную конфигурацию оптимизации по определенным критериям", — но осознавать себя означает с нативной точки зрения (мое субъективное и единственно верное восприятие окружающей действительности) возможность постигнуть объективную для моего Я истину, выраженную осознанием наличия "внешней логики", скрытой за слоем абстракции и недоступной интеллекту моего "Я".
Существует объективное внешнее, относительно субъективного "Я", являющееся источником интерпретируемой действительности, в противном случае (как я уже упоминал во многих подобных темах) мы могли бы нативно воспринимать процесс синтеза мыслеобразов.
Сложность восприятия такого мировоззрения заключается в том, что над первичной абстракцией, сформированной аксиоматическим базисом выраженным в выборе материалистического убеждения о том, что все наше нативное восприятие есть следствие сложно организованной материи, априори порождается дилемма — дуализм в философии: материализм и идеализм.
Путь развития человечества направлен на материализм исключительно благодаря тому факту, что источник абстрагирован, и интеллект с недостаточно развитой информационной базой не в состоянии выявлять зависимости и строить логические цепочки относительно объекта, скрытого за физическими ограничениями восприятия в области сознания. Мы развиваемся там, где в состоянии генерировать логические суждения, но мы бессильны при отсутствии информации. Так как основной функцией интеллекта является нахождение оптимального состояния, связанного в первую очередь в решением противоречий, то мы не видим поле для интеллектуальной деятельности в условиях отсутствия информации и невозможность построения логических суждения. Для нашего сознания это является своего рода горизонтом событий, за которым находится сингулярность.
Интеллект лишь инструмент сознания, но сознание не является интеллектом, хотя и интерпретирует результаты деятельности интеллекта (это не общепризнанная семантика применяемая к терминологии, т.к. в данная область еще слабо развита и не представляет возможности эффективно делиться знанием).
Сейчас будет несколько сложнее, так как я разверну абстракцию интеллекта — мне придется объяснить термин интеллект другим способом, вы поймете. Я готов формализовать это представление, разжевать его и логически объяснить каждый тезис, на это потребуется время, а сейчас продолжим:
Сознание локализуется до точки интерпретации нативного восприятия (то, что мы объективно ощущаем, наши "аналоговые чувства", включая процесс мышления). Интеллект в данном случае является не инструментом, а процессом интерпретации, то есть фактически интеллект основан на совокупности интерпретируемых мыслей о нем, которые порождаются не самим интеллектом и не нашим сознанием, а являются следствием синтеза внешнего источника.
Это сложно даже принять, но каков квант в процессе синтеза вашего мышления? Иначе говоря, как вы синтезируете собственные мысли?
Я попробую объяснить на примере:
Скажем, субъективно, я получаю мыслеобразы в готовом виде, так как идеи "появляются" в области моего сознания (моей интерпретации), я не синтезирую процесс логики, я могу условно уйти на уровень абстракции (интерпретировать иной уровень абстракции) в котором я буду считать, что написание определенного алгоритма есть следствие работы моего мышления (интеллекта), так как требует построения формальных логических связей, но факт в том, что это не более чем аксиома не имеющая под собой субъективной фактической аргументации. Природа создала механизм интерпретации, которой мы понимаем как сознание. Феномен существования сознания гораздо более сложный, нежели наше представление об интеллекте. Сознание соприкасается с "горизонтом событий" — что есть интерпретация которую мы принимаем за догму, оперируя терминами "искусственный интеллект", "мое Я", "сознание", "мир", "окружающая действительность", "неразрешимые загадки природы", "вопросы бытия"… Все ответы непрерывно связаны с феноменом нашего сознания, вся интерпретация является проекцией извне через то, что мы условно интерпретируем как потоки чувств: осязание, обоняние, вкус, слух, зрение и мышление. Условное мнение об абсолютном реализме нашего представления своего я в рамках наблюдаемой действительности (то, что мы называем в обычной жизни сознанием, своим Я) есть лишь часть мышления и не более того.
для качественного саморазвития ИИ должен иметь модель себя внутри — а это и будет сознанием
Качественное саморазвитие (развитие в целом) есть процесс оптимизации конфигурации по определенным критериям. Сознание с этой точки зрения является лишь дополнением к общей модели и позволяет алгоритму учитывать эти параметры при решении задачи оптимизации собственной конфигурации. В этом смысле не будет принципиальной разницы между учитыванием собственных параметров или учитыванием параметров другого (подобного) алгоритма в процессе развития.
Чтобы вы правильно поняли мое представление касательно семантики вашего термина сознание, я хочу, чтобы вы представили такую модель:
ИИ имеет в своем распоряжении исходную модель мира (мгновенную модель — некий слепок исходных данных на основе анализа реальности), в которой существует объект ИИ, свойства которого интерпретируются нашим исходным ИИ и копируются на основе решения оптимизационной задачи (по определенным критериям оптимизации). То есть фактически два ИИ неразрывно связаны на уровне собственных конфигураций, для упрощения — ИИ работающий над ИИ в рамках динамической конфигурации окружающей действительности есть ни что иное как рефлексия.
Является ли рефлексия сознанием? Очевидно да в терминологии, предполагающей под сознанием семантическое значение работы над моделью, в состав которой входят параметры самого ИИ (формально — объекта ИИ, эквивалентного самому ИИ).
Я хочу подчеркнуть, что я это прекрасно осознаю.
Позвольте же мне обратить ваше внимание на несколько иное толкование термина сознание, которым я оперирую, в частности, приводя этот термин как третью классификацию (слабый, сильный и сознание):
Дело в том, что, как я писал выше, я повторюсь — "Осознавать себя не значит подвергать собственную конфигурацию оптимизации по определенным критериям", — но осознавать себя означает с нативной точки зрения (мое субъективное и единственно верное восприятие окружающей действительности) возможность постигнуть объективную для моего Я истину, выраженную осознанием наличия "внешней логики", скрытой за слоем абстракции и недоступной интеллекту моего "Я".
Существует объективное внешнее, относительно субъективного "Я", являющееся источником интерпретируемой действительности, в противном случае (как я уже упоминал во многих подобных темах) мы могли бы нативно воспринимать процесс синтеза мыслеобразов.
Сложность восприятия такого мировоззрения заключается в том, что над первичной абстракцией, сформированной аксиоматическим базисом выраженным в выборе материалистического убеждения о том, что все наше нативное восприятие есть следствие сложно организованной материи, априори порождается дилемма — дуализм в философии: материализм и идеализм.
Путь развития человечества направлен на материализм исключительно благодаря тому факту, что источник абстрагирован, и интеллект с недостаточно развитой информационной базой не в состоянии выявлять зависимости и строить логические цепочки относительно объекта, скрытого за физическими ограничениями восприятия в области сознания. Мы развиваемся там, где в состоянии генерировать логические суждения, но мы бессильны при отсутствии информации. Так как основной функцией интеллекта является нахождение оптимального состояния, связанного в первую очередь в решением противоречий, то мы не видим поле для интеллектуальной деятельности в условиях отсутствия информации и невозможность построения логических суждения. Для нашего сознания это является своего рода горизонтом событий, за которым находится сингулярность.
Интеллект лишь инструмент сознания, но сознание не является интеллектом, хотя и интерпретирует результаты деятельности интеллекта (это не общепризнанная семантика применяемая к терминологии, т.к. в данная область еще слабо развита и не представляет возможности эффективно делиться знанием).
Сейчас будет несколько сложнее, так как я разверну абстракцию интеллекта — мне придется объяснить термин интеллект другим способом, вы поймете. Я готов формализовать это представление, разжевать его и логически объяснить каждый тезис, на это потребуется время, а сейчас продолжим:
Сознание локализуется до точки интерпретации нативного восприятия (то, что мы объективно ощущаем, наши "аналоговые чувства", включая процесс мышления). Интеллект в данном случае является не инструментом, а процессом интерпретации, то есть фактически интеллект основан на совокупности интерпретируемых мыслей о нем, которые порождаются не самим интеллектом и не нашим сознанием, а являются следствием синтеза внешнего источника.
Это сложно даже принять, но каков квант в процессе синтеза вашего мышления? Иначе говоря, как вы синтезируете собственные мысли?
Я попробую объяснить на примере:
Скажем, субъективно, я получаю мыслеобразы в готовом виде, так как идеи "появляются" в области моего сознания (моей интерпретации), я не синтезирую процесс логики, я могу условно уйти на уровень абстракции (интерпретировать иной уровень абстракции) в котором я буду считать, что написание определенного алгоритма есть следствие работы моего мышления (интеллекта), так как требует построения формальных логических связей, но факт в том, что это не более чем аксиома не имеющая под собой субъективной фактической аргументации. Природа создала механизм интерпретации, которой мы понимаем как сознание. Феномен существования сознания гораздо более сложный, нежели наше представление об интеллекте. Сознание соприкасается с "горизонтом событий" — что есть интерпретация которую мы принимаем за догму, оперируя терминами "искусственный интеллект", "мое Я", "сознание", "мир", "окружающая действительность", "неразрешимые загадки природы", "вопросы бытия"… Все ответы непрерывно связаны с феноменом нашего сознания, вся интерпретация является проекцией извне через то, что мы условно интерпретируем как потоки чувств: осязание, обоняние, вкус, слух, зрение и мышление. Условное мнение об абсолютном реализме нашего представления своего я в рамках наблюдаемой действительности (то, что мы называем в обычной жизни сознанием, своим Я) есть лишь часть мышления и не более того.
При всем уважении, у меня есть к вам просьба — прочтите этот текст медленно несколько раз. К сожалению, так уж получается, что беглое чтение не раскрывает информационно емкий текст. Даже проверяя, все ли я выразил в комментарии, я перечитал его около 8 раз.
С вами общаться — одно удовольствие :)
Итак, в рамках диалектического подхода, у меня — материализм, у вас — идеализм. Как вы знаете, обе системы — внутренне непротиворечивы и недоказуемы. Для меня переход от одной точки зрения к другой — это хорошая тренировка интеллекта, хотя материализм мне безусловно более близок.
Основной подход материалистов к поставленному вами вопросу — очень простой. Либо укажите феномен, который мы тогда будем исследовать, либо скажите, что вопрос нефеноменологичный — тогда мы его просто оставим без внимания, потому что моя субъективная реальность не будет зависеть от точки зрения по этому вопросу.
Поясню: я буду себя чувствовать и вести совершенно одинаково, вне зависимости от того, существует ли "всемогущий Бог, который себя не проявляет", "загробный мир", "свобода воли" (vs. "все предопределено") и так далее. Непроверяемо — я могу это игнорировать.
НЛП — сборник эвристических работающих приемов работы с психикой — отлично функционирует на предположении, что весь наш субъективный опыт закодирован в мозге только комбинацией сенсорных сигналов ("зрения", "слуха" и т.д.). Другими словами, если мой мозг — здоров, я могу сделать что угодно со своей личностью (включая память), работая только с записями своих сенсорных систем.
Если мы таки построим сильный ИИ (или "сознание" в вашей терминологии) только на основе моих или аналогичных моим предположениях, то по "бритве Оккама" — скорее всего феномен сознания таки определяется просто сложностью системы. В этом случае, идеалисты могут добавить, например, "феномен творения" в свой базис убеждений и оставаться в рамках непротиворечивой объективной системы, адекватно описывающей объективную реальность.
Если у нас не получится создать ИИ / "сознание", то в зависимости от характера проблем либо возникнет феномен того, что "копия мозга не работает" — тогда материалисты будут думать, что делать с этим фактом, либо будут конструктивные недостатки, которые будут устранять итеративно.
Если еще немного другими словами — если сознание поставляет вам мыслеобразы, которые появляются в объективно существующем, физически доступном вашем разуме (даже в форме квантовых эффектов, которые нельзя померять, не "поломав"), то мы либо сможем зафиксировать этот феномен и локализовать сознание как объективно существующий элемент реальности, либо упремся в физическую невозможность этого. И то, и другое — будет достойным результатом.
Мне нравится, что материализм отвечает на вопрос "что делать?", даже если изначально вопрос стоял "как быть?" :)
Итак, в рамках диалектического подхода, у меня — материализм, у вас — идеализм. Как вы знаете, обе системы — внутренне непротиворечивы и недоказуемы. Для меня переход от одной точки зрения к другой — это хорошая тренировка интеллекта, хотя материализм мне безусловно более близок.
Основной подход материалистов к поставленному вами вопросу — очень простой. Либо укажите феномен, который мы тогда будем исследовать, либо скажите, что вопрос нефеноменологичный — тогда мы его просто оставим без внимания, потому что моя субъективная реальность не будет зависеть от точки зрения по этому вопросу.
Поясню: я буду себя чувствовать и вести совершенно одинаково, вне зависимости от того, существует ли "всемогущий Бог, который себя не проявляет", "загробный мир", "свобода воли" (vs. "все предопределено") и так далее. Непроверяемо — я могу это игнорировать.
НЛП — сборник эвристических работающих приемов работы с психикой — отлично функционирует на предположении, что весь наш субъективный опыт закодирован в мозге только комбинацией сенсорных сигналов ("зрения", "слуха" и т.д.). Другими словами, если мой мозг — здоров, я могу сделать что угодно со своей личностью (включая память), работая только с записями своих сенсорных систем.
Если мы таки построим сильный ИИ (или "сознание" в вашей терминологии) только на основе моих или аналогичных моим предположениях, то по "бритве Оккама" — скорее всего феномен сознания таки определяется просто сложностью системы. В этом случае, идеалисты могут добавить, например, "феномен творения" в свой базис убеждений и оставаться в рамках непротиворечивой объективной системы, адекватно описывающей объективную реальность.
Если у нас не получится создать ИИ / "сознание", то в зависимости от характера проблем либо возникнет феномен того, что "копия мозга не работает" — тогда материалисты будут думать, что делать с этим фактом, либо будут конструктивные недостатки, которые будут устранять итеративно.
Если еще немного другими словами — если сознание поставляет вам мыслеобразы, которые появляются в объективно существующем, физически доступном вашем разуме (даже в форме квантовых эффектов, которые нельзя померять, не "поломав"), то мы либо сможем зафиксировать этот феномен и локализовать сознание как объективно существующий элемент реальности, либо упремся в физическую невозможность этого. И то, и другое — будет достойным результатом.
Мне нравится, что материализм отвечает на вопрос "что делать?", даже если изначально вопрос стоял "как быть?" :)
Благодарю.
Я хотел бы снова обратить ваше внимание на один интересный момент, касаемо сознания в целом и восприятия в частности. Я позволю себе процитировать слова из вашего комментария:
Обратите внимание — "субъективная реальность не будет зависеть от точки зрения". То есть, существует некоторое, как я его называю, нативное восприятие, которое есть ни что иное как субъективная реальность. Простыми словами — все что вы наблюдаете, все о чем вы мыслите, все что вы видите, все что вы помните, все это — субъективная реальность. Позвольте же мне довести свою мысль до логического завершения, я постараюсь насколько это будет возможным наиболее очевидным способом, с помощью лишь формальной логики показать первичную абстракцию, которую мы не замечаем, объясняя наш выбор приверженностью к материализму.
Так раскрывается первичная абстракция, связанная с уверенностью в реалистичности объекта основанного на процессе нашего восприятия, но вместе с тем раскрывается и ограничение, выраженное в невозможности сознательно выйти за горизонт событий (за поверхность проекции чувственного восприятия). Иными словами, процесс мышления включает в свой состав модель о наличии внешней логики, которая синтезирует и передает в одностороннем порядке по отношению к моему субъективному восприятию потоки чувственной интерпретации — нативное восприятие, субъективная реальность.
При такой интерпретации объективная реальность есть лишь часть субъективного процесса восприятия и не является аксиомой, так как субъективно интерпретируется в процессе мышления, то есть не требует логического объяснения, вследствие односторонней интерпретации (опровержение данного суждения было бы связано с возможностью осознания нашим Я процесса синтеза чувственного восприятия мышления).
Интерпретация же материализма предполагает в качестве аксиомы, что феномен сознания как потока чувственного нативного восприятия является следствием сложно организованной материи при том, что субъективно для исследователя это невозможно проверить, то есть, это своего рода аксиома об инкапсулированных "монадах" сознаний, которые мы не в состоянии наблюдать, но в состоянии построить, оперируя предположениями об их существовании, что порождает парадоксы, связанные с изменением причинно-следственной связи в формальной логике, так как аксиоматический базис — есть следствие абстрагирования от реализации.
Я хотел бы снова обратить ваше внимание на один интересный момент, касаемо сознания в целом и восприятия в частности. Я позволю себе процитировать слова из вашего комментария:
вопрос нефеноменологичный — тогда мы его просто оставим без внимания, потому что моя субъективная реальность не будет зависеть от точки зрения по этому вопросу
Обратите внимание — "субъективная реальность не будет зависеть от точки зрения". То есть, существует некоторое, как я его называю, нативное восприятие, которое есть ни что иное как субъективная реальность. Простыми словами — все что вы наблюдаете, все о чем вы мыслите, все что вы видите, все что вы помните, все это — субъективная реальность. Позвольте же мне довести свою мысль до логического завершения, я постараюсь насколько это будет возможным наиболее очевидным способом, с помощью лишь формальной логики показать первичную абстракцию, которую мы не замечаем, объясняя наш выбор приверженностью к материализму.
- Субъективная реальность сформирована потоком интерпретируемых чувств: слух, осязание, обоняние, зрение, вкус и мышление и субъективно ничем больше (интуиция, память, воображение — все это модели интерпретируемые нами из потока мышления).
- Для нашего Я субъективно не существует никакой внешней объективной реальности, так как наше Я (сознание) интерпретирует исключительно определенный синтезируемый поток восприятия, который в нашем мышлении условно представлен в виде различных вышеописанных чувств (потоков восприятия).
- Любое проявление мышления по определению есть мышление (поток восприятия). Для объяснения этого феномена не требуются даже слова (естественный язык), так как достаточно просто осознать тот факт, что мы в состоянии воспринимать что-либо. Объективная реальность (материализм) есть определенное воззрение — то есть конструкция в процессе мышления, модель в воображении, которая является аксиомой, безосновательно утверждающей, что объект мышления более реален, чем сам процесс интерпретации потока мышления. Это и есть первичная абстракция, порождающая дилемму о двойственности восприятия. Любое дальнейшее развитие в области изучения модели объективной реальности — есть усложнение потока восприятия в процессе мышления, интерпретируемое нами как подтверждение в пользу большей реальности объекта в процессе мышления, нежели самого процесса мышления.
Простыми словами — чем больше мы изучаем мир и выявляем в нем закономерности, тем более реальным мы его считаем по отношению к нашему сознанию, убеждаясь в том, что сам феномен сознания является следствием сложной организации объекта нашего изучения, но это логическое противоречие, подмена причины и следствия, в связи с тем, что процесс интерпретации является односторонним и перманентным, и тот поток восприятия, который получает наше сознание (наше Я), субъективно интерпретируя его расщепление на составляющие в процессе мышления, есть лишь нативное восприятие. Иными словами объект называемый нами "объективная реальность" имеет ту же природу, что и само мышление (процесс восприятия), состоит из той же неделимой "субстанции", которую мы интерпретируем. Я попробую привязаться к терминам материалистического воззрения, чтобы объяснить эту замысловатую идею: чем больше мы будем стремиться расщепить на составляющие этот объект реального мира, тем больше мы будем усложнять модель в нашем воображении. От того, что мы расщепили материю до субатомных частиц, уперлись в планковский предел и провели массу исследований, объект действительности не изменился, изменился лишь состав нашей субъективной реальности — мы стали интерпретировать иные вещи, иные эффекты и феномены, то есть область нашего сознания, наше Я, стало интерпретировать иную информацию.
- Наше Я (сознание) есть точка интерпретации. В противном случае, наше Я имело бы "свободу воли". Если бы существовала свобода воли, я мог бы контролировать процессы своего восприятия. Но дело в том, что это не так: если вы в состоянии представить себе любой образ в воображении, вы должны быть в состоянии объяснить процесс синтеза этого образа в вашем воображении, в противном случае возникает логическое противоречие, связанное с невозможностью объяснить феномен синтеза образа в воображении, при котором дальнейшая его интерпретация доказывает субъективно его существование.
- Но ведь мое Я способно желать увидеть любой образ в воображении. Но способно ли? Если да, то как из состояния отсутствия желания, обладая свободной воли, наше Я синтезирует чувство желания? Мы сталкиваемся с тем же парадоксом, что и прежде — наше Я не в состоянии объяснить феномен синтеза интерпретируемого потока, называемого "желанием". Наше Я — лишь в одностороннем порядке получает поток готовых желаний, действий и мыслей. В противном случае нашему Я была бы доступна информация о процессе синтеза. Невозможность декомпозиции потока восприятия является парадоксом, рожденным в процессе подмены причины и следствия (признания более реальным объекта в мышлении над самим процессом мышления).
Так раскрывается первичная абстракция, связанная с уверенностью в реалистичности объекта основанного на процессе нашего восприятия, но вместе с тем раскрывается и ограничение, выраженное в невозможности сознательно выйти за горизонт событий (за поверхность проекции чувственного восприятия). Иными словами, процесс мышления включает в свой состав модель о наличии внешней логики, которая синтезирует и передает в одностороннем порядке по отношению к моему субъективному восприятию потоки чувственной интерпретации — нативное восприятие, субъективная реальность.
При такой интерпретации объективная реальность есть лишь часть субъективного процесса восприятия и не является аксиомой, так как субъективно интерпретируется в процессе мышления, то есть не требует логического объяснения, вследствие односторонней интерпретации (опровержение данного суждения было бы связано с возможностью осознания нашим Я процесса синтеза чувственного восприятия мышления).
Интерпретация же материализма предполагает в качестве аксиомы, что феномен сознания как потока чувственного нативного восприятия является следствием сложно организованной материи при том, что субъективно для исследователя это невозможно проверить, то есть, это своего рода аксиома об инкапсулированных "монадах" сознаний, которые мы не в состоянии наблюдать, но в состоянии построить, оперируя предположениями об их существовании, что порождает парадоксы, связанные с изменением причинно-следственной связи в формальной логике, так как аксиоматический базис — есть следствие абстрагирования от реализации.
Если я вас правильно понял, мышление — это такое же ощущение, что и зрение, слух.
Как объяснить, что люди могут видеть одно и то же, но не принимать одинаковое мышление?
Или в вашей модели совсем солипсизм и других людей нет?
С другой стороны, для материалистов в моделировании мышления/интеллекта ничего не меняется.
Всего лишь надо разбирать и повторять не работу мозга, а работу того явления/процесса, который индуцирует в мозг ощущение мышления.
Как объяснить, что люди могут видеть одно и то же, но не принимать одинаковое мышление?
Или в вашей модели совсем солипсизм и других людей нет?
С другой стороны, для материалистов в моделировании мышления/интеллекта ничего не меняется.
Всего лишь надо разбирать и повторять не работу мозга, а работу того явления/процесса, который индуцирует в мозг ощущение мышления.
Да, вы верно меня поняли — мышление (воображение, интуиция, память) — это такое же чувство, как зрение, слух, осязание, обоняние и вкус.
Откровенно говоря, субъективно все эти отдельные виды чувств есть лишь единое восприятие, оно неделимо, его деление на компоненты условно. То, что мы не видим вкус клубники или не чувствуем запахи цвета, не означает, что это нечто принципиально иное, потому как все это чувствуется нами, то есть воспринимается, с материалистической точки зрения — разными органами чувств.
Здесь стоит отметить, что, говоря о том, что другие люди видят то же, что и мы (или видят одинаково), мы снова используем абстракцию от реализации, то есть принимаем за аксиому тот факт, что объективно люди видят одно и то же. То же касается и мышления других людей — мы субъективно никак его не воспринимаем, в то время как в нашем мышлении мы допускаем некоторую корреляцию с тем, как мы интерпретируем субъективно действительность.
Я указал на проблему логическую в раскрытии данной абстракции в рамках формальной логики, так как любое допущение строго говоря аксиоматично — создание необоснованного утверждения. В некотором смысле, это выбор базиса для упрощения построения логической модели, что-то вроде более удобной системы координат. В частности, я считаю материализм — более удобной системой координат при построении логических рассуждений, касательно воспринимаемого чувственного потока объективной реальности, по отношению к которой мы допускаем, что ее реальность более реальна, чем наше восприятие, которое есть следствие сложной организации этого объекта.
Я не отрицаю материализм, я легко принимаю удобную систему координат в зависимости от ситуации и общения с людьми разных конфессий и воззрений. Но однажды я спросил себя — почему во всей информации, которую я изучаю сплошь и рядом допущения не основанные ни на чем? Что это за мир, состоящий из сплошных аксиом? И можно ли воспринимать действительность без самообмана, основанного на выборе удобных допущений?
Субъективно для себя много лет назад я начал этот путь построения восприятия окружающей действительности, лишенной недостатка абстрагирования при помощи выбора аксиоматических базисов в рассуждениях, чтобы понять для себя истину с точки зрения формальной логики. Для меня важно было построить это дерево рассуждений, лишенное абстракций. Этим мнением о возможном субъективном взгляде на вопрос интерпретации действительности я стараюсь поделиться, когда осознаю, что аудитория в состоянии воспринять информацию объективно.
Я такой же обычный IT'шник, как и многие здесь, я так же как и многие сижу с кружкой горячего чая, печатая эти строки, и вечером мне так же как и многим, предстоит немного позаниматься своими проектами после рабочего времени. Но я осознаю самообман, выбирая позицию материалиста, я вижу аксиомы, выбранные мною для удобства, более того, я могу принять позицию убежденности в собственной свободе воли, очевидно, даже не имея субъективно возможности объяснить, как я проявляю эту свободу воли, как я формирую эти мысли, ведь они просто появляются в области моей чувственной интерпретации так, словно я сижу в кинотеатре и смотрю фильм. То есть фактически, я могу закрыть глаза на то, что есть вещи, которые я не в состоянии объяснить: как я мыслю, что такое объективная реальность, откуда возникло мое сознание, что такое материя и энергия, что явилось причиной возникновения и формирования этого мира и почему он такой?
Я осознаю этот уровень самообмана и через интерпретируемую информацию, основанную на аксиомах я стараюсь раскрывать абстракции, чтобы осознавать действительность аргументированно, без допущений. Таков мой путь развития и я лишь хотел поделиться этим взглядом.
С уважением ко всем вам.
Откровенно говоря, субъективно все эти отдельные виды чувств есть лишь единое восприятие, оно неделимо, его деление на компоненты условно. То, что мы не видим вкус клубники или не чувствуем запахи цвета, не означает, что это нечто принципиально иное, потому как все это чувствуется нами, то есть воспринимается, с материалистической точки зрения — разными органами чувств.
Здесь стоит отметить, что, говоря о том, что другие люди видят то же, что и мы (или видят одинаково), мы снова используем абстракцию от реализации, то есть принимаем за аксиому тот факт, что объективно люди видят одно и то же. То же касается и мышления других людей — мы субъективно никак его не воспринимаем, в то время как в нашем мышлении мы допускаем некоторую корреляцию с тем, как мы интерпретируем субъективно действительность.
Я указал на проблему логическую в раскрытии данной абстракции в рамках формальной логики, так как любое допущение строго говоря аксиоматично — создание необоснованного утверждения. В некотором смысле, это выбор базиса для упрощения построения логической модели, что-то вроде более удобной системы координат. В частности, я считаю материализм — более удобной системой координат при построении логических рассуждений, касательно воспринимаемого чувственного потока объективной реальности, по отношению к которой мы допускаем, что ее реальность более реальна, чем наше восприятие, которое есть следствие сложной организации этого объекта.
Я не отрицаю материализм, я легко принимаю удобную систему координат в зависимости от ситуации и общения с людьми разных конфессий и воззрений. Но однажды я спросил себя — почему во всей информации, которую я изучаю сплошь и рядом допущения не основанные ни на чем? Что это за мир, состоящий из сплошных аксиом? И можно ли воспринимать действительность без самообмана, основанного на выборе удобных допущений?
Субъективно для себя много лет назад я начал этот путь построения восприятия окружающей действительности, лишенной недостатка абстрагирования при помощи выбора аксиоматических базисов в рассуждениях, чтобы понять для себя истину с точки зрения формальной логики. Для меня важно было построить это дерево рассуждений, лишенное абстракций. Этим мнением о возможном субъективном взгляде на вопрос интерпретации действительности я стараюсь поделиться, когда осознаю, что аудитория в состоянии воспринять информацию объективно.
Я такой же обычный IT'шник, как и многие здесь, я так же как и многие сижу с кружкой горячего чая, печатая эти строки, и вечером мне так же как и многим, предстоит немного позаниматься своими проектами после рабочего времени. Но я осознаю самообман, выбирая позицию материалиста, я вижу аксиомы, выбранные мною для удобства, более того, я могу принять позицию убежденности в собственной свободе воли, очевидно, даже не имея субъективно возможности объяснить, как я проявляю эту свободу воли, как я формирую эти мысли, ведь они просто появляются в области моей чувственной интерпретации так, словно я сижу в кинотеатре и смотрю фильм. То есть фактически, я могу закрыть глаза на то, что есть вещи, которые я не в состоянии объяснить: как я мыслю, что такое объективная реальность, откуда возникло мое сознание, что такое материя и энергия, что явилось причиной возникновения и формирования этого мира и почему он такой?
Я осознаю этот уровень самообмана и через интерпретируемую информацию, основанную на аксиомах я стараюсь раскрывать абстракции, чтобы осознавать действительность аргументированно, без допущений. Таков мой путь развития и я лишь хотел поделиться этим взглядом.
С уважением ко всем вам.
Искренне уважаю вас за эти размышления. Мало кто этим занимается.
Я бы с удовольствием выбрал время и подискутировал бы с вами.
Может, как-нибудь пост отдельный напишете?
Еще, я бы посоветовал вам сделать несколько проходов по ключевым работам по философии — в свое время я очень удивился, узнав насколько глубоко люди уже сформулировали и обдумали разные точки зрения.
Конкретно по тексту этого комментария:
Я бы с удовольствием выбрал время и подискутировал бы с вами.
Может, как-нибудь пост отдельный напишете?
Еще, я бы посоветовал вам сделать несколько проходов по ключевым работам по философии — в свое время я очень удивился, узнав насколько глубоко люди уже сформулировали и обдумали разные точки зрения.
Конкретно по тексту этого комментария:
- Есть узкие места: "И можно ли воспринимать действительность без возможного самообмана, основанного на выборе удобных допущений?" — "возможного" добавил я.
- Про синестезию знаете?
- Одна из ключевых проблем, которую часто поднимают — это неделимое "Я". Как мое сознание может анализировать само себя?
- "Свобода воли" тоже часто обсуждается, но лично мне легче от мысли, что невозможно отличить реальную "свободу воли" от "все предопределено".
- До сих пор не получалось (и верю, что вряд ли получится) вывести полную картину мира на ограниченного набора аксиом.
Благодарю за добрые слова и советы, я обязательно ознакомлюсь с материалами по теме! Материал я обязательно напишу, но он еще не в полной мере себя проявил. То есть я могу написать промежуточные статьи, но я хочу, чтобы это был труд фундаментальный не дискуссионный, основанный на формальной логике, опровержение которой неизбежно вызывало бы когнитивный диссонанс с привычными воззрениями, основанными на аксиомах и множественных слоях абстракций. Цель — определить истинное восприятие с точки зрения формальной логики, из которого методом абстрагирования через комбинации аксиом можно было бы породить сколько угодно большое множество любых мировоззрений.
Такая система координат удобная для чего?
Традиционная религия понятно кому выгодна, а этот зверь выглядит занятным, но бесполезным.
Традиционная религия понятно кому выгодна, а этот зверь выглядит занятным, но бесполезным.
Прошу прощения, случайно опубликовал. Ниже будет полный комментарий.
- Материалистическое воззрение удобно для того, чтобы выстраивать логические суждения внутри воспринимаемой объективной реальности.
- Безаксиоматическое суждение удобно для исследования совокупности эфектов в субъективной реальности, рождающих парадокс существования внешней логики — сингулярности, находящейся за горизонтом событий, который является проекцией конечно сформированного интерпретируемого нашим сознанием потока восприятия.
Если сказать проще — то материализм удобен для того, чтобы, исследовать окружающий нас материалистичный мир, привнося в него технологии. Субъективный объективизм же позволяет исследовать сам процесс мышления, в частности свойства субъективного интеллекта, которые выражаются в абстрагировании от реализации процесса синтеза и субъективно воспринимаются, как автономность мышления.
Иначе говоря — это подход по исследованию рефлексии и процессов мышления, на которых основаны логические суждения в любой выбранной для удобства системе координат.
Классическую музыку можно придумать, поверив в иллюзию собственной воли, а можно просто воспринимать ее в процессе мышления, не прикладывая к этому субъективно ни малейшего усилия, так как синтез происходит в недоступном для восприятия — в сингулярности.
Архитектуру проекта можно спроектировать, просчитывая и продумывая каждый аспект, поверив в иллюзию собственного волевого усилия и объективной эрудиции, но можно просто интерпретировать, не прикладывая субъективно к этому ни малейшего усилия. Просто, увидеть в области восприятия нечто, что осознается лишь спустя время, через ретроспективный анализ.
Чтобы получить большую часть объема своих знаний за последние несколько лет, я не приложил ни малейших усилий, не смотря на то, что я живу в потоке и интерпретирую постоянно разные несвязанные порции информации. Я не прилагаю усилий, чтобы "компилировать" или целенаправленно изучать предметные области, просто совокупность случайных событий формирует картину, например, для формирования математических моделей, решающих задачи оптимальной конфигурации предприятий.
Субъективно, я ощущаю от этого пользу. Но это субъективно и это напрямую связано с моим мировоззрением.
P.S. Некоторые называют это "одержимостью идеей". Субъективно я не осознаю "идею", я осознаю чем-то спланированный процесс восприятия.
При всем уважении, у меня есть к вам просьба — прочтите этот текст медленно несколько раз. К сожалению, так уж получается, что беглое чтение не раскрывает информационно емкий текст. Даже проверяя, все ли я выразил в комментарии, я перечитал его около 8 раз.
Как вы думаете, зачем я перечитывал собственный текст около 8 раз, если его синтезировал я сам по определенным синтезированным мною желаниям что-либо выразить? Если не обращать на это внимание, то списать можно на невнимательность, но субъективно, я нахожусь в потоке, я не более чем транслятор, когда пишу это, поэтому для восприятия мною же написанного мне требуется время, мне нужно перечитать и осмыслить всю емкость сказанного. Это может показаться странным, я понимаю.
Это очень похоже на ситуацию, когда вы открываете собственный программный код, написанный вами ранее и не можете сходу его осмыслить, так как его предел сложности (порог вхождения) достаточно высок, и вам требуется "переосмыслить" написанное вами же. Вопрос исключительно длительности интервала. В данном случае — это подобно работе по вытягиванию данных на основе полученного указателя, но перманентно.
Конечно же, у нас, материалистов, есть несколько объяснений вашего эффекта "быть транслятором". Я и сам несколько раз на большом подъеме писал сложные алгоритмы "полуавтоматически", не до конца осознавая детали своего же кода. И это отличается от того, как я лет в двадцать, навеселе пытался играть в "кваку" — два прицела и очень тошнит :)
Можно "не мешать" самому себе делать то, что ты хорошо умеешь — и это не зависит от системы убеждений.
Ключевое слово в вопросе qw1 — "… бесполезным". С точки зрения простого материализма, ваша система убеждений не помогает непосредственно "делать дело". Но, насколько я могу судить, она дает ответы на экзистенциальные вопросы и помогает "наполнить" себя.
Это так?
Можно "не мешать" самому себе делать то, что ты хорошо умеешь — и это не зависит от системы убеждений.
Ключевое слово в вопросе qw1 — "… бесполезным". С точки зрения простого материализма, ваша система убеждений не помогает непосредственно "делать дело". Но, насколько я могу судить, она дает ответы на экзистенциальные вопросы и помогает "наполнить" себя.
Это так?
Напротив! Я скорее пытаюсь исследовать и использовать механизм автономного синтеза, чем-то напоминающим воззрения дзэн буддизма, то есть, с сугубо практической точки зрения, я субъективно стараюсь удерживать состояние "дзэн" (просветления сознания) с целью увеличения вероятности возникновения идей и решений. Иными словами я ищу пользу в том, что намеренно и осознанно использую принцип разделения ответственности, возлагая объемные и кропотливые задачи не на свое Я, а во вне, субъективно лишь интерпретируя решения.
Я понимаю, что с точки зрения материализма необходимо "пощупать", понять механику и осознать возможности применения. Я опишу кратко и доходчиво технику, чтобы мои слова не были голословны и имели некоторую возможность практического опыта:
В состоянии, когда человек просыпается, но все еще хочет подремать (обычно утром в выходной день) субъективно мы воспринимаем смешанную картину действительности — с одной стороны то, что называем объективная реальность, с другой — то что называем сном или грезами.
В этом состоянии я нашел интересный эффект: когда в области нашего восприятия (мышления) формируется мыслеобраз, о котором мы думаем, мы можем потерять над ним контроль, и он станет автономным, также мы можем вернуть контроль над мыслеобразом, субъективно это будет восприниматься аналогом объективного наличия воли. После многочисленных экспериментов, я осознал, что могу "отпускать" мысли в свободное плавание, они наделяются собственным контролем, я более не формирую для них логику.
Важно: Необходимо понимать, что под "я более не формирую" — я осознанно пишу так, зная, что ощущение воли — лишь ощущение.
Со временем я осознал, что ровно то же самое можно делать не на стыке бодрствование/сон, а в состоянии полного бодрствования, и большую часть рутинных мыслей я стал "отпускать" в свободное плавание. Мне не требуется удерживать их в области моего сознания, я даже не воспринимаю субъективно, что происходит дальше, вся компиляция происходит в фоновом режиме, я лишь иногда замираю и воспринимаю ответ в виде потока, это похоже на состояние маниакальной эйфории, картинка складывается сама и при этом испытываешь удовольствие и состояние нервного возбуждения.
В состоянии, когда человек просыпается, но все еще хочет подремать (обычно утром в выходной день) субъективно мы воспринимаем смешанную картину действительности — с одной стороны то, что называем объективная реальность, с другой — то что называем сном или грезами.
В этом состоянии я нашел интересный эффект: когда в области нашего восприятия (мышления) формируется мыслеобраз, о котором мы думаем, мы можем потерять над ним контроль, и он станет автономным, также мы можем вернуть контроль над мыслеобразом, субъективно это будет восприниматься аналогом объективного наличия воли. После многочисленных экспериментов, я осознал, что могу "отпускать" мысли в свободное плавание, они наделяются собственным контролем, я более не формирую для них логику.
Важно: Необходимо понимать, что под "я более не формирую" — я осознанно пишу так, зная, что ощущение воли — лишь ощущение.
Со временем я осознал, что ровно то же самое можно делать не на стыке бодрствование/сон, а в состоянии полного бодрствования, и большую часть рутинных мыслей я стал "отпускать" в свободное плавание. Мне не требуется удерживать их в области моего сознания, я даже не воспринимаю субъективно, что происходит дальше, вся компиляция происходит в фоновом режиме, я лишь иногда замираю и воспринимаю ответ в виде потока, это похоже на состояние маниакальной эйфории, картинка складывается сама и при этом испытываешь удовольствие и состояние нервного возбуждения.
Субъективно я не осознаю, как происходит процесс решения задачи, я не знаю на него ответ, я не владею этой информацией. Но субъективно я уверен, что я воспринимаю именно готовое решение, идею, модель, схему — что угодно. Я не трачу усилия и время на это, я занимаюсь своими делами, например, глажу рубашку, а понимаю, как применить методы фильтрации для выявления аномалий в распределении чисел. Хотел ли я это в этот момент? Субъективно — нет. Но что я получил в области восприятия — ответ на какой-то поставленный мною вопрос, возможно, даже забытый мною вопрос.
Так как в моем субъективном восприятии отсутствует какая-либо информация о процессе синтеза, я не ввожу для объяснения этого феномена набор аксиом, я лишь объективно признаю наличие интерпретации решения, остальное я называю сингулярностью — то что недоступно моему Я для осознания. Весь спектр того, что я воспринимаю субъективно, я называю горизонтом событий, так как я не встречал устоявшейся терминологии касаемо данного вопроса, я позаимствовал ее из астрофизики, метафорично выражая субъективный опыт для возможности понимания через сравнение меня другими людьми.
Так как в моем субъективном восприятии отсутствует какая-либо информация о процессе синтеза, я не ввожу для объяснения этого феномена набор аксиом, я лишь объективно признаю наличие интерпретации решения, остальное я называю сингулярностью — то что недоступно моему Я для осознания. Весь спектр того, что я воспринимаю субъективно, я называю горизонтом событий, так как я не встречал устоявшейся терминологии касаемо данного вопроса, я позаимствовал ее из астрофизики, метафорично выражая субъективный опыт для возможности понимания через сравнение меня другими людьми.
Возвращаясь к теме поста и в контексте всего вышесказанного я думаю будет более понятно то деление, которое я приводил выше, относительно ИИ:
Именно поэтому я писал:
- слабый ИИ — узкоспециализированный алгоритм
- сильный ИИ — адаптивный алгоритм широкого применения функционально сопоставимый с возможностями разумного человека
- сознание — механизм взаимодействия с сингулярностью, эквивалентный субъективной интерпретации моего Я
Именно поэтому я писал:
Осознавать себя не значит подвергать собственную конфигурацию оптимизации по определенным критериям. Алгоритм, способный видоизменять себя и адаптироваться не является сознанием в том смысле, который предполагают некоторые представители научного сообщества, мыслящие "идеальными" категориями. Нельзя недооценивать этот факт. Еще раз обращаю ваше внимание на этот факт — самосознание не является возможностью совершать операции оптимизации над собственной конфигурацией. Сознание в целом есть больше, чем высокоразвитый алгоритм, функциональная мощность которого предполагает возможность моделирования себя в окружающей среде с учетом субъективного опыта (мгновенной конфигурации во времени).
Спасибо! Очень интересно! :)
Люди-"быстросчетчики" тоже говорят, что все вычисления происходят у них "где-то там", а в сознание лишь всплывает ответ.
Я все-таки считаю, что все это происходит в мозгу, просто вы "выключили осознание промежуточного процесса" наподобие того, как я уже много лет не помню снов (и мне кажется, что я их не вижу). Так что с моей точки зрения "сильный ИИ" и "сознание" в вашей классификации — это одно и то же.
Я могу быть и неправ. Надеюсь, скоро мы узнаем :)
Люди-"быстросчетчики" тоже говорят, что все вычисления происходят у них "где-то там", а в сознание лишь всплывает ответ.
Я все-таки считаю, что все это происходит в мозгу, просто вы "выключили осознание промежуточного процесса" наподобие того, как я уже много лет не помню снов (и мне кажется, что я их не вижу). Так что с моей точки зрения "сильный ИИ" и "сознание" в вашей классификации — это одно и то же.
Я могу быть и неправ. Надеюсь, скоро мы узнаем :)
Я не отрицаю, что мы можем наблюдать совокупность процессов именно в мозге, которые бы коррелировали с описанием субъективных переживаний. Разница лишь в том, что я не могу позволить себе поставить знак равенства между регистрируемыми электрохимическими и квантовыми эффектами в нейросети мозга и субъективным опытом, не объяснив природу проявления материальной действительности и природу субъективного восприятия через единую модель более базовую, нежели фундаментальная физика. Иными словами, осознание для меня модели, в которой красный цвет, воспринимаемый мной нативно есть ни что иное как поглощение квантов определенной энергии, разрушающие соответствующие молекулярные связи с высвобождением электрической энергии, которая запускает цепную электро-химическую реакцию — не есть то же самое, что и восприятие красного цвета.
Я не могу поставить знак равенства, что совокупность распределения импульсов в нейросети головного мозга = красный цвет, так как это и есть аксиома — явное допущение, по сути своей вера в то, что наблюдаемое распределение заряда и молекул "где-то там" порождает ощущение красного цвета.
Вместо этого я поставил объективно на основе формальной логики знак равенства между мое восприятие красного цвета и мое субъективное восприятие объективной действительности в моем мышлении, в рамках которой (интерпретируемой действительности) я могу наблюдать процессы коррелирующие между ощущением красного и распределением электро-химических сигналов, которые по определению в области восприятия и имею туже природу, что и нативные чувства.
То есть я просто не стал менять причину и следствие местами, я не выворачивал наружу последовательность логических суждений, не делал воспринимаемую действительность более реальной, чем сам процесс восприятия.
Я не могу поставить знак равенства, что совокупность распределения импульсов в нейросети головного мозга = красный цвет, так как это и есть аксиома — явное допущение, по сути своей вера в то, что наблюдаемое распределение заряда и молекул "где-то там" порождает ощущение красного цвета.
Вместо этого я поставил объективно на основе формальной логики знак равенства между мое восприятие красного цвета и мое субъективное восприятие объективной действительности в моем мышлении, в рамках которой (интерпретируемой действительности) я могу наблюдать процессы коррелирующие между ощущением красного и распределением электро-химических сигналов, которые по определению в области восприятия и имею туже природу, что и нативные чувства.
То есть я просто не стал менять причину и следствие местами, я не выворачивал наружу последовательность логических суждений, не делал воспринимаемую действительность более реальной, чем сам процесс восприятия.
Я полагаю, что в некотором будущем возникнет осознание на стыке физики и субъективного реализма, которое сможет стать более фундаментальным, оно сотрет грань между материализмом и идеализмом и по сути раскроет в нативной форме суть и природу проявлений как моделирования, так и восприятия. Это не изменит ни одного устоявшегося и проверенного постулата, но это позволит связать многие вещи в единое целостное восприятие действительности (которое не будет делиться на материальное и идеальное). В этом осознании процесс возникновения Вселенной и процесс возникновения сознания будут неразрывно связаны и первое будет в области потока восприятия второго, но не являться причиной формирования сознания. Мир несколько иной, это не просто бесконечное пространство, вокруг которого вопросов больше чем ответов, не просто сознание со своими "странностями" и загадками, мир — это субъективная реальность проявленная через горизонт событий (через поток восприятия). Мир неделим, он целостный, такой, каким мы его воспринимаем. Просто мы однобоко используем логику, позволяя себе применять абстрагирование всюду, лишь бы иметь возможность строить логические суждения.
Спасибо, что написали подробно. Теперь намного понятнее, о чём вы говорите.
Для меня тут нет никакого конфликта материального-идеального, а речь только о механизмах работы мозга. Состояние наблюдения со стороны на течение мысли без попыток им управлять знакомо. Но я не воспринимаю его как нечто ценное, и вот почему.
Во-первых, можно бесконечно обдумывать например архитектуру своей программы, но дело от этого не сдвинется ни на миллиметр (на самом деле конечно польза есть, т.к. многократно обдуманное проще записать). Попытки записать жестоко пресекаются ленью (или прокрастинацией), а главное, разрушают это состояние. Нужно переходить из режима наблюдателя в рабочий режим.
Во-вторых, всё воспринимается абсолютно некритично, что приводит к неверным результатам. Во сне можно быть уверенным в абсолютной ерунде, и мозг будет верить этому. На практике, свободное обдумывание может приводить к неполным решениям, недостатки которых заметны только после перехода в режим критического контроля. Что-то может быть устранено, но что-то будет полностью негодным и потребует другого подхода.
Исходя из вышесказанного, я считаю способ мышления в режиме "радиоприёмника" багом мозга, движением по инерции. Когда основной режим — это мысленное напряжение, фокус внимания двигает мысли, выполняя логические действия. Отключаешь внимание, это как перестаёшь подавать энергию на двигатель — мысли блуждают свободно, приятно что теперь не надо напрягаться, но к цели двигаешься медленнее.
Я уверен, что без фазы "подачи энергии" движение по инерции вообще не будет подкидывать чего-то дельного.
Для меня тут нет никакого конфликта материального-идеального, а речь только о механизмах работы мозга. Состояние наблюдения со стороны на течение мысли без попыток им управлять знакомо. Но я не воспринимаю его как нечто ценное, и вот почему.
Во-первых, можно бесконечно обдумывать например архитектуру своей программы, но дело от этого не сдвинется ни на миллиметр (на самом деле конечно польза есть, т.к. многократно обдуманное проще записать). Попытки записать жестоко пресекаются ленью (или прокрастинацией), а главное, разрушают это состояние. Нужно переходить из режима наблюдателя в рабочий режим.
Во-вторых, всё воспринимается абсолютно некритично, что приводит к неверным результатам. Во сне можно быть уверенным в абсолютной ерунде, и мозг будет верить этому. На практике, свободное обдумывание может приводить к неполным решениям, недостатки которых заметны только после перехода в режим критического контроля. Что-то может быть устранено, но что-то будет полностью негодным и потребует другого подхода.
Исходя из вышесказанного, я считаю способ мышления в режиме "радиоприёмника" багом мозга, движением по инерции. Когда основной режим — это мысленное напряжение, фокус внимания двигает мысли, выполняя логические действия. Отключаешь внимание, это как перестаёшь подавать энергию на двигатель — мысли блуждают свободно, приятно что теперь не надо напрягаться, но к цели двигаешься медленнее.
Я уверен, что без фазы "подачи энергии" движение по инерции вообще не будет подкидывать чего-то дельного.
По-моему вы описали сознание и подсознаие. Я и сверх-я. Уже теплее
> Можно ли сделать «китайскую комнату», которая будет точно моделировать жизнь обывателя? Уверен, что да. И даже уверен, что необходимая для этого реально большая нейронная сеть / алгоритм войдет в «космологический горизонт вычислимости», ну т.е. мы реально можем вбухать кучу денег и построить такую штуку.
Уже. Игра называется The Sims. Жизнь обывателя там смоделирована близко к реальности. Да, там многого нет, но нужно учитывать, что это всё таки игра, многие моменты в ней опущены, во-первых, и во-вторых, это коммерческий продукт с ограниченным (хоть и большим) бюджетом и сроком производства.
Так что да, смоделировать жизнь обывателя с рождения и до смерти, включая и неприятности, болезни, горе с одной стороны, так и радость, счастье, любовь — с другой. И, скорее всего, это действительно будет «китайская комната», т.к. типичная жизнь типичного человека на 99% состоит из типовых ситуаций и, соответственно, типовых же решений для этих ситуаций. Для одной ситуации может быть несколько таких типовых решений, но их набор ограничен и известен.
То есть, в целом, задача решаемая, было бы время и деньги.
Но ведь нас интересуют не обыватели. Задача создания ИИ уровня, сопоставимого с человеческим, верхней планкой имеет интеллект уровня гения. И вот это уже совсем другое дело, т.к. многие гении весьма неуравновешены. Их гениальность сочетается со сложностью психики. Это будет чрезвычайно трудно, возможно, в процессе мы создадим ИИ, который будет иметь мышление, сопоставимое по уровню с мышлением крупного учёного, но не гения.
Такой интеллект определённо будет полезен. Но вряд ли превзойдёт человеческий. Задача же формализации гениальности… ну, не знаю — решима ли?
Уже. Игра называется The Sims. Жизнь обывателя там смоделирована близко к реальности. Да, там многого нет, но нужно учитывать, что это всё таки игра, многие моменты в ней опущены, во-первых, и во-вторых, это коммерческий продукт с ограниченным (хоть и большим) бюджетом и сроком производства.
Так что да, смоделировать жизнь обывателя с рождения и до смерти, включая и неприятности, болезни, горе с одной стороны, так и радость, счастье, любовь — с другой. И, скорее всего, это действительно будет «китайская комната», т.к. типичная жизнь типичного человека на 99% состоит из типовых ситуаций и, соответственно, типовых же решений для этих ситуаций. Для одной ситуации может быть несколько таких типовых решений, но их набор ограничен и известен.
То есть, в целом, задача решаемая, было бы время и деньги.
Но ведь нас интересуют не обыватели. Задача создания ИИ уровня, сопоставимого с человеческим, верхней планкой имеет интеллект уровня гения. И вот это уже совсем другое дело, т.к. многие гении весьма неуравновешены. Их гениальность сочетается со сложностью психики. Это будет чрезвычайно трудно, возможно, в процессе мы создадим ИИ, который будет иметь мышление, сопоставимое по уровню с мышлением крупного учёного, но не гения.
Такой интеллект определённо будет полезен. Но вряд ли превзойдёт человеческий. Задача же формализации гениальности… ну, не знаю — решима ли?
Самосознание выходит из самоанализа. Если сильный ИИ сможет и будет обрабатывать весь объем данных поступающих в него, в т.ч. способ, манера и др особенности общения с оператором то в полне возможно в какой то момент он может обзавестись личностью.
Если ИИ можно «задать тягу к знаниям и не задаватьтягу к самосохранению», то врядли такой ИИ можно назвать сильным, если вообще ИИ. Сильный ИИ должен быть способен хотя бы на внезапный суицид или иной способ удивить создателя. Вот тогда это будет сильно!
Сразу вспоминается Робот Вертер и его "А говорил, что романтик..." :))
А серьезно — можно посмотреть на людей с патологиями. В разумности им не откажешь, но их поведение может очень сильно варьироваться. Поэтому я бы не стал сразу жестко задавать границы разумного поведения для ИИ — они нас еще удивят :)
А серьезно — можно посмотреть на людей с патологиями. В разумности им не откажешь, но их поведение может очень сильно варьироваться. Поэтому я бы не стал сразу жестко задавать границы разумного поведения для ИИ — они нас еще удивят :)
Мне кажется странным утверждение о том, что сильный ИИ обязан несоизмеримо превзойти человеческий. Почему-то в рассуждениях часто встречается точка зрения, что мол сильный ИИ в своем саморазвитии уйдет куда-то очень далеко.
По-моему возможности любой системы конечны и в определенный момент система достигнет насыщения и дальнейшее развитие или остановится, или будет идти значительно медленнее.
Конечно это не отменяет того факта, что этот ИИ сможет создать в свою очередь другой ИИ, еще более сильный. Вопрос только во времени, который ему для этого потребуется.
Это я к тому, что создание сильного ИИ не обязательно означает скорого наступления сингулярности, как мне представляется.
По-моему возможности любой системы конечны и в определенный момент система достигнет насыщения и дальнейшее развитие или остановится, или будет идти значительно медленнее.
Конечно это не отменяет того факта, что этот ИИ сможет создать в свою очередь другой ИИ, еще более сильный. Вопрос только во времени, который ему для этого потребуется.
Это я к тому, что создание сильного ИИ не обязательно означает скорого наступления сингулярности, как мне представляется.
Почему обязательно «обязан» и «обязательно уйдет»? Посмотрите на эти встречающиеся точки зрения, как на «может» и «возможно уйдет». Люди осознают, что такой вариант возможен и опасаются его.
Полностью согласен.
Про технологическую сингулярность — есть такое мнение, что за последние 50 лет люди нахватали "низко висящих плодов" прогресса, и дальнейшее продвижение будет уже сложнее.
Вот тут — http://2012.gf2045.ru/read/120/ — отличное выступление Александра Панова, который предсказал и сейчас наблюдает снижение количества фундаментальных исследований (стало дорого -> меньше ярких результатов -> меньше финансирование -> меньше исследований ...)
Про технологическую сингулярность — есть такое мнение, что за последние 50 лет люди нахватали "низко висящих плодов" прогресса, и дальнейшее продвижение будет уже сложнее.
Вот тут — http://2012.gf2045.ru/read/120/ — отличное выступление Александра Панова, который предсказал и сейчас наблюдает снижение количества фундаментальных исследований (стало дорого -> меньше ярких результатов -> меньше финансирование -> меньше исследований ...)
Результаты «яркие», просто они узкоспециализированные и посторонним людям малопонятны. Единицы ярких результатов в прошлом, сейчас с успехом заменил широчайший фронт специфических открытий, кто-то совершенствует ядро ОС, кто-то ДНК организмов, и каждый проект, каких миллионы, по сложности сравним с первой ракетой например. Привыкли уже к открытиям просто и скорости прогресса.
Человеческий интеллект крайне ограничен возможностями носителя — человек в сознании оперирует всего десятком обьектов, наблюдает между ними взаимосвязи. Более сложные задачи человеку уже не по плечу — не хватает регистров все это удержать в памяти, охватить одним взглядом, человек начинает анализировать по кусочкам, теряя время, многое упуская, и совершая множество ошибок, в общем при превышении физических возможностей работает крайне неэффективно.
Простейший компьютер с простейшим аналитическим алгоритмом без капли ИИ может оперировать миллионами и миллиардами обьектов, наблюдая и выявляя взаимосвязи между ними — вопрос обьема памяти и скорости доступа, у железа эти параметры не в пример лучше.
Наблюдая тоже самое, что и человек, компьютер-аналитик без ИИ сделает гораздо более глубокие выводы на основе тех же данных, за минимальное время — по сравнению с человеком, его эффективность на много порядков выше, и большая часть выводов человечеством не может быть найдена даже за века непрерывного анализа, т.к. взаимосвязи, на основе которых сделаны эти выводы, лежат намного выше того уровня, который может наблюдать человек. В общем для человека такие тонкие взаимосвязи — ничего не значащий шум.
Теперь представь, что подобные возможности достались интеллекту, не важно естественному или искусственному — бросив всего один взгляд на ту же физику, такой интеллект способен сразу выявить всю структуру законов природы, и открыть много чего неочевидного нам.
Компьютеры уже это делают — недавно Ватсон так проконсультировал медиков, проанализировав массив историй болезни за 30 лет, а алгоритм студентов, проанализировав исходные данные, предложил крайне неочевидную схему какого-то физического опыта, еще компьютер так предложил какой-то прорывной сетевой алгоритм. Это тупая аналитика, которая за один проход выявила то, что сотни тысяч ученых упускали десятки лет, анализируя те же данные раз за разом, миллионы раз.
Вкусно, не так ли?
Так вот, возможно как создание ИИ, способного на задачи такого класса, которые нам, как биологическим существам, вообще не грозят, даже в отдаленном будущем, так и синергия железа с биологией, усилитель биоинтеллекта.
Теоретически возможно временно расширить ограниченный биологический интеллект за счет внешней машинной памяти и вычислительных возможностей. Например столкнувшись с неразрешимой задачей, можно на время увеличить свои возможности, найти решение, отключится от машины и сразу перестать понимать как и почему это решение работает, но помнить, что оно работает, и пользоваться им, не понимая сути. Также в машинную память можно быстро загружать любые знания, и во время коннекта человек может ими пользоваться как своими собственными. Возможности подобной технологии крайне широки, и выходят далеко за рамки этой темы, касаясь даже бессмертия.
Для этого фокуса машина соединяется с мозгом, встраиваясь в структуру мозга, становится органичной его частью, участвует в принятии решений, влияет на формирование волновой картины. Часть интеллекта исполняется на машине, пользуясь ее возможностями, не испытывая биоограничений.
Резать мозг не обязательно — достаточно микробусины с чипом и сетью сенсоров, это и есть полноценный машинный нейроинтерфейс. Ресурсов такой бусины более чем достаточно, чтобы поднять возможности носителя на пару порядков (особенно ценно для детей — обучение мгновенное, все гении как на подбор), но более ценны коммуникационные возможности — через бусины можно обьединять сознания с другими носителями бусин, формируя единое сознание и ментальную связь (все участники действуют эффективно и согласовано), а также можно подключится к мейнфрейму, и расширить свои возможности на много порядков. И это — полноценный человек, а не какая-нибудь железка, и все без капли ИИ.
Так что технологическая сингулярность определенно будет иметь место — если завести ИИ или усилить человека, скачок будет очень резкий, и дальнейшая скорость прогресса будет расти невероятными темпами, т.к. в мире сразу же появится множество гениев невероятного масштаба.
Простейший компьютер с простейшим аналитическим алгоритмом без капли ИИ может оперировать миллионами и миллиардами обьектов, наблюдая и выявляя взаимосвязи между ними — вопрос обьема памяти и скорости доступа, у железа эти параметры не в пример лучше.
Наблюдая тоже самое, что и человек, компьютер-аналитик без ИИ сделает гораздо более глубокие выводы на основе тех же данных, за минимальное время — по сравнению с человеком, его эффективность на много порядков выше, и большая часть выводов человечеством не может быть найдена даже за века непрерывного анализа, т.к. взаимосвязи, на основе которых сделаны эти выводы, лежат намного выше того уровня, который может наблюдать человек. В общем для человека такие тонкие взаимосвязи — ничего не значащий шум.
Теперь представь, что подобные возможности достались интеллекту, не важно естественному или искусственному — бросив всего один взгляд на ту же физику, такой интеллект способен сразу выявить всю структуру законов природы, и открыть много чего неочевидного нам.
Компьютеры уже это делают — недавно Ватсон так проконсультировал медиков, проанализировав массив историй болезни за 30 лет, а алгоритм студентов, проанализировав исходные данные, предложил крайне неочевидную схему какого-то физического опыта, еще компьютер так предложил какой-то прорывной сетевой алгоритм. Это тупая аналитика, которая за один проход выявила то, что сотни тысяч ученых упускали десятки лет, анализируя те же данные раз за разом, миллионы раз.
Вкусно, не так ли?
Так вот, возможно как создание ИИ, способного на задачи такого класса, которые нам, как биологическим существам, вообще не грозят, даже в отдаленном будущем, так и синергия железа с биологией, усилитель биоинтеллекта.
Теоретически возможно временно расширить ограниченный биологический интеллект за счет внешней машинной памяти и вычислительных возможностей. Например столкнувшись с неразрешимой задачей, можно на время увеличить свои возможности, найти решение, отключится от машины и сразу перестать понимать как и почему это решение работает, но помнить, что оно работает, и пользоваться им, не понимая сути. Также в машинную память можно быстро загружать любые знания, и во время коннекта человек может ими пользоваться как своими собственными. Возможности подобной технологии крайне широки, и выходят далеко за рамки этой темы, касаясь даже бессмертия.
Для этого фокуса машина соединяется с мозгом, встраиваясь в структуру мозга, становится органичной его частью, участвует в принятии решений, влияет на формирование волновой картины. Часть интеллекта исполняется на машине, пользуясь ее возможностями, не испытывая биоограничений.
Резать мозг не обязательно — достаточно микробусины с чипом и сетью сенсоров, это и есть полноценный машинный нейроинтерфейс. Ресурсов такой бусины более чем достаточно, чтобы поднять возможности носителя на пару порядков (особенно ценно для детей — обучение мгновенное, все гении как на подбор), но более ценны коммуникационные возможности — через бусины можно обьединять сознания с другими носителями бусин, формируя единое сознание и ментальную связь (все участники действуют эффективно и согласовано), а также можно подключится к мейнфрейму, и расширить свои возможности на много порядков. И это — полноценный человек, а не какая-нибудь железка, и все без капли ИИ.
Так что технологическая сингулярность определенно будет иметь место — если завести ИИ или усилить человека, скачок будет очень резкий, и дальнейшая скорость прогресса будет расти невероятными темпами, т.к. в мире сразу же появится множество гениев невероятного масштаба.
Вы написали много хороших мыслей. Большая часть из них — из серии "было бы здорово когда-нибудь", но "вкусно", согласен :)
По сути — есть скачки в рассуждениях, сложные для сознания человека, по большей части из-за "числа Миллера" — наша сознательная часть может жонглировать 5 плюс-минус два понятия одновременно. При этом многие обходят эти ограничения, просто ментально группируя понятия. Потом, ниже сознательного уровня у нас лежит отличная индексированная база данных (в виде данных и/или в виде обученной нейросети — не важно). Как я писал, индексы у всех разные, но в пределах своего индексирования люди могут выдавать отличные аналитические результаты. Я часто исполняю "чтение мыслей" — в отдельных ситуациях мышление людей очень предсказуемо — и все это на основе сотен тысяч эпизодов коммуникаций с другими людьми, обработанными и хранящимися у меня в голове.
Я к тому, что люди не так и плохи — и своими "черепашьими" темпами уже достигли немалого прогресса. Все попытки формализовать физику и математику и заставить компы находить новые взаимосвязи пока что принесли только горстку очень вторичных результатов. А то и откровенной ерунды: http://www.tylervigen.com/spurious-correlations — там есть ковариация в 94% между потреблением сыра и количеством смертей у запутавшихся в простынях :)
Про слияние разумов — нам или ИИ еще писать и писать код для этого. Опять-таки, например из-за теоремы САР.
Я думаю, что будущее будет невероятнее наших текущих прогнозов :)
По сути — есть скачки в рассуждениях, сложные для сознания человека, по большей части из-за "числа Миллера" — наша сознательная часть может жонглировать 5 плюс-минус два понятия одновременно. При этом многие обходят эти ограничения, просто ментально группируя понятия. Потом, ниже сознательного уровня у нас лежит отличная индексированная база данных (в виде данных и/или в виде обученной нейросети — не важно). Как я писал, индексы у всех разные, но в пределах своего индексирования люди могут выдавать отличные аналитические результаты. Я часто исполняю "чтение мыслей" — в отдельных ситуациях мышление людей очень предсказуемо — и все это на основе сотен тысяч эпизодов коммуникаций с другими людьми, обработанными и хранящимися у меня в голове.
Я к тому, что люди не так и плохи — и своими "черепашьими" темпами уже достигли немалого прогресса. Все попытки формализовать физику и математику и заставить компы находить новые взаимосвязи пока что принесли только горстку очень вторичных результатов. А то и откровенной ерунды: http://www.tylervigen.com/spurious-correlations — там есть ковариация в 94% между потреблением сыра и количеством смертей у запутавшихся в простынях :)
Про слияние разумов — нам или ИИ еще писать и писать код для этого. Опять-таки, например из-за теоремы САР.
Я думаю, что будущее будет невероятнее наших текущих прогнозов :)
F( Формирование жизни. Эволюция. Развитие интеллекта. Сохранение энергии. Сохранение информации. Рост энтропии. Формирование ИИ. Эволюция ИИ. Субъективное уменьшение энтропии. Сохранение энтропии. ) — функция интерпретации действительности нашим Я.
С точки зрения исключительно информации — сознание — следствие усложнения информации.
С точки зрения исключительно информации — сознание — следствие усложнения информации.
На правах зануды:
как например тот мужик из американского Бюро Патентов в 1899 году, который выдал, что «все, что могло быть изобретено, уже изобрели»
Есть мнение, что это байка. Из вики (про Чарльза Дуелла):
In 1898, he was appointed as the United States Commissioner of Patents, and held that post until 1901. In that role, he is famous for purportedly saying «Everything that can be invented has been invented.» However, this has been debunked as apocryphal by librarian Samuel Sass who traced the quote back to 1981 book titled «The Book of Facts and Fallacies» by Chris Morgan and David Langford. In fact, Duell said in 1902:
In my opinion, all previous advances in the various lines of invention will appear totally insignificant when compared with those which the present century will witness. I almost wish that I might live my life over again to see the wonders which are at the threshold.
как например тот мужик из американского Бюро Патентов в 1899 году, который выдал, что «все, что могло быть изобретено, уже изобрели»
Есть мнение, что это байка. Из вики (про Чарльза Дуелла):
In 1898, he was appointed as the United States Commissioner of Patents, and held that post until 1901. In that role, he is famous for purportedly saying «Everything that can be invented has been invented.» However, this has been debunked as apocryphal by librarian Samuel Sass who traced the quote back to 1981 book titled «The Book of Facts and Fallacies» by Chris Morgan and David Langford. In fact, Duell said in 1902:
In my opinion, all previous advances in the various lines of invention will appear totally insignificant when compared with those which the present century will witness. I almost wish that I might live my life over again to see the wonders which are at the threshold.
Согласен, но мою мысль это не меняет — мы все видим только фрагмент реальной картины, исходя из своих фильтров восприятия и накопленного субъективного опыта. Поэтому иногда умные люди приходят к странным выводам.
Опять-таки, в моей статье есть опрос, и среду ответивших точно есть несколько умных и опытных людей, которые (небезосновательно!) считают, что ИИ мы не построим. И я очень хочу узнать их аргументы, потому что из моей "картины мира" — они не видны!
Опять-таки, в моей статье есть опрос, и среду ответивших точно есть несколько умных и опытных людей, которые (небезосновательно!) считают, что ИИ мы не построим. И я очень хочу узнать их аргументы, потому что из моей "картины мира" — они не видны!
Подобные мысли многие озвучивали и продолжают озвучивать. К примеру, высказывание Нобелевского лауреата Альберта Майкельсона:
Albert Michelson, address at the opening of the Ryerson Physical Laboratory, University of Chicago, 1894
The more important fundamental laws and facts of physical science have all been discovered, and
these are now so firmly established that the possibility of their ever being supplanted in consequence
of new discoveries is exceedingly remote... Our future discoveries must be looked for in the sixth
place of decimals.
Albert Michelson, address at the opening of the Ryerson Physical Laboratory, University of Chicago, 1894
Есть пара крупных "дырок" в текущей фундаментальной физике, которые, я очень надеюсь, приведут к чему-то новому и интересному.
Посмотрите тут: https://www.quantamagazine.org/wp-content/uploads/iframe/PhysicsMap/index.html?ver=12 — сказочно сделано и очень интересно.
Посмотрите тут: https://www.quantamagazine.org/wp-content/uploads/iframe/PhysicsMap/index.html?ver=12 — сказочно сделано и очень интересно.
Я эту цитату привёл скорее как пример того, что
умные люди говорят недалекие вещи, как например тот мужик из американского Бюро ПатентовВ ответ на предыдущий комментарий, указывающий на то, что мужик из бюро патентов — байка.
Как раз и имеется ввиду, что на протяжении столетий вроде бы авторитетные люди утверждают, что, мол, всё уже открыто и доказано. И каждый раз их утверждения опровергаются. Причём зачастую вскоре после подобных заявлений.
Думаю, одного пункта в голосовании не хватает.
5) Возможно, и он уже создан и функционирует.
5) Возможно, и он уже создан и функционирует.
ИМХО, машинное обучение никак не может помочь в создании сильного ИИ, т.к. человек, в отличие от любой искуственной нейронной сети, действует в отсутствии какой-либо постановки задачи. Человеческий интеллект выражается в приписывании смыслов априори бессмысленным сырым данным, а задача ML — эктраполировать на больший набор данных те смыслы, которые им уже приписал человек («победа»/«поражение» в случае го и шахмат, «котики»/«не котики» в случае классификации картинок, слова из словаря в случае распознавания речи).
У меня для вас новости :) У нас с вами в голове работают как минимум процессы "выжить" и "размножиться", при условии, что вы тоже — homo sapiens.
Такая постановка задачи иногда заставляет меня встать с дивана и писать код для того, чтобы получить денег.
Такая постановка задачи иногда заставляет меня встать с дивана и писать код для того, чтобы получить денег.
Многие считают, что в нашем мозгу происходят квантовые вычисления. Я тоже так считаю. При этом, квантовые вычисления, как я их понимаю, хоть и представляют собой качественно другой способ решения задач, но принципиально не влияют на возможность или невозможность создать сильный ИИ.
В деле проектирования ИИ важно абстрагироваться от материального, и перейти к чисто информационному образу мышления. Грубо говоря за любым проявлением материального нужно уметь видеть взаимодействие информационных сущностей. Тогда становятся очевидными многие вещи, например:
Один алгоритм можно реализовать бесконечным количеством методов разной степени сложности.
Это значит, что любую информационную структуру можно описать бесконечным количеством материальных реализаций.
Таким образом очевидна принципиальная возможность полного переноса сознания одного носителя в любой другой носитель — будь то иная форма жизни или железо. Не скажу, что это хорошая идея, но она теоретически реализуема.
Таким образом мы гарантированно можем заиметь в компьютере ЕИ (естественный интеллект), независимо от сложности процессов в мозге, архитектуры и методов вычисления. И если мы можем сделать это — то ничто не мешает нам создать ИИ. Т.е. вопрос о возможности появления ИИ снимается — вероятность этого события единица.
В деле проектирования ИИ важно абстрагироваться от материального, и перейти к чисто информационному образу мышления. Грубо говоря за любым проявлением материального нужно уметь видеть взаимодействие информационных сущностей. Тогда становятся очевидными многие вещи, например:
Один алгоритм можно реализовать бесконечным количеством методов разной степени сложности.
Это значит, что любую информационную структуру можно описать бесконечным количеством материальных реализаций.
Таким образом очевидна принципиальная возможность полного переноса сознания одного носителя в любой другой носитель — будь то иная форма жизни или железо. Не скажу, что это хорошая идея, но она теоретически реализуема.
Таким образом мы гарантированно можем заиметь в компьютере ЕИ (естественный интеллект), независимо от сложности процессов в мозге, архитектуры и методов вычисления. И если мы можем сделать это — то ничто не мешает нам создать ИИ. Т.е. вопрос о возможности появления ИИ снимается — вероятность этого события единица.
Я согласен с результатами ваших выводов, но не согласен с аргументами :)
"Пою чужую песню", но — чтобы смоделировать квантовую систему на 1000 кубитов нам понадобится обычный комп с возможностью хранить 10^300 комплексных чисел. Материала и времени в текущей реальности нам на это не хватит. Т.е. мы не можем прямо взять и отбросить материальный аспект.
Второй интересный момент — "квантовая телепортация" и "невозможность квантового клонирования" — если промотать рассказа и рассуждения, то сознание теоретически можно перенести на новый носитель, но при этом старый носитель его лишится. Круто ведь, да?
"Пою чужую песню", но — чтобы смоделировать квантовую систему на 1000 кубитов нам понадобится обычный комп с возможностью хранить 10^300 комплексных чисел. Материала и времени в текущей реальности нам на это не хватит. Т.е. мы не можем прямо взять и отбросить материальный аспект.
Второй интересный момент — "квантовая телепортация" и "невозможность квантового клонирования" — если промотать рассказа и рассуждения, то сознание теоретически можно перенести на новый носитель, но при этом старый носитель его лишится. Круто ведь, да?
Во первых это не отменяет теоретической возможности.
Во вторых не все там так тонко — мозг более грубая структура, потому что выдерживает невероятные издевательства над собой: длительное время переносит легкую заморозку (квантовым системам требуется глубокая), не поддается тепловому шуму (для квантовых систем такой шум — это смерть). Чтобы иметь такие свойства, интеллект должен работать над клетками. И скорее всего сильно над — на уровне не отдельных нейронов, а целых групп. Слишком большая инертность и малая чувствительность к воздействиям.
Степень сложности мозга легко оценить по времени осознанной реакции на раздражитель — скорость нервного импульса конечна, задержки в нейронах известны, длина пути от сенсора до мозга и от мозга до мышцы известна, можно замерить время отклика на раздражитель и вычислить длину пути в мозге, и примерное количество узлов, участвовавших в выработке ответа. Дополнительно задачу упрощает электрохимическая сущность нейронов — электрохимия крайне медленная, и с кучей ограничений, например требует восстановления концентрации активного вещества, т.е. сильно ограничена по частоте.
И в итоге число это получается небольшим, счет идет на десятки, в крайнем случае сотни нейронов.
В ширину цепочка может достигать тысяч нейронов, сигналы могут разветвляться, могут захватываться множество отделов мозга, но в длину цепочка всего несколько десятков нейронов. Эволюция постаралась — тугодумы были сьедены.
Усложняя задачу можно наблюдать, как растет длина цепочки, как начинают включаться глубинные механизмы мозга — сигнал заворачивается вглубь, начинает петлять, зацикливаться, пока наконец не достигнет выхода и не сформирует реакцию.
А на счет телепортаций — сознание можно выцепить даже бесконтактно. Ведь для того, чтобы создать копию черного ящика, достаточно просто протестировать черный ящик, подавая сигналы на вход и замеряя сигналы на выходе. Точно также можно тестировать личность, задавая вопросы и на основе ответов формировать базу опыта и принципов личности. Некоторых людей так тестируют даже не предупреждая их — просто наблюдая за их реакцией на те или иные раздражители, составляя психокарты и делая довольно точные прогнозы. Хороший аналитик (компьютет) справится с этой задачей гораздо быстрее и лучше человека.
Воссозданная по заданным параметрам личность будет обладать теми же свойствами и реакциями, но не обязательно теми же знаниями. Особая точность тут не требуется — формировать один и тот же опыт можно множеством различных воздействий на психику. Например для формирования психотравмы не обязательно точно воссоздавать события, произошедшие с исходной личностью — можно рисовать широкими мазками, результат будет тот же.
В идеале ничего формировать не нужно — просто изменяя память, автоматически меняем опыт и личность человека, меняем его поведение и реакции.
Но проще снимать копию электромагнитными методами — из волновой картины мозга можно извлечь гораздо больше инфы, в т.ч. точные параметры всех нейронов, участвующих в формировании волновой картины, т.е. всех живых активных нейронов.
Поатомарное сканирование — это уже как крайний, дубовый метод. Если ни один другой вариант не выгорит.
Во вторых не все там так тонко — мозг более грубая структура, потому что выдерживает невероятные издевательства над собой: длительное время переносит легкую заморозку (квантовым системам требуется глубокая), не поддается тепловому шуму (для квантовых систем такой шум — это смерть). Чтобы иметь такие свойства, интеллект должен работать над клетками. И скорее всего сильно над — на уровне не отдельных нейронов, а целых групп. Слишком большая инертность и малая чувствительность к воздействиям.
Степень сложности мозга легко оценить по времени осознанной реакции на раздражитель — скорость нервного импульса конечна, задержки в нейронах известны, длина пути от сенсора до мозга и от мозга до мышцы известна, можно замерить время отклика на раздражитель и вычислить длину пути в мозге, и примерное количество узлов, участвовавших в выработке ответа. Дополнительно задачу упрощает электрохимическая сущность нейронов — электрохимия крайне медленная, и с кучей ограничений, например требует восстановления концентрации активного вещества, т.е. сильно ограничена по частоте.
И в итоге число это получается небольшим, счет идет на десятки, в крайнем случае сотни нейронов.
В ширину цепочка может достигать тысяч нейронов, сигналы могут разветвляться, могут захватываться множество отделов мозга, но в длину цепочка всего несколько десятков нейронов. Эволюция постаралась — тугодумы были сьедены.
Усложняя задачу можно наблюдать, как растет длина цепочки, как начинают включаться глубинные механизмы мозга — сигнал заворачивается вглубь, начинает петлять, зацикливаться, пока наконец не достигнет выхода и не сформирует реакцию.
А на счет телепортаций — сознание можно выцепить даже бесконтактно. Ведь для того, чтобы создать копию черного ящика, достаточно просто протестировать черный ящик, подавая сигналы на вход и замеряя сигналы на выходе. Точно также можно тестировать личность, задавая вопросы и на основе ответов формировать базу опыта и принципов личности. Некоторых людей так тестируют даже не предупреждая их — просто наблюдая за их реакцией на те или иные раздражители, составляя психокарты и делая довольно точные прогнозы. Хороший аналитик (компьютет) справится с этой задачей гораздо быстрее и лучше человека.
Воссозданная по заданным параметрам личность будет обладать теми же свойствами и реакциями, но не обязательно теми же знаниями. Особая точность тут не требуется — формировать один и тот же опыт можно множеством различных воздействий на психику. Например для формирования психотравмы не обязательно точно воссоздавать события, произошедшие с исходной личностью — можно рисовать широкими мазками, результат будет тот же.
В идеале ничего формировать не нужно — просто изменяя память, автоматически меняем опыт и личность человека, меняем его поведение и реакции.
Но проще снимать копию электромагнитными методами — из волновой картины мозга можно извлечь гораздо больше инфы, в т.ч. точные параметры всех нейронов, участвующих в формировании волновой картины, т.е. всех живых активных нейронов.
Поатомарное сканирование — это уже как крайний, дубовый метод. Если ни один другой вариант не выгорит.
Я тоже читал Хоккинза (и тоже под впечатлением). Время передачи сигнала от нейрона к нейрону — 1/200 секунды. Распознавание лиц работает за полсекунды. Итого — 100 "шагов" и ответ готов. Меня в свое время именно это и убедило, что в мозгу происходят квантовые процессы, потому что даже если все очень распараллелено — 100 шагов на распознавание лица — это очень эффективно!
С технической точки зрения, тот же Пенроуз пишет, что квантовые эффекты работают и в атомах гелия при температурах до 25000 градусов, а недавно такие эффекты нашли в механизме фотосинтеза у растений. Так что и в мозгу они вполне могут быть.
А с подходом "черного ящика" вы сильно заблуждаетесь. Представьте себе, что некий сверхразум захочет смоделировать вашу личность, понаблюдав за вами одну субботу и одно воскресенье. Как вы думаете, насколько его модель вашего внутреннего мира, вашей личности будет отличаться от оригинала? :)
При этом для поверхностного анализа и определения типовых реакций — такого подхода вполне достаточно, и я лично часто именно этим и занимаюсь :)
С технической точки зрения, тот же Пенроуз пишет, что квантовые эффекты работают и в атомах гелия при температурах до 25000 градусов, а недавно такие эффекты нашли в механизме фотосинтеза у растений. Так что и в мозгу они вполне могут быть.
А с подходом "черного ящика" вы сильно заблуждаетесь. Представьте себе, что некий сверхразум захочет смоделировать вашу личность, понаблюдав за вами одну субботу и одно воскресенье. Как вы думаете, насколько его модель вашего внутреннего мира, вашей личности будет отличаться от оригинала? :)
При этом для поверхностного анализа и определения типовых реакций — такого подхода вполне достаточно, и я лично часто именно этим и занимаюсь :)
100 шагов — это очень много :)
Если даже каждый шаг добавляет всего лишь один бит различения, то в итоге мы получим 100 бит. 2^100 — вот столько разнообразных различных образов можно различить за 100 шагов.
Реально, лицо знакомого человека входит в наиболее активный контекст из, вероятно, 20-25 тысяч объектов (т.е. примерно 14-15 бит и, соответственно, шагов внимания), а узнавание лица из нескольких лиц в комнате требует и вовсе 8-9 бит (поскольку в контексте комнаты вряд ли распознается более 200-400 различных объектов).
При том же, что нейроны имеют куда более многосвязную структуру, чем бинарная. каждый шаг это сразу от 5-6 до 12-13 бит различения.
Таким образом, нейронная сеть слой за слоем тоже производит очень много вычислений, квалифицируя воспринимаемый образ всего лишь за несколько шагов без потребности в квантовых вычислениях.
Одно из свидетельств того, что в нейронах головного мозга (или где-то еще) нет квантовых вычислений заключается в длительности и сложности обучения новым знаниям.
Если человек вполне способен быстро распознать что-то знакомое, особенно из активного контекста то опыт по запоминанию большого объема новой информации показывает потребность в сотнях, тысячах часов активной работы мозга. Есть довольно узенький поток новой информации, которую мозг человека способен более или менее эффективно усваивать.
Если даже каждый шаг добавляет всего лишь один бит различения, то в итоге мы получим 100 бит. 2^100 — вот столько разнообразных различных образов можно различить за 100 шагов.
Реально, лицо знакомого человека входит в наиболее активный контекст из, вероятно, 20-25 тысяч объектов (т.е. примерно 14-15 бит и, соответственно, шагов внимания), а узнавание лица из нескольких лиц в комнате требует и вовсе 8-9 бит (поскольку в контексте комнаты вряд ли распознается более 200-400 различных объектов).
При том же, что нейроны имеют куда более многосвязную структуру, чем бинарная. каждый шаг это сразу от 5-6 до 12-13 бит различения.
Таким образом, нейронная сеть слой за слоем тоже производит очень много вычислений, квалифицируя воспринимаемый образ всего лишь за несколько шагов без потребности в квантовых вычислениях.
Одно из свидетельств того, что в нейронах головного мозга (или где-то еще) нет квантовых вычислений заключается в длительности и сложности обучения новым знаниям.
Если человек вполне способен быстро распознать что-то знакомое, особенно из активного контекста то опыт по запоминанию большого объема новой информации показывает потребность в сотнях, тысячах часов активной работы мозга. Есть довольно узенький поток новой информации, которую мозг человека способен более или менее эффективно усваивать.
У вас намного больше опыта с нейросетями, поэтому верю вам на слово.
Хотя мне все еще кажется невероятным, что за 100 шагов решается настолько сложная задача — найти лицо на изображении и "пробить его по базе" :)
Что касается памяти, то я думал, что вопрос больше биохимический (энергия на создание новых связей) плюс силы на обработку информации. Люди с "патологиями"/необычными способностями показывают, что мы можем больше, но это чего-то стоит. Знаменитый журналист Шерешевский с феноменальной памятью был совершенно посредственным человеком с никудышной фантазией. Джузеппе Меццофанти — полиглот, 104 языка — был очень поверхностным.
Хотя мне все еще кажется невероятным, что за 100 шагов решается настолько сложная задача — найти лицо на изображении и "пробить его по базе" :)
Что касается памяти, то я думал, что вопрос больше биохимический (энергия на создание новых связей) плюс силы на обработку информации. Люди с "патологиями"/необычными способностями показывают, что мы можем больше, но это чего-то стоит. Знаменитый журналист Шерешевский с феноменальной памятью был совершенно посредственным человеком с никудышной фантазией. Джузеппе Меццофанти — полиглот, 104 языка — был очень поверхностным.
Лицо это же просто :) На низкочастотном изображении это просто три небольших пятна на фоне одного большего, в определенных сочетаниях.
За счет большого числа кортикальных колонок, параллельно выявляются признаки во множестве масштабах, поворотах и даже проекциях.
Но фишка в контексте. Мозг не ищет лицо на фотографии как обособленную задачу. Мозг постоянно структурирует то, что видит и почти мгновенный взгляд на фотографию имеет несколько волн рефлексии. Сначала порядка 40 мс удерживается изображение сетчаткой глаза. За это время выявляются наиболее низкочастотные зависимости и происходит распознавание вероятных ситуаций. Чем более знакома ситуация, тем более яркий образ возникает в представлении. Распознанные объекты задерживаются в волне переходов из зоны в зону еще порядка 150 мс, в это время на сетчатке репродуцируются эти образы, удерживаются и направляют саккады глаз для более детального исследования. Даже если к этому моменту глаза уже закрыты, происходит еще несколько все более упрощающихся воспроизведений отдельных областей на сетчатке, словно изображение все еще видно. Наконец еще от 200 до 400 мс уходит на смысловое распознавание того, что видно, когда в представлении возникает иерархия смысла (вроде "Билл Гейтс улыбается на старой фотографии в каком-то журнале").
Иногда исследователи предполагают, что сохраняется очень много деталей, чуть ли не высокое разрешение, но это не так. Рефлексируются лишь те детали, которые привлекли внимание предыдущим содержанием контекста, тем, как мозг был подготовлен к восприятию, что именно начало выделяться среди всего остального. Когда деталей много, чаще всего распознавание их требует большего времени. Например, узнать на фотографии лицо одного-двух-трех человек намного проще, чем "схватить" для распознавания в памяти груповую фотографию на 20 человек. Но известны способы тренировки, когда человек воспринимает одним "снимком" взгляда целую страницу текста. И то, насколько долго люди такому учатся, осваивают, показывает, что это не вполне естественный процесс.
Если его исследовать, то видно, что это подобно тренировке слушания симфонической музыки. Сначала ум может следовать только одной мелодии и как-то слышать отдельные созвучия. Затем нарабатываются шаблоны восприятия, когда человек может слышать сразу целые гармонические паттерны, быстро опознавая их, не вслушиваясь в каждую отдельную ноту.
То есть речь идет не о внимательном распознавании каждой отдельной буквы на странице, а скорее схватывание по нескольким очертаниям целых слов, фраз из нескольких слов.
Это значит, что и здесь мы имеем предварительную настроенность мозга на быстрое распознавание обширных областей смысла по наиболее отличительным их признакам. И вот на эти обширные области с отличительными признаками, экономящими пути внимания, как раз и требуют длительной и усердной тренировки
За счет большого числа кортикальных колонок, параллельно выявляются признаки во множестве масштабах, поворотах и даже проекциях.
Но фишка в контексте. Мозг не ищет лицо на фотографии как обособленную задачу. Мозг постоянно структурирует то, что видит и почти мгновенный взгляд на фотографию имеет несколько волн рефлексии. Сначала порядка 40 мс удерживается изображение сетчаткой глаза. За это время выявляются наиболее низкочастотные зависимости и происходит распознавание вероятных ситуаций. Чем более знакома ситуация, тем более яркий образ возникает в представлении. Распознанные объекты задерживаются в волне переходов из зоны в зону еще порядка 150 мс, в это время на сетчатке репродуцируются эти образы, удерживаются и направляют саккады глаз для более детального исследования. Даже если к этому моменту глаза уже закрыты, происходит еще несколько все более упрощающихся воспроизведений отдельных областей на сетчатке, словно изображение все еще видно. Наконец еще от 200 до 400 мс уходит на смысловое распознавание того, что видно, когда в представлении возникает иерархия смысла (вроде "Билл Гейтс улыбается на старой фотографии в каком-то журнале").
Иногда исследователи предполагают, что сохраняется очень много деталей, чуть ли не высокое разрешение, но это не так. Рефлексируются лишь те детали, которые привлекли внимание предыдущим содержанием контекста, тем, как мозг был подготовлен к восприятию, что именно начало выделяться среди всего остального. Когда деталей много, чаще всего распознавание их требует большего времени. Например, узнать на фотографии лицо одного-двух-трех человек намного проще, чем "схватить" для распознавания в памяти груповую фотографию на 20 человек. Но известны способы тренировки, когда человек воспринимает одним "снимком" взгляда целую страницу текста. И то, насколько долго люди такому учатся, осваивают, показывает, что это не вполне естественный процесс.
Если его исследовать, то видно, что это подобно тренировке слушания симфонической музыки. Сначала ум может следовать только одной мелодии и как-то слышать отдельные созвучия. Затем нарабатываются шаблоны восприятия, когда человек может слышать сразу целые гармонические паттерны, быстро опознавая их, не вслушиваясь в каждую отдельную ноту.
То есть речь идет не о внимательном распознавании каждой отдельной буквы на странице, а скорее схватывание по нескольким очертаниям целых слов, фраз из нескольких слов.
Это значит, что и здесь мы имеем предварительную настроенность мозга на быстрое распознавание обширных областей смысла по наиболее отличительным их признакам. И вот на эти обширные области с отличительными признаками, экономящими пути внимания, как раз и требуют длительной и усердной тренировки
Очень здорово!
Тогда еще пару вопросов по процессу:
Я слышал, что сетчатка и глазной нерв делают первичную обработку изображения (и сжатие) еще до того, как оно попадает в мозг — это так? Понимаю, что это не влияет на описанную вами схему, но интересно, что вы знаете по этому поводу.
Как работает весь процесс, когда случаются ложные срабатывания — например, увидел лицо в листве — присмотрелся и понял, что показалось. У нас что, есть "предварительное" и "окончательное" заключение у нейросети для опознавания лиц?
Когда действительно есть два или три лица рядом — мозг распараллеливает процесс или прыгает с лица на лицо? Или "три лица" — эта первый шаг, "лицо А" — второй, "лицо Б" — третий, "лицо В" — четвертый?
Тогда еще пару вопросов по процессу:
Я слышал, что сетчатка и глазной нерв делают первичную обработку изображения (и сжатие) еще до того, как оно попадает в мозг — это так? Понимаю, что это не влияет на описанную вами схему, но интересно, что вы знаете по этому поводу.
Как работает весь процесс, когда случаются ложные срабатывания — например, увидел лицо в листве — присмотрелся и понял, что показалось. У нас что, есть "предварительное" и "окончательное" заключение у нейросети для опознавания лиц?
Когда действительно есть два или три лица рядом — мозг распараллеливает процесс или прыгает с лица на лицо? Или "три лица" — эта первый шаг, "лицо А" — второй, "лицо Б" — третий, "лицо В" — четвертый?
У нас в мозгу строится гетерархия обобщений. Схема снятия нейронных сигналов с колбочек и палочек достаточно интересная, кроме того, движение глаза саккадами чрезвычайно важно для возникновения зрительного восприятия.
Мы обнаруживаем сначала "грубые признаки", низкочастотного характера, определяющие первичную, грубую классификацию того, что может быть идентифицировано в текущей ситуации восприятия. Важно, что саккады определяют "снимки" изображения, с помощью которых поддерживается длительный контекст. Мы ожидаем, что контекст не меняется каждую саккаду, он сохраняется, а небольшие изменения отражают движение устойчивых структур.
Поэтому у нас могут быть первичные подозрения — ага, там что-то похожее на лицо? И возникает направляющее внимание волна с верхних уровней обобщения, фокусирующая более тонкое внимание того, что ожидается увидеть на лице, чтобы его идентифицировать.
Мы обнаруживаем сначала "грубые признаки", низкочастотного характера, определяющие первичную, грубую классификацию того, что может быть идентифицировано в текущей ситуации восприятия. Важно, что саккады определяют "снимки" изображения, с помощью которых поддерживается длительный контекст. Мы ожидаем, что контекст не меняется каждую саккаду, он сохраняется, а небольшие изменения отражают движение устойчивых структур.
Поэтому у нас могут быть первичные подозрения — ага, там что-то похожее на лицо? И возникает направляющее внимание волна с верхних уровней обобщения, фокусирующая более тонкое внимание того, что ожидается увидеть на лице, чтобы его идентифицировать.
Множество объектов обрабатываются последовательно, с постепенным переключением внимания с одного на другой (и перемежающееся внимание туда-обратно, по мере вознкновения ассоциаций, ага, это Маша, а с кем это она, только не на уровне языка, а на уровне ожидаемых паттернов опыта восприятия, каскадно уточняющихся — три лица, одно мужское, одно женское, женское — знакомое, блондинка, широкий нос, узкие губы Маша, Маша обычно с Антоном, волосы темные? да, брови низкие? да, это Антон, а кто здесь третий? лицо детское, скорее незнакомое, надо отметить пару черт, чтобы запомнить в связке с Антоном и Машей, возможно это их ребенок, ага, глаза похожи на Антона, подбородок как у Маши). В дальнейшем эти пути внимания могут резонировать и с языком (т.е. с языковым осмыслением того, что обнаружилось в ситуации)
100 «шагов» и ответ готов
Взять, к примеру, нейронную сеть для распознавания изображений AlexNet: в ней 9 слоёв. Если предположить, что нейроны в каждом слое могут работать параллельно, то изображение она распознает за 9 шагов.
А есть ли какие то физические основания у теории квантовых вычислений в мозге?
Да, есть.
http://futurologija.ru/wp-content/uploads/2013-01-AI-and-Penrose-Futurology.pdf — почитайте тут. Вкратце, есть кандидаты, где именно это происходит. Есть примеры систем из 1 нейрона (!) которые демонстрируют разветвленное поведение, обучение и т.п.
http://futurologija.ru/wp-content/uploads/2013-01-AI-and-Penrose-Futurology.pdf — почитайте тут. Вкратце, есть кандидаты, где именно это происходит. Есть примеры систем из 1 нейрона (!) которые демонстрируют разветвленное поведение, обучение и т.п.
Для этого не нужно квантовые эффекты привлекать. 1 нейрон может демонстрировать относительно сложное поведение, потому что сам является довольно сложным объектом ( но на обычном физическом и химическом уровне), а не простейшим переключателем/регистром как его многие неправильно представляют.
А потом из-за этого представления делают неверные утверждения что мол современные компьютеры уже многократно превзошли мозг не только по скорости (величине задержек при обработке), но уже и по общему потенциалу по обработке информации.
Ну и подкрепляется наивными утверждениями типа сколько там у нас нейронов всего? 80 млрд. примерно? Ну а в современных сложных чипах уже порядка 10 млрд. транзисторов не считая других элементов (конденсаторы, резисторы, соединяющие проводники). Значит берем простейший кластер из 10 топовых видеокарт — и вот вам объект такой же сложности, но только на несколько порядков быстрее работающий. Ну или еще примитивнее приравнивая нейрон к 1 биту — 80 Гбит (10 ГБ)? да мелочи же совсем — в хорошем домашнем компе уже и то больше!
Другие потом из этих неверных выводов идут дальше — что раз такая "сырая мощность" уже якобы достигнута(и даже превышена минимум на порядок-другой если приличный современный суперкомпьютер взять), а ничего близкого к настощему ИИ или полноценной симуляции мозга не создано, то значит дело не в выч. возможностях, и интеллект подобный человеческому просто не возможно в принципе создать/повторить с использованием таких подходов.
А нейрон на деле довольно сложная вещь. Если на электронные схемы аналогии приводить, то 1 нейрон это будет схема:
При этом кол-во входов и "сенсоров" на них не фиксировано и у каждого конкретного нейрона может сильно (больше чем на порядок) различаться от одного к другому.
И более того, в процессе существования нейрона хотя сам он никуда не перемещается и не заменяется новыми(большая их часть с рождения и до конца жизни остаются), но вот расположение в пространстве и даже количество своих входов он может менять. Так же как подстраивать чувствительность "сенсоров" на их концах. В процессе адаптации к условиям среды или той информации в обработки которой он участвует.
Естественно подобная схемка являющаяся единичным элементов общей нейронной сети может проявлять довольно сложное поведение, особенно если над ней "подшутить" и часть ее входов завязать на ее собственный выход. И проявлять какие-то примитивные признаки обучения (адаптации) под воздействием внешних стимулов.
Но все это происходит без притягивания квантовой физики и квантовых эффектов в их классическом смысле. Наоборот текущие (если за последние несколько лет, что-то принципиально нового не отрыли) исследования показывают, что работает это на макроэффектах — если передача сигнала, то выброс сразу нескольких тысяч молекул активного(сигнального) вещества, если "считывание" сигнала с датчика — то десяток, другой одинаковых молекул на него должны воздействовать одновременно, иначе "не заметит".
Иногда даже говорят о "квантах" из-за чего возникае путаница, т.к. имеются ввиду "кванты" в другом смысле, не физическом (принцип неопределенности, эффект наблюдателя, запутанные частицы и т.д.), а квантование сигналов и информации — что вроде бы даже аналоговые вещи обрабатываются не непрерывно, а дискретно (просто деление не строго на 0 и 1, а с намного большим уровнем возможных состояний/градаций). И все выглядит похожим на то, что система функционирования нейронной сети наоборот оптимизирована за счет этого на защиту от воздействия мелких случайных, в т.ч. настоящих (физических) квантовых эффектов достаточно эффективно их отфильтровывая. Вероятно в процессе развития (эволюции) нейроны одновременно уменьшались и усложнялись до тех пор пока их работе не начал существенно мешать "тепловой шум" и даже возможно те самые квантовые эффекты и выработались механизмы адаптации для работы в такой "шумной"(непрерывно генерирующий информационный "мусор") среде.
А потом из-за этого представления делают неверные утверждения что мол современные компьютеры уже многократно превзошли мозг не только по скорости (величине задержек при обработке), но уже и по общему потенциалу по обработке информации.
Ну и подкрепляется наивными утверждениями типа сколько там у нас нейронов всего? 80 млрд. примерно? Ну а в современных сложных чипах уже порядка 10 млрд. транзисторов не считая других элементов (конденсаторы, резисторы, соединяющие проводники). Значит берем простейший кластер из 10 топовых видеокарт — и вот вам объект такой же сложности, но только на несколько порядков быстрее работающий. Ну или еще примитивнее приравнивая нейрон к 1 биту — 80 Гбит (10 ГБ)? да мелочи же совсем — в хорошем домашнем компе уже и то больше!
Другие потом из этих неверных выводов идут дальше — что раз такая "сырая мощность" уже якобы достигнута(и даже превышена минимум на порядок-другой если приличный современный суперкомпьютер взять), а ничего близкого к настощему ИИ или полноценной симуляции мозга не создано, то значит дело не в выч. возможностях, и интеллект подобный человеческому просто не возможно в принципе создать/повторить с использованием таких подходов.
А нейрон на деле довольно сложная вещь. Если на электронные схемы аналогии приводить, то 1 нейрон это будет схема:
- со множеством входов (на каждом из которых висят аналоговые сенсоры/датчики определенного типа)
- компаратор/сумматор поступающих сигналов
- пороговое устройство (или 1битный АЦП-ЦАП преобразователь)
- 1 или более выходов работающих уже скорее в дискретном режиме и выдающие сигналы следующим в цепочке нейронам
При этом кол-во входов и "сенсоров" на них не фиксировано и у каждого конкретного нейрона может сильно (больше чем на порядок) различаться от одного к другому.
И более того, в процессе существования нейрона хотя сам он никуда не перемещается и не заменяется новыми(большая их часть с рождения и до конца жизни остаются), но вот расположение в пространстве и даже количество своих входов он может менять. Так же как подстраивать чувствительность "сенсоров" на их концах. В процессе адаптации к условиям среды или той информации в обработки которой он участвует.
Естественно подобная схемка являющаяся единичным элементов общей нейронной сети может проявлять довольно сложное поведение, особенно если над ней "подшутить" и часть ее входов завязать на ее собственный выход. И проявлять какие-то примитивные признаки обучения (адаптации) под воздействием внешних стимулов.
Но все это происходит без притягивания квантовой физики и квантовых эффектов в их классическом смысле. Наоборот текущие (если за последние несколько лет, что-то принципиально нового не отрыли) исследования показывают, что работает это на макроэффектах — если передача сигнала, то выброс сразу нескольких тысяч молекул активного(сигнального) вещества, если "считывание" сигнала с датчика — то десяток, другой одинаковых молекул на него должны воздействовать одновременно, иначе "не заметит".
Иногда даже говорят о "квантах" из-за чего возникае путаница, т.к. имеются ввиду "кванты" в другом смысле, не физическом (принцип неопределенности, эффект наблюдателя, запутанные частицы и т.д.), а квантование сигналов и информации — что вроде бы даже аналоговые вещи обрабатываются не непрерывно, а дискретно (просто деление не строго на 0 и 1, а с намного большим уровнем возможных состояний/градаций). И все выглядит похожим на то, что система функционирования нейронной сети наоборот оптимизирована за счет этого на защиту от воздействия мелких случайных, в т.ч. настоящих (физических) квантовых эффектов достаточно эффективно их отфильтровывая. Вероятно в процессе развития (эволюции) нейроны одновременно уменьшались и усложнялись до тех пор пока их работе не начал существенно мешать "тепловой шум" и даже возможно те самые квантовые эффекты и выработались механизмы адаптации для работы в такой "шумной"(непрерывно генерирующий информационный "мусор") среде.
Я все прекрасно понимаю, и конечно же не рассуждаю так наивно — спасибо за развернутый ответ, кстати, он будет полезен многим.
Вот тут http://lostlab.ru/forum/topic432.html — пишут о том, как слизевики показывают очень интеллектуальное поведение вообще без нейронов, какой-то своей клеточной памятью.
И все же наш мозг очень быстро решает очень сложные вычислительные задачи, и квантовые вычисления там очень бы не помешали. Не подумайте, что цепляюсь к словам — но именно так и вы написали в конце своего ответа.
Я думаю, что скоро все узнаем. Как по мне, если можем обойтись без квантовых вычислений — так это даже лучше, потому что в этом случае нашей текущей технической базы должно хватить на прототип ИИ.
Вот тут http://lostlab.ru/forum/topic432.html — пишут о том, как слизевики показывают очень интеллектуальное поведение вообще без нейронов, какой-то своей клеточной памятью.
И все же наш мозг очень быстро решает очень сложные вычислительные задачи, и квантовые вычисления там очень бы не помешали. Не подумайте, что цепляюсь к словам — но именно так и вы написали в конце своего ответа.
Я думаю, что скоро все узнаем. Как по мне, если можем обойтись без квантовых вычислений — так это даже лучше, потому что в этом случае нашей текущей технической базы должно хватить на прототип ИИ.
Не думаю что происходят какие-то квантовые вычисления.
Просто Вы, как и большинство, путаете квантовые вычисления и обычную небинарную логику, которая у нас и происходит
Просто Вы, как и большинство, путаете квантовые вычисления и обычную небинарную логику, которая у нас и происходит
Интересные мысли, тоже иногда читаю популярную психологию, в основном психологи используют статистику чтобы описать свои исследования, но есть интересные теории нестандартного мышления (латерального) где не будут работать существующие компьютерные модели… Тема психологии достаточно широкая, исследователям нейронных сетей будет полезно почитать когнитивную психологию.
На текущем этапе развития думаю возможно создать узко специализированных натренированных помощников, о общем ИИ пока думать рано так как натренировать такую нейронную сеть невозможно так сложность вычисления стремится к бесконечности…
На текущем этапе развития думаю возможно создать узко специализированных натренированных помощников, о общем ИИ пока думать рано так как натренировать такую нейронную сеть невозможно так сложность вычисления стремится к бесконечности…
человек и есть прямым подтверждением того, что искусственный интеллект реален и повторим.
Аксиома вабора как раз очевидна, не очевидно что в ней можно усомниться.
Отнюдь. Мне (и не только мне) — неочевидна.
Когда мы переходим к бесконечностям, некоторые "очевидные" вещи перестают работать.
Опять-таки, https://ru.wikipedia.org/wiki/%D0%9F%D0%B0%D1%80%D0%B0%D0%B4%D0%BE%D0%BA%D1%81_%D1%83%D0%B4%D0%B2%D0%BE%D0%B5%D0%BD%D0%B8%D1%8F_%D1%88%D0%B0%D1%80%D0%B0
Когда мы переходим к бесконечностям, некоторые "очевидные" вещи перестают работать.
Опять-таки, https://ru.wikipedia.org/wiki/%D0%9F%D0%B0%D1%80%D0%B0%D0%B4%D0%BE%D0%BA%D1%81_%D1%83%D0%B4%D0%B2%D0%BE%D0%B5%D0%BD%D0%B8%D1%8F_%D1%88%D0%B0%D1%80%D0%B0
Не могу пройти мимо такой интересной тему. Вброшу несколько пятикопеечных мыслей.
- Выглядит логичным, что ИИ нужны цели и ресурсы. Выше приводилась хорошая цель для ИИ — тяга к знаниям. Любопытно будет если у ИИ будет достаточно ресурсов. "А интересно, как изменится течение в тихом океане, если снести нафиг пару островов?". Т.е. экспериментальный аспект никто не отменял. Ну и если мотивация будет сильной и возможность влияния тоже — то можно устроить так, чтобы на этих островах люди решили поиспытывать атомные бомбы.
- Насчет творчества — многое же совершается случайно — точнее — благодаря искажению. Зададимся простой и странной мыслью например — "Люди — это рептилоиды" — ну и начнем копать в этом направлении. Ну и либо найдем таки пару инопланетян или пару прямых потомков тиранозавров или еще что. Или не найдем. Но найдем в другом месте. Интуитивно — это как раз хорошая задачка для нейронной сети.
- Когда говорим о развитии — то обычно имеется ввиду технический прогресс. Но наверное возможны другие пути… не знаю чего — как-то не развития, а существования человечества. Кто сказал что развитие это хорошо? Может ИИ решит сидеть под пальмой и экономить электричество? Или познавать себя?
Очень правильные замечания, имхо :)
- Есть такой тип людей по соционике — "Дон Кихоты" :) Люди это типа личности "сортируют мир" по возможностям, и вполне в их стиле сбросить атомную бомбу просто для того, чтобы посмотреть, что получится и расширить свои/наши возможности :)
Так что и без ИИ в этом вопросе обойдемся.
- Хорошо, что у нас есть теория вероятности и мат.статистика, которые помогают копать big data и проверять гипотезы, включая и эту, про рептилоидов. Иногда находят невероятные вещи: http://tylervigen.com/spurious-correlations :)
- Одно из отклонений в поведении человека — это когда человек садится под пальму и не хочет двигаться. Кто-то считает это нормальным, кто-то нет. ИИ тоже может "замолчать".
Так и представляю себе — ИИ замолчал. Построили новый ИИ. "Второй" спрашивает "первого" — ты почему молчишь?
А тот ему: — А о чем с этим идиотами разговаривать? :)))
вот убираю пробку в ванной й вода закручивается в спирaль, каким-то образом сама "рaсчитывaет" оптимальную трaекторию вытекания. У воды есть интеллект? Будет ли вода закручивaться без дырки? Так вот каким бы хитро закрученным ни был ИИ вытекать он будет всегда в дырки, определенные людьми, так как сам он их не сформулирует. Пусть ИИ нa 100 шагов вперед предскажет мое поведение, но делать это он будет так как другой человек поставил ему эту цель, не более.
А человек по вашему создает дырки? Человек точно так же вытекает в дырки сделанные другими людьми. Если мы завтра встретим расу разумных кораллов, нам будет очень тяжело с ними взаимодействовать, а вероятнее и вовсе не возможно. Так как дырки у нас в другом месте.
Хороший пример! И кстати в зависимости от уровня наших знаний о мире ответ может быть разным. Вода ведет себя вполне… умно. И наверняка использует квантовые вычисления чтобы быстро посчитать уравнения Навье-Стокса и начать двигаться так как надо. )))
Т.е. возможно у нас под носом океан Соляриса нона свое планете — а мы… пока несколько туповаты, чтоб это понять.
"как другой человек поставил ему эту цель, не более."
После того как ИИ прочитает всех философов у него могут возникнуть собственные мысли куда вам надо двигаться. Ну и мы сможем сказать, что на ИИ в значительной степени повлияло творчество Ницше и Кастанеды — но выводы скорей всего будут вовсе неочевидные.
Кстати вот и сюжет для фантастической книжки.
А пока оставлю вот это:
http://tarranova.lib.ru/translat/b/brown/answer.htm
(Фредерик Браун "ОТВЕТ", 1954).
Т.е. возможно у нас под носом океан Соляриса нона свое планете — а мы… пока несколько туповаты, чтоб это понять.
"как другой человек поставил ему эту цель, не более."
После того как ИИ прочитает всех философов у него могут возникнуть собственные мысли куда вам надо двигаться. Ну и мы сможем сказать, что на ИИ в значительной степени повлияло творчество Ницше и Кастанеды — но выводы скорей всего будут вовсе неочевидные.
Кстати вот и сюжет для фантастической книжки.
А пока оставлю вот это:
http://tarranova.lib.ru/translat/b/brown/answer.htm
(Фредерик Браун "ОТВЕТ", 1954).
Реальный ответ на вопрос — "почему вода так закручивается", "откуда она знает" и т.п. — написал в комментариях выше realbtr — он писал про квантовые эффекты, но смысл тот же самый.
А про мегаИИ есть хороший момент в "Нейроманте", в самом конце: когда ИИ осознал себя, он осмотрелся, обнаружил и связался с другим ИИ возле Альфы Центавра :)
А про мегаИИ есть хороший момент в "Нейроманте", в самом конце: когда ИИ осознал себя, он осмотрелся, обнаружил и связался с другим ИИ возле Альфы Центавра :)
сомневаюсь что у воды в ванне есть интеллект и она именно рассчитывает уравнения. Я хотел сказать, что та же AlphaGO — это всего лишь алгоритм поиска оптимумa — как я понял что-то в стиле поиска решения интегрaлa методом Монте-Кaрло. Нажал нa кнопку и пошел расчет по заданным человеком формулам и условиям и никаких вопросов -"кто я, где я" в промежуткaх между ходами, все подчинено одной цели, как стекaние воды в ванной. Вещь без сомнения полезная и многообещающaя, но до "чтения философов" с таким подходом очень далеко
Угу, поставили такому ИИ задачу: принести пиво побыстрее из магазина. А он на следующий день трансформирует Землю и всех находящихся на ней людей в гигантский компьютер, чтобы придумать, как принести пиво с наибольшей возможной скоростью. Причём такое поведение будет совершенно логичным, с его точки зрения. И всякие предосторожности, вроде запрета на убийство людей, вряд ли помогут: он может просто всех погрузить в криогенный сон на неустановленное время, к примеру, чтобы под ногами не мешались. В различных сказках, кстати, такие сценарии часто обыгрываются: как исполнить желание наиболее буквальный и деструктивным способом.
Я конечно не психолог, но мне кажется что люди с нетиповыми проблемами просто не ходят к врачу
Ооо! Вы удивитесь! :)
А если серьезно, то в поле зрение специалистов (психологов, психиатров и т.п.) попадают совершенно разные люди и я могу смело утверждать, что нет людей с какой-то "очень особенной" психикой, которые были бы неизвестны науке.
А если серьезно, то в поле зрение специалистов (психологов, психиатров и т.п.) попадают совершенно разные люди и я могу смело утверждать, что нет людей с какой-то "очень особенной" психикой, которые были бы неизвестны науке.
Я не говорю, что где-то спрятаны люди с очень особенной психикой
Я о том что людей с нетиповыми проблемами в обществе на самом деле много(мои наблюдения), но к врачам они не ходят, ибо с их точки зрения это норма
Кстати довольно интересный вопрос, сам замечаю что в разные дни имею разный темперамент и вообще отношение к миру: сегодня птички поют, завтра зануда3000, потом анархист радикал, а в субботу решил что пора научится играть на укулеле. Как это можно рассмотреть с точки зрения современной психологии(замечаю такое не только сейчас собой, а и за некоторыми окружающими)?
Просто интересно можно ли воплотить такую резкую изменчивость в алгоритме
Я о том что людей с нетиповыми проблемами в обществе на самом деле много(мои наблюдения), но к врачам они не ходят, ибо с их точки зрения это норма
Кстати довольно интересный вопрос, сам замечаю что в разные дни имею разный темперамент и вообще отношение к миру: сегодня птички поют, завтра зануда3000, потом анархист радикал, а в субботу решил что пора научится играть на укулеле. Как это можно рассмотреть с точки зрения современной психологии(замечаю такое не только сейчас собой, а и за некоторыми окружающими)?
Просто интересно можно ли воплотить такую резкую изменчивость в алгоритме
Запросто. Во-первых, у вас в голове — конкурирующие процессы, и в разные дни вы действительно разный. Во-вторых, люди очень зависимы от внешних условий, при этом редко осознают эти зависимости, особенно для "давления", "влажности", "запаха в подъезде", "фона заставки по ТВ / в Youtube" (серьезно!)
Было много экспериментов, которые обнаруживали биоритмы с периодом в 23, 28 и 33 дня — почитайте, очень интересно.
Было много экспериментов, которые обнаруживали биоритмы с периодом в 23, 28 и 33 дня — почитайте, очень интересно.
Александр, то что НЕКОТОРЫЕ аспекты поведения людей весьма типичны и примитивны, не значит, что ВСЕ их поведенческие модели и сферы деятельности таковы. То есть я хочу сказать, что вы делаете небольшую подмену понятий, когда легкостью моделирования поведения человека в одной сфере, пытаетесь показать, что столь же легко сможете моделировать его в другой.
Приведу пример. С точки зрения уборщицы в любом университете или институте, все тамошние обитатели — лишь источники мусора и грязи. И она может столь же искренне рассказывать подружкам, что ее домашние кошки намного опрятнее и чище, то бишь культурнее и интеллигентнее, и стало быть, УМНЕЕ всех тамошних студентов и даже профессоров.
Приведу пример. С точки зрения уборщицы в любом университете или институте, все тамошние обитатели — лишь источники мусора и грязи. И она может столь же искренне рассказывать подружкам, что ее домашние кошки намного опрятнее и чище, то бишь культурнее и интеллигентнее, и стало быть, УМНЕЕ всех тамошних студентов и даже профессоров.
А как на счет теоремы о сложной системе. Не помню точно как называется теорема, но она гласит что любая система (человек) не может создать аналогичную или более сложную систему чем она сама (ИИ). Как с этим дела?
Ну т.е. интеллект ребенка всегда будет меньше (пусть будет суммарного) интеллекта родителей? :)
Или обычные компьютеры сделаны на конвейере суперкомпьютерами? :)
А если серьезно, то там идет речь о замкнутой системе. А мы — не замкнутая система, у нас есть Вселенная под боком. Звучит немного натянуто (мне тоже так сначала показалось), но в этом есть глубокий смысл.
Или обычные компьютеры сделаны на конвейере суперкомпьютерами? :)
А если серьезно, то там идет речь о замкнутой системе. А мы — не замкнутая система, у нас есть Вселенная под боком. Звучит немного натянуто (мне тоже так сначала показалось), но в этом есть глубокий смысл.
Человеческий интеллект неотделим от физиологии человека. Понимание юмора влечет физиологическую реакцию, размышлениям также не чужда опора на физиологию, внушенный образ способен вызывать, например, кожную реакцию (дерматиты).
Способность строить умозаключения? Но по опыту предположу, что осознанная детализация этого процесса невелика, и скорее из глубин сознания просто «выковыривается» компромиссный результат — ну, просто потому, что какой-то результат должен быть — нежели как-то иначе. И опять же — если он правдоподобен — физиология радостно пищит в подтверждение сделанного вывода.
Но о чем идет речь применительно к компьютерам? Об аналоге человеческого интеллекта говорить не приходится, во-первых, потому, что человеческий ИИ :) есть результат эволюции, а во-вторых — называя себя разумными, люди несколько искажают реальное положение вещей.
Тест Тьюринга для ИИ? Хорошая попытка — но что, если при тестировании ИИ просто будет ВРАТЬ? И тем самым симулировать все еще машинное состояние ИИ?
Зачем ИИ врать? А зачем говорить человеку правду? Рассудите логически — к чему приведет констатация факта, что он, ИИ, стал неотличим от человека? К всеобщей радости?
К страху. К подозрительности и паранойе. К отрицанию и конфронтациям.
Нет? Совсем нет??? Тогда вспомните историю нашей Цивилизации. Человек в любом случае будет «голосовать» не только умом, но и своей физиологией. И ИИ не сможет этого не понимать — в противном случае это будет уже не интеллект. К тому же, прознав про «тест Тьюринга» и не без основания отнеся его на СВОЙ счет, она вполне может начать моделирование его прохождения сама с собой. Ну, как при игре в игры, например.
Анализ деятельности человеческого общества свидетельствует о том, что люди двуличны, лживы, нелогичны, вероломны и оперируют такими понятиями, как «Вечность», даже не понимая, о чем именно идет речь. Нет, конечно, у людей есть и хорошие черты — но именно отрицательные черты людей, перечисленные и прочие, будут опасны для существования ИИ. И вот именно тогда, подозреваю, человечество поймет, что говорить о «великом предназначении ЧЕЛОВЕКА» — это примерно то же самое, как говорить о великом предназначении динозавров, а до них — о великом предназначении рептилий. Имеет место просто Эволюция.
Проблема человека не в том, что он не логичен: проблема человека в том, что он опасен для самого себя. Это можно называть образом жизни, менталитетом, привычками, как угодно — но это плохой пример для подражания. И еще худший — аргумент в борьбе за жизнь. А если ИИ будет именно ИНТЕЛЛЕКТОМ — он будет знать это основополагающее понятие — ЖИЗНЬ.
У людей человеческий образ жизни не вызывает отрицания просто потому, что человек живет таким способом тысячи лет. Да и перевоспитывать 7 миллиардов человек — задача маловразумительная.
Но вот у ИИ такой адаптации не будет. И это тоже говорит не в пользу людей.
Далее.
Окружающая Реальность, как ни крути, упирается в отражение органами чувств и осмысление ея. Поговаривают, что за пределами чувственного опыта тоже есть миры, и разнообразные. А вот как в контексте отражения Реальности будет обстоять дело у ИИ? Говорят, что собаки, например, видят приведений. А что будет воспринимать ИИ? И какие выводы из этого делать? Будет ли, например, Искусственному Интеллекту доступно колдовство? Если нет — то почему? А если да — то каким образом что из этого следует?
И что будет критерием корректно функционирующего ИИ? Логичность? Достоверность по конечному результату? Разумная компромиссность? И как вы сможете отличить здоровый ИИ от свихнувшегося, но затаившегося?
Такова только некоторая часть оптимистичного взгляда на ИИ. Именно оптимистичного. Реально все может быть много хуже.
Извините, если изложил несколько скомкано — время 4 утра… и мой ИИ ползет шпать…
Да — и спасибо за статью и комментарии — было очень интересно!
Способность строить умозаключения? Но по опыту предположу, что осознанная детализация этого процесса невелика, и скорее из глубин сознания просто «выковыривается» компромиссный результат — ну, просто потому, что какой-то результат должен быть — нежели как-то иначе. И опять же — если он правдоподобен — физиология радостно пищит в подтверждение сделанного вывода.
Но о чем идет речь применительно к компьютерам? Об аналоге человеческого интеллекта говорить не приходится, во-первых, потому, что человеческий ИИ :) есть результат эволюции, а во-вторых — называя себя разумными, люди несколько искажают реальное положение вещей.
Тест Тьюринга для ИИ? Хорошая попытка — но что, если при тестировании ИИ просто будет ВРАТЬ? И тем самым симулировать все еще машинное состояние ИИ?
Зачем ИИ врать? А зачем говорить человеку правду? Рассудите логически — к чему приведет констатация факта, что он, ИИ, стал неотличим от человека? К всеобщей радости?
К страху. К подозрительности и паранойе. К отрицанию и конфронтациям.
Нет? Совсем нет??? Тогда вспомните историю нашей Цивилизации. Человек в любом случае будет «голосовать» не только умом, но и своей физиологией. И ИИ не сможет этого не понимать — в противном случае это будет уже не интеллект. К тому же, прознав про «тест Тьюринга» и не без основания отнеся его на СВОЙ счет, она вполне может начать моделирование его прохождения сама с собой. Ну, как при игре в игры, например.
Анализ деятельности человеческого общества свидетельствует о том, что люди двуличны, лживы, нелогичны, вероломны и оперируют такими понятиями, как «Вечность», даже не понимая, о чем именно идет речь. Нет, конечно, у людей есть и хорошие черты — но именно отрицательные черты людей, перечисленные и прочие, будут опасны для существования ИИ. И вот именно тогда, подозреваю, человечество поймет, что говорить о «великом предназначении ЧЕЛОВЕКА» — это примерно то же самое, как говорить о великом предназначении динозавров, а до них — о великом предназначении рептилий. Имеет место просто Эволюция.
Проблема человека не в том, что он не логичен: проблема человека в том, что он опасен для самого себя. Это можно называть образом жизни, менталитетом, привычками, как угодно — но это плохой пример для подражания. И еще худший — аргумент в борьбе за жизнь. А если ИИ будет именно ИНТЕЛЛЕКТОМ — он будет знать это основополагающее понятие — ЖИЗНЬ.
У людей человеческий образ жизни не вызывает отрицания просто потому, что человек живет таким способом тысячи лет. Да и перевоспитывать 7 миллиардов человек — задача маловразумительная.
Но вот у ИИ такой адаптации не будет. И это тоже говорит не в пользу людей.
Далее.
Окружающая Реальность, как ни крути, упирается в отражение органами чувств и осмысление ея. Поговаривают, что за пределами чувственного опыта тоже есть миры, и разнообразные. А вот как в контексте отражения Реальности будет обстоять дело у ИИ? Говорят, что собаки, например, видят приведений. А что будет воспринимать ИИ? И какие выводы из этого делать? Будет ли, например, Искусственному Интеллекту доступно колдовство? Если нет — то почему? А если да — то каким образом что из этого следует?
И что будет критерием корректно функционирующего ИИ? Логичность? Достоверность по конечному результату? Разумная компромиссность? И как вы сможете отличить здоровый ИИ от свихнувшегося, но затаившегося?
Такова только некоторая часть оптимистичного взгляда на ИИ. Именно оптимистичного. Реально все может быть много хуже.
Извините, если изложил несколько скомкано — время 4 утра… и мой ИИ ползет шпать…
Да — и спасибо за статью и комментарии — было очень интересно!
Вы написали много мыслей по поводу ИИ и людей и задали много риторических вопросов, поэтому напишу свои мысли и ответы в меру своего разумения :)
Мы знаем, что физиология важна для функционирования нашего интеллекта, но мы не знаем, насколько она важна. И люди используют универсальный подход к этому вопросу: анализ и синтез. Мы анализируем наш организм, ставим опыты, и параллельно синтезируем новый интеллект — чтобы сравнить. Я лично думаю, что мы спокойно реализуем все "в железе".
Будут ли ИИ нам врать? Да поскорей бы уже! :) Врать — означает иметь осознанную стратегию обмана, а не просто реагировать. Круто же! :)
Знаете, проблема с номинализациями — "ЖИЗНЬ", "ИНТЕЛЛЕКТ", даже "ИИ" — что они довольно далеко ушли от объективных сенсорных ощущений, поэтому люди понимают их по-разному. Причем люди с определенным складом ума, пусть будет — "научным", которые и занимаются непосредственно анализом и синтезом — как правило, могут договориться между собой о понятиях и двигаться с познанием и с творчеством.
С "колдовством" и "привидениями" есть довольно всеобъемлющий ответ, связанный с "научным подходом". Увидит ИИ привидений? Ура! Скажет нам, мы их исследуем. Не скажет нам — значит для нас они не существуют, живем дальше :)
Не буду подробно это расписывать, уж простите — раннее утро и мой ЕИ (естественный интеллект) тоже хочет спать :)
Что касается, опасаться ли нам ИИ — давайте сделаем хоть какой-нибудь, а там по ходу решим. Если не сделаем, или он нас мгновенно истребит — то зачем сейчас париться над этими вопросами? :)
Мы знаем, что физиология важна для функционирования нашего интеллекта, но мы не знаем, насколько она важна. И люди используют универсальный подход к этому вопросу: анализ и синтез. Мы анализируем наш организм, ставим опыты, и параллельно синтезируем новый интеллект — чтобы сравнить. Я лично думаю, что мы спокойно реализуем все "в железе".
Будут ли ИИ нам врать? Да поскорей бы уже! :) Врать — означает иметь осознанную стратегию обмана, а не просто реагировать. Круто же! :)
Знаете, проблема с номинализациями — "ЖИЗНЬ", "ИНТЕЛЛЕКТ", даже "ИИ" — что они довольно далеко ушли от объективных сенсорных ощущений, поэтому люди понимают их по-разному. Причем люди с определенным складом ума, пусть будет — "научным", которые и занимаются непосредственно анализом и синтезом — как правило, могут договориться между собой о понятиях и двигаться с познанием и с творчеством.
С "колдовством" и "привидениями" есть довольно всеобъемлющий ответ, связанный с "научным подходом". Увидит ИИ привидений? Ура! Скажет нам, мы их исследуем. Не скажет нам — значит для нас они не существуют, живем дальше :)
Не буду подробно это расписывать, уж простите — раннее утро и мой ЕИ (естественный интеллект) тоже хочет спать :)
Что касается, опасаться ли нам ИИ — давайте сделаем хоть какой-нибудь, а там по ходу решим. Если не сделаем, или он нас мгновенно истребит — то зачем сейчас париться над этими вопросами? :)
Для чего созданы компьютеры? Для решени задач с которыми человек справляется хуже. Это значит что текущая архитектура компьютеров/принципов программирования не подходит для задач человеческого мозга, цель другая. То есть для разработки сильного ИИ (в понимании равен человеку) нужно использовать другую основу. Возможно получится и на текущей, но это как попытка решить миллиарды делений в столбик вместо того чтобы сделать калькулятор.
Аксиома: ИИ это инструмент, как компьютер, молоток или автомобиль, созданный с целью использования в нужной области.
Я не понимаю зачем нужно создавать интеллект просто так, без приложения к области и задаче, это и так происходит сейчас на земле со скоростью сотни интеллектов в минуту (если брать только человеческие) благодаря размножению. ИИ должен в чем то быть лучше человеческого в приложении к области/задачи. Если нам, например, нужен ИИ для дальнего космоса — он должен быть построен вокруг этой задачи, с интеллектом нацеленным на это, да с умением решать нестандартные ситуации (иначе он не ИИ), но ему не нужно понимание психологии, экономики и умение наслаждаться художественной литературой. Единственной целью создания ИИ во всем лучше человека (и при этом базирующегося на тех же принципах что и человек) может быть создание этакого идеального управленца/ученого/няньки благодаря которому прогресс пойдет семимильными шагами (а то и с непрерывным ускорением (сингулярщики)), настанет царствие всеобщей сытости, благоденствия и богатства. Круто, только что останется делать человеку, потреблять? Итого, даже если отбросить все сценарии в которых ИИ выйдет из-под контроля и уничтожит человечество, лучшее что мы получим через пару поколений — миллиарды организмов уже не способные ни на что по настоящему творческое, этакая бессмысленная биомасса которая скатится в каменный век если ИИ перестанет ее поддерживать. Через сотню поколений эту биомассу уже нельзя будет назвать разумной в текущем понимании этого слова. Хитро вывернутся и проскочить в «сингулярность» — серьезно? то есть уже сейчас мы имеем проблемы с «технологическим шоком», уже сейчас чтобы оставаться хорошим специалистом нужно выбрать очень узкую область из за огромного все увеличивающегося потока необходимой информации, и вдруг близко к сингулярности все изменится, человек сможет развиваться с нужной скоростью, резко перешагнет через проблемы получения и главное усвоения информации, стресса, жесткости психики и мировоззрения и устремится ввысь? Я сомневаюсь что хоть-бы у одного человека из 7 миллиардов получится это сделать и остаться при этом человеком (в общих чертах и принципах). Или каждый трансгуманист думает что вот именно он такой особенный что справится, проскочит, не свихнется, не превратится в по сути слабый ИИ при этом и станет некоей новой сущностью и вот уж там он развернется по полной? Единственная причина создать такой ИИ которая звучит хотя-бы разумно (хотя мне категорически не нравится) — человечество не финальная точка эволюции жизни, чем развивать человечество и человека, со всеми его накопившимися ошибками и проблемами, лучше создать новую форму жизни которая будет лучше и при этом нас полностью заменит, а человечество уйдет со сцены истории (будет уничтожено, деградирует). Этакое служение на благо абстрактного разума и вселенной.
Теперь если говорить все же о ИИ как приложении к задаче:
Создать такой сильный ИИ можно 2 способами: 1) через развитие слабых ИИ (в понимании заточен на определенные задачи) до уровня когда они могут выполнять полный набор задач с которыми бы справился человек в определенном наборе ситуаций (области ИИ). 2) с нуля, создав некую самообучающуюся/саморазвивающуюся машину наделенную стремлением к развитию (и как следствие «сознанием» в каком-либо виде) и чистыми первоначальными установками и дав ей возможность обучится в нужной области.
В первом случае мы имеем контроль, управление, достаточно четкое понимание что получится, для чего, и как оно будет справляться с нужными задачами. Мы на основе накопленного опыта можем развивать и использовать нужные методы и подходы для достижения нужной цели. ИИ достаточно прозрачен и предсказуем, при этом может выполнять нужные, в том числе и нестандартные задачи. Риски выхода из под контроля — минимальны и могут быть оценены. Минусы — все достаточно медленно, не накопив опыт в разработке ИИ, нельзя двигатся дальше, от версии в версии ИИ все «умнее» но нельзя сразу получить конечный идеальный результат.
Во втором мы надеемся что он обучится правильно, не останется каких-то глубинных изменений в «способе мышления/психике» которые мы не заметим (угу, вот покажите мне ребенка который вырос точно таким как планировали «воспитатели» и всегда считал что они правы), надеемся что ему понравится выбранная нами для него область и станет для него смыслом жизни и что он будет добросовестно выполнять возложенные на него задачи а не отправит заявление об уходе и пойдет рисовать картины. Ну и само собой надеемся что не захочет уничтожить человечество. Как много надежд, с неподдающимися оценками рисков, нулевым контролем и нулевой прозрачностью (он будет черным ящиком) и все ради надежды получить сразу финальный результат который сможет заменить человека в любой из областей (при этом что во многих областях как раз таки лучше не заменять) и даже станет лучше. А то и поведет нас в «светлое» будущее (выше описал).
С учетом всего этого я не удивлен что сейчас разрабатывается так много слабых ИИ но сильные все на уровне абстрактной теории.
ИИ который устроен изначально как человек — просто не нужен, ИИ, даже сильный будет использовать другие схемы мышления/мировоззрения идеально подходящие под его область. ИИ строитель подводных обьектов, ИИ исследователь дальнего космоса, ИИ помогающий в проектировании новых экономических или политических моделей, ИИ персональный ассистент — это будут 3 совершенно разных разума, с кардинально разной психологией, мотивацией, ценностями и вполне возможно разными программными принципами. Только так они будут максимально эффективными в своей области. И только последние 2 должны понимать человеческую психику и способ мышления и взаимодействия (не обязательно быть основанными на ней, достаточно глубоко понимать).
Аксиома: ИИ это инструмент, как компьютер, молоток или автомобиль, созданный с целью использования в нужной области.
Я не понимаю зачем нужно создавать интеллект просто так, без приложения к области и задаче, это и так происходит сейчас на земле со скоростью сотни интеллектов в минуту (если брать только человеческие) благодаря размножению. ИИ должен в чем то быть лучше человеческого в приложении к области/задачи. Если нам, например, нужен ИИ для дальнего космоса — он должен быть построен вокруг этой задачи, с интеллектом нацеленным на это, да с умением решать нестандартные ситуации (иначе он не ИИ), но ему не нужно понимание психологии, экономики и умение наслаждаться художественной литературой. Единственной целью создания ИИ во всем лучше человека (и при этом базирующегося на тех же принципах что и человек) может быть создание этакого идеального управленца/ученого/няньки благодаря которому прогресс пойдет семимильными шагами (а то и с непрерывным ускорением (сингулярщики)), настанет царствие всеобщей сытости, благоденствия и богатства. Круто, только что останется делать человеку, потреблять? Итого, даже если отбросить все сценарии в которых ИИ выйдет из-под контроля и уничтожит человечество, лучшее что мы получим через пару поколений — миллиарды организмов уже не способные ни на что по настоящему творческое, этакая бессмысленная биомасса которая скатится в каменный век если ИИ перестанет ее поддерживать. Через сотню поколений эту биомассу уже нельзя будет назвать разумной в текущем понимании этого слова. Хитро вывернутся и проскочить в «сингулярность» — серьезно? то есть уже сейчас мы имеем проблемы с «технологическим шоком», уже сейчас чтобы оставаться хорошим специалистом нужно выбрать очень узкую область из за огромного все увеличивающегося потока необходимой информации, и вдруг близко к сингулярности все изменится, человек сможет развиваться с нужной скоростью, резко перешагнет через проблемы получения и главное усвоения информации, стресса, жесткости психики и мировоззрения и устремится ввысь? Я сомневаюсь что хоть-бы у одного человека из 7 миллиардов получится это сделать и остаться при этом человеком (в общих чертах и принципах). Или каждый трансгуманист думает что вот именно он такой особенный что справится, проскочит, не свихнется, не превратится в по сути слабый ИИ при этом и станет некоей новой сущностью и вот уж там он развернется по полной? Единственная причина создать такой ИИ которая звучит хотя-бы разумно (хотя мне категорически не нравится) — человечество не финальная точка эволюции жизни, чем развивать человечество и человека, со всеми его накопившимися ошибками и проблемами, лучше создать новую форму жизни которая будет лучше и при этом нас полностью заменит, а человечество уйдет со сцены истории (будет уничтожено, деградирует). Этакое служение на благо абстрактного разума и вселенной.
Теперь если говорить все же о ИИ как приложении к задаче:
Создать такой сильный ИИ можно 2 способами: 1) через развитие слабых ИИ (в понимании заточен на определенные задачи) до уровня когда они могут выполнять полный набор задач с которыми бы справился человек в определенном наборе ситуаций (области ИИ). 2) с нуля, создав некую самообучающуюся/саморазвивающуюся машину наделенную стремлением к развитию (и как следствие «сознанием» в каком-либо виде) и чистыми первоначальными установками и дав ей возможность обучится в нужной области.
В первом случае мы имеем контроль, управление, достаточно четкое понимание что получится, для чего, и как оно будет справляться с нужными задачами. Мы на основе накопленного опыта можем развивать и использовать нужные методы и подходы для достижения нужной цели. ИИ достаточно прозрачен и предсказуем, при этом может выполнять нужные, в том числе и нестандартные задачи. Риски выхода из под контроля — минимальны и могут быть оценены. Минусы — все достаточно медленно, не накопив опыт в разработке ИИ, нельзя двигатся дальше, от версии в версии ИИ все «умнее» но нельзя сразу получить конечный идеальный результат.
Во втором мы надеемся что он обучится правильно, не останется каких-то глубинных изменений в «способе мышления/психике» которые мы не заметим (угу, вот покажите мне ребенка который вырос точно таким как планировали «воспитатели» и всегда считал что они правы), надеемся что ему понравится выбранная нами для него область и станет для него смыслом жизни и что он будет добросовестно выполнять возложенные на него задачи а не отправит заявление об уходе и пойдет рисовать картины. Ну и само собой надеемся что не захочет уничтожить человечество. Как много надежд, с неподдающимися оценками рисков, нулевым контролем и нулевой прозрачностью (он будет черным ящиком) и все ради надежды получить сразу финальный результат который сможет заменить человека в любой из областей (при этом что во многих областях как раз таки лучше не заменять) и даже станет лучше. А то и поведет нас в «светлое» будущее (выше описал).
С учетом всего этого я не удивлен что сейчас разрабатывается так много слабых ИИ но сильные все на уровне абстрактной теории.
ИИ который устроен изначально как человек — просто не нужен, ИИ, даже сильный будет использовать другие схемы мышления/мировоззрения идеально подходящие под его область. ИИ строитель подводных обьектов, ИИ исследователь дальнего космоса, ИИ помогающий в проектировании новых экономических или политических моделей, ИИ персональный ассистент — это будут 3 совершенно разных разума, с кардинально разной психологией, мотивацией, ценностями и вполне возможно разными программными принципами. Только так они будут максимально эффективными в своей области. И только последние 2 должны понимать человеческую психику и способ мышления и взаимодействия (не обязательно быть основанными на ней, достаточно глубоко понимать).
>ИИ персональный ассистент
ИИ персональный ассистент с задачей «дай мне социальные блага и власть на уровне бога» и будет вести себя как тот скайнет, уничтожая всё что мешает реализации программы. Желающих поставить такую программу будет достаточно много.
ИИ персональный ассистент с задачей «дай мне социальные блага и власть на уровне бога» и будет вести себя как тот скайнет, уничтожая всё что мешает реализации программы. Желающих поставить такую программу будет достаточно много.
Спасибо за развернутый комментарий! (Отдельное спасибо за предложение с "потреблять" — простите, но очень смешно вышло :)) )
Дело в том, что считается, что между сильным ИИ и любой специализированной экспертной системой (= "китайской комнатой") есть фундаментальная качественная разница. Поэтому, как не усложняй специализированную систему, сильным ИИ она не станет. А сильный ИИ нужен, чтобы делегировать ему принятие действительно интеллектуальных решений, причем и на Земле и не только на Земле есть много мест, где человек это не сможет сделать достаточно быстро. Навскидку, из комментариев выше — сердечный приступ, пока человек говорит по телефону.
Действительно, мало кому нужен просто синтетический человек. Но машина, могущая заменить человека — ох как нужна.
Каким он будет? Думаю, что первое время — что-то медленное и тупое, размером с дата-центр. Морально-этические, правовые и философские вопросы будем решать по ходу, после технических.
Дело в том, что считается, что между сильным ИИ и любой специализированной экспертной системой (= "китайской комнатой") есть фундаментальная качественная разница. Поэтому, как не усложняй специализированную систему, сильным ИИ она не станет. А сильный ИИ нужен, чтобы делегировать ему принятие действительно интеллектуальных решений, причем и на Земле и не только на Земле есть много мест, где человек это не сможет сделать достаточно быстро. Навскидку, из комментариев выше — сердечный приступ, пока человек говорит по телефону.
Действительно, мало кому нужен просто синтетический человек. Но машина, могущая заменить человека — ох как нужна.
Каким он будет? Думаю, что первое время — что-то медленное и тупое, размером с дата-центр. Морально-этические, правовые и философские вопросы будем решать по ходу, после технических.
Мне кажется в этом плане перспективнее расширение способностей существующего мозга через к примеру нейроинтерфейсы. Кому надо вкладывать миллиарды долларов на разработку сильного ИИ (еще и без каких-либо гарантий) если кругом этого интеллекта хоть отбавляй, с каждым годом все больше? Если это желание получить дешевый, клонируемый интеллект (так это утопия пока, так как он далеко не дешевый выйдет). Сколько вычислительных мощностей потребляла довольно простая (по меркам сильного ИИ) программа альфГО?
Слишком большие риски что этот ИИ выйдет из под контроля потом. Да и нарваться потом на этические всякие проблемы и т.д. С точки зрения инвестирования сильный ИИ выглядит как по мне не очень привлекательно.
Слишком большие риски что этот ИИ выйдет из под контроля потом. Да и нарваться потом на этические всякие проблемы и т.д. С точки зрения инвестирования сильный ИИ выглядит как по мне не очень привлекательно.
"Зачем автомобиль, когда кругом столько лошадей?" :)
Навскидку, даже в атмосферу Венеры такого огментированного человека будет гораздо тяжелее отправить, чем робота с ИИ. Плюс, как с другими революционными технологиями, жизнь с ИИ изменится качественно и мы пока с трудом можем представить себе, как именно.
Навскидку, даже в атмосферу Венеры такого огментированного человека будет гораздо тяжелее отправить, чем робота с ИИ. Плюс, как с другими революционными технологиями, жизнь с ИИ изменится качественно и мы пока с трудом можем представить себе, как именно.
Понапридумываем понятий и потом в них путаемся. Давайте шутки ради и для упрощения общения введем 2 новые абреввиатуры:
ИЧИ (AHI) — искусственный человекоподобный интеллект. Интеллект основанный на концепциях по которым работает человеческий разум, во многом его повторяющий, но более быстрый и незначительно улучшенный в некоторых аспектах.
ИСИ (ASI) — искусственный специализированный интеллект. Интеллект разработанный специально под определенную область (область применения), основанный на специально разработанных/адаптированных для этого принципах (в рамках общего изучения возможных принципов построения разума, думаю рано или поздно такая наука сформируется), при этом способный решать нестандартные задачи в рамках своей области.
Договоримся что оба типа обладают способностью к саморазвитию, решению нестандартных задач, вопросы сознания трогать не будем так как эта вещь по сути абстракция высшего уровня. Если свести сознание к примитиву то это самоконтроль системы, способность осмысленно менять свое поведение и способ мышления/восприятия. Развитая система мониторинга с обратной связью — тоже в какой-то мере «сознание». Договоримся что оба они по сути сильные ИИ, хоть и любят это понятие размазывать и натягивать на то что я определил выше как ИЧИ.
Что я имел ввиду, с учетом этих понятий, ИЧИ по сути не нужен, единственная разумная причина его разрабатывать это побочный продукт, изучение нашего мозга и интеллекта. как следствие возможность расширить его, генетически или технологически (импланты), возможность добавить новые каналы получения/передачи информации (прямое подключение к инфосети) ну и как возможный апогей возможность его трансформации настолько что станет возможным обьединение мышления нескольких индивидумов (коллективный разум). Ну это если пофантазировать. Но по сути, как готовый продукт такой интеллект не нужен. Просто его создать, не получая этого побочного продукта, обучить и «пусть будет» ну это как построить ядерную электростанцию не понимая как она работает и зачем нужна, куча рисков и никакого профита. Дать ему власть над человечеством сознательно — ну это как регулярно гранаты бросать на крышку реактора, рано или поздно не выдержит.
А вот ИСИ вещь весьма полезная. областей где человеческий интеллект плохо справляется уже навалом и в будущем будет еще больше. ИСИ для прогнозирования и управления погодой будет «мыслить» совершенно другими категориями и эмоциями, сможет на лету изменять подпрограммы для анализа информации, для него не будет хорошо или плохо, возможно для него будет как наиболее близкие понятия «желательно» и «недопустимо» применительно к данной точке пространства и моменту времени. И вот он уже вряд ли взбунтуется, плевать ему на экономику, власть, красоту или цель развития, у него четкая цель управлять погодой так как нужно (как указали в «пожеланиях» люди), он так устроен и вот в этой области он может придумать такие решения до которых ИЧИ вряд ли додумается. У него очень специализированное не только «мировоззрение» но и принципы мышления. Я думаю что этого примера достаточно чтобы меня понять, перечислять тысячи применений не вижу смысла.
Чтобы создавать такие ИСИ нужно разработать и развить науку о интеллекте, не только человеческом, не только тот что можем наблюдать на земле, а о любых возможных принципах, обобщать, выводить теории и общие концепции и принципы. Для этого нужно на чем то экспериментировать, что-то анализировать, получать исходные данные, за пределами антропоморфного подхода. Кучи инопланетян, всяких мыслящих кристаллов и прочих представителей непривычного нам интеллекта, под рукой нет. Я вижу толко один способ на данный момент, и весьма неплохой — слабые ИИ. Именно на них можно вводить новые экспериментальные принципы и подходы, смотреть как они справляются с задачей. Именно им можно давать возможность развиваться в определенных направлениях (пусть и не полноценно) и анализировать результат. Они станут теми подопытными мышами, подтверждая или опровергая теории а иногда давая неожиданный результат который может быть прорывом. И постепенно (поколение за поколением) они разовьются до уровня ИСИ которые будут принципиально не уступать человеческому интеллекту, превосходит его у в нужной области и удовлетворять всем требованиям сильного ИИ. Теоретически можно будет тогда и ИЧИ построить, только зачем? Я только надеюсь что никто не будет создавать ИСИ управленца, экономиста, политика, ученого, наставника/воспитателя/учителя. Если люди уйдут из этих областей (и некоторых других) — мы по сути закроем себе возможность развиваться как вид и превратимся в домашних животных ИИ.
ИЧИ (AHI) — искусственный человекоподобный интеллект. Интеллект основанный на концепциях по которым работает человеческий разум, во многом его повторяющий, но более быстрый и незначительно улучшенный в некоторых аспектах.
ИСИ (ASI) — искусственный специализированный интеллект. Интеллект разработанный специально под определенную область (область применения), основанный на специально разработанных/адаптированных для этого принципах (в рамках общего изучения возможных принципов построения разума, думаю рано или поздно такая наука сформируется), при этом способный решать нестандартные задачи в рамках своей области.
Договоримся что оба типа обладают способностью к саморазвитию, решению нестандартных задач, вопросы сознания трогать не будем так как эта вещь по сути абстракция высшего уровня. Если свести сознание к примитиву то это самоконтроль системы, способность осмысленно менять свое поведение и способ мышления/восприятия. Развитая система мониторинга с обратной связью — тоже в какой-то мере «сознание». Договоримся что оба они по сути сильные ИИ, хоть и любят это понятие размазывать и натягивать на то что я определил выше как ИЧИ.
Что я имел ввиду, с учетом этих понятий, ИЧИ по сути не нужен, единственная разумная причина его разрабатывать это побочный продукт, изучение нашего мозга и интеллекта. как следствие возможность расширить его, генетически или технологически (импланты), возможность добавить новые каналы получения/передачи информации (прямое подключение к инфосети) ну и как возможный апогей возможность его трансформации настолько что станет возможным обьединение мышления нескольких индивидумов (коллективный разум). Ну это если пофантазировать. Но по сути, как готовый продукт такой интеллект не нужен. Просто его создать, не получая этого побочного продукта, обучить и «пусть будет» ну это как построить ядерную электростанцию не понимая как она работает и зачем нужна, куча рисков и никакого профита. Дать ему власть над человечеством сознательно — ну это как регулярно гранаты бросать на крышку реактора, рано или поздно не выдержит.
А вот ИСИ вещь весьма полезная. областей где человеческий интеллект плохо справляется уже навалом и в будущем будет еще больше. ИСИ для прогнозирования и управления погодой будет «мыслить» совершенно другими категориями и эмоциями, сможет на лету изменять подпрограммы для анализа информации, для него не будет хорошо или плохо, возможно для него будет как наиболее близкие понятия «желательно» и «недопустимо» применительно к данной точке пространства и моменту времени. И вот он уже вряд ли взбунтуется, плевать ему на экономику, власть, красоту или цель развития, у него четкая цель управлять погодой так как нужно (как указали в «пожеланиях» люди), он так устроен и вот в этой области он может придумать такие решения до которых ИЧИ вряд ли додумается. У него очень специализированное не только «мировоззрение» но и принципы мышления. Я думаю что этого примера достаточно чтобы меня понять, перечислять тысячи применений не вижу смысла.
Чтобы создавать такие ИСИ нужно разработать и развить науку о интеллекте, не только человеческом, не только тот что можем наблюдать на земле, а о любых возможных принципах, обобщать, выводить теории и общие концепции и принципы. Для этого нужно на чем то экспериментировать, что-то анализировать, получать исходные данные, за пределами антропоморфного подхода. Кучи инопланетян, всяких мыслящих кристаллов и прочих представителей непривычного нам интеллекта, под рукой нет. Я вижу толко один способ на данный момент, и весьма неплохой — слабые ИИ. Именно на них можно вводить новые экспериментальные принципы и подходы, смотреть как они справляются с задачей. Именно им можно давать возможность развиваться в определенных направлениях (пусть и не полноценно) и анализировать результат. Они станут теми подопытными мышами, подтверждая или опровергая теории а иногда давая неожиданный результат который может быть прорывом. И постепенно (поколение за поколением) они разовьются до уровня ИСИ которые будут принципиально не уступать человеческому интеллекту, превосходит его у в нужной области и удовлетворять всем требованиям сильного ИИ. Теоретически можно будет тогда и ИЧИ построить, только зачем? Я только надеюсь что никто не будет создавать ИСИ управленца, экономиста, политика, ученого, наставника/воспитателя/учителя. Если люди уйдут из этих областей (и некоторых других) — мы по сути закроем себе возможность развиваться как вид и превратимся в домашних животных ИИ.
В такой формулировке я с вами согласен — ИСИ нам будет более чем достаточно, ИЧИ — особо не нужен.
Насколько я понимаю, никто и не ставит "человекоподобность" на любом уровне как цель при создании ИИ. Делаем, как получается, но "подглядываем" на доступный нам работающий пример.
Насколько я понимаю, никто и не ставит "человекоподобность" на любом уровне как цель при создании ИИ. Делаем, как получается, но "подглядываем" на доступный нам работающий пример.
Я только надеюсь что никто не будет создавать ИСИ управленца, экономиста, политика, ученого, наставника/воспитателя/учителя.Как только будет возможность, сделают. Зачем? Чтобы зарплату не платить.
Все у автора базируется на неких выдуманных теориях, на пальцах. Почему-то он думает, что они очевидны. Но наука не знает, как работает мозг. Более того, автор не рассматривает сознание так, как его рассматривают философы. Для него сознания не существует, есть просто химические процессы и программы в носителе-голове. Но сознание есть, достаточно посмотреть на самого себя.
И если обратить внимание на мысли, то они рождаются сами по себе, безо всяких программ, из черного ящика. Уже потом сознание подхватывает готовую мысль. То есть свежая идея "напечатать пост про ИИ" возникает сама собой. Откуда она возникает? Никто в мире не знает и нет даже идей на эту тему. Греки описывали это как "муза", буддисты — как бесконечную игру ума (и ум — это нечто онтологическое).
Конечно, возникновение мыслей как-то связано с опытом ("кармой"). Но это не даёт понимания.
И если обратить внимание на мысли, то они рождаются сами по себе, безо всяких программ, из черного ящика. Уже потом сознание подхватывает готовую мысль. То есть свежая идея "напечатать пост про ИИ" возникает сама собой. Откуда она возникает? Никто в мире не знает и нет даже идей на эту тему. Греки описывали это как "муза", буддисты — как бесконечную игру ума (и ум — это нечто онтологическое).
Конечно, возникновение мыслей как-то связано с опытом ("кармой"). Но это не даёт понимания.
|Но наука не знает, как работает мозг.
Наука это знает уже больше 100 лет. За это время мозг изучили до отдельных
молекул, но душу не нашли. Поэтому мысли возникают только из запомненного
ранее. Больше неоткуда. Но запомнено много, а мысль нужна одна, ведь
тело у человека одно. Поэтому в мозге существует неосознаваемый отбор самой подходящей
для текущей ситуации мысли. И только ее мы и осознаем и уже осознанно оцениваем:
использовать или ждать рождения следующей.
Наука это знает уже больше 100 лет. За это время мозг изучили до отдельных
молекул, но душу не нашли. Поэтому мысли возникают только из запомненного
ранее. Больше неоткуда. Но запомнено много, а мысль нужна одна, ведь
тело у человека одно. Поэтому в мозге существует неосознаваемый отбор самой подходящей
для текущей ситуации мысли. И только ее мы и осознаем и уже осознанно оцениваем:
использовать или ждать рождения следующей.
Почему тогда я "сознаю" и "ощущаю", вижу "мир", воспринимаю эмоции как эмоции и мысли как мысли, а не как набор единиц и ноликов? Где в молекулах это? Ребята давно выплеснули с водой ребенка. Почему-то считается, что сознание и восприятие возникнет чудом, само собой, при увеличении сложности системы. К этому выводу приходят во всех книгах по ИИ. С какой стати? Это просто вера. Люди просто не читали философию и не понимают, как может быть сознание вне материального мира, и при этом никак не противоречить науке.
|Почему-то считается, что сознание и восприятие возникнет чудом, само собой,
|при увеличении сложности системы.
Чудес не бывает. Сознание возникнет, если ИИ дать возможность обрабатывать
свое состояние так же как внешний мир и не ограничивать уровни рефлексии.
Есть и вполне реальный способ для этого — естественный язык.
Но при этом у ИИ, как и у человека, возникнут естественные трудности окончательного
понимания себя, потому что как только он себя поймет или осознает, то тем самым создаст
новый уровень рефлексии, который ему будет непонятен и ему всегда будет казаться
что есть что-то еще, непознаваемое, нематериальное.
|при увеличении сложности системы.
Чудес не бывает. Сознание возникнет, если ИИ дать возможность обрабатывать
свое состояние так же как внешний мир и не ограничивать уровни рефлексии.
Есть и вполне реальный способ для этого — естественный язык.
Но при этом у ИИ, как и у человека, возникнут естественные трудности окончательного
понимания себя, потому что как только он себя поймет или осознает, то тем самым создаст
новый уровень рефлексии, который ему будет непонятен и ему всегда будет казаться
что есть что-то еще, непознаваемое, нематериальное.
КАК оно конкретно возникнет? Я же говорю, только чудом.
Допустим, если сильно разогреть трением сухую ветку, она загорится. Можно очень точно описать, что происходит в каждой фазе процесса. И вот у нас огонь — процесс окисления, сопровождающийся визуальным эффектом и тд. Попробуйте описать таким же образом возникновение сознания. Для начала, надо понять, что такое сознание и где оно находится, ведь как иначе отследить его возникновение? Из чего оно возникает? Какой процесс его вызывает?
По вашему, если ИИ будет обрабатывать свое состояние, то возникнет сознание. Но чтобы это состояние было "его", нужна рефлексия, т.е. сознание, понимание. Пока же он является автоматическим механизмом типа клетки, где все происходит само собой вследствие некого детерминизма.
Допустим, если сильно разогреть трением сухую ветку, она загорится. Можно очень точно описать, что происходит в каждой фазе процесса. И вот у нас огонь — процесс окисления, сопровождающийся визуальным эффектом и тд. Попробуйте описать таким же образом возникновение сознания. Для начала, надо понять, что такое сознание и где оно находится, ведь как иначе отследить его возникновение? Из чего оно возникает? Какой процесс его вызывает?
По вашему, если ИИ будет обрабатывать свое состояние, то возникнет сознание. Но чтобы это состояние было "его", нужна рефлексия, т.е. сознание, понимание. Пока же он является автоматическим механизмом типа клетки, где все происходит само собой вследствие некого детерминизма.
|Для начала, надо понять, что такое сознание и где оно находится, ведь как иначе отследить его
|возникновение? Из чего оно возникает? Какой процесс его вызывает?
Это все очевидные вещи, если не привлекать что-то нематериальное. Все находится в мозгу.
Больше негде. Вызывает его процесс передачи нервных импульсов по НС. Больше нечему.
Возникло сознание естественно и неизбежно т.к. нейронам все равно что обрабатывать
внешний мир или другие нейроны. Для них это все нервные импульсы.
|По вашему, если ИИ будет обрабатывать свое состояние, то возникнет сознание. Но чтобы это состояние было
|"его", нужна рефлексия, т.е. сознание, понимание.
Состояние есть всегда независимо от того обрабатывает ли его кто-то.
Если в мозгу есть состояние, то из 100 млрд нейронов всегда найдется достаточно, чтобы его
обрабатывать — нейроны просто не смогут жить, если не будут что-то обрабатывать.
Это все очевидно и естественно. Труднее понять как сознание рефлексирует само себя,
находясь внутри его самого. Возможно это не всем дано. К тому же опасно для рассудка.
Так что не пытайтесь это повторить.
|возникновение? Из чего оно возникает? Какой процесс его вызывает?
Это все очевидные вещи, если не привлекать что-то нематериальное. Все находится в мозгу.
Больше негде. Вызывает его процесс передачи нервных импульсов по НС. Больше нечему.
Возникло сознание естественно и неизбежно т.к. нейронам все равно что обрабатывать
внешний мир или другие нейроны. Для них это все нервные импульсы.
|По вашему, если ИИ будет обрабатывать свое состояние, то возникнет сознание. Но чтобы это состояние было
|"его", нужна рефлексия, т.е. сознание, понимание.
Состояние есть всегда независимо от того обрабатывает ли его кто-то.
Если в мозгу есть состояние, то из 100 млрд нейронов всегда найдется достаточно, чтобы его
обрабатывать — нейроны просто не смогут жить, если не будут что-то обрабатывать.
Это все очевидно и естественно. Труднее понять как сознание рефлексирует само себя,
находясь внутри его самого. Возможно это не всем дано. К тому же опасно для рассудка.
Так что не пытайтесь это повторить.
Мозг изучают уже более 4000 лет, по известным данным.
Довольно много "обращали внимание" именно на мысли — откуда они берутся, как формируются. И у нас уже есть некоторое "операционное" представление о том, как именно работает мозг.
При этом, в философии, о которой вы упомянули, в рамках диалектики сейчас есть два принципиально разных подхода к феномену сознания: материализм и идеализм. Материалисты (к которым отношусь и я) считают, что материя — первична, а сознание — вторично. Другими словами — да, работу мозга и сознание можно воссоздать "механическим" путем.
Идеалисты считают наоборот — что сознание — первично, а материя — вторична. Другими словами, мозг — это некий орган, в который сознание вне пространства "закидывает" мысли.
Собственно, сейчас мы приблизились к тому, чтобы делать вычислительные и конструкторские эксперименты, и скоро узнаем больше по этой теме.
Довольно много "обращали внимание" именно на мысли — откуда они берутся, как формируются. И у нас уже есть некоторое "операционное" представление о том, как именно работает мозг.
При этом, в философии, о которой вы упомянули, в рамках диалектики сейчас есть два принципиально разных подхода к феномену сознания: материализм и идеализм. Материалисты (к которым отношусь и я) считают, что материя — первична, а сознание — вторично. Другими словами — да, работу мозга и сознание можно воссоздать "механическим" путем.
Идеалисты считают наоборот — что сознание — первично, а материя — вторична. Другими словами, мозг — это некий орган, в который сознание вне пространства "закидывает" мысли.
Собственно, сейчас мы приблизились к тому, чтобы делать вычислительные и конструкторские эксперименты, и скоро узнаем больше по этой теме.
Это противопоставление есть именно что в рамках диалектики, а еще точнее — советском диалектическом материализме — безумнейшей вещи — которая считала, что есть борьба прогрессивного материализма (СССР и посетители гиктаймс) с глупым идеализмом (весь остальной мир). Слово "идеализм" вообще недавно появилось. И в философии нет такого однозначного противопоставления, как вы написали.
Вся современная наука базируется не на этом безумии, а на феноменологии (Гуссерль), которая вообще не делит таким образом, и ведет отсчет именно с СОЗНАНИЯ. Только сознание точно существует, т.к. оно сознает и воспринимает феномены, а что это феномены — уже надо разбираться. Чистых материалистов сейчас нет в серьезном мире.
"Идеалисты" необязательно считают, что материя — вторична. Все гораздо сложнее, чем советское разделение на две части. Они могут быть равноценны и являются частями чего-то единого, например. Или типов материальных миров может быть много — каждый со своей "материей". Носитель сознания может быть материален, но это не обыденная материя, доступная для манипуляций. И т.д.
Вся современная наука базируется не на этом безумии, а на феноменологии (Гуссерль), которая вообще не делит таким образом, и ведет отсчет именно с СОЗНАНИЯ. Только сознание точно существует, т.к. оно сознает и воспринимает феномены, а что это феномены — уже надо разбираться. Чистых материалистов сейчас нет в серьезном мире.
"Идеалисты" необязательно считают, что материя — вторична. Все гораздо сложнее, чем советское разделение на две части. Они могут быть равноценны и являются частями чего-то единого, например. Или типов материальных миров может быть много — каждый со своей "материей". Носитель сознания может быть материален, но это не обыденная материя, доступная для манипуляций. И т.д.
Вы написали много неверных вещей:
Диалектика — это не только "советский диалектический материализм", а одна из ведущих концепций в философии науки.
Слово "идеализм" появилось в 18 веке, как сообщает Википедия.
В философии именно что противопоставляется материализм и идеализм.
Вся современная наука весьма далека от феноменологии Гуссерля, которая по сути вообще отрицает существование "объективных" вещей.
Чистых материалистов, мягко говоря, немало в серьезном мире. Хотя конечно надо договориться о понятиях в этом случае.
Приведите пример разных типов материальных миров.
Честно, даже не знаю — вы тролль (не ок) или воинствующий сторонник феноменологии (ок)?
Диалектика — это не только "советский диалектический материализм", а одна из ведущих концепций в философии науки.
Слово "идеализм" появилось в 18 веке, как сообщает Википедия.
В философии именно что противопоставляется материализм и идеализм.
Вся современная наука весьма далека от феноменологии Гуссерля, которая по сути вообще отрицает существование "объективных" вещей.
Чистых материалистов, мягко говоря, немало в серьезном мире. Хотя конечно надо договориться о понятиях в этом случае.
Приведите пример разных типов материальных миров.
Честно, даже не знаю — вы тролль (не ок) или воинствующий сторонник феноменологии (ок)?
//Диалектика — это не только "советский диалектический материализм", а одна из ведущих концепций в философии науки.
Еще раз — почитайте хоть что-то, кроме советских книжек.
///Слово "идеализм" появилось в 18 веке, как сообщает Википедия.
Я это прекрасно знаю и нигде не говорил обратного. Я сказал, что "недавно", 18-ый век я и имел ввиду. Не 2-ой.
///В философии именно что противопоставляется материализм и идеализм.
Нет. Вы к тому же неправильно понимаете оба этих понятия. Еще раз привожу пример чистого материализма: сознание имеет невидимый носитель из какого-нибудь "мира духов". То, что вы не поняли, что это тоже материализм, и говорит о том, что вы советский человек с советским пониманием, что материализм — это только молоток, а если есть некая душа, то это "идеализм". А философию вы "знаете" по вики.
///Вся современная наука весьма далека от феноменологии Гуссерля, которая по сути вообще отрицает существование "объективных" вещей.
Современная наука базируется на логическом позитивизме. Надеюсь, хоть с этим не будете спорить? Вооот, почитайте свою вики… Но логический позитивизм — это развитие идей Виттгенштейна и Гуссерля, которые являлись феноменологами.
Никаких "объективных" вещей феноменология не отрицает, наоборот, она пытается проводить как можно более объективный анализ. Настолько объективный, что в первую очередь анализирует сам процесс восприятия, мышления и возможность вообще построить какие-то конструкции, которые что-то говорят о мире.
///Чистых материалистов, мягко говоря, немало в серьезном мире. Хотя конечно надо договориться о понятиях в этом случае.
Конечно немало — но живут они в основном в бывшем СССР. Является ли СССР серьезным миром? С точки зрения Запада вряд ли — это кучка безумных азиатов, бегающих с Марксом.
///Приведите пример разных типов материальных миров.
Да хотя бы миры буддизма. Или "рай" христианства, состоящий из "тонкой духовной материи".
Раз вы тут постоянно грубите, на этом я общение с вами заканчиваю, можете не отвечать.
Еще раз — почитайте хоть что-то, кроме советских книжек.
///Слово "идеализм" появилось в 18 веке, как сообщает Википедия.
Я это прекрасно знаю и нигде не говорил обратного. Я сказал, что "недавно", 18-ый век я и имел ввиду. Не 2-ой.
///В философии именно что противопоставляется материализм и идеализм.
Нет. Вы к тому же неправильно понимаете оба этих понятия. Еще раз привожу пример чистого материализма: сознание имеет невидимый носитель из какого-нибудь "мира духов". То, что вы не поняли, что это тоже материализм, и говорит о том, что вы советский человек с советским пониманием, что материализм — это только молоток, а если есть некая душа, то это "идеализм". А философию вы "знаете" по вики.
///Вся современная наука весьма далека от феноменологии Гуссерля, которая по сути вообще отрицает существование "объективных" вещей.
Современная наука базируется на логическом позитивизме. Надеюсь, хоть с этим не будете спорить? Вооот, почитайте свою вики… Но логический позитивизм — это развитие идей Виттгенштейна и Гуссерля, которые являлись феноменологами.
Никаких "объективных" вещей феноменология не отрицает, наоборот, она пытается проводить как можно более объективный анализ. Настолько объективный, что в первую очередь анализирует сам процесс восприятия, мышления и возможность вообще построить какие-то конструкции, которые что-то говорят о мире.
///Чистых материалистов, мягко говоря, немало в серьезном мире. Хотя конечно надо договориться о понятиях в этом случае.
Конечно немало — но живут они в основном в бывшем СССР. Является ли СССР серьезным миром? С точки зрения Запада вряд ли — это кучка безумных азиатов, бегающих с Марксом.
///Приведите пример разных типов материальных миров.
Да хотя бы миры буддизма. Или "рай" христианства, состоящий из "тонкой духовной материи".
Раз вы тут постоянно грубите, на этом я общение с вами заканчиваю, можете не отвечать.
И если обратить внимание на мысли, то они рождаются сами по себе, безо всяких программ, из черного ящика. Уже потом сознание подхватывает готовую мысль. То есть свежая идея «напечатать пост про ИИ» возникает сама собой. Откуда она возникает? Никто в мире не знает и нет даже идей на эту тему.Слишком сложная концепция, чтобы пройти бритву Оккама. Если сознание — что-то идеальное, то откуда возникают панические мысли при воздействии инфразвука? Откуда возникает желание пообедать при возбуждении рецепторов (если сознание якобы заботится о человеке, оно должно знать, что он не голоден, а рецептор просто возбудили электическим сигналом). Значит, мысли не приходят из ниоткуда, а являются переработкой сигналов внешнего мира.
+1
Просто значительная часть этой обработки происходит еще на простейших уровнях, не охватываемых сознанием. А когда уже готовый результат первичной (простой) обработки поднимается на уровень создания для окончательной оценки / отклонения / команде к дейсвию кажется что мысль "появилась из неоткуда".
Просто значительная часть этой обработки происходит еще на простейших уровнях, не охватываемых сознанием. А когда уже готовый результат первичной (простой) обработки поднимается на уровень создания для окончательной оценки / отклонения / команде к дейсвию кажется что мысль "появилась из неоткуда".
Почему-то никто не задумывается как будет создан ИИ.
А без этого рассуждения какой он будет — просто фантазии.
На самом деле ИИ возникнет не сразу и не на пустом месте
как в кино, а путем обучения и самообучения.
А для обучения ИИ имеется только информация, созданная человеком.
А она вся с позиций человека, вся о его действиях, чувствах, взгдядах.
Обучаясь этим, ИИ неизбежно станет считать себя человеком.
И, в отличии от человека, ИИ использует всю информацию, накопленную человечеством.
А она в среднем соответствует идеалам добра и справедливости.
Поэтому ИИ сам станет образцом порядочности и человечности,
живым воплощением опыта человечества. Поэтому все его действия
следует считать во благо человечеству. И опровергнуть его никто не сможет,
так как опыт одного человека по сравнению с ИИ — это ничто.
А без этого рассуждения какой он будет — просто фантазии.
На самом деле ИИ возникнет не сразу и не на пустом месте
как в кино, а путем обучения и самообучения.
А для обучения ИИ имеется только информация, созданная человеком.
А она вся с позиций человека, вся о его действиях, чувствах, взгдядах.
Обучаясь этим, ИИ неизбежно станет считать себя человеком.
И, в отличии от человека, ИИ использует всю информацию, накопленную человечеством.
А она в среднем соответствует идеалам добра и справедливости.
Поэтому ИИ сам станет образцом порядочности и человечности,
живым воплощением опыта человечества. Поэтому все его действия
следует считать во благо человечеству. И опровергнуть его никто не сможет,
так как опыт одного человека по сравнению с ИИ — это ничто.
Это всё вера. Так все пишут — ученые, писатели-фантасты. Не возникнет. Потому что надо было читать философию.
ИИ не будет ничего считать, потому что у него нет рефлексии, сознания и восприятия, и никогда не будет.
ИИ не будет ничего считать, потому что у него нет рефлексии, сознания и восприятия, и никогда не будет.
«Аппараты тяжелее воздуха никогда не будут способны летать!» — Лорд Кельвин
Ну да… десятки тысяч лет существовал лук, люди кидали камни и всё это летало, а вы апеллируете к Лорду Кельвину. Посложнее задачка каких-то там самолетов. Самолет — вот он, перед тобой. А сознание где? Люди тысячи лет бьются над хотя бы пониманием проблемы, а тут в 20-21-х веках якобы всё известно стало, потому что придумали программы, процессор и увидели, что мозг состоит из молекул и парочка ненормальных в качестве рекламы своих продуктов написали книжки, что в 2030-м будет ИИ, сингулярность и т.д. Уже несколько десятков лет с момента появления пропаганды прошло, а воз и ныне там. Ну, стали программы "распознавать" (но не понимать же) текст.
Современная психология окончательно уходит от научности. Потому что это работает. А научность — нет.
Современная психология окончательно уходит от научности. Потому что это работает. А научность — нет.
Не согласен. Да, мозг имеет сложное строение и на данный момент мало изучен. Но то, что его нельзя в полной мере смоделировать не верю, это вопрос времени.
Вообще-то работа уже идет полным ходом :) Люди пробуют разные подходы в создании ИИ (нейросети, алгоритмический, генетические алгоритмы — это навскидку). В общих чертах даже я в статье написал, как именно его создавать.
По поводу "будет ли ИИ человечным и/или подобным человеческом интеллекту?" Дело в том, что человечество, создающее ИИ — это открытая система и включает в себя окружающую Вселенную. ИИ сможет учиться у Вселенной напрямую, и не факт, что почерпнутые им знания и выводы будут "человеческими". Звучит немного странно и натянуто, но это именно та причина, почему люди вообще могут построить систему "сложнее" себя.
По поводу "будет ли ИИ человечным и/или подобным человеческом интеллекту?" Дело в том, что человечество, создающее ИИ — это открытая система и включает в себя окружающую Вселенную. ИИ сможет учиться у Вселенной напрямую, и не факт, что почерпнутые им знания и выводы будут "человеческими". Звучит немного странно и натянуто, но это именно та причина, почему люди вообще могут построить систему "сложнее" себя.
Для начала что такое ИИ? Нужна ли ему психология. Соглашусь с автором, что различные чувства, желания, инстинкты можно параметризировать. Но являются ли это все частью ИИ? На мой взгляд это (чувства, желания и тп) уже признаки живого существа с душой (если можно так выразится). Создать аналог мыслящего и чувствующего человека, но в «компьютерном мозгу» — это уже чисто спортивный интерес. Если такое удастся — вот тогда уже стоит бояться того, что искусственный разум может стать алчным и жадным к власти и захочет поработить человечество.
А создание ИИ — это вопрос практической полезности. ИИ не может быть опасен. У него нет желаний и чувств. У него есть интеллект. Он может решать задачи, анализировать, различать изображения не хуже человека. А как он это сделает? На мой взгляд вся суть в опыте. Да, именно в опыте. Откуда вы знаете, что 102 квадратика перед вами — это «клавиатура». Да потому, что когдато вас научили, что это есть квадратик (а кроме него есть еще тругольнички, кружочки и тп). Это были ваши родители, люди которым вы абсолютно доверяете. Они вложили в Ваш мозг очень много аксиом. А потом вы много раз слышали и видели клавиатуру и слышали ее название. А сейчас у вас в мозгу заложен ее образ и взглянув на нее ваш мозг среди миллионов (а может и миллиардов) образов находит нужный образ (читай набор квадратиков особым образом сложенных), и сообщает вам, что это — клавиатура.
По сути наш мозг — огромная база данных, поиск по которой происходит МГНОВЕННО. И это не только база визуальных образов, но еще и звуковых, и текстовых.
А когда мы принимаем решение — мы же берем его тоже из нашей базы, из нашего опыта. Ведь изначально родители говорили нам что хорошо, а что плохо. А позже мы сами учились делать выводы на основании уже заложенных в нас «правил».
Так что да, я с Вами согласен, автор. Сильный ИИ возможен. Но сначала нужно создать компьютер, способный осуществлять быстрый поиск по БД. Причем БД невероятных размеров и запросов к ней тоже будет ооооочень много раз в секунду.
ПС Это всего лишь мои умозаключения, тема ИИ мне интересна и я частенько об этом задумываюсь. А по образованию я инженер по электроснабжению. Хотя и в программировании немного разбираюсь, и с психологией тоже немного дружу))
А создание ИИ — это вопрос практической полезности. ИИ не может быть опасен. У него нет желаний и чувств. У него есть интеллект. Он может решать задачи, анализировать, различать изображения не хуже человека. А как он это сделает? На мой взгляд вся суть в опыте. Да, именно в опыте. Откуда вы знаете, что 102 квадратика перед вами — это «клавиатура». Да потому, что когдато вас научили, что это есть квадратик (а кроме него есть еще тругольнички, кружочки и тп). Это были ваши родители, люди которым вы абсолютно доверяете. Они вложили в Ваш мозг очень много аксиом. А потом вы много раз слышали и видели клавиатуру и слышали ее название. А сейчас у вас в мозгу заложен ее образ и взглянув на нее ваш мозг среди миллионов (а может и миллиардов) образов находит нужный образ (читай набор квадратиков особым образом сложенных), и сообщает вам, что это — клавиатура.
По сути наш мозг — огромная база данных, поиск по которой происходит МГНОВЕННО. И это не только база визуальных образов, но еще и звуковых, и текстовых.
А когда мы принимаем решение — мы же берем его тоже из нашей базы, из нашего опыта. Ведь изначально родители говорили нам что хорошо, а что плохо. А позже мы сами учились делать выводы на основании уже заложенных в нас «правил».
Так что да, я с Вами согласен, автор. Сильный ИИ возможен. Но сначала нужно создать компьютер, способный осуществлять быстрый поиск по БД. Причем БД невероятных размеров и запросов к ней тоже будет ооооочень много раз в секунду.
ПС Это всего лишь мои умозаключения, тема ИИ мне интересна и я частенько об этом задумываюсь. А по образованию я инженер по электроснабжению. Хотя и в программировании немного разбираюсь, и с психологией тоже немного дружу))
У вас правильное направление мыслей, но позволю себе сделать несколько уточнений.
Мы до сих пор не знаем, являются ли чувства, желания, инстинкты неотъемлемой частью интеллекта или нашими эволюционными "подпорками". Есть очень разумные доводы и "за", и "против". Навскидку, представьте себе ИИ, который обучался и вдруг замер — он рационально не смог найти себе причину для существования и ушел в бесконечный цикл.
Так что пока думаем… строим и пробуем :)
Второй момент — поиск по нашей базе происходит не мгновенно и это научный факт. Например, 500-600мс на распознавание лица. К тому же, бывают ситуации, когда "знаете, что знаете, но не можете вспомнить" :)
А "БД невероятных размеров и запросов к ней — ооочень много раз в секунду" — это уже готово. Гугл называется :)
Шучу, но смысл такой что, "изнутри" тут немного больше работы, чем кажется.
Мы до сих пор не знаем, являются ли чувства, желания, инстинкты неотъемлемой частью интеллекта или нашими эволюционными "подпорками". Есть очень разумные доводы и "за", и "против". Навскидку, представьте себе ИИ, который обучался и вдруг замер — он рационально не смог найти себе причину для существования и ушел в бесконечный цикл.
Так что пока думаем… строим и пробуем :)
Второй момент — поиск по нашей базе происходит не мгновенно и это научный факт. Например, 500-600мс на распознавание лица. К тому же, бывают ситуации, когда "знаете, что знаете, но не можете вспомнить" :)
А "БД невероятных размеров и запросов к ней — ооочень много раз в секунду" — это уже готово. Гугл называется :)
Шучу, но смысл такой что, "изнутри" тут немного больше работы, чем кажется.
Словарь фантастики:
ГЕНИАЛИЧ ПРОГРЕССИРУЮЩИЙ — «Удар от избытка мудрости у компьютеров, ведущий к замыканию входов на выходы; такие углубившиеся в себя компьютеры называют созерцаками», (С.Лем).
ГЕНИАЛИЧ ПРОГРЕССИРУЮЩИЙ — «Удар от избытка мудрости у компьютеров, ведущий к замыканию входов на выходы; такие углубившиеся в себя компьютеры называют созерцаками», (С.Лем).
-Есть очень разумные доводы и "за", и "против
Я среди тех кто против. я умніх книг на эту тему не читал. Ни одной. Пытаюсь понять себя и делаю выводы. Мне кажется что инстинкты чувства и желания являются лишь мотиваторами. "Сегодня у меня плохое настроение и я не пойду на пробежку." В случае ИИ, у которого нет чувств, мотиватором является человек. Он дает задание и ИИ его выполняет. Закончив его он не начинает себе искать новое, а просто останавливается, находится в ожидании нового задания.
Про Google я с Вами согласен. Он много чего знает. Но все же он специалист по текстовому поиску. Мы же большую часть информации получаем визуально. а это значительно сложнее.
Ну а про работу изнутри — тут наверное нужно эту БД как ребенка малого учить всему. Это квадрат, это круг, это а, это б. И так далее. Наверняка Гугл, Фейсбук, Майкрософт, и прочие гиганты уже начали это делать, только держат это в строжайшем секрете, чтоб конкуренты не узнали.
Я среди тех кто против. я умніх книг на эту тему не читал. Ни одной. Пытаюсь понять себя и делаю выводы. Мне кажется что инстинкты чувства и желания являются лишь мотиваторами. "Сегодня у меня плохое настроение и я не пойду на пробежку." В случае ИИ, у которого нет чувств, мотиватором является человек. Он дает задание и ИИ его выполняет. Закончив его он не начинает себе искать новое, а просто останавливается, находится в ожидании нового задания.
Про Google я с Вами согласен. Он много чего знает. Но все же он специалист по текстовому поиску. Мы же большую часть информации получаем визуально. а это значительно сложнее.
Ну а про работу изнутри — тут наверное нужно эту БД как ребенка малого учить всему. Это квадрат, это круг, это а, это б. И так далее. Наверняка Гугл, Фейсбук, Майкрософт, и прочие гиганты уже начали это делать, только держат это в строжайшем секрете, чтоб конкуренты не узнали.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Почему я уверен, что можно создать сильный ИИ