Из принципа каузальности, лежащую в основе научной познаваемости нашей вселенной.
У принципа каузальности очень сложные взаимоотношения с познаваемостью. С одной стороны, познаваемость невозможна во вселенной, в которой каузальность напрочь отсутствует. Но с другой стороны познаваемость также невозможна во вселенной, в которой каузальность тотальна (в том числе, как вариант, с добавлением чистой случайности). Если с первым, надеюсь, понятно, то второе (невозможность познаваемости в тотальной каузальности), наверно, требует пояснения.
Познание — это у нас майнинг фактов о том, по каким законам функционирует мир. На редкость полезное дело. И увлекательное в первую очередь потому, что полезное. Само постулирование полезности познания сразу выкидывает нас на понятие «польза». Польза — это когда «для того, чтобы...». В данном случае познание полезно нам тем, что позволяет не тыкаться нам как слепым котятам в реальность материального мира, а иметь работающие рецепты для достижения желаемых результатов.
Итого, двинувшись от факта «познание существует» в одну сторону, мы имеем факт «каузальность существует». Но, двинувшись в другую сторону, мы получаем факт «применение результатов познания для достижения результатов существует».
Рассмотрим вариант с жёсткой механистической каузальностью. В этом случае логически всё прошлое и всё будущее уже предопределены, и нет никакого смысла заниматься познанием, поскольку от нас никак не зависит, что случится через миллиард лет, через тысячу лет, через год, завтра, и даже через секунду. Вся книга судеб уже написана от начала и до конца, и мы здесь ничего не решаем. Во вселенной, для которой написана книга судеб, феномен «управление» невозможен.
К жёсткой механистической каузальности добавим истинную случайность. Истинная случайность характерна тем, что она неуправляема. Если конструкция вселенной такова, что в ней есть только механистическая каузальность и истинная случайность, то феномен «управление» по-прежнему невозможен. Нет того, чем можно управлять. Вмешаться в механистическую каузальность невозможно, потому что результат предопределён, а в истинную случайность вмешаться невозможно по определению.
Нормальных выходов из ситуации я вижу два:
1. Предположить, что управляемость является системным эффектом сочетания «механистическая каузальность + истинная случайность».
2. Предположить, что наша Вселенная устроена таким образом, что некоторые её аспекты функционируют по законам предопределённости (например, движение материальной точки в силовом поле), некоторые — по законам случайности (радиоактивный распад), но некоторые (например, «пойти мне направо или налево») и не предопределены, и не случайны. Просто совсем другой отдельный класс явлений.
Какой из этих двух вариантов мы бы ни выбрали, никакого «система эволюционирует однозначным образом» не получается. Будущее в любом случае оказывается не предопределённым и управляемым.
И да, сохранение информации — не совсем физический закон
Я бы даже сказал, что сохранение информации — это какой-то странный миф. Даже не знаю, откуда он такой красивый взялся. Наш жизненный опыт однозначно свидетельствует в пользу того, что информация возникает как-бы из ниоткуда и пропадает в никуда. Если, конечно, об информации говорить в том смысле, в котором мы о ней обычно говорим — то есть о знаниях, сведениях и прочем таком, с чем мы в том числе имеем дело в наших инфотехнологиях.
Природа тысячью и одним способом закодировала число Пи.
Матушка-природа вообще не занималась числом пи.
То что наш язык (математика) не может его выразить — проблемы языка.
Вообще никакой проблемы выразить пи с абсолютной точностью. Нужно взять пи-ричную систему счисления, и в ней пи закодируется «10» :)
Но вопрос не в числе пи. Пи — это всего лишь конкретная точка, отличающаяся от числа, например, «2» только тем, что при записи в десятичной системе получается бесконечный хвост. Вопрос в другом, а именно во внутреннем разнообразии физического объекта. Если его характеристика квантуется, то мощность разнообразия Q, а если не квантуется, то R. Только если характеристика мало того, что Q, так ещё и ограничена, можно говорить о не бесконечном количестве и, соответственно, иметь право применять операции сложения и вычитания для оценки разнообразия. Хороший пример — электрический заряд: он и квантуется, и по факту ограничен количеством заряженных частиц во Вселенной. А с теми характеристиками, значения которых берутся из R, такой номер не проходит.
… если физическая система эволюционирует однозначным образом...
А если нет? Из какого физического закона следует, что система обязана эволюционировать однозначным образом? На больших масштабах (например, движение планет) мы имеем долгосрочную предопределённость, на средних (динамический хаос погоды) всё значительно хуже, а на микромасштабах (броуновская частица) — совсем швах. Есть ли какие-нибудь свидетельства в пользу того, что глобальная на веки вечные от мала до велика предопределённость будущего прошлым не является мифом? Как вообще идея предопределённости соотносится с современной физикой?
Заранее извиняюсь, если далее написанное покажется бредом.
Допустим, есть частица А и частица Б. Обе частицы имеют некую характеристику, выражаемую вещественным числом. Например, энергию. Или направление движения. Не важно. Важно, что характеристика выражается именно вещественным числом, а не квантуется на набор дискретных значений. Сколько нам нужно бит для того, чтобы полностью закодировать вещественное число? Правильно, бесконечность.
Таким образом, А и Б — две информационные бесконечности. Бесконечность плюс бесконечность равно бесконечность. Притом, что интересно, суммарная мощность равна по отдельности мощностям А и Б. Помните, как на первом курсе изучения матана было удивительно, что мощность натурального ряда равна мощности множества рациональных чисел, а мощность множества действительных чисел в интервале [0, 1] равна мощности множества всех действительных чисел? Так вот, абсолютно этот же случай.
Предположим, А навеки кануло в чёрную дыру. Осталось только Б. Информативность А+Б теперь равна информативности Б плюс ноль. Но это по-прежнему бесконечность. Притом той же мощности, что и была до безвременной кончины А. В плане количества бит ничего не поменялось.
Мне кажется, парадокс исчезновения информации в чёрной дыре имел бы место, если бы состояние частицы было представимо фиксированным количеством бит. Если же есть хоть что-то неквантуемое (насколько я понимаю, направления в пространстве не квантуются), то парадокса-то никакого и нет.
Скажите, насколько глубоко вы разбираетесь в области ИТ искусственный интелект и во всей математике за этой областью стоящей?
То, что сейчас получило гордое название «ИИ» — всего лишь одно из прикладных направлений, связанных с обработкой данных. Не надо, пожалуйста, об этом забывать. Что касается конкретно DML, тот тут я не более, чем дилетант. Прочитать по этой теме толковую лекцию, конечно, могу, но пока сам своими руками эти штуки не потрогаю и не сотворю из них что-нибудь интересное, буду считать себя дилетантом. Захочу я сам играть конкретно в эти игры или предпочту просто понаблюдать — вопрос открытый.
Речь не про то, чтобы самому забабахать какой-нибудь ИИ. Проблема-то ведь намного глубже. И скилзы тут нужны не по части нейросетевых алгоритмов и прочей IT-специфики. Вспоминать придётся Декарта, Канта, Витгенштейна, Винера, Шеннона, Тьюринга и других достойных товарищей.
Вычисление (computation) предполагает, что на входе мы имеем алгоритм и исходные данные, а на выходе, после окончания процесса, результат. Процесс может быть как детерминированным (результат полностью определяется входными данными и алгоритмом), так и вероятностным (задействован ГСЧ), важно лишь то, что для того, чтобы происходящее подходило под тезис Чёрча-Тьюринга, необходимо, чтобы по ходу вычисления не подгонялись извне дополнительные данные и/или изменения алгоритма. То, что можно воспроизвести тьюринг-полным вычислителем, на участке от старта до финиша обязано быть полностью логически замкнутой системой.
мозг размером с футбольный мяч
Да, но реальность, с которой он взаимодействует каждый момент времени — она хм… немножко больше. В пределе — размером со всю Вселенную. Если вы возьмётесь моделировать свой «мячик», не забудьте включить вовнутрь модели сервера гиктаймса, Википедии и, конечно же, меня.
В то же время многие считают, что представить философского зомби, у которого отсутствуют все квалиа, но который действует точно также как если бы они были, более того, который физически ничем не отличается от обычного человека — ничего сложного.
Это потому, что бихевиоризм продолжает жить, здравствовать и загаживать всем мозги даже после того, как об него вытерли ноги все, кому не лень. «Что если объект а по всем имеющимся признакам принадлежит множеству А, но по факту он ему не принадлежит?» Что делать? Как быть? Куды бечь? Является ли такая постановка вопроса вообще корректной?
Бихевиоризм утверждает, что такая постановка вопроса некорректна, и если значения характеристик под А подходят, то мы обязаны утверждать, что а — это А баз разговоров. Но по жизни мы понимаем, что это чушь. Если я по всем приметам похож на разыскиваемого убийцу, то из этого ведь не следует, что я это он и есть, правда ведь?
Нет. Вы подменяете понятия. Прыжок может и описывается системой дифуров, но собака ее не решает.
Вы правы. Совершенно верно. У собаки нет никаких шансов сдать зачёт по дифурам :))
Вы верите в уникальность и необъяснимость ЕИ. А как только речь заходит о причинах, вы говорите мнение в стиле «я бы предпочёл».
Никаких уникальностей и необъяснимостей. Моё «я бы предпочёл...» обусловлено исключительно тем, что если браться хоть сколь-нибудь адекватно раскрывать эти темы, то получится очень много букв. Тема «интеллект» и всё, что болтается вокруг неё, сейчас представляет собой какой-то диковинный клубок весьма респектабельных мифов и предрассудков. Чтобы его распутать, копать нужно очень глубоко. И аккуратно. Выстроить надёжную методическую основу, и в правильной последовательности тщательно перебрать всю систему понятий и концепций, лежащую где-то совсем глубоко внутри наших представлений о том, что есть мир и что есть мы в нём. Глубоко закопанная ветка обсуждения — точно не лучшее место для этого.
В принципе, я мог бы замутить серию лонгридов здесь, на хабре, или, может быть, лучше на гиктаймсах. Пока у меня нет ощущения, что публика созрела к тому, чтобы поразбираться в этих вопросах предельно честно и серьёзно. Или я не прав?
У меня не было бы квалии зелёного, если бы я был слепым. Притом с рождения.
К теме "квалиа" и к связанной с ней теме "филозомби" у меня двойственное отношение. С одной стороны, лучше так, чем совсем ничего. С другой стороны, качество получившейся времяночки так себе.
Нет никакой проблемы в том, чтобы ИИ тоже было без разницы.
Отбросить каждую конкретную «фишку» — действительно без разницы. Но если отбросить две, то уже не так без разницы. Я бы предпочёл, чтобы котята и щенята остались, лишь бы тупость и алчность ушли.
Научите собаку решать дифференциальные уравнения.
Для того, чтобы поймать в прыжке фрисби, собаке фактически нужно решить не хилую систему дифуров. Так что не клевещите на собаченек. Всё в порядке у них с дифурами.
Сравнивают конкретные характеристики в конкретных задачах.
Это верно для «слабого ИИ». Именно он про конкретные задачи. Сильный — про все задачи.
Например, перевод текста. Плюс одна задача
Задача с подковыркой. «Strong AI only». Потому до сих пор и не решена. И, по ходу дела, не будет решена.
В общем, нравится вам верить в необъяснимые вещи, дело ваше.
Как раз всё строго наоборот. Никаких необъяснимых вещей, всё рацонально и прагматично. А то, что слегка причудливо и отличается от популярных мемов — ну извините.
… и вместо «волшебной субстанции 'интеллект'» получается еще более волшебная субстанция 'душа'. Которая, значится у человека есть, потому что он по образу и подобию божьему
Бога, конечно, нет, но понятие «душа», если им аккуратно пользоваться, оказывается очень полезным. Как способ обозначить одним словом весь комплект нематериальных активов человека.
А если даем архитектору инструмент «бригада строителей», которые строят здание вместо него, то это что?
У архитектора с бригадой строителей в лучшем случае симбиоз, а в худшем — паразитизм. А это всё уже совсем другая сказка.
Если искусственный интеллект будет полным аналогом естественного, он сможет действовать аналогично ему в любых задачах.
Что значит «полный аналог»? Если это полный аналог, то он тоже должен любить котят и щенят, испытывать безотчётную ненависть к тараканам, тупить над простыми задачами, прокрастинировать, попадаться на финансовые пирамиды, верить рекламе и иногда уходить к кришнаитам?
Мы где-то в глубине своего понимания считаем, что ум — это что-то вроде магической субстанции, которой бывает больше или меньше. Вот у козявки её совсем мало, у голубя побольше, у собаки ещё больше, а у нас, человеков — ваще капец много. Царь природы, как-никак. Компьютеры пока ещё глупые, но мы работаем над тем, чтобы магической субстанции в них стало содержаться больше. Когда её станет столько же, сколько у человека, он сможет «действовать аналогично ему в любых задачах». Дело ведь в количестве магической субстанции, разве нет?
Конечно, нет. Интеллект невозможно выразить скалярной величиной, следовательно операции сравнения «больше/меньше», «хуже/лучше», «выше/ниже» к нему вообще неприменимы. Операции сравнения неприменимы даже к векторам (длины векторов, выражаемые скалярными величинами, сравнивать можно, а сами векторы — нет). Никакой магической субстанции не существует, и подсчитывать и сравнивать её количества не нужно.
Вся концепция «сильный ИИ» построена на том, что дело всего лишь в количестве ума. Про магическую субстанцию никто, конечно, не говорит, но само сравнение «сильнее/слабее» подразумевает, что есть штука, количество которой мы имеем для простого скалярного сравнения. Но магической субстанции «ум» не существует. То есть совсем не существует. Соответственно все рассуждения, начинающиеся с «когда интеллект компьютеров превзойдёт...» — несусветная глупость.
А вы предлагаете исключить участие человека полностью, причем того человека, которому это надо. Который вам, как автоматизатору, платит деньги
Мне платят деньги за решение задачи. Если задача не может быть решена без того, чтобы вправить клиенту мозги, приходится вправлять мозги. На выходе должна получиться работающая система, а не смутные воспоминания о том, как было приятно общаться с приятным человеком.
… Система «нечеловеческая»? Да. Применима к решению человеческих задач? Да. Вывод — ваше высказывание неверно.
В данном случае система — инструмент. Она становится механистическим продолжением мозга бухгалтера. Точно так же, как топор становится продолжением руки плотника. Инструментальный подход. Мы не заменяем человека, но даём ему артефакты, при помощи которых он действует эффективнее. Не рабов механических даём, которые работают вместо человека. Работает по-прежнему человек, но с инструментами ему это делать удобнее, производительнее, эффективнее, точнее.
сделать аналог естественного интеллекта, который сможет его заменить в некоторых или в любых задачах
«В некоторых» — done.
«В любых»… дичь какая-то.
Ах, как мне, автоматизатору, знаком зуд «исключить человеческий фактор». Когда меня окончательно этим достают, я обычно предлагаю говорящему в первую очередь исключить из процесса его собственный фактор. Почему-то пациенты начинаю дёргаться и беситься. Почему-то никто не хочет исключать собственный фактор. Всем хочется царствовать. Милостиво повелевать соизволять. И чтобы вокруг на идеально ровном брезентовом поле ровными рядами росли вкусные алюминиевые огурцы.
Откуда такая ненависть ко всему живому — для меня загадка. Ладно бы ещё если бы эта дурь давала клиенту эгоистическую выгоду, так ведь нет же. Исключение человеческого фактора делает систему нечеловеческой. То есть такой, которая неприменима к решению человеческих задач. Алюминиевые огурцы оказываются несъедобными. И каждый раз одно и то же, снова и снова. Господи, вразуми этих идиотов, ибо не ведают они, чего хотят.
Это что за абсурд, простите? Если уж собрались что-то подобное писать, ну хотя бы раскрыли бы определения, а то мало того что абсурд, так еще и перемешаный с нераскрытыми определенями.
Какие определения нужно раскрыть? Может быть, «машина», или «Тьюринг»? Не валяйте пожалуйста дурака. Если вдруг Вы не знакомы с темой «может ли компьютер мыслить», могу посоветовать неплохой научпоп.
Под способностью подразумевается потенциальная способность мозга, а не вопрос «мне лень», «это займет много времени», «мне нужна бумажка» и прочее.
Я реально не могу перемножить в уме два десятизначных числа. Вне зависимости от лени и времени.
То что компьютер может эмулировать мозг — это вообще без сомнений ответ «да».
Есть разные мнения на этот счёт. Аргументы в пользу «нет» выглядят очень убедительно.
Или по вашему симулировать законы физики важные для функционирования клеток при наличии хорошего RNG невозможно?
Симулировать поведение одной частицы в каком-нибудь простом окружении на небольшом интервале времени — решаемая задача. Но если частиц квинтильоны, и они между собой причудливо взаимодействуют, плюс внешнее окружение неопределённых размеров, плюс всё это продолжительностью дни, месяцы, недели, годы… Не, это ненаучная фантастика. К тому же, есть некоторые физические нюансы, которые могут сделать предприятие безнадёжным даже при наличии бесконечного количества ресурсов и времени.
«Модель есть абстрактное представление реальности в какой-либо форме»
Представление кому?
Технически возможно сделать систему, в которой будет модель окружающего мира.
С какой-то интересующей (опять же, кого?) степенью раскрытия отдельных аспектов — да, но так, чтобы глобально всё-всё-всё — безусловно нет. Разбабахивание далеко вширь утыкается в ограничения СТО, запрещающей говорить об одновременности разнесённых в пространстве событий, а заковыривание далеко вглубь утыкается в ограничения КМ, запрещающей копировать квантовые состояния объектов. Приходится довольствоваться частичными моделями, функциональность которых определяется, как Вы, наверно, уже догадались, потребностями юзера. То есть от юзера модели при моделировании никуда не деться.
Неизвестны детали реализации
Плевать на детали. Работа мозга — информационный процесс, а суть информационного процесса параллельна подробностям его реализации. Сложение что в столбик на бумажке, что на деревянных счётах, что на АЛУ Core i7 — одно и то же сложение. На одних и тех же исходных данных обязан получиться один и тот же результат. Детали реализации безусловно важны, но для начала очень не помешало бы разобраться с тем, что там вообще происходит. Научиться обо всём этом говорить так, чтобы не натыкаться на каждом шаге на абсурд и самопротиверечия.
Если рецептов еще нет, это не значит, что задача в принципе нерешаема
Есть ещё вероятность того, что сама задача сформулирована криво. Или решение есть, но оно совсем не похожее на то, о чём мечталось. Например, алхимики веками бились над задачей трансмутации, и вот наконец она решена. Получить золото из других веществ — не проблема. Нужен лишь ускоритель частиц, и будет вам золото. В количестве нескольких атомов в секунду :))
Придут. Даже не сомневайтесь. Технически задача решаемая и, не исключено, что даже не очень прожорливая по части требований к аппаратуре. Я убеждён (вполне возможно, что зря), что имеющихся уже сейчас мощностей даже дешёвого ноутбука достаточно для того, чтобы замутить что-то интересное на основе принципа самоорганизации. Но проблема в том, что мы пока что даже не научились рассуждать о самоорганизации. Нет даже адекватного понятийного аппарата. Теоретические исследования этого явления не продвинулись дальше описания простейших диссипативных структур типа ячеек Беннара и реакций Белоусова-Жаботинского.
Невозможно изготовить артефакт, для которого нет даже языка, на котором может быть сформулирована постановка задачи.
Познание — это у нас майнинг фактов о том, по каким законам функционирует мир. На редкость полезное дело. И увлекательное в первую очередь потому, что полезное. Само постулирование полезности познания сразу выкидывает нас на понятие «польза». Польза — это когда «для того, чтобы...». В данном случае познание полезно нам тем, что позволяет не тыкаться нам как слепым котятам в реальность материального мира, а иметь работающие рецепты для достижения желаемых результатов.
Итого, двинувшись от факта «познание существует» в одну сторону, мы имеем факт «каузальность существует». Но, двинувшись в другую сторону, мы получаем факт «применение результатов познания для достижения результатов существует».
Рассмотрим вариант с жёсткой механистической каузальностью. В этом случае логически всё прошлое и всё будущее уже предопределены, и нет никакого смысла заниматься познанием, поскольку от нас никак не зависит, что случится через миллиард лет, через тысячу лет, через год, завтра, и даже через секунду. Вся книга судеб уже написана от начала и до конца, и мы здесь ничего не решаем. Во вселенной, для которой написана книга судеб, феномен «управление» невозможен.
К жёсткой механистической каузальности добавим истинную случайность. Истинная случайность характерна тем, что она неуправляема. Если конструкция вселенной такова, что в ней есть только механистическая каузальность и истинная случайность, то феномен «управление» по-прежнему невозможен. Нет того, чем можно управлять. Вмешаться в механистическую каузальность невозможно, потому что результат предопределён, а в истинную случайность вмешаться невозможно по определению.
Нормальных выходов из ситуации я вижу два:
1. Предположить, что управляемость является системным эффектом сочетания «механистическая каузальность + истинная случайность».
2. Предположить, что наша Вселенная устроена таким образом, что некоторые её аспекты функционируют по законам предопределённости (например, движение материальной точки в силовом поле), некоторые — по законам случайности (радиоактивный распад), но некоторые (например, «пойти мне направо или налево») и не предопределены, и не случайны. Просто совсем другой отдельный класс явлений.
Какой из этих двух вариантов мы бы ни выбрали, никакого «система эволюционирует однозначным образом» не получается. Будущее в любом случае оказывается не предопределённым и управляемым.
Я бы даже сказал, что сохранение информации — это какой-то странный миф. Даже не знаю, откуда он такой красивый взялся. Наш жизненный опыт однозначно свидетельствует в пользу того, что информация возникает как-бы из ниоткуда и пропадает в никуда. Если, конечно, об информации говорить в том смысле, в котором мы о ней обычно говорим — то есть о знаниях, сведениях и прочем таком, с чем мы в том числе имеем дело в наших инфотехнологиях.
Вообще никакой проблемы выразить пи с абсолютной точностью. Нужно взять пи-ричную систему счисления, и в ней пи закодируется «10» :)
Но вопрос не в числе пи. Пи — это всего лишь конкретная точка, отличающаяся от числа, например, «2» только тем, что при записи в десятичной системе получается бесконечный хвост. Вопрос в другом, а именно во внутреннем разнообразии физического объекта. Если его характеристика квантуется, то мощность разнообразия Q, а если не квантуется, то R. Только если характеристика мало того, что Q, так ещё и ограничена, можно говорить о не бесконечном количестве и, соответственно, иметь право применять операции сложения и вычитания для оценки разнообразия. Хороший пример — электрический заряд: он и квантуется, и по факту ограничен количеством заряженных частиц во Вселенной. А с теми характеристиками, значения которых берутся из R, такой номер не проходит.
Допустим, есть частица А и частица Б. Обе частицы имеют некую характеристику, выражаемую вещественным числом. Например, энергию. Или направление движения. Не важно. Важно, что характеристика выражается именно вещественным числом, а не квантуется на набор дискретных значений. Сколько нам нужно бит для того, чтобы полностью закодировать вещественное число? Правильно, бесконечность.
Таким образом, А и Б — две информационные бесконечности. Бесконечность плюс бесконечность равно бесконечность. Притом, что интересно, суммарная мощность равна по отдельности мощностям А и Б. Помните, как на первом курсе изучения матана было удивительно, что мощность натурального ряда равна мощности множества рациональных чисел, а мощность множества действительных чисел в интервале [0, 1] равна мощности множества всех действительных чисел? Так вот, абсолютно этот же случай.
Предположим, А навеки кануло в чёрную дыру. Осталось только Б. Информативность А+Б теперь равна информативности Б плюс ноль. Но это по-прежнему бесконечность. Притом той же мощности, что и была до безвременной кончины А. В плане количества бит ничего не поменялось.
Мне кажется, парадокс исчезновения информации в чёрной дыре имел бы место, если бы состояние частицы было представимо фиксированным количеством бит. Если же есть хоть что-то неквантуемое (насколько я понимаю, направления в пространстве не квантуются), то парадокса-то никакого и нет.
Речь не про то, чтобы самому забабахать какой-нибудь ИИ. Проблема-то ведь намного глубже. И скилзы тут нужны не по части нейросетевых алгоритмов и прочей IT-специфики. Вспоминать придётся Декарта, Канта, Витгенштейна, Винера, Шеннона, Тьюринга и других достойных товарищей.
Да, но реальность, с которой он взаимодействует каждый момент времени — она хм… немножко больше. В пределе — размером со всю Вселенную. Если вы возьмётесь моделировать свой «мячик», не забудьте включить вовнутрь модели сервера гиктаймса, Википедии и, конечно же, меня.
Бихевиоризм утверждает, что такая постановка вопроса некорректна, и если значения характеристик под А подходят, то мы обязаны утверждать, что а — это А баз разговоров. Но по жизни мы понимаем, что это чушь. Если я по всем приметам похож на разыскиваемого убийцу, то из этого ведь не следует, что я это он и есть, правда ведь?
Никаких уникальностей и необъяснимостей. Моё «я бы предпочёл...» обусловлено исключительно тем, что если браться хоть сколь-нибудь адекватно раскрывать эти темы, то получится очень много букв. Тема «интеллект» и всё, что болтается вокруг неё, сейчас представляет собой какой-то диковинный клубок весьма респектабельных мифов и предрассудков. Чтобы его распутать, копать нужно очень глубоко. И аккуратно. Выстроить надёжную методическую основу, и в правильной последовательности тщательно перебрать всю систему понятий и концепций, лежащую где-то совсем глубоко внутри наших представлений о том, что есть мир и что есть мы в нём. Глубоко закопанная ветка обсуждения — точно не лучшее место для этого.
В принципе, я мог бы замутить серию лонгридов здесь, на хабре, или, может быть, лучше на гиктаймсах. Пока у меня нет ощущения, что публика созрела к тому, чтобы поразбираться в этих вопросах предельно честно и серьёзно. Или я не прав?
У меня не было бы квалии зелёного, если бы я был слепым. Притом с рождения.
К теме "квалиа" и к связанной с ней теме "филозомби" у меня двойственное отношение. С одной стороны, лучше так, чем совсем ничего. С другой стороны, качество получившейся времяночки так себе.
Для того, чтобы поймать в прыжке фрисби, собаке фактически нужно решить не хилую систему дифуров. Так что не клевещите на собаченек. Всё в порядке у них с дифурами.
Это верно для «слабого ИИ». Именно он про конкретные задачи. Сильный — про все задачи.
Задача с подковыркой. «Strong AI only». Потому до сих пор и не решена. И, по ходу дела, не будет решена.
Как раз всё строго наоборот. Никаких необъяснимых вещей, всё рацонально и прагматично. А то, что слегка причудливо и отличается от популярных мемов — ну извините.
У архитектора с бригадой строителей в лучшем случае симбиоз, а в худшем — паразитизм. А это всё уже совсем другая сказка.
"Философский зомби" был придуман для пояснения понятия "квалиа". Соответственно, в отрыве от квалии говорить о нём особого смысла нет.
Мы где-то в глубине своего понимания считаем, что ум — это что-то вроде магической субстанции, которой бывает больше или меньше. Вот у козявки её совсем мало, у голубя побольше, у собаки ещё больше, а у нас, человеков — ваще капец много. Царь природы, как-никак. Компьютеры пока ещё глупые, но мы работаем над тем, чтобы магической субстанции в них стало содержаться больше. Когда её станет столько же, сколько у человека, он сможет «действовать аналогично ему в любых задачах». Дело ведь в количестве магической субстанции, разве нет?
Конечно, нет. Интеллект невозможно выразить скалярной величиной, следовательно операции сравнения «больше/меньше», «хуже/лучше», «выше/ниже» к нему вообще неприменимы. Операции сравнения неприменимы даже к векторам (длины векторов, выражаемые скалярными величинами, сравнивать можно, а сами векторы — нет). Никакой магической субстанции не существует, и подсчитывать и сравнивать её количества не нужно.
Вся концепция «сильный ИИ» построена на том, что дело всего лишь в количестве ума. Про магическую субстанцию никто, конечно, не говорит, но само сравнение «сильнее/слабее» подразумевает, что есть штука, количество которой мы имеем для простого скалярного сравнения. Но магической субстанции «ум» не существует. То есть совсем не существует. Соответственно все рассуждения, начинающиеся с «когда интеллект компьютеров превзойдёт...» — несусветная глупость.
Мне платят деньги за решение задачи. Если задача не может быть решена без того, чтобы вправить клиенту мозги, приходится вправлять мозги. На выходе должна получиться работающая система, а не смутные воспоминания о том, как было приятно общаться с приятным человеком.
В данном случае система — инструмент. Она становится механистическим продолжением мозга бухгалтера. Точно так же, как топор становится продолжением руки плотника. Инструментальный подход. Мы не заменяем человека, но даём ему артефакты, при помощи которых он действует эффективнее. Не рабов механических даём, которые работают вместо человека. Работает по-прежнему человек, но с инструментами ему это делать удобнее, производительнее, эффективнее, точнее.
«В любых»… дичь какая-то.
Ах, как мне, автоматизатору, знаком зуд «исключить человеческий фактор». Когда меня окончательно этим достают, я обычно предлагаю говорящему в первую очередь исключить из процесса его собственный фактор. Почему-то пациенты начинаю дёргаться и беситься. Почему-то никто не хочет исключать собственный фактор. Всем хочется царствовать. Милостиво повелевать соизволять. И чтобы вокруг на идеально ровном брезентовом поле ровными рядами росли вкусные алюминиевые огурцы.
Откуда такая ненависть ко всему живому — для меня загадка. Ладно бы ещё если бы эта дурь давала клиенту эгоистическую выгоду, так ведь нет же. Исключение человеческого фактора делает систему нечеловеческой. То есть такой, которая неприменима к решению человеческих задач. Алюминиевые огурцы оказываются несъедобными. И каждый раз одно и то же, снова и снова. Господи, вразуми этих идиотов, ибо не ведают они, чего хотят.
Впрочем, иногда бывает лучше пожертвовать виртуальной кармой ради кармы реальной ;)
Я реально не могу перемножить в уме два десятизначных числа. Вне зависимости от лени и времени.
Есть разные мнения на этот счёт. Аргументы в пользу «нет» выглядят очень убедительно.
Симулировать поведение одной частицы в каком-нибудь простом окружении на небольшом интервале времени — решаемая задача. Но если частиц квинтильоны, и они между собой причудливо взаимодействуют, плюс внешнее окружение неопределённых размеров, плюс всё это продолжительностью дни, месяцы, недели, годы… Не, это ненаучная фантастика. К тому же, есть некоторые физические нюансы, которые могут сделать предприятие безнадёжным даже при наличии бесконечного количества ресурсов и времени.
С какой-то интересующей (опять же, кого?) степенью раскрытия отдельных аспектов — да, но так, чтобы глобально всё-всё-всё — безусловно нет. Разбабахивание далеко вширь утыкается в ограничения СТО, запрещающей говорить об одновременности разнесённых в пространстве событий, а заковыривание далеко вглубь утыкается в ограничения КМ, запрещающей копировать квантовые состояния объектов. Приходится довольствоваться частичными моделями, функциональность которых определяется, как Вы, наверно, уже догадались, потребностями юзера. То есть от юзера модели при моделировании никуда не деться.
Плевать на детали. Работа мозга — информационный процесс, а суть информационного процесса параллельна подробностям его реализации. Сложение что в столбик на бумажке, что на деревянных счётах, что на АЛУ Core i7 — одно и то же сложение. На одних и тех же исходных данных обязан получиться один и тот же результат. Детали реализации безусловно важны, но для начала очень не помешало бы разобраться с тем, что там вообще происходит. Научиться обо всём этом говорить так, чтобы не натыкаться на каждом шаге на абсурд и самопротиверечия.
Есть ещё вероятность того, что сама задача сформулирована криво. Или решение есть, но оно совсем не похожее на то, о чём мечталось. Например, алхимики веками бились над задачей трансмутации, и вот наконец она решена. Получить золото из других веществ — не проблема. Нужен лишь ускоритель частиц, и будет вам золото. В количестве нескольких атомов в секунду :))
Невозможно изготовить артефакт, для которого нет даже языка, на котором может быть сформулирована постановка задачи.