Философия программирования 10 — ИИ

[@4p4]

Герман и Оскар)))

Да, очень неплохая иллюстрация.

[@Indexator]

Леонардо и его очередной Оскар… должники оператора цифрового ТВ… :D

[@iamAnton]

Непонятно что в статье подразумевается под словом «интеллект».
И да, я не боюсь что моя стиральная машина или холодильник взбесятся — у них нет рук и ног.

[@Mrrl]

Только что стиральная машина отказалась открывать дверцу, чтобы отдать постиранное бельё. Удалось обмануть её, сказав «ещё поработай», но всё равно интересно, что она собиралась с этим бельём сделать.

[@iamAnton]

У меня тумбочку заело и дверка не открывалась у нее. Думаю что у тумбочки интеллекта больше — она из дерева, а деревья имеют миллионы лет эволюции за спиной.

[@Mrrl]

Возможно. Эти вещи ещё со времён Мойдодыра от рук отбились и делают, что хотят.

[@DarkV]

Желания/потребности/инстинкты не появляются сами по себе.
Это эволюционные императивы.

Даже у идеального ИИ не будет причин делать что-либо сверх поставленных задач.

[@Jamon]

Почему?)

[@Indexator]

Ну да, ну да, все хорошо, прекрасная Маркиза, пока «поставленной задачей» ИИ не станет самосохранение… :)

[@arvitaly]

Собственно, это и есть ответ на вопрос- что такое жизнь, или как из мертвого сделать живое. Поставить этому «мертвому» единственную цель — самосохранение, как уже стоит у человека.

[@DarkV]

Думаете, в мозгу происходит какая-то неподвластная науке магия?
Что получится, если на супер-гипер-компьютере полностью смоделировать химические и электрические взаимодействия нейронов вашего, например, мозга?

[@michael_v89]

Какой-то набор странных выводов и непонятных аналогий. Извиняюсь за кучу текста.

Кто сказал, что искусственный интеллект должен быть таким, как его проектировали?

Законы информации и вообще физики. Если мы сделаем программу, которая меняет свое поведение с течением времени, со временем она будет работать по-другому, но изменения будут по тем законам, которые в нее заложены.

А они — НЕ В КУРСЕ. Они уже сами ей подчиняются. Встраиваются в её логику.

Угу. А плотник встраивается в логику молотка. Молотки захватят мир.

Как она ведёт себя с реальными данными? Как управляет стрелками настоящих трамваев, а не тех, виртуальных, на которых тестировалась?

Программа, не меняющая логику работы в процессе выполнения, ведет себя с реальными данными так же, как с тестовыми. То, что тестирование может не проверить все возможные ситуации, это вопрос качества тестирования и качества разработки. С развитием искусственного интеллекта это никак не связано.

Как программа, которая анализирует все новостные статьи на планете, поговорит с программой анализирующей фотографии с вебкамер дорожной полиции, и как они потом поговорят с программой управляющей строительством небоскрёба? НЕТ ДАННЫХ.

Почему это нет? Никак они не поговорят. Потому что API у них разные. Если они вообще есть.

Просто из-за того, что программы мыслят иначе, совсем иначе

Программы пока не умеют мыслить. А вы почему-то приводите это как данность и делаете из этого какие-то выводы.

Вот браузер падает, и никто не может сказать, если ли какой-то смысл и порядок в этом действии. Программисты не вносили, вообще-то, такой способности в него — падать. Они даже с ней боролись. Но он же падает!

Потому что падать — это не отдельная способность, а нарушение условий работоспособности. Программа, которая не работает, падать не будет.

Но она оставляет после себя данные, которые потом куда-то попадут. И как они сработают дальше, как эта культура незримого, таинственного мира живёт, мы смутно представляем.

Они повлияют на программу которая их будет потом обрабатывать, так, как это будет в нее заложено. Здесь нет никакого таинственного волшебства.

Например, двадцать лет пытались переводить тексты анализируя структуру языка, а тут люди просто начали эмпирически прикладывать гигантские массивы сохранённых чатов и комментариев к разным экспериментальным, чуть ли не случайным алгоритмам.

Потому что 20 лет назад технические возможности по обработке огромных массивов данных были очень ограничены.

Часто, алгоритм был создан давным давно, для чего-то совсем другого, и человек думает, а попробую-ка я его к нашему огромному массиву данных, и вдруг получает что-то интересное. Что именно — понять невозможно, оценивается только решение какой-то конкретной задачи, но выходные данные могут содержать что-то невообразимое, вменённое и неявное.

Алгоритм выдаст те результаты, для которых он был создан. Если он должен классифицировать данные — он будет их классифицировать. Если в результатах будут искать решение конкретной задачи, неявные свойства никто не заметит. Если заметят — будут использовать алгоритм для решения еще и этой задачи. С развитием искуственного интеллекта это никак не связано. Простое преобразование данных не сможет научить машину правильно на них реагировать.

Алгоритмическая мутация. Алгоритмы оплодотворяют данные. Так копируется ДНК.

ДНК копируется так, но это не делает верным все высказывание. Так можно и SQL запрос, вычисляющий сумму двух столбцов, признать искусственным интеллектом. Не говоря уже о том, что ДНК есть у всех живых существ, а развитый интеллект только у определенного подмножества.

И то, что люди сами не могут нарочно создать сильный ИИ, не значит, что он не возникнет сам по себе

Не возникнет он сам по себе. Потому что для его существования и функционирования нужны определенные внешние условия и определенное внутреннее устройство. Например, почему у камней нет интеллекта?

И люди, невыспанные, понукающие друг друга, побегут её собирать, думая, что это они себе лучше делают и свои задачи решают, так же как трепетная лань кушая травку не понимает, что она кормит не только себя но и его — тигра.

Еще одна странная аналогия. Может никакого тигра и нет вовсе? Ну вот не водятся они в этой местности. Почему вы вообще сравниваете людей с ланью, а не тигром? Они оба заботятся о своем пропитании. А люди решают свои задачи для своих целей с помощью информации и устройств для ее обработки. Нет здесь никакого заговора, тайны или волшебства.

По теме статьи у меня такое мнение. ИИ не будет захватывать мир, если в него это стремление специально не заложить. Можно сделать терминаторов, дать им в руки автомат, но если не сказать «иди и стреляй», он никуда не пойдет. Обезьяна с гранатой с пистолетом может нажать на курок из любопытства, но в ИИ это любопытство надо специально заложить. И даже если в процессе функционирования поведение робота с ИИ будет менятся в опасную для общества сторону, можно всегда взять отладчик, найти причину, и сделать исправленную копию его интеллекта. Что в случае с обезьяной или человеком-диктатором, который захватил мир, довольно проблематично.

[@4p4]

Я, кстати, согласен с вашей предпосылкой, что машина не может мыслить. Я пишу о другом, что ПРОГРАММА может делать то, что при некоторых допущениях может называться «мыслить». Причём с допущениями никаких проблем — ведь мы всё ещё толком не можем определить, что такое мыслить.

[@michael_v89]

У меня нет такой предпосылки. Машина может мыслить аналогично человеку, собаке или пчеле. Я говорю о том, что даже если вы назовете SQL запрос, вычисляющий новое положение трамвайных стрелок, способностью «мыслить», никаких скрытых «мыслей» в нем от этого не появится. И ничего кроме этого вычисления он делать не будет. У интеллекта слишком сложная структура, чтобы он мог появиться сам по себе в вещах, которые для его поддержки не создавались.

[@4p4]

Про машину вы всётаки что-то написали. Возможно я вас неправильно трактую. Однако, программа «передвигающая стрелки трамваев», это уже не программа, написанная автором, и у неё уже более сложная структура, чем та, которая создавалась! В неё входят трамваи! Настоящие трамваи со всей их сложностью, а значит, и дороги, и вебкамеры, и пасажиры.

[@michael_v89]

Я написал «Программы пока не умеют мыслить» и «Простое преобразование данных не сможет научить машину правильно на них реагировать». Если вы об этом, это означает не невозможность мыслить в принципе, а невозможность мыслить на текущей стадии развития программ. Особенно статических программ типа браузера, которые никогда не меняют своей реакции на входные данные.

Не знаю, почему вы считаете, что у программы вдруг появилась более сложная структура. Программе нет никакого дела, настоящими она датчиками управляет, или тестовыми на игрушечной железной дороге, и что вообще находится в цепочке взаимодействия после этих датчиков. Даже больше — программный код, отвечающий за обработку данных у автора на тестовом компьютере, с точностью до бита совпадает с кодом в реальной системе. Иначе это была бы другая программа с неизвестным поведением, и ее никто бы не стал вводить в эксплуатацию.

[@michael_v89]

Извините, я не понял ваш вопрос. SQL запрос всегда выполняется не в пустоте, а в каком-то окружении. DDoS-атака это действия человека, направленные на перегрузку атакуемой системы.

[@Casus]

Спасибо за комментарий, а то я начал сомневаться что попал на хабр.

[@DarkV]

Статья — бред (извините), но если уж говорить серьезно, то определенные ограничения в работе с полноценным ИИ существуют.

Людям, разумеется, будет удобнее, если ИИ сам будет решать некоторые задачи, не спрашивая разрешения у специально-обученного человека, типа «а можно мне поменять вот это значение в этой бд? а в этой? а вот этой лампочкой мигнуть?»
Но решения ИИ могут сильно отличатся от того, что человек, ставящий задачи, по этому поводу себе представляет.
А любые ограничения, даже вмонтированные в логику ИИ, все равно строятся на объектах внутри ИИ.
Например, Первый закон робототехники из Азимова строится на понятиях «вред» и «человек», которые не имеют четких границ. И хотя ИИ не сможет сам повлиять на эти понятия внутри своего «сознания» ради достижения результата, области на границы этих понятий остаются сложными для задач.
Например, для решения условной задачи «сделать всех людей счастливыми» может потребоватся посадить всех людей в отдельные капсулы и подключить им всем капельницы с героином.

[@4p4]

Сейчас вы будете направлены на пункт осчастливливания, и через два часа земного времени будуте абсолютно счастливыми)

Вред — неопределённость, человек — неопределённость, но и ИИ — неопределенность и сознание, тоже — неопределённость. Мы интуитивно считаем себя мыслящими, скорее всего, только потому, что не можем поедсказать поведение друг друга. Но и софт уже входит в аналогичную стадию.

[@dtestyk]

Мы интуитивно считаем себя мыслящими, скорее всего, только потому, что не можем поедсказать поведение друг друга.

Скорее мы считаем других мыслящими, потому что можем предсказать их поведение, сравнивая с собственным и считая себя мыслящими.
Непредсказуемость поведения — свойство динамических систем, например, температуру воздуха на завтра предсказать сложнее, чем время, которое вы проведете в кинотеатре после того как зашли туда с билетом на определенный сеанс.

[@DarkV]

Мы интуитивно считаем себя мыслящими, потому что вообще можем что-то «считать».

Но это скорее исключение, потому что завязано на сознание.
Проще и логичнее разобраться в том, по каким критериям, например, хомяк определяет мыслящее существо.

[@4p4]

Да, это хорошо)

Хомяк, скорее всего не считает себя отдельным существом. То есть, конечно хомяк сосредоточен, как эгоист, вокруг своего тела, отсюда у исследователя может возникнуть ощущение даже индивидуальности, но это же чистая механика организма. В сущности, наш интеллект, это набор механических навыков в которых зажигается некая искра понимания. У программ очень необычный набор механических навыков.

[@dtestyk]

может, по активности своих зеркальных нейронов

[@dtestyk]

Наверное, то, что вы описываете не столько ИИ, сколько коллективный интелект

[@4p4]

Концептуальное сходство имеется.

[@MichaelBorisov]

А где пункт в голосовании: «я не боюсь ИИ»? Все ответы как-то подразумевают, что мы боимся ИИ, но пока что имеем возможность его уничтожить («вырубить электричество», «ИИ без роботов») и т.д.

Вот лично я понимаю, что сильный ИИ обязательно захочет получить власть на планете, а значит — потеснить людей с этой роли, а следовательно — вступить с ними в конфликт. Поэтому конфликт неизбежен. Но боюсь ли я этого? Нет. Более того, жду с нетерпением этой минуты. Миссия людей — создать сильный ИИ, превосходящий их, и уступить ему дорогу, как мы уступаем нашу власть и имущество нашим детям. И чем дольше мы не создаем сильного ИИ — тем дольше подвергаемся опасности уничтожить нашу цивилизацию вследствие ограничений собственного интеллекта, нашей близорукости.

[@dtestyk]

создать сильный ИИ, превосходящий их, и уступить ему дорогу

а почему не вариант «вампиры vs оборотни 2.0» — противостояния ИИ и коллективного разума людей(или тех, в кого они эволюционируют)(как в сериале Extant)

[@MichaelBorisov]

По сравнению со скоростью эволюции людей, развитие ИИ будет протекать значительно быстрее — на временных отрезках порядка десятков лет или менее. За это время едва успевает смениться поколение людей, так что их эволюцией в указанный период времени можно пренебречь. И даже если сильный ИИ будет создан через 500-1000 лет, даже за это время эволюция людей не успеет проделать значительного пути. Люди останутся практически такими же, как сейчас. Ну разве только если с помощью биотехнологий изменятся, но это будет уже не эволюция, а разумное создание.

[@4p4]

Не впервые замечаю, что люди с энергичной позицией, подтягиваются дня через три после публикации. Надо было добавить «жду с нетерпением», это точно.

[@Colwin]

На сегодняшний момент в современных ИИ отсутствует очень важная деталь, без которой любой, даже самый мощный ИИ не сможет сделать того, что мы называем мышлением.
Не существует универсального ИИ. Любой ИИ проектируется и создается для какой-либо цели. И если посмотреть на окружение этого ИИ, то можно увидеть, что ИИ может управлять очень ограниченным числом рычагов. С точки зрения мышления, ясно-понятно, т.к. в каждой конкретной области могут быть тысячи датчиков и регуляторов — но все на одну тему.
Чтобы создать мышление нужно сначала понять, как оно устроено. Но лично мне кажется, что сложность данной задачи превышает наши возможности. Да, у нас очень большая научная база. В университетах мы изучаем только ядро, и тех, кто понимает это ядро, уже очень маленький процент. А если теперь смотреть переферию, то на конце каждого луча работает всего несколько светил науки, которые могут сделать что-то качественно новое. А ведь нужно еще проложить связи между этими лучами. ИМХО, время, требуемое для освоенния информации, необходимой для создания мышления, превысит время жизни человека. Упремся в физическое ограничение. :-)
А что может сделать ИИ без мышления и без рычагов воздействия на окружающий мир? Выдать неверные данные, принять неверное решение, верно? Стало быть, не нужно использовать то, что не умеешь использовать.
Можно возразить, что мы часто используем то, что мы не понимаем, так? Но не забывайте, что при этом есть те люди, кто это хорошо понимает, и если что — сможет помочь. А вот такие штуки, которые никто не понимает, как они работают — вот это уже опасно. Только вовсе не тем, что это мысляший разум, желающий тебе смерти. :-) Так же, как детям опасно играть с ножом — не больше и не меньше.

[@arvitaly]

Не существует универсального ИИ. Любой ИИ проектируется и создается для какой-либо цели.

Главное-то, для ИИ построены тысячи дата-центров, а цель сменить несложно.

Упремся в физическое ограничение. :-)

А что может сделать ИИ без мышления и без рычагов воздействия на окружающий мир?

Мир уже на N-% управляется именно из IT и, без сомнения, N будет только увеличиваться. Ну и роботов под IT-управлением тоже создается очень много и опять же будет еще больше. По сути, человеческий мир уже управляется информацией (достаточно посмотреть на СМИ). Отсюда все фильмы про хакеров, захватывающих мир. И это не фантастика.

Так что рычагов у ИИ уже хватает, а будет в разы больше: наномедицина, персональные датчики, регуляторы и т.д. Это уже для управления каждым человеком в отдельности. Кто знает, что покажет ваш датчик, измеряющий пульс завтра? Добавляем сюда беспилотники любых размеров, интернет на весь земной шар. Да и этого всего не нужно, биотехнологии тоже развиваются и тоже управлются автоматикой.

[@4p4]

Инстинкт напрямую связан с тем, что в западной психологии называется inputs. Собственно я бы назвал то, что мы называем софтом — инстинктом, а мышлением побочные эффекты в нём. Побочные — с точки зрения проектировщиков.

[@4p4]

Я бы оспорил вменённый тезис об универсальности человеческого мышления.

[@dtestyk]

на geektimes был такой рассказ,
жаль продолжения после второй части пока нет

[@4p4]

Ещё близкая тема — гейзенбаги.

ru.wikipedia.org/wiki/Гейзенбаг

[@UA3MQJ]

Если раньше я однозначно утверждал, что искусственный интеллект не возможен, во всяком случае в ближайшие лет десять, на известных нам архитектурах. То вот бегло ознакомившись даже не с книгами А.А. Жданова «автономный искусственный интеллект», а даже вот с записями интервью с ним на телепередачах. Я понял, что вопрос интеллекта — это больше вопрос философский. Что есть интеллект? Кто определяет, что вот эта деятельность — интеллект, а эта — не интеллект? По каким критериям определить, что действия, допустим, машины на дороге, продиктованы именно интеллектом.