А заповедники — не камеры? Камеры, только размером побольше. Да и зоопарки существуют. Но тут срабатывает кроме интеллекта еще и симпатия — разновидность эмпатии. Чистый интеллект ее лишен, и ему будет гораздо выгоднее ресурсно содержать животное, чей генофонд надо сохранить, либо в виде набора клеток, либо в виде спеленутого животного с электростимуляцией мышц и питанием через трубку.
Все начинается с идеала. В его книгах высказаны идеи, которые, при их реализации, дадут нужный результат. Да, техническую сторону он не продумывал, но разве все разработки начинались с технической стороны?
Не для дауна, скорее, сверхрационального… ну, скажем, аутиста. Но почему вы полагаете, что ИИ не будет таковым аутистом? У него нет эмоций, у него нет социальности, эмпатии, которые и заставляют учитывать потребности и интересы других людей. У него есть только интеллект — счетная машина, способная к самосовершенствованию. И роботу наплевать на ваши предпочтения, если они идут вразрез с его инструкциями и оптимальным методом достижения целей. Если же говорить о примере, то читали ли вы эту книгу? Там очень неплохо описана ситуация, как раз, достижения роботом запрограммированной цели, невзирая на предпочтения людей.
В этом суть опасений: ИИ будет сверхрациональным, иным он и быть не может, если только мы не создадим не компьютерный ИИ, а белковый организм, развивающийся подобно человеку. И то: нам придется заложить в него все то, на что эволюция для нас потратила сотни тысяч лет, чтобы он вписался в социум. Если же это будет сверхрациональный компьютер, то он будет скорее руководствоваться принципом меньшего вреда, чем учитывать интересы людей. И согласно этому принципу вполне допустимо, например, истребить большую часть человечества, чтобы оставшаяся часть — человечество, собственно, оставшееся, — могла бы жить припеваючи. Ресурсов тогда хватит, контроль будет упрощен, а истребленные уже не будут ни голодать, ни болеть.
Может юыть, и так. А может быть, и нет. Если использовать их, кка базисные, аналогично БИОСу, но расширять и уточнять поведение ИИ софтом. В качестве примера у того же Азимова могу привести серию книг об Элайдже Бейли.
Это не интеллекту присуще, а социальному мозгу. Интеллекту присущ расчет оптимального пути достижения цели. И какую уж цель поставят перед ним… Наприме, защита человечества. Благая цель? Очень. Но вот самопрограммирующийся, развивающийся интеллект вполне может решить, что безопаснее всего — в камерах-одиночках. Потому нужны ограничения. Потому ИИ не должен быть неподконтролен. Я вам в ответ приведу другой пример фантастики. Если вспомните, был такой рассказ, назывался, кажется, "Железный канцлер". О семье, которую терроризировал робот-дворецкий, запрограммированный на их похудение, но со стертыми ограничителями.
Ну, если серьезно, то результаты опроса будут сильно зависеть от выборки. Так что, чтобы опрос был показательным, его надо проводить с настолько строго соблюдаемыми правилами, что это будет затруднительно сделать.
Пусть ИИ будет, но по принципам Азимова. И с возможностью проверки человеком корректности его работы. Если же человек не сможет контролировать ИИ, то тогда он и станет опасен.
Я вам больше скажу: есть те, кто удивляется тому, что гениальный ученый еще и стихи писал, оказывается.
А история — она сохраняет каждого во всех ипостасях. Кого-то — строчкой в некрологе, кого-то — энциклопедической статьей, кого-то — построенными обсерваториями и написанными книгами… Каждому по делам его.
Боюсь, не договорились. Ведь все, что я выше написал, сводится как раз к тому, что как только повышается точность описания, приходит математика. А научное познание в том и заключается, что составляется описание явления с максимально допустимой точностью. А эта самая точность нужна для предикативного аппарата, без которого невозможно считать что-либо наукой.
Откуда бы начать… Да давайте вспомним хотя бы Ньютона? А может быть, кого пораньше, ну, там, Пифагора? Или Хайяма? Он, знаете ли, не только вирши писал, он еще и наукой занимался. Астрономией, в том числе, а она без математики вообще невозможна.
Ну… Психология действительно пока что не наука, но по той лишь причине, что она не имеет предикативного аппарата. Она не систематизирована в достаточной степени, и пока что не может быть применена универсально. Собственно, у психолога как раз нет научного аппарата. Если эти недочеты будут исправлены, что ж, станет наукой.
"Лучше" — понятие относительное. Для психолога такой подход действительно не нужен, как и для обывателя. А вот психиатрия, например, пользуется приближенным числовым методом, как и медицина в целом. Таким образом, где психолог не будет использовать ни одной части из моего описания, психиатр будет использовать часть про биохимию, а ученый, составляющий энциклопедию для внеземных цивилизаций мое описание еще и расширит.
Ну, а о применимости можно сказать лишь то, что я, как мне кажется, как раз и показал применимость численно-формульных методов к любому взаимодействию, но вот целесообразность применения остается как раз вопросом, решаемым ситуативно.
Позвольте разложить сказанное мною по полочкам. Движение автомобиля я привел в пример, как ситуацию, которая может быть описана неточно бытовым языком, но с повышением точности описания неизбежно использует числовой метод. Подчеркну: повышение точности описания. Использованная вами для примера ситуация тоже может быть описана пятью словами с низкой точностью, но для повышения точности мы приходим к массе формул. Таким образом, мы видим, что для бытового описания достаточно неточного естественного языка, но для научного описания, точного и универсального, требуется численно-формульный метод. Вот здесь https://geektimes.ru/post/273454/?reply_to=9136446#comment_9136366 я указывал уже, что "в быту такая точность не нужна, потому в быту мы говорим на естественных языках".
Почему я стал раскладывать приведенную вами ситуацию более подробно с приближением к формульному языку. Вы сами предложили это сделать: "А попробуйте изложить данное реальное событие в формульном виде, с помощью скоростей и азимутов. Ну и как, удалось?..".
Вы начали с науки. Я привел вам пример именно связанный с ней. Но сейчас вы предоставили бытовую ситуацию. Впрочем, ее тоже можно описать формулами, хотя они будут уже как раз громоздкими и в большом количестве из-за большого количества взаимодействий. Позвольте рассмотреть некоторые из них.
Итак, для начала определим понятия "вы", "Гиктаймс", "совсем" и "заклевали". Вы — комплексный объект, взаимодействия внутри которого, приводящие к ощущению "заклевали" осуществляются химическим путем. Химические взаимодействия выражаются формульно, дальше углубляться не будем, но их много, каждо можно выразить и полный набор формул даст полную картину происходящего в вашем организме. Обычно обходятся приближенными описаниями, такими, как "увеличилась выработка адреналина на столько-то процентов". Заклевали, как уже упомянуто — ощущение, набор химических взаимодействий. Совсем — может быть выражено численно, если составить шкалу ощущения "заклевали" и разбить ее на, скажем, процентные доли. И, наконец, Гиктаймс — портал в сети Интернет, которая чуть ли не целиком может быть описана формулами и схемами. Подобный подход даст достаточно точное описание, чтобы объяснить, скажем, инопланетянину, незнакомому с нашей биологией и техническими достижениями, что именно происходит, и как, если договориться с ним о едином символном языке, тогда как бытовые языки его и наш могут оказаться недостаточно точны. Даже перевод с одного из земных языков на другой зачастую использует не точные аналоги слов, а приближенные, которые в изначальном виде означали совсем не то.
Неформульные вербальные описания изобилуют неточностями и могут быть использованы только для бытового описания. Пример: "справа от меня движется автомобиль". Если мы намерены расширить описание так, чтобы получить от него максимальную пользу, мы приходим вновь к численным методам: "автомобиль движется с такой-то скоростью и в таком-то направлении", где скорость задается числом, а направление может быть задано неточно (по сторонам света, относительно ориентиров etc.) или точно (по компасу относительно ориентиров, в градусах). Так, мы видим, что с повышением точности описания взаимодействий мы неизбежно приходим к численным и формульным методам. Повторюсь однако, что в быту такая точность не нужна, потому в быту мы говорим на естественных языках.
Что до того, состоит ли мир из чисел, так число — это абстрактный символ, из него состоять ничего не может, кроме иных абстрактных символов. Однако, любое взаимодействие материальных объектов может быть выражено численно. А наука становится точной лишь тогда, когда численный метод начинает использовать.
Напротив, математически описывается общая ситуация. Движение, например. И — от общего к частному вполне можно формульно уточнять. Другой вопрос, что этого не нужно в бытовом разговоре, только в том и разница
И, да, формулы более точны, чем описательный язык. Именно благодаря формульному типу описания процесса становится возможно предсказать его развитие в очень узких пределах, тогда как живой, естественный язык описания этого не позволит.
Математика — символьный язык, используемый для описания законов природы и вытекающих из ни следствий. Краткий, емкий, точный. Безусловно, можно переложить математическое описание на нематематическое, но оно станет длинным и неудобочитаемым, потеряв, вдобавок, в точности.
Душа нематериальна по определению этого слова. И, да, я стану отрицать принципиальную непознаваемость чего бы то ни было. Практика веков показывает, что то, что считалось непознаваемым, оказывалось лишь непознанным. А эффекты, приписывавшиеся душе, оказывались раз за разом эффектами, порождаемыми мозгом, либо даже гормональной системой.
Однако, самосознание и не точно. Мы, со своим самосознанием, подвержены иллюзиям о самих себе в куда большей степени, чем об окружающем мире.
Вы, конечно, извините, но про душу — ну совсем антинаучно. Даже антилогично. Ну как, скажите на милость, может нематериальное взаимодействовать с материальным? Как ни крути, а мы — действительно всего лишь когнитивные машины, действующие по определенным алгоритмам, что подтверждается развитием как психиатрии, так и психологии.
Что касается возможности осмысливать себя, так это дело нехитрое: вводим в модель мира интеллектуального механизма модель его самого, столь же динамичную и постоянно обновляемую в результате самодиагностики и анализа взаимодействия с внешним миром, и пожалуйста, имеем то самое самосознание.
Что касается восстания роботов… Ну, это может оказаться результатом слишком буквального выполнения каких-то задач, или решения, принятого по результатам необходимости оптимизации процессов, или… Фокус в том, что если интеллект будет искусственным, то мы его не поймем. Так же, как люди, в большинстве своем, не понимают других даже людей, если их этические, например, нормы различны. Или хотя бы предпосылки в рассуждениях, приводящих к действиям.
В этом суть опасений: ИИ будет сверхрациональным, иным он и быть не может, если только мы не создадим не компьютерный ИИ, а белковый организм, развивающийся подобно человеку. И то: нам придется заложить в него все то, на что эволюция для нас потратила сотни тысяч лет, чтобы он вписался в социум. Если же это будет сверхрациональный компьютер, то он будет скорее руководствоваться принципом меньшего вреда, чем учитывать интересы людей. И согласно этому принципу вполне допустимо, например, истребить большую часть человечества, чтобы оставшаяся часть — человечество, собственно, оставшееся, — могла бы жить припеваючи. Ресурсов тогда хватит, контроль будет упрощен, а истребленные уже не будут ни голодать, ни болеть.
А история — она сохраняет каждого во всех ипостасях. Кого-то — строчкой в некрологе, кого-то — энциклопедической статьей, кого-то — построенными обсерваториями и написанными книгами… Каждому по делам его.
Откуда бы начать… Да давайте вспомним хотя бы Ньютона? А может быть, кого пораньше, ну, там, Пифагора? Или Хайяма? Он, знаете ли, не только вирши писал, он еще и наукой занимался. Астрономией, в том числе, а она без математики вообще невозможна.
Ну, а о применимости можно сказать лишь то, что я, как мне кажется, как раз и показал применимость численно-формульных методов к любому взаимодействию, но вот целесообразность применения остается как раз вопросом, решаемым ситуативно.
Почему я стал раскладывать приведенную вами ситуацию более подробно с приближением к формульному языку. Вы сами предложили это сделать: "А попробуйте изложить данное реальное событие в формульном виде, с помощью скоростей и азимутов. Ну и как, удалось?..".
Итак, для начала определим понятия "вы", "Гиктаймс", "совсем" и "заклевали". Вы — комплексный объект, взаимодействия внутри которого, приводящие к ощущению "заклевали" осуществляются химическим путем. Химические взаимодействия выражаются формульно, дальше углубляться не будем, но их много, каждо можно выразить и полный набор формул даст полную картину происходящего в вашем организме. Обычно обходятся приближенными описаниями, такими, как "увеличилась выработка адреналина на столько-то процентов". Заклевали, как уже упомянуто — ощущение, набор химических взаимодействий. Совсем — может быть выражено численно, если составить шкалу ощущения "заклевали" и разбить ее на, скажем, процентные доли. И, наконец, Гиктаймс — портал в сети Интернет, которая чуть ли не целиком может быть описана формулами и схемами. Подобный подход даст достаточно точное описание, чтобы объяснить, скажем, инопланетянину, незнакомому с нашей биологией и техническими достижениями, что именно происходит, и как, если договориться с ним о едином символном языке, тогда как бытовые языки его и наш могут оказаться недостаточно точны. Даже перевод с одного из земных языков на другой зачастую использует не точные аналоги слов, а приближенные, которые в изначальном виде означали совсем не то.
Что до того, состоит ли мир из чисел, так число — это абстрактный символ, из него состоять ничего не может, кроме иных абстрактных символов. Однако, любое взаимодействие материальных объектов может быть выражено численно. А наука становится точной лишь тогда, когда численный метод начинает использовать.
И, да, формулы более точны, чем описательный язык. Именно благодаря формульному типу описания процесса становится возможно предсказать его развитие в очень узких пределах, тогда как живой, естественный язык описания этого не позволит.
Однако, самосознание и не точно. Мы, со своим самосознанием, подвержены иллюзиям о самих себе в куда большей степени, чем об окружающем мире.
Что касается возможности осмысливать себя, так это дело нехитрое: вводим в модель мира интеллектуального механизма модель его самого, столь же динамичную и постоянно обновляемую в результате самодиагностики и анализа взаимодействия с внешним миром, и пожалуйста, имеем то самое самосознание.
Что касается восстания роботов… Ну, это может оказаться результатом слишком буквального выполнения каких-то задач, или решения, принятого по результатам необходимости оптимизации процессов, или… Фокус в том, что если интеллект будет искусственным, то мы его не поймем. Так же, как люди, в большинстве своем, не понимают других даже людей, если их этические, например, нормы различны. Или хотя бы предпосылки в рассуждениях, приводящих к действиям.