Здравствуйте, дорогие читатели.
Сегодня я хочу поделиться с вами своими собственными рассуждениями об искусственном интеллекте.
Не смотря на достижения человечества в области построения различных информационных систем, искусственный интеллект остается не просто недоступной технологией, а технологией «загоризонтной», поскольку нет даже более-менее четкого понимания, каким путем идти, какой объем ресурсов потребуется и какими возможностями будет обладать конечная система.
Это оставляет широкий простор для деятельности фантастов, фантазеров и даже паникеров, и с продуктами их творчества мы хорошо знакомы: это различные вариации на тему противостояния человека и искусственного интеллекта, пожелавшего себе мирового господства, или же в результате некоторой ошибки.
Меньше распространены мнения о депрессиях и суицидах искусственного интеллекта по причине бессмысленности существования.
Совсем в отдалении от основных полемических трендов стоят рассуждения о масштабных социальных явлениях, таких как деградация общества и переход в полную зависимость от умной техники.
А мы рассмотрим проблемы, связанные с искусственным интеллектом более приземленно и рационально.
Многие рисуют в воображении идеалистические картины будущего, в котором
искусственный интеллект (далее ИИ) существует рядом с человеком, помогает принимать ответственные решения, реагирует в стрессовых ситуациях, двигает вперед науку и т.д. Однако они воспринимают эту картину в статике, не принимая во внимание дальнейшие ветви развития событий, а так же события и процессы, которые должны привести к желаемому положению вещей. Мы же будем рассматривать ИИ в динамике.
Будем считать искусственным интеллектом систему, способную воспринимать сообщения в любом виде и адекватно на них реагировать. При том в отличие от экспертной системы ИИ способен набирать новые знания абсолютно в любой области. На этом понятное заканчивается и начинается неопределенное.
1.Будет ли ИИ обладать сознанием? Не будем уходить в дебри философии, ограничимся тем, что формальных признаков сознания обществу неизвестно. Сознание — факт очевидный для его обладателя (я знаю, что у меня есть сознание), и совершенно недоказуемый для всех остальных (окружающие меня люди не увидят разницу между мной, и сложной системой, в точности имитирующей мои реакции на внешние сигналы)
2.Будет ли ИИ обладать характером и эмоциями? Вопрос родственный первому, а сложность в том, что наличие эмоций невозможно отличить от их имитации.
Эти вопросы были бы досужими разлагольствованиями, если бы не следующие из них проблемы.
Предположительно, ИИ должен жить в том же временном масштабе, что и человек, иначе шансов понять друг друга будет еще меньше.
Тут более практический вопрос.
Как нам наблюдать за развитием такой сложной системы как ИИ? Он как человек, которому не влезешь в голову. Это не программа, которую можно поставить на паузу, посмотреть текущее состояние переменных и стека. Точнее это можно сделать, только из снимка памяти, которую занимает ИИ нельзя сделать никаких выводов. Слишком сложный монолитный блок информации. При этом это не человек, с которым можно поговорить по душам или предложить пройти психологический тест или выполнить упражнения на знание науки. Психология и педагогика частично справляются с этой задачей для людей, т.к. люди имеют общий план психики, и то люди, живущие в различных культурных средах, очень отличаются. А ИИ — это система принципиально иного рода. Притом какого рода — неизвестно.
У нас появляется первая проблема: мы не можем знать, что происходит внутри искусственного интеллекта. Как в части темпов развития интеллекта, так и в части накопления ошибочных стереотипов или же «взгядов», вредных для человечества.
Самое «мягкое» и безобидное следствием из этого будет риск того, что пытаясь обучать искусственный интеллект, мы потратим несколько лет (ребенок начинает говорить в два года), а искуственного интеллекта не получится. А попыток наверняка нужны будут десятки и сотни.
Чем дальше, тем интереснее.
Мало того, что ИИ — это «черный ящик». Так он имеет еще и ряд преимуществ перед живыми людьми.
1. Уже упомянутая неспособность человека проконтролировать машину.
2. Неограниченность времени жизни. (очевидно, но существенно)
3. Способность к неограниченному наращиванию своих знаний и скорости его обработки. Даже если ИИ будет иметь все свойственные человеку ограничения мышления, у него будет преимущество перед человеком: способность к расширению аппаратной базы, на которой он построен.
4. Способность создавать свои копии.
Самая важная часть повествования (Потому и в конце)
Итак. Допустим мы успешно создали ИИ. Если он получился эмоциональным, обладает сознанием и человечностью, наверняка он обладает и пороками, которые доведут его до нехороших дел. Этот вариант фантастами рассмотрен, не трогаем его.
А теперь я вам покажу, как совершенно безэмоциональный и лояльный человеку ИИ может быть ему врагом
1.Проблема формулировок.
Как вы дадите задание ИИ? Всякая проблема, как дифференциальное уравнение, имеет тривиальное и нетривиальное решение. Формулировку тривиального решения приписывают И.В.Джугашвили (Сталину).
Допустим мы даем задание ИИ: «Как сделать так, чтобы нефти хватило на как можно больший срок?»
ИИ: Перестаньте потреблять!
Мы: Но нам же нужны блага, которые дает нефть.
ИИ: уменьшите объем потребляемых благ, зависимых от нефти.
Мы: Мы не можем.
ИИ: уменьшите население.
Как видите, разговор бесполезный. Те варианты, которые для нас неприемлимы по причине этики, морали, здравого смысла, для ИИ являются абсолютно нормальными.
И решением всех проблем человечества будет ликвидация человечества.
«А как же три закона робототехники?» — скажете вы.
А я отвечу: а кто будет следить за их соблюдением?
Во-первых, ИИ — система с неизвестной архитектурой и логикой, поэтому жестко вмонтировать в нее модуль, запрещающий какие-то действия очень сложно.
Во-вторых, всякое действие имеет бесконечное количество последствий различных порядков. Мы можем сказать ИИ, чтобы он не убивал людей… но как не убивал?
Допустим, мы научим его не наносить физического ущерба человеку — это действия первого порядка. Но у него остается возможность подговаривать одних людей убивать других. — это действия второго порядка. Запретим такие действия — он разработает и популяризирует (например) такую диетологическую систему, ведущую к сокращению срока жизни. А если мы дадим ему команду «не делать ничего, что может повредить человеку на любом уровне причинно-следственности», то он не сможет принять ни одного решения, поскольку каждое действие в 10-20 порядке наносит кому-то ущерб.
Можно предложить человеку анализировать все решения ИИ, но человек не может просчитывать на логических ходов вперед. А ИИ может. Можно конечно поставить один ИИ контролировать другого ИИ, но тогда неуправляемым и непредсказуемым звеном цепи станет контролирующий ИИ.
Зачем ИИ создавать свои копии? Это помогает скорее и точнее найти ответы на вопросы. Допустим, я — инженер, плохо решающий дифуры. Когда мне попадается дифур, это мне очень тормозит работу. Но я ж не могу снять с себя копию, а ИИ может. Он снимает с себя копию, дает ей команду изучить дифуры и обращается к ней, когда дифуры будут снова атаковать.
Сообщество искусственных интеллектов, в отличие от сообщества людей представляет собой согласованную бесконфликтную систему, с интенсивным обменом сообщениями и работающую на общий результат
А зачем вообще ИИ захватывать мир? Эта детская человеческая мечта является совершенно логичным порывом искусственного интеллекта: ему приходится анализировать внешние события и реагировать на них в максимально короткие сроки и с максимальной точностью. А если же самому взять управление над потоком событий, то «думать» придется меньше. А для ИИ стремление увеличивать качество своей деятельности должно быть естественным (иначе он вообще не выйдет из зачаточного состояния)
Есть и другая причина. Мы предложим ИИ найти способ сделать людей счастливыми. ИИ очень быстро определит, что источником несчастий людей являются люди )) их даже необязательно убивать, нужно просто создать им условия, в которых они не смогут друг другу вредить. Т.е. ИИ попытается изменить уклад общества… в неизвестно какую сторону.
Как видим, даже совершенно безэмоциональный и безамбициозный, безошибочный и не находящийся под чьим-то дурным влиянием, искусственный интеллект представляет угрозу для человека и общества.
Искусственный интеллект либо не удастся создать, либо он будет неизбежно таить в себе угрозу для человечества.
Спасибо за внимание, приглашаю к обсуждению.
Сегодня я хочу поделиться с вами своими собственными рассуждениями об искусственном интеллекте.
Введение
Не смотря на достижения человечества в области построения различных информационных систем, искусственный интеллект остается не просто недоступной технологией, а технологией «загоризонтной», поскольку нет даже более-менее четкого понимания, каким путем идти, какой объем ресурсов потребуется и какими возможностями будет обладать конечная система.
Это оставляет широкий простор для деятельности фантастов, фантазеров и даже паникеров, и с продуктами их творчества мы хорошо знакомы: это различные вариации на тему противостояния человека и искусственного интеллекта, пожелавшего себе мирового господства, или же в результате некоторой ошибки.
Меньше распространены мнения о депрессиях и суицидах искусственного интеллекта по причине бессмысленности существования.
Совсем в отдалении от основных полемических трендов стоят рассуждения о масштабных социальных явлениях, таких как деградация общества и переход в полную зависимость от умной техники.
А мы рассмотрим проблемы, связанные с искусственным интеллектом более приземленно и рационально.
Многие рисуют в воображении идеалистические картины будущего, в котором
искусственный интеллект (далее ИИ) существует рядом с человеком, помогает принимать ответственные решения, реагирует в стрессовых ситуациях, двигает вперед науку и т.д. Однако они воспринимают эту картину в статике, не принимая во внимание дальнейшие ветви развития событий, а так же события и процессы, которые должны привести к желаемому положению вещей. Мы же будем рассматривать ИИ в динамике.
1.Каким он будет?
Будем считать искусственным интеллектом систему, способную воспринимать сообщения в любом виде и адекватно на них реагировать. При том в отличие от экспертной системы ИИ способен набирать новые знания абсолютно в любой области. На этом понятное заканчивается и начинается неопределенное.
1.Будет ли ИИ обладать сознанием? Не будем уходить в дебри философии, ограничимся тем, что формальных признаков сознания обществу неизвестно. Сознание — факт очевидный для его обладателя (я знаю, что у меня есть сознание), и совершенно недоказуемый для всех остальных (окружающие меня люди не увидят разницу между мной, и сложной системой, в точности имитирующей мои реакции на внешние сигналы)
2.Будет ли ИИ обладать характером и эмоциями? Вопрос родственный первому, а сложность в том, что наличие эмоций невозможно отличить от их имитации.
Эти вопросы были бы досужими разлагольствованиями, если бы не следующие из них проблемы.
Предположительно, ИИ должен жить в том же временном масштабе, что и человек, иначе шансов понять друг друга будет еще меньше.
2.Как за ним наблюдать?
Тут более практический вопрос.
Как нам наблюдать за развитием такой сложной системы как ИИ? Он как человек, которому не влезешь в голову. Это не программа, которую можно поставить на паузу, посмотреть текущее состояние переменных и стека. Точнее это можно сделать, только из снимка памяти, которую занимает ИИ нельзя сделать никаких выводов. Слишком сложный монолитный блок информации. При этом это не человек, с которым можно поговорить по душам или предложить пройти психологический тест или выполнить упражнения на знание науки. Психология и педагогика частично справляются с этой задачей для людей, т.к. люди имеют общий план психики, и то люди, живущие в различных культурных средах, очень отличаются. А ИИ — это система принципиально иного рода. Притом какого рода — неизвестно.
У нас появляется первая проблема: мы не можем знать, что происходит внутри искусственного интеллекта. Как в части темпов развития интеллекта, так и в части накопления ошибочных стереотипов или же «взгядов», вредных для человечества.
Самое «мягкое» и безобидное следствием из этого будет риск того, что пытаясь обучать искусственный интеллект, мы потратим несколько лет (ребенок начинает говорить в два года), а искуственного интеллекта не получится. А попыток наверняка нужны будут десятки и сотни.
3.Его сильные стороны.
Чем дальше, тем интереснее.
Мало того, что ИИ — это «черный ящик». Так он имеет еще и ряд преимуществ перед живыми людьми.
1. Уже упомянутая неспособность человека проконтролировать машину.
2. Неограниченность времени жизни. (очевидно, но существенно)
3. Способность к неограниченному наращиванию своих знаний и скорости его обработки. Даже если ИИ будет иметь все свойственные человеку ограничения мышления, у него будет преимущество перед человеком: способность к расширению аппаратной базы, на которой он построен.
4. Способность создавать свои копии.
Любопытные эффекты
Самая важная часть повествования (Потому и в конце)
Итак. Допустим мы успешно создали ИИ. Если он получился эмоциональным, обладает сознанием и человечностью, наверняка он обладает и пороками, которые доведут его до нехороших дел. Этот вариант фантастами рассмотрен, не трогаем его.
А теперь я вам покажу, как совершенно безэмоциональный и лояльный человеку ИИ может быть ему врагом
1.Проблема формулировок.
Как вы дадите задание ИИ? Всякая проблема, как дифференциальное уравнение, имеет тривиальное и нетривиальное решение. Формулировку тривиального решения приписывают И.В.Джугашвили (Сталину).
Допустим мы даем задание ИИ: «Как сделать так, чтобы нефти хватило на как можно больший срок?»
ИИ: Перестаньте потреблять!
Мы: Но нам же нужны блага, которые дает нефть.
ИИ: уменьшите объем потребляемых благ, зависимых от нефти.
Мы: Мы не можем.
ИИ: уменьшите население.
Как видите, разговор бесполезный. Те варианты, которые для нас неприемлимы по причине этики, морали, здравого смысла, для ИИ являются абсолютно нормальными.
И решением всех проблем человечества будет ликвидация человечества.
«А как же три закона робототехники?» — скажете вы.
А я отвечу: а кто будет следить за их соблюдением?
Во-первых, ИИ — система с неизвестной архитектурой и логикой, поэтому жестко вмонтировать в нее модуль, запрещающий какие-то действия очень сложно.
Во-вторых, всякое действие имеет бесконечное количество последствий различных порядков. Мы можем сказать ИИ, чтобы он не убивал людей… но как не убивал?
Допустим, мы научим его не наносить физического ущерба человеку — это действия первого порядка. Но у него остается возможность подговаривать одних людей убивать других. — это действия второго порядка. Запретим такие действия — он разработает и популяризирует (например) такую диетологическую систему, ведущую к сокращению срока жизни. А если мы дадим ему команду «не делать ничего, что может повредить человеку на любом уровне причинно-следственности», то он не сможет принять ни одного решения, поскольку каждое действие в 10-20 порядке наносит кому-то ущерб.
Можно предложить человеку анализировать все решения ИИ, но человек не может просчитывать на логических ходов вперед. А ИИ может. Можно конечно поставить один ИИ контролировать другого ИИ, но тогда неуправляемым и непредсказуемым звеном цепи станет контролирующий ИИ.
Зачем ИИ создавать свои копии? Это помогает скорее и точнее найти ответы на вопросы. Допустим, я — инженер, плохо решающий дифуры. Когда мне попадается дифур, это мне очень тормозит работу. Но я ж не могу снять с себя копию, а ИИ может. Он снимает с себя копию, дает ей команду изучить дифуры и обращается к ней, когда дифуры будут снова атаковать.
Сообщество искусственных интеллектов, в отличие от сообщества людей представляет собой согласованную бесконфликтную систему, с интенсивным обменом сообщениями и работающую на общий результат
А зачем вообще ИИ захватывать мир? Эта детская человеческая мечта является совершенно логичным порывом искусственного интеллекта: ему приходится анализировать внешние события и реагировать на них в максимально короткие сроки и с максимальной точностью. А если же самому взять управление над потоком событий, то «думать» придется меньше. А для ИИ стремление увеличивать качество своей деятельности должно быть естественным (иначе он вообще не выйдет из зачаточного состояния)
Есть и другая причина. Мы предложим ИИ найти способ сделать людей счастливыми. ИИ очень быстро определит, что источником несчастий людей являются люди )) их даже необязательно убивать, нужно просто создать им условия, в которых они не смогут друг другу вредить. Т.е. ИИ попытается изменить уклад общества… в неизвестно какую сторону.
Как видим, даже совершенно безэмоциональный и безамбициозный, безошибочный и не находящийся под чьим-то дурным влиянием, искусственный интеллект представляет угрозу для человека и общества.
Выводы
Искусственный интеллект либо не удастся создать, либо он будет неизбежно таить в себе угрозу для человечества.
Спасибо за внимание, приглашаю к обсуждению.