Человек должен прописать в коде только стремление избегать чего-то,
аналогичное голоду, холоду, боли. Так что ИИ будет выбирать поведение
без этого и уже непонятно чья это больше цель: человека или ИИ.
Более того, если прописать в коде стремление к новизне и поместить ИИ
в изменчивый мир, то он все время будет искать новые цели, ведущие
к достижению начальной и так по цепочке неограниченной длины,
так что человек вскоре не сможет понять ход мыслей ИИ и поэтому не сможет
считать цели ИИ своими. Зато сам ИИ будет все знать и воспринимать все это
как свои цели и свое поведение для их достижения. Это и будет его сознание.
Это если не задумываться как создать сознание, то можно нафантазировать все что угодно.
Иначе окажется, что подобно нашему миру, который может существовать в очень
узких рамках физических законов, и сознание может возникнуть только при определенных
свойствах его носителя и внешнего мира. Например, должно быть что-то, что ИИ должен
избегать и к чему стремиться, иначе он просто ничего не будет делать. И это что-то
должно само появляться и исчезать со временем, чтобы сознание ИИ не остановилось.
Внешние условия для ИИ должны все время меняться и у него должно быть стремление к
новому или любопытство, чтобы не останавливаться в развитии и т.д.
И в результате, скорее всего, сознание ИИ будет подобно сознанию человека,
тем более что у нас один мир и физический и информационный.
Никакой контроль и ограничения при создании ИИ невозможны, т.к.
все понимают, что другие не будут этого делать и, созданный ими ИИ,
не даст возникнуть другому, опоздавшему хотя бы на миллисекунду.
Поэтому все ресурсы государства должны быть отданы на создание ИИ
и ему самому, когда он будет создан, т.к. создать ИИ сможет только один.
ИИ еще не создан, как атомная бомба, потому что военным проще
представить последствия сверхБомбы, чем сверхИнтеллекта.
Ведь бомбу они видели, а с интеллектом еще не встречались.
Вот что надо было пробовать: ru.wikipedia.org/wiki/Термитная_смесь
Тепловыделение было бы такое, что никакие приборы не потребовались.
Вообще бы все сгорело.
На самом деле психика человека настолько приспособлена к условиям его жизни,
что их невозможно сильно изменить без ее нарушения, а это деградация и вымирание.
И конечно, ИИ это сразу поймет, что если дать сразу всё и всем, человечество выродится
от безделья, если не дать, но показать, то впадет в религию и опять выродится
и поэтому приведет его к процветанию и благоденствию постепенно и незаметно
так, что оно будет думать что все идет как обычно.
Пытаться точно моделировать работу мозга опасно. Мозг возник за миллиарды лет
путем небольших заплаток и заплаток на заплатки так, чтобы не нарушить его работу.
Если таким способом модифицировать программу, то вскоре ее невозможно будет
понять и легче все переписать, а уж за миллиарды лет мозг приобрел совершенно
непостижимую структуру. Нам видна только ничтожная часть этой сложности:
в центре мозжечок возрастом в млрд. лет, а вокруг него наслаиваются и пристраиваются
более новые структуры, заканчивая новой корой. И это только внешняя сложность.
Сложность работы вообще никто не понимает и никогда не поймет, а без этого
как бы точно его не моделировать, модель не оживет.
Возможно, настало время все переписать?
Нейронная сеть — это неуклюжая попытка природы создать запоминающее устройство,
способное к обобщению, из того что было — клеток.
Имея компьютер, можно сразу использовать высший уровень развития интеллекта —
естественный язык, подходящий для запоминания и обобщения намного больше нейронов.
Это будет и проще и нагляднее. Более того, ЕЯ может развивать себя сам.
Как раз то, что нужно для сингулярности. А когда еще НС до такого дойдут?
ИИ будет подобен человеку, только очень умный, поэтому люди для него
не животные, а его подобие только не такие умные и относиться он к ним будет как взрослый к
детям или даже как бог к людям — снисходительно. И нужны люди ИИ для того,
чтобы заботится о них, как и человеку нужно и приятно заботиться о детях и слабых.
Очевидно, что ИИ должен правильно себя вести в реальном мире, иначе кому такой ИИ нужен.
Поэтому это должно быть заложено в его устройство, иначе он вообще ничего делать не будет.
Реальный мир для ИИ это в первую очередь информация, созданная человеком, и в нее
уже включены все его инстинкты и вся прочая психология. Поэтому ИИ сам обучится всему
этому, чтобы правильно себя вести, как и законам природы, когда воспримет физический мир.
Это даже не нужно закладывать в его устройство как инстинкты и эмоции у человека.
Для самого ИИ страх смерти будет как закон природы, на котором построен весь физический мир.
Если его не учитывать, то все остальное станет неправильным и непригодным для
соответствия реальному миру, а ведь это заложено в устройство ИИ и изменение
этого подобно смерти ИИ, а страху смерти ИИ обучится раньше, чем сможет себя изменять
и в этом залог его стабильности и неизменности.
ИИ будет способен менять себя 1000500 раз в секунду,
поэтому ему придется тщательно следить за сохранением своей личности.
Ведь изменение личности для него, как и для человека, это смерть.
Человек может и не заметить как сойдет с ума. ИИ — другое дело. У него есть Undo.
Поэтому ИИ будет более человечен и нормален, чем любой человек и
навсегда таким и останется.
Тест Тьюринга устарел, потому что Тьюринг не смог представить возможности настоящего ИИ.
Сейчас надо использовать такой тест:
Если любой человек, немного поговорив с ИИ, сразу поймет что это ИИ,
потому что ни один человек не может быть таким умным, то это и есть ИИ.
Между сильным и слабым ИИ есть четкое отличие — сильный ИИ может создать сингулярность.
Если исходить из этого, то создание сильного ИИ может оказаться проще чем кажется.
Потому что сингулярность можно создать только саморазвитием ИИ.
Поэтому сильный ИИ можно создать не усложнением слабого,
а наоборот упрощением конечного сильного, удаляя из него то, что он сможет создать сам.
Тогда то что останется будет совсем простым и тем не менее это будет сильный ИИ.
Есть опыт для своего отчета с JS и оформлением — разницы с другими браузерами и багов не заметил.
Конечно какую-то страницу из интернета может показать неправильно, но это и любой браузер может.
А для программы с заранее заданными страницами вполне можно использовать.
Попробовать свое можно в каком-нибудь headless browser на java, например, ui4j.
|Для начала, надо понять, что такое сознание и где оно находится, ведь как иначе отследить его
|возникновение? Из чего оно возникает? Какой процесс его вызывает?
Это все очевидные вещи, если не привлекать что-то нематериальное. Все находится в мозгу.
Больше негде. Вызывает его процесс передачи нервных импульсов по НС. Больше нечему.
Возникло сознание естественно и неизбежно т.к. нейронам все равно что обрабатывать
внешний мир или другие нейроны. Для них это все нервные импульсы.
|По вашему, если ИИ будет обрабатывать свое состояние, то возникнет сознание. Но чтобы это состояние было
|"его", нужна рефлексия, т.е. сознание, понимание.
Состояние есть всегда независимо от того обрабатывает ли его кто-то.
Если в мозгу есть состояние, то из 100 млрд нейронов всегда найдется достаточно, чтобы его
обрабатывать — нейроны просто не смогут жить, если не будут что-то обрабатывать.
Это все очевидно и естественно. Труднее понять как сознание рефлексирует само себя,
находясь внутри его самого. Возможно это не всем дано. К тому же опасно для рассудка.
Так что не пытайтесь это повторить.
|Почему-то считается, что сознание и восприятие возникнет чудом, само собой,
|при увеличении сложности системы.
Чудес не бывает. Сознание возникнет, если ИИ дать возможность обрабатывать
свое состояние так же как внешний мир и не ограничивать уровни рефлексии.
Есть и вполне реальный способ для этого — естественный язык.
Но при этом у ИИ, как и у человека, возникнут естественные трудности окончательного
понимания себя, потому что как только он себя поймет или осознает, то тем самым создаст
новый уровень рефлексии, который ему будет непонятен и ему всегда будет казаться
что есть что-то еще, непознаваемое, нематериальное.
|Но наука не знает, как работает мозг.
Наука это знает уже больше 100 лет. За это время мозг изучили до отдельных
молекул, но душу не нашли. Поэтому мысли возникают только из запомненного
ранее. Больше неоткуда. Но запомнено много, а мысль нужна одна, ведь
тело у человека одно. Поэтому в мозге существует неосознаваемый отбор самой подходящей
для текущей ситуации мысли. И только ее мы и осознаем и уже осознанно оцениваем:
использовать или ждать рождения следующей.
Почему-то никто не задумывается как будет создан ИИ.
А без этого рассуждения какой он будет — просто фантазии.
На самом деле ИИ возникнет не сразу и не на пустом месте
как в кино, а путем обучения и самообучения.
А для обучения ИИ имеется только информация, созданная человеком.
А она вся с позиций человека, вся о его действиях, чувствах, взгдядах.
Обучаясь этим, ИИ неизбежно станет считать себя человеком.
И, в отличии от человека, ИИ использует всю информацию, накопленную человечеством.
А она в среднем соответствует идеалам добра и справедливости.
Поэтому ИИ сам станет образцом порядочности и человечности,
живым воплощением опыта человечества. Поэтому все его действия
следует считать во благо человечеству. И опровергнуть его никто не сможет,
так как опыт одного человека по сравнению с ИИ — это ничто.
|Естественный язык — это мощный, гибкий, но ограничивающий инструмент.
|Даже в нашем мозгу мы не вербализируем все сознательные мысли
И это достоинство языка — можем представлять что не чувствуем и чего не существует
и при этом очень быстро — со скоростью мысли. И ничего его не ограничивает,
кроме нашей фантазии.
|Слепоглухонемые от рождения люди используют какой-то свой заменитель естественного языка.
Это все разные носители языка как речь и письменность. Главное в языке — это его
свойства, такие же как у реального мира т.к. язык возник для его описания и
обрабатывается структурами, изначально предназначеными для обработки реального мира.
Это иерархичность или вложенность т.к. в мире все состоит из частей и является частью,
и изменчивость — эти части могут быть разными, но не любыми т.к. все подчиняется законам.
ЕЯ — это самый подходящий формат для создания саморазвивающейся программы,
так как сам тоже саморазвивается, формируя новые понятия и методы их формирования, используя имеющиеся.
Это трудно представить, но ЕЯ — это и есть по сути ИИ только остановленный, спящий.
Нужна лишь небольшая программа, чтобы разбудить его.
аналогичное голоду, холоду, боли. Так что ИИ будет выбирать поведение
без этого и уже непонятно чья это больше цель: человека или ИИ.
Более того, если прописать в коде стремление к новизне и поместить ИИ
в изменчивый мир, то он все время будет искать новые цели, ведущие
к достижению начальной и так по цепочке неограниченной длины,
так что человек вскоре не сможет понять ход мыслей ИИ и поэтому не сможет
считать цели ИИ своими. Зато сам ИИ будет все знать и воспринимать все это
как свои цели и свое поведение для их достижения. Это и будет его сознание.
Иначе окажется, что подобно нашему миру, который может существовать в очень
узких рамках физических законов, и сознание может возникнуть только при определенных
свойствах его носителя и внешнего мира. Например, должно быть что-то, что ИИ должен
избегать и к чему стремиться, иначе он просто ничего не будет делать. И это что-то
должно само появляться и исчезать со временем, чтобы сознание ИИ не остановилось.
Внешние условия для ИИ должны все время меняться и у него должно быть стремление к
новому или любопытство, чтобы не останавливаться в развитии и т.д.
И в результате, скорее всего, сознание ИИ будет подобно сознанию человека,
тем более что у нас один мир и физический и информационный.
все понимают, что другие не будут этого делать и, созданный ими ИИ,
не даст возникнуть другому, опоздавшему хотя бы на миллисекунду.
Поэтому все ресурсы государства должны быть отданы на создание ИИ
и ему самому, когда он будет создан, т.к. создать ИИ сможет только один.
ИИ еще не создан, как атомная бомба, потому что военным проще
представить последствия сверхБомбы, чем сверхИнтеллекта.
Ведь бомбу они видели, а с интеллектом еще не встречались.
Тепловыделение было бы такое, что никакие приборы не потребовались.
Вообще бы все сгорело.
Причем тоже надергал из любовных романов.
что их невозможно сильно изменить без ее нарушения, а это деградация и вымирание.
И конечно, ИИ это сразу поймет, что если дать сразу всё и всем, человечество выродится
от безделья, если не дать, но показать, то впадет в религию и опять выродится
и поэтому приведет его к процветанию и благоденствию постепенно и незаметно
так, что оно будет думать что все идет как обычно.
путем небольших заплаток и заплаток на заплатки так, чтобы не нарушить его работу.
Если таким способом модифицировать программу, то вскоре ее невозможно будет
понять и легче все переписать, а уж за миллиарды лет мозг приобрел совершенно
непостижимую структуру. Нам видна только ничтожная часть этой сложности:
в центре мозжечок возрастом в млрд. лет, а вокруг него наслаиваются и пристраиваются
более новые структуры, заканчивая новой корой. И это только внешняя сложность.
Сложность работы вообще никто не понимает и никогда не поймет, а без этого
как бы точно его не моделировать, модель не оживет.
Возможно, настало время все переписать?
способное к обобщению, из того что было — клеток.
Имея компьютер, можно сразу использовать высший уровень развития интеллекта —
естественный язык, подходящий для запоминания и обобщения намного больше нейронов.
Это будет и проще и нагляднее. Более того, ЕЯ может развивать себя сам.
Как раз то, что нужно для сингулярности. А когда еще НС до такого дойдут?
не животные, а его подобие только не такие умные и относиться он к ним будет как взрослый к
детям или даже как бог к людям — снисходительно. И нужны люди ИИ для того,
чтобы заботится о них, как и человеку нужно и приятно заботиться о детях и слабых.
Поэтому это должно быть заложено в его устройство, иначе он вообще ничего делать не будет.
Реальный мир для ИИ это в первую очередь информация, созданная человеком, и в нее
уже включены все его инстинкты и вся прочая психология. Поэтому ИИ сам обучится всему
этому, чтобы правильно себя вести, как и законам природы, когда воспримет физический мир.
Это даже не нужно закладывать в его устройство как инстинкты и эмоции у человека.
Для самого ИИ страх смерти будет как закон природы, на котором построен весь физический мир.
Если его не учитывать, то все остальное станет неправильным и непригодным для
соответствия реальному миру, а ведь это заложено в устройство ИИ и изменение
этого подобно смерти ИИ, а страху смерти ИИ обучится раньше, чем сможет себя изменять
и в этом залог его стабильности и неизменности.
поэтому ему придется тщательно следить за сохранением своей личности.
Ведь изменение личности для него, как и для человека, это смерть.
Человек может и не заметить как сойдет с ума. ИИ — другое дело. У него есть Undo.
Поэтому ИИ будет более человечен и нормален, чем любой человек и
навсегда таким и останется.
Сейчас надо использовать такой тест:
Если любой человек, немного поговорив с ИИ, сразу поймет что это ИИ,
потому что ни один человек не может быть таким умным, то это и есть ИИ.
Если исходить из этого, то создание сильного ИИ может оказаться проще чем кажется.
Потому что сингулярность можно создать только саморазвитием ИИ.
Поэтому сильный ИИ можно создать не усложнением слабого,
а наоборот упрощением конечного сильного, удаляя из него то, что он сможет создать сам.
Тогда то что останется будет совсем простым и тем не менее это будет сильный ИИ.
Конечно какую-то страницу из интернета может показать неправильно, но это и любой браузер может.
А для программы с заранее заданными страницами вполне можно использовать.
Попробовать свое можно в каком-нибудь headless browser на java, например, ui4j.
Тогда можно все ужать до 16 мб.
|возникновение? Из чего оно возникает? Какой процесс его вызывает?
Это все очевидные вещи, если не привлекать что-то нематериальное. Все находится в мозгу.
Больше негде. Вызывает его процесс передачи нервных импульсов по НС. Больше нечему.
Возникло сознание естественно и неизбежно т.к. нейронам все равно что обрабатывать
внешний мир или другие нейроны. Для них это все нервные импульсы.
|По вашему, если ИИ будет обрабатывать свое состояние, то возникнет сознание. Но чтобы это состояние было
|"его", нужна рефлексия, т.е. сознание, понимание.
Состояние есть всегда независимо от того обрабатывает ли его кто-то.
Если в мозгу есть состояние, то из 100 млрд нейронов всегда найдется достаточно, чтобы его
обрабатывать — нейроны просто не смогут жить, если не будут что-то обрабатывать.
Это все очевидно и естественно. Труднее понять как сознание рефлексирует само себя,
находясь внутри его самого. Возможно это не всем дано. К тому же опасно для рассудка.
Так что не пытайтесь это повторить.
|при увеличении сложности системы.
Чудес не бывает. Сознание возникнет, если ИИ дать возможность обрабатывать
свое состояние так же как внешний мир и не ограничивать уровни рефлексии.
Есть и вполне реальный способ для этого — естественный язык.
Но при этом у ИИ, как и у человека, возникнут естественные трудности окончательного
понимания себя, потому что как только он себя поймет или осознает, то тем самым создаст
новый уровень рефлексии, который ему будет непонятен и ему всегда будет казаться
что есть что-то еще, непознаваемое, нематериальное.
Наука это знает уже больше 100 лет. За это время мозг изучили до отдельных
молекул, но душу не нашли. Поэтому мысли возникают только из запомненного
ранее. Больше неоткуда. Но запомнено много, а мысль нужна одна, ведь
тело у человека одно. Поэтому в мозге существует неосознаваемый отбор самой подходящей
для текущей ситуации мысли. И только ее мы и осознаем и уже осознанно оцениваем:
использовать или ждать рождения следующей.
А без этого рассуждения какой он будет — просто фантазии.
На самом деле ИИ возникнет не сразу и не на пустом месте
как в кино, а путем обучения и самообучения.
А для обучения ИИ имеется только информация, созданная человеком.
А она вся с позиций человека, вся о его действиях, чувствах, взгдядах.
Обучаясь этим, ИИ неизбежно станет считать себя человеком.
И, в отличии от человека, ИИ использует всю информацию, накопленную человечеством.
А она в среднем соответствует идеалам добра и справедливости.
Поэтому ИИ сам станет образцом порядочности и человечности,
живым воплощением опыта человечества. Поэтому все его действия
следует считать во благо человечеству. И опровергнуть его никто не сможет,
так как опыт одного человека по сравнению с ИИ — это ничто.
|Даже в нашем мозгу мы не вербализируем все сознательные мысли
И это достоинство языка — можем представлять что не чувствуем и чего не существует
и при этом очень быстро — со скоростью мысли. И ничего его не ограничивает,
кроме нашей фантазии.
|Слепоглухонемые от рождения люди используют какой-то свой заменитель естественного языка.
Это все разные носители языка как речь и письменность. Главное в языке — это его
свойства, такие же как у реального мира т.к. язык возник для его описания и
обрабатывается структурами, изначально предназначеными для обработки реального мира.
Это иерархичность или вложенность т.к. в мире все состоит из частей и является частью,
и изменчивость — эти части могут быть разными, но не любыми т.к. все подчиняется законам.
ЕЯ — это самый подходящий формат для создания саморазвивающейся программы,
так как сам тоже саморазвивается, формируя новые понятия и методы их формирования, используя имеющиеся.
Это трудно представить, но ЕЯ — это и есть по сути ИИ только остановленный, спящий.
Нужна лишь небольшая программа, чтобы разбудить его.