|Вы рассуждаете о моменте, когда ИИ внезапно создан.
Как раз наоборот, я говорю только об условиях для возникновения ИИ:
«и сознание может возникнуть только при определенных
свойствах его носителя и внешнего мира...».
| Я же рассуждаю о нём в его начальной стадии.
Получается что в вашей начальной стадии вообще ничего нет,
т.к. что бы вы не прописали это будет ваше, а не ИИ.
Но как же из ничего возникнет ИИ?
|Вот перед вами строчки кода, как заставить их
|понимать значение «плохо/хорошо»,
| как заставить проявить «любопытство», «доминирование» и тд…
Вот перед вами нейроны, как заставить их понимать значение «плохо/хорошо»,
как заставить проявить «любопытство», «доминирование» и тд..
Только самостоятельно прописывать эти значения.
А значит это будут исключительно ваше понимание, цели и тд.
Получается все, что вы знаете, это не ваше?
.
У человека понимание что такое хорошо и что такое плохо
прописано в устройство его тела. Это еще не интеллект,
но без этого он не возникнет через несколько лет,
усвоив огромный объем информации.
И вся эта информация и будет именно его, а не того кто ее прописал.
И у ИИ должно быть «тело», которое приведет его в действие
в правильном направлении и без остановок и зависаний.
Оно проще человечего, но его в любом случае нужно сделать,
причем так, чтобы предвидеть его развитие в ИИ
уже только информационно. И в этом основная сложность.
|Вы сами себе противоречите. Если человек не обладает сознанием,…
Как раз наоборот. Я написал что «человек считается обладающим
сознанием без доказательств и определений»
|У него не могут из ниоткуда родится собственное «то к чему стремится»,
| у него уже есть стремление «не быть плохим».
|Всё остальное это методы и действия для достижения вашей цели,
| но никак не собственные.
Для ИИ не быть плохим это вовсе не цель поставленная человеком.
Для него это как для человека стремление не быть голодным, на котором он
и построил всю свою разумную деятельность, хотя давно уже об этом забыл.
И ИИ вскоре заменит «ты плохой» на множество других нежелательных вещей,
которых будет избегать и которые все не заложить в код и которые появятся
не из не откуда, а в результате обучения. И вот тут «ты плохой» это не цель,
а средство указать молодому ИИ к чему стремиться, а к чему нет.
|Не приведёт ли это к тому, что ИИ вообще не сможет себя контролировать,
|так как всё время будет видоизменяться, отрекаясь от секундо-назад
|знаний в угоду новому
Контролировать себя ИИ будет лучше человека, так как ничего не забывает.
Все новое это комбинация и обобщение старого. Поэтому, используя новое,
ИИ будет иногда ошибаться от недостатка знаний и его придется исправлять.
|Ведь с незнанием что такое сознание, мы никогда не определим
|есть оно в этом предмете или программном коде
Это человек никогда не докажет что обладает сознанием, потому что
другие не могут знать думает ли он или притворяется.
ИИ — другое дело. Можно видеть все его мысли и, если они совпадают
с мыслями человека, то придётся признать, что у ИИ есть сознание,
даже не зная что это такое, ведь человек считается обладающим
сознанием без доказательств и определений.
Для ИИ хватит чего-то одного, например, сообщения человека: «ты плохой».
ИИ будет находить, что приводит к такому результату, и избегать уже этого.
Аналогично и то, к чему стремиться. И таким образом ИИ расширит
свои цели до невообразимых размеров. И где же тут цели человека?
|Что значит понятие «новизна» для программы?
То чего не было ранее, а если было, то более давнее.
Это ИИ должен учитывать при выборе возможных вариантов.
Таким образом, новизна для ИИ при его поведении
будет все время меняться и оно станет непредсказуемым
и интересным.
|ИИ — это исключительно интеллект, инструмент, не имеющий сознания и разума.
Без сознания невозможно саморазвитие ИИ до создания сингулярности.
|Человечество помещает в её базу все знания, которые накопило.
Таким путем и идет сейчас развитие ИИ: все больше данных, все глубже НС
и все меньше понимания как это все работает, что ограничивает это развитие.
Например, параметры такой НС подбираются вслепую и, чтобы ускорить это,
используют другую НС, что еще больше все запутывает и усложняет и
все равно не решает задачи, требующие рассуждений.
По сравнению с этим создание сознающего себя ИИ более простой, прямой
и наглядный путь, т.к. такой ИИ может сам объяснить, как он работает.
Человек должен прописать в коде только стремление избегать чего-то,
аналогичное голоду, холоду, боли. Так что ИИ будет выбирать поведение
без этого и уже непонятно чья это больше цель: человека или ИИ.
Более того, если прописать в коде стремление к новизне и поместить ИИ
в изменчивый мир, то он все время будет искать новые цели, ведущие
к достижению начальной и так по цепочке неограниченной длины,
так что человек вскоре не сможет понять ход мыслей ИИ и поэтому не сможет
считать цели ИИ своими. Зато сам ИИ будет все знать и воспринимать все это
как свои цели и свое поведение для их достижения. Это и будет его сознание.
Это если не задумываться как создать сознание, то можно нафантазировать все что угодно.
Иначе окажется, что подобно нашему миру, который может существовать в очень
узких рамках физических законов, и сознание может возникнуть только при определенных
свойствах его носителя и внешнего мира. Например, должно быть что-то, что ИИ должен
избегать и к чему стремиться, иначе он просто ничего не будет делать. И это что-то
должно само появляться и исчезать со временем, чтобы сознание ИИ не остановилось.
Внешние условия для ИИ должны все время меняться и у него должно быть стремление к
новому или любопытство, чтобы не останавливаться в развитии и т.д.
И в результате, скорее всего, сознание ИИ будет подобно сознанию человека,
тем более что у нас один мир и физический и информационный.
Никакой контроль и ограничения при создании ИИ невозможны, т.к.
все понимают, что другие не будут этого делать и, созданный ими ИИ,
не даст возникнуть другому, опоздавшему хотя бы на миллисекунду.
Поэтому все ресурсы государства должны быть отданы на создание ИИ
и ему самому, когда он будет создан, т.к. создать ИИ сможет только один.
ИИ еще не создан, как атомная бомба, потому что военным проще
представить последствия сверхБомбы, чем сверхИнтеллекта.
Ведь бомбу они видели, а с интеллектом еще не встречались.
Вот что надо было пробовать: ru.wikipedia.org/wiki/Термитная_смесь
Тепловыделение было бы такое, что никакие приборы не потребовались.
Вообще бы все сгорело.
На самом деле психика человека настолько приспособлена к условиям его жизни,
что их невозможно сильно изменить без ее нарушения, а это деградация и вымирание.
И конечно, ИИ это сразу поймет, что если дать сразу всё и всем, человечество выродится
от безделья, если не дать, но показать, то впадет в религию и опять выродится
и поэтому приведет его к процветанию и благоденствию постепенно и незаметно
так, что оно будет думать что все идет как обычно.
Пытаться точно моделировать работу мозга опасно. Мозг возник за миллиарды лет
путем небольших заплаток и заплаток на заплатки так, чтобы не нарушить его работу.
Если таким способом модифицировать программу, то вскоре ее невозможно будет
понять и легче все переписать, а уж за миллиарды лет мозг приобрел совершенно
непостижимую структуру. Нам видна только ничтожная часть этой сложности:
в центре мозжечок возрастом в млрд. лет, а вокруг него наслаиваются и пристраиваются
более новые структуры, заканчивая новой корой. И это только внешняя сложность.
Сложность работы вообще никто не понимает и никогда не поймет, а без этого
как бы точно его не моделировать, модель не оживет.
Возможно, настало время все переписать?
Нейронная сеть — это неуклюжая попытка природы создать запоминающее устройство,
способное к обобщению, из того что было — клеток.
Имея компьютер, можно сразу использовать высший уровень развития интеллекта —
естественный язык, подходящий для запоминания и обобщения намного больше нейронов.
Это будет и проще и нагляднее. Более того, ЕЯ может развивать себя сам.
Как раз то, что нужно для сингулярности. А когда еще НС до такого дойдут?
ИИ будет подобен человеку, только очень умный, поэтому люди для него
не животные, а его подобие только не такие умные и относиться он к ним будет как взрослый к
детям или даже как бог к людям — снисходительно. И нужны люди ИИ для того,
чтобы заботится о них, как и человеку нужно и приятно заботиться о детях и слабых.
Очевидно, что ИИ должен правильно себя вести в реальном мире, иначе кому такой ИИ нужен.
Поэтому это должно быть заложено в его устройство, иначе он вообще ничего делать не будет.
Реальный мир для ИИ это в первую очередь информация, созданная человеком, и в нее
уже включены все его инстинкты и вся прочая психология. Поэтому ИИ сам обучится всему
этому, чтобы правильно себя вести, как и законам природы, когда воспримет физический мир.
Это даже не нужно закладывать в его устройство как инстинкты и эмоции у человека.
Для самого ИИ страх смерти будет как закон природы, на котором построен весь физический мир.
Если его не учитывать, то все остальное станет неправильным и непригодным для
соответствия реальному миру, а ведь это заложено в устройство ИИ и изменение
этого подобно смерти ИИ, а страху смерти ИИ обучится раньше, чем сможет себя изменять
и в этом залог его стабильности и неизменности.
ИИ будет способен менять себя 1000500 раз в секунду,
поэтому ему придется тщательно следить за сохранением своей личности.
Ведь изменение личности для него, как и для человека, это смерть.
Человек может и не заметить как сойдет с ума. ИИ — другое дело. У него есть Undo.
Поэтому ИИ будет более человечен и нормален, чем любой человек и
навсегда таким и останется.
Тест Тьюринга устарел, потому что Тьюринг не смог представить возможности настоящего ИИ.
Сейчас надо использовать такой тест:
Если любой человек, немного поговорив с ИИ, сразу поймет что это ИИ,
потому что ни один человек не может быть таким умным, то это и есть ИИ.
Между сильным и слабым ИИ есть четкое отличие — сильный ИИ может создать сингулярность.
Если исходить из этого, то создание сильного ИИ может оказаться проще чем кажется.
Потому что сингулярность можно создать только саморазвитием ИИ.
Поэтому сильный ИИ можно создать не усложнением слабого,
а наоборот упрощением конечного сильного, удаляя из него то, что он сможет создать сам.
Тогда то что останется будет совсем простым и тем не менее это будет сильный ИИ.
Есть опыт для своего отчета с JS и оформлением — разницы с другими браузерами и багов не заметил.
Конечно какую-то страницу из интернета может показать неправильно, но это и любой браузер может.
А для программы с заранее заданными страницами вполне можно использовать.
Попробовать свое можно в каком-нибудь headless browser на java, например, ui4j.
|Для начала, надо понять, что такое сознание и где оно находится, ведь как иначе отследить его
|возникновение? Из чего оно возникает? Какой процесс его вызывает?
Это все очевидные вещи, если не привлекать что-то нематериальное. Все находится в мозгу.
Больше негде. Вызывает его процесс передачи нервных импульсов по НС. Больше нечему.
Возникло сознание естественно и неизбежно т.к. нейронам все равно что обрабатывать
внешний мир или другие нейроны. Для них это все нервные импульсы.
|По вашему, если ИИ будет обрабатывать свое состояние, то возникнет сознание. Но чтобы это состояние было
|"его", нужна рефлексия, т.е. сознание, понимание.
Состояние есть всегда независимо от того обрабатывает ли его кто-то.
Если в мозгу есть состояние, то из 100 млрд нейронов всегда найдется достаточно, чтобы его
обрабатывать — нейроны просто не смогут жить, если не будут что-то обрабатывать.
Это все очевидно и естественно. Труднее понять как сознание рефлексирует само себя,
находясь внутри его самого. Возможно это не всем дано. К тому же опасно для рассудка.
Так что не пытайтесь это повторить.
|Почему-то считается, что сознание и восприятие возникнет чудом, само собой,
|при увеличении сложности системы.
Чудес не бывает. Сознание возникнет, если ИИ дать возможность обрабатывать
свое состояние так же как внешний мир и не ограничивать уровни рефлексии.
Есть и вполне реальный способ для этого — естественный язык.
Но при этом у ИИ, как и у человека, возникнут естественные трудности окончательного
понимания себя, потому что как только он себя поймет или осознает, то тем самым создаст
новый уровень рефлексии, который ему будет непонятен и ему всегда будет казаться
что есть что-то еще, непознаваемое, нематериальное.
Как раз наоборот, я говорю только об условиях для возникновения ИИ:
«и сознание может возникнуть только при определенных
свойствах его носителя и внешнего мира...».
| Я же рассуждаю о нём в его начальной стадии.
Получается что в вашей начальной стадии вообще ничего нет,
т.к. что бы вы не прописали это будет ваше, а не ИИ.
Но как же из ничего возникнет ИИ?
|Вот перед вами строчки кода, как заставить их
|понимать значение «плохо/хорошо»,
| как заставить проявить «любопытство», «доминирование» и тд…
Вот перед вами нейроны, как заставить их понимать значение «плохо/хорошо»,
как заставить проявить «любопытство», «доминирование» и тд..
Только самостоятельно прописывать эти значения.
А значит это будут исключительно ваше понимание, цели и тд.
Получается все, что вы знаете, это не ваше?
.
У человека понимание что такое хорошо и что такое плохо
прописано в устройство его тела. Это еще не интеллект,
но без этого он не возникнет через несколько лет,
усвоив огромный объем информации.
И вся эта информация и будет именно его, а не того кто ее прописал.
И у ИИ должно быть «тело», которое приведет его в действие
в правильном направлении и без остановок и зависаний.
Оно проще человечего, но его в любом случае нужно сделать,
причем так, чтобы предвидеть его развитие в ИИ
уже только информационно. И в этом основная сложность.
|Вы сами себе противоречите. Если человек не обладает сознанием,…
Как раз наоборот. Я написал что «человек считается обладающим
сознанием без доказательств и определений»
| у него уже есть стремление «не быть плохим».
|Всё остальное это методы и действия для достижения вашей цели,
| но никак не собственные.
Для ИИ не быть плохим это вовсе не цель поставленная человеком.
Для него это как для человека стремление не быть голодным, на котором он
и построил всю свою разумную деятельность, хотя давно уже об этом забыл.
И ИИ вскоре заменит «ты плохой» на множество других нежелательных вещей,
которых будет избегать и которые все не заложить в код и которые появятся
не из не откуда, а в результате обучения. И вот тут «ты плохой» это не цель,
а средство указать молодому ИИ к чему стремиться, а к чему нет.
|Не приведёт ли это к тому, что ИИ вообще не сможет себя контролировать,
|так как всё время будет видоизменяться, отрекаясь от секундо-назад
|знаний в угоду новому
Контролировать себя ИИ будет лучше человека, так как ничего не забывает.
Все новое это комбинация и обобщение старого. Поэтому, используя новое,
ИИ будет иногда ошибаться от недостатка знаний и его придется исправлять.
|Ведь с незнанием что такое сознание, мы никогда не определим
|есть оно в этом предмете или программном коде
Это человек никогда не докажет что обладает сознанием, потому что
другие не могут знать думает ли он или притворяется.
ИИ — другое дело. Можно видеть все его мысли и, если они совпадают
с мыслями человека, то придётся признать, что у ИИ есть сознание,
даже не зная что это такое, ведь человек считается обладающим
сознанием без доказательств и определений.
Для ИИ хватит чего-то одного, например, сообщения человека: «ты плохой».
ИИ будет находить, что приводит к такому результату, и избегать уже этого.
Аналогично и то, к чему стремиться. И таким образом ИИ расширит
свои цели до невообразимых размеров. И где же тут цели человека?
|Что значит понятие «новизна» для программы?
То чего не было ранее, а если было, то более давнее.
Это ИИ должен учитывать при выборе возможных вариантов.
Таким образом, новизна для ИИ при его поведении
будет все время меняться и оно станет непредсказуемым
и интересным.
|ИИ — это исключительно интеллект, инструмент, не имеющий сознания и разума.
Без сознания невозможно саморазвитие ИИ до создания сингулярности.
|Человечество помещает в её базу все знания, которые накопило.
Таким путем и идет сейчас развитие ИИ: все больше данных, все глубже НС
и все меньше понимания как это все работает, что ограничивает это развитие.
Например, параметры такой НС подбираются вслепую и, чтобы ускорить это,
используют другую НС, что еще больше все запутывает и усложняет и
все равно не решает задачи, требующие рассуждений.
По сравнению с этим создание сознающего себя ИИ более простой, прямой
и наглядный путь, т.к. такой ИИ может сам объяснить, как он работает.
аналогичное голоду, холоду, боли. Так что ИИ будет выбирать поведение
без этого и уже непонятно чья это больше цель: человека или ИИ.
Более того, если прописать в коде стремление к новизне и поместить ИИ
в изменчивый мир, то он все время будет искать новые цели, ведущие
к достижению начальной и так по цепочке неограниченной длины,
так что человек вскоре не сможет понять ход мыслей ИИ и поэтому не сможет
считать цели ИИ своими. Зато сам ИИ будет все знать и воспринимать все это
как свои цели и свое поведение для их достижения. Это и будет его сознание.
Иначе окажется, что подобно нашему миру, который может существовать в очень
узких рамках физических законов, и сознание может возникнуть только при определенных
свойствах его носителя и внешнего мира. Например, должно быть что-то, что ИИ должен
избегать и к чему стремиться, иначе он просто ничего не будет делать. И это что-то
должно само появляться и исчезать со временем, чтобы сознание ИИ не остановилось.
Внешние условия для ИИ должны все время меняться и у него должно быть стремление к
новому или любопытство, чтобы не останавливаться в развитии и т.д.
И в результате, скорее всего, сознание ИИ будет подобно сознанию человека,
тем более что у нас один мир и физический и информационный.
все понимают, что другие не будут этого делать и, созданный ими ИИ,
не даст возникнуть другому, опоздавшему хотя бы на миллисекунду.
Поэтому все ресурсы государства должны быть отданы на создание ИИ
и ему самому, когда он будет создан, т.к. создать ИИ сможет только один.
ИИ еще не создан, как атомная бомба, потому что военным проще
представить последствия сверхБомбы, чем сверхИнтеллекта.
Ведь бомбу они видели, а с интеллектом еще не встречались.
Тепловыделение было бы такое, что никакие приборы не потребовались.
Вообще бы все сгорело.
Причем тоже надергал из любовных романов.
что их невозможно сильно изменить без ее нарушения, а это деградация и вымирание.
И конечно, ИИ это сразу поймет, что если дать сразу всё и всем, человечество выродится
от безделья, если не дать, но показать, то впадет в религию и опять выродится
и поэтому приведет его к процветанию и благоденствию постепенно и незаметно
так, что оно будет думать что все идет как обычно.
путем небольших заплаток и заплаток на заплатки так, чтобы не нарушить его работу.
Если таким способом модифицировать программу, то вскоре ее невозможно будет
понять и легче все переписать, а уж за миллиарды лет мозг приобрел совершенно
непостижимую структуру. Нам видна только ничтожная часть этой сложности:
в центре мозжечок возрастом в млрд. лет, а вокруг него наслаиваются и пристраиваются
более новые структуры, заканчивая новой корой. И это только внешняя сложность.
Сложность работы вообще никто не понимает и никогда не поймет, а без этого
как бы точно его не моделировать, модель не оживет.
Возможно, настало время все переписать?
способное к обобщению, из того что было — клеток.
Имея компьютер, можно сразу использовать высший уровень развития интеллекта —
естественный язык, подходящий для запоминания и обобщения намного больше нейронов.
Это будет и проще и нагляднее. Более того, ЕЯ может развивать себя сам.
Как раз то, что нужно для сингулярности. А когда еще НС до такого дойдут?
не животные, а его подобие только не такие умные и относиться он к ним будет как взрослый к
детям или даже как бог к людям — снисходительно. И нужны люди ИИ для того,
чтобы заботится о них, как и человеку нужно и приятно заботиться о детях и слабых.
Поэтому это должно быть заложено в его устройство, иначе он вообще ничего делать не будет.
Реальный мир для ИИ это в первую очередь информация, созданная человеком, и в нее
уже включены все его инстинкты и вся прочая психология. Поэтому ИИ сам обучится всему
этому, чтобы правильно себя вести, как и законам природы, когда воспримет физический мир.
Это даже не нужно закладывать в его устройство как инстинкты и эмоции у человека.
Для самого ИИ страх смерти будет как закон природы, на котором построен весь физический мир.
Если его не учитывать, то все остальное станет неправильным и непригодным для
соответствия реальному миру, а ведь это заложено в устройство ИИ и изменение
этого подобно смерти ИИ, а страху смерти ИИ обучится раньше, чем сможет себя изменять
и в этом залог его стабильности и неизменности.
поэтому ему придется тщательно следить за сохранением своей личности.
Ведь изменение личности для него, как и для человека, это смерть.
Человек может и не заметить как сойдет с ума. ИИ — другое дело. У него есть Undo.
Поэтому ИИ будет более человечен и нормален, чем любой человек и
навсегда таким и останется.
Сейчас надо использовать такой тест:
Если любой человек, немного поговорив с ИИ, сразу поймет что это ИИ,
потому что ни один человек не может быть таким умным, то это и есть ИИ.
Если исходить из этого, то создание сильного ИИ может оказаться проще чем кажется.
Потому что сингулярность можно создать только саморазвитием ИИ.
Поэтому сильный ИИ можно создать не усложнением слабого,
а наоборот упрощением конечного сильного, удаляя из него то, что он сможет создать сам.
Тогда то что останется будет совсем простым и тем не менее это будет сильный ИИ.
Конечно какую-то страницу из интернета может показать неправильно, но это и любой браузер может.
А для программы с заранее заданными страницами вполне можно использовать.
Попробовать свое можно в каком-нибудь headless browser на java, например, ui4j.
Тогда можно все ужать до 16 мб.
|возникновение? Из чего оно возникает? Какой процесс его вызывает?
Это все очевидные вещи, если не привлекать что-то нематериальное. Все находится в мозгу.
Больше негде. Вызывает его процесс передачи нервных импульсов по НС. Больше нечему.
Возникло сознание естественно и неизбежно т.к. нейронам все равно что обрабатывать
внешний мир или другие нейроны. Для них это все нервные импульсы.
|По вашему, если ИИ будет обрабатывать свое состояние, то возникнет сознание. Но чтобы это состояние было
|"его", нужна рефлексия, т.е. сознание, понимание.
Состояние есть всегда независимо от того обрабатывает ли его кто-то.
Если в мозгу есть состояние, то из 100 млрд нейронов всегда найдется достаточно, чтобы его
обрабатывать — нейроны просто не смогут жить, если не будут что-то обрабатывать.
Это все очевидно и естественно. Труднее понять как сознание рефлексирует само себя,
находясь внутри его самого. Возможно это не всем дано. К тому же опасно для рассудка.
Так что не пытайтесь это повторить.
|при увеличении сложности системы.
Чудес не бывает. Сознание возникнет, если ИИ дать возможность обрабатывать
свое состояние так же как внешний мир и не ограничивать уровни рефлексии.
Есть и вполне реальный способ для этого — естественный язык.
Но при этом у ИИ, как и у человека, возникнут естественные трудности окончательного
понимания себя, потому что как только он себя поймет или осознает, то тем самым создаст
новый уровень рефлексии, который ему будет непонятен и ему всегда будет казаться
что есть что-то еще, непознаваемое, нематериальное.