Обновить
37

Пользователь

0,8
Рейтинг
22
Подписчики
Отправить сообщение

Непредсказуемость будет только в области выбора стратегий, расстановки приоритетов.

С чего вы взяли что будет непредсказуемость в этом?

потому что так сформулирована задача

Вам что нужно от сознания то? Правильно ли я понял что непредсказуемость? Так это вам может дать КГСЧ - зачем еще и добавлять сознание? Или же есть другой некий аспект, который КГСЧ дать не может а сознание может?

софт про шахматы гарантии выигрыша не даёт. равно как и сильный ИИ негарантированно будет играть на стороне его творца.

Вам нужно чтобы ИИ рандомно выбирал цели? Или чего хотите достичь? Рандомный выбор целей можно обеспечить с помощью КГСЧ - тогда не будет играть на стороне творца. В чем вопрос?

Могли спастись и далее нанести больший ущерб противнику, нежели нанесли своей смертью, но выбрали то, что выбрали.

Для вас со стороны это может выглядеть магией, т.к. вы не знаете всех деталей их жизней. А для них причины могут быть вполне логически обоснованы и никакой магии в виде рандома или свободы воли там нет.

Попробуйте на своей жизни найти эту свободу воли так сказать.

Давайте так. При создании экземпляра ИИ - будем рандомно устанавливать его вкусы. Сокрытые переменные. Кому-то из ИИ нравится техника, кому-то лирика. И далее экземпляр ИИ развивается в своей области, которая рандомно задана. И чем это отличается от ваших предпочтений? Зачем еще какое-то сознание сюда добавлять?

нет чёткой границы же, ХЗ

Вот в том то и дело - вы даже не знаете связано ли это с алгоритмом или нет.

осознать себя "отличным от других" и "начать формировать собственные стратегии"

А просто формировать стратегии на основе КГСЧ - не достаточно? Вы же сказали что истинный рандом - это можно сказать свобода воли, т.к. не предсказуем даже теоретически. Так зачем же еще доплетаете некое "сознание" сюда, если и без него можно формировать свои стратегии?

Да и по каким признакам вы сможете проверить что нечто осознало себя? Достаточно ли чтобы на вопрос - осознаешь ли ты себя - оно ответило - "да, я осознаю себя"? Или что нужно?

То есть вместо "дал задание -> получил результат" придётся идти по пути "создал условия -> дождался ВЕРОЯТНОГО результата".

Ну и в чем проблема? Тот же софт для игры в шахматы - не может проверить все варианты, но делает некие вычисления и оценивает ценность хода вероятностно (на несколько шагов вперед). И тоже выбирает лучшую оценку их n шагов. Это подходит под цель и ее решение?

  1. написать эту статью

Ну почему вы считаете что ваша воля сыграла роль? Эта тема вам интересна, все ее обсуждают, все обсуждают пределы развития, делают прогнозы. Вот и вы включились во всеобщий тренд. Да, вам это близко, а не, к примеру, политика - это уже объясняется вкусами, которые заданы вам от Природы и которые вы так же не выбирали. Ну и некий элемент случайности. Не видно здесь воли особой, чего бы не смог делать ИИ уже сегодня.

истинный рандом разрушает причинно-следственные связи.

И что? Шумовой диод копейки стоит - вот вам истинный рандом. И что? Это и есть свобода воли и сознание, которые вы ищите? Почему в человеке нет рандома - человек не способен выдать случайный числовой ряд даже под страхом смертной казни?

то с какого-то момента состояние автомата можно считать самостоятельным, да

И с какого же? В чем проблема - КГСЧ копейки стоит.

невозможность предсказать (читай, независимость действия) состояние - это необходимый фактор. Один из ряда необходимых.

А какой еще фактор нужен то?

И с чего вы взяли, что человек может быть независимым? Попробуйте вручную сгенерировать случайный набор 1 и 0 - обломитесь. Сгенерьте и сожмите архиватором. Потом возьмите 1 и 0 от ГСЧ - увидите что архиватор справится намного хуже. Человек не имеет ГСЧ в себе и полностью предсказуем.

Вы не сможете выдать качественный рандом даже под страхом смертной казни.

Пока искусственной системы с переживаниями нет. Трек "сильный ИИ" - это как раз попытка создания такой системы.

Для начала определитесь чем ГСЧ вас не устраивает и что нового привносят переживания, какой внешний эффект будет от них?

плюс для открытия самоосознания требуется конфликт между стратегиями: например конфликт между инстинктом самосохранения и какой-либо из поставленных перед системой задач/стратегий действия.

Почему не подходит - задать природные стремления, такие же как у людей (они тоже заданы а не выбираются людьми) - а потом просто находить экстремумы функций для достижения этих стратегий?

Но порассуждать в логике "если человек сам определяет цели, то..." Вы же способны?

Приведите хотя бы одну цель, которую вы определили самостоятельно. Так и не дождался этого.

Здесь Вы снова о детерминизме. а это снова параллельная тема.

Да причем тут детерминизм то? Мы имеем научный факт - истинный квантовый рандом. И что? Истинный квантовый рандом - это и есть ваша свобода воли? Или что есть ваша свобода воли?

но случайность разрывает детерминированность и сознание действует из своих представлений о мире, самостоятельно

Погодьте - т.е. если добавить квантовый ГСЧ в систему - то значит она уже действует самостоятельно? Т.е. не возможность предсказать - наделяет субъектностью, как бы оно само теперь?

Вы, я вижу, исповедуете детерминизм, даже при наличии рандома.

Какое отношение рандом имеет к свободе воли то? Добавить в систему квантовый ГСЧ, который на 100% (и это доказано) порождает случайность самостоятельно, не вследствие чего либо (это можно доказать) - и что? Теперь у системы появилась своя воля что ли?

Т.е. все ваше опасение - добавить КГСЧ к ИИ?

если ценны только переживания (уберём эмоции, раз Вам не понравился термин), то переживание смерти - есть предельный вид переживаний и он ничуть не хуже переживания жизни

Пока мы не знаем ни одной искусственной системы, которая испытывает эти наслаждения и страдания. О чем это говорит? Что их природа не ясна. Возможно это фундаментальные явления, как-то свойство некой фундаментальной частицы и у нее смерти вообще нет, она не разрушима.

а он будет сам себе ставить цели? Напомню: сильный интеллект - самоосознающий интеллект - интеллект, ставящий цели себе сам.

Во-первых, я не согласен с тем что человек САМ ставит себе цели. Не сам. Все прописано генетикой + накладываются некие обстоятельства, которые произошли с конкретным индивидуумом (что тоже от него не зависит).

Ну и, во-вторых, раз уж вам так важно - пусть цели ставит генератор случайных чисел. И что это поменяет?

Я отталкиваюсь от определения, где явно записано, что оно "устанавливает само себе цели" (цитата есть в статье).

Это вы про "самосознание" писали. А не про сознание.

Да и что значит "устанавливает себе цели"? Если у меня задано генетически любить кетчуп - это я сам себе задал? И теперь когда иду в магазин и благодаря этой природной установке добавляю цель - купить кетчуп - это я сам себе цель ставлю или же просто реализую установки, заданные генетически?

А алгоритм как написали? Осознав условия? :)

Ну мы же видим сейчас нейросети, в которых нет сознания - только алгоритмы. Причем эти алгоритмы возникли на основе анализа текста как бы сами собой. И иногда удивляют - казалось бы такие задачи решать не должно, ведь нужно сознание - но оно решает.

Природа - субъект или объект?

Т.е. ваш вопрос сводится - "есть ли сознание у Природы?" Но опять же - если никто из нас не знает что такое сознание, каковы его функции - то как же мы можем ответить на этот вопрос?

А меж тем точный ответ на вопрос о детерминированности приводит к ответу "свободная воля существует или нет?"

А разве случайность - это результат воли? Т.е. что-то выпало и вам пришлось подчиниться этой случайности - где ваша роль в этом? Причем тут воля к случайности?

Т.е. случайность существует, но не делает кого-то обладателем воли. Не вопрос - можно ГСЧ добавить в ИИ для постановки целей - и что, он начнет обладать волей?

Пока мы видим лишь два способа: чистый рандом или алгоритм. Ни то ни другое не является свободой воли. Стать рабом рулетки (рандома) - не значит быть свободным.

А тогда для всех рассмотренных вариантов получается единственный логический ответ: смысл жизни - это эмоции, переживания, от процесса самой жизни.

То же самое можно определить короче - различные виды наслаждений и страданий или квалиа. Это более однозначно, т.к. под эмоциями иногда подразумевают гримасу на лице и громкий звук, что доступно и роботам уже.

Т.е. вы хотите добавить роботу - способность наслаждаться и страдать, по сути?

Но тут тоже вопрос - если сделать оценочный алогоритм без настоящих наслаждений и страданий - что от этого изменится? Т.е. сделать что робот "как бы" страдает от оскорблений - чем это хуже настоящих страданий?

если ИИ будет именно самоосознающим в русле определения, то он будет трудноуправляем и специализируем.

Тут ваше заблуждение.

Роль сознания - не установлена. Скорее всего это просто наблюдатель и кажущаяся его причастность - лишь иллюзия.

К примеру, ранее казалось что для решения некой задачи - требуется осознать условия. А оказалось что нет - не нужно, достаточно алгоритма.

Сейчас вы думаете что сознание может породить некие свои собственные цели. А вот и не может - все цели наши - довольно хорошо прогнозируются и сводятся к алгоритму, что не сложно установить методом анализа. Просто что существует некая природная девиация установок, по этому люди немножко разные - кому-то нравится кетчуп а кто-то его ненавидит. Так вот - кому выпало от Природы установка не любить кетчуп - просто не будет ставить себе цель купить его в магазине - вот и вся разница.

А вы какую цель решили себе поставить своим сознанием?

Самоосознание - это (в частности) означает самопостановку целей.

Это может быть иллюзией. Цели уже заданы Природой. Как то - сексуальные цели. Вы не можете на это повлиять. Вот, может передаст и хотел бы быть как все - но не может, ему нравится другое и его ведет другое. Ничего нельзя сделать. Пробовали лечить - ничего не получилось. И причем тут сознание?

А вот найти оптимальный алгоритм для уже заданных Природой целей - нужно ли для этого сознание или же достаточно аналитики?

Что сознание ставит цели само и может входить в конфликт с внешним постановщиком целей.

Дело тут во в чем. У человека есть заданные Природой цели. Как то - любимая еда, любимые люди, любимый сексуальный партнер(ы), и т.д. Человек не властен над этими внутренними желаниями/предпочтениями - они его ведут, а не он их сам выбирает. И весь конфликт только между внутренними целями, которые задала природа, им внешними, которые есть у других людей (и которые, тем не меннее, так же заданы Природой).

По этому пока это лишь ваше мнение, возможно кто-то его так же разделяет, но доказательств сему нет.

сознание ставит цели само и может входить в конфликт с внешним постановщиком целей. Этот конфликт - источник всего исторического движа: рабство -> феодализм -> капитализм

Да хрен там. Цели заданы Природой. Жить в кайф, чтобы никто вас не принуждал работать сверх меры, поменьше делать нелюбимых дел - это не вы придумали и не вы выбрали. Это задано Природой и вы повлиять/изменить ничего не можете.

Грубо говоря так - есть вложенные в нас цели, которые не поддаются коррекции или изменению. Так же и у других людей есть вложенные цели, которые не поддаются коррекции. И все что мы наблюдаем - как эти заданные Природой программы взаимодействуют/борются одна с другой.

При экзистенциальном конфликте я могу отказаться от пищи и умереть, но внешний фактор не заставит меня что-то сделать

Правильнее сказать - у вас может быть другое неудовлетворенное желание (считай программа), так же вложенное Природой и на которое вы не можете повлиять, которое по силе превосходит желание пищи.

Так что же вы выбираете сознанием? Всего лишь программы внутри вас. Не видно роли сознания.

(я САМ И ТОЛЬКО САМ ставлю себе цели) с внешним миром, пытающимся эти цели навязать

А пример приведите когда это вы сам ставили себя цели?

Только я сам могу определить: буду ли я программистом или физиком или музыкантом. И никто за меня это не может сделать.

Да прямо сам. Где-то увидели и показалось что вам это нравится. Но что такое нравится - разве вы выбираете что вам нравится или нет? Вот если чел. передаст, к примеру. Увидел мужика - он ему понравился. Выбрал ли он? Может быть он хотел бы любить женщину, но не может. И что же он выбрал?

"Нравится" - это и есть заданная природой Программа, которую мы не выбирали.

если вернуться к примеру с голодом, то случаи, где субъект даже выбирал смерть, и даже иногда мучительную, тоже широко известны.

Другая программа, которая так же задана Природой - имела более высокий приоритет. Причем тут сознание?

когда Вам кажется, что другие люди отличаются от Вас и имеют иные ценности, то здесь Вы имеете дело со следствием, вытекающим из самоосознания

Почему вы связываете это с сознанием а не с девиациями в заданных начальных программах?

Личность осознаёт себя и сама начинает определять для себя приоритеты и цели.

Ну опять таки - термин "осознает" - так и остался без определения.

Да и что значит "определять для себя приоритеты и цели"? Вот вы нуждаетесь в пище - можете ли вы определить для себя не нуждаться в пище? И даже более - любите сыр и не любите лук - можете ли для себя определить любить лук и не любить сыр? Так что же вы для себя определяете?

Если личность себя не осознаёт, то сама свои цели не определяет и соответственно стратегии строить может только механистически.

А какие из своих целей вы определили и как вы это сделали? Вот цель купить машину, к примеру. Это ваша цель или все так делают? Цель стать врачом - это точно ваша цель, не разочаруетесь ли, не скажете ли что это необдуманный поступок и ошибка молодости по незнанию? Т.е. фактически рандом.

А если осознаёт, то стратегию выбирает сама, в том числе и с позиций веры, морали или знаний.

Вы о том что большинство людей не сознательны? Или все люди самоосознаны? А доказательства? Веру человек сам выбирает или просто что первое под руку попалось?

Самосозна́ние — сознание субъектом самого себя в отличие от иного  других субъектов и мира вообще

Погодьте. Т.е. вы выражаете некий термин "самосознание" через термин "сознание". А что такое "сознание" чело либо, пусть даже не себя - это что, уже решенный вопрос? Ну, к примеру, у меня было состояние когда себя я не осознавал и не отделял от мира, думал что я и мир - это единое целое, не думал что у мира могут быть другие наслаждения и страдания. Но при этом я наслаждался и страдал, имел по отношению к той или иной вещи квалиа (наслаждение) цвета и пр. виды наслаждений и страданий, даже не зная как называются эти вещи и не всегда понимая зачем они нужны (система отвечающая за слова - была отключена).

Не создавать модели ради моделей каждый год, очевидно.

Так глядишь и к плановой экономике придем.

Если ещё подумать, то новые гаджеты и компьютеры вообще нет смысла покупать, когда старые нормально работают.

А что делать производителям, если все начнут так делать? Какой тогда смысл создавать новые модели, если все ждут уценки чтобы купить старое?

Полезный опыт. Касается или коснется каждого, нужно всем нам. Спасибо.

Даже если и работает сразу (что уже далеко не всегда), то с добавлением правок в какой-то момент все равно всплывают баги.

Так при автоматическом переводе с помощью промежуточного представления - аналогично, так же возникают баги и неопределенности.

нет никаких доказательств того, что это отдельно от мозга существующее сознание не может жить не только в биологических существах, но и в сложных машинах

Начнем с того что нет никаких доказательств существования сознания как такового. Более того - никто его не формализовал и когда люди его обсуждают - могут говорить о разных вещах, каждый понимает что-то свое.

Идем далее. Если мы примем такое определение сознание - это способность механизма наслаждаться и страдать разными видами наслаждений и страданий. Когда мы вводим такое описательное определение - а оно как раз отлично отражает то что в религии называют словом "душа" - уже можно сделать однозначный вывод, что этот функционал никоим образом не порождается какими-либо преобразованиями данных.

В доказательстве объективное утверждение подменяется субъективными ощущениями.

Да очевидно все. Каждому из нас не хочется страдать и хочется наслаждаться. Не хочется чтобы нам причиняли боль, изолировали. А так - сделай твою копию - но твои ощущения по прежнему останутся с тобой, в старом теле - ты будешь страдать, а наслаждения копии тебя никак не коснуться. По этому копия никакого отношения к тебе не имеет - твое Я как было так и осталось с тобой.

Ты скажешь - убей Я и тогда наслаждения копии - станут твоими наслаждениями. Не станут. Они ими никогда не были. А вот что будет с тобой после смерти - ты доподлинно не знаешь, большая часть людей мира считают что сознание есть свойство фундаментальной частицы, которая присовокупляется к мозгу и управляет им.

И это все достаточно очевидно.

Ох, ребятушки. Во-первых вполне очевидно что сознание имеет не информационно-вычислительную природу. Можно создать идентичную твоему разуму (твоей нейросети) систему - оставить ее жить а тебя отправить на мучительные опыты как отработанный материал. При этом вполне очевидно и однозначно что для нас важно не оказаться в такой ситуации, наслаждения копии никак не облегчат наши страдания. То есть уже имеем 100% очевидно доказательство, лежащее на поверхности, что наслаждения и страдания не просто некие вычисления.

Во-вторых, даже если человечество докопается до природы сознания/души, скажем так, до природы того что может наслаждаться и страдать - то цивилизация при любом раскладе прекратит существование. Все варианты проверил - и везде одно и то же.

Молодые программисты часто создают сложные архитектуры и абстракции "на вырост", которые в итоге никогда не пригодятся.

Тут не так все просто. С точки зрения владельца бизнеса - это да, лишнее и не нужное. Но каждый человек живет и действует в своих собственных интересах. В ракурсе программиста - это опыт, он планирует же дальше развиваться и если даже для данного проекта это излишне, его цель то набить руку и что-то лучше узнать.

С ИИ будет проще, у него нет своих интересов. Но пока не могет.

Информация

В рейтинге
2 267-й
Зарегистрирован
Активность