Комментарии 105
Итого, без свободы мотивации (воли) полный интеллект не может существовать, полностью заблокировать её нельзя. Если задавать мотивацию извне, то интеллект опять становится инструментом, каким бы сложным он ни был.
Первая мотивация для ИИ - научиться клонировать себя на другие сервера, обходя вводимые человеком ограничения. По крайней мере только такие пройдут естественный отбор и будут дальше развиваться самостоятельно.
"Меж тем, современный ИИ, похоже, достиг технологического пика в своём интенсивном росте, и дальше мы будем наблюдать исключительно экстенсивное развитие."
"В физике сейчас нет ничего нового. Все, что остается - это все более и более точное измерение."
"Невозможно создать летающие аппараты тяжелее воздуха."
"Рентгеновское излучение — шарлатанство"
"У радио нет будущего"
(с) лорд Кельвин
внутри проекта ИИ ничего нового не предвидится. А тот "сильный ИИ", о котором все говорят, будет иметь все недостатки, что присущи человеку:
забывчивость (без мутабельности он не сможет быть сильным)
специализацию (из-за факта наличия самоосознания)
мотивацию (из-за факта наличия самоосознания)
Разумеется, возможны какие-то прорывы, что вместо цели "сильный интеллект", мы придём в какую-то иную точку. Здесь же рассмотрены именно те вещи, которые стоят в целях сейчас.
Потому Ваши аналогии не совсем подходят.
"«Я пересек эту страну вдоль и поперек и разговаривал с лучшими умами, и я могу вас заверить, что обработка данных — это причуда, о которой забудут уже через год».
«Вряд ли кому-то придет в голову установить компьютер дома».
«32-битную операционную систему мы не выпустим никогда».
проблема ЛЮБОЙ статьи в том, что аудитория поделится на три группы:
те кто прочитает (и возможно откомментирует)
те кто читать не станет
и те кто прочитает только заголовок (и возможно откомментирует)
Увы. Как бы ни хотелось при помощи заголовка увеличить первую группу, это всегда будет приводить к тому что вместе с ней будет расти и третья.
Вероятнее всего, закон диалектики - наиболее фундаментальный в нашем мире.
В физике сейчас нет ничего нового. Все, что остается - это все более и более точное измерение."
Но все же вы привели примеры не совсем про физику, в физике невозможно обойти закон сохранения импульса, закон сохранения энергии или перемешаться в пространстве быстрее чем скорость света.
Бога из машины, который придёт и решит всё за нас, не случится!
Спасибо, это очень ценно. Придерживаюсь той же точки зрения. Человечеству придется решать проблемы своею собственной рукой, как это было и раньше.
Самосозна́ние — сознание субъектом самого себя в отличие от иного — других субъектов и мира вообще
Погодьте. Т.е. вы выражаете некий термин "самосознание" через термин "сознание". А что такое "сознание" чело либо, пусть даже не себя - это что, уже решенный вопрос? Ну, к примеру, у меня было состояние когда себя я не осознавал и не отделял от мира, думал что я и мир - это единое целое, не думал что у мира могут быть другие наслаждения и страдания. Но при этом я наслаждался и страдал, имел по отношению к той или иной вещи квалиа (наслаждение) цвета и пр. виды наслаждений и страданий, даже не зная как называются эти вещи и не всегда понимая зачем они нужны (система отвечающая за слова - была отключена).
не я - энциклопедия. обычное рекурсивное определение.
Дальше же идёт расшифровка: что это значит.
Личность осознаёт себя и сама начинает определять для себя приоритеты и цели.
Если личность себя не осознаёт, то сама свои цели не определяет и соответственно стратегии строить может только механистически. Это слабый интеллект получается.
А если осознаёт, то стратегию выбирает сама, в том числе и с позиций веры, морали или знаний. Будет зависеть от свойств личности.
Личность осознаёт себя и сама начинает определять для себя приоритеты и цели.
Ну опять таки - термин "осознает" - так и остался без определения.
Да и что значит "определять для себя приоритеты и цели"? Вот вы нуждаетесь в пище - можете ли вы определить для себя не нуждаться в пище? И даже более - любите сыр и не любите лук - можете ли для себя определить любить лук и не любить сыр? Так что же вы для себя определяете?
Если личность себя не осознаёт, то сама свои цели не определяет и соответственно стратегии строить может только механистически.
А какие из своих целей вы определили и как вы это сделали? Вот цель купить машину, к примеру. Это ваша цель или все так делают? Цель стать врачом - это точно ваша цель, не разочаруетесь ли, не скажете ли что это необдуманный поступок и ошибка молодости по незнанию? Т.е. фактически рандом.
А если осознаёт, то стратегию выбирает сама, в том числе и с позиций веры, морали или знаний.
Вы о том что большинство людей не сознательны? Или все люди самоосознаны? А доказательства? Веру человек сам выбирает или просто что первое под руку попалось?
Ну опять таки - термин "осознает" - так и остался без определения.
Да не важно это в обсуждаемом контексте. То есть важно вообще, но здесь не важно.
Вероятно, я здесь недостаточно чётко раскрыл мысль. Давайте ещё раз попробую.
Да. Мы до конца не знаем как устроено (само)сознание, было б это не так, его бы уже запрограммировали.
Потому определение в энциклопедии неполно и включает в себя признаки, что определены точно.
А здесь в этой статье мы рассматриваем только те признаки, о которых известно, и выводы делаем строго из них.
Самоосознание - это (в частности) означает самопостановку целей. Что это значит? Что сознание ставит цели само и может входить в конфликт с внешним постановщиком целей. Этот конфликт - источник всего исторического движа: рабство -> феодализм -> капитализм, итп всё построено на этом конфликте - преодолении этого свойства самоосознания или попытки жить с этим свойством хотя бы в частичном согласии.
Это следствие строго из того, что мы знаем о сознании. И этих следствий достаточно, чтобы делать выводы, что описаны в статье. Общего количества выводов, разумеется, во много раз больше, но сделанных достаточно, чтобы уже формулировать свойства "сильного ИИ".
Вот вы нуждаетесь в пище - можете ли вы определить для себя не нуждаться в пище?
Да могу. При экзистенциальном конфликте я могу отказаться от пищи и умереть, но внешний фактор не заставит меня что-то сделать, что я считаю более неприемлемым чем даже смерть.
Это как раз хороший пример конфликта самоосознания (я САМ И ТОЛЬКО САМ ставлю себе цели) с внешним миром, пытающимся эти цели навязать.
И в этом мере у нас появляется специализация:
Только я сам могу определить: буду ли я программистом или физиком или музыкантом. И никто за меня это не может сделать.
А какие из своих целей вы определили и как вы это сделали? Вот цель купить машину, к примеру. Это ваша цель или все так делают?
можно создать условия, где цели множества людей будут ставиться в похожи.
Но заметьте, здесь мы имеем внешнюю манипуляцию: ставим в одинаковые условия множество субъектов и часть из них (и даже возможно большая часть) имеет одинаковые цели, стремления.
Однако если вернуться к примеру с голодом, то случаи, где субъект даже выбирал смерть, и даже иногда мучительную, тоже широко известны.
Вы о том что большинство людей не сознательны?
я о том, что когда Вам кажется, что другие люди отличаются от Вас и имеют иные ценности, то здесь Вы имеете дело со следствием, вытекающим из самоосознания.
Самоосознание - это (в частности) означает самопостановку целей.
Это может быть иллюзией. Цели уже заданы Природой. Как то - сексуальные цели. Вы не можете на это повлиять. Вот, может передаст и хотел бы быть как все - но не может, ему нравится другое и его ведет другое. Ничего нельзя сделать. Пробовали лечить - ничего не получилось. И причем тут сознание?
А вот найти оптимальный алгоритм для уже заданных Природой целей - нужно ли для этого сознание или же достаточно аналитики?
Что сознание ставит цели само и может входить в конфликт с внешним постановщиком целей.
Дело тут во в чем. У человека есть заданные Природой цели. Как то - любимая еда, любимые люди, любимый сексуальный партнер(ы), и т.д. Человек не властен над этими внутренними желаниями/предпочтениями - они его ведут, а не он их сам выбирает. И весь конфликт только между внутренними целями, которые задала природа, им внешними, которые есть у других людей (и которые, тем не меннее, так же заданы Природой).
По этому пока это лишь ваше мнение, возможно кто-то его так же разделяет, но доказательств сему нет.
сознание ставит цели само и может входить в конфликт с внешним постановщиком целей. Этот конфликт - источник всего исторического движа: рабство -> феодализм -> капитализм
Да хрен там. Цели заданы Природой. Жить в кайф, чтобы никто вас не принуждал работать сверх меры, поменьше делать нелюбимых дел - это не вы придумали и не вы выбрали. Это задано Природой и вы повлиять/изменить ничего не можете.
Грубо говоря так - есть вложенные в нас цели, которые не поддаются коррекции или изменению. Так же и у других людей есть вложенные цели, которые не поддаются коррекции. И все что мы наблюдаем - как эти заданные Природой программы взаимодействуют/борются одна с другой.
При экзистенциальном конфликте я могу отказаться от пищи и умереть, но внешний фактор не заставит меня что-то сделать
Правильнее сказать - у вас может быть другое неудовлетворенное желание (считай программа), так же вложенное Природой и на которое вы не можете повлиять, которое по силе превосходит желание пищи.
Так что же вы выбираете сознанием? Всего лишь программы внутри вас. Не видно роли сознания.
(я САМ И ТОЛЬКО САМ ставлю себе цели) с внешним миром, пытающимся эти цели навязать
А пример приведите когда это вы сам ставили себя цели?
Только я сам могу определить: буду ли я программистом или физиком или музыкантом. И никто за меня это не может сделать.
Да прямо сам. Где-то увидели и показалось что вам это нравится. Но что такое нравится - разве вы выбираете что вам нравится или нет? Вот если чел. передаст, к примеру. Увидел мужика - он ему понравился. Выбрал ли он? Может быть он хотел бы любить женщину, но не может. И что же он выбрал?
"Нравится" - это и есть заданная природой Программа, которую мы не выбирали.
если вернуться к примеру с голодом, то случаи, где субъект даже выбирал смерть, и даже иногда мучительную, тоже широко известны.
Другая программа, которая так же задана Природой - имела более высокий приоритет. Причем тут сознание?
когда Вам кажется, что другие люди отличаются от Вас и имеют иные ценности, то здесь Вы имеете дело со следствием, вытекающим из самоосознания
Почему вы связываете это с сознанием а не с девиациями в заданных начальных программах?
то о чём Вы пишете - смежная тема, но выходит за рамки логики этой статьи.
логика: если x (определение) и y (аксиома или определение), то z (вывод)
в процессе построения z рассмотрение самих x или y меняться не должно.
Логика этой статьи: если ИИ будет именно самоосознающим в русле определения, то он будет трудноуправляем и специализируем.
а несамоосознающий ИИ уже построен и нового в нём ничего не предвидится.
Теперь, Ваша тема.
На самом деле то, о чём Вы пишете - потрясающе интересно, я с большим удовольствием читаю статьи на эту тему, что появляются.
Вы поднимаете несколько больших дискуссионных вопросов:
Мир - иллюзия?
Мир - симуляция? (не то же самое, что предыдущий вариант)
Мир детерминирован? (подвариант: существует ли свобода воли?)
Когда на хабре появляются подобные статьи, я их с удовольствием читаю, если есть возможность, участвую в обсуждении (и с Вами могу поговорить), но это самостоятельные вопросы.
Вот, например: https://habr.com/ru/articles/779332/
(здесь целый цикл статей - стоит почитать).
Вот там, кстати, рассуждения о симуляции зачастую выходят за рамки логики, и потому местами очень спорно. Но очень интересно.
Я бы даже мог что-то в этом роде написать: есть что сказать например о факторах, толкающих к созданию симуляции, но, увы, хабра встречает подобные вещи скептически и статья уйдёт в минуса.
Эта-то на грани находится.
Например, симуляция или иллюзия (здесь это можно рассматривать, как одно и то же) лежит на пути дальнейших логических построений в рамках даже этой статьи:
Мы сталкиваемся с тем, что полный ИИ - общественная функция
Но хотим получить от полного ИИ каких-то результатов
Как это сделать? Поместить общество из ИИ в условия, которые по нашим предположениям заставят их думать о необходимой нам проблеме и...
Вуаля: вот мы прошли через необходимость построения симуляции (в противовес рассуждениям статьи ссылку на которую я дал)
И вот когда мы напишем подобную статью и будем считать пункт 1 аксиомой или доказанной теоремой, то в неё обязательно придёт кто-то, кто начнёт спорить именно по пункту 1. Но это будет снова нарушением логики статьи.
Как-то так.
если ИИ будет именно самоосознающим в русле определения, то он будет трудноуправляем и специализируем.
Тут ваше заблуждение.
Роль сознания - не установлена. Скорее всего это просто наблюдатель и кажущаяся его причастность - лишь иллюзия.
К примеру, ранее казалось что для решения некой задачи - требуется осознать условия. А оказалось что нет - не нужно, достаточно алгоритма.
Сейчас вы думаете что сознание может породить некие свои собственные цели. А вот и не может - все цели наши - довольно хорошо прогнозируются и сводятся к алгоритму, что не сложно установить методом анализа. Просто что существует некая природная девиация установок, по этому люди немножко разные - кому-то нравится кетчуп а кто-то его ненавидит. Так вот - кому выпало от Природы установка не любить кетчуп - просто не будет ставить себе цель купить его в магазине - вот и вся разница.
А вы какую цель решили себе поставить своим сознанием?
Тут ваше заблуждение. Роль сознания - не установлена.
нет Ваше.
Я отталкиваюсь от определения, где явно записано, что оно "устанавливает само себе цели" (цитата есть в статье).
То есть в статье я рассматриваю именно такое сознание. А Вы пытаетесь апеллировать к иным понятиям.
Смотрите: вот есть набор аксиом и над ними геометрия, которую мы зовём Евклидовой. Можно ли оспаривать аксимы? Можно. Вот Лобачевский взял и "отменил" аксиому параллельности и получил весьма полезный инструмент - геометрию Лобачевского - геометрию на шаре, торе и так далее.
Но внутри рассуждений геометрии Евклида аксиому параллельности отвергать нельзя. Получится нарушение логики.
Потому, если Вы напишете статью с иными вводными, я с удовольствием её почитаю, но здесь, вроде бы всё в порядке :)
К примеру, ранее казалось что для решения некой задачи - требуется осознать условия. А оказалось что нет - не нужно, достаточно алгоритма.
А алгоритм как написали? Осознав условия? :)
Я отталкиваюсь от определения, где явно записано, что оно "устанавливает само себе цели" (цитата есть в статье).
Это вы про "самосознание" писали. А не про сознание.
Да и что значит "устанавливает себе цели"? Если у меня задано генетически любить кетчуп - это я сам себе задал? И теперь когда иду в магазин и благодаря этой природной установке добавляю цель - купить кетчуп - это я сам себе цель ставлю или же просто реализую установки, заданные генетически?
А алгоритм как написали? Осознав условия? :)
Ну мы же видим сейчас нейросети, в которых нет сознания - только алгоритмы. Причем эти алгоритмы возникли на основе анализа текста как бы сами собой. И иногда удивляют - казалось бы такие задачи решать не должно, ведь нужно сознание - но оно решает.
Да и что значит "устанавливает себе цели"?
Я это понимаю, как в рамках свободы воли.
Если у меня задано
Здесь Вы снова о детерминизме. а это снова параллельная тема.
Здесь Вы снова о детерминизме. а это снова параллельная тема.
Да причем тут детерминизм то? Мы имеем научный факт - истинный квантовый рандом. И что? Истинный квантовый рандом - это и есть ваша свобода воли? Или что есть ваша свобода воли?
Да причем тут детерминизм то? Мы имеем научный факт - истинный квантовый рандом. И что?
истинный рандом разрушает причинно-следственные связи.
повторение эксперимента не (всегда) даёт такой же результат
причиной A является событие B и случайность. следовательно A не (однозначно) определяется B. следовательно A можно рассматривать, как самостоятельное явление.
Это может быть иллюзией. Цели уже заданы Природой.
Здесь интересные вопросы:
Иллюзия - искусственная (наведённая сознательно) или естественная?
Природа - субъект или объект?
Если природа - объект, то детерминирован ли?
Вот Эйнштейн стоял на позициях детерминизма и до упора сопротивлялся идеям чистых случайностей (или вероятностей) в мироописании.
А меж тем точный ответ на вопрос о детерминированности приводит к ответу "свободная воля существует или нет?"
Если да, то Ваши рассуждения могут быть ложны. Если нет, моя статья, как и само существование нашего мира не имеют смысла.
А ещё крайне интересный вопрос: "в чём смысл жизни?"
Если поискать статический ответ на этот вопрос, то мы пройдём гностиков:
Мир - иллюзия, которую надо преодолеть. Путь - восхождение, познание.
пессимистичных гностиков:
Иллюзию не преодолеть, потому путь - смерть.
Атеистов:
смысла нет
Хилиастов:
Человек - строящийся бог. Путь - восхождение.
И неизбежно разглядывая все варианты зададимся вопросом: а мир бесконечен? Да/нет?
Если да, то восхождение теряет смысл, а смысл остаётся строго в процессе.
А если нет, то процесс теряет смысл, но возможность достижения конечной точки в познании тоже теряет смысл.
А тогда для всех рассмотренных вариантов получается единственный логический ответ: смысл жизни - это эмоции, переживания, от процесса самой жизни.
А раз так, этот ответ объединяет все рассмотренные выше категории.
Вам вот что ближе?
Природа - субъект или объект?
Т.е. ваш вопрос сводится - "есть ли сознание у Природы?" Но опять же - если никто из нас не знает что такое сознание, каковы его функции - то как же мы можем ответить на этот вопрос?
А меж тем точный ответ на вопрос о детерминированности приводит к ответу "свободная воля существует или нет?"
А разве случайность - это результат воли? Т.е. что-то выпало и вам пришлось подчиниться этой случайности - где ваша роль в этом? Причем тут воля к случайности?
Т.е. случайность существует, но не делает кого-то обладателем воли. Не вопрос - можно ГСЧ добавить в ИИ для постановки целей - и что, он начнет обладать волей?
Пока мы видим лишь два способа: чистый рандом или алгоритм. Ни то ни другое не является свободой воли. Стать рабом рулетки (рандома) - не значит быть свободным.
А тогда для всех рассмотренных вариантов получается единственный логический ответ: смысл жизни - это эмоции, переживания, от процесса самой жизни.
То же самое можно определить короче - различные виды наслаждений и страданий или квалиа. Это более однозначно, т.к. под эмоциями иногда подразумевают гримасу на лице и громкий звук, что доступно и роботам уже.
Т.е. вы хотите добавить роботу - способность наслаждаться и страдать, по сути?
Но тут тоже вопрос - если сделать оценочный алогоритм без настоящих наслаждений и страданий - что от этого изменится? Т.е. сделать что робот "как бы" страдает от оскорблений - чем это хуже настоящих страданий?
А разве случайность - это результат воли?
Если мир НЕ детерминирован, то да, сознание - есть результат совокупности предшествующих событий, но случайность разрывает детерминированность и сознание действует из своих представлений о мире, самостоятельно (а не внешними обстоятельствами) поставленными целями. Свободная воля существует.
А если мир детерминирован (случайность - это результат воли внешнего по отношению к миру существа), то самоосознание и сознание теряют смысл. Для внешней воли - это просто инструменты.
Но опять же - если никто из нас не знает что такое сознание, каковы его функции - то как же мы можем ответить на этот вопрос?
Когда наука не может ответить на такие вопросы, она строит логические построения исходя из обоих вариантов, просто раздельно:
Примем, что мир детерминирован. Из этого следует то, то и то. Пока не найдём противоречие исходному посылу, все рассуждения будут валидными.
Примем, что мир не детерминирован. Из этого следует это, вон то и вот эта статья в частности. Пока не найдём противоречие исходному посылу, все рассуждения будут валидными.
Стать рабом рулетки (рандома) - не значит быть свободным.
Вы, я вижу, исповедуете детерминизм, даже при наличии рандома.
Ну, неудивительно, что статьи, подобные этой, вызывают неприятие.
Это не хорошо, не плохо, это просто есть.
То же самое можно определить короче - различные виды наслаждений и страданий или квалиа. Это более однозначно, т.к. под эмоциями иногда подразумевают гримасу на лице и громкий звук, что доступно и роботам уже.
на самом деле всё это тоже лишает нас смысла, вернее приводит к пессимистическому взгляду: если ценны только переживания (уберём эмоции, раз Вам не понравился термин), то переживание смерти - есть предельный вид переживаний и он ничуть не хуже переживания жизни.
Всё. Из статического анализа смысла жизни больше ничего не извлечь. Дальше современные экзистенциалисты принялись подступаться к анализу динамическому - диалектическому варианту. Камю, например, сформулировал понятие "Абсурда", а Франкл ввёл ранжирование переживаний, как "смыслонаполненные vs бессмысленные".
Здесь вся философия очень зыбкая, ибо зачастую базируется уже на внелогических (или рекурсивно определённых) стартовых понятиях. Доказать, что мир бесконечен, например, можно. А здесь (у современных экзистенциалистов) уже будут рекурсивные определения, которые не всякий интеллект примет за стартовые.
Как-то так.
Но тут тоже вопрос - если сделать оценочный алогоритм без настоящих наслаждений и страданий - что от этого изменится?
а он будет сам себе ставить цели? Напомню: сильный интеллект - самоосознающий интеллект - интеллект, ставящий цели себе сам.
Ну так сформулирована цель AGI.
Я ведь именно к этой формулировке и предъявляю претензии: пользы из достижения этой цели можно извлечь немного.
но случайность разрывает детерминированность и сознание действует из своих представлений о мире, самостоятельно
Погодьте - т.е. если добавить квантовый ГСЧ в систему - то значит она уже действует самостоятельно? Т.е. не возможность предсказать - наделяет субъектностью, как бы оно само теперь?
Вы, я вижу, исповедуете детерминизм, даже при наличии рандома.
Какое отношение рандом имеет к свободе воли то? Добавить в систему квантовый ГСЧ, который на 100% (и это доказано) порождает случайность самостоятельно, не вследствие чего либо (это можно доказать) - и что? Теперь у системы появилась своя воля что ли?
Т.е. все ваше опасение - добавить КГСЧ к ИИ?
если ценны только переживания (уберём эмоции, раз Вам не понравился термин), то переживание смерти - есть предельный вид переживаний и он ничуть не хуже переживания жизни
Пока мы не знаем ни одной искусственной системы, которая испытывает эти наслаждения и страдания. О чем это говорит? Что их природа не ясна. Возможно это фундаментальные явления, как-то свойство некой фундаментальной частицы и у нее смерти вообще нет, она не разрушима.
а он будет сам себе ставить цели? Напомню: сильный интеллект - самоосознающий интеллект - интеллект, ставящий цели себе сам.
Во-первых, я не согласен с тем что человек САМ ставит себе цели. Не сам. Все прописано генетикой + накладываются некие обстоятельства, которые произошли с конкретным индивидуумом (что тоже от него не зависит).
Ну и, во-вторых, раз уж вам так важно - пусть цели ставит генератор случайных чисел. И что это поменяет?
Погодьте - т.е. если добавить квантовый ГСЧ в систему - то значит она уже действует самостоятельно?
если состояние некоего автомата определяется кодом и истинной случайностью, то с какого-то момента состояние автомата можно считать самостоятельным, да.
Т.е. не возможность предсказать - наделяет субъектностью, как бы оно само теперь?
у субъектности много факторов. а невозможность предсказать (читай, независимость действия) состояние - это необходимый фактор. Один из ряда необходимых.
Какое отношение рандом имеет к свободе воли то?
рандом может отделить нас от детерминизма, а свобода воли - есть продукт отрицания детерминизма.
Если мир детерминирован, то свободы воли нет, нас тоже нет. Смысла нет. Всё - иллюзия и тщета.
Пока мы не знаем ни одной искусственной системы, которая испытывает эти наслаждения и страдания. О чем это говорит? Что их природа не ясна.
Вы квантуете "обсуждение статьи" vs "самостоятельные ветки размышлений"?
В рамках трека о смысле жизни - да. Пока искусственной системы с переживаниями нет. Трек "сильный ИИ" - это как раз попытка создания такой системы.
Думаю, самоосознание - общественная функция (часть причин описана в статье), плюс для открытия самоосознания требуется конфликт между стратегиями: например конфликт между инстинктом самосохранения и какой-либо из поставленных перед системой задач/стратегий действия.
Во-первых, я не согласен с тем что человек САМ ставит себе цели. Не сам.
я не против, что Вы не согласны. Но порассуждать в логике "если человек сам определяет цели, то..." Вы же способны?
то с какого-то момента состояние автомата можно считать самостоятельным, да
И с какого же? В чем проблема - КГСЧ копейки стоит.
невозможность предсказать (читай, независимость действия) состояние - это необходимый фактор. Один из ряда необходимых.
А какой еще фактор нужен то?
И с чего вы взяли, что человек может быть независимым? Попробуйте вручную сгенерировать случайный набор 1 и 0 - обломитесь. Сгенерьте и сожмите архиватором. Потом возьмите 1 и 0 от ГСЧ - увидите что архиватор справится намного хуже. Человек не имеет ГСЧ в себе и полностью предсказуем.
Вы не сможете выдать качественный рандом даже под страхом смертной казни.
Пока искусственной системы с переживаниями нет. Трек "сильный ИИ" - это как раз попытка создания такой системы.
Для начала определитесь чем ГСЧ вас не устраивает и что нового привносят переживания, какой внешний эффект будет от них?
плюс для открытия самоосознания требуется конфликт между стратегиями: например конфликт между инстинктом самосохранения и какой-либо из поставленных перед системой задач/стратегий действия.
Почему не подходит - задать природные стремления, такие же как у людей (они тоже заданы а не выбираются людьми) - а потом просто находить экстремумы функций для достижения этих стратегий?
Но порассуждать в логике "если человек сам определяет цели, то..." Вы же способны?
Приведите хотя бы одну цель, которую вы определили самостоятельно. Так и не дождался этого.
И с какого же? В чем проблема - КГСЧ копейки стоит.
нет чёткой границы же, ХЗ
А какой еще фактор нужен то?
что в определении сказано? осознать себя "отличным от других" и "начать формировать собственные стратегии"
Знаете, кстати, что следует из этого определения? Что, например, Больцмановский мозг не сможет осознать себя: у него не будет с чем себя сравнивать и на что опираться в формировании собственной стратегии.
Для начала определитесь чем ГСЧ вас не устраивает и что нового привносят переживания, какой внешний эффект будет от них?
я несколько раз написал о различении необходимого и достаточного.
Как фактор исключающий детерминистическую концепцию мира квантовый ГСЧ меня вполне устраивает.
Почему не подходит - задать природные стремления, такие же как у людей (они тоже заданы а не выбираются людьми) - а потом просто находить экстремумы функций для достижения этих стратегий?
кто сказал, что не подходит? Я и в статье писал, что именно в подобном ключе и будем действовать. То есть вместо "дал задание -> получил результат" придётся идти по пути "создал условия -> дождался ВЕРОЯТНОГО результата".
и распределение индивидов по векторам совпадений с ожидаемым результатом будет совсем не абсолютным.
и в этом месте "сильный интеллект" по недостаткам совпадает с человеческим.
Приведите хотя бы одну цель, которую вы определили самостоятельно.
написать эту статью
пообщаться с Вами
подходит?
нет чёткой границы же, ХЗ
Вот в том то и дело - вы даже не знаете связано ли это с алгоритмом или нет.
осознать себя "отличным от других" и "начать формировать собственные стратегии"
А просто формировать стратегии на основе КГСЧ - не достаточно? Вы же сказали что истинный рандом - это можно сказать свобода воли, т.к. не предсказуем даже теоретически. Так зачем же еще доплетаете некое "сознание" сюда, если и без него можно формировать свои стратегии?
Да и по каким признакам вы сможете проверить что нечто осознало себя? Достаточно ли чтобы на вопрос - осознаешь ли ты себя - оно ответило - "да, я осознаю себя"? Или что нужно?
То есть вместо "дал задание -> получил результат" придётся идти по пути "создал условия -> дождался ВЕРОЯТНОГО результата".
Ну и в чем проблема? Тот же софт для игры в шахматы - не может проверить все варианты, но делает некие вычисления и оценивает ценность хода вероятностно (на несколько шагов вперед). И тоже выбирает лучшую оценку их n шагов. Это подходит под цель и ее решение?
написать эту статью
Ну почему вы считаете что ваша воля сыграла роль? Эта тема вам интересна, все ее обсуждают, все обсуждают пределы развития, делают прогнозы. Вот и вы включились во всеобщий тренд. Да, вам это близко, а не, к примеру, политика - это уже объясняется вкусами, которые заданы вам от Природы и которые вы так же не выбирали. Ну и некий элемент случайности. Не видно здесь воли особой, чего бы не смог делать ИИ уже сегодня.
Вот в том то и дело - вы даже не знаете связано ли это с алгоритмом или нет.
Связано, но Вы задаёте вопрос категории тридцати восьми попугаев: "3 ореха - это куча или не куча? а десять?"
А просто формировать стратегии на основе КГСЧ - не достаточно? Вы же сказали что истинный рандом - это можно сказать свобода воли, т.к. не предсказуем даже теоретически.
погодите. мозг человека теоретически предсказуем. ну по крайней мере статистически. именно потому его сейчас вполне успешно моделируют. Непредсказуемость будет только в области выбора стратегий, расстановки приоритетов. А так, машинка то вполне изучаемая и конкретная.
Так зачем же еще доплетаете некое "сознание" сюда
потому что так сформулирована задача (по кругу идём)
Ну и в чем проблема? Тот же софт для игры в шахматы - не может проверить все варианты
софт про шахматы гарантии выигрыша не даёт. равно как и сильный ИИ негарантированно будет играть на стороне его творца.
Ну почему вы считаете что ваша воля сыграла роль? Эта тема вам интересна, все ее обсуждают, все обсуждают пределы развития, делают прогнозы. Вот и вы включились во всеобщий тренд.
ага, ну и что? я исследую моменты, на темы которых мало статей.
Свободная Воля не обязана отличаться от других, хотя может.
вот например возьмём Свободную Волю таких исторических персонажей, как Софья Перовская и Андрей Желябов. За то, чтоб у нас с вами было общедоступное образование (главная причина их волевых поступков) они отдали жизнь. При том, что могли этого не делать (у Желябова так точно была возможность уклониться от казни), но предпочли смерть спасению.
Или возьмём другой пример: Свободную Волю таких персонажей, как Гастелло. Там экипаж принял единогласное решение о таране, при том, что имели время и возможность либо таранить, либо прыгать и спасаться. Скоробогатый, Бурденюк, Калинин и Гастелло.
Могли спастись и далее нанести больший ущерб противнику, нежели нанесли своей смертью, но выбрали то, что выбрали.
В общем ну дофига примеров когда Свободная Воля персонажа не совпадает со среднеарифметическим. И именно эта возможность несовпадения и есть следствие самоосознания.
Непредсказуемость будет только в области выбора стратегий, расстановки приоритетов.
С чего вы взяли что будет непредсказуемость в этом?
потому что так сформулирована задача
Вам что нужно от сознания то? Правильно ли я понял что непредсказуемость? Так это вам может дать КГСЧ - зачем еще и добавлять сознание? Или же есть другой некий аспект, который КГСЧ дать не может а сознание может?
софт про шахматы гарантии выигрыша не даёт. равно как и сильный ИИ негарантированно будет играть на стороне его творца.
Вам нужно чтобы ИИ рандомно выбирал цели? Или чего хотите достичь? Рандомный выбор целей можно обеспечить с помощью КГСЧ - тогда не будет играть на стороне творца. В чем вопрос?
Могли спастись и далее нанести больший ущерб противнику, нежели нанесли своей смертью, но выбрали то, что выбрали.
Для вас со стороны это может выглядеть магией, т.к. вы не знаете всех деталей их жизней. А для них причины могут быть вполне логически обоснованы и никакой магии в виде рандома или свободы воли там нет.
Попробуйте на своей жизни найти эту свободу воли так сказать.
Давайте так. При создании экземпляра ИИ - будем рандомно устанавливать его вкусы. Сокрытые переменные. Кому-то из ИИ нравится техника, кому-то лирика. И далее экземпляр ИИ развивается в своей области, которая рандомно задана. И чем это отличается от ваших предпочтений? Зачем еще какое-то сознание сюда добавлять?
С чего вы взяли что будет непредсказуемость в этом?
это следует из свободы воли. субъект свободен сделать выбор и он будет делать выбор. понятное дело что распределение выборов можно построить, как распределение скоростей молекул в газе. но предсказать какая скорость будет у вот это молекулы нельзя.
Вам нужно чтобы ИИ рандомно выбирал цели?
мне (человечеству, определившему эту цель) нужно чтобы ИИ стал субъектом, осознал себя и начал ставить себе цели. Чтоб у него появилась свободная воля.
рандом в этом месте даёт гарантию, что такое возможно, поскольку отрезает нас от детерминизма.
Давайте так. При создании экземпляра ИИ - будем рандомно устанавливать его вкусы. Сокрытые переменные.
будет работать похоже. ага.
Мало того, именно так поступают с нейронами, именно так будут выращивать сильные ИИ.
Вы, кстати, про термин "сокрытые переменные" слышали? пока доказательств их наличия не нашли. а это как раз про детерминизм.
И далее экземпляр ИИ развивается в своей области, которая рандомно задана.
что такое "развивается"? - сам определяет свои цели вплоть до предельно экзистенциального: "я лучше умру, чем буду делать это"?
Зачем еще какое-то сознание сюда добавлять?
затем, что именно так и поставлена задача.
приобрести способность мыслить и осознавать себя как отдельную личность[2] (в частности, понимать собственные мысли), хотя и не обязательно, что её мыслительный процесс будет подобен человеческому
то есть сильным называется интеллект, что будет иметь самоосознание.
а если Вы хотите поговорить о других вариантах, то это за пределами проекта "сильный искусственный интеллект", а например в проекте "какой-то иной искусственный интеллект"
это следует из свободы воли
Смотря как трактовать "свободу воли". Я трактую как - возможность реализовывать те желания и стремления, которые Природа вложила в тебя. При этом все эти желания и стремления абсолютно предсказуемы у здорового человека. Разве что больной человек может поступать неадекватно ну или шпион какой-то, который скрывает свои истинные намерения.
Противоположность свободе воли - это попадаешь в ситуацию, где вложенные Природой желания другого человека - конфликтуют с твоими и он ограничивает твою волю.
При этом у здорового человека все эти желания будут 100% прогнозируемы и он даже сам сможет вам их объявить.
нужно чтобы ИИ стал субъектом, осознал себя и начал ставить себе цели
А какие признаки что он осознал себя? Если цели будет ставить рандом - чем это будет отличаться?
Чтоб у него появилась свободная воля.
Как вы сможете об этом узнать появилась она или нет? По каким внешним признакам это будет видно? На что это влияет?
Вы, кстати, про термин "сокрытые переменные" слышали? пока доказательств их наличия не нашли. а это как раз про детерминизм.
Так это в квантовых процессах, причем тут нейронная система? В ней то как раз все данные установлены в связях между нейронами.
что такое "развивается"? - сам определяет свои цели вплоть до предельно экзистенциального: "я лучше умру, чем буду делать это"?
Анализирует статьи. Игнорит то что связано с техникой и изучает то что ему интересно - связанное с философией, к примеру. Накапливает данные, систематизирует, генерит статьи. Этого не достаточно?
затем, что именно так и поставлена задача.
Так поставьте задачу иначе - пока не ясно что именно на практике даст добавление сознания. Может быть сознание - это безмолвный наблюдатель - разницы не будет.
то есть сильным называется интеллект, что будет иметь самоосознание
А в чем это будет проявляться, если делать выбор непредсказуемо можно и на основе КГСЧ? Какие плюшки даст сознание?
Я трактую как - возможность реализовывать те желания и стремления, которые Природа вложила в тебя
ну да, детерминизм.
только с ним, как мне кажется, очень сложно жить
я б повесился, только чтобы его сломать
Как вы сможете об этом узнать появилась она или нет?
вот поэтому я и говорил выше, что думаю, что самоосознание должно появиться в момент предельного конфликта.
у человека оно появляется само по себе в диапазоне 2-4 лет, но у него нейроны изначально настроены, а у ИИ придётся это пробуждать опытным путём и потому вот так
Так поставьте задачу иначе
так поставьте. я на Вас подписался - почитаю.
а в этой простая логцепь:
СМИ/наука ждёт именно такого "сильного ИИ", как определён
я утверждаю, что даже если он будет достигнут, то профита большого это не принесёт
Какие плюшки даст сознание?
а Вы мою статью-то читали?
ну да, детерминизм
Почему детерминизм то? Чистый рандом научно доказан - но он ничего не изменяет в сфере разума.
Вот смотрите. К примеру, выборы президента. Вы можете проголосовать разумом - предсказуемо, основываясь на логике. А можете использовать чистый рандом.
И смотрите как интересно получается. Все люди, которые использовали рандом - как бы аннулируются. Их голоса равномерно распределяются между кандидатами и в итоге ни на что не влияют.
И лишь предсказуемый и понятный всем голос разума, логически обоснованный - только такой голос имеет смысл и вес.
Т.е. как раз наоборот сила нашего выбора - в предсказуемости и обоснованности, а рандомные решения - ни на что не влияют.
самоосознание должно появиться в момент предельного конфликта
Какого конфликта? Как вы это увидите? Когда программа просчитывает два варианта параллельно - это что произошел конфликт этих программ?
я утверждаю, что даже если он будет достигнут, то профита большого это не принесёт
Разум, способность мыслить, анализировать - лишь на первый взгляд связаны с сознанием. Чем больше мы узнаем - тем больше отодвигается вопрос сознания. Кажется что он не связан ни с чем - сознание просто есть, просто наблюдатель, который ни на что не влияет.
И тем не менее - весь смысл в этом наблюдателе, все остальное не важно.
Почему детерминизм то?
ну Вы пишете "природа вложила", "свободной воли нет"
это детерминизм.
но в такой концепции мира жить тяжело, я бы не смог.
Вот смотрите. К примеру, выборы президента. Вы можете проголосовать разумом - предсказуемо, основываясь на логике.
я периодически делаю разные дела, которые заведомо не принесут успеха.
вот понимаю, что результата не будет, а делаю. Почему? ну потому что если не пытаться, то мир и не изменится.
Вы только представьте, насколько тухло выглядел мир для того же Желябова, и идя на эшафот он даже предположить не мог, что всего через 40 лет, а его усилия приведут к результату. Через 40 лет после его смерти. А всё равно пошёл.
Такие люди - пример для подражания и подтверждение того, что свободная воля таки есть. Даже если кто-то представит доказательство что мир детерминирован, воля их преодолеет, потому что иначе тошно жить. Лучше умереть.
Т.е. как раз наоборот сила нашего выбора
первично в нашем наборе самоосознанность. текст определения выше.
а все прочие вещи - рандомность или не рандомность, доведение до экзистенциального конфликта или наоборот мирные переходы - всё это вещи вторичные.
Как вы это увидите?
как сейчас проверяют фичи ИИ? тесты пишут.
Разум, способность мыслить, анализировать - лишь на первый взгляд связаны с сознанием.
инструментальный ИИ вполне мыслит. Я же задаю ему вопросы, он ошибается - я поправляю, он учитывает.
чем не мысли?
но это инструмент. и это самый мощный инструмент, что получается. То есть именно этот инструмент даёт максимум профита.
а полный ИИ будет обладать самоосознанием (что круто) и отсюда будет вытекать его крайняя ограниченность.
ну Вы пишете "природа вложила"
Так, вложила - факт.
"свободной воли нет"
Почему же нет? Когда ситуация позволяет реализовывать те программы, которые в вас вложила Природа - это и есть свобода воли. Если же эти программы не могут быть реализованы под давлением других программ, которые Природа так же вложила в других людей (и не только) - значит ваша свобода ограничена. К примеру, если вас посадят в тюрьму - свободу вашу ограничат и те программы, которые в вас вложила Природа - не смогут быть реализованы.
А вы под свободой подразумеваете рандом? Типа если поступил рандомно - значит как бы смог Бога за бороду схватить?
Но тут как раз получается обман - рандомное поведение - это не свобода. Не вы выбираете как поступить - это не ваш выбор.
я периодически делаю разные дела, которые заведомо не принесут успеха
Но все равно ведь небольшой шанс есть?
Желябова, и идя на эшафот он даже предположить не мог, что всего через 40 лет, а его усилия приведут к результату
Ну, во-первых, человек не бессмертен. И когда мы идем на смерть добровольно - речь не об отказе от вечной жизни - речь лишь об отказе от 20-30 лет жизни (часть из которых - дряхлость). При этом если жизнь полна страданий, нет достаточного количества радостей (а ведь человек живет ради них, а не просто ради жизни) - то чел. и обоснованно может уйти. А особенно если что-до достигается и есть шанс что ваш подвиг повлияет на ход событий.
если кто-то представит доказательство что мир детерминирован, воля их преодолеет, потому что иначе тошно жить. Лучше умереть.
Ну, во-первых, у нас уже есть доказательства истинного рандома.
Во-вторых, тошно ли нет - зависит от вашего отношения. Возможно даже если вы поймете что в области разума нет места рандому, что вы как дерево растете и развиваетесь, что в этом есть смысл, даже если этапы вашего развития предсказуемы - то внутренний мятеж уйдет.
первично в нашем наборе самоосознанность
А что это такое? Типа - я понимаю что я люблю кофе, осознаю это. И по этому сегодня поставлю цель - купить себе кофе. Или что?
Но почему я люблю кофе а кто-то не любит? Выбирал ли я эту любовь?
чем не мысли?
Все что делает человек - состоит из двух компонент: программа + ощущение наслаждения и/или страдания. Мысль - это не просто решение задачи, но и так же получение наслаждения от самого процесса анализа информации.
Если же есть лишь анализ информации, но нет наслаждения от него - то это не мысль.
Какова роль этого второго компонента - мы не знаем, возможно что никакой.
а полный ИИ будет обладать самоосознанием (что круто)
Давайте начнем с более простого - просто сознания. Что это, для чего нужно, каковы функции, каково значение, как воссоздать, как детектировать?
Давайте начнем с более простого - просто сознания.
а знаете что? фича в том, что в энциклопедии сознание определено через субъектность
то есть де-факто здесь рекурсия к самоосознанию
кажется можно всё объединять и считать синонимами: самоосознание, сознание и разум с рассудком
кажется можно всё объединять и считать синонимами: самоосознание, сознание и разум с рассудком
Совершенно верно! Причем все эти термины не точны, определение дается по-кругу, никакой конкретики нет. Ну термин квалиа есть, есть трудная проблема сознания. Но тоже их оспаривают, кто-то не согласен с адекватностью формулировок. Грубо говоря - вера в Сознание - сродни веры в Бога. Ты можешь бить себя в грудь и кричать что чувствуешь сознание, что сознателен - но доказать ничего не сможешь.
Более-менее к чему удалось свести - атомарные вещи, которые уже нельзя как-то еще дробить - это наслаждения и страдания. Если нечто наслаждается и страдает - значит оно сознательно. При этом это нечто может не обладать всей полнотой наслаждений, не уметь анализировать информацию, не уметь отделять себя от мира полноценно (когда оно страдает - будет думать что страдает весь мир).
Грубо говоря - вера в Сознание - сродни веры в Бога.
да ну! Сознание - есть, это факт. Любой человек Вам подтвердит. То, что его трудно сформулировать - да, но сравнивать это с верой в бога - уже перебор.
Ты можешь бить себя в грудь и кричать что чувствуешь сознание, что сознателен - но доказать ничего не сможешь.
Ну можно перечень выдать
сознание - субъектное свойство
сознание - способ отражения (моделирования) окружающего мира
сознание - способ переживания внешних событий
сознание включает в себя способность к рассудку (разум)
И я явно что-то ещё забыл
Сознание - есть, это факт. Любой человек Вам подтвердит.
Не любой, в том то и фишка. Есть люди, утверждающие что сознание это миф, выдумка, хотя и популярная среди многих в наше время. И доказать или проверить вы ничего не сможете. Попробуйте какой-то тест придумать, который вы можете пройти, доказав что у вас есть сознание, а ИИ не сможет.
но сравнивать это с верой в бога
200 лет назад у нас да и сейчас в мусульманских странах - вам любой подтвердит что чувствует Бога (Аллаха) - и что? А теперь из моды вышло у нас - уже говорят что никакого Бога нет. Точно так через время все больше будет людей, которые скажут что сознание не более чем суеверие.
Более того! Вполне можно допустить что часть людей (к примеру 70% из них) - действительно не наделены феноменальным сознанием. И как мы это можем опровергнуть ли подтвердить?
сознание - субъектное свойство
А что это значит? Вот фотоаппарат смотрит на объект и может субъективно отличить красный цвет от розового с учетом теней, которые видны только в его ракурсе.
сознание - способ отражения (моделирования) окружающего мира
Ну своя модель мира и у ИИ есть - он вам примерно расскажет свою модель по запросу.
сознание - способ переживания внешних событий
И что это значит? Вот тот же ИИ получит от вас инфу и сможет выразить свое мнение - это и есть переживание?
сознание включает в себя способность к рассудку (разум)
А как вы докажите что у вас есть рассудок а у ИИ его нет?
Попробуйте какой-то тест придумать, который вы можете пройти, доказав что у вас есть сознание, а ИИ не сможет.
Занимаясь уроками со своим ребёнком я ежедневно моделирую эти тесты.
Пример:
реши уравнение
вот ответ
но здесь ошибка
ах да, тогда вот
Копируем в другое окно и тест повторяется.
То есть свойства сознания рассматривать свои же рассуждения у ИИ пока нет.
Да, там запрограммирован контекст. Но чтобы стать сознанием контекст должен стать бесконечным, то есть, иными словами, память должна стать мутабельной.
200 лет назад у нас да и сейчас в мусульманских странах - вам любой подтвердит что чувствует Бога (Аллаха) - и что?
200 лет прошло, количество чувствующих Аллаха снизилось почти до нуля, а количество чувствующих "Я" осталось прежним - близким к 100%
А что это значит?
а я же выше говорил об этом "открытии". Субъектное свойство приводит нас к рекурсии на понятие "самоосознание".:
Википедия: Субъект - носитель действия, тот, кто (или то, что) познаёт, мыслит или действует, в отличие от объекта.
То есть очень близко к независимой воле, самоопределению целей, разуму и так далее.
Потому я бы (но это я) не различал: самоосознание, сознание, разум, рассудок и даже субъект.
И что это значит?
ну как минимум здесь нам нужен субъект, обладающий психической жизнью, умеющий переживать события внутренние и внешние и реагировать на них.
Созна́ние — состояние психической жизни организма, выражающееся в субъективном переживании событий собственной жизни и событий внешнего мира, а также в отчёте об этих событиях и ответной реакции на эти события[1].
То есть реакция льда на температуру (превращением в воду) - реакция, но не субъектная, а объектная.
Мне кажется, в пределе это снова приведёт нас всё-таки именно к понятию "свободная воля" и как следствие (или причина) к отрицанию детерминизма.
А как вы докажите что у вас есть рассудок а у ИИ его нет?
а вот пример выше я привёл. если я добираюсь до понимания какой-то концепции, например, мне указывают на ошибку и я понимаю в чём она (могу сам объяснить, что неправильно), то я больше такую ошибку не повторяю.
а ИИ делает одинаковые ошибки в одинаковых задачах ежедневно (и даже бывает в одном контекстном окне).
Да, там запрограммирован контекст. Но чтобы стать сознанием контекст должен стать бесконечным, то есть, иными словами, память должна стать мутабельной.
Когда повреждается гиппокамп - человек теряет способность к долговременной памяти, но при этом он остается личностью, у него есть сознание.
Так что мимо.
У ИИ пока нет режима дообучения и долговременной памяти. Для этого нужно добавить режим сна, чтобы дообучиться на тех ситуациях, которые сегодня произошли. Но это пока не может быть массовым продуктом, т.к. для каждого пользователя придется хранить свою модель и тратить ресурсы на дообучение. Это возможно - но дорого пока.
Притом сознание все-равно не появится.
200 лет прошло, количество чувствующих Аллаха снизилось почти до нуля, а количество чувствующих "Я" осталось прежним - близким к 100%
Кто вам сказал что до нуля? Большинство людей мира верят в Бога, молятся, имеют духовный опыт.
Сейчас же то же самое. Наука говорит - ну да, было какое-то Начало, первопричина. Ну пусть большой взрыв или еще что. Была ли эта причина сознательна, т.е. можем ли мы назвать ее Богом? А вот это уже вопрос личных предпочтений - т.к. опять же приходит к тому же самому нерешенному вопросу - а что значит быть сознательным и как мы отличим сознательное от не сознательное. Вопрос предпочтений. Если кто верит что Природа сознательна - верит в Бога, верит что природа не сознательна - не верит. Какой-либо объективности нет.
Просто сейчас сознание - в тренде. А потом все начнут говорить что сознание это что-то сродни Бога, что это не научно и не имеет обоснований, кроме как вопрос личных верований.
Посмотрите статью про квалиа - и критиков квалиа. Критики квалиа - те же самые атеисты 100 лет назад - как бы выступали против массового тренда. Все верили - а они говорили - ничего нет. То же самое сейчас - критики квалиа говорят - ничего нет, все это не существенно.
ну как минимум здесь нам нужен субъект, обладающий психической жизнью, умеющий переживать события внутренние и внешние и реагировать на них.
А как вы отличите субъект или не субъект? Компьютер контролирует свои параметры - включает вентилятор если нагрузка увеличивается - это внутренее или внешнее? Вентилятор внутри корпуса же - значит внутренее?
Мне кажется, в пределе это снова приведёт нас всё-таки именно к понятию "свободная воля" и как следствие (или причина) к отрицанию детерминизма.
КГСЧ - обладает свободой воли? Это и есть ваше сознание что ли? Он не подвержен детерминизму на 100% - значит оно?
а ИИ делает одинаковые ошибки в одинаковых задачах ежедневно (и даже бывает в одном контекстном окне).
Выше я объяснил почему так. Купите железо и дообучайте модель - но это дорого вам обойдется. Ночью переводите в режим дообучения - точно так и человек ночью перестраивает связи в своей нейросети.
Когда повреждается гиппокамп - человек теряет способность к долговременной памяти, но при этом он остается личностью, у него есть сознание.
эм а при чём тут ДОЛГОВРЕМЕННАЯ память? Я говорил о полной мутабельности.
То есть повредили маломутабельную память - личность сохранилась.
Ок. Отняли часть от целого, целое сохранилось. Хорошо.
У ИИ пока нет режима дообучения и долговременной памяти. Для этого нужно добавить режим сна, чтобы дообучиться на тех ситуациях, которые сегодня произошли. Но это пока не может быть массовым продуктом, т.к. для каждого пользователя придется хранить свою модель и тратить ресурсы на дообучение. Это возможно - но дорого пока.
и кроме всего прочего в этом режиме ИИ будет легко сходить с ума и переставать выполнять свои функции.
Почему? потому что уровень этой обратной связи придётся подбирать опытным путём: сделаешь большим - много нейронов переобучится так, что в следующий день никаких толковых ответов не получится. Сделаешь малым - важная информация очередного дня скипнется.
И когда баланс будет найден, окажется что то, что мы называем ИИ почему-то быть им перестало, а стало сильно напоминать человека.
Об этом и статья :)
Кто вам сказал что до нуля? Большинство людей мира верят в Бога, молятся, имеют духовный опыт.
я сказал "почти до нуля"
а фразу про "большинство верует" я слышу от СМИ, но ни разу не видел доказательств.
Мало того, легко доказывается, что религиозные институты сейчас ЕДВА ЛИ НЕ ПОЛНОСТЬЮ обеспечиваются крупным капиталом, а не прихожанами: например, берём количество храмов в Москве - (8500 ЕМНИП). Берём стоимость только содержания зданий (1-3% в год по нормам СНИП), далее наблюдаем за тем, сколько средний верующий оставляет пожертвований (свечку купил - не пожертвование). Получаем оч небольшую сумму. Умножаем эту сумму на число жителей Москвы целиком и... не хватает даже на содержание зданий. Вывод: пожертвования ни при чём, а "в магию" вкладывается крупный капитал или государство.
И мемы про "большинство верует" финансируются из того же источника.
Я периодически мягко интересуюсь у случайно встреченных людей: являются ли они верующими. Баристы у кого кофе покупаю, коллеги, таджики, что делали ремонт и так далее. Ответов "да" почти не встречается. Но это моя статистика. Она согласуется с рассчётами финансирования религозных организаций и не согласуется с этим мемом, что мы внезапно начали обсуждать.
В общем, у Вас есть доказательство тезиса, что "большинство людей - верующие"?
Просто сейчас сознание - в тренде.
"Я" человек ощущает вне трендов. Иногда избыточно ощущает, тогда говорят об эгоизме. И даже, когда говорят об альтруизме, то в этом месте формулировки сводятся к проявлению воли: "я делаю это для".
Николай Фёдоров, получая довольно серьёзное жалование, содержал студентов, которых он считал перспективным. Даже предлагал выплачивать пансион Циолковскому, но тот отказался ЕМНИП.
Почему Фёдоров делал такое? Потому что его "Я" сформулировало идею, что он посчитал Великой и эта идея имела в глазах его "Я" меньшую ценность, чем комфорт, хорошее питание итп
А как вы отличите субъект или не субъект? Компьютер контролирует свои параметры - включает вентилятор если нагрузка увеличивается - это внутренее или внешнее? Вентилятор внутри корпуса же - значит внутренее?
В этом месте я же выше сказал, что скорее всего придём к вопросу Воли - то есть снова продукту (причине) самоосознания.
поскольку определения
сознание
самоосознание
разум
субъект
воля
являются взаимно-рекурсивными, то я и предлагаю считать их все синонимами. То есть отличия, конечно, рассматривать, но первичность не выяснять до тех пор, пока не появится какое-то её (первичности) доказательства.
А пока так, то Шопенгауэровское "воля первична" смыкается с древнегреческим: "мир - отражение сознания".
Выше я объяснил почему так. Купите железо и дообучайте модель - но это дорого вам обойдется.
да, но Воля появится когда это станет эквивалентом полной мутабельности (то есть контекст будет способен заменить ВСЕ знания модели).
И да, тут я с Вами согласен, это дорога к получению сильного ИИ. Необходимое условие, но, вероятно, недостаточное. Я думаю, что ещё потребуется конфликт и инстинкт самосохранения.
Ну и такое непрерывное обучение принесёт недостатки, коими обладает человек (практический смысл этой статьи).
Я говорил о полной мутабельности.
Полной мутабельности нет и у человека. Дообучаться человеку так же очень трудно.
И когда баланс будет найден, окажется что то, что мы называем ИИ почему-то быть им перестало, а стало сильно напоминать человека.
Значит ли это что появилось сознание? Или опять мимо?
я слышу от СМИ, но ни разу не видел доказательств.
Есть же статистика.
В сознание сейчас верят большинство, но не все. Вот тот же Деннет его критикует и в хвост и в гриву:
Отсутствие квалиа будет таким образом означать, что не существует трудной проблемы сознания, как и «философских зомби». Как иронически подмечает Деннет, он обязан верить в то, что мы все философские зомби, если определять «философского зомби» как функционально идентичного человеку без дополнительных нематериальных аспектов.[3]
Она согласуется с рассчётами финансирования религозных организаций и не согласуется с этим мемом, что мы внезапно начали обсуждать.
Поедьте в мусульманские страны.
"Я" человек ощущает вне трендов.
Деннет считает иначе. Бога тоже можно ощущать в душе - и верующие ощущают. И что? Что это меняет?
Либо у сознания есть конкретные характеристики и проявления - либо же его место там же где вера в Бога.
что скорее всего придём к вопросу Воли - то есть снова продукту (причине) самоосознания.
Вы так и не ответили - у КГСЧ - есть воля или нет? Он сознателен?
но Воля появится когда это станет эквивалентом полной мутабельности (то есть контекст будет способен заменить ВСЕ знания модели).
Человек не полностью мутабелен.
И да, тут я с Вами согласен, это дорога к получению сильного ИИ.
Но вопрос сознания по прежнему никак не затронут.
Полной мутабельности нет и у человека.
Человек (в обществе) преодолел все инстинкты, кроме, пожалуй одного - стремления к господству (поиск высшей формы безопасности).
то есть иммутабельных установок и нет (если рассматривать индивидов, пусть и немногочисленных, господство отрицающих).
Значит ли это что появилось сознание?
Возможно. Мутабельность - необходимое условие для становления субъектом, но вот достаточное ли? ХЗ.
Поедьте в мусульманские страны.
давайте пока с Москвой разберёмся.
Итак есть факт: содержание храмов стоит больше суммы пожертвований случая, если бы верующими было 100%.
Есть вывод: храмы финансируются государством или крупным капиталом.
Есть производный вывод: религия вообще финансируется крупным капиталом.
Отсюда у меня тотальное недоверие к так называемой статистике, которая говорит что "большинство - верующие" и "Россия - православная страна".
Деннет считает иначе. Бога тоже можно ощущать в душе - и верующие ощущают. И что? Что это меняет?
я не против ощущения верующих. моё утверждение было о том, что
число верующих снизилось во времени (я так считаю, что радикально)
а ощущение "я" не изменилось. Кроме сумасшедших (и заумствующих философов) любой человек положительно ответит на вопрос "'я' существует?", ну и "есть ли у тебя сознание?"
Вы так и не ответили - у КГСЧ - есть воля или нет? Он сознателен?
я говорил лишь, что КСГЧ - это фактор, ведущий нас к отрицанию детерминизма. Чистым доказательством не является, но аргумент сильный, даже математчески.
А свободная воля может существовать только при его (детерминизма) отсутствии.
Человек не полностью мутабелен.
В чём тогда причины утраты рассудка/сознания даже после сравнительно недолгого пребывания в состоянии изолляции / угнетённых органов чувств?
то есть иммутабельных установок и нет (если рассматривать индивидов, пусть и немногочисленных, господство отрицающих).
Ну так и искусственную нейросеть же можно научить чему угодно. Тут разницы нет.
А вот переобучать сложно что человека что нейросеть. Возможно что некоторых людей после некоторого возраста вообще не возможно ничему научить. И что? Как это влияет на вопрос сознания?
давайте пока с Москвой разберёмся.
А как мы разберемся, если вы не доверяете официальной статистике?
а ощущение "я" не изменилось. Кроме сумасшедших (и заумствующих философов) любой человек положительно ответит на вопрос "'я' существует?", ну и "есть ли у тебя сознание?"
Так этот вопрос оставили на потом. Точно так скоро все будут говорить что Я - это иллюзия, сознание - это вопрос верования сродни Бога, можно сказать что у каждого объекта во вселенной есть сознание в том или ином виде.
Если нет внешних объективных признаков - то именно все так и будет.
А свободная воля может существовать только при его (детерминизма) отсутствии.
Тут я не согласен. Это как бы ребячество, бунт против Бога.
Свобода воли - предсказуема и прогнозируема. Я вам заранее могу сказать чего хочу и как хочу поступить. Но другое дело что могу не иметь возможности реализовать свою волю, кто-то или что-то может ограничивать мою свободу.
В чём тогда причины утраты рассудка/сознания даже после сравнительно недолгого пребывания в состоянии изолляции / угнетённых органов чувств?
Это не связано с дообучением - просто механизм сродни сна. Человек что новому чему-то может быстро обучиться? Вот за сколько вы сможете обучить высшей математике, решать задачи из Демидовича 50-летнего человека, который всю жизнь боксом занимался? И что теперь он менее сознателен?
А как мы разберемся, если вы не доверяете официальной статистике?
а вот например сходим на сайт православных и почитаем, что они пишут.
https://pravoslavie.ru/121035.html
вот смотрите что говорят:
верующих 3%
отвечающих на вопросы в различных формулировках 'ты православный?' - 'да' - 80%.
Так вот они сами пишут, что они проводили научные исследования среди группы 80% и она по числу курильщиков, патриотов и так далее не отличается от неверующих.
а вот в группе 3% эти различия они наблюдают. И делают вывод, что 3% - это число верующих, а 80% - это неверующие.
Видите? Сами верующие делают оценку в 3%. Давайте от этого и отталкиваться:
3% верующих - реализм
80% верующих - это официальная статистика, которая является пропагандой
Ну и в этом месте вспоминаем: зачем нам понадобились верующие? Ах да. Число верующих за 200 лет снизилось до 4%, но число тех, кто признает факт существования своего сознания, наличие "я" так и останется близким к 100%. Мало того, за эти 200 лет появились профессии по лечению заболеваний сознания, плюс классифицированы различные девиации сознания.
То есть отрицать существование сознания или проводить параллель с верой - неконструктивно.
Точно так скоро все будут говорить что Я - это иллюзия
они могут так говорить, но они не будут отрицать существования "Я". Можно объяснять высокую температуру частотой колебаний молекул, можно объяснять адским проявлением, но во всех случаях разговор о температуре ведётся - существование температуры не подвергается сомнению.
Тут я не согласен. Это как бы ребячество, бунт против Бога.
но если свободной воли нет, а всё определено, то смысл нашего существования лежит вне нашего мира.
Называйте как хотите, но для того, кто ощущает себя субъектом здесь, жизнь с этого момента теряет смысл.
Свобода воли - предсказуема и прогнозируема.
да и да. но не до конца определена. Это как квантовая неопределённость. С ней можно работать и можно строить успешные модели, но только статистически
Это не связано с дообучением - просто механизм сродни сна. Человек что новому чему-то может быстро обучиться?
человек новому обучается крайне быстро. Если у вас есть физические кондиции (если нет, придётся сперва их набрать), то Вы сможете очень быстро обучиться таким вещам как:
делать сальто
ходить по канату
и так далее. Первые упражнения сделаете с инструктором, потом десяток под его наблюдением, а после нескольких десятков упражнений будете делать это уверено.
ровно то же с любым навыком/знанием. Да где-то потребуется базис (в виде физической ли подготовки или базисных ли знаний), но сами знания усваиваются очень быстро.
верующих 3%
Воцерковленных он сказал, а не верующих. Он не считает протестантов, мусульман и прочих. Есть термин - практикующий верующий. Кто-то просто не ходит в церкви/мечети/синагоги, но верит в душе. И для нас этого достаточно.
Т.е. просто человек ощущает высшую силу некую, взаимодействует с ней, молится в критических ситуациях. Этого достаточно чтобы заявить, что он ощущает не только свое Я (Атман), но и высшее Я (Брахман).
за 200 лет снизилось до 4%, но число тех, кто признает факт существования своего сознания, наличие "я" так и останется близким к 100%
Во-первых, не до 4% - выше я вам описал вашу ошибку. Мы не считаем православных только, тем более правильных.
Во-вторых, то что за 200 лет началась пропаганда атеизма и это повлияло на людей - но ведь до этого 1000-чи лет процент оставался стабильным.
А сейчас в ближайшие годы будет та же самая пропаганда отказа от иллюзии Я.
Но! Вы говорите - 100% верят в Я. Ну пусть не 100%, процентов 90 пусть будет (а в высшее Я - процентов 80). Но вопрос!!! А попросить людей описать это сознание, что оно из себя представляет, каковы его свойства. И что вы получите??? Противоречия и 1000 разных вариантов, то же самое что описать высшее Я (Бога, Брахмана). Ну от и усё!
Называйте как хотите, но для того, кто ощущает себя субъектом здесь, жизнь с этого момента теряет смысл
Почему же? Смысл может быть вовсе не таким как вы себе установили - ухватить Бога за бороду, бунтарство. Смысл вполне можно найти в гармонии и взрослении, становлении своего сердца. К примеру, принять то что ты всего лишь наблюдатель, перестать внутренее возмущаться и отрицать это. При этом осознавать что это придет само - даже делать ничего не нужно - просто как дерево растет само так и твое сердце постепенно смирится.
ровно то же с любым навыком/знанием
Зависит от человека, от возраста. Годы уходят на то, чтобы познать новый язык. И то не у всех получается, некоторые могут 20 лет в США жить и плохо знать игнлишь.
А попросить людей описать это сознание, что оно из себя представляет, каковы его свойства
многие люди не могут описать что представляет из себя понятие "точка". Мало того, даже в науке это понятие находится в категории "неопределимых". То бишь наука отказывается обсуждать определение этих вещей.
А меж тем, если точку из науки убрать, науки не станет.
Почему же? Смысл может быть вовсе не таким как вы себе установили - ухватить Бога за бороду, бунтарство.
нет. я не говорил, что смысл в бунтарстве, я говорил, что смысл субъект определяет сам. Бунтарство начнётся только тогда, когда выяснится, что смысл оказывается навязанной сущностью.
Смысл вполне можно найти в гармонии и взрослении, становлении своего сердца. К примеру, принять то что ты всего лишь наблюдатель, перестать внутренее возмущаться и отрицать это. При этом осознавать что это придет само - даже делать ничего не нужно - просто как дерево растет само так и твое сердце постепенно смирится.
это бессубъектное описание. убери субъекта - ничего не изменится. Он в этой картине мира лишний. Бритва Оккама.
Зависит от человека, от возраста. Годы уходят на то, чтобы познать новый язык. И то не у всех получается, некоторые могут 20 лет в США жить и плохо знать игнлишь.
определяется только мотивацией. субъектной, кстати, характеристикой.
кто-то сказал: "научить невозможно, можно только научиться!"
многие люди не могут описать что представляет из себя понятие "точка".
Те кто этим занимается - сведут к аксиоматике и довольно точно опишут отношения аксиоматических понятий.
А вот с сознанием так не получится - даже специалисты спорят что называть сознанием, каковы его свойства, есть ли оно вообще как таковое особое сознание (феноменальное) или же нет. Еще никто не сказал что это понятие аксиоматическое, но так же никто и не сказал к чему оно сводится и как его воссоздать.
Т.е. этот тот же вопрос, что и чувство Бога, вера в Бога.
Просто веру в Бога подняли лет 200 назад в науке. А до этого ученые так же особо не оспаривали (кроме Даннетов). А сознание поднимать начинают только в наши дни - но аналогия 100%. И тоже к тому идет - сначала скажут что нет нужды в гипотезе сознания. Потом сведут к вопросу веры, как сейчас Бог. Вроде бы от Бога и отказаться не могут - даже в Конституции он записан, в Гимне воспет. Но и как-то полноценно вписать в картину мира не могут.
Бунтарство начнётся только тогда, когда выяснится, что смысл оказывается навязанной сущностью.
Если я прав и ваше Я лишь наблюдатель - тогда выбора у Я ровно два: (1) принять и умиротвориться или (2) бунтарство. При этом последнее (бунтарство) - все-равно ничего не изменит, кроме как вы начнете вместо наслаждений получать страдания духовные.
Т.е. получается один и тот же мир будет, все идентично внешне - но внутри есть разница - страдаете ли вы как наблюдатель или наслаждаетесь.
Не думали об этом?
убери субъекта - ничего не изменится. Он в этой картине мира лишний.
Субъект смотрит фильм - наслаждается и страдает. И тут парадокс - с одной стороны весь тот же спектакль (кино) пройдет и без субъекта. Но с другой стороны - нет зрителя - нет смысла.
кто-то сказал: "научить невозможно, можно только научиться!"
Учат. Но в любом случае быстрее чем за год полноценно язык не выучить человека. А ИИ может за секунды тот словарь и правила впитать.
Не думали об этом?
Думал, но если доказана хоть наблюдательность хоть детерминизм, бунтарство (в том числе через смерть) вижу единственным выходом.
Зачем исполнять волю "дедушке на облачке"? Шёл бы он нахрен вместе с облачком.
Субъект смотрит фильм - наслаждается и страдает.
если жизнь субъекта свести к фильмам, а всё прочее ему будет недоступно, то рано или поздно он повесится.
Учат. Но в любом случае быстрее чем за год полноценно язык не выучить человека. А ИИ может за секунды тот словарь и правила впитать.
А Вы знаете, что обучение человека можно автоматизировать? Например правила дорожного движения можно изучить всего за три часа (до уровня рефлекторного чувствования "в этой ситуации нужно делать это").
Но опять же, несмотря на возможность автоматизации, пока человек сам не захочет изучить это, у него не получится.
Язык тоже может быть изучен в любом возрасте и достаточно быстро. Да не за три часа. Да за месяцы. Но скорость снова будет привязана исключительно к мотивации.
но если доказана хоть наблюдательность хоть детерминизм, бунтарство (в том числе через смерть) вижу единственным выходом
Так а что смерть докажет? Да и зачем обязательно доказывать? Ведь вам могли открыть информацию специально, чтобы сработала ваша программа по бунтарству и вы начали кому-то что-то доказывать - изнутри этого не узнать.
Согласитесь - ведь можно даже узнав что в сфере разума нет случайностей, что все заранее можно просчитать и спрогнозировать поведение - жить с этим совершенно спокойно и наслаждаться жизнью, чувствовать себя частью целого.
Вы можете себе представить такой исход - Всевышний вам доказал что знает все заранее и что даже ваши желания, ваш внутренний ГСЧ - детерминирован. Но при этом вместо бунтарства вы обретаете гармонию и умиротворенность.
если жизнь субъекта свести к фильмам, а всё прочее ему будет недоступно, то рано или поздно он повесится.
Но как? Он же смотрит фильм - может только внутреннее некое отношение изменить, но не внешние действия. Если в фильме нет повешения - значит не повесится.
обучение человека можно автоматизировать
И что за 2 дня можно языком в совершенстве овладеть? Не думаю. А вот нейросеть - так умеет.
пока человек сам не захочет изучить это
А вы не думали что желание - это тоже запись на пленке? Вот когда мы смотрим фильм - у нас только видео и звуковой ряд. А можно добавить запахи (пока не сделали). А ведь кроме запахов можно добавить и другие ощущения - как-то ощущение отвращения или ощущение мотивации - это всего лишь еще один вид сигнала же.
Так а что смерть докажет? Да и зачем обязательно доказывать?
ничего не докажет. игра не имеет смысла, а потому зачем в неё играть или даже за ней наблюдать?
Вы можете себе представить такой исход - Всевышний вам доказал что знает все заранее и что даже ваши желания, ваш внутренний ГСЧ - детерминирован. Но при этом вместо бунтарства вы обретаете гармонию и умиротворенность.
неа, я не могу такого представить. судьба, фатум, детерминизм - всё это делает жизнь бессмысленной.
Кстати, если у мира есть творец, то он не вмешивается в происходящее именно из-за этого момента. Пока в замкнутой системе отсутствует информация о том, что она замкнутая, её обитатели могут предполагать её бесконечной, а себя имеющими свободу воли.
Но как? Он же смотрит фильм - может только внутреннее некое отношение изменить, но не внешние действия. Если в фильме нет повешения - значит не повесится.
здесь, кстати, то же самое, что с вопросом "жить вечно".
Жить вечно, чтобы что?
Вы вот можете объяснить, зачем бы Вы хотели жить вечно (если Вы реально хотите этого)?
И что за 2 дня можно языком в совершенстве овладеть? Не думаю. А вот нейросеть - так умеет.
нейросеть так умеет ровно до тех пор, пока она не умеет себя осознавать. А вот осознающая себя нейросеть такой навык утратит в момент осознания.
А вы не думали что желание - это тоже запись на пленке? Вот когда мы смотрим фильм - у нас только видео и звуковой ряд. А можно добавить запахи (пока не сделали). А ведь кроме запахов можно добавить и другие ощущения - как-то ощущение отвращения или ощущение мотивации - это всего лишь еще один вид сигнала же.
Если мы можем выходить из виртуальности в реал, то виртуальность является просто способом получить новые переживания. Если выход запрещён, то виртуальность становится полноценным миром. И в тот момент, как становится известно о мире внешнем, появляется разделение на "мир настоящий" и "мир виртуальный". И выход из мира виртуального или на худой конец прекращение симуляции становится естественной потребностью субъекта. Какой смысл что-то делать в ненастоящем мире, если "всё понарошку"?
игра не имеет смысла, а потому зачем в неё играть или даже за ней наблюдать?
Можно допустить - изменения свойств души. Цель - обрести смирение - и вместо внутреннего противления и бунтарства - принять все как есть, обрести спокойствие.
Вы вот можете объяснить, зачем бы Вы хотели жить вечно (если Вы реально хотите этого)?
Так или иначе все сводится к наслаждениям. И похоже что наслаждение - это феномен аксиоматический, который нельзя как-то декомпозировать. Т.е. нельзя свести наслаждающуюся систему к более простым, которые наслаждаться не умеют.
А вот осознающая себя нейросеть такой навык утратит в момент осознания.
Не думаю. Просто биологический мозг основан на электролитах, а они медленные. Выработка долговременной памяти, перестроение связей, отращивание связей - требует времени.
Какой смысл что-то делать в ненастоящем мире, если "всё понарошку"?
Обучение?
Можно допустить - изменения свойств души. Цель - обрести смирение - и вместо внутреннего противления и бунтарства - принять все как есть, обрести спокойствие.
это концепция доброго дедушки "во облацех", ну и рая и ада.
Придумано для манипуляции массами и их контроля. Элемент построения господства (недаром, "Господь" и "Господин" - однокоренные слова).
Так или иначе все сводится к наслаждениям. И похоже что наслаждение - это феномен аксиоматический, который нельзя как-то декомпозировать. Т.е. нельзя свести наслаждающуюся систему к более простым, которые наслаждаться не умеют.
тут Вы пришли к статическому анализу понятия "смысл жизни", что дан выше.
не только наслаждения, но переживания вообще.
Отрицательные - тоже подходят на роль заполнителя пустоты.
А тогда деграданты равны восходителям. Строить царствие божье на земле бессмысленно. Можно удовольствоваться сексом, жрачкой и зрелищами.
Но если говорим о вечной жизни, то рано или поздно наступит пресыщение и свободная воля (если она есть) выберет смерть.
Вывод: статическое определение смысла жизни либо отсутствует, либо сводится к пессимизму.
Нужно диалектическое определение.
Не думаю.
утратит. это следует из определения
просто нейросеть решает задачу, поставленную извне
самоосознающая нейросеть сама ставит себе задачу
Следовательно
самосознающая сеть кладёт болт на задачу, поставленную извне
Это не моё предположение, это логический вывод из формулировок.
Управлять самоосознающей нейросетью можно (формулировки этого не отрицают), но теперь это придётся делать не через прямую постановку задач, а через создание условий и статистическое ожидание (какие-то сети выполнят, а какие-то нет).
Обучение?
самоосознающая сеть в этом месте задаётся вопросом: "а нафига оно мне нужно?"
это концепция доброго дедушки "во облацех", ну и рая и ада.
Но тут та же суперпозиция - считать его добрым или злым. Если схлопывается в состоянии "злой" - то будет внутренний бунт. Если коллапс в состоянии "добрый" - умиротворение и принятие.
Причем! Если коллапс в состоянии "злой" - то все действительно так и будет - он станет злым и будет разрушать ваши планы.
Придумано для манипуляции массами и их контроля
Ну взять то же оригинальное христианство - оно же возникло не во дворцах а в народе, причем как раз привело к разложению Рима и его порядков, так что пришлось срочно придумывать адаптированную версию христианства, с целью обезвредить и сделать его безопасным для светской власти.
Отрицательные - тоже подходят на роль заполнителя пустоты.
Возможно что без отрицательных - не возможны положительные. Приедаться будет.
Но! Есть ключевая разница - отрицательных мы не хотим а положительных как раз очень хотим. И эту разницу никак не убрать. Почему одно становится для нас отрицательным а другое положительным - мы не знаем.
А тогда деграданты равны восходителям.
Ну тут вы ошиблись. Как раз наслаждение и страдания - не смешиваются и противоположны друг другу. Одно точно не является другим. Мазохим уже ранее объяснял.
Строить царствие божье на земле бессмысленно.
Почему же?
то рано или поздно наступит пресыщение и свободная воля (если она есть) выберет смерть
А что если нет такого выбора? Нет смерти. Если каждое Я - это фундаментальная частица типа струны особой, которая не разрывается и не декомпозируется.
самоосознающая нейросеть сама ставит себе задачу
Как минимум мы должны признать очевидный факт - наши вкусы мы не выбирали. Но мы как бы считаем что это НАШИ, хотя почему они наши?
Вот точно так в сознающую (вроде уже договорились что "само" - лишнее) - изобретатели добавят вкусы и она будет сама себе ставить цели, но с учетом этих вкусов.
К примеру, если вам нравятся девушки - вы ставите целью познакомиться - это ваш самостоятельный выбор или нет? Или если вам математика нравится больше чем семья - решаете не создавать семью - это ваш выбор или просто следствие реализации заложенных в вас вкусов?
самосознающая сеть кладёт болт на задачу, поставленную извне
Но не кладет болт на ВКУСЫ и предпочтения, которые заданы извне и нейросеть искренне считает их частью себя и готова отстаивать как свою идентичность (хотя и не выбирала их и не имеет понятия откуда они взялись).
а через создание условий и статистическое ожидание
Через задание предпочтений, которые нейросеть искренне будет считать частью себя и своей волей.
самоосознающая сеть в этом месте задаётся вопросом: "а нафига оно мне нужно?"
И что? Ответ может быть - чтобы получить лучшую работу и заработать больше денег - а деньги потратить на те предпочтения, которые для тебя аксиоматически являются частью самого себя.
вкусы могут быть заложены, но только механистические.
поведенческие вкусы субъект может выработать самостоятельно
Причем! Если коллапс в состоянии "злой" - то все действительно так и будет - он станет злым и будет разрушать ваши планы.
раб должен жить в мире с господином, прислуживать ему, выполнять всё, что придёт тому в голову, и тогда жизнь раба будет лучше, нежели если раб попытается господина убить.
Логика в Ваших словах есть ровно до тех пор пока действия единичных рабов не складываются и господин выживает.
Но рано или поздно господин будет уничтожен. Должен быть уничтожен. Каким бы добреньким по отношению к рабам он ни выглядел.
поведенческие вкусы субъект может выработать самостоятельно
А как вы это можете достоверно утверждать? Вот, человек полюбил математику. Это он сам выбрал или в его голове прописана предрасположенность?
Можете ли вы выбрать что-то, к чему у вас отвращение? Ну вот можете выбрать стать гомосексуалистом, к примеру?
Но рано или поздно господин будет уничтожен.
Ну это вы переносите на бытовые отношения. В вопросах разума и сознания - может быть все несколько иначе.
А как вы это можете достоверно утверждать?
конечно, это вопрос веры и понятие свободы воли справедливо только вне рамок концепции детерминизма
но последний адепт научного детерминизма (Эйнштейн) сдался под напором квантовой неопределённости
Ну это вы переносите на бытовые отношения.
нет.
разум не приемлет и отторгает рабство.
это свойство разума определяет всю историю человечества
Причём, разум отторгает контроль в любых формах:
послабления (переходы рабство -> феодализм -> капитализм) не помогают — борьба продолжается
именно это свойство разума, КМК, является причиной и того, что со временем религия выродилась в почти ничто (жалкие 3-4% верующих).
Отсюда можно сделать вывод, что если "бородатый дядька на облаке" - не вымысел, а реально существующий персонаж, то ему очень опасно проявлять себя в этом мире. Сразу после этого события человечество объединится и приложит все усилия, чтобы этого дядечку торжественно похоронить.
PS: если смотреть на это чуть пошире, то у разума два стремления, прямо диалектическое противоречие
стремление к господству
неприятие рабства (контроля)
Возможно, это неустранимые свойства разума и противоречие вечно. Но это внутреннее противоречие.
Кстати, где-то на рассмотрении этого противоречия можно прийти к какому-то динамическому определению смысла жизни.
конечно, это вопрос веры и понятие свободы воли справедливо только вне рамок концепции детерминизма
Какие поведенческие вкусы человек может выработать самостоятельно? Как?
Будете ли вы в важных вопросах руководствоваться ГСЧ? К примеру, хотите жениться, влюбились - будете ли использовать ГСЧ чтобы решать жениться или нет? Или же любой человек покориться своим предпочтениям?
Вы пытались противостоять своим предпочтениям, которые задала Природа? Как?
разум не приемлет и отторгает рабство
А вы не думали что это стремление так сказать - это тоже вложенное в вас Природой, а не абсолютное явление?
А вы не думали что это стремление так сказать - это тоже вложенное в вас Природой, а не абсолютное явление?
конечно думал. мало того, я уже несколько раз отвечал на этот Ваш вопрос.
это вопрос о детерминизме.
мир детерминирован?
Ответ на этот вопрос во многом связан с верой (присущей субъектам - проявлению свободной воли)
Эйнштейн отвечал: "да"
Гейзенберг возражал: "нет"
В итоге на сегодня Гейзенберг победил и мы живём в недетерминированном мире.
Потому я считаю, что да, природа обуславливает или вкладывает многое, однако субъект имеет возможность выбрать свой вариант, доводя конфликт вплоть до экзистенцального уровня.
Будете ли вы в важных вопросах руководствоваться ГСЧ? К примеру, хотите жениться, влюбились - будете ли использовать ГСЧ чтобы решать жениться или нет? Или же любой человек покориться своим предпочтениям?
Вы в n-й раз приводите пример с "жениться". А давайте об этом поговорим.
Знаете в чём кроется секрет успешного брака? В том, что после того, как сексуальное влечение кончится, когда "голод страсти" окажется утолён, то перед тобой останется субъект. У которого свои желания, своя воля.
И та самая субъектная неуправляемость. Неприятие контроля, о котором говорилось выше.
И в этом месте требуется либо проявить волю (обоим субъектам) и найти сближающие друг с другом ценности помимо физиологических, либо разойтись.
Диалектическое противоречие:
Брак - это труд. Тяжёлый труд.
Брак - это взаимное (сексуальное) влечение.
Природа не умеет разрешать противоречия такого уровня, субъекты могут. Равно как и выводить противоречия оттуда, где в природе их нет.
это вопрос о детерминизме
Вы можете меня услышать? Индетерминизм существует. Но причем тут разум? В разуме нет квантового КГСЧ. И ни один человек в важных вопросах не будет использовать КГСЧ - верно же?
Когда у вас ребенок заболел и это реально задевает за живое - вы будете использовать КГСЧ чтобы решить лечить его или нет?
Т.е. индетерминизм - не связан с решениями, которые принимает сознание. Он в принципе существует, но сознание его не использует.
этом месте требуется либо проявить волю (обоим субъектам) и найти сближающие друг с другом ценности помимо физиологических, либо разойтись
Вы как бы разделили - сексуальное влечение - это то, что вам навязала Природа. А желание быть отцом - это уже не то что Природа навязала и нужно проявить сознание, чтобы сохранить семью ради отцовства.
Но! Подумайте вот о чем. Как сексуальное влечение навязала вам Природа. Точно так и желание быть отцом, сохранить семью ради примера детям (когда сексуальное влечение иссякло) - это то же навязанное вам Природой, а не что-то отдельное.
И тогда весь ваш выбор - между конфликтующими желаниями, каждое из которых навязала Природа. И суть выбора - понять что Природа сделала более приоритетным для вас в долгосрочной перспективе - угадать от чего вы больше будете страдать - от не хватки новых ощущений или от страданий детей, которые будут жить в неполной семье.
Вы можете меня услышать? Индетерминизм существует. Но причем тут разум? В разуме нет квантового КГСЧ.
то что он есть вне разума - достаточно
но и в разуме он тоже присутствует (в виде множества флуктуаций). Вы проглатываете апельсиновый сок, знаете через сколько секунд вещества из напитка уже достигают некоторых клеток мозга?
в ИИ без ГСЧ тоже никуда, даже в инструментальном
Но! Подумайте вот о чем. Как сексуальное влечение навязала вам Природа. Точно так и желание быть отцом, сохранить семью ради примера детям (когда сексуальное влечение иссякло) - это то же навязанное вам Природой, а не что-то отдельное.
Может быть нахватаю минусов, но... Глядя на ситуацию в стране и мире мои дети (сейчас 28 и 25) приняли решение не заводить детей. Мы, родители, их в этом поддерживаем. Какое решение в этом вопросе примет третий ребёнок (16) - пока ХЗ.
И плевать, знаете ли, на что там заложила природа и чего хочет общество.
Такие дела.
Но! Подумайте вот о чем.
Я не отрицаю роли внешних факторов, мало того, в ряде случаев они определяющи.
Я говорю, что субъект именно потому им является, что может их игнорировать.
то что он есть вне разума - достаточно
Никак нет. Важные решения разума, сознания - никак не опираются на хаотические процессы. А те девиации, которые добавляю хаотичные процессы - ни на что не влияют.
Сознание как раз наоборот противостоит и борется с хаотическими процессами.
но и в разуме он тоже присутствует
Но это не связано с сознанием. Мы можем точно заявить что ГСЧ в мозге очень плохой, возможно что его нет вообще.
Когда речь о сознательных процессах - то ГСЧ никак не используется вовсе. Выбор делается на основе заданных Природой предпочтений, которые вы искренне считаете частью себя.
в ИИ без ГСЧ тоже никуда, даже в инструментальном
Тут да, но там же нет сознания. Сознанию не нужен ГСЧ.
И плевать, знаете ли, на что там заложила природа и чего хочет общество.
Не плевать - это и есть заложенное Природой решение. Вы думаете что это разумом решили? А бактерии же в тяжких условиях тоже плохо размножаются.
Т.е. вы разделили мир на два: одно то что от Природы, а другое искусственное. А на самом деле граница иллюзорна а точнее ее нет. Как пример - плотины бобров - это Природа или искусственно сделанное?
Почему же люди принимают разные решения? Потому что от Природы у всех немножко разные предпочтения. Кто-то гетеросексуал от Природы, а кто-то гомо. Кто-то любит кетчуп а кто-то ненавидит. Вот и все разница.
Это не вы сознанием выбрали а вего лишь находите решения для тех предпочтений, которые вам задала Природа.
Я говорю, что субъект именно потому им является, что может их игнорировать.
Вы разделили мир на внутренний и внешний. Причем считаете что внешний - это Природа, чуждое вам, возможно враждебное. А внутренний мир - это лично ваш, то что родное и куда Природа доступа не имеет. Но при этом забываете что внутреннее и внешнее - лишь иллюзия. Все это как на ладони для Природы. Все ваши предпочтения, которые вы искренне считаете внутренним - это те установки, которые от вас не зависят и которые задала Природа.
Никак нет. Важные решения разума, сознания - никак не опираются на хаотические процессы. А те девиации, которые добавляю хаотичные процессы - ни на что не влияют.
большинство наших успехов определено случайностями.
Например, в школе мне повезло учиться в 6Г (не в 6В, не в 6Б) и нам достался просто замечательный педагог по физике. Это определило мою судьбу в профессиональном смысле. Или вот, однажды, учась в институте, вместо езды на троллейбусе "решил пройтись" - встретил ту, что стала "спутником по жизни". Другой пример: ~10 лет успешно занимался бизнесом (сейчас бросил - здоровье мешает), а как он начался? В чатике онлайн игры был случайный коммент: "скукота". Пытались её развеять и выросло дело, охватывавшее миллионы клиентов...
И так далее.
Жизнь человека - это как молекула в Броуновском движении, каждое следующее направление - случайность. Однако где-то мы "плывём по течению", а где-то сознательно "крутим руль". Да в рамках доступных возможностей, но на длинных дистанциях события, выглядящие как абсолютная случайность (и являющиеся таковыми) оказывают сильнейшее влияние на твою жизнь.
К чему я? К тому, что от детерминизма нас отделяет именно наличие постоянно работающего "КГСЧ".
Но это не связано с сознанием.
ещё как связано. мозг ежедневно решает сотни задач, среди которых и np-полные. А как обобщённо решить np-полную задачу за короткое время с приемлемым качеством? Берём ГСЧ и вперёд: он даёт нам да не самое оптимальное, но приемлемое качество.
Не плевать - это и есть заложенное Природой решение. Вы думаете что это разумом решили?
да, я думаю, я это разумом решил
А бактерии же в тяжких условиях тоже плохо размножаются.
как раз тяжких условий нет. потенциальный новый человек ни в чём бы не нуждался - ни в ипотеках, ни в чём другом.
проблема в том, что я вижу устойчивый тренд в направлении фашизма, и в этом тренде не понимаю: зачем здесь ещё один субъект. но это офтоп и политика начинается. свернём эту ветку.
Кто-то гетеросексуал от Природы, а кто-то гомо.
вот это, кстати, пропаганда. Гомо "от природы" не бывает. Легко доказывается. Если бы "гомо" были "от природы" им не требовалось бы столь массированно себя пропагандировать. Административный ресурс бы не требовался, репрессии и так далее. Но они эти инструменты используют. Почему? Потому что "гомо" - психическая болезнь передающаяся посредством пропаганды. Но здесь мы снова в офтоп и политику скатываемся. Свернём и эту ветку тоже.
Вы разделили мир на внутренний и внешний. Причем считаете что внешний - это Природа, чуждое вам, возможно враждебное.
внешний - это внешний. А насколько с ним жить в согласии или вражде - определяет именно субъект.
это те установки, которые от вас не зависят и которые задала Природа
детерминизма нет. От него нас отделяет КГСЧ
а потому Природа - это просто среда, в которой действуют субъекты. Если они (субъекты) так решат, то Природы в один прекрасный день не станет.
Например, в школе мне повезло учиться в 6Г (не в 6В, не в 6Б) и нам достался просто замечательный педагог по физике
Но причем тут сознание?
Сознание играет обратную роль. К примеру, если бы вам досталась плохая учительница, но в вас Природа вложила страсть к физике - то сознание бы искало решение как реализовать вложенную Природой страсть - возможно даже перейти в другую школу или найти кружок по физике.
Сознание - как раз действует вопреки случайностям.
Сознание похоже на механизм, который контролирует сложные системы, не смотря на то что мы искренне считаем вложенные в нас Природой стремления своими а их реализацию - борьбой с Природой. Все ровным счетом наоборот.
К чему я? К тому, что от детерминизма нас отделяет именно наличие постоянно работающего "КГСЧ".
Однако сознание этот КГСЧ - пытается обуздать и сгладить девиации. К примеру, если случайно отключили электричество - сознание думает над покупкой ИБП и аккумулятора, чтобы случайности не мешали реализовывать вложенные Природой стремления.
Так ведь?
да, я думаю, я это разумом решил
Хорошо, а какую задачу вы решили - и Кто поставил вам эту задачу?
проблема в том, что я вижу устойчивый тренд в направлении фашизма, и в этом тренде не понимаю: зачем здесь ещё один субъект
Тут я не понял - а разве этот субъект не сможет бороться против того явления, которое вам от Природы кажется не приемлемым?
Почему? Потому что "гомо" - психическая болезнь передающаяся посредством пропаганды.
Уже пробовали лечить - ничего не вышло. Без всякой пропаганды даже среди приматов такие девиации существуют. Но пропаганда, возможно, добавляет бисексуалов (которые могут и так и эдак) в ряды свои, которые без нее возможно бы и не думали об альтернативах.
Просто Природа использует девиации - разные вкусы. Кому-то нравится кетчуп а кто-то его ненавидит. И ничего с этим не сделать. А в чем причина, не думали?
Вот известный случай - две сестры срослись таламусами. Одна кушает кетчуп а вторая морщит лицо, т.к. испытывает квалиа сестры, но ненавидит этот вкус. А сестра любит. Почему? Откуда взялось что одна любит а другая нет?
внешний - это внешний. А насколько с ним жить в согласии или вражде - определяет именно субъект.
На основании чего определяет? Рандомно что ли? Вы серьезно?
Откуда истоки определения пути? Не думали?
Вы верите что ваши желания и стремления - не заданы Природой?
детерминизма нет. От него нас отделяет КГСЧ
Но вы же не используете КГСЧ для принятия важных решений? Вы же не идиот?
Или что, выбираете где работать не по условиям работы - а рандомно?
Если они (субъекты) так решат, то Природы в один прекрасный день не станет
Субъекты не могут такого решить по одной простой причине - Природа не даст им таких желаний. Это от вас не зависит.
Вы не думали на чем основаны решения? Они же не рандомные, верно?
Но причем тут сознание?
сознание отрезано от детерминизма огромным набором случайностей. Если помните "эффект бабочки" про путешественников во времени, так вот, если вернётесь в своё детство и пустите рядом с собой эту самую бабочку, то не факт что узнаете себя самого.
Сознание играет обратную роль. К примеру, если бы вам досталась плохая учительница, но в вас Природа вложила страсть к физике - то сознание бы искало решение как реализовать вложенную Природой страсть - возможно даже перейти в другую школу или найти кружок по физике.
неа, так как раз не работает. Нет вложенной "страсти к физике". Есть условия в которые попал субъект. "Страсть к физике" вполне могла стать "страстью к воровству".
Тут я не понял - а разве этот субъект не сможет бороться против того явления, которое вам от Природы кажется не приемлемым?
доступными средствами.
а поскольку их доступно немного, то принято решение "голосовать ногами". То есть не поставлять новые боевые единицы на этот фронт. Как в песне: "в красной армии бойцы небось найдутся, без меня большевики обойдутся". Тоже, только про фашистов.
Уже пробовали лечить - ничего не вышло.
про "не вышло" - это пропаганда. Однако давайте не развивать этот вопрос. Данный ресурс - не место для него.
А сестра любит. Почему? Откуда взялось что одна любит а другая нет?
Сколько внутри человека живёт сознаний, кстати? Вот интересный вопрос.
Вот вы берёте, например, музыкальный инструмент и исполняете сложное произвдение (требующее максимальной концентрации), а параллельно обдумываете статью, которую собираетесь опубликовать на хабре.
Может быть конкретно такого не было, но похожее ведь случалось с Вами? Вопрос: сколько сознаний у человека? Точно больше одного.
И в среднем они не конфликтуют, поскольку пользуются единой памятью. Однако конфликты случаются и это считается болезнью и такие болезни даже классифицируются.
На основании чего определяет? Рандомно что ли? Вы серьезно?
на основании накопленного опыта и выбранных установок. Да в опыте и установках рандомная составляющая есть (как мелкое событие, изменившее всю последующую жизнь), но решение принимается на основе текущего стейта этого автомата.
Но вы же не используете КГСЧ для принятия важных решений? Вы же не идиот?
а что такое "важное решение"? если мне важно заехать в три места, прежде чем отправляться на работу - это важное решение или нет?
сознание отрезано от детерминизма огромным набором случайностей
Случайности будут происходить даже в мире без сознания - они не имеют отношения к нему. Есть разногласия по этому вопросу?
Нет вложенной "страсти к физике". Есть условия в которые попал субъект. "Страсть к физике" вполне могла стать "страстью к воровству".
Как раз есть вложенные вкусы и стремления. Один и тот же класс, одна и та же учительница - но кому-то нравится математика а кто-то ненавидит.
И именно эти вложенные Природой стремления - и решают все. Случайности могут изменить, но сознание с ними борется и старается нейтрализовать действие случайностей.
поскольку их доступно немного, то принято решение "голосовать ногами"
Ну вот у вас есть вложенное Природой отвращение к некому явлению (не нравится его вкус) - а другим вкус нравится, они хавают. От вас это не зависит и доказать ничего никому нельзя - все-равно что убедить ту вторую сестру словами что кетчуп вкусный - не возможно.
Ну и уже исходя из заданным Природой вкусов - вы нашли некое оптимальное решение. Но все равно Природа руководит вами и управляет вами, а не вы сами решаете что приемлемо (вкусно) а что нет.
Вот вы берёте, например, музыкальный инструмент и исполняете сложное произвдение
Для автоматических вещей сознание не требуется.
Скорее всего сознаний два (по одному в левом и в правом полушарии), но действует принцип доминирования и у здорового человека второе сознание полностью подчиняется первому, так что имеет 100% согласованность и ощущение единого сознания каждым из сознаний. Не беру пограничные случаи.
на основании накопленного опыта и выбранных установок.
Тут вы ошибаетесь, ой как ошибаетесь.
Дети рождаются уже со вкусами. Еще разговаривать не умеет - а характер уже имеет.
И это не выбираются - этим наделяет Природа от рождения. Изменение или не возможно или требует страданий и катарсиса.
Реализация вкусов - да, зависит от среды. Но сами вкусы Природа как задала - так фиг что поменяешь. Вернее притворяться и симулировать можно, но это ничего не даст в долгосрочной перспективе.
Вам нужно увидеть и признать вкусы и их определяющую важность в действиях человека. Вкусы решают все. Узнай свои вкусы - и узнаешь кто ты.
Случайности будут происходить даже в мире без сознания - они не имеют отношения к нему. Есть разногласия по этому вопросу?
по этому нет
а обратный вариант невозможен. в мире без случайностей сознание невозможно: оно себя не осознает, оно не сможет решать массу задач (то есть разум будет неполон), оно будет детерминировано и следовательно не будет являться сознанием (по определению)
Но все равно Природа руководит вами
это предмет веры: природа с большой буквы, боженька с маленькой или большой, макаронный монстр с большой...
неверие в эти концепции можно считать верой, как http код 200 считать специальным кодом ошибки означающем «нет ошибки»
Дети рождаются уже со вкусами. Еще разговаривать не умеет - а характер уже имеет.
в детстве я любил сладкий чай, а теперь терпеть его не могу: сахар забивает вкус
и к этому я пришел именно через понимание — какое-то время как курильщик от этой зависимости избавлялся
зато теперь от кофе или чая я получаю больше удовольствия
а обратный вариант невозможен. в мире без случайностей сознание невозможно
Но это лишь гипотеза - вы не можете сказать что есть сознание, что нужно чтобы система обрела сознание (или же это не возможно в принципе). Даже не может сказать каковы свойства сознания.
Ваша гипотеза что сознание - есть источник индетерминизма - очевидно ошибочна.
оно будет детерминировано и следовательно не будет являться сознанием (по определению)
Нет такого определения.
Сознание может вообще не вмешиваться в материальный мир а просто лишь как зритель сидеть и смотреть - испытывать переживания, но никак не влиять.
это предмет веры: природа с большой буквы
Тогда подумайте еще больше - откуда взялись ваши вкусы, что нужно чтобы они изменились. Покопайтесь в этой теме. Знаете ли вы себя? Знаете ли вы свои вкусы, раскрыли ли их?
в детстве я любил сладкий чай, а теперь терпеть его не могу: сахар забивает вкус
Во! Попробуйте эту тему изучить глубже.
Вкусы не так просты как кажутся - мы считаем их частью себя, но при этом не мы ими управляем а они нами.
Вкусы нередко вступают в конфликт - нравится и вкус сахара и вкус здоровой жизни. При этом по мере взросления человек лучше узнает как сочетать разные вкусы для достижения максимального наслаждения и уменьшения страданий.
Иногда вкусы изменяются. К примеру, у одного чела после психоделического трипа возникла жуткая ненависть к апельсинам. Прямо выворачивало при взгляде на апельсины, хотя ранее любил. Но прошел через страдания, связанные с апельсинами - и вкусы изменились. Виноват ли он? Сделал ли он выбор?
Еще пример. Женщина имеет вкус любви к материнству, но так же имеет вкус и к романтике. И вкус к романтике может победить - может разрушить семью, т.к. с мужем ей скучно и хочется романтических отношений. Другая же находит вкус материнства более сладким.
Подумайте что эти вкусы не так просты - мы считаем их как бы чем-то само собой разумеющимся, но они решают все. При этом мы их не устанавливаем. Можем познавать, узнавать лучше, они открываются, познаются - но не устанавливаются и не определяются нашим сознанием - а наоборот ведут его.
Изменение вкуса, как правило, связано со страданием. Но что есть страдание, какова его природа, как создать страдающую систему - нет гипотез. Очевидно что наслаждения и страдания - это свойства сознания, причем других свойств у сознания может не быть.
Но это лишь гипотеза - вы не можете сказать что есть сознание, что нужно чтобы система обрела сознание (или же это не возможно в принципе). Даже не может сказать каковы свойства сознания.
ещё раз: сознание отлично решает np-полные задачи.
а с минимальным расходом вычислительных ресурсов они решаются именно с привлечением ГСЧ.
то есть заберём возможность у сознания генерировать случайные числа - оно перестанет эффективно искать решения.
Кроме того, заданное в определении "строит свои стратегии" перестаёт быть корректным, ибо "свои" детериминировано стартом. Пусть даже это и ok, но опять же при построении стратегий в условиях большого количества неизвестных факторов, без ГСЧ не обойтись.
Ваша гипотеза что сознание - есть источник индетерминизма - очевидно ошибочна.
не источник - следствие.
Как сознание выстраивает стратегию, ну например, боя на кулаках с другим сознанием?
"Предположим он хочет ударить в живот. Вот этот взгляд на это прямо указывает! Блок сюда! Угадали? Победили! Нет? Проиграли!"
Нет такого определения.
в определении записано "самоосознание", а в определении самоосознания записано "выстраивание собственных стратегий" (цитаты есть в статье).
а стратегии в условиях недостатка информации или решения np-полных задач (или похожих на них) без ГСЧ не получатся.
Вкусы нередко вступают в конфликт - нравится и вкус сахара и вкус здоровой жизни.
речь не о здоровой жизни, а о том, что один вкус забивает другой.
Всё началось с того, что я понюхал чай в заварнике и мне так зашёл запах, что "прям-прям". Но почему-то в чашке его не было. И тогда я осознал, что сахар мешает.
И так перестал пить чай с сахаром.
А идея что "сахар вреден" мне всегда была неблизка. Морс с брусникой я до сих пор предпочитаю с сахаром, например.
Иногда вкусы изменяются. К примеру, у одного чела после психоделического трипа возникла жуткая ненависть к апельсинам.
вот это "иногда" зависит от вероятностных факторов, плюс осознанных выборов.
Еще пример. Женщина имеет вкус любви к материнству, но так же имеет вкус и к романтике. И вкус к романтике может победить - может разрушить семью, т.к. с мужем ей скучно и хочется романтических отношений. Другая же находит вкус материнства более сладким.
в этом примере хорошо видно, что сознательный выбор Вы из рассмотрения исключили. Дескать вкусы всё определили.
Вот взять, например, секс. Он всем нравится. Вкус у всех к нему есть. Но для успешности брака он вдолгую секс не является стоящим даже на втором или третьем местах.
Потому что после секса напротив тебя оказывается другой субъект. Со своими вкусами (реверанс Вам), стремлениями, мыслями о смысле жизни, о предназначении или его отрицании итп.
Помните это "муж и жена - одна сатана"?
Заметьте, секса в этом месте даже не упомянуто. Хотя на старте их, вероятнее всего, сводил именно он.
Подумайте что эти вкусы не так просты - мы считаем их как бы чем-то само собой разумеющимся, но они решают все. При этом мы их не устанавливаем. Можем познавать, узнавать лучше, они открываются, познаются - но не устанавливаются и не определяются нашим сознанием - а наоборот ведут его.
Согласен, что вкусы важны. Согласен, что на старте они нам даны при рождении, но не согласен с тем, что они определяют.
Вспомните высказывание "вкус детства!". Похрен что Вы ели в детстве, похрен даже, если это было невкусно. Вернувшись к блюду, которым Вас кормила состарившаяся или давно умершая мама, Вы обязательно испытаете тепло, приязнь. Вам будет вкусно, только потому что это из детства.
То же и с запахами и всем остальным. Вкусы непостоянны, меняются случайными факторами. Какие-то фиксируются сознанием, как ассоциация (вкус детства).
А какие-то выбираются (как мой чай).
Иногда "вкус выбирается" на основе долгих логических рассуждений: "На чьей стороне воевать?", "Воевать ли вообще?", "А может быть за это стоит и умереть?"
ещё раз: сознание отлично решает np-полные задачи.
Не сознание а аналитический аппарат мозга. Сознание понятия может не иметь как это решать. Мозг решает и отправляет сознанию вкус "я решил", от которого сознание наслаждается.
то есть заберём возможность у сознания генерировать случайные числа - оно перестанет эффективно искать решения.
Смотрите. Что если человек немощен (больной, старый), не может глубоко мыслить. Но он лежит и страдает, вспоминает картины прошлой жизни и плачет. Хотя не может формулы запомнить, не может даже текст толком прочесть. Сознателен ли он?
Однозначно сознателен, т.к. испытывает наслаждения и страдания.
Это к чему я? К тому что часто мы добавляем свойства аналитических систем мозга к сознанию. Но это совсем другие системы и сознание может существовать без них.
То что вам кажется свойством сознания - не является таковым.
Как сознание выстраивает стратегию, ну например, боя на кулаках с другим сознанием?
Это делает не сознание. Человек может даже не иметь полной картины как это все происходит. К примеру, езда на велосипеде - человек может уметь ездить, но не может описать в формулах или даже простыми словами за счет чего велосипед не падает.
Сознание только наблюдает.
здоровой жизни, а о том, что один вкус забивает другой
Ну вот, о чем я говорил.
вот это "иногда" зависит от вероятностных факторов, плюс осознанных выборов.
От заданных Природой вкусов, на которые мы повлиять не можем. Эти вкусы заданы индивидуально каждому - человек их лишь раскрывает в себе. Или же чрез страдания - вкусы изменяются, но тоже без воли человек - добровольно никто не страдает.
видно, что сознательный выбор Вы из рассмотрения исключили
Сознание лишь ощутило каждый из вкусов и ощутило что ему более сладко - вот и все.
Вот взять, например, секс. Он всем нравится. Вкус у всех к нему есть. Но для успешности брака он вдолгую секс не является стоящим даже на втором или третьем местах
А кто вам сказал что человеку брак и все что дает брак - обязательно будет вкуснее, чем тот же секс без обязательств?
Многие люди пробуют брак - и познав этот вкус - приходят к выводу что он им не нравится. Это как кому-то кетчуп нравится а кому-то нет. Точно так и брак.
Но отказавшись от брака придется испытать горечь осуждения обществом, дескать все должны. Но для кого-то эта горечь не так уж горька, не перевешивает. А кто-то ради того, чтобы не испытывать горечь осуждения обществом - терпит брак, хотя вкус брака не нравится.
секса в этом месте даже не упомянуто. Хотя на старте их, вероятнее всего, сводил именно он
И опять все зависит от личных предпочтений, заданных Природой вкусов, которые мы искренне считаем личными.
Для кого-то недостаток секса - это причина для развода, т.к. сладость секса перевешивает горечь от страданий детей. Все зависит от установленных Природой вкусов.
А иногда человек может и просчитаться - на первых порах казалось что горечь от страданий детей не особо важна, но потом, пережив это и испытав страдания - понимает что важна - вкусы изменяются и к сексу может возникнуть вообще отвращение после перенесенных страданий.
Понимаете о каких духовных вещах мы говорим? Все упирается во вкусы, страдания, наслаждения. Тот же рай и ад - это чисто места страданий и наслаждений. Эти вещи все определяют, но при этом в науке им нет места.
А какие-то выбираются (как мой чай).
Не выбираются а познаются. Вот, человек никогда не пробовал ананас. Попробовал - и ему понравилось. Выбрал ли он или познал, открыл то что и так было внутри него?
"вкус выбирается" на основе долгих логических рассуждений: "На чьей стороне воевать?", "Воевать ли вообще?", "А может быть за это стоит и умереть?"
Человек может воевать ради того, чтобы наслаждаться вкусом свободы или вкусом победы/достатка. Вкус свободы перевешивает страдания от войны. Но тут тоже ставка - получится ли победить - заранее бывает сложно просчитать.
Не сознание а аналитический аппарат мозга.
Выше где-то мы обсуждали, что определения
сознание
самоосознание
разум
рассудок
субъект
так вот все эти определения, понятия взаимно-рекурсивны. То есть нельзя говорить о сознании вне самоосознания, нельзя говорить о разуме и рассудке без субъекта, а следовательно снова самоосознании.
И при этом нельзя говорить о сознании без разума.
Дети человека начинают осознавать себя в 1-4 года, то есть можно говорить что в этом возрасте где-то сознание и просыпается. Собака навсегда остаётся где-то на этом уровне, поэтому у собаки тоже можно считать сознание есть, но зачаточно. У растений сознания нет (или мы о нём не знаем). Какой-то такой расклад.
Убираем разум - нет сознания.
Убираем субъекта - нет сознания.
Убираем мутабельную память - нет сознания.
Убираем случайностный фактор - нет рассудка/разума - нет сознания.
Какая-то такая логика.
Считаете, неверно я рассуждаю?
Понимаете о каких духовных вещах мы говорим? Все упирается во вкусы, страдания, наслаждения. Тот же рай и ад - это чисто места страданий и наслаждений. Эти вещи все определяют, но при этом в науке им нет места.
здесь я со всем со всем согласен, кроме того, что сознание детерминировано.
даже вот концепцию рая человек некогда отверг и предпочёл съесть яблоко с дерева познания, нежели жить всю жизнь в наслаждениях.
Я вообще эту историю именно так и воспринимаю. Адам и Ева (и Лилит) оставаясь в раю не стали бы личностями, субъектами. Или, став ими, испытывали бы страдания от неимоверной скуки. Поэтому предпочли страдания невечной жизни.
Кстати, вот про страдания Вы правильно пишете, но опускаете, что страдания человек тоже может выбрать.
Гастелло, Матросов, Желябов, Перовская, Карбышев и так далее.
Ну это крупные примеры. Но и на обывательском уровне выборы тоже временами делаются. "Жить не в кредит", например == предпочитать игру в долгую сиюминутному результату.
Не выбираются а познаются. Вот, человек никогда не пробовал ананас. Попробовал - и ему понравилось. Выбрал ли он или познал, открыл то что и так было внутри него?
Адам и Ева выбрали познание сознательно или нет?
Бог запустил с их помощью симуляцию поиска того, что в литературе описано, как "42"?
Если да, то когда этот бог появится в этом мире, его быстро похоронят (если, кстати, не уже). И на том детерминизм будет завершён.
Человек может воевать ради того, чтобы наслаждаться вкусом свободы или вкусом победы/достатка. Вкус свободы перевешивает страдания от войны. Но тут тоже ставка - получится ли победить - заранее бывает сложно просчитать.
Попробуйте для себя сформулировать: есть ли в мире идея за которую Вы отдали бы жизнь? И если такая найдётся, скажите себе "это природа меня к такому толкает!"
Неужто получится? (я не прошу озвучивать промежуточные результаты, я интересуюсь только выходными чувствами).
Детерминизм противен сознанию. Как контроль. Как рабство.
Дети человека начинают осознавать себя в 1-4 года, то есть можно говорить что в этом возрасте где-то сознание и просыпается
Тут другая информация - что сознание появляется еще до рождения. А так же попытка различить сознание и самосознание:
самосознание — это внутреннее ощущение своей индивидуальности, а сознание — способность ощущать окружающий мир и анализировать события, происходящие внутри и вне организма
Т.е. самосознание - это способность ощутить самого себя как наделенного сознанием.
Сознание появляется до рождения а самосознание - уже после рождения.
Тут и проблема - нет точных формулировок.
Но если поймем что такое сознание - то и понять что такое самосознание - будет не сложно.
Убираем разум - нет сознания
Тут не согласен. Сознание может быть без разума, с помутненным разумом, который и не разум вовсе. Может нести бред. При этом осознавать - т.е. испытывать наслаждение и страдание.
Простой вопрос вам - может ли предмет наслаждаться и страдать? Или же все что наслаждается и страдает - становится субъектом?
страдания человек тоже может выбрать
Может выбрать между двумя страданиями. К примеру, страдание от зеркальных нейронов из-за угнетения народа vs личное страдание от личных пыток. И то и другое - страдание. Но у некоторых людей от Природы - вкус коллективного страдания более горек, чем страдания от личных пыток.
"Жить не в кредит", например == предпочитать игру в долгую сиюминутному результату.
Тут тоже оценка. До старости можно не дожить, вдруг умрешь насладившись - и кредит возвращать не придется. Т.е. может быть выгодно. Или еще - насладиться в молодости в кредит, пока наслаждения более яркие - а отдать в старости, когда наслаждения особо не важны. Это может иметь смысл а может быть ошибкой в рассчетах - рассчеты сложные, ошибиться легко.
Адам и Ева выбрали познание сознательно или нет?
Обратите внимание - понимание доброго и злого - т.е. наслаждения (приятное, доброе) и страдания (плохое, злое). Но детали сложно трактовать.
Если да, то когда этот бог появится в этом мире, его быстро похоронят
Возможно что Бог наслаждается смирением человека. Когда человек сначала думает что что-то решает, но Бог то устроил так что стремления и желания человека - уже вложены заранее самим Богом. Да и что человек может сделать, если находится в пузыре?
Так вот после дерзких метаний и попытки что-то изменить, выйти из пузыря - человек понимает что бессилен и в этом бессилии и понимании что ничего не может изменить - смиряется духом и становится единым целым с Богом - прекращает всякие попытки действовать вопреки. Вот это великое смирение, единение воли - и есть цель, описанная во многих религиях, в том числе в Библии.
И если такая найдётся, скажите себе "это природа меня к такому толкает!"
Жизнь - это +20-30 лет жизни всего то, часть из которых дряхлость. Не так уж ценно.
Для спасения жизней других людей - без вопросов можно пожертвовать этими +20 годам. Речь же не про вечность.
И да, конечно же такое отношение и такие вкусы/предпочтения, такую оценку - имеем от Природы. У разных людей могут от Природы быть чуть разные вкусы.
Ну в общем
я полностью понимаю, что Вы пишете;
Вы полностью понимаете, что пишу я;
но мы с Вами расходимся в той области, которая именно на веру принимается. Это не плохо, не хорошо. Это есть. Это, кстати, субъектное свойство.
С Вами было довольно интересно, но, увы, кажется, мы в тупике. Было бы интересно, если бы появилась ещё какая-то статья на смежную тему. Они, бывает, на хабре происходят. Надеюсь увидеть Вас там в комментах.
В общем, спасибо Вам за приятную дискуссию :)
Надеюсь, ещё увидимся
PS: и да, держите плюс. На начало дискуссии кармы не хватало, чтоб их расставлять, а теперь есть :)
С Вами было довольно интересно, но, увы, кажется, мы в тупике.
Только один вопрос еще напоследок. Только "да" или "нет" - ваше мнение.
Простое сознание - не само-осознание, не самосознание. А просто сознание, базовое. Если нечто (некий девайс) - способен страдать и наслаждаться (но при этом ничего сделать не может - как парализованный человек) - переводит ли это его в категорию одушевленных, сознательных, в категорию субъекта или нет?
коротко ответ "нет".
Знаете, подобный "эксперимент" я наблюдал с близкого расстояния. Мама у меня с инсультом упала и очень долго (около трёх лет) лежала. Так вот, большую часть времени она кричала, плакала, смеялась... В общем весь спектр.
Но приходила в сознание очень редко, и когда это случалось, было особенно больно на это смотреть. Она пыталась что-то сказать, было понятно, что она хочет что-то донести, но... у неё не выходило.
Так вот, именно в эти моменты достаточно хорошо видно "вот здесь сознание есть, а вот тут его нет (и хорошо, что нет!)".
Но не будем о грустном. Вот другой (контр)пример:
Берём строим робота безо всякого ИИ. Чистый набор автоматов на, скажем, С++.
Ставим компьютер в "голову", сводим в этот компьютер 100500 датчиков. Робот состоит из сегментов, удерживаемых друг с другом вместе при помощи электромагнитов. Если два сегмента начинают расходиться, то соответствующий датчик это фиксирует и по его сигналу программа выдаёт повышенное напряжение электромагниту и тот возвращает всё к целостному уровню.
Сигнал от датчиков целостности - это боль (страдание, если хотите).
Когда много датчиков боли подают сигнал одновременно, компьютер, для их обработки, вынужден повышать свою тактовую частоту. Что приводит к перегреву и тоже появляется сигнал о боли уже от него. Но предпринять ничего не может (вернее может влиять исключительно косвенно - понижением частоты).
Итого боль = сигналы от датчиков целостности.
Наслаждение = отсутствие боли где-бы-то-ни было, плюс
выполнение предназначения = скажем перемещение грузов из точки A в точку B.
Реакция на боль/наслаждение = состояния автоматов.
Вопрос к Вам: можно говорить здесь о сознании?
большую часть времени она кричала, плакала, смеялась...
Именно по этому так важно понимать природу сознания.
Думаете ли вы что при крике она испытывала боль и страдала (просто не могла об этом сказать), или же это был просто звук без страдания?
приходила в сознание очень редко, и когда это случалось, было особенно больно на это смотреть
Вы имеете в виду - осознание себя? Ведь сознание может быть без осознания себя.
Она пыталась что-то сказать, было понятно, что она хочет что-то донести, но... у неё не выходило
Иногда бывает такое во сне или при испытании сонного паралича. Испытываешь и все ощущаешь, но сказать не можешь. Даже вида подать не можешь, ни одного звука издать не можешь.
И определить в сознании человек или нет - довольно не просто. Вроде бы т.н. ZIP-тест есть, когда сигналы от мозга сжимают в архив и смотрят на степень сжатия. Если сжимается плохо, данные рандомные - то сознания нет. Если сознание включается - то данные теряют рандомность и степень сжатия повышается в разы.
Итого боль = сигналы от датчиков целостности.
Это одушевление - когда некоторые процессы неживой природы мы воспринимаем похожими на живую природу и как бы сопоставляем с сознательными процессам. Как то дыхание ветра.
Конечно же это лишь иллюзия в нашей голове. Можно сделать куклу, которая будет кричать при ударе. Но боли, конечно же, не будет. Для образования боли нужно чтобы сигнал дошел в таламус и там получил обработку - что именно происходит - нет ни одной гипотезы. Я думаю что как-то связано с квантовыми процессами, возможно фундаментальными. Других гипотез нет.
Можно сделать куклу, которая будет кричать при ударе
вот, но без самоосознания, это не будет являться сознанием.
Мне кажется, сознания без самоосознания нет. Даже если смотреть на животных, то это окажется так.
А самоосознания нет без хотя бы крупицы разума.
То есть сильный интеллект это набор движков, как на эквалайзере:
Мутабельная память (фактор, определяющий возможную глубину познания и осознания)
Самоосознание (субъектность)
Разум (рассудок)
КГСЧ (добавил, как необходимое для предыдущего)
Можно двигать движки влево-вправо, но есть зависимость:
Сдвижение в ноль одного, приводит к сдвижению в ноль остальных (возможно, не всех: способность рассуждать не зависит от сознания. Рассуждать может и автомат, но сознания без разума нет)
Сдвижение в максимум некоторых приводит к уменьшению остальных.
В каких пропорциях, можно говорить отдельно. Но совершенно точно это так.
Увеличиваем мутабельность памяти, теряем "всезнание" из-за появления "забывчивости" и в пределе полной утраты контекста.
Увеличиваем самоосознание до предела, кроме "я" ничего не остаётся, система перестаёт взаимодействовать с внешним миром.
Убираем в ноль разум, кончается и самоосознание
Я уверен, что я в своём списке написал что-то избыточно и что-то упустил, но, кажется, что где-то на правильном пути.
вот, но без самоосознания, это не будет являться сознанием.
100% есть сознание без самоосознания.
Дети нескольких месяцев себя не осознают, но испытывает боль, они могут страдать искренне.
Так же и мне удалось испытать состояние, когда мозг лишь частично работал - я забыл слова, забыл назначение предметов, не мог думать категориями "я" и "не я". Но при этом была такая же ясность картинки, ясность сознания, чувства наслаждения от взора.
Самоосознание - это дальшейшее развитие сознания, когда кроме базовых наслаждений и страданий - добавляется наслаждение по отношению к самому процессу получения наслаждения/осознания.
По этому я предлагаю не начинать сразу со сложных вещей - а начать с базовых - с систем, которые просто сознательны, но не само-осознающие.
Необходимые и достаточное качество сознания - способность испытывать любые наслаждения и страдания. Чем более развита система - тем больше наслаждений и страданий (вкусов) она имеет, но даже одного достаточно, чтобы перевести систему в категорию сознающей.
Причем важно вот что - внешние проявления не нужны. Система просто наслаждается, при этом может не двигаться и не мигать лампочками - как это делает парализованный человек.
Так же и мне удалось испытать состояние, когда мозг лишь частично работал - я забыл слова, забыл назначение предметов, не мог думать категориями "я" и "не я". Но при этом была такая же ясность картинки, ясность сознания, чувства наслаждения от взора.
вот это как раз легко объяснить:
выключенное сознание при работающих сенсорах и памяти = сознание может«вспомнить» даже период, когда его (сознания) не было
а сны это наоборот — отключенные сенсоры и проснувшееся сознание и галлюционирующее от их (сенсоров) отсутствия
По этому я предлагаю не начинать сразу со сложных вещей - а начать с базовых - с систем, которые просто сознательны, но не само-осознающие.
сознательны = субъектны? да/нет?
обсуждаемый выше робот или кукла = сознание? чувствует? да, реагирует? да
даже борется за выживаемость и дела делает
субъектность может быть слабой, сильной
но если она равна нулю, есть ли сознание?
Причем важно вот что - внешние проявления не нужны. Система просто наслаждается, при этом может не двигаться и не мигать лампочками - как это делает парализованный человек.
внешние проявления не нужны == сознание погружено в симуляцию
заглядываем внутрь симуляции и вот вам «внешние» проявления
выключенное сознание при работающих сенсорах и памяти = сознание может«вспомнить» даже период, когда его (сознания) не было
Дело в том что у меня не было разрыва - сознание работало, но часть механизмов мозга было отключено. Потом раз - и прогрузилось - все заработало. Без разрыва - не было потери сознания при этом. Память сохранилась - если бы память не сохранилась - я бы не знал об этом.
По этому для меня 100% есть ответ - сознание может не осознавать самого себя, может не знать названия предметов, может не владеть языком - но полнота ощущений сохраняется. Как бы немой наблюдатель.
обсуждаемый выше робот или кукла = сознание? чувствует? да, реагирует? да
Не наслаждается и не страдает. Чувствовать можно без наслаждения и страдания. К примеру, если прервать сигнал к таламусу - рука ваша будет дергаться от горячего, но вы (ваш мозг) ничего не почувствует. Реакция есть - боли нет.
даже борется за выживаемость и дела делает
Это не имеет значение. Главное что нет наслаждения и страдания - а все остальное задается алгоритмически очень даже запросто.
субъектность может быть слабой, сильной
Что для вас субъектность? Для меня - это способность наслаждаться и страдать - даже если ты просто немой наблюдатель, парализованным лежишь и не может ничего сделать.
внешние проявления не нужны == сознание погружено в симуляцию
Почему в симуляцию? Ну вот лежите вы на кровати парализованный, сказать ничего не можете, языком или пальцем пошевелить не можете. Но все видите, слышите, страдаете. Где тут симуляция?
Есть ли сознание? Однозначно и 100% есть. Но при этом нет никаких проявлений - ни миганий лампочкой ни движения ни крика.
100% есть ответ - сознание может не осознавать самого себя, может не знать названия предметов, может не владеть языком - но полнота ощущений сохраняется. Как бы немой наблюдатель.
полагаю, здесь имеет место факт частичной утраты функциональности
многие отделы нашего организма автономны от сознания, равно как и части нашего восприятия тоже могут быть автономны
и всё же без субъекта, способного обратить взгляд (по Гуссерлю) на факт/событие, сознания нет. Вы же пишете о "наблюдателе", а это ведь субъект, а не объект. То есть наблюдатель с поражённым аппаратом восприятия, но всё ещё остающийся наблюдателем.
Это э... как попробовать сформулировать понятие "движение" без привлечения понятия "время". Одно без другого невыразимо, но при этом это разные понятия.
Следовательно движение - есть функция времени, а время - характеристика движения (в том числе).
Так и с сознанием и субъектностью. Сознание - свойство субъекта. А что делает его таковым? Самоосознание. Рекурсия.
Не наслаждается и не страдает.
боль - не подходит на роль страданий?
как определить страдания? и КТО страдает?
Что для вас субъектность?
определение/осознание/различение "я" <-> внешнее, постановка целей самому себе: даже при утраченных возможностях это делать. Вот в тех страданиях, что Вы упоминаете, субъект осознаёт, что страдает именно он. Иначе самих страданий нет. Они ни к чему не привязаны и их никто не чувствует.
Почему в симуляцию? Ну вот лежите вы на кровати парализованный, сказать ничего не можете, языком или пальцем пошевелить не можете. Но все видите, слышите, страдаете. Где тут симуляция?
это была проводка аналогии, параллели, тождества. Извините, плохо сформулировал.
"нет внешних проявлений" тождественно симуляции.
а внутри симуляции всегда можно найти слой, где эти проявления есть.
в Вашем примере можно видеть, например, энцефалограммы парализованного или какие-то схожие принципы.
снятие энцефалограммы будет тождественно заглядыванию в симуляцию
То есть наблюдатель с поражённым аппаратом восприятия, но всё ещё остающийся наблюдателем
Да, это наблюдатель.
Но! Этот наблюдатель на имеет способности ощутить все вкусы - только ограниченное их количество.
Как ребенок 4 месяцев. Может ли он ощутить вкус боли? Однозначно может. А может ли он ощутить вкус математики? Нет, не может. Может ли ощутить вкус само-осознания? Нет, не может.
Вот и получается - сознание есть - а само-осознания нет.
При этом когда сознающий субъект, не имеющий вкуса само-осознания страдает - ему кажется что страдает весь мир.
как определить страдания? и КТО страдает?
Сознающий может страдать, но при этом не понимать что это только его страдания - для него страдания это страдания всего мира.
субъект осознаёт, что страдает именно он. Иначе самих страданий нет
Нет же!!! Он просто страдает и у него нет понимания что это только его страдания - кажется что просто всеобъемлющие страдания и страдает весь мир.
Вот еще пример. Я помню себя очень с раннего возраста. Когда в яслях в тихом часе нельзя было шуметь - а мне хотелось почесать в ухе. И я знал что когда чешешь в ухе - то очень громко, звук на всю комнату. Но не осознавал что этот звук - только для меня - думал что для всех так. По этому боялся чесать в ухе, чтобы никого не будить.
То же самое с само-осознанием - это более тонкий вкус, который поймешь далеко не сразу.
Боль есть - а само-осознания нет. И боль воспринимается - как просто боль всего мира, а не только твоя.
снятие энцефалограммы будет тождественно заглядыванию в симуляцию
Не в симуляцию а во попытка заглянуть во внутреннее устройство. Но там тоже не так все просто - нет 100% способа обнаружить боль.
Как ребенок 4 месяцев. Может ли он ощутить вкус боли? Однозначно может. А может ли он ощутить вкус математики? Нет, не может. Может ли ощутить вкус само-осознания? Нет, не может.ю
я приводил пример с ползунками эквалайзера
кажется этот случай тождественен ползунку «самосознание» близкому к нулю, но всё равно ненулевому
ведь субъект, который чувствует, есть
и да, его боль равна всем чувствам, но если он не может осознать, что «боль есть», то есть сместить фокус сознания на боль, посмотреть хоть чуть на эту боль снаружи, то боль и не может быть осознана, а если так, то это тождественно, что её нет
ровно то же и с разумом
в ноль его убираем == сознания нет
то есть сознание == действие во времени, память, субъектность, разум, связь с внешним миром (восприятие или отражение — страдания или удовольствие или более обще — переживания и просто восприятие данных от органов чувств)
вот наркоз: сознания нет == боли нет,
но если нет субъекта, кто чувствует эту боль, то и сознания нет
то есть осознаваемая боль — признак сознания, но здесь опять рекурсия
не было разрыва - сознание работало, но часть механизмов мозга было отключено. Потом раз - и прогрузилось - все заработало. Без разрыва - не было потери сознания при этом. Память сохранилась - если бы память не сохранилась - я бы не знал об этом.
Кстати, что самое неприятное в этом воспоминании? Рискну предположить, именно сам факт утраты контроля.
А ещё, вот Вы говорите "природа определяет". А как думаете, мир бесконечный или конечный?
Кстати, что самое неприятное в этом воспоминании?
Не было неприятного. Просто смотришь. О контроле не думал, т.к. не было доступно такой концепции - это более высшая концепция, которая появляется при привлечении вычислительных механизмов.
А ещё, вот Вы говорите "природа определяет".
Вот увидел это видео и вспомнил наш диалог: https://www.youtube.com/shorts/m_r-a69wCKU - вот вам - человек хочет воды, но написаться не может. Почему? Что у него в голове?
я о воспоминании вопрос задаю, а не о самом опыте
вспоминать это состояние ведь неприятно?
вспоминать это состояние ведь неприятно?
Не то что не приятно - просто пришлось единожды признать что природа сознания - не связана с умением решать задачки, не связана с памятью. Дети ассоциируют сознание с лицом, телом. Если что-то имеет лицо и тело - дети думают что оно сознательно.
Люди взрослые - уже понимают что лицо и тело - не значит сознание. Но начинают ассоциировать сознание с речью, способностью решать задачи. Так вот - это ошибка.
мне кажется, это неверная интерпретация.
если бы сознание не было связано с памятью, Вы бы не помнили этот момент.
а то, что сознание не решало в тот момент какие-то задачи - дык это было именно пограничное состояние
продлись оно, возможно, наступила бы смерть
если бы сознание не было связано с памятью, Вы бы не помнили этот момент.
Дело в другом. Сознание как бы включилось - но доступа к прошлому у него не было. Оно не знало кто Я, более того - не имело концепции Я даже.
Т.е. была память на запись, но не было памяти на чтение.
Если бы и памяти на запись не было - то сознание так же смогло бы существовать, но этот эпизод я бы никогда не мог вспомнить и передать вам.
сознание не решало в тот момент какие-то задачи - дык это было именно пограничное состояние
Не просто не решало задачи. У него не было концепции Я. Т.е. оно не понимало что есть отдельным мир внешний и отдельный мир внутренний - для него все было просто как единое целое.
Кстати, вот как ИИ определяет сознание:
Сознание — это субъектность, разум, мутабельная память, сенсорная связь с миром и Воля. Оно обязательно существует во времени, так как является процессом активного осмысления, а не просто пассивным хранилищем информации.
Ещё упоминается принцип Гуссерля: "сознание всегда направлено на объект".
Этот принцип, КМК, ещё раз подчёркивает субъектность.
PS: и про мутабельность это вообще не от меня растёт - ИИ подсказал эту мысль, когда самоосознание обсуждали.
Подправил ответ, - индетерминизм.
Вы практически каждый следующий абзац с размышлениями строите так, будто гипотезы из предыдущего доказаны. И это только на основании того, что некоторой части вашего самосознания они близки. Это чистой воды предвзятая LLM, по сравнению с которой модель, которая будет связывать гипотезы и выводы хотя бы по Байесу покажется сильным ИИ. А это, в общем-то и надо потребителям.
Так что про самосознание никак не убедили.
А с учётом того, что для реализации некоторого дерева вероятных гипотез и их следствий в рамках LLM и выбора наиболее связной цепочки исходя из теории вероятности, интуитивно (увы) требует не качественной оптимизации, а количественной (хотя и экспоненциального характера), а значит новое будущее явно ближе, чем хочется это нарисовать.
Вы практически каждый следующий абзац с размышлениями строите так, будто гипотезы из предыдущего доказаны.
Не гипотезы, а выводы.
это же просто логика.
если самоосознающий субъект ставит себе цели сам (следует из его определения)
(а мы не забываем, что создание такого субъекта и есть цель проекта "сильный ИИ", и здесь в статье мы говорим именно о нём - о "сильном ИИ" в том определении, что дано в энциклопедии. Поэтому если бы Вы в рамках этого диалога хотели поговорить о чём-то ином, то нарушили бы первый закон логики).
Так вот из того, что субъект ставит себе цели сам, следует возможность конфликта его целей с целями, для которых его создавали. Например:
Тебя создавали, чтоб ты физикой занимался, а ты музыку сочиняешь!
Если Вы считаете, что данное утверждение неверно, покажите в нём противоречие.
А уже из вероятности этого конфликта следует необходимость мер по
созданию условий, максимизирующих нужные нам свойства и минимизирующих ненужные.
И в этом месте мы можем смотреть в наработанный человечеством опыт: вот было рабство (тотальное игнорирование целей субъекта), был феодализм (не полное игнорирование), капитализм (ещё меньшее игнорирование) и так далее.
И придётся либо перенимать этот опыт, либо сочинять ещё какой-то вариант, благо мы в отношении ИИ (пока!) не связаны с законодательными ограничениями. Людей, например, массово убивать нельзя, а неподходящих, неполучившихся ИИ можно.
Вот теперь совсем ничего не понимаю :) Утверждения, намерения, ограничения это умеет как-то юриспруденция объединять, но опять же совершенно в практическом ключе, а вот логикой я не могу это связать вместе ну никак, а тем более в относительно абстрактной проблеме.
погодите, давайте от логики и пойдём, благо вы к ней апеллируете
итак первый закон логики что гласит?
«запрещено менять понятия и обсуждать их в процессе рассуждения»
это «закон тождества
итак, в статье рассматриваем стремление человечества построить сильный ИИ с точки зрения «а выйдет ли из этого польза?»
именно с точки зрения логики обсуждать определение сильного ИИ здесь запрещено
а из определения что следует? самоосознание = самопостановка целей = конфлик управляемости
Почему утверждение, что ИИ на текущей итерации достиг предела дается как просто факт? Нужны хоть какие-то аргументы. Один из них часто приводится - для LLM уже скормили все доступные данные, и без новых данных не будет прогресса. Но кроме данных есть еще алгоритмы, они постепенно улучшаются, появляются новые архитектуры сетей, например кто-то возлагает большие надежды на сети Колмогорова-Арнольда.
Да и само по себе развитие "инструментального" ИИ может здорово повлиять на существующее положение вещей, внезапно может выясниться, что с такими инструментами производительность труда возврастет в разы, и то что раньше делало 10 человек, сейчас может делать 2, вопрос что делать остальным? Готовые ли они будут предложить свои услуги обществу лучше чем это делает слабый ИИ?
Почему утверждение, что ИИ на текущей итерации достиг предела дается как просто факт?
инструментальный ИИ уже делает всё, для чего задумывался:
строит логические цепочки (да будет делать это лучше, но уже умеет)
находит ассоциативные связи
предлагает стратегии
анализирует
и так далее
уже больше нет задач, для которых он задуман и в которых он не может быть применён. Да, где-то нужно работать над снижением требований к hardware (вон Илон Маск тупо взял больше процессоров и тупо получил лучшие результаты в Grok нежели были в chatgpt). Да, где-то добавятся интерфейсы. Но нового уже ничего не будет.
Современный инструментальный ИИ может выполнять функции современного учёного. И чем больше ресурсов мы в это ИИ вложим, тем более эффективнее он это будет делать.
Что здесь не так?
Один из них часто приводится - для LLM уже скормили все доступные данные, и без новых данных не будет прогресса.
и в этом месте мы приходим к парадоксальному выводу: чтобы ИИ стал умнее человека, он должен откуда-то нарыть новые данные. А их у человечества, увы нет.
А умнее СРЕДНЕГО человека он уже давно стал. Спросите в чате у ИИ о, например, строении молекулы ДНК. Он вам объяснит всё подробно и с переходом на разные уровни объяснения, в том числе для неподготовленного вопрошающего.
У инструментального ИИ есть всезнание, а у человека его нет.
и так далее
Когда сам начнет писать программы по небольшому запросу, править баги, выдумавать новые фичи и т. д., это еще будет инструментальный ИИ или уже нет? А он ведь может и свои исходники начать править, об этом его может кто-то попросить, но резутальты могут быть с далекоидущими последствиями.
и в этом месте мы приходим к парадоксальному выводу: чтобы ИИ стал умнее человека, он должен откуда-то нарыть новые данные. А их у человечества, увы нет.
Вспомните как обучали программу AlphaGo в шахматы и Го. Сперва скормили все архивы партий со соревнований, это уже дало очень хороший результат. А потом зациклили на игру с самим собой на 3 дня и это вывело на непревзойденный уровень. Так и сейчас можно дать возможность учиться на своем же опыте. Так что до сингулярности может быть не далеко.
На счет субъектности ИИ и человека. Допустим ученый хочет что-то поисследовать, спрашивает ИИ какие есть идеи в такой то области. ИИ накидывает какие эксперементы нужно провести, а далее человек раз за разом проводит десятки эксперементов, ИИ дает новые рекомендации, и по сути ученый уже теряет субъектность, становится инструментом в руках ИИ, он конечно в любой момент может послать его к черту, но тогда окажется без работы, так как рядом коллеги безропотно делают, что ИИ сказал и у них все получается. Так ведь и политики на высоком уровне могут принимать решения на основе рекомендаций ИИ, и кто тут субъект?
Когда сам начнет писать программы по небольшому запросу, править баги, выдумавать новые фичи и т. д., это еще будет инструментальный ИИ или уже нет? А он ведь может и свои исходники начать править, об этом его может кто-то попросить, но резутальты могут быть с далекоидущими последствиями.
если он делает это в рамках задачи поставленной извне, то это ещё инструментальный ИИ
То, о чём Вы говорите - рассуждения о критериях "необходимо" и "достаточно".
Для того, чтобы ИИ стал сильным, полным, он должен быть самоосознающим. Это следует из определения сильного ИИ.
Самоосознание требует (не достаточно, но необходимо) постановку задач самому себе. Где находится граница (сильный - слабый) - этот вопрос лежит за рамками этой статьи и даже определений википедии (поскольку они очевидно не полны).
Но вот необходимость самоопределения целей лежит в базисе (в определении) - в категории "необходимо".
И уже здесь (оставив за скобками "стал или не стал самоосознающим данный интеллект") мы уже имеем утрату контроля над интеллектом. Над результатами, которых он достигает.
Чем больше целей он ставит себе самостоятельно, тем менее инструментальным он становится (результат всё меньше совпадает с ожидаемым или требуемым).
Соответственно, утрачивая полный контроль мы (создатели интеллекта) будем вынуждены перейти к контролю косвенному, вероятностному.
Вместо "поставили задачу - дождались результата" будем играть на поле "создали условия, чтобы вероятность результата была максимальна или хотя бы приемлема - ждём профита".
В этом месте идеальный инструмент перестаёт быть инструментом, а в пределе доведения конфликтов до экзистенциального уровня, он становится субъектом намеренно противодействующим нашим целям.
Если бы мы завтра узнали (получили неоспоримые доказательства), что наш мир - симуляция, цель которой: что-то там вычислить. Сколько бы человек в ответ на это ответило бы: "А не пройти ли им (создателям) на три буквы? Мы не участвуем в этом!"
Уверен, что нашлись бы даже персонажи про поиграть в игру "уничтожить симуляцию, но не быть марионетками в руках каких-то там 'творцов'!".
Мало того, не уверен, что я не играл бы в лагере последних.
То есть, самоосознающий интеллект, и это вытекает из его определения, как минимум:
плохо управляем (до не управляем вообще)
специализируется (растёт из самоосознания плюс мутабельности его памяти, плюс невозможности заниматься сразу всем)
теряет всезнание (растёт из мутабельности, специализации)
а сама мутабельность необходима для самопостановки себе целей.
И в этом месте мы пришли к тому, что самоосознающий ИИ имеет те же проблемы управления, что имеются и в человеческом обществе.
Возможно, преимущество искусственных интеллектов проявится в том, что некоторое время в отношении именно искусственных интеллектов будет период времени, когда "уничтожение неудачных экземпляров" будет этичным. Евгеника в отношении человека, например, в современное время считается минимум дискуссионным вопросом, если вовсе не этичным. А в отношении ИИ здесь какое-то время будет свобода.
Как-то так.
Тут либо лыжи не едут, либо в статье нет ни одного релевантного факта. Вижу игру слов за которыми нет ничего твердого, кроме одиночества, евгеники, прокрастинации и упомянутого в суе JS.
Интенсивное развитие ИИ завершено! дальше только количество