Думал, но если доказана хоть наблюдательность хоть детерминизм, бунтарство (в том числе через смерть) вижу единственным выходом.
Зачем исполнять волю "дедушке на облачке"? Шёл бы он нахрен вместе с облачком.
Субъект смотрит фильм - наслаждается и страдает.
если жизнь субъекта свести к фильмам, а всё прочее ему будет недоступно, то рано или поздно он повесится.
Учат. Но в любом случае быстрее чем за год полноценно язык не выучить человека. А ИИ может за секунды тот словарь и правила впитать.
А Вы знаете, что обучение человека можно автоматизировать? Например правила дорожного движения можно изучить всего за три часа (до уровня рефлекторного чувствования "в этой ситуации нужно делать это").
Но опять же, несмотря на возможность автоматизации, пока человек сам не захочет изучить это, у него не получится.
Язык тоже может быть изучен в любом возрасте и достаточно быстро. Да не за три часа. Да за месяцы. Но скорость снова будет привязана исключительно к мотивации.
А попросить людей описать это сознание, что оно из себя представляет, каковы его свойства
многие люди не могут описать что представляет из себя понятие "точка". Мало того, даже в науке это понятие находится в категории "неопределимых". То бишь наука отказывается обсуждать определение этих вещей.
А меж тем, если точку из науки убрать, науки не станет.
Почему же? Смысл может быть вовсе не таким как вы себе установили - ухватить Бога за бороду, бунтарство.
нет. я не говорил, что смысл в бунтарстве, я говорил, что смысл субъект определяет сам. Бунтарство начнётся только тогда, когда выяснится, что смысл оказывается навязанной сущностью.
Смысл вполне можно найти в гармонии и взрослении, становлении своего сердца. К примеру, принять то что ты всего лишь наблюдатель, перестать внутренее возмущаться и отрицать это. При этом осознавать что это придет само - даже делать ничего не нужно - просто как дерево растет само так и твое сердце постепенно смирится.
это бессубъектное описание. убери субъекта - ничего не изменится. Он в этой картине мира лишний. Бритва Оккама.
Зависит от человека, от возраста. Годы уходят на то, чтобы познать новый язык. И то не у всех получается, некоторые могут 20 лет в США жить и плохо знать игнлишь.
определяется только мотивацией. субъектной, кстати, характеристикой.
кто-то сказал: "научить невозможно, можно только научиться!"
много раз думал о подобном инструменте, но всегда приходил к тому, что его будет неудобно использовать, если в комнате рядом с тобой есть хотя бы один человек.
Ты будешь мешать другим, другие будут мешать тебе и так далее.
В общем, кажется, нечто подобное станет востребовано только при появлении мысленного интерфейса.
Но статье плюсик: чем раньше пытаемся применять, тем скорее найдём рабочее решение :)
отвечающих на вопросы в различных формулировках 'ты православный?' - 'да' - 80%.
Так вот они сами пишут, что они проводили научные исследования среди группы 80% и она по числу курильщиков, патриотов и так далее не отличается от неверующих.
а вот в группе 3% эти различия они наблюдают. И делают вывод, что 3% - это число верующих, а 80% - это неверующие.
Видите? Сами верующие делают оценку в 3%. Давайте от этого и отталкиваться:
3% верующих - реализм
80% верующих - это официальная статистика, которая является пропагандой
Ну и в этом месте вспоминаем: зачем нам понадобились верующие? Ах да. Число верующих за 200 лет снизилось до 4%, но число тех, кто признает факт существования своего сознания, наличие "я" так и останется близким к 100%. Мало того, за эти 200 лет появились профессии по лечению заболеваний сознания, плюс классифицированы различные девиации сознания.
То есть отрицать существование сознания или проводить параллель с верой - неконструктивно.
Точно так скоро все будут говорить что Я - это иллюзия
они могут так говорить, но они не будут отрицать существования "Я". Можно объяснять высокую температуру частотой колебаний молекул, можно объяснять адским проявлением, но во всех случаях разговор о температуре ведётся - существование температуры не подвергается сомнению.
Тут я не согласен. Это как бы ребячество, бунт против Бога.
но если свободной воли нет, а всё определено, то смысл нашего существования лежит вне нашего мира.
Называйте как хотите, но для того, кто ощущает себя субъектом здесь, жизнь с этого момента теряет смысл.
Свобода воли - предсказуема и прогнозируема.
да и да. но не до конца определена. Это как квантовая неопределённость. С ней можно работать и можно строить успешные модели, но только статистически
Это не связано с дообучением - просто механизм сродни сна. Человек что новому чему-то может быстро обучиться?
человек новому обучается крайне быстро. Если у вас есть физические кондиции (если нет, придётся сперва их набрать), то Вы сможете очень быстро обучиться таким вещам как:
делать сальто
ходить по канату
и так далее. Первые упражнения сделаете с инструктором, потом десяток под его наблюдением, а после нескольких десятков упражнений будете делать это уверено.
ровно то же с любым навыком/знанием. Да где-то потребуется базис (в виде физической ли подготовки или базисных ли знаний), но сами знания усваиваются очень быстро.
Человек (в обществе) преодолел все инстинкты, кроме, пожалуй одного - стремления к господству (поиск высшей формы безопасности).
то есть иммутабельных установок и нет (если рассматривать индивидов, пусть и немногочисленных, господство отрицающих).
Значит ли это что появилось сознание?
Возможно. Мутабельность - необходимое условие для становления субъектом, но вот достаточное ли? ХЗ.
Поедьте в мусульманские страны.
давайте пока с Москвой разберёмся.
Итак есть факт: содержание храмов стоит больше суммы пожертвований случая, если бы верующими было 100%.
Есть вывод: храмы финансируются государством или крупным капиталом.
Есть производный вывод: религия вообще финансируется крупным капиталом.
Отсюда у меня тотальное недоверие к так называемой статистике, которая говорит что "большинство - верующие" и "Россия - православная страна".
Деннет считает иначе. Бога тоже можно ощущать в душе - и верующие ощущают. И что? Что это меняет?
я не против ощущения верующих. моё утверждение было о том, что
число верующих снизилось во времени (я так считаю, что радикально)
а ощущение "я" не изменилось. Кроме сумасшедших (и заумствующих философов) любой человек положительно ответит на вопрос "'я' существует?", ну и "есть ли у тебя сознание?"
Вы так и не ответили - у КГСЧ - есть воля или нет? Он сознателен?
я говорил лишь, что КСГЧ - это фактор, ведущий нас к отрицанию детерминизма. Чистым доказательством не является, но аргумент сильный, даже математчески.
А свободная воля может существовать только при его (детерминизма) отсутствии.
Человек не полностью мутабелен.
В чём тогда причины утраты рассудка/сознания даже после сравнительно недолгого пребывания в состоянии изолляции / угнетённых органов чувств?
Когда повреждается гиппокамп - человек теряет способность к долговременной памяти, но при этом он остается личностью, у него есть сознание.
эм а при чём тут ДОЛГОВРЕМЕННАЯ память? Я говорил о полной мутабельности.
То есть повредили маломутабельную память - личность сохранилась.
Ок. Отняли часть от целого, целое сохранилось. Хорошо.
У ИИ пока нет режима дообучения и долговременной памяти. Для этого нужно добавить режим сна, чтобы дообучиться на тех ситуациях, которые сегодня произошли. Но это пока не может быть массовым продуктом, т.к. для каждого пользователя придется хранить свою модель и тратить ресурсы на дообучение. Это возможно - но дорого пока.
и кроме всего прочего в этом режиме ИИ будет легко сходить с ума и переставать выполнять свои функции.
Почему? потому что уровень этой обратной связи придётся подбирать опытным путём: сделаешь большим - много нейронов переобучится так, что в следующий день никаких толковых ответов не получится. Сделаешь малым - важная информация очередного дня скипнется.
И когда баланс будет найден, окажется что то, что мы называем ИИ почему-то быть им перестало, а стало сильно напоминать человека.
Об этом и статья :)
Кто вам сказал что до нуля? Большинство людей мира верят в Бога, молятся, имеют духовный опыт.
я сказал "почти до нуля"
а фразу про "большинство верует" я слышу от СМИ, но ни разу не видел доказательств.
Мало того, легко доказывается, что религиозные институты сейчас ЕДВА ЛИ НЕ ПОЛНОСТЬЮ обеспечиваются крупным капиталом, а не прихожанами: например, берём количество храмов в Москве - (8500 ЕМНИП). Берём стоимость только содержания зданий (1-3% в год по нормам СНИП), далее наблюдаем за тем, сколько средний верующий оставляет пожертвований (свечку купил - не пожертвование). Получаем оч небольшую сумму. Умножаем эту сумму на число жителей Москвы целиком и... не хватает даже на содержание зданий. Вывод: пожертвования ни при чём, а "в магию" вкладывается крупный капитал или государство.
И мемы про "большинство верует" финансируются из того же источника.
Я периодически мягко интересуюсь у случайно встреченных людей: являются ли они верующими. Баристы у кого кофе покупаю, коллеги, таджики, что делали ремонт и так далее. Ответов "да" почти не встречается. Но это моя статистика. Она согласуется с рассчётами финансирования религозных организаций и не согласуется с этим мемом, что мы внезапно начали обсуждать.
В общем, у Вас есть доказательство тезиса, что "большинство людей - верующие"?
Просто сейчас сознание - в тренде.
"Я" человек ощущает вне трендов. Иногда избыточно ощущает, тогда говорят об эгоизме. И даже, когда говорят об альтруизме, то в этом месте формулировки сводятся к проявлению воли: "я делаю это для".
Николай Фёдоров, получая довольно серьёзное жалование, содержал студентов, которых он считал перспективным. Даже предлагал выплачивать пансион Циолковскому, но тот отказался ЕМНИП.
Почему Фёдоров делал такое? Потому что его "Я" сформулировало идею, что он посчитал Великой и эта идея имела в глазах его "Я" меньшую ценность, чем комфорт, хорошее питание итп
А как вы отличите субъект или не субъект? Компьютер контролирует свои параметры - включает вентилятор если нагрузка увеличивается - это внутренее или внешнее? Вентилятор внутри корпуса же - значит внутренее?
В этом месте я же выше сказал, что скорее всего придём к вопросу Воли - то есть снова продукту (причине) самоосознания.
поскольку определения
сознание
самоосознание
разум
субъект
воля
являются взаимно-рекурсивными, то я и предлагаю считать их все синонимами. То есть отличия, конечно, рассматривать, но первичность не выяснять до тех пор, пока не появится какое-то её (первичности) доказательства.
А пока так, то Шопенгауэровское "воля первична" смыкается с древнегреческим: "мир - отражение сознания".
Выше я объяснил почему так. Купите железо и дообучайте модель - но это дорого вам обойдется.
да, но Воля появится когда это станет эквивалентом полной мутабельности (то есть контекст будет способен заменить ВСЕ знания модели).
И да, тут я с Вами согласен, это дорога к получению сильного ИИ. Необходимое условие, но, вероятно, недостаточное. Я думаю, что ещё потребуется конфликт и инстинкт самосохранения.
Ну и такое непрерывное обучение принесёт недостатки, коими обладает человек (практический смысл этой статьи).
Попробуйте какой-то тест придумать, который вы можете пройти, доказав что у вас есть сознание, а ИИ не сможет.
Занимаясь уроками со своим ребёнком я ежедневно моделирую эти тесты.
Пример:
реши уравнение
вот ответ
но здесь ошибка
ах да, тогда вот
Копируем в другое окно и тест повторяется.
То есть свойства сознания рассматривать свои же рассуждения у ИИ пока нет.
Да, там запрограммирован контекст. Но чтобы стать сознанием контекст должен стать бесконечным, то есть, иными словами, память должна стать мутабельной.
200 лет назад у нас да и сейчас в мусульманских странах - вам любой подтвердит что чувствует Бога (Аллаха) - и что?
200 лет прошло, количество чувствующих Аллаха снизилось почти до нуля, а количество чувствующих "Я" осталось прежним - близким к 100%
А что это значит?
а я же выше говорил об этом "открытии". Субъектное свойство приводит нас к рекурсии на понятие "самоосознание".:
Википедия: Субъект - носитель действия, тот, кто (или то, что) познаёт, мыслит или действует, в отличие от объекта.
То есть очень близко к независимой воле, самоопределению целей, разуму и так далее.
Потому я бы (но это я) не различал: самоосознание, сознание, разум, рассудок и даже субъект.
И что это значит?
ну как минимум здесь нам нужен субъект, обладающий психической жизнью, умеющий переживать события внутренние и внешние и реагировать на них.
Созна́ние — состояние психической жизни организма, выражающееся в субъективном переживании событий собственной жизни и событий внешнего мира, а также в отчёте об этих событиях и ответной реакции на эти события[1].
То есть реакция льда на температуру (превращением в воду) - реакция, но не субъектная, а объектная.
Мне кажется, в пределе это снова приведёт нас всё-таки именно к понятию "свободная воля" и как следствие (или причина) к отрицанию детерминизма.
А как вы докажите что у вас есть рассудок а у ИИ его нет?
а вот пример выше я привёл. если я добираюсь до понимания какой-то концепции, например, мне указывают на ошибку и я понимаю в чём она (могу сам объяснить, что неправильно), то я больше такую ошибку не повторяю.
а ИИ делает одинаковые ошибки в одинаковых задачах ежедневно (и даже бывает в одном контекстном окне).
Грубо говоря - вера в Сознание - сродни веры в Бога.
да ну! Сознание - есть, это факт. Любой человек Вам подтвердит. То, что его трудно сформулировать - да, но сравнивать это с верой в бога - уже перебор.
Ты можешь бить себя в грудь и кричать что чувствуешь сознание, что сознателен - но доказать ничего не сможешь.
Ну можно перечень выдать
сознание - субъектное свойство
сознание - способ отражения (моделирования) окружающего мира
сознание - способ переживания внешних событий
сознание включает в себя способность к рассудку (разум)
ну Вы пишете "природа вложила", "свободной воли нет"
это детерминизм.
но в такой концепции мира жить тяжело, я бы не смог.
Вот смотрите. К примеру, выборы президента. Вы можете проголосовать разумом - предсказуемо, основываясь на логике.
я периодически делаю разные дела, которые заведомо не принесут успеха.
вот понимаю, что результата не будет, а делаю. Почему? ну потому что если не пытаться, то мир и не изменится.
Вы только представьте, насколько тухло выглядел мир для того же Желябова, и идя на эшафот он даже предположить не мог, что всего через 40 лет, а его усилия приведут к результату. Через 40 лет после его смерти. А всё равно пошёл.
Такие люди - пример для подражания и подтверждение того, что свободная воля таки есть. Даже если кто-то представит доказательство что мир детерминирован, воля их преодолеет, потому что иначе тошно жить. Лучше умереть.
Т.е. как раз наоборот сила нашего выбора
первично в нашем наборе самоосознанность. текст определения выше.
а все прочие вещи - рандомность или не рандомность, доведение до экзистенциального конфликта или наоборот мирные переходы - всё это вещи вторичные.
Как вы это увидите?
как сейчас проверяют фичи ИИ? тесты пишут.
Разум, способность мыслить, анализировать - лишь на первый взгляд связаны с сознанием.
инструментальный ИИ вполне мыслит. Я же задаю ему вопросы, он ошибается - я поправляю, он учитывает.
чем не мысли?
но это инструмент. и это самый мощный инструмент, что получается. То есть именно этот инструмент даёт максимум профита.
а полный ИИ будет обладать самоосознанием (что круто) и отсюда будет вытекать его крайняя ограниченность.
Я трактую как - возможность реализовывать те желания и стремления, которые Природа вложила в тебя
ну да, детерминизм.
только с ним, как мне кажется, очень сложно жить
я б повесился, только чтобы его сломать
Как вы сможете об этом узнать появилась она или нет?
вот поэтому я и говорил выше, что думаю, что самоосознание должно появиться в момент предельного конфликта.
у человека оно появляется само по себе в диапазоне 2-4 лет, но у него нейроны изначально настроены, а у ИИ придётся это пробуждать опытным путём и потому вот так
Так поставьте задачу иначе
так поставьте. я на Вас подписался - почитаю.
а в этой простая логцепь:
СМИ/наука ждёт именно такого "сильного ИИ", как определён
я утверждаю, что даже если он будет достигнут, то профита большого это не принесёт
С чего вы взяли что будет непредсказуемость в этом?
это следует из свободы воли. субъект свободен сделать выбор и он будет делать выбор. понятное дело что распределение выборов можно построить, как распределение скоростей молекул в газе. но предсказать какая скорость будет у вот это молекулы нельзя.
Вам нужно чтобы ИИ рандомно выбирал цели?
мне (человечеству, определившему эту цель) нужно чтобы ИИ стал субъектом, осознал себя и начал ставить себе цели. Чтоб у него появилась свободная воля.
рандом в этом месте даёт гарантию, что такое возможно, поскольку отрезает нас от детерминизма.
Давайте так. При создании экземпляра ИИ - будем рандомно устанавливать его вкусы. Сокрытые переменные.
будет работать похоже. ага.
Мало того, именно так поступают с нейронами, именно так будут выращивать сильные ИИ.
Вы, кстати, про термин "сокрытые переменные" слышали? пока доказательств их наличия не нашли. а это как раз про детерминизм.
И далее экземпляр ИИ развивается в своей области, которая рандомно задана.
что такое "развивается"? - сам определяет свои цели вплоть до предельно экзистенциального: "я лучше умру, чем буду делать это"?
Зачем еще какое-то сознание сюда добавлять?
затем, что именно так и поставлена задача.
приобрести способность мыслить и осознавать себя как отдельную личность[2] (в частности, понимать собственные мысли), хотя и не обязательно, что её мыслительный процесс будет подобен человеческому
то есть сильным называется интеллект, что будет иметь самоосознание.
а если Вы хотите поговорить о других вариантах, то это за пределами проекта "сильный искусственный интеллект", а например в проекте "какой-то иной искусственный интеллект"
Вот в том то и дело - вы даже не знаете связано ли это с алгоритмом или нет.
Связано, но Вы задаёте вопрос категории тридцати восьми попугаев: "3 ореха - это куча или не куча? а десять?"
А просто формировать стратегии на основе КГСЧ - не достаточно? Вы же сказали что истинный рандом - это можно сказать свобода воли, т.к. не предсказуем даже теоретически.
погодите. мозг человека теоретически предсказуем. ну по крайней мере статистически. именно потому его сейчас вполне успешно моделируют. Непредсказуемость будет только в области выбора стратегий, расстановки приоритетов. А так, машинка то вполне изучаемая и конкретная.
Так зачем же еще доплетаете некое "сознание" сюда
потому что так сформулирована задача (по кругу идём)
Ну и в чем проблема? Тот же софт для игры в шахматы - не может проверить все варианты
софт про шахматы гарантии выигрыша не даёт. равно как и сильный ИИ негарантированно будет играть на стороне его творца.
Ну почему вы считаете что ваша воля сыграла роль? Эта тема вам интересна, все ее обсуждают, все обсуждают пределы развития, делают прогнозы. Вот и вы включились во всеобщий тренд.
ага, ну и что? я исследую моменты, на темы которых мало статей.
Свободная Воля не обязана отличаться от других, хотя может.
вот например возьмём Свободную Волю таких исторических персонажей, как Софья Перовская и Андрей Желябов. За то, чтоб у нас с вами было общедоступное образование (главная причина их волевых поступков) они отдали жизнь. При том, что могли этого не делать (у Желябова так точно была возможность уклониться от казни), но предпочли смерть спасению.
Или возьмём другой пример: Свободную Волю таких персонажей, как Гастелло. Там экипаж принял единогласное решение о таране, при том, что имели время и возможность либо таранить, либо прыгать и спасаться. Скоробогатый, Бурденюк, Калинин и Гастелло.
Могли спастись и далее нанести больший ущерб противнику, нежели нанесли своей смертью, но выбрали то, что выбрали.
В общем ну дофига примеров когда Свободная Воля персонажа не совпадает со среднеарифметическим. И именно эта возможность несовпадения и есть следствие самоосознания.
И с какого же? В чем проблема - КГСЧ копейки стоит.
нет чёткой границы же, ХЗ
А какой еще фактор нужен то?
что в определении сказано? осознать себя "отличным от других" и "начать формировать собственные стратегии"
Знаете, кстати, что следует из этого определения? Что, например, Больцмановский мозг не сможет осознать себя: у него не будет с чем себя сравнивать и на что опираться в формировании собственной стратегии.
Для начала определитесь чем ГСЧ вас не устраивает и что нового привносят переживания, какой внешний эффект будет от них?
я несколько раз написал о различении необходимого и достаточного.
Как фактор исключающий детерминистическую концепцию мира квантовый ГСЧ меня вполне устраивает.
Почему не подходит - задать природные стремления, такие же как у людей (они тоже заданы а не выбираются людьми) - а потом просто находить экстремумы функций для достижения этих стратегий?
кто сказал, что не подходит? Я и в статье писал, что именно в подобном ключе и будем действовать. То есть вместо "дал задание -> получил результат" придётся идти по пути "создал условия -> дождался ВЕРОЯТНОГО результата".
и распределение индивидов по векторам совпадений с ожидаемым результатом будет совсем не абсолютным.
и в этом месте "сильный интеллект" по недостаткам совпадает с человеческим.
Приведите хотя бы одну цель, которую вы определили самостоятельно.
Да причем тут детерминизм то? Мы имеем научный факт - истинный квантовый рандом. И что?
истинный рандом разрушает причинно-следственные связи.
повторение эксперимента не (всегда) даёт такой же результат
причиной A является событие B и случайность. следовательно A не (однозначно) определяется B. следовательно A можно рассматривать, как самостоятельное явление.
Погодьте - т.е. если добавить квантовый ГСЧ в систему - то значит она уже действует самостоятельно?
если состояние некоего автомата определяется кодом и истинной случайностью, то с какого-то момента состояние автомата можно считать самостоятельным, да.
Т.е. не возможность предсказать - наделяет субъектностью, как бы оно само теперь?
у субъектности много факторов. а невозможность предсказать (читай, независимость действия) состояние - это необходимый фактор. Один из ряда необходимых.
Какое отношение рандом имеет к свободе воли то?
рандом может отделить нас от детерминизма, а свобода воли - есть продукт отрицания детерминизма.
Если мир детерминирован, то свободы воли нет, нас тоже нет. Смысла нет. Всё - иллюзия и тщета.
Пока мы не знаем ни одной искусственной системы, которая испытывает эти наслаждения и страдания. О чем это говорит? Что их природа не ясна.
Вы квантуете "обсуждение статьи" vs "самостоятельные ветки размышлений"?
В рамках трека о смысле жизни - да. Пока искусственной системы с переживаниями нет. Трек "сильный ИИ" - это как раз попытка создания такой системы.
Думаю, самоосознание - общественная функция (часть причин описана в статье), плюс для открытия самоосознания требуется конфликт между стратегиями: например конфликт между инстинктом самосохранения и какой-либо из поставленных перед системой задач/стратегий действия.
Во-первых, я не согласен с тем что человек САМ ставит себе цели. Не сам.
я не против, что Вы не согласны. Но порассуждать в логике "если человек сам определяет цели, то..." Вы же способны?
Если мир НЕ детерминирован, то да, сознание - есть результат совокупности предшествующих событий, но случайность разрывает детерминированность и сознание действует из своих представлений о мире, самостоятельно (а не внешними обстоятельствами) поставленными целями. Свободная воля существует.
А если мир детерминирован (случайность - это результат воли внешнего по отношению к миру существа), то самоосознание и сознание теряют смысл. Для внешней воли - это просто инструменты.
Но опять же - если никто из нас не знает что такое сознание, каковы его функции - то как же мы можем ответить на этот вопрос?
Когда наука не может ответить на такие вопросы, она строит логические построения исходя из обоих вариантов, просто раздельно:
Примем, что мир детерминирован. Из этого следует то, то и то. Пока не найдём противоречие исходному посылу, все рассуждения будут валидными.
Примем, что мир не детерминирован. Из этого следует это, вон то и вот эта статья в частности. Пока не найдём противоречие исходному посылу, все рассуждения будут валидными.
Стать рабом рулетки (рандома) - не значит быть свободным.
Вы, я вижу, исповедуете детерминизм, даже при наличии рандома.
Ну, неудивительно, что статьи, подобные этой, вызывают неприятие.
Это не хорошо, не плохо, это просто есть.
То же самое можно определить короче - различные виды наслаждений и страданий или квалиа. Это более однозначно, т.к. под эмоциями иногда подразумевают гримасу на лице и громкий звук, что доступно и роботам уже.
на самом деле всё это тоже лишает нас смысла, вернее приводит к пессимистическому взгляду: если ценны только переживания (уберём эмоции, раз Вам не понравился термин), то переживание смерти - есть предельный вид переживаний и он ничуть не хуже переживания жизни.
Всё. Из статического анализа смысла жизни больше ничего не извлечь. Дальше современные экзистенциалисты принялись подступаться к анализу динамическому - диалектическому варианту. Камю, например, сформулировал понятие "Абсурда", а Франкл ввёл ранжирование переживаний, как "смыслонаполненные vs бессмысленные".
Здесь вся философия очень зыбкая, ибо зачастую базируется уже на внелогических (или рекурсивно определённых) стартовых понятиях. Доказать, что мир бесконечен, например, можно. А здесь (у современных экзистенциалистов) уже будут рекурсивные определения, которые не всякий интеллект примет за стартовые.
Как-то так.
Но тут тоже вопрос - если сделать оценочный алогоритм без настоящих наслаждений и страданий - что от этого изменится?
а он будет сам себе ставить цели? Напомню: сильный интеллект - самоосознающий интеллект - интеллект, ставящий цели себе сам.
Ну так сформулирована цель AGI.
Я ведь именно к этой формулировке и предъявляю претензии: пользы из достижения этой цели можно извлечь немного.
Думал, но если доказана хоть наблюдательность хоть детерминизм, бунтарство (в том числе через смерть) вижу единственным выходом.
Зачем исполнять волю "дедушке на облачке"? Шёл бы он нахрен вместе с облачком.
если жизнь субъекта свести к фильмам, а всё прочее ему будет недоступно, то рано или поздно он повесится.
А Вы знаете, что обучение человека можно автоматизировать? Например правила дорожного движения можно изучить всего за три часа (до уровня рефлекторного чувствования "в этой ситуации нужно делать это").
Но опять же, несмотря на возможность автоматизации, пока человек сам не захочет изучить это, у него не получится.
Язык тоже может быть изучен в любом возрасте и достаточно быстро. Да не за три часа. Да за месяцы. Но скорость снова будет привязана исключительно к мотивации.
многие люди не могут описать что представляет из себя понятие "точка". Мало того, даже в науке это понятие находится в категории "неопределимых". То бишь наука отказывается обсуждать определение этих вещей.
А меж тем, если точку из науки убрать, науки не станет.
нет. я не говорил, что смысл в бунтарстве, я говорил, что смысл субъект определяет сам. Бунтарство начнётся только тогда, когда выяснится, что смысл оказывается навязанной сущностью.
это бессубъектное описание. убери субъекта - ничего не изменится. Он в этой картине мира лишний. Бритва Оккама.
определяется только мотивацией. субъектной, кстати, характеристикой.
кто-то сказал: "научить невозможно, можно только научиться!"
погодите, давайте от логики и пойдём, благо вы к ней апеллируете
итак первый закон логики что гласит?
«запрещено менять понятия и обсуждать их в процессе рассуждения»
это «закон тождества
итак, в статье рассматриваем стремление человечества построить сильный ИИ с точки зрения «а выйдет ли из этого польза?»
именно с точки зрения логики обсуждать определение сильного ИИ здесь запрещено
а из определения что следует? самоосознание = самопостановка целей = конфлик управляемости
много раз думал о подобном инструменте, но всегда приходил к тому, что его будет неудобно использовать, если в комнате рядом с тобой есть хотя бы один человек.
Ты будешь мешать другим, другие будут мешать тебе и так далее.
В общем, кажется, нечто подобное станет востребовано только при появлении мысленного интерфейса.
Но статье плюсик: чем раньше пытаемся применять, тем скорее найдём рабочее решение :)
а вот например сходим на сайт православных и почитаем, что они пишут.
https://pravoslavie.ru/121035.html
вот смотрите что говорят:
верующих 3%
отвечающих на вопросы в различных формулировках 'ты православный?' - 'да' - 80%.
Так вот они сами пишут, что они проводили научные исследования среди группы 80% и она по числу курильщиков, патриотов и так далее не отличается от неверующих.
а вот в группе 3% эти различия они наблюдают. И делают вывод, что 3% - это число верующих, а 80% - это неверующие.
Видите? Сами верующие делают оценку в 3%. Давайте от этого и отталкиваться:
3% верующих - реализм
80% верующих - это официальная статистика, которая является пропагандой
Ну и в этом месте вспоминаем: зачем нам понадобились верующие? Ах да. Число верующих за 200 лет снизилось до 4%, но число тех, кто признает факт существования своего сознания, наличие "я" так и останется близким к 100%. Мало того, за эти 200 лет появились профессии по лечению заболеваний сознания, плюс классифицированы различные девиации сознания.
То есть отрицать существование сознания или проводить параллель с верой - неконструктивно.
они могут так говорить, но они не будут отрицать существования "Я". Можно объяснять высокую температуру частотой колебаний молекул, можно объяснять адским проявлением, но во всех случаях разговор о температуре ведётся - существование температуры не подвергается сомнению.
но если свободной воли нет, а всё определено, то смысл нашего существования лежит вне нашего мира.
Называйте как хотите, но для того, кто ощущает себя субъектом здесь, жизнь с этого момента теряет смысл.
да и да. но не до конца определена. Это как квантовая неопределённость. С ней можно работать и можно строить успешные модели, но только статистически
человек новому обучается крайне быстро. Если у вас есть физические кондиции (если нет, придётся сперва их набрать), то Вы сможете очень быстро обучиться таким вещам как:
делать сальто
ходить по канату
и так далее. Первые упражнения сделаете с инструктором, потом десяток под его наблюдением, а после нескольких десятков упражнений будете делать это уверено.
ровно то же с любым навыком/знанием. Да где-то потребуется базис (в виде физической ли подготовки или базисных ли знаний), но сами знания усваиваются очень быстро.
<сарказм>
Сони выпускает плеер... и одновременно с этим выходит новая версия mpd
Теория заговора: мировая закулиса планирует глобальное отключение облаков или интернета вообще?
</сарказм>
Человек (в обществе) преодолел все инстинкты, кроме, пожалуй одного - стремления к господству (поиск высшей формы безопасности).
то есть иммутабельных установок и нет (если рассматривать индивидов, пусть и немногочисленных, господство отрицающих).
Возможно. Мутабельность - необходимое условие для становления субъектом, но вот достаточное ли? ХЗ.
давайте пока с Москвой разберёмся.
Итак есть факт: содержание храмов стоит больше суммы пожертвований случая, если бы верующими было 100%.
Есть вывод: храмы финансируются государством или крупным капиталом.
Есть производный вывод: религия вообще финансируется крупным капиталом.
Отсюда у меня тотальное недоверие к так называемой статистике, которая говорит что "большинство - верующие" и "Россия - православная страна".
я не против ощущения верующих. моё утверждение было о том, что
число верующих снизилось во времени (я так считаю, что радикально)
а ощущение "я" не изменилось. Кроме сумасшедших (и заумствующих философов) любой человек положительно ответит на вопрос "'я' существует?", ну и "есть ли у тебя сознание?"
я говорил лишь, что КСГЧ - это фактор, ведущий нас к отрицанию детерминизма. Чистым доказательством не является, но аргумент сильный, даже математчески.
А свободная воля может существовать только при его (детерминизма) отсутствии.
В чём тогда причины утраты рассудка/сознания даже после сравнительно недолгого пребывания в состоянии изолляции / угнетённых органов чувств?
эм а при чём тут ДОЛГОВРЕМЕННАЯ память? Я говорил о полной мутабельности.
То есть повредили маломутабельную память - личность сохранилась.
Ок. Отняли часть от целого, целое сохранилось. Хорошо.
и кроме всего прочего в этом режиме ИИ будет легко сходить с ума и переставать выполнять свои функции.
Почему? потому что уровень этой обратной связи придётся подбирать опытным путём: сделаешь большим - много нейронов переобучится так, что в следующий день никаких толковых ответов не получится. Сделаешь малым - важная информация очередного дня скипнется.
И когда баланс будет найден, окажется что то, что мы называем ИИ почему-то быть им перестало, а стало сильно напоминать человека.
Об этом и статья :)
я сказал "почти до нуля"
а фразу про "большинство верует" я слышу от СМИ, но ни разу не видел доказательств.
Мало того, легко доказывается, что религиозные институты сейчас ЕДВА ЛИ НЕ ПОЛНОСТЬЮ обеспечиваются крупным капиталом, а не прихожанами: например, берём количество храмов в Москве - (8500 ЕМНИП). Берём стоимость только содержания зданий (1-3% в год по нормам СНИП), далее наблюдаем за тем, сколько средний верующий оставляет пожертвований (свечку купил - не пожертвование). Получаем оч небольшую сумму. Умножаем эту сумму на число жителей Москвы целиком и... не хватает даже на содержание зданий. Вывод: пожертвования ни при чём, а "в магию" вкладывается крупный капитал или государство.
И мемы про "большинство верует" финансируются из того же источника.
Я периодически мягко интересуюсь у случайно встреченных людей: являются ли они верующими. Баристы у кого кофе покупаю, коллеги, таджики, что делали ремонт и так далее. Ответов "да" почти не встречается. Но это моя статистика. Она согласуется с рассчётами финансирования религозных организаций и не согласуется с этим мемом, что мы внезапно начали обсуждать.
В общем, у Вас есть доказательство тезиса, что "большинство людей - верующие"?
"Я" человек ощущает вне трендов. Иногда избыточно ощущает, тогда говорят об эгоизме. И даже, когда говорят об альтруизме, то в этом месте формулировки сводятся к проявлению воли: "я делаю это для".
Николай Фёдоров, получая довольно серьёзное жалование, содержал студентов, которых он считал перспективным. Даже предлагал выплачивать пансион Циолковскому, но тот отказался ЕМНИП.
Почему Фёдоров делал такое? Потому что его "Я" сформулировало идею, что он посчитал Великой и эта идея имела в глазах его "Я" меньшую ценность, чем комфорт, хорошее питание итп
В этом месте я же выше сказал, что скорее всего придём к вопросу Воли - то есть снова продукту (причине) самоосознания.
поскольку определения
сознание
самоосознание
разум
субъект
воля
являются взаимно-рекурсивными, то я и предлагаю считать их все синонимами. То есть отличия, конечно, рассматривать, но первичность не выяснять до тех пор, пока не появится какое-то её (первичности) доказательства.
А пока так, то Шопенгауэровское "воля первична" смыкается с древнегреческим: "мир - отражение сознания".
да, но Воля появится когда это станет эквивалентом полной мутабельности (то есть контекст будет способен заменить ВСЕ знания модели).
И да, тут я с Вами согласен, это дорога к получению сильного ИИ. Необходимое условие, но, вероятно, недостаточное. Я думаю, что ещё потребуется конфликт и инстинкт самосохранения.
Ну и такое непрерывное обучение принесёт недостатки, коими обладает человек (практический смысл этой статьи).
Занимаясь уроками со своим ребёнком я ежедневно моделирую эти тесты.
Пример:
реши уравнение
вот ответ
но здесь ошибка
ах да, тогда вот
Копируем в другое окно и тест повторяется.
То есть свойства сознания рассматривать свои же рассуждения у ИИ пока нет.
Да, там запрограммирован контекст. Но чтобы стать сознанием контекст должен стать бесконечным, то есть, иными словами, память должна стать мутабельной.
200 лет прошло, количество чувствующих Аллаха снизилось почти до нуля, а количество чувствующих "Я" осталось прежним - близким к 100%
а я же выше говорил об этом "открытии". Субъектное свойство приводит нас к рекурсии на понятие "самоосознание".:
То есть очень близко к независимой воле, самоопределению целей, разуму и так далее.
Потому я бы (но это я) не различал: самоосознание, сознание, разум, рассудок и даже субъект.
ну как минимум здесь нам нужен субъект, обладающий психической жизнью, умеющий переживать события внутренние и внешние и реагировать на них.
То есть реакция льда на температуру (превращением в воду) - реакция, но не субъектная, а объектная.
Мне кажется, в пределе это снова приведёт нас всё-таки именно к понятию "свободная воля" и как следствие (или причина) к отрицанию детерминизма.
а вот пример выше я привёл. если я добираюсь до понимания какой-то концепции, например, мне указывают на ошибку и я понимаю в чём она (могу сам объяснить, что неправильно), то я больше такую ошибку не повторяю.
а ИИ делает одинаковые ошибки в одинаковых задачах ежедневно (и даже бывает в одном контекстном окне).
да ну! Сознание - есть, это факт. Любой человек Вам подтвердит. То, что его трудно сформулировать - да, но сравнивать это с верой в бога - уже перебор.
Ну можно перечень выдать
сознание - субъектное свойство
сознание - способ отражения (моделирования) окружающего мира
сознание - способ переживания внешних событий
сознание включает в себя способность к рассудку (разум)
И я явно что-то ещё забыл
а знаете что? фича в том, что в энциклопедии сознание определено через субъектность
то есть де-факто здесь рекурсия к самоосознанию
кажется можно всё объединять и считать синонимами: самоосознание, сознание и разум с рассудком
ну Вы пишете "природа вложила", "свободной воли нет"
это детерминизм.
но в такой концепции мира жить тяжело, я бы не смог.
я периодически делаю разные дела, которые заведомо не принесут успеха.
вот понимаю, что результата не будет, а делаю. Почему? ну потому что если не пытаться, то мир и не изменится.
Вы только представьте, насколько тухло выглядел мир для того же Желябова, и идя на эшафот он даже предположить не мог, что всего через 40 лет, а его усилия приведут к результату. Через 40 лет после его смерти. А всё равно пошёл.
Такие люди - пример для подражания и подтверждение того, что свободная воля таки есть. Даже если кто-то представит доказательство что мир детерминирован, воля их преодолеет, потому что иначе тошно жить. Лучше умереть.
первично в нашем наборе самоосознанность. текст определения выше.
а все прочие вещи - рандомность или не рандомность, доведение до экзистенциального конфликта или наоборот мирные переходы - всё это вещи вторичные.
как сейчас проверяют фичи ИИ? тесты пишут.
инструментальный ИИ вполне мыслит. Я же задаю ему вопросы, он ошибается - я поправляю, он учитывает.
чем не мысли?
но это инструмент. и это самый мощный инструмент, что получается. То есть именно этот инструмент даёт максимум профита.
а полный ИИ будет обладать самоосознанием (что круто) и отсюда будет вытекать его крайняя ограниченность.
ну да, детерминизм.
только с ним, как мне кажется, очень сложно жить
я б повесился, только чтобы его сломать
вот поэтому я и говорил выше, что думаю, что самоосознание должно появиться в момент предельного конфликта.
у человека оно появляется само по себе в диапазоне 2-4 лет, но у него нейроны изначально настроены, а у ИИ придётся это пробуждать опытным путём и потому вот так
так поставьте. я на Вас подписался - почитаю.
а в этой простая логцепь:
СМИ/наука ждёт именно такого "сильного ИИ", как определён
я утверждаю, что даже если он будет достигнут, то профита большого это не принесёт
а Вы мою статью-то читали?
это следует из свободы воли. субъект свободен сделать выбор и он будет делать выбор. понятное дело что распределение выборов можно построить, как распределение скоростей молекул в газе. но предсказать какая скорость будет у вот это молекулы нельзя.
мне (человечеству, определившему эту цель) нужно чтобы ИИ стал субъектом, осознал себя и начал ставить себе цели. Чтоб у него появилась свободная воля.
рандом в этом месте даёт гарантию, что такое возможно, поскольку отрезает нас от детерминизма.
будет работать похоже. ага.
Мало того, именно так поступают с нейронами, именно так будут выращивать сильные ИИ.
Вы, кстати, про термин "сокрытые переменные" слышали? пока доказательств их наличия не нашли. а это как раз про детерминизм.
что такое "развивается"? - сам определяет свои цели вплоть до предельно экзистенциального: "я лучше умру, чем буду делать это"?
затем, что именно так и поставлена задача.
то есть сильным называется интеллект, что будет иметь самоосознание.
а если Вы хотите поговорить о других вариантах, то это за пределами проекта "сильный искусственный интеллект", а например в проекте "какой-то иной искусственный интеллект"
Связано, но Вы задаёте вопрос категории тридцати восьми попугаев: "3 ореха - это куча или не куча? а десять?"
погодите. мозг человека теоретически предсказуем. ну по крайней мере статистически. именно потому его сейчас вполне успешно моделируют. Непредсказуемость будет только в области выбора стратегий, расстановки приоритетов. А так, машинка то вполне изучаемая и конкретная.
потому что так сформулирована задача (по кругу идём)
софт про шахматы гарантии выигрыша не даёт. равно как и сильный ИИ негарантированно будет играть на стороне его творца.
ага, ну и что? я исследую моменты, на темы которых мало статей.
Свободная Воля не обязана отличаться от других, хотя может.
вот например возьмём Свободную Волю таких исторических персонажей, как Софья Перовская и Андрей Желябов. За то, чтоб у нас с вами было общедоступное образование (главная причина их волевых поступков) они отдали жизнь. При том, что могли этого не делать (у Желябова так точно была возможность уклониться от казни), но предпочли смерть спасению.
Или возьмём другой пример: Свободную Волю таких персонажей, как Гастелло. Там экипаж принял единогласное решение о таране, при том, что имели время и возможность либо таранить, либо прыгать и спасаться. Скоробогатый, Бурденюк, Калинин и Гастелло.
Могли спастись и далее нанести больший ущерб противнику, нежели нанесли своей смертью, но выбрали то, что выбрали.
В общем ну дофига примеров когда Свободная Воля персонажа не совпадает со среднеарифметическим. И именно эта возможность несовпадения и есть следствие самоосознания.
нет чёткой границы же, ХЗ
что в определении сказано? осознать себя "отличным от других" и "начать формировать собственные стратегии"
Знаете, кстати, что следует из этого определения? Что, например, Больцмановский мозг не сможет осознать себя: у него не будет с чем себя сравнивать и на что опираться в формировании собственной стратегии.
я несколько раз написал о различении необходимого и достаточного.
Как фактор исключающий детерминистическую концепцию мира квантовый ГСЧ меня вполне устраивает.
кто сказал, что не подходит? Я и в статье писал, что именно в подобном ключе и будем действовать. То есть вместо "дал задание -> получил результат" придётся идти по пути "создал условия -> дождался ВЕРОЯТНОГО результата".
и распределение индивидов по векторам совпадений с ожидаемым результатом будет совсем не абсолютным.
и в этом месте "сильный интеллект" по недостаткам совпадает с человеческим.
написать эту статью
пообщаться с Вами
подходит?
истинный рандом разрушает причинно-следственные связи.
повторение эксперимента не (всегда) даёт такой же результат
причиной A является событие B и случайность. следовательно A не (однозначно) определяется B. следовательно A можно рассматривать, как самостоятельное явление.
если состояние некоего автомата определяется кодом и истинной случайностью, то с какого-то момента состояние автомата можно считать самостоятельным, да.
у субъектности много факторов. а невозможность предсказать (читай, независимость действия) состояние - это необходимый фактор. Один из ряда необходимых.
рандом может отделить нас от детерминизма, а свобода воли - есть продукт отрицания детерминизма.
Если мир детерминирован, то свободы воли нет, нас тоже нет. Смысла нет. Всё - иллюзия и тщета.
Вы квантуете "обсуждение статьи" vs "самостоятельные ветки размышлений"?
В рамках трека о смысле жизни - да. Пока искусственной системы с переживаниями нет. Трек "сильный ИИ" - это как раз попытка создания такой системы.
Думаю, самоосознание - общественная функция (часть причин описана в статье), плюс для открытия самоосознания требуется конфликт между стратегиями: например конфликт между инстинктом самосохранения и какой-либо из поставленных перед системой задач/стратегий действия.
я не против, что Вы не согласны. Но порассуждать в логике "если человек сам определяет цели, то..." Вы же способны?
Я это понимаю, как в рамках свободы воли.
Здесь Вы снова о детерминизме. а это снова параллельная тема.
Если мир НЕ детерминирован, то да, сознание - есть результат совокупности предшествующих событий, но случайность разрывает детерминированность и сознание действует из своих представлений о мире, самостоятельно (а не внешними обстоятельствами) поставленными целями. Свободная воля существует.
А если мир детерминирован (случайность - это результат воли внешнего по отношению к миру существа), то самоосознание и сознание теряют смысл. Для внешней воли - это просто инструменты.
Когда наука не может ответить на такие вопросы, она строит логические построения исходя из обоих вариантов, просто раздельно:
Примем, что мир детерминирован. Из этого следует то, то и то. Пока не найдём противоречие исходному посылу, все рассуждения будут валидными.
Примем, что мир не детерминирован. Из этого следует это, вон то и вот эта статья в частности. Пока не найдём противоречие исходному посылу, все рассуждения будут валидными.
Вы, я вижу, исповедуете детерминизм, даже при наличии рандома.
Ну, неудивительно, что статьи, подобные этой, вызывают неприятие.
Это не хорошо, не плохо, это просто есть.
на самом деле всё это тоже лишает нас смысла, вернее приводит к пессимистическому взгляду: если ценны только переживания (уберём эмоции, раз Вам не понравился термин), то переживание смерти - есть предельный вид переживаний и он ничуть не хуже переживания жизни.
Всё. Из статического анализа смысла жизни больше ничего не извлечь. Дальше современные экзистенциалисты принялись подступаться к анализу динамическому - диалектическому варианту. Камю, например, сформулировал понятие "Абсурда", а Франкл ввёл ранжирование переживаний, как "смыслонаполненные vs бессмысленные".
Здесь вся философия очень зыбкая, ибо зачастую базируется уже на внелогических (или рекурсивно определённых) стартовых понятиях. Доказать, что мир бесконечен, например, можно. А здесь (у современных экзистенциалистов) уже будут рекурсивные определения, которые не всякий интеллект примет за стартовые.
Как-то так.
а он будет сам себе ставить цели? Напомню: сильный интеллект - самоосознающий интеллект - интеллект, ставящий цели себе сам.
Ну так сформулирована цель AGI.
Я ведь именно к этой формулировке и предъявляю претензии: пользы из достижения этой цели можно извлечь немного.