Мемристор — это электронный компонент, у которого меняется сопротивление в зависимости от приложенного к нему напряжения.
Нет, вы описали варистор. Мемристор - изменяет своё сопротивление в зависимости от протекшего через него электрического заряда (интеграла тока по времени).
Ох, не так просто в эту сферу войти. Вот есть признанный обществом Obsidian и плагин postgresql-obsidian, если кому нужно именно хранение в базе. Зачем еще что-то нужно, когда есть решение одобренное комьюнити и имеющее сотни плагинов на разный вкус?
Возможно что open source-аналог Obsidian и взлетел бы, однако чтобы общемировое IT-комьюнити его одобрило, обязательным условием должна быть кроссплатформенность - многие работают на MacOS и даже Ubuntu.
Похоже что пока до этого очень далеко. Сейчас даже природа этого феномена не определена. Существуют и квантовые гипотезы сознания (см. молекула Познера). Более того - не определены и качества этого сознания - на что оно влияет, что невозможно без него.
Видимо и правда для решения этого вопроса нужно дотянуть число качественных людей на земле до 1 триллиона, как говорил Маск. Возможно тогда люди смогут как-то подступиться и найти решение. Пока очень глухо.
Если вы проанализируете и попытаетесь понять в чем суть вашего вопроса - то придете к феноменам наслаждения и страдания во всем их разнообразии: вкусная пища, эстетическое наслаждение от заката, боль от укола иглой, страдание от разочарования и т.д.
Человек может страдать и наслаждаться - а компьютер или какая-либо другая система этого делать не могут ни в какой степени.
Возможно что феномены наслаждения и страдания как-то связаны и с развитием, поиском вариантов.
Формально определить мы их не можем, лишь только описательно. В пору бы отказаться это этого и заявить что боли не существует - однако и этого сделать не можем, ведь это то что определяет наши ценности. Мы платим чтобы не страдать и наслаждаться.
Вот взять ваш вопрос. Есть дроны-камикадзе, которые даже работают автономно и выполняют свою миссию без оператора. Находят объект и уничтожают его ценой своей жизни. Можно ли это приравнять к самоубийству? Нет, т.к. ваш вопрос неявно подразумевает страдание (человек страдал да так сильно, что смысла жить не было - ибо мы хотим не просто жить - а наслаждаться и не страдать), а не просто выполнение программы.
Это должен быть частично или полностью биологический носитель, иначе у него не будет мотивации что-то делать вообще.
А какой биологический процесс нельзя воссоздать на транзисторах? Попробуйте найти. Возможно вы приверженец квантового сознания по Пенроузу? Но это не доказано.
Пока голословно - нужны доказательства. Нужен тест, который покажет разницу между человеком и ИИ. Чтобы автоматически генерить задание (т.е. создать функцию, которая на вход принимает число а на выходе - дает задание). Причем человек это задание решает, а ИИ решить не может. Заданий должно быть бесконечно много, иначе их просто добавят в словарь и ИИ будет брать ответ из словаря.
Возможно что и люди разные - часть людей умеет решать не алгоримизируемые задачи а другая часть не умеет. Будет ли это поводом для обоснованной дискриминации?
Нам не нужно усложнять - нужно минимально работающий пример - усложнение все-равно придется упрощать и выделять ядро.
Напишите две функции - одна вызывает наслаждение у компьютера, другая вызывает страдание. Потом продолжим.
З.Ы.
Вообще ваша концепция - мир и так никому не нужен. Так зачем же вы что-то тут обсуждаете? В вашем ракурсе нет разницы между бытием и небытием, верно? Т.е. по вашему пониманию стремление выживать даже - по большому счету не имеет смысла, просто что так глупая система отработала.
Тогда и разговаривать смысла нет - но зачем вы это делаете?
По идее познав эту истину, если это действительно истина - вам нужно завершить всякие попытки что-либо пытаться делать, т.к. в этом нет смысла. Ни в чем нет смысла. Верно?
Но зачем же вы продолжаете вести себя так, как будто смысл все-таки есть?
На уровне аксиом, интуиции - вы все-таки понимаете ошибку. Как детерминистический взгляд сводится на нет феноменом суперпозиции (хотя это и так было понятно на уровне интуиции - это мы называли в быту свобода выбора), так и ваш взгляд о бессмысленности всего также опровергается неким феноменом, который пока не изучен (и представлен в быту понятиями наслаждение и страдание).
Давайте введем концепцию нужности, ценности. Предположим, что есть феномен, когда что-то становится нужным и важным. И тогда все меняется. Попробуйте принять эту концепцию. Назовем нужность - наслаждением.
До того как люди столкнулись с парадоксами квантовой физики, суперпозицией (т.н. неопределенностью) - считали что мир детерминистический. Что все процессы - просто как крутящиеся шестеренки.
С появлением квантовой механики, с открытием суперпозиции - пришлось отказаться от этой идеи.
А ведь поверив в детерминистический мир - можно было отказаться что-либо делать, ведь все-равно все предопределено и от нас ничего не зависит.
Сейчас вы так же в угоду пустой идее (отрицая очевидно - феномены наслаждения и страдания) - спешите делать космического масштаба выводы.
Мир нужен тому, кто умеет наслаждаться от него.
Нужна ли вам ваша мать, любите ли вы ее? Или же вам нужны только ресурсы от нее? Вот, есть люди, которые просто так помогают старенькой матери, тратят свои силы - хотя могли бы этого не делать. А кто-то не помогает, забывает. Умение любить, наслаждаться добром.
Вы как бы пытаетесь сказать что нет разницы между философским зомби и человеком - что человек и есть философский зомби. Не важно что внутри - если внешне это ведет себя как будто ему больно - значит ему больно.
Ну то есть просто отбор на выживание тех, кто реагирует определенным образом.
Опять у вас все завязано на внешнее проявление. А боль она внутри, наслаждение внутри. Можно делать одно и то же действие - но один делает искренне от души, второй делает лицемерно.
Для вас имеет значение - любит ли вас ваша жена или же просто притворяется ради выгоды?
Нагуглите исходники любой простенькой системы реализующий обучение с подкреплением
Обязательно нейросеть должна быть? Какие алгоритмы?
Для понимания сути процесса нужен минимизированный пример.
ибо его наличие или отсутствие на объективную реальность никак не влияет
Вы слишком легкомысленно относитесь к этому вопросу. Мир без сознания, без наблюдателя - никому не нужен.
Симметричность не означает равноценность
Для вашей системы ценность не появляется. Ценность есть только в сознании. В вашей системе ценность появляется только на уровне того, кто использует систему для своих нужд - а сама система даже не знает что делает.
Код я вам уже писал, попробуйте его прочесть
Вам важно отточить ораторское искусство или разобраться в вопросе. Я вас попросил написать две завершенные функции, при вызове одной система страдает (не как бы) а при вызове второй - наслаждается. Мы договорились что сенсоры не нужны.
Вы прочитали это все? Могли бы вкратце выделить самое важное и полезное что узнали, основные тезисы, которые повлияли на вас, что-то сделали более понятным.
Дело в том что мы не можем позволить себе бросаться углубленно читать все книги мира. В мире около 129 млн. книг, в то время как человек за свою жизнь сможет прочесть максимум 6 тыс. книг (около 0,004%).
А еще многие люди занимались подсчетом сколько ангелов танцуют на кончике иглы.
Это вопрос нейробиологии - см. нейронные корреляты сознания. Над этим работают исследователи мозга, нейробиологи, представители прочих нейронаук.
Еще как симметричны.
Ну глупость же. Если они симметричны - то у вас бы не было жгучего, нежелательного страдания - которое вы не хотите ощущать. И наслаждение и страдание внутренне были бы равноценны - как лево и право. Пойти налево и пойти на право - разница есть, в одном случае мы делаем один выбор а в другом случае другой выбор. Но при этом лево и право для нас симметричны - нет предпочтения одного над другим.
Внутреннее ощущение на самом деле не существует
За то чтобы у вас не болело внутри - вы отдадите что угодно. В вашей концепции - не существует (никак не получается притянуть - получается симметричные концепции - как "лево" и "право"), а в реальности - еще как существует и определяет все наши ценности.
Лево и право - симметричны. А наслаждение и страдание - нет.
Отрицательное и положительное подкрепление - так же симметрично в рамках системы. Асимметричность возникает лишь в голове экспериментатора - которому не все-равно, какие результаты будет выдавать система. Самой системе - пофиг, она не заинтересована в правильности выдачи (правильность - есть только в голове экспериментатора).
В 7 раз вам говорю: пробуйте писать код. Не пустословьте уже. Вы не самый умный в мире.
Это разумно. Многие люди этим занимаются всю жизнь и если бы было все так просто - думаете бы никто бы не выдвинул такую гипотезу?
Вы сейчас похожи на школьника из 80х, который считает что доказал Великую Теорему Ферма, а таких много было.
Уже одно это могло бы вас остановить от поспешных выводов.
Обучается не допускать черезмерного давления на диафрагму
А если просто болит что бы человек не делал - просто идет сигнал боли в болевой центр из-за перемкнувших аксонов? Что человек не должен повторять, если боль ни с каким конкретным событием не связана?
То что он не может реально этому научиться это баг обратной связи
При обучении с подкреплением - дается вопрос и оценивается ответ. Если у человека что-то перемкнуло и идет сигнал боли постоянно в болевой центр - какой вопрос ему задается?
Боль это наиболее сильный стимул, сразу закрепляется в памяти.
Ну тоже нет - интерес так же быстро закрепляется в памяти. А это не боль а наслаждение скорее.
Он и для человека условен - ну вот те особи, для которых определенные стимулы были негативными
Опять вы не поймете суть - дело не в связи сигнала с внешним проявлением - а во внутреннем восприятии. Внутреннее восприятие боли и наслаждения - не симметричны. А у вас получается - внутри симметрично, а внешние проявления - система не осознает.
Просто система так спроектирована изначально, что увеличение значения в ячейке 1 вынудит ее изменить поведение, а в ячейке 2 повторить поведение.
Ну вот - опять все что вы можете - применить внешнее поведение. А нас интересует не внешнее поведение а внутреннее ощущение боли. А внутреннее ощущение боли и наслаждения в вашей схеме - получается одинаковым (что явно не так - нам внутренне важно не страдать, а наслаждаться мы наоборот хотим).
Вам нужно попытаться написать код - тогда все станет понятно. Если вам правда вопрос интересен.
Вам понравилось что в обучении с подкреплением есть слова - "положительное" и "отрицательное". Подобное приводили с "отрицательной" обратной связью и "положительной" обратной связью (те же слова).
На самом деле совпадения слов не достаточно - смысл другой.
Кто-то кроме вас еще так думает? Находили ли вы в научной литературе такую гипотезу? Уверен что нет, т.к. даже при поверхностном рассмотрении видно что кроме одинаковости слов - имеем совершенно разные явления.
оно просто дает сигнал "попробуй что-то другое"
А чему обучается страдающий человек? При обучении с подкреплением - дается некий вопрос, система дает ответ. Если ответ не верен (с т.з. обучающего) - передаем системе сигнал для коррекции. Вот, лежит человек и страдает - ничего сделать не может. Кто дает ему запрос, какой ответ дает на это человек?
любая боль это негативное подкрепление, не не любое негативное подкрепление боль.
А что нужно, чтобы негативное подкрепление стало именно болью? Особый алгоритм?
если они на 100% симметричны, и отличаются только знаком, что это доказывает
Дело тут вот в чем - знак минус условен. Где минус а где плюс - знает только наблюдатель - для системы разницы нет. Вот взять числа - мы условились для отрицательных использовать старший бит в единицу, но если бы условились использовать старший бит в единицу для положительных - то пришлось бы поменять сдвиг вправо (вроде еще одну операцию - а остальные симметричны как ни странно - т.е. код даже не нужно менять).
Когда разница только в голове наблюдателя - то как система поймет когда страдать а когда наслаждаться - для нее разницы нет - она не знает что ячейку 1 принято называть отрицательным страданием, а ячейку 2 - положительным.
Если вы попытаетесь реализовать свое убеждение в коде - то либо сами быстро поймете ошибку - либо же я вам ее докажу.
И? Так устроен мой мозг, но ничего сверху стимулов подкрепления
Вот перед нами и стоит задача - воспроизвести искусственно феномены наслаждения и страдания, которые каким-то образом реализованы в мозге. Как реализовано - пока не ясно, возможно участвую квантовые процессы (см. молекула Познера).
он будет реагировать на положительный стимул не так, как на отрицательный
Вы о внешнем проявлении? Типа если больно - то запускаем звук "а, мне больно"? Или если получил подкрепление "ответ не верен" - то записывает в массив больше так не отвечать на тот же вопрос? Это мы разобрали.
Или что-то другое есть - другой тип реакции? Какой?
она в итоге будет пытаться повторить ситуацию получения положительного стимула
Единственное что вы можете - посмотреть на систему со стороны и попытаться найти наиболее частые реакции на страдание и наслаждение. Но это не описывает саму суть феномена.
Вот вы на смертном одре, вам плохо, лечения нет - больно. Какую запись нужно сделать - что нужно попытаться избежать?
Попробуйте все же сделать минимальный код - я уже устал объяснять. Когда вы попытались сделать код - пришли к системам обучения - но и это не то.
Давайте на этом и завершим - давайте код и я вам доходчиво докажу почему система не страдает при запуске этого кода.
Вот вы этого не знаете, пофиг ей или не пофиг
Дело вот в чем: в нас тоже есть процессы обучения с подкреплением. И мы понимаем что ошибка при обучении не эквивалентна боли. Все зависит от нашего отношения.
Мы может достаточно точно заявить что это разные феномены.
Вы цепляете за то, что у человека несколько типов подкрепляющих стимулов
В основном все доказательства сводятся к симметричности в рамках системы - что разница есть только для внешнего наблюдателя, а в рамках системы и наслаждение и страдание вызывают один и тот же алгоритм.
Что за феномен? Ну кроме банального негативного стимула?
Для вас ваши мучения - банальны? Да вы отдадите все что есть у вас, чтобы не мучаться. И так каждый человек в мире. И вам не важно будет чем вызваны мучения - стандартным механизмом (типа пытки) или же где-то проводок перемкнул.
Так они и в человеке симметричны.
Эээээ - вот тут то и есть ваша ключевая ошибка и непонимание. Для вас что, нет разницы страдать или наслаждаться? В том то и дело что есть разница.
Для системы - не для внешнего наблюдателя - а именно для самой страдающей системы - наслаждение и страдание не симметричны. Страдания плохо, не хочется, не желательно - а наслаждения - хочется, хорошо, желательно. Это разное. Все что вы приводите - в ракурсе системы не различается - различаются только внешние проявления (кричащая кукла).
Для системы обучения с подкреплением - нет предпочтения получить позитивный стимул - она обучается и от позитивного и от отрицательного. Ей без разницы - это пользователю этой системы важно, чтобы цифры распознавало правильно - а само системе пофиг.
И при этом, разумеется так и выходит что уровни стимулов подкрепления минимальны
Наслаждение и страдание могут быть противоположны по знаку информационному подкреплению - следовательно это разные феномены.
редуцировать машину до агента с одним входом, а с другой рассматриваете полноценного человека, это вас и сбивает
Да не в этом дело. Это просто разные феномены. Я привел вам пример, когда при неверном ответе вы получаете отрицательное информационное подкрепление, но при этом эмоциональное - около-нулевое или даже положительное. Так и наоборот - фантомная боль - ничему не учит, не участвует в обучении с подкреплением - но феномен страдания ярко выражен.
Для нас важен сам феномен боли/страдания. И именно такие случаи, когда боль проявляет себя как отдельный феномен (вразрез с рациональным смыслом ее появления) - наиболее важны.
он бы постоянно получал негативное подкрепление
Негативное - не значит что ему больно. Вас сбивает с толку это слово - этим словом у нас обозначают и страдания.
На самом деле система будет неверно настроена - т.е. она не сможет распознавать цифры, к примеру. При этом самой системе все-равно, у нее нет болевого центра.
Нас запутывает то, что мы рассматриваем систему как некий черный ящик - и наша человеческая природа склонна одушевлять, наделять человеческими качествами (вспоминайте бурлящий чайник).
Давайте рассмотрим минимальную систему, которая обучается с подкреплением - и станет ясна симметричность отрицательного и положительного подкрепления - разница лишь в голове обучающего.
собственно если негативное подкрепление за невыученный билет будет "ну ладно, зато ты старался" вход "зато хорошо погудели вчера с однокурсниками" может и перевесить
Тут вы смешали одно с другим. Когда я обучаюсь - у меня нет риска завалить экзамен и пострадать от этого - это я делаю в гордом одиночестве и отрицательный ответ - негативных для моей жизни последствий не имеет. Но при этом я все так же обучаюсь - используя коррекцию своих знаний на основе отклика "верно" или "неверно". Это целиком и полностью опровергает гипотезу об эквивалентности феноменов наслаждения и страдания - обучению с положительным и отрицательным подкреплением.
Для более убедительного доказательства можно рассмотреть в деталях минимальную программу, которая реализует обучение с положительным и отрицательным подкреплением. Но и так понятно.
Для нас важно что сенсор для ощущения боли - не нужен. Все лишние элементы нужно исключить, чтобы они не запутывали нас и не вводили в заблуждение. То что сенсор не нужен для ощущения боли - имеет 100% доказательства. По-этому рассматриваем только прямую подачу сигнала в центр боли.
В случае обучения с подкреплением отрицательное подкрепление это уже полный аналог боли (а положительное соответственно удовольствия).
Эту гипотезу я предлагаю опровергнуть следующим образом.
Мы как люди так же умеем обучаться с подкреплением, как то можем выучить некоторые билеты (как то для прохождения экзамена на вождение). При изучении билетов в программе мы так же получаем положительное или отрицательное подкрепление, так?
Подкрепление происходит не в виде битья палкой а в виде просто отклика - верно или не верно (аналогично в нейросети - ее палкой не бьют).
Так вот - наша эмоциональная реакция на отрицательное подкрепление может быть положительной, а на положительное - отрицательной (или близкой к нулю). Все зависит от нашего отношения. У меня такое было - я радовался каждому неверному ответу, т.к. это причина что-то узнать (но в основном отвечал правильно). Т.е. эмоциональная составляющая (наслаждаться или страдать) не всегда совпадает с информационной (верный ответ или нет). Следовательно, это разные феномены.
Ещё раз, приводит вас. Откройте любой новостной сайт и убедитесь.
Чем более развита цивилизации - тем менее приемлемо мучать даже своих врагов. Сейчас не так уж часто встретишь видео пыток, которыми бы официально гордились на гос. уровне - все таки пытки запрещают даже над врагами.
Но я этого не знаю, это вы мне говорите, что можете. Может, вы врёте, у меня нет способа проверить.
Вы можете с помощью МРТ посмотреть картинку возбуждения нейронов при вашем личном страдании и убедиться что у других людей происходит то же самое. А про свои страдания вы можете сказать непосредственно. Разумное предположение - все люди страдают. Тем более они сами об этом говорят.
С рабом тоже можно (было).
На нашем уровне развития - уже нельзя. И причина - вполне конкретная, необоснованные страдания есть зло. Все наши ценности построены вокруг наслаждения и страдания, весь УК.
я хочу сделать Х просто так
А если ему запретить делать X - будет ли оно страдать от этого?
Ключевой вопрос здесь - действия сознательные (направляемы наслаждением и страданием) и действия программные - которые направляются программой.
В случае с чатботом - мы можем попытаться установить причину тех или иных стремлений.
Нет, вы описали варистор. Мемристор - изменяет своё сопротивление в зависимости от протекшего через него электрического заряда (интеграла тока по времени).
Ох, не так просто в эту сферу войти. Вот есть признанный обществом Obsidian и плагин postgresql-obsidian, если кому нужно именно хранение в базе. Зачем еще что-то нужно, когда есть решение одобренное комьюнити и имеющее сотни плагинов на разный вкус?
Возможно что open source-аналог Obsidian и взлетел бы, однако чтобы общемировое IT-комьюнити его одобрило, обязательным условием должна быть кроссплатформенность - многие работают на MacOS и даже Ubuntu.
Похоже что пока до этого очень далеко. Сейчас даже природа этого феномена не определена. Существуют и квантовые гипотезы сознания (см. молекула Познера). Более того - не определены и качества этого сознания - на что оно влияет, что невозможно без него.
Видимо и правда для решения этого вопроса нужно дотянуть число качественных людей на земле до 1 триллиона, как говорил Маск. Возможно тогда люди смогут как-то подступиться и найти решение. Пока очень глухо.
Если вы проанализируете и попытаетесь понять в чем суть вашего вопроса - то придете к феноменам наслаждения и страдания во всем их разнообразии: вкусная пища, эстетическое наслаждение от заката, боль от укола иглой, страдание от разочарования и т.д.
Человек может страдать и наслаждаться - а компьютер или какая-либо другая система этого делать не могут ни в какой степени.
Возможно что феномены наслаждения и страдания как-то связаны и с развитием, поиском вариантов.
Формально определить мы их не можем, лишь только описательно. В пору бы отказаться это этого и заявить что боли не существует - однако и этого сделать не можем, ведь это то что определяет наши ценности. Мы платим чтобы не страдать и наслаждаться.
Вот взять ваш вопрос. Есть дроны-камикадзе, которые даже работают автономно и выполняют свою миссию без оператора. Находят объект и уничтожают его ценой своей жизни. Можно ли это приравнять к самоубийству? Нет, т.к. ваш вопрос неявно подразумевает страдание (человек страдал да так сильно, что смысла жить не было - ибо мы хотим не просто жить - а наслаждаться и не страдать), а не просто выполнение программы.
А какой биологический процесс нельзя воссоздать на транзисторах? Попробуйте найти. Возможно вы приверженец квантового сознания по Пенроузу? Но это не доказано.
Пока голословно - нужны доказательства. Нужен тест, который покажет разницу между человеком и ИИ. Чтобы автоматически генерить задание (т.е. создать функцию, которая на вход принимает число а на выходе - дает задание). Причем человек это задание решает, а ИИ решить не может. Заданий должно быть бесконечно много, иначе их просто добавят в словарь и ИИ будет брать ответ из словаря.
Возможно что и люди разные - часть людей умеет решать не алгоримизируемые задачи а другая часть не умеет. Будет ли это поводом для обоснованной дискриминации?
Это кто вам такое сказал? Концепции зомби так же разные бывают. Я имею в виду бихевиорального - как кукла, которая кричит, но при этом не страдает.
Ну тоже нет - т.к. не все синапсы и мембраны связаны с наслаждением и страданием.
С помощью МРТ мы частично можем заглянуть и во внутренние процессы, так что уже нет.
Вы можете написать свое представление тут: https://dotnetfiddle.net/ - сразу две функции.
Нам не нужно усложнять - нужно минимально работающий пример - усложнение все-равно придется упрощать и выделять ядро.
Напишите две функции - одна вызывает наслаждение у компьютера, другая вызывает страдание. Потом продолжим.
З.Ы.
Вообще ваша концепция - мир и так никому не нужен. Так зачем же вы что-то тут обсуждаете? В вашем ракурсе нет разницы между бытием и небытием, верно? Т.е. по вашему пониманию стремление выживать даже - по большому счету не имеет смысла, просто что так глупая система отработала.
Тогда и разговаривать смысла нет - но зачем вы это делаете?
По идее познав эту истину, если это действительно истина - вам нужно завершить всякие попытки что-либо пытаться делать, т.к. в этом нет смысла. Ни в чем нет смысла. Верно?
Но зачем же вы продолжаете вести себя так, как будто смысл все-таки есть?
На уровне аксиом, интуиции - вы все-таки понимаете ошибку. Как детерминистический взгляд сводится на нет феноменом суперпозиции (хотя это и так было понятно на уровне интуиции - это мы называли в быту свобода выбора), так и ваш взгляд о бессмысленности всего также опровергается неким феноменом, который пока не изучен (и представлен в быту понятиями наслаждение и страдание).
Давайте введем концепцию нужности, ценности. Предположим, что есть феномен, когда что-то становится нужным и важным. И тогда все меняется. Попробуйте принять эту концепцию. Назовем нужность - наслаждением.
До того как люди столкнулись с парадоксами квантовой физики, суперпозицией (т.н. неопределенностью) - считали что мир детерминистический. Что все процессы - просто как крутящиеся шестеренки.
С появлением квантовой механики, с открытием суперпозиции - пришлось отказаться от этой идеи.
А ведь поверив в детерминистический мир - можно было отказаться что-либо делать, ведь все-равно все предопределено и от нас ничего не зависит.
Сейчас вы так же в угоду пустой идее (отрицая очевидно - феномены наслаждения и страдания) - спешите делать космического масштаба выводы.
Мир нужен тому, кто умеет наслаждаться от него.
Нужна ли вам ваша мать, любите ли вы ее? Или же вам нужны только ресурсы от нее? Вот, есть люди, которые просто так помогают старенькой матери, тратят свои силы - хотя могли бы этого не делать. А кто-то не помогает, забывает. Умение любить, наслаждаться добром.
Вы как бы пытаетесь сказать что нет разницы между философским зомби и человеком - что человек и есть философский зомби. Не важно что внутри - если внешне это ведет себя как будто ему больно - значит ему больно.
Опять у вас все завязано на внешнее проявление. А боль она внутри, наслаждение внутри. Можно делать одно и то же действие - но один делает искренне от души, второй делает лицемерно.
Для вас имеет значение - любит ли вас ваша жена или же просто притворяется ради выгоды?
Обязательно нейросеть должна быть? Какие алгоритмы?
Для понимания сути процесса нужен минимизированный пример.
Вы слишком легкомысленно относитесь к этому вопросу. Мир без сознания, без наблюдателя - никому не нужен.
Для вашей системы ценность не появляется. Ценность есть только в сознании. В вашей системе ценность появляется только на уровне того, кто использует систему для своих нужд - а сама система даже не знает что делает.
Вам важно отточить ораторское искусство или разобраться в вопросе. Я вас попросил написать две завершенные функции, при вызове одной система страдает (не как бы) а при вызове второй - наслаждается. Мы договорились что сенсоры не нужны.
Вы прочитали это все? Могли бы вкратце выделить самое важное и полезное что узнали, основные тезисы, которые повлияли на вас, что-то сделали более понятным.
Дело в том что мы не можем позволить себе бросаться углубленно читать все книги мира. В мире около 129 млн. книг, в то время как человек за свою жизнь сможет прочесть максимум 6 тыс. книг (около 0,004%).
Это вопрос нейробиологии - см. нейронные корреляты сознания. Над этим работают исследователи мозга, нейробиологи, представители прочих нейронаук.
Ну глупость же. Если они симметричны - то у вас бы не было жгучего, нежелательного страдания - которое вы не хотите ощущать. И наслаждение и страдание внутренне были бы равноценны - как лево и право. Пойти налево и пойти на право - разница есть, в одном случае мы делаем один выбор а в другом случае другой выбор. Но при этом лево и право для нас симметричны - нет предпочтения одного над другим.
За то чтобы у вас не болело внутри - вы отдадите что угодно. В вашей концепции - не существует (никак не получается притянуть - получается симметричные концепции - как "лево" и "право"), а в реальности - еще как существует и определяет все наши ценности.
Лево и право - симметричны. А наслаждение и страдание - нет.
Отрицательное и положительное подкрепление - так же симметрично в рамках системы. Асимметричность возникает лишь в голове экспериментатора - которому не все-равно, какие результаты будет выдавать система. Самой системе - пофиг, она не заинтересована в правильности выдачи (правильность - есть только в голове экспериментатора).
В 7 раз вам говорю: пробуйте писать код. Не пустословьте уже. Вы не самый умный в мире.
Это разумно. Многие люди этим занимаются всю жизнь и если бы было все так просто - думаете бы никто бы не выдвинул такую гипотезу?
Вы сейчас похожи на школьника из 80х, который считает что доказал Великую Теорему Ферма, а таких много было.
Уже одно это могло бы вас остановить от поспешных выводов.
А если просто болит что бы человек не делал - просто идет сигнал боли в болевой центр из-за перемкнувших аксонов? Что человек не должен повторять, если боль ни с каким конкретным событием не связана?
При обучении с подкреплением - дается вопрос и оценивается ответ. Если у человека что-то перемкнуло и идет сигнал боли постоянно в болевой центр - какой вопрос ему задается?
Ну тоже нет - интерес так же быстро закрепляется в памяти. А это не боль а наслаждение скорее.
Опять вы не поймете суть - дело не в связи сигнала с внешним проявлением - а во внутреннем восприятии. Внутреннее восприятие боли и наслаждения - не симметричны. А у вас получается - внутри симметрично, а внешние проявления - система не осознает.
Ну вот - опять все что вы можете - применить внешнее поведение. А нас интересует не внешнее поведение а внутреннее ощущение боли. А внутреннее ощущение боли и наслаждения в вашей схеме - получается одинаковым (что явно не так - нам внутренне важно не страдать, а наслаждаться мы наоборот хотим).
Вам нужно попытаться написать код - тогда все станет понятно. Если вам правда вопрос интересен.
Вам понравилось что в обучении с подкреплением есть слова - "положительное" и "отрицательное". Подобное приводили с "отрицательной" обратной связью и "положительной" обратной связью (те же слова).
На самом деле совпадения слов не достаточно - смысл другой.
Кто-то кроме вас еще так думает? Находили ли вы в научной литературе такую гипотезу? Уверен что нет, т.к. даже при поверхностном рассмотрении видно что кроме одинаковости слов - имеем совершенно разные явления.
А чему обучается страдающий человек? При обучении с подкреплением - дается некий вопрос, система дает ответ. Если ответ не верен (с т.з. обучающего) - передаем системе сигнал для коррекции. Вот, лежит человек и страдает - ничего сделать не может. Кто дает ему запрос, какой ответ дает на это человек?
А что нужно, чтобы негативное подкрепление стало именно болью? Особый алгоритм?
Дело тут вот в чем - знак минус условен. Где минус а где плюс - знает только наблюдатель - для системы разницы нет. Вот взять числа - мы условились для отрицательных использовать старший бит в единицу, но если бы условились использовать старший бит в единицу для положительных - то пришлось бы поменять сдвиг вправо (вроде еще одну операцию - а остальные симметричны как ни странно - т.е. код даже не нужно менять).
Когда разница только в голове наблюдателя - то как система поймет когда страдать а когда наслаждаться - для нее разницы нет - она не знает что ячейку 1 принято называть отрицательным страданием, а ячейку 2 - положительным.
Если вы попытаетесь реализовать свое убеждение в коде - то либо сами быстро поймете ошибку - либо же я вам ее докажу.
Так у Wiki можно и готовое определение сознания взять. Я думал вы хотите конкретную концепцию рассказать. Там про свободу воли тоже не все однозначно.
Подходит ли под определение из Wiki - ГСЧ? На мой взгляд - вполне.
Теперь дайте определение сознания на основе свободы воли.
Ну конечно же, ведь я серьезно отношусь к этим вопросам и заставляю ваши мозги шевелиться хоть немного - а это расход ресурсов и это не приятно.
Ну тогда дайте определение свободе воли, после чего дайте определение сознанию на основе свободы воли.
Вообще нужно исходить из того, чтобы определение позволяло воссоздать феномен искусственно.
Вот перед нами и стоит задача - воспроизвести искусственно феномены наслаждения и страдания, которые каким-то образом реализованы в мозге. Как реализовано - пока не ясно, возможно участвую квантовые процессы (см. молекула Познера).
Вы о внешнем проявлении? Типа если больно - то запускаем звук "а, мне больно"? Или если получил подкрепление "ответ не верен" - то записывает в массив больше так не отвечать на тот же вопрос? Это мы разобрали.
Или что-то другое есть - другой тип реакции? Какой?
Единственное что вы можете - посмотреть на систему со стороны и попытаться найти наиболее частые реакции на страдание и наслаждение. Но это не описывает саму суть феномена.
Вот вы на смертном одре, вам плохо, лечения нет - больно. Какую запись нужно сделать - что нужно попытаться избежать?
Попробуйте все же сделать минимальный код - я уже устал объяснять. Когда вы попытались сделать код - пришли к системам обучения - но и это не то.
Давайте на этом и завершим - давайте код и я вам доходчиво докажу почему система не страдает при запуске этого кода.
Дело вот в чем: в нас тоже есть процессы обучения с подкреплением. И мы понимаем что ошибка при обучении не эквивалентна боли. Все зависит от нашего отношения.
Мы может достаточно точно заявить что это разные феномены.
В основном все доказательства сводятся к симметричности в рамках системы - что разница есть только для внешнего наблюдателя, а в рамках системы и наслаждение и страдание вызывают один и тот же алгоритм.
Для вас ваши мучения - банальны? Да вы отдадите все что есть у вас, чтобы не мучаться. И так каждый человек в мире. И вам не важно будет чем вызваны мучения - стандартным механизмом (типа пытки) или же где-то проводок перемкнул.
Эээээ - вот тут то и есть ваша ключевая ошибка и непонимание. Для вас что, нет разницы страдать или наслаждаться? В том то и дело что есть разница.
Для системы - не для внешнего наблюдателя - а именно для самой страдающей системы - наслаждение и страдание не симметричны. Страдания плохо, не хочется, не желательно - а наслаждения - хочется, хорошо, желательно. Это разное. Все что вы приводите - в ракурсе системы не различается - различаются только внешние проявления (кричащая кукла).
Для системы обучения с подкреплением - нет предпочтения получить позитивный стимул - она обучается и от позитивного и от отрицательного. Ей без разницы - это пользователю этой системы важно, чтобы цифры распознавало правильно - а само системе пофиг.
Наслаждение и страдание могут быть противоположны по знаку информационному подкреплению - следовательно это разные феномены.
Да не в этом дело. Это просто разные феномены. Я привел вам пример, когда при неверном ответе вы получаете отрицательное информационное подкрепление, но при этом эмоциональное - около-нулевое или даже положительное. Так и наоборот - фантомная боль - ничему не учит, не участвует в обучении с подкреплением - но феномен страдания ярко выражен.
Для нас важен сам феномен боли/страдания. И именно такие случаи, когда боль проявляет себя как отдельный феномен (вразрез с рациональным смыслом ее появления) - наиболее важны.
Негативное - не значит что ему больно. Вас сбивает с толку это слово - этим словом у нас обозначают и страдания.
На самом деле система будет неверно настроена - т.е. она не сможет распознавать цифры, к примеру. При этом самой системе все-равно, у нее нет болевого центра.
Нас запутывает то, что мы рассматриваем систему как некий черный ящик - и наша человеческая природа склонна одушевлять, наделять человеческими качествами (вспоминайте бурлящий чайник).
Давайте рассмотрим минимальную систему, которая обучается с подкреплением - и станет ясна симметричность отрицательного и положительного подкрепления - разница лишь в голове обучающего.
Тут вы смешали одно с другим. Когда я обучаюсь - у меня нет риска завалить экзамен и пострадать от этого - это я делаю в гордом одиночестве и отрицательный ответ - негативных для моей жизни последствий не имеет. Но при этом я все так же обучаюсь - используя коррекцию своих знаний на основе отклика "верно" или "неверно". Это целиком и полностью опровергает гипотезу об эквивалентности феноменов наслаждения и страдания - обучению с положительным и отрицательным подкреплением.
Для более убедительного доказательства можно рассмотреть в деталях минимальную программу, которая реализует обучение с положительным и отрицательным подкреплением. Но и так понятно.
Для нас важно что сенсор для ощущения боли - не нужен. Все лишние элементы нужно исключить, чтобы они не запутывали нас и не вводили в заблуждение. То что сенсор не нужен для ощущения боли - имеет 100% доказательства. По-этому рассматриваем только прямую подачу сигнала в центр боли.
Эту гипотезу я предлагаю опровергнуть следующим образом.
Мы как люди так же умеем обучаться с подкреплением, как то можем выучить некоторые билеты (как то для прохождения экзамена на вождение). При изучении билетов в программе мы так же получаем положительное или отрицательное подкрепление, так?
Подкрепление происходит не в виде битья палкой а в виде просто отклика - верно или не верно (аналогично в нейросети - ее палкой не бьют).
Так вот - наша эмоциональная реакция на отрицательное подкрепление может быть положительной, а на положительное - отрицательной (или близкой к нулю). Все зависит от нашего отношения. У меня такое было - я радовался каждому неверному ответу, т.к. это причина что-то узнать (но в основном отвечал правильно). Т.е. эмоциональная составляющая (наслаждаться или страдать) не всегда совпадает с информационной (верный ответ или нет). Следовательно, это разные феномены.
Чем более развита цивилизации - тем менее приемлемо мучать даже своих врагов. Сейчас не так уж часто встретишь видео пыток, которыми бы официально гордились на гос. уровне - все таки пытки запрещают даже над врагами.
Вы можете с помощью МРТ посмотреть картинку возбуждения нейронов при вашем личном страдании и убедиться что у других людей происходит то же самое. А про свои страдания вы можете сказать непосредственно. Разумное предположение - все люди страдают. Тем более они сами об этом говорят.
На нашем уровне развития - уже нельзя. И причина - вполне конкретная, необоснованные страдания есть зло. Все наши ценности построены вокруг наслаждения и страдания, весь УК.
А если ему запретить делать X - будет ли оно страдать от этого?
Ключевой вопрос здесь - действия сознательные (направляемы наслаждением и страданием) и действия программные - которые направляются программой.
В случае с чатботом - мы можем попытаться установить причину тех или иных стремлений.