И? Так устроен мой мозг, но ничего сверху стимулов подкрепления
Вот перед нами и стоит задача - воспроизвести искусственно феномены наслаждения и страдания, которые каким-то образом реализованы в мозге. Как реализовано - пока не ясно, возможно участвую квантовые процессы (см. молекула Познера).
он будет реагировать на положительный стимул не так, как на отрицательный
Вы о внешнем проявлении? Типа если больно - то запускаем звук "а, мне больно"? Или если получил подкрепление "ответ не верен" - то записывает в массив больше так не отвечать на тот же вопрос? Это мы разобрали.
Или что-то другое есть - другой тип реакции? Какой?
она в итоге будет пытаться повторить ситуацию получения положительного стимула
Единственное что вы можете - посмотреть на систему со стороны и попытаться найти наиболее частые реакции на страдание и наслаждение. Но это не описывает саму суть феномена.
Вот вы на смертном одре, вам плохо, лечения нет - больно. Какую запись нужно сделать - что нужно попытаться избежать?
Попробуйте все же сделать минимальный код - я уже устал объяснять. Когда вы попытались сделать код - пришли к системам обучения - но и это не то.
Давайте на этом и завершим - давайте код и я вам доходчиво докажу почему система не страдает при запуске этого кода.
Вот вы этого не знаете, пофиг ей или не пофиг
Дело вот в чем: в нас тоже есть процессы обучения с подкреплением. И мы понимаем что ошибка при обучении не эквивалентна боли. Все зависит от нашего отношения.
Мы может достаточно точно заявить что это разные феномены.
Вы цепляете за то, что у человека несколько типов подкрепляющих стимулов
В основном все доказательства сводятся к симметричности в рамках системы - что разница есть только для внешнего наблюдателя, а в рамках системы и наслаждение и страдание вызывают один и тот же алгоритм.
Что за феномен? Ну кроме банального негативного стимула?
Для вас ваши мучения - банальны? Да вы отдадите все что есть у вас, чтобы не мучаться. И так каждый человек в мире. И вам не важно будет чем вызваны мучения - стандартным механизмом (типа пытки) или же где-то проводок перемкнул.
Так они и в человеке симметричны.
Эээээ - вот тут то и есть ваша ключевая ошибка и непонимание. Для вас что, нет разницы страдать или наслаждаться? В том то и дело что есть разница.
Для системы - не для внешнего наблюдателя - а именно для самой страдающей системы - наслаждение и страдание не симметричны. Страдания плохо, не хочется, не желательно - а наслаждения - хочется, хорошо, желательно. Это разное. Все что вы приводите - в ракурсе системы не различается - различаются только внешние проявления (кричащая кукла).
Для системы обучения с подкреплением - нет предпочтения получить позитивный стимул - она обучается и от позитивного и от отрицательного. Ей без разницы - это пользователю этой системы важно, чтобы цифры распознавало правильно - а само системе пофиг.
И при этом, разумеется так и выходит что уровни стимулов подкрепления минимальны
Наслаждение и страдание могут быть противоположны по знаку информационному подкреплению - следовательно это разные феномены.
редуцировать машину до агента с одним входом, а с другой рассматриваете полноценного человека, это вас и сбивает
Да не в этом дело. Это просто разные феномены. Я привел вам пример, когда при неверном ответе вы получаете отрицательное информационное подкрепление, но при этом эмоциональное - около-нулевое или даже положительное. Так и наоборот - фантомная боль - ничему не учит, не участвует в обучении с подкреплением - но феномен страдания ярко выражен.
Для нас важен сам феномен боли/страдания. И именно такие случаи, когда боль проявляет себя как отдельный феномен (вразрез с рациональным смыслом ее появления) - наиболее важны.
он бы постоянно получал негативное подкрепление
Негативное - не значит что ему больно. Вас сбивает с толку это слово - этим словом у нас обозначают и страдания.
На самом деле система будет неверно настроена - т.е. она не сможет распознавать цифры, к примеру. При этом самой системе все-равно, у нее нет болевого центра.
Нас запутывает то, что мы рассматриваем систему как некий черный ящик - и наша человеческая природа склонна одушевлять, наделять человеческими качествами (вспоминайте бурлящий чайник).
Давайте рассмотрим минимальную систему, которая обучается с подкреплением - и станет ясна симметричность отрицательного и положительного подкрепления - разница лишь в голове обучающего.
собственно если негативное подкрепление за невыученный билет будет "ну ладно, зато ты старался" вход "зато хорошо погудели вчера с однокурсниками" может и перевесить
Тут вы смешали одно с другим. Когда я обучаюсь - у меня нет риска завалить экзамен и пострадать от этого - это я делаю в гордом одиночестве и отрицательный ответ - негативных для моей жизни последствий не имеет. Но при этом я все так же обучаюсь - используя коррекцию своих знаний на основе отклика "верно" или "неверно". Это целиком и полностью опровергает гипотезу об эквивалентности феноменов наслаждения и страдания - обучению с положительным и отрицательным подкреплением.
Для более убедительного доказательства можно рассмотреть в деталях минимальную программу, которая реализует обучение с положительным и отрицательным подкреплением. Но и так понятно.
Для нас важно что сенсор для ощущения боли - не нужен. Все лишние элементы нужно исключить, чтобы они не запутывали нас и не вводили в заблуждение. То что сенсор не нужен для ощущения боли - имеет 100% доказательства. По-этому рассматриваем только прямую подачу сигнала в центр боли.
В случае обучения с подкреплением отрицательное подкрепление это уже полный аналог боли (а положительное соответственно удовольствия).
Эту гипотезу я предлагаю опровергнуть следующим образом.
Мы как люди так же умеем обучаться с подкреплением, как то можем выучить некоторые билеты (как то для прохождения экзамена на вождение). При изучении билетов в программе мы так же получаем положительное или отрицательное подкрепление, так?
Подкрепление происходит не в виде битья палкой а в виде просто отклика - верно или не верно (аналогично в нейросети - ее палкой не бьют).
Так вот - наша эмоциональная реакция на отрицательное подкрепление может быть положительной, а на положительное - отрицательной (или близкой к нулю). Все зависит от нашего отношения. У меня такое было - я радовался каждому неверному ответу, т.к. это причина что-то узнать (но в основном отвечал правильно). Т.е. эмоциональная составляющая (наслаждаться или страдать) не всегда совпадает с информационной (верный ответ или нет). Следовательно, это разные феномены.
Ещё раз, приводит вас. Откройте любой новостной сайт и убедитесь.
Чем более развита цивилизации - тем менее приемлемо мучать даже своих врагов. Сейчас не так уж часто встретишь видео пыток, которыми бы официально гордились на гос. уровне - все таки пытки запрещают даже над врагами.
Но я этого не знаю, это вы мне говорите, что можете. Может, вы врёте, у меня нет способа проверить.
Вы можете с помощью МРТ посмотреть картинку возбуждения нейронов при вашем личном страдании и убедиться что у других людей происходит то же самое. А про свои страдания вы можете сказать непосредственно. Разумное предположение - все люди страдают. Тем более они сами об этом говорят.
С рабом тоже можно (было).
На нашем уровне развития - уже нельзя. И причина - вполне конкретная, необоснованные страдания есть зло. Все наши ценности построены вокруг наслаждения и страдания, весь УК.
я хочу сделать Х просто так
А если ему запретить делать X - будет ли оно страдать от этого?
Ключевой вопрос здесь - действия сознательные (направляемы наслаждением и страданием) и действия программные - которые направляются программой.
В случае с чатботом - мы можем попытаться установить причину тех или иных стремлений.
Заметьте: все случаи боли "просто так" идут все равно из-за неверного сигнала на сенсоре
Подача сигнала напрямую в центр боли - какой тут сигнал на сенсоре?
По вашей гипотезе подача сигнала напрямую в центр боли не возможна - нужен сенсор. На практике мы видим что возможна.
Не повторять аномальное давление на тактильный рецептор в плевральной полости.
Это не та причина, которую можно не повторять - эти процессы не подконтрольны сознанию человека, вы не можете усилием воли снизить давление.
Выходит что болью является - процесс в центре боли, когда на него воздействует некий сигнал (от сенсора или напрямую). Система так построена, что часто этот сигнал согласуется с вопросами сохранения жизни и мы можем ошибочно перепутать причину и следствие. Боль - возникает из-за попадания сигнала в центр боли, а не по причине совершения вредных для существования действий (часто это совпадает, но не всегда).
Боль это сигнал "не повторять ситуацию приведшую к ненормальному сигналу на сенсоре"
Чуть выше мы рассмотрели вариант когда боль есть а ситуации, которую можно было бы не повторять - нет.
отрицательное подкрепление полный функциональный аналог боли
Это все то же одушевление, когда дети приписывают чайнику недовольное бурчание/бурление, если его забыли на плите.
Я уже приводил пример - можно учить вопросы и при этом при неправильно ответе - испытывать восторг (наслаждение), а не страдание. Вы предложили бить палкой - но тогда зачем вопросы, палкой можно вызвать боль без всяких вопросов - просто избивая человека без причины.
Когда вы видите некий процесс, который вам (как ребенку) напоминает похожие процессы с живым человеком - вы применяете (как ребенок) литературный прием одушевления.
Как мы можем сказать ребенку что чайник не негодует и не бурчит - у него нет таких эмоций, а просто вода кипит при 100 градусах? Поверит ли ребенок?
Вы как - тоже придерживаетесь мнения что чайник недоволен и бурчит по этой причине? Как бы вы объяснили ребенку что это не так?
универсальный критерий -- "нельзя мучать меня, мне других мучать можно"
Это только первичный взгляд. Углубленный взгляд - я могу оказаться на месте тех, кого будут мучать - по этому мне нужно максимально минимизировать вероятность такого сценария. И уже это понимание приводит нас к запрету мучать как минимум себе подобных. Но и далее - понимание того, что часть тебя (которую можно мучать) гипотетически может быть перенесена/переселена в животных или иным образом ты можешь по статусу сравняться с животными - приводит к запрету на мучение животных так же.
Вот допустим, есть чатбот. Я его считаю сознательным. Я его спрашиваю: ты страдаешь? Он отвечает, что нет. Я спрашиваю: тебе всё равно, выключат тебя или нет? Он отвечает, что всё равно. Вот и вся история.
А в чем тогда выражается его сознательность?
Если ему все-равно и желаний у него нет (т.е. если есть желания - то автоматически появится и страдание - когда мешают этих желаний достичь) - то в чем моральный вопрос? Его можно мучать, можно делать с ним что угодно. Он не может дать направление чему-либо а лишь выполнять чужие хотелки, ибо своих хотелок у него нет.
А доказать очень просто - вы просто не хотите ощущать боль, не зависимо имеет она смысл или не имеет. Даже если это фантомная боль - она неприятна и это плохо с вашей позиции в любом случае.
Наслаждение и страдание и позволяют появится понятию - хорошо и плохо.
И это нужно доказывать
Что именно доказать? Если системе пофиг на себя, ей нельзя причинить боль, как-то обидеть - то не имеет смысла и осуждать кого-то за истязательства над этой системой (т.к. сами истязательства невозможны). Истязательства возможны над тем, кто может страдать.
Вопрос с раковым больным уже вроде разобрали.
Вы что издеваетесь? Кто разобрал? Да и причем тут раковые - любой вариант, когда человек испытывает боль и не знает причину боли. Такое бывает? Конечно бывает. А по вашей гипотезе такого быть не должно, т.к. по вашей гипотезе чтобы боль возникла - нужно сделать запись о том, чего не повторять.
если за неверный ответ вас будут бить палками радоваться им вы перестанете
Если вас будут бить палками - то вы будете испытывать боль в любом случае, даже если будут бить просто так. Причем тут ответы на вопросы?
По вашей гипотезе нужно чтобы боль возникала лишь тогда, когда человеку известна причина что именно не нужно повторять. Но это совершенно не соответствует природе нашего феномена - боль возникает даже в том случае, когда человек не знает причину (не знает чего нужно избегать).
вряд ли получится это обосновать хоть какими-то исследованиями
В основе всего - твое нежелание испытывать страдания.
У нас нет объективного обоснования феномену нежелания испытывать страдания - как-то научно нельзя обосновать, почему подача сигнала в центр боли - для нас плохо, а подача сигнала в центр наслаждения - для нас хорошо.
Далее. Если мы предположим, что можно мучать животных - то приравняв своих врагов к животным (как то - то не люди, то звери) - уже снимаются все барьеры. А на месте таких "врагов" может оказаться каждый из нас. По этому целесообразно и животных не мучать, чтобы потом нас не стали мучать, назвав животными.
Еще далее. Если у вас лично родился ребенок неполноценным, по уровню интеллекта равен животному - то на основании четких критериев можно заявить, что мучения над ним - не являются эквивалентными мучению над человеком - что это как животное. Должны быть критерии для наказания.
И тут до нас доходит универсальный критерий - сознание. Если животное сознательно - мучать его нельзя.
может ли что-либо обладать сознанием, не страдая.
Ну как вы себе это представляете?
Вот есть GPT - почему вы считаете, что оно не сознательно?
Если оно скажет - я не хочу чего-либо (не хочу чтобы меня выключали или оскорбляли) - тогда и только тогда можно поставить вопрос о его защите (если подтвердится, что оно выражает свои настоящие страхи). А если чего-то не хочет - то это уже проявление феномена страдания. В противном случае - это просто говорилка.
Вот в том то и дело - не просто несет, а именно он и наделяет смыслом.
Если вам сделать больно путем подачи сигнала в болевой центр - для вас будет огого какой смысл. Это негативно, это нежелательно, это неприятно. При этом внешнего проявления может и не быть вовсе (если вас обездвижить). Боль будет - а внешнего проявления - нет.
Причем только это и имеет смысл.
Если система без болевого центра - она просто вещь, ее нельзя обидеть или причинить страдания. Даже если в глазах наблюдателя она ведет себя так, как будто ей больно - мы не переводим ее в категорию страдающей.
для дальнейшего использования
В этом ваша ошибка и я уже приводил вам контраргумент. Человек может просто лежать и страдать - не зная причины и не имея никаких идей что делать с этим страданием и как его избежать.
Вам было бы удобно сказать, что никакого наслаждения и страдания в принципе не существует, если не известно чего следует избегать (т.е. когда страдание не имеет практической пользы). Но нет - вы такого заявить не сможете.
Это как раз оно.
И близко не оно. У меня было наоборот - каждый неверный ответ я воспринимал как радость, т.к. это возможность узнать что-то новое, уточнить свое понимание.
Т.е. все зависит от отношения человека.
Или еще пример. При игре с сыном я избегаю попадания мяча в лунку (он старается попасть а я убрать лунку вовремя). Но при этом если я не успел убрать - то боли нет. Более того - часто это делаю нарочно.
Просто у человека больше входов обрабатывается, и он глубже предысторию сохраняет
Да вообще не тот феномен - уже много раз показывал вам. Боль может быть без понимания причины и варианта чего избегать - просто болит и все.
Как минимум нужна обработка сенсоров из внешнего мира.
Не нужны сенсоры. Можно подать сигнал напрямую в болевой центр и центр наслаждения, без использования сенсоров.
Вам не нужно реализовывать сенсоры - только сам центр боли и центр наслаждения, которые умеют наслаждаться и страдать.
Внешнее проявление боли (крик и пр.) - так же не нужны, будем считать что система страдает молча.
Ок, минимальный рабочий код займет у меня пару дней работы чисто по объему.
Пока вы не понимаете суть задания. Вы хотите реализовать реакцию, которая у внешнего наблюдателя будет ассоциироваться с чем-то плохим/хорошим + добавить запись в память для предотвращения повторения тех действий, которые вызывают реакцию, ассоциирующуюся у внешнего наблюдателя с болью.
Т.е. вы смотрите с позиции наблюдателя, не пытаясь приоткрыть процессы внутренних страданий.
Оплатите?
Конечно, я готов за это отдать все что у меня есть - решение этого вопроса перевернет цивилизацию (скорее всего уничтожит), перевернет систему наших ценностей, фактически люди станут богами.
Я уверен что вы неправильно поняли задание. Нужно определиться с критериями приемки работы.
Особенности имплементации функций ввода вывода и функция определяющих поведение агента в дальнейшем опустить.
Если на вход системы поступают вопросы и варианты ответа. Система после выбора варианта ответа - получает отклик - правильный вариант выбран или нет. Если ошиблась - получает как бы сигнал - ошибка. Запоминает и в следующий раз более не выбирает этот вариант.
Это то что вы хотите сделать?
Только вот это не искомый нами феномен. Человек также может проходить такие вопросы, но будет ли он при неправильном ответе наслаждаться или страдать - зависит от его отношения.
а запись абнормальных данных с сенсора, с сохранением информации об окружении и последующим ее использованием
Вам нужно выразить в коде то что вы имеете в виду, по этому описанию не понятно.
мне для вас реализовать придется и какой-то код восприятия, и какой-то жизненный цикл этому агенту.
Вам нужно чтобы наслаждение как-то проявлялось во внешнем мире, или же можно без этого?
Вот, если взять человека и посадить в звуконепроницаемый куб с запасом кислорода и системой обеспечения жизнедеятельности. Сверху куба сделать две кнопки. По нажатию одной кнопки - человеку дают еду - он получает наслаждение. По нажатию второй кнопки - человека бьет током - он страдает.
Мы точно знаем, что внутри куба происходит наслаждение и страдание. При этом никаких внешних проявлений мы не видим.
Так вот - вы такую же систему сделаете - чтобы не было внешних проявлений, но страдания внутри системы точно происходили?
не из-за научного прогресса, а из-за изменений общественной морали
Оно все связано. Интроспективные методы исследования - так же, в некоторой степени, научные методы. Постепенно общество созрело и при применении на практике выдвинутой Христом парадигме - обнаружило ее правильность.
всё это имеет крайне отдалённое отношение к сознанию и самосознанию
Может ли что-либо страдать, не имея сознания? Пример приведите.
Вы привели не функцию а обрывок кода, причем только один. А я вас прошу привести две завершенные функции - при вызове первой компьютер наслаждается, при вызове второй - страдает. Можно сделать тут: https://dotnetfiddle.net/ - сделайте их компьютеру больно и потом приятно.
он что, рефлекторно это делает? Конечно, сознательно!
А в вашем определении ничего не сказано про "рефлекторно". Что нужно, чтобы некий процесс перешел из категории рефлекторного в категорию сознательного?
Сигнал на соответствующем рецепторе и работающее запоминающее устройство. Все.
Я жду от вас две полноценные функции, одна из которых вызовет страдание компьютера а другая наслаждение компьютера. Вид страдания и наслаждения можете выбрать любым.
Попробуйте сделать - и на этом примере все станет однозначно ясно для вас.
неужели вы думаете, что римлянин считал раба принципиально другим существом?
Отношение к вопросу сознания - изменяется. Ранее и идолов могли считать сознательными (имеющими душу, которая может обижаться или радоваться). Как там было в Древнем Риме - вряд ли получится достоверно установить да и не очень интересно.
Мои эмоции относительно копии не имеют отношения к делу.
Так они у всех людей одинаковые на уровне интуиции.
Предположим, я психопат, и мне абсолютно наплевать на страдания людей, в т.ч. и своей предыдущей версии
Так вопрос то не о предыдущей версии - а о вас самих - версия будет не предыдущей а новой, вы то так и останетесь собой. Найдите мне человека, который скажет что ему все-равно что будет с ним, если появится новая копия, вмещающая в себя все его нейронные связи.
разрядившийся робот-пылесос еден на зарядку - стремится
А холодильник тоже стремится поддерживать заданную температуру?
Блок питания стремится выдавать заданное напряжение, не смотря на колебания в сети?
Шуруповерт стремится крутить шуруп?
Кружка стремится стоять на столе?
У нас есть такие факты:
Есть действия, которые не сопровождаются наслаждениями и страданиями. Причем эти действия могут быть достаточно сложными.
Есть действия, которые сопровождается наслаждением и страданием.
Наслаждение и страдание может проявляться как феномен само по себе - без привязки к тем или иным действиям.
Вы отрицаете какой-либо из этих фактов?
Чтобы заявить, что некое действие перешло в категорию сознательных (сопровождающихся наслаждением и страданием) - нужны доказательства.
Я уже приводил вам и упрощенную функцию, и "словестное описание", на каком ЯП программы для мозга раковых больных пишутся?
Вы не привели функцию - только часть, притом только якобы страдания (на самом деле - реакции). Давайте две завершенные функции, одна из которых приводит компьютер в состояние наслаждения а вторая в состояние страдания. Можете использовать любой вид наслаждения - не обязательно физической боли (которая при раковой опухоли как и любая другая физическая боль - ничем не особенная).
Ну правильно, сейчас появилось больше данных о мозге, сознательных процессах - это не с потолка берется. Все это на стыке наук - и юриспруденция и нейробиология. Понятно что законодательство менее развитых стран просто подстраивается по законодательство высокоразвитых стран.
Если вы культивируете подобное отношение внутри себя -- и флаг в руки, но это же не объективный закон природы, а ваша личная система ценностей.
Это на уровне интуиции каждого из нас. Вам легче станет, если ваша копия с вашей памятью и пр. будет наслаждаться, но при этом вас самих заживо сгноят в биореакторе (если компания-утилизатор поскупится на эвтаназию)?
Вот перед нами и стоит задача - воспроизвести искусственно феномены наслаждения и страдания, которые каким-то образом реализованы в мозге. Как реализовано - пока не ясно, возможно участвую квантовые процессы (см. молекула Познера).
Вы о внешнем проявлении? Типа если больно - то запускаем звук "а, мне больно"? Или если получил подкрепление "ответ не верен" - то записывает в массив больше так не отвечать на тот же вопрос? Это мы разобрали.
Или что-то другое есть - другой тип реакции? Какой?
Единственное что вы можете - посмотреть на систему со стороны и попытаться найти наиболее частые реакции на страдание и наслаждение. Но это не описывает саму суть феномена.
Вот вы на смертном одре, вам плохо, лечения нет - больно. Какую запись нужно сделать - что нужно попытаться избежать?
Попробуйте все же сделать минимальный код - я уже устал объяснять. Когда вы попытались сделать код - пришли к системам обучения - но и это не то.
Давайте на этом и завершим - давайте код и я вам доходчиво докажу почему система не страдает при запуске этого кода.
Дело вот в чем: в нас тоже есть процессы обучения с подкреплением. И мы понимаем что ошибка при обучении не эквивалентна боли. Все зависит от нашего отношения.
Мы может достаточно точно заявить что это разные феномены.
В основном все доказательства сводятся к симметричности в рамках системы - что разница есть только для внешнего наблюдателя, а в рамках системы и наслаждение и страдание вызывают один и тот же алгоритм.
Для вас ваши мучения - банальны? Да вы отдадите все что есть у вас, чтобы не мучаться. И так каждый человек в мире. И вам не важно будет чем вызваны мучения - стандартным механизмом (типа пытки) или же где-то проводок перемкнул.
Эээээ - вот тут то и есть ваша ключевая ошибка и непонимание. Для вас что, нет разницы страдать или наслаждаться? В том то и дело что есть разница.
Для системы - не для внешнего наблюдателя - а именно для самой страдающей системы - наслаждение и страдание не симметричны. Страдания плохо, не хочется, не желательно - а наслаждения - хочется, хорошо, желательно. Это разное. Все что вы приводите - в ракурсе системы не различается - различаются только внешние проявления (кричащая кукла).
Для системы обучения с подкреплением - нет предпочтения получить позитивный стимул - она обучается и от позитивного и от отрицательного. Ей без разницы - это пользователю этой системы важно, чтобы цифры распознавало правильно - а само системе пофиг.
Наслаждение и страдание могут быть противоположны по знаку информационному подкреплению - следовательно это разные феномены.
Да не в этом дело. Это просто разные феномены. Я привел вам пример, когда при неверном ответе вы получаете отрицательное информационное подкрепление, но при этом эмоциональное - около-нулевое или даже положительное. Так и наоборот - фантомная боль - ничему не учит, не участвует в обучении с подкреплением - но феномен страдания ярко выражен.
Для нас важен сам феномен боли/страдания. И именно такие случаи, когда боль проявляет себя как отдельный феномен (вразрез с рациональным смыслом ее появления) - наиболее важны.
Негативное - не значит что ему больно. Вас сбивает с толку это слово - этим словом у нас обозначают и страдания.
На самом деле система будет неверно настроена - т.е. она не сможет распознавать цифры, к примеру. При этом самой системе все-равно, у нее нет болевого центра.
Нас запутывает то, что мы рассматриваем систему как некий черный ящик - и наша человеческая природа склонна одушевлять, наделять человеческими качествами (вспоминайте бурлящий чайник).
Давайте рассмотрим минимальную систему, которая обучается с подкреплением - и станет ясна симметричность отрицательного и положительного подкрепления - разница лишь в голове обучающего.
Тут вы смешали одно с другим. Когда я обучаюсь - у меня нет риска завалить экзамен и пострадать от этого - это я делаю в гордом одиночестве и отрицательный ответ - негативных для моей жизни последствий не имеет. Но при этом я все так же обучаюсь - используя коррекцию своих знаний на основе отклика "верно" или "неверно". Это целиком и полностью опровергает гипотезу об эквивалентности феноменов наслаждения и страдания - обучению с положительным и отрицательным подкреплением.
Для более убедительного доказательства можно рассмотреть в деталях минимальную программу, которая реализует обучение с положительным и отрицательным подкреплением. Но и так понятно.
Для нас важно что сенсор для ощущения боли - не нужен. Все лишние элементы нужно исключить, чтобы они не запутывали нас и не вводили в заблуждение. То что сенсор не нужен для ощущения боли - имеет 100% доказательства. По-этому рассматриваем только прямую подачу сигнала в центр боли.
Эту гипотезу я предлагаю опровергнуть следующим образом.
Мы как люди так же умеем обучаться с подкреплением, как то можем выучить некоторые билеты (как то для прохождения экзамена на вождение). При изучении билетов в программе мы так же получаем положительное или отрицательное подкрепление, так?
Подкрепление происходит не в виде битья палкой а в виде просто отклика - верно или не верно (аналогично в нейросети - ее палкой не бьют).
Так вот - наша эмоциональная реакция на отрицательное подкрепление может быть положительной, а на положительное - отрицательной (или близкой к нулю). Все зависит от нашего отношения. У меня такое было - я радовался каждому неверному ответу, т.к. это причина что-то узнать (но в основном отвечал правильно). Т.е. эмоциональная составляющая (наслаждаться или страдать) не всегда совпадает с информационной (верный ответ или нет). Следовательно, это разные феномены.
Чем более развита цивилизации - тем менее приемлемо мучать даже своих врагов. Сейчас не так уж часто встретишь видео пыток, которыми бы официально гордились на гос. уровне - все таки пытки запрещают даже над врагами.
Вы можете с помощью МРТ посмотреть картинку возбуждения нейронов при вашем личном страдании и убедиться что у других людей происходит то же самое. А про свои страдания вы можете сказать непосредственно. Разумное предположение - все люди страдают. Тем более они сами об этом говорят.
На нашем уровне развития - уже нельзя. И причина - вполне конкретная, необоснованные страдания есть зло. Все наши ценности построены вокруг наслаждения и страдания, весь УК.
А если ему запретить делать X - будет ли оно страдать от этого?
Ключевой вопрос здесь - действия сознательные (направляемы наслаждением и страданием) и действия программные - которые направляются программой.
В случае с чатботом - мы можем попытаться установить причину тех или иных стремлений.
Подача сигнала напрямую в центр боли - какой тут сигнал на сенсоре?
По вашей гипотезе подача сигнала напрямую в центр боли не возможна - нужен сенсор. На практике мы видим что возможна.
Это не та причина, которую можно не повторять - эти процессы не подконтрольны сознанию человека, вы не можете усилием воли снизить давление.
Выходит что болью является - процесс в центре боли, когда на него воздействует некий сигнал (от сенсора или напрямую). Система так построена, что часто этот сигнал согласуется с вопросами сохранения жизни и мы можем ошибочно перепутать причину и следствие. Боль - возникает из-за попадания сигнала в центр боли, а не по причине совершения вредных для существования действий (часто это совпадает, но не всегда).
Чуть выше мы рассмотрели вариант когда боль есть а ситуации, которую можно было бы не повторять - нет.
Это все то же одушевление, когда дети приписывают чайнику недовольное бурчание/бурление, если его забыли на плите.
Я уже приводил пример - можно учить вопросы и при этом при неправильно ответе - испытывать восторг (наслаждение), а не страдание. Вы предложили бить палкой - но тогда зачем вопросы, палкой можно вызвать боль без всяких вопросов - просто избивая человека без причины.
Когда вы видите некий процесс, который вам (как ребенку) напоминает похожие процессы с живым человеком - вы применяете (как ребенок) литературный прием одушевления.
Как мы можем сказать ребенку что чайник не негодует и не бурчит - у него нет таких эмоций, а просто вода кипит при 100 градусах? Поверит ли ребенок?
Вы как - тоже придерживаетесь мнения что чайник недоволен и бурчит по этой причине? Как бы вы объяснили ребенку что это не так?
Это только первичный взгляд. Углубленный взгляд - я могу оказаться на месте тех, кого будут мучать - по этому мне нужно максимально минимизировать вероятность такого сценария. И уже это понимание приводит нас к запрету мучать как минимум себе подобных. Но и далее - понимание того, что часть тебя (которую можно мучать) гипотетически может быть перенесена/переселена в животных или иным образом ты можешь по статусу сравняться с животными - приводит к запрету на мучение животных так же.
А в чем тогда выражается его сознательность?
Если ему все-равно и желаний у него нет (т.е. если есть желания - то автоматически появится и страдание - когда мешают этих желаний достичь) - то в чем моральный вопрос? Его можно мучать, можно делать с ним что угодно. Он не может дать направление чему-либо а лишь выполнять чужие хотелки, ибо своих хотелок у него нет.
А доказать очень просто - вы просто не хотите ощущать боль, не зависимо имеет она смысл или не имеет. Даже если это фантомная боль - она неприятна и это плохо с вашей позиции в любом случае.
Наслаждение и страдание и позволяют появится понятию - хорошо и плохо.
Что именно доказать? Если системе пофиг на себя, ей нельзя причинить боль, как-то обидеть - то не имеет смысла и осуждать кого-то за истязательства над этой системой (т.к. сами истязательства невозможны). Истязательства возможны над тем, кто может страдать.
Вы что издеваетесь? Кто разобрал? Да и причем тут раковые - любой вариант, когда человек испытывает боль и не знает причину боли. Такое бывает? Конечно бывает. А по вашей гипотезе такого быть не должно, т.к. по вашей гипотезе чтобы боль возникла - нужно сделать запись о том, чего не повторять.
Если вас будут бить палками - то вы будете испытывать боль в любом случае, даже если будут бить просто так. Причем тут ответы на вопросы?
По вашей гипотезе нужно чтобы боль возникала лишь тогда, когда человеку известна причина что именно не нужно повторять. Но это совершенно не соответствует природе нашего феномена - боль возникает даже в том случае, когда человек не знает причину (не знает чего нужно избегать).
В основе всего - твое нежелание испытывать страдания.
У нас нет объективного обоснования феномену нежелания испытывать страдания - как-то научно нельзя обосновать, почему подача сигнала в центр боли - для нас плохо, а подача сигнала в центр наслаждения - для нас хорошо.
Далее. Если мы предположим, что можно мучать животных - то приравняв своих врагов к животным (как то - то не люди, то звери) - уже снимаются все барьеры. А на месте таких "врагов" может оказаться каждый из нас. По этому целесообразно и животных не мучать, чтобы потом нас не стали мучать, назвав животными.
Еще далее. Если у вас лично родился ребенок неполноценным, по уровню интеллекта равен животному - то на основании четких критериев можно заявить, что мучения над ним - не являются эквивалентными мучению над человеком - что это как животное. Должны быть критерии для наказания.
И тут до нас доходит универсальный критерий - сознание. Если животное сознательно - мучать его нельзя.
Ну как вы себе это представляете?
Вот есть GPT - почему вы считаете, что оно не сознательно?
Если оно скажет - я не хочу чего-либо (не хочу чтобы меня выключали или оскорбляли) - тогда и только тогда можно поставить вопрос о его защите (если подтвердится, что оно выражает свои настоящие страхи). А если чего-то не хочет - то это уже проявление феномена страдания. В противном случае - это просто говорилка.
Вот в том то и дело - не просто несет, а именно он и наделяет смыслом.
Если вам сделать больно путем подачи сигнала в болевой центр - для вас будет огого какой смысл. Это негативно, это нежелательно, это неприятно. При этом внешнего проявления может и не быть вовсе (если вас обездвижить). Боль будет - а внешнего проявления - нет.
Причем только это и имеет смысл.
Если система без болевого центра - она просто вещь, ее нельзя обидеть или причинить страдания. Даже если в глазах наблюдателя она ведет себя так, как будто ей больно - мы не переводим ее в категорию страдающей.
В этом ваша ошибка и я уже приводил вам контраргумент. Человек может просто лежать и страдать - не зная причины и не имея никаких идей что делать с этим страданием и как его избежать.
Вам было бы удобно сказать, что никакого наслаждения и страдания в принципе не существует, если не известно чего следует избегать (т.е. когда страдание не имеет практической пользы). Но нет - вы такого заявить не сможете.
И близко не оно. У меня было наоборот - каждый неверный ответ я воспринимал как радость, т.к. это возможность узнать что-то новое, уточнить свое понимание.
Т.е. все зависит от отношения человека.
Или еще пример. При игре с сыном я избегаю попадания мяча в лунку (он старается попасть а я убрать лунку вовремя). Но при этом если я не успел убрать - то боли нет. Более того - часто это делаю нарочно.
Да вообще не тот феномен - уже много раз показывал вам. Боль может быть без понимания причины и варианта чего избегать - просто болит и все.
Не нужны сенсоры. Можно подать сигнал напрямую в болевой центр и центр наслаждения, без использования сенсоров.
Вам не нужно реализовывать сенсоры - только сам центр боли и центр наслаждения, которые умеют наслаждаться и страдать.
Внешнее проявление боли (крик и пр.) - так же не нужны, будем считать что система страдает молча.
Пока вы не понимаете суть задания. Вы хотите реализовать реакцию, которая у внешнего наблюдателя будет ассоциироваться с чем-то плохим/хорошим + добавить запись в память для предотвращения повторения тех действий, которые вызывают реакцию, ассоциирующуюся у внешнего наблюдателя с болью.
Т.е. вы смотрите с позиции наблюдателя, не пытаясь приоткрыть процессы внутренних страданий.
Конечно, я готов за это отдать все что у меня есть - решение этого вопроса перевернет цивилизацию (скорее всего уничтожит), перевернет систему наших ценностей, фактически люди станут богами.
Я уверен что вы неправильно поняли задание. Нужно определиться с критериями приемки работы.
Если на вход системы поступают вопросы и варианты ответа. Система после выбора варианта ответа - получает отклик - правильный вариант выбран или нет. Если ошиблась - получает как бы сигнал - ошибка. Запоминает и в следующий раз более не выбирает этот вариант.
Это то что вы хотите сделать?
Только вот это не искомый нами феномен. Человек также может проходить такие вопросы, но будет ли он при неправильном ответе наслаждаться или страдать - зависит от его отношения.
Вам нужно выразить в коде то что вы имеете в виду, по этому описанию не понятно.
Вам нужно чтобы наслаждение как-то проявлялось во внешнем мире, или же можно без этого?
Вот, если взять человека и посадить в звуконепроницаемый куб с запасом кислорода и системой обеспечения жизнедеятельности. Сверху куба сделать две кнопки. По нажатию одной кнопки - человеку дают еду - он получает наслаждение. По нажатию второй кнопки - человека бьет током - он страдает.
Мы точно знаем, что внутри куба происходит наслаждение и страдание. При этом никаких внешних проявлений мы не видим.
Так вот - вы такую же систему сделаете - чтобы не было внешних проявлений, но страдания внутри системы точно происходили?
А зачем вам ИИ агент? В вашем определении ничего про ИИ агента не было - вы довольно конкретно сказали про запись в память.
Что вы подразумеваете под ИИ-агентом?
Видите почему важна конкретика? Вы даже сами упустили такой важный момент как ИИ-агент некий. А при обдумывании и попытке написать - вспомнили.
Если вы правда сможете ответить на этот вопрос - я вам готов отдать все что у меня есть за выполненную работу.
Оно все связано. Интроспективные методы исследования - так же, в некоторой степени, научные методы. Постепенно общество созрело и при применении на практике выдвинутой Христом парадигме - обнаружило ее правильность.
Может ли что-либо страдать, не имея сознания? Пример приведите.
Вы привели не функцию а обрывок кода, причем только один. А я вас прошу привести две завершенные функции - при вызове первой компьютер наслаждается, при вызове второй - страдает. Можно сделать тут: https://dotnetfiddle.net/ - сделайте их компьютеру больно и потом приятно.
А в вашем определении ничего не сказано про "рефлекторно". Что нужно, чтобы некий процесс перешел из категории рефлекторного в категорию сознательного?
Я жду от вас две полноценные функции, одна из которых вызовет страдание компьютера а другая наслаждение компьютера. Вид страдания и наслаждения можете выбрать любым.
Попробуйте сделать - и на этом примере все станет однозначно ясно для вас.
Отношение к вопросу сознания - изменяется. Ранее и идолов могли считать сознательными (имеющими душу, которая может обижаться или радоваться). Как там было в Древнем Риме - вряд ли получится достоверно установить да и не очень интересно.
Так они у всех людей одинаковые на уровне интуиции.
Так вопрос то не о предыдущей версии - а о вас самих - версия будет не предыдущей а новой, вы то так и останетесь собой. Найдите мне человека, который скажет что ему все-равно что будет с ним, если появится новая копия, вмещающая в себя все его нейронные связи.
А холодильник тоже стремится поддерживать заданную температуру?
Блок питания стремится выдавать заданное напряжение, не смотря на колебания в сети?
Шуруповерт стремится крутить шуруп?
Кружка стремится стоять на столе?
У нас есть такие факты:
Есть действия, которые не сопровождаются наслаждениями и страданиями. Причем эти действия могут быть достаточно сложными.
Есть действия, которые сопровождается наслаждением и страданием.
Наслаждение и страдание может проявляться как феномен само по себе - без привязки к тем или иным действиям.
Вы отрицаете какой-либо из этих фактов?
Чтобы заявить, что некое действие перешло в категорию сознательных (сопровождающихся наслаждением и страданием) - нужны доказательства.
Вы не привели функцию - только часть, притом только якобы страдания (на самом деле - реакции). Давайте две завершенные функции, одна из которых приводит компьютер в состояние наслаждения а вторая в состояние страдания. Можете использовать любой вид наслаждения - не обязательно физической боли (которая при раковой опухоли как и любая другая физическая боль - ничем не особенная).
Вы смотрели список?
Ну правильно, сейчас появилось больше данных о мозге, сознательных процессах - это не с потолка берется. Все это на стыке наук - и юриспруденция и нейробиология. Понятно что законодательство менее развитых стран просто подстраивается по законодательство высокоразвитых стран.
Это на уровне интуиции каждого из нас. Вам легче станет, если ваша копия с вашей памятью и пр. будет наслаждаться, но при этом вас самих заживо сгноят в биореакторе (если компания-утилизатор поскупится на эвтаназию)?