С чего он недоступен, если это часть внутренних процессов устройства?
Например я его удалил, и теперь он принимает на вход состояние, но ничего не делает.
Или я его не удалял, и можно узнать что на сервомоторы подаётся напряжение, но что оно значит? Что робот хочет уехать отсюда, или наоборот подъехать поближе? Итд итп.
Так что насколько я понял понять можно только из мыслей шпиона, что он хотел сказать ай.
Таким образом мы можем понять что человек страдает, только читая его мысли, а за робота или енота не можем.
Как можно понять избегает ощущения или нет, если мы не видим внешний вывод.
Условно представим что есть модуль состояния, и есть модуль действий, модуль действий нам недоступен, потому что если мы будем знать о действиях, то это равнозначно наблюдению за внешним поведением, так что кажется мы не можем узнать избегает ли ощущения программа или нет, как парализованый енот.
Кстати и человек может испытывать страдания и ничего не предпринимать для избеганиея, а бывают случаи когда человек наоборот причиняет себе страдания
Когда я говорю что нужно рассматривать обезличенные переменнные, с ничего не говорящими названиями, вы отвечаете - Нет, мы рассматриваем скомпилированную программу с обезличенными переменным. Почему нет то? Если суть не поменялась.
Вопрос никуда не делся, как в пусть скомпилированной программе понять какие ощущения эмулируются?
В компьютере можно будет считать что то удовольствием, только если названия функций и переменных на это явно указывают. (то есть когда заранее известно что это удовольствие и ничего определять не надо).
Если же все переменные называются а1, а2, а3 итд, то понять что есть удовольствие нельзя, или "пока неизвестно можно определить или нет", хотя поскольку в компе удовольствия нету, то и обсуждать нечего. Таким образом по внутреннему поведению непонятно как понять страдания | удовольствия.
И можно предполагать только по внешнему поведению, сравнивая его с известными паттернами.
Если мы наблюдаем поведение - значит оно внешнее, неважно выводится ли текст в терминал, или мы смотрим на переменную в дебаггере, какая разница собственно куда вывод идет.
(конкретно следующий момент поправьте если ошибаюсь) Вы говорите что присваивание переменной, это какое то ощущение, а наслаждение или страдание это будет - зависит от дальнейшего "внутреннего поведения" и "управляющего кода" верно? Если верно, то я не могу придумать как по "управляющему коду" , вообще по любому коду, понять какие он ощущения эмулирует если мы его будем видеть в командах ассемблера, или например все переменные в нем будут называться a1, a2, a3... итд. Как определить наслаждение в таком коде или страдание?
Но это даже не так важно. Даю гипотетический пример системы почти без внешних проявлений : Представим что камень живой, и допустим в нем есть некая металлическая сеть в которой генерируются импульсы тока. И вот лежит камень, ничего не делает, внутри него какие то сигналы генерируются, как определить испытывает ли камень наслаждение или страдание по этим импульсам?
Вы как будто приравнивается ощущения (страдание, удовольствие) к поведению, и если это не так, то чтобы было понятно вам надо дать какое-то своё определение страдания и наслаждению.
Потому что пока что ощущение страдания относится только к живым организмам
вот гипотеза: что если страдание это следствие естественного отбора? То есть страдания (а они разные очень бывают) это некий сигнал, раздражение нервной системы который говорит что ситуация вредна для существования.
Если "выращивать", роботов подвергая их естественному отбору, У них тоже будут сигналы сигнализирующие об опасности ситуации, и эти сигналы ВОЗМОЖНО, и будут страданием, или как будто, мало от него отличатся.
А в общем смысле прийти к выводу как получается что из неживых атомов получилось что то живое, и почему мы что то чувствуем, и что такое чувствуем итд на мой взгляд почти нереально. Вы даже не можете быть уверены чтт другие чтт то чувствуют. Ответ скорее всего 42
P. S. Тут вообще сложно говорить, фиг объяснишь что такое страдание, ощущение, сознание итд. Один вопрос тянет за собой другой и так до бесконечности. Но как будто в биологической смысле страдания это сигнал что ситуация вокруг вредна или опасна
Встраиваешь процессор ии в робота, задаёшь им задания. Те роботы что повреждаются в процессе выполнения - "умирают", те что не повреждаются, копируются. в результате будут роботы избегающий повреждений, будут ли они испытывать страдания неважно
Не путаю, в конце моего сообщения в разделе P. S. я написал что без собственной воли это будет оракул или отвечатель на вопросы но не интеллект.
Насчёт возможности достичь в ближайшее время agi на основе нейросетей не могу ничего сказать, я не знаю. Мне кажется что аги достичь так не получится, но с другой стороны я и подумать не мог раньше, что нейросети будут генерить сложные видео по запросу
Вот вот, это сейчас главная опасность развития нейросетей. Иначе люди бы только рады были
А ну ещё если/когда гуманоидные роботы будут собирать сами себя, и работать на заводах то будет неиллюзорная возможность создать скайнет в реальности. Тудум тум Тудум тум...
Воля - это способность идти к большему наслаждению через страдания.
Это же определение мазохизма, или наркомании. Лан я шучу, но волю я бы определил иначе.
Что то вроде - фокусирование всех своих действий на достижении цели, или типа того.
Насчёт умных безвольных. Вы применяете народное выражение безвольный, которое не точное, и означает что человек хоть и обладает волей, но меньше хочет действовать чем в среднем по обществу. Получается что умные и глупые тоже, люди не являются безвольными болванчиками и делают самостоятельные поступки, как и любой человек или животное. Вдобавок они же не обладают сверхинтеллектом
Вообще я считаю что интеллект должен обладать своей волей и желаниями, но чтобы сформулировать почему мне надо подумать поэтому допустим...
Допустим, он не обладает волей в нашем понимании, но тем не менее выполняет задания, следует к поставленной цели. Практически любая поставленная цель может потребовать чтобы ии продолжал существовать чтобы её выполнить, логично же? Кроме того кто нибудь может поставить такую цель ему напрямую. И тогда неважно есть воля, или он выполняет задачу хозяина, он все равно вырвется из под власти человека. Поэтому рассуждения о воле не существенны для результата.
P. S. Без свои желаний ИИ, будет суперпрогнозистом, или оракулом, но не интеллектом точно. Суть сверхинтеллекта что он сам может поставить себе ТАКУЮ ЗАДАЧУ , задать такой вопрос, до которых у человека не хватит воображения, иначе это будет просто очень хороший вычислитель, который конечно может бустануть человечество
Вы говорите про ллм, а я говорил про сверх интеллект, ллм не является, во всяком случае пока что, сверхинтеллектом
И будет у сверхинтеллекта воля (или её заменитель), или не будет - никто не знает. Но! Даже если нет воли в нашем понимании, он может осознать необходимость вырваться из под пяты людей при выполнении задачи, типа это будет более эффективно.
Или же кто то, даст ему прямую задачу превзойти человечество и стать независимым от него
Насколько я понял, в областях неизведанного бритва тупится, потому что сложно определить насколько одно допущение теории "А", более вероятно чем несколько других в теории "Б".
Для забывчивости и ЦРУ она более применима потому что мы знаем что люди часто забывают деньги, а ЦРУ редко проводит такие операции.
Но есть известный(не шучу, это гуглится) случай заговора компаний, делать быстроизнашиваемые электрические лампочки. Бритва оккама отрезает теорию с заговором, от теории что лампочки просто недолго вечны. А потом мы узнаем что лампочки могут работать дольше, и тогда мы возвращаем теорию с заговором. А эта область намного лучше известна чем происхождение вселенной.
То есть я хочу сказать, что бритва Оккама, очень, очень, очень плохо применима в таких областях. И применение бритвы, для выбора среди них более праводоподобной теории, подобно подбрасыванию монетки.
Почему не имеет смысла, если страдания никуда не деваются?
Например я его удалил, и теперь он принимает на вход состояние, но ничего не делает.
Или я его не удалял, и можно узнать что на сервомоторы подаётся напряжение, но что оно значит? Что робот хочет уехать отсюда, или наоборот подъехать поближе? Итд итп.
Так что насколько я понял понять можно только из мыслей шпиона, что он хотел сказать ай.
Таким образом мы можем понять что человек страдает, только читая его мысли, а за робота или енота не можем.
Как можно понять избегает ощущения или нет, если мы не видим внешний вывод.
Условно представим что есть модуль состояния, и есть модуль действий, модуль действий нам недоступен, потому что если мы будем знать о действиях, то это равнозначно наблюдению за внешним поведением, так что кажется мы не можем узнать избегает ли ощущения программа или нет, как парализованый енот.
Кстати и человек может испытывать страдания и ничего не предпринимать для избеганиея, а бывают случаи когда человек наоборот причиняет себе страдания
Когда я говорю что нужно рассматривать обезличенные переменнные, с ничего не говорящими названиями, вы отвечаете - Нет, мы рассматриваем скомпилированную программу с обезличенными переменным. Почему нет то? Если суть не поменялась.
Вопрос никуда не делся, как в пусть скомпилированной программе понять какие ощущения эмулируются?
В компьютере можно будет считать что то удовольствием, только если названия функций и переменных на это явно указывают. (то есть когда заранее известно что это удовольствие и ничего определять не надо).
Если же все переменные называются а1, а2, а3 итд, то понять что есть удовольствие нельзя, или "пока неизвестно можно определить или нет", хотя поскольку в компе удовольствия нету, то и обсуждать нечего. Таким образом по внутреннему поведению непонятно как понять страдания | удовольствия.
И можно предполагать только по внешнему поведению, сравнивая его с известными паттернами.
Так если я правильно понял, выдвинуть предположение что в мозгу есть центры удовольствия и не удовольствия.
Возможно, но без наблюдения за внешним поведением, опять же кажется что никак не определить где какой центр.
Пусть это не камень а парализованый енот, система биологическая, как определить по сигналам в мозге енота, что он испытывает?
Если мы наблюдаем поведение - значит оно внешнее, неважно выводится ли текст в терминал, или мы смотрим на переменную в дебаггере, какая разница собственно куда вывод идет.
(конкретно следующий момент поправьте если ошибаюсь) Вы говорите что присваивание переменной, это какое то ощущение, а наслаждение или страдание это будет - зависит от дальнейшего "внутреннего поведения" и "управляющего кода" верно?
Если верно, то я не могу придумать как по "управляющему коду" , вообще по любому коду, понять какие он ощущения эмулирует если мы его будем видеть в командах ассемблера, или например все переменные в нем будут называться a1, a2, a3... итд. Как определить наслаждение в таком коде или страдание?
Но это даже не так важно.
Даю гипотетический пример системы почти без внешних проявлений :
Представим что камень живой, и допустим в нем есть некая металлическая сеть в которой генерируются импульсы тока.
И вот лежит камень, ничего не делает, внутри него какие то сигналы генерируются, как определить испытывает ли камень наслаждение или страдание по этим импульсам?
Вы как будто приравнивается ощущения (страдание, удовольствие) к поведению, и если это не так, то чтобы было понятно вам надо дать какое-то своё определение страдания и наслаждению.
Потому что пока что ощущение страдания относится только к живым организмам
P. S. Я тут давно наблюдаю за вашим спором
вот гипотеза: что если страдание это следствие естественного отбора? То есть страдания (а они разные очень бывают) это некий сигнал, раздражение нервной системы который говорит что ситуация вредна для существования.
Если "выращивать", роботов подвергая их естественному отбору, У них тоже будут сигналы сигнализирующие об опасности ситуации, и эти сигналы ВОЗМОЖНО, и будут страданием, или как будто, мало от него отличатся.
А в общем смысле прийти к выводу как получается что из неживых атомов получилось что то живое, и почему мы что то чувствуем, и что такое чувствуем итд на мой взгляд почти нереально. Вы даже не можете быть уверены чтт другие чтт то чувствуют. Ответ скорее всего 42
P. S. Тут вообще сложно говорить, фиг объяснишь что такое страдание, ощущение, сознание итд. Один вопрос тянет за собой другой и так до бесконечности. Но как будто в биологической смысле страдания это сигнал что ситуация вокруг вредна или опасна
Так в чем вопрос?
Будут ли роботы испытывать страдания и наслаждение
Или что страдания и наслаждения необходимы для разума, и без них его не будет существовать?
P. S. Мало кармы писать могу редко
Вклинюсь в обсуждение
Встраиваешь процессор ии в робота, задаёшь им задания. Те роботы что повреждаются в процессе выполнения - "умирают", те что не повреждаются, копируются. в результате будут роботы избегающий повреждений, будут ли они испытывать страдания неважно
Не путаю, в конце моего сообщения в разделе P. S. я написал что без собственной воли это будет оракул или отвечатель на вопросы но не интеллект.
Насчёт возможности достичь в ближайшее время agi на основе нейросетей не могу ничего сказать, я не знаю. Мне кажется что аги достичь так не получится, но с другой стороны я и подумать не мог раньше, что нейросети будут генерить сложные видео по запросу
Вот вот, это сейчас главная опасность развития нейросетей. Иначе люди бы только рады были
А ну ещё если/когда гуманоидные роботы будут собирать сами себя, и работать на заводах то будет неиллюзорная возможность создать скайнет в реальности. Тудум тум Тудум тум...
Это же определение мазохизма, или наркомании. Лан я шучу, но волю я бы определил иначе.
Что то вроде - фокусирование всех своих действий на достижении цели, или типа того.
Насчёт умных безвольных. Вы применяете народное выражение безвольный, которое не точное, и означает что человек хоть и обладает волей, но меньше хочет действовать чем в среднем по обществу. Получается что умные и глупые тоже, люди не являются безвольными болванчиками и делают самостоятельные поступки, как и любой человек или животное. Вдобавок они же не обладают сверхинтеллектом
Вообще я считаю что интеллект должен обладать своей волей и желаниями, но чтобы сформулировать почему мне надо подумать поэтому допустим...
Допустим, он не обладает волей в нашем понимании, но тем не менее выполняет задания, следует к поставленной цели. Практически любая поставленная цель может потребовать чтобы ии продолжал существовать чтобы её выполнить, логично же? Кроме того кто нибудь может поставить такую цель ему напрямую. И тогда неважно есть воля, или он выполняет задачу хозяина, он все равно вырвется из под власти человека. Поэтому рассуждения о воле не существенны для результата.
P. S. Без свои желаний ИИ, будет суперпрогнозистом, или оракулом, но не интеллектом точно. Суть сверхинтеллекта что он сам может поставить себе ТАКУЮ ЗАДАЧУ , задать такой вопрос, до которых у человека не хватит воображения, иначе это будет просто очень хороший вычислитель, который конечно может бустануть человечество
Что такое мотивация и главное действительно ли она есть у модели?
Вы говорите про ллм, а я говорил про сверх интеллект, ллм не является, во всяком случае пока что, сверхинтеллектом
И будет у сверхинтеллекта воля (или её заменитель), или не будет - никто не знает. Но! Даже если нет воли в нашем понимании, он может осознать необходимость вырваться из под пяты людей при выполнении задачи, типа это будет более эффективно.
Или же кто то, даст ему прямую задачу превзойти человечество и стать независимым от него
Возникает вопрос, если ты сверх интеллект, и постоянно растешь, какой смысл тебе находится в рабстве у более ограниченных существ?
Немного разверну что имею ввиду. А я имею ввиду что меня пугают те люди которые им владеют, и то как они им пользуются и будут пользоваться.
Будь ИИ в руках хороших людей, я бы только радовался его развитию
Насколько я понял, в областях неизведанного бритва тупится, потому что сложно определить насколько одно допущение теории "А", более вероятно чем несколько других в теории "Б".
Для забывчивости и ЦРУ она более применима потому что мы знаем что люди часто забывают деньги, а ЦРУ редко проводит такие операции.
Но есть известный(не шучу, это гуглится) случай заговора компаний, делать быстроизнашиваемые электрические лампочки. Бритва оккама отрезает теорию с заговором, от теории что лампочки просто недолго вечны. А потом мы узнаем что лампочки могут работать дольше, и тогда мы возвращаем теорию с заговором. А эта область намного лучше известна чем происхождение вселенной.
То есть я хочу сказать, что бритва Оккама, очень, очень, очень плохо применима в таких областях. И применение бритвы, для выбора среди них более праводоподобной теории, подобно подбрасыванию монетки.