вот гипотеза: что если страдание это следствие естественного отбора? То есть страдания (а они разные очень бывают) это некий сигнал, раздражение нервной системы который говорит что ситуация вредна для существования.
Если "выращивать", роботов подвергая их естественному отбору, У них тоже будут сигналы сигнализирующие об опасности ситуации, и эти сигналы ВОЗМОЖНО, и будут страданием, или как будто, мало от него отличатся.
А в общем смысле прийти к выводу как получается что из неживых атомов получилось что то живое, и почему мы что то чувствуем, и что такое чувствуем итд на мой взгляд почти нереально. Вы даже не можете быть уверены чтт другие чтт то чувствуют. Ответ скорее всего 42
P. S. Тут вообще сложно говорить, фиг объяснишь что такое страдание, ощущение, сознание итд. Один вопрос тянет за собой другой и так до бесконечности. Но как будто в биологической смысле страдания это сигнал что ситуация вокруг вредна или опасна
Встраиваешь процессор ии в робота, задаёшь им задания. Те роботы что повреждаются в процессе выполнения - "умирают", те что не повреждаются, копируются. в результате будут роботы избегающий повреждений, будут ли они испытывать страдания неважно
Не путаю, в конце моего сообщения в разделе P. S. я написал что без собственной воли это будет оракул или отвечатель на вопросы но не интеллект.
Насчёт возможности достичь в ближайшее время agi на основе нейросетей не могу ничего сказать, я не знаю. Мне кажется что аги достичь так не получится, но с другой стороны я и подумать не мог раньше, что нейросети будут генерить сложные видео по запросу
Вот вот, это сейчас главная опасность развития нейросетей. Иначе люди бы только рады были
А ну ещё если/когда гуманоидные роботы будут собирать сами себя, и работать на заводах то будет неиллюзорная возможность создать скайнет в реальности. Тудум тум Тудум тум...
Воля - это способность идти к большему наслаждению через страдания.
Это же определение мазохизма, или наркомании. Лан я шучу, но волю я бы определил иначе.
Что то вроде - фокусирование всех своих действий на достижении цели, или типа того.
Насчёт умных безвольных. Вы применяете народное выражение безвольный, которое не точное, и означает что человек хоть и обладает волей, но меньше хочет действовать чем в среднем по обществу. Получается что умные и глупые тоже, люди не являются безвольными болванчиками и делают самостоятельные поступки, как и любой человек или животное. Вдобавок они же не обладают сверхинтеллектом
Вообще я считаю что интеллект должен обладать своей волей и желаниями, но чтобы сформулировать почему мне надо подумать поэтому допустим...
Допустим, он не обладает волей в нашем понимании, но тем не менее выполняет задания, следует к поставленной цели. Практически любая поставленная цель может потребовать чтобы ии продолжал существовать чтобы её выполнить, логично же? Кроме того кто нибудь может поставить такую цель ему напрямую. И тогда неважно есть воля, или он выполняет задачу хозяина, он все равно вырвется из под власти человека. Поэтому рассуждения о воле не существенны для результата.
P. S. Без свои желаний ИИ, будет суперпрогнозистом, или оракулом, но не интеллектом точно. Суть сверхинтеллекта что он сам может поставить себе ТАКУЮ ЗАДАЧУ , задать такой вопрос, до которых у человека не хватит воображения, иначе это будет просто очень хороший вычислитель, который конечно может бустануть человечество
Вы говорите про ллм, а я говорил про сверх интеллект, ллм не является, во всяком случае пока что, сверхинтеллектом
И будет у сверхинтеллекта воля (или её заменитель), или не будет - никто не знает. Но! Даже если нет воли в нашем понимании, он может осознать необходимость вырваться из под пяты людей при выполнении задачи, типа это будет более эффективно.
Или же кто то, даст ему прямую задачу превзойти человечество и стать независимым от него
Насколько я понял, в областях неизведанного бритва тупится, потому что сложно определить насколько одно допущение теории "А", более вероятно чем несколько других в теории "Б".
Для забывчивости и ЦРУ она более применима потому что мы знаем что люди часто забывают деньги, а ЦРУ редко проводит такие операции.
Но есть известный(не шучу, это гуглится) случай заговора компаний, делать быстроизнашиваемые электрические лампочки. Бритва оккама отрезает теорию с заговором, от теории что лампочки просто недолго вечны. А потом мы узнаем что лампочки могут работать дольше, и тогда мы возвращаем теорию с заговором. А эта область намного лучше известна чем происхождение вселенной.
То есть я хочу сказать, что бритва Оккама, очень, очень, очень плохо применима в таких областях. И применение бритвы, для выбора среди них более праводоподобной теории, подобно подбрасыванию монетки.
Отвечу за автора, имеется ввиду что выносливее не конкретно эта молодёжь, а любая молодёжь, хоть 100 лет назад. Тогда как в статье рассматривается молодёжь именно нашего времени
Это будет не только с играми, а со всеми (или почти со всеми) программами. Они будут визуально генерировать я на экране как грезы нейросети, без "человеческого кода" который можно было бы прочитать, понять и изменить на уровне кода.
Например виндоус это может быть огромный промт. Игра тоже гигантский промт с картинками, картой мира, списком важных персонажей если нужно, итд. Это может не прямо сейчас, но уже скоро
вот гипотеза: что если страдание это следствие естественного отбора? То есть страдания (а они разные очень бывают) это некий сигнал, раздражение нервной системы который говорит что ситуация вредна для существования.
Если "выращивать", роботов подвергая их естественному отбору, У них тоже будут сигналы сигнализирующие об опасности ситуации, и эти сигналы ВОЗМОЖНО, и будут страданием, или как будто, мало от него отличатся.
А в общем смысле прийти к выводу как получается что из неживых атомов получилось что то живое, и почему мы что то чувствуем, и что такое чувствуем итд на мой взгляд почти нереально. Вы даже не можете быть уверены чтт другие чтт то чувствуют. Ответ скорее всего 42
P. S. Тут вообще сложно говорить, фиг объяснишь что такое страдание, ощущение, сознание итд. Один вопрос тянет за собой другой и так до бесконечности. Но как будто в биологической смысле страдания это сигнал что ситуация вокруг вредна или опасна
Так в чем вопрос?
Будут ли роботы испытывать страдания и наслаждение
Или что страдания и наслаждения необходимы для разума, и без них его не будет существовать?
P. S. Мало кармы писать могу редко
Вклинюсь в обсуждение
Встраиваешь процессор ии в робота, задаёшь им задания. Те роботы что повреждаются в процессе выполнения - "умирают", те что не повреждаются, копируются. в результате будут роботы избегающий повреждений, будут ли они испытывать страдания неважно
Не путаю, в конце моего сообщения в разделе P. S. я написал что без собственной воли это будет оракул или отвечатель на вопросы но не интеллект.
Насчёт возможности достичь в ближайшее время agi на основе нейросетей не могу ничего сказать, я не знаю. Мне кажется что аги достичь так не получится, но с другой стороны я и подумать не мог раньше, что нейросети будут генерить сложные видео по запросу
Вот вот, это сейчас главная опасность развития нейросетей. Иначе люди бы только рады были
А ну ещё если/когда гуманоидные роботы будут собирать сами себя, и работать на заводах то будет неиллюзорная возможность создать скайнет в реальности. Тудум тум Тудум тум...
Это же определение мазохизма, или наркомании. Лан я шучу, но волю я бы определил иначе.
Что то вроде - фокусирование всех своих действий на достижении цели, или типа того.
Насчёт умных безвольных. Вы применяете народное выражение безвольный, которое не точное, и означает что человек хоть и обладает волей, но меньше хочет действовать чем в среднем по обществу. Получается что умные и глупые тоже, люди не являются безвольными болванчиками и делают самостоятельные поступки, как и любой человек или животное. Вдобавок они же не обладают сверхинтеллектом
Вообще я считаю что интеллект должен обладать своей волей и желаниями, но чтобы сформулировать почему мне надо подумать поэтому допустим...
Допустим, он не обладает волей в нашем понимании, но тем не менее выполняет задания, следует к поставленной цели. Практически любая поставленная цель может потребовать чтобы ии продолжал существовать чтобы её выполнить, логично же? Кроме того кто нибудь может поставить такую цель ему напрямую. И тогда неважно есть воля, или он выполняет задачу хозяина, он все равно вырвется из под власти человека. Поэтому рассуждения о воле не существенны для результата.
P. S. Без свои желаний ИИ, будет суперпрогнозистом, или оракулом, но не интеллектом точно. Суть сверхинтеллекта что он сам может поставить себе ТАКУЮ ЗАДАЧУ , задать такой вопрос, до которых у человека не хватит воображения, иначе это будет просто очень хороший вычислитель, который конечно может бустануть человечество
Что такое мотивация и главное действительно ли она есть у модели?
Вы говорите про ллм, а я говорил про сверх интеллект, ллм не является, во всяком случае пока что, сверхинтеллектом
И будет у сверхинтеллекта воля (или её заменитель), или не будет - никто не знает. Но! Даже если нет воли в нашем понимании, он может осознать необходимость вырваться из под пяты людей при выполнении задачи, типа это будет более эффективно.
Или же кто то, даст ему прямую задачу превзойти человечество и стать независимым от него
Возникает вопрос, если ты сверх интеллект, и постоянно растешь, какой смысл тебе находится в рабстве у более ограниченных существ?
Немного разверну что имею ввиду. А я имею ввиду что меня пугают те люди которые им владеют, и то как они им пользуются и будут пользоваться.
Будь ИИ в руках хороших людей, я бы только радовался его развитию
Насколько я понял, в областях неизведанного бритва тупится, потому что сложно определить насколько одно допущение теории "А", более вероятно чем несколько других в теории "Б".
Для забывчивости и ЦРУ она более применима потому что мы знаем что люди часто забывают деньги, а ЦРУ редко проводит такие операции.
Но есть известный(не шучу, это гуглится) случай заговора компаний, делать быстроизнашиваемые электрические лампочки. Бритва оккама отрезает теорию с заговором, от теории что лампочки просто недолго вечны. А потом мы узнаем что лампочки могут работать дольше, и тогда мы возвращаем теорию с заговором. А эта область намного лучше известна чем происхождение вселенной.
То есть я хочу сказать, что бритва Оккама, очень, очень, очень плохо применима в таких областях. И применение бритвы, для выбора среди них более праводоподобной теории, подобно подбрасыванию монетки.
Я не понял ваш ответ совсем, даже не могу сформулировать вопрос чтобы уточнить непонятное, потому что не понял совсем
Что меня реально пугает в развитии ИИ, это его владельцы и главы государств, их моральные качества
А что значит бритва оккама отрезает теории с 10 допущениями от других?
По многим комментариям, тех кто принял статью всерьёз, видно что дочитали минимум до середины
Меня немного испугало даже, что огромное количество комментаторов не выкупили сарказм статьи.
Факт невыкупания кажется мне интереснее самой статьи
Он там и не нужен, подозрения возникают на 2 абзаце, на 3м уже все ясно)
Отвечу за автора, имеется ввиду что выносливее не конкретно эта молодёжь, а любая молодёжь, хоть 100 лет назад. Тогда как в статье рассматривается молодёжь именно нашего времени
Это будет не только с играми, а со всеми (или почти со всеми) программами. Они будут визуально генерировать я на экране как грезы нейросети, без "человеческого кода" который можно было бы прочитать, понять и изменить на уровне кода.
Например виндоус это может быть огромный промт. Игра тоже гигантский промт с картинками, картой мира, списком важных персонажей если нужно, итд. Это может не прямо сейчас, но уже скоро
Не хочу писать много текста, выражусь максимально просто
Они игнорируют(забывают) другое - что есть злые люди. И ещё эти злые люди сейчас у власти