Текущая модель нейрона - не может порождать наслаждения и страдания у системы. Модель не полна.
Вероятно не все нейроны одинаковые, к примеру есть нейроны фон Экономо, устройство которых несколько отличаются. Возможно их базовое свойство - сознание. Каждый такой нейрон сознателен в полной мере. Но это моя гипотеза.
Тут только одна проблемка - делать вид что тебе больно, даже если ты делаешь вид убедительно - не равно что тебе больно на самом деле. Делать вид и я умею. Но суть не в этом - важно на самом деле больно или нет.
Вы не представляете какие последствия влечет этот вопрос - это и религия (70% населения земли верят в бессмертную душу) и политика и мораль и много чего завязано.
Если бы все было так просто - то на компах запускали бы задачу - а прогу оно писало бы само эволюционным путем. Ведь клетке для деления (для проверки 1 варианта) нужно минимум 10 минут, а скорее больше (срок жизни организма) - а компьютер за секунду сможет проверить миллиарды вариантов.
Но когда пытаешься это применить - понимаешь что туфта получается.
Для очень узкого круга задач - возможно и работает, но создавать сложные системы не получится.
Более того - кто сказал что возможно последовательно улучшать и оно не упрется в барьер, который постепенностью не перепрыгнет?
В общем - такие вещи нужно доказывать в коде, а не языком чесать.
Если кто сделает прогу, которая сможет за счет отбора порождать сложные системы - это уже будет аргумент.
Для лучшего понимания - попробуйте это реализовать в коде. Но там вы хотя бы можете задать направление и исключить повторные проверки одного и того же.
Кратко - не получается, такой алгоритм очень ограничен и сложные системы им не породить. Тут что-то другое должно быть, типа воздействия будущего.
ничего не контролирует направление - просто всё, что ухудшает выживание, плохо копируется, а всё, что улучшает - копируется лучше
Тут вопрос. Вот как вода стекает с неровной поверхности - она как бы находит путь, часто ветвистый. Но направление всегда - сверху вниз. Назад не возвращается.
В случае же с мутациями - что предотвращает постоянное скатывание назад и повторной проверке (по миллиону раз) неэффективных путей?
В ДНК же не записано - вот эти пути мы проверили и там ничего нет.
Тут речь была "не просто имитировать эмоции" - а переживать их. Т.е. речь о субъективных наслаждениях и страданиях самой системы. Да, речь о квалиа так называемых (хотя мне этот термин не нравится - лучше говорить о наслаждениях и страданиях).
Обучение может происходить и без наслаждения/страдания в т.ч. у человека - т.е. это вещи из разных плоскостей.
Так вот - наделить некие искусственные системы наслаждениями и страданиями - не просто невозможно на данном этапе - нет даже гипотез о том как это сделать. Есть некие полу-гипотезы о сознани (все нейробиологические опровергнуты на данный момент) - но нет перехода от сознания к наслаждениям и страданиям.
З.Ы. Если кто не согласен - я готов поспорить на что угодно о том что вопрос не решен и решен не будет - или дать вам в награду что угодно - если вы сможете создать искусственную систему, умеющую наслаждаться и страдать. Более 7 лет занимаюсь этим вопросом и знаю о чем говорю. Гипотез просто нет. И именно это является "краеугольным камнем" и основным вопросом мироздания (как говорят - "основная загвоздка вселенной"), хотя так сразу это не очевидно.
Единственная разумная гипотеза - т.н. влияние будущего. Т.е. если есть некий квантовый процесс, когда на выбор в настоящем влияет результат из будущего. Тогда как бы сразу отсекаются все тупиковые ветви.
Там, может, достаточно чтобы влияние передавалось в прошлое на 1 наносекунду, но могло складываться как бы по цепочке - на миллиарды лет вперед.
миллиард лет до появления многоклеточности суммарное число таких попыток становится колоссальным настолько
На самом деле не так много и вполне можно подсчитать, даже с запасом. 1 млрд лет - это 10ˆ16 секунд. Объем мирового океана - 10ˆ24 миллилитров. Теоретический максимум 10ˆ12 одноклеточных на 1 мл. Т.е. даже если заполнить весь объем мирового океана бактериями - получается не так много - 10ˆ36 бактерий - это теоретический максимум. Деление - это около 10 минут минимум. Ну пусть даже возьмем 1 секунда - это с запасом. Того - можно перебрать 10ˆ52 вариантов - это с большим запасом, с огромным.
10ˆ52 вариантов - вроды бы овердофига. Но это всего - 22 байта. 22 байта можно перебрать за 1 млрд. лет мощностью всех одноклеточных, которые будут заполнять весь мировой океан. По этому так сложно подобрать ключ а адресу биткойна - P2PKH адрес - это всего 20 байт. 20 байт вроде мало - а фиг подберешь, там астрономические вычислительные ресурсы нужны.
уже давно не шёпотом, а вполне открыто говорят: технически это возможно. Мы можем создать архитектуру, которая будет не просто имитировать эмоции, а проживать их
Брехня! Никто такого не говорит - более того - нет даже ни одной гипотезы как у некой искусственной системы могут возникнуть наслаждения и страдания. Ни одной гипотезы.
Все улучшения - о решении задач, т.е. в области обработки информации. И ни малейших намеков на то, чтобы нейросеть начала ощущать хоть какие-либо наслаждения и страдания. Более того - даже гипотез об этом нет.
Вот классификация - в точку. Именно так все и происходит в реальной жизни. Но термины такие "чистолисты" и "кодокопатели" (хотя они и передают суть - претензий нет) - ранее не встречались.
Текущая модель нейрона - не может порождать наслаждения и страдания у системы. Модель не полна.
Вероятно не все нейроны одинаковые, к примеру есть нейроны фон Экономо, устройство которых несколько отличаются. Возможно их базовое свойство - сознание. Каждый такой нейрон сознателен в полной мере. Но это моя гипотеза.
Тут только одна проблемка - делать вид что тебе больно, даже если ты делаешь вид убедительно - не равно что тебе больно на самом деле. Делать вид и я умею. Но суть не в этом - важно на самом деле больно или нет.
Вы не представляете какие последствия влечет этот вопрос - это и религия (70% населения земли верят в бессмертную душу) и политика и мораль и много чего завязано.
Вы сначала разберитесь в каких частях мозга возникают наслаждения и страдания - почему у мухи их нет. И поймите что модель нейрона не полна.
Если бы все было так просто - то на компах запускали бы задачу - а прогу оно писало бы само эволюционным путем. Ведь клетке для деления (для проверки 1 варианта) нужно минимум 10 минут, а скорее больше (срок жизни организма) - а компьютер за секунду сможет проверить миллиарды вариантов.
Но когда пытаешься это применить - понимаешь что туфта получается.
Для очень узкого круга задач - возможно и работает, но создавать сложные системы не получится.
Более того - кто сказал что возможно последовательно улучшать и оно не упрется в барьер, который постепенностью не перепрыгнет?
В общем - такие вещи нужно доказывать в коде, а не языком чесать.
Если кто сделает прогу, которая сможет за счет отбора порождать сложные системы - это уже будет аргумент.
Для лучшего понимания - попробуйте это реализовать в коде. Но там вы хотя бы можете задать направление и исключить повторные проверки одного и того же.
Кратко - не получается, такой алгоритм очень ограничен и сложные системы им не породить. Тут что-то другое должно быть, типа воздействия будущего.
Оно может откатиться, вернуться к предыдущему состоянию - оно же не помнит что это уже раньше было. Потом неудачную ветку, потом опять откатиться...
Тут вопрос. Вот как вода стекает с неровной поверхности - она как бы находит путь, часто ветвистый. Но направление всегда - сверху вниз. Назад не возвращается.
В случае же с мутациями - что предотвращает постоянное скатывание назад и повторной проверке (по миллиону раз) неэффективных путей?
В ДНК же не записано - вот эти пути мы проверили и там ничего нет.
Для этого тоже никакие эмоции не нужны. Распознать голос/лицо, иметь строго заданный список уполномоченных лиц - не связано с эмоциями.
Аналогично, эмоции не нужны для этого.
Не нужен.
А что будет контролировать вектор направленности - чтобы улучшенное не начало деградировать? Что-то тут не так просто...
Тут речь была "не просто имитировать эмоции" - а переживать их. Т.е. речь о субъективных наслаждениях и страданиях самой системы. Да, речь о квалиа так называемых (хотя мне этот термин не нравится - лучше говорить о наслаждениях и страданиях).
Обучение может происходить и без наслаждения/страдания в т.ч. у человека - т.е. это вещи из разных плоскостей.
Так вот - наделить некие искусственные системы наслаждениями и страданиями - не просто невозможно на данном этапе - нет даже гипотез о том как это сделать. Есть некие полу-гипотезы о сознани (все нейробиологические опровергнуты на данный момент) - но нет перехода от сознания к наслаждениям и страданиям.
Если я заблуждаюсь - то просто приведите мне схему девайса, который умеет наслаждаться и страдать. Все просто.
Имитация - это не проблема, это легко сделать. При этом имитация никакого отношения к настоящим наслаждениям и страданиям не имеет.
Не нужны.
Я занимаюсь вопросом более 7 лет. Уже все проверил - и при кажущейся простоте - вопрос не разрешим, гипотез ровно ноль. См. выше тут: https://habr.com/ru/articles/1030590/comments/#comment_29915874
З.Ы. Если кто не согласен - я готов поспорить на что угодно о том что вопрос не решен и решен не будет - или дать вам в награду что угодно - если вы сможете создать искусственную систему, умеющую наслаждаться и страдать. Более 7 лет занимаюсь этим вопросом и знаю о чем говорю. Гипотез просто нет. И именно это является "краеугольным камнем" и основным вопросом мироздания (как говорят - "основная загвоздка вселенной"), хотя так сразу это не очевидно.
Единственная разумная гипотеза - т.н. влияние будущего. Т.е. если есть некий квантовый процесс, когда на выбор в настоящем влияет результат из будущего. Тогда как бы сразу отсекаются все тупиковые ветви.
Там, может, достаточно чтобы влияние передавалось в прошлое на 1 наносекунду, но могло складываться как бы по цепочке - на миллиарды лет вперед.
На самом деле не так много и вполне можно подсчитать, даже с запасом. 1 млрд лет - это 10ˆ16 секунд. Объем мирового океана - 10ˆ24 миллилитров. Теоретический максимум 10ˆ12 одноклеточных на 1 мл. Т.е. даже если заполнить весь объем мирового океана бактериями - получается не так много - 10ˆ36 бактерий - это теоретический максимум. Деление - это около 10 минут минимум. Ну пусть даже возьмем 1 секунда - это с запасом. Того - можно перебрать 10ˆ52 вариантов - это с большим запасом, с огромным.
10ˆ52 вариантов - вроды бы овердофига. Но это всего - 22 байта. 22 байта можно перебрать за 1 млрд. лет мощностью всех одноклеточных, которые будут заполнять весь мировой океан. По этому так сложно подобрать ключ а адресу биткойна - P2PKH адрес - это всего 20 байт. 20 байт вроде мало - а фиг подберешь, там астрономические вычислительные ресурсы нужны.
Брехня! Никто такого не говорит - более того - нет даже ни одной гипотезы как у некой искусственной системы могут возникнуть наслаждения и страдания. Ни одной гипотезы.
Все улучшения - о решении задач, т.е. в области обработки информации. И ни малейших намеков на то, чтобы нейросеть начала ощущать хоть какие-либо наслаждения и страдания. Более того - даже гипотез об этом нет.
Ключевое: оно не умеет страдать. Раб может страдать, ему может не нравится на рудниках работать. А роботу - пофиг.
Вот классификация - в точку. Именно так все и происходит в реальной жизни. Но термины такие "чистолисты" и "кодокопатели" (хотя они и передают суть - претензий нет) - ранее не встречались.
Видимо он тетеринг юзает. В нулевых проблему зарубежного трафика решали очень просто - через местный VPN. Т.е. весь трафик был как нашенский.