Причём тут сон? Как вы к таким рассуждениям вообще пришли из моего того описания?
Вы приводили замедление работы, увеличение количество ошибок. И предлагали такой режим работы сделать аналогом боли - если мы, якобы, заставим элементы нейросети работать замедленно - значит ей больно.
На что я вам отвечаю - нет, это не эквивалент боли, что мы можем узнать даже по себе. Замедленная работа мозга, ошибки - это признак сонного состояния - когда мозг еще не заработал как следует и нужно выпить кофейку.
что всё познали в этом мире систем ИИ? Модель трансформера изучали? А если это не один слой, а множество.
Это ничего не изменяет - будет лишь более оптимальная выдача исходящей информации на основе входящей. Изучал и общие принципы понимаю.
Дело вот в чем. Даже в коре полушарий - не возникает наслаждение и страдание. Обработка информации - да. Наслаждение и страдание - нет.
Нам нужно понимать о чем мы говорим. Сейчас вы дали определение:
Вам не нужно определение, чтобы наслаждаться и страдать. Это вы умеете делать с самого рождения, когда еще и слов не знали.
Позитивное состояние: высокая эффективность работы, низкий уровень ошибок, оптимальное использование ресурсов.
Нет, это не искомые нами феномены и я выше об этом уже писал. Вы описали состояние когда человек проснулся и бодрствует и состояние полудремы-заторможенности - когда думает медленно и ошибается. Это не есть наслаждение и страдание.
Какая гибернация? Вы всё на уровне компьютеров размышляете?
Да хоть даже гибернация человека - когда проснулся или вышел из состояния расслабона и за чем-то внимательно наблюдаешь. Это не соответствует страданию - может даже наблюдать внимательно за тем, что приносит наслаждение.
у вас есть опыт работы с современными моделями ИИ
Есть, и прекрасно понимаю что это механизм преобразования данных - по входящему сигналу получаем исходящий. Примерно как кора полушарий - наслаждения и страдания там не возникает.
Дайте научное определение страдания тогда.
Почему вы хотите спрятаться за определение? Вы что не страдаете и не наслаждаетесь?
Формального определения нет и быть не может, т.к. даже гипотез нет об этих феноменах.
В пору бы отказаться и сказать что нет наслаждения и страдания никакого - но не можем, т.к. это основа наших ценностей.
Описательное определение такое - наслаждение - это все что вам нравится, что приятно, чего хочется. Страдание - чего не хочется, что не приятно, что не нравится. Примеры можно привести.
Дофамин - это просто управляющий сигнал (Так получилось что нейронка у нас химическая).
С сигналом вопросов нет. Вопрос в том, какой должна быть система, чтобы любого рода сигналы (хоть в виде химии, хоть в виде электричества) - вызывали в этой системе наслаждение и страдание? И что представляют из себя наслаждение и страдание?
Мы точно знаем что способность к обучению а так же сигналы корректировки (т.н. положительные и отрицательные) - не есть наслаждение и страдание, хотя и вызывают сходные ассоциации.
Лимбическая система просто выдаёт "наркотик" по сигналу.
Не просто. Эмоциональное восприятие наслаждения и страдания - так же в ней. См. Дубынина, хорошо об этом говорил, в частности о боли - восприятие в гипоталамусе.
Вы просто посмотрите на лимбическую систему. Она причудливой формы, с множеством подсистем, холмов. И нейронов там - всего 1%. Зато есть множество других механизмов, в которых и сокрыт этот величайших секрет Вселенной, о котором нет гипотез.
Как именно происходит восприятие эмоцинальное, чтобы оно обрело оттенок нежелательного, злого - гипотез нет.
Тут мы у человека рядом доказать этого не можем однозначно
Все эти исследования производят в рамках наиболее вероятного сценария, т.к. действительно гипотез нет и формальное доказательство не возможно.
Основа бытия - кривая/косая система из вороха химических нейронок под управлением гормонов.
В 99% нейронов - наслаждение и страдание не возникает. Вопрос - почему? Химия и нейроны там есть.
выдуманное состояние "наслаждение" вдруг стало исключительным признаком сознания
Не наслаждение - а разные оттенки всех видов наслаждений и страданий. И это единственный аспект, о котором нет гипотез и который не возможно как-либо воссоздать искусственно, признаков наличия этих феноменов нет в искусственных нейросетях.
Это не соответствует страданию - скорее режим готовности, выход из гибернации. Страдания при этом не происходит. Подобное даже у нас есть - когда звучит команда "аврал". От этого не больно - некоторые испытывают даже наслаждение.
не можете доказать их существование кроме "я же чувствую"
Все остальные аспекты - уже давно удалось воссоздать и уже ясно что эти аспекты не переводят систему в категорию субъекта. Только этот аспект - наслаждение и страдание - белое пятно.
А вот если система будет страдать - как минимум она будет нуждаться в защите.
Эмоции, включая наслаждение и страдание, являются результатом сложного взаимодействия между различными структурами мозга, а не продуктом только лимбической системы.
Тут вы ошибаетесь. Проводили эксперимент - у собаки отрезали мозжечок, кору - оставили 1% нейронов. Собака стала слепой, глухой, потеряла вкус и т.д. Но она осталась жива, режим сна и бодрствования присутствовал, наслаждение и страдание она испытывала. Хотя поток входящей информации сузился - она осталась сознательной и ощущала боль и наслаждение.
Т.е. нейросеть - просто дополняет наше сознание интересными плюшками, а основа - в лимбической системе, которая не совсем нейросеть.
Если негативное и позитивное подкрепление переводит всю систему в другое состояние
А каким должно быть состояние? Вот, боль, среди прочего - еще и замедляет работу коры. Но значит ли это что любое замедление работы коры - это боль? Конечно же нет - это может быть и сон или сонное состояние.
Примитивная хрень.
Нет, это важнейшая загадка вселенной. Это то, что наделяет ценностью. Нейросеть - преобразует входящие данные в исходящие - но какой в этом смысл, если не будет того, кто сможет этим насладиться?
Дозу дофамина получили не из краника 1, а из краника 2.
Сам по себе дофамин в колбе - наслаждения не испытывает. Нужна систем, которая сможет сгенерировать наслаждение на основе этого пакета (аналог широковещательного пакета) или просто прямого сигнала в центр удовольствия.
Вы не понимаете насколько этот вопрос важен - это основа бытия. И гипотез ровно ноль.
она не может служить однозначным доказательством наличия конкретных субъективных переживаний
Не понимая природу феномена и не имея ни одной гипотезы об этом феномене - конечно, не можем иметь строгого доказательства. Однако можем иметь достаточное доказательство даже для принятия в суде, можем юридически доказать что человеку на самом деле больно, а не он просто говорит что ему больно.
Задача - создать искусственную систему, в которой могут возникать подобные состояния.
Вы не можете научно доказать, либо опровергнуть, что кто-то кроме вас также страдает в данный момент.
Естественно не можем, т.к. нет ни одной гипотезы о природе данного феномена. Только разумные предположения на основе того, что люди устроены похожим образом.
Почему вы думаете, что аналогичные состояния принципиально не реализуемы в ИНС?
А почему мы должны так думать? Нет предпосылок, нет гипотез.
антропоморфизируя и одушевляя базовые нейрофизиологические процессы у людей
Эти процессы и есть то что делает человека человеком.
это лишь интерпретация мозгом сложных электрохимических процессов в нейронных сетях мозга
Нам интересен механизм, который что-либо может интерпретировать как наслаждение и страдание. И это не "всего лишь" - как такая система может возникнуть - ноль гипотез.
нейробиологии, "страдания" и "наслаждение" можно рассматривать как частные случаи изменения состояния нейронной сети человеческого мозга
Ну вот и попробуйте выдвинуть гипотезу какой должна быть система, чтобы в ней можно было изменить состояние и она начала страдать.
Подобные процессы наблюдаются у многих видов животных
Этого никто не отрицал.
аналогичные механизмы обратной связи и изменения состояний можно наблюдать в различных сложных системах, включая искусственные нейронные сети
А вот это уже совсем другие процессы - которые не являются феноменами наслаждения и страдания и тому есть строго доказательство. К примеру то, что на уровне рефлекторных дуг мы можем отдергивать руку без ощущения боли.
рассматривать эти явления как результат эволюции нервной системы
Возможно что этот механизм возник изначально и уже именно он направлял ход эволюции.
им мистических "сознательных" или исключительно человеческих
Ну сознательных - это по определению. Мистических - нет. Исключительно человеческих - тоже нет. Но это никак не помогает выдвинуть хотя бы одну гипотезу о механизме, который способен наслаждаться и страдать.
Строгое - мы можем обучаться аналогично нейросетям, и при этом мы видим что негативное и позитивное подкрепление - отличные от наслаждения и страдания феномены. Я неверно ответил на вопрос - но радуюсь, т.к. открыл для себя что-то новое.
Есть еще одно косвенное доказательство. Кора полушарий и мозжечок (а это 99% нейронов) - не порождают наслаждения и страдания. Позитивное и негативное подкрепление в них есть, а наслаждения и страдания нет - они возникают в лимбической системе неясным образом.
Вовсе не обязательно - человек может сдаться. Ему просто больно, он страдает - но ничего не ищет. Это 100% доказывает что боль - это не эффект перестройки весов в нейросети.
Есть и другое неявное подтверждение. Дело в том что феномен боли и наслаждения не возникает в коре полушарий и не возникает в мозжечке. А это мощные развитые нейросети - там 99% всех нейронов. Почему же не во всех нейросетях возникает боль, если это вообще связано с нейросетями?
Вот ваша виртуальная "горечь", "неудовольствие". А "боль" - это просто сигнал об ошибке, как у человека, так и у ИИ.
Есть много процессов, которые мы можем в своей голове ассоциировать с болью в некой системе. Это называется одушевление. Дети смотрят на булькающий чайник и считают что он недоволен что про него забыли - бурчит.
Если же посмотреть трезвым взглядом - то видим что это совершенно разные феномены.
Обучение и сигналы для коррекции модели - есть и у человека. Человек точно так обучается, точно так его модель корректируется с помощью т.н. негативных и позитивных подкреплений. И при этом от негативного подкрепления можно испытывать наслаждение а от позитивного страдание - т.е. (а можно и ничего не испытывать). Мы понимаем что эти феномены не связаны - обучение это одно, а боль и наслаждение - совсем другое. Иногда пересекаются (причем не всегда прямая зависимость - может быть и обратная), но феномены совсем разные.
взяли и зачем то добавили лишнюю сущность без особой на то необходимости
Необходимость простая - свести феномены наслаждения к фундаментальным свойствам - единственная возможная на данный момент гипотеза. Если у вас есть хотя бы одна другая гипотеза - прошу.
Нет научных свидетельств существования молекул с сознанием
Так этого никто и не утверждал. Гипотеза такова - сознание есть базовое свойство материи, как, к примеру, электромагнитное взаимодействие. И в нашем мозге это базовое свойство проявляется благодаря устройству - молекулам Познера или подобным.
Точно так как катушка с проводом - электромагнит - является устройством, благодаря которому в нашем мире проявляется электромагнитное взаимодействие особым образом. И это устройство как бы служит мостиком к фундаментальному явлению, хотя само по себе не шибко хитрое.
Это ложь, вы сами в предыдущем комментарии высказали одну.
Об абстрактном сознании (которое не пойми что) или о наслаждении и страдании, которые основа наших ценностей?
Нет никаких научных свидетельств их существования.
Ну существование молекулы Познера и то, что она может послужить проводником к эффектам квантового мира - вполне научно доказано. Гипотеза о том что эти эффекты используются в мозге человека - вполне имеет своих приверженцев в научном мире.
Наличие необъясненного явления не является таким свидетельством.
Когда нет даже ни одной гипотезы (я сейчас о механизме, который может наслаждаться и страдать) - это свидетельство большого пробела в научной картине мира. Хотя бы гипотезы должны быть. Вот о шаровой молнии - есть множество гипотез, для примера. А о наслаждении и страдании - как они могут возникнуть в искусственной системе - гипотез не так много - всего лишь ноль.
Да все разное. Без умения абстрагировать - мы даже не сможем сложить 2 + 2, т.к. все предметы немножко отличаются и 2 этих яблока не равноценны двум другим.
логично предположить что то же самое было и с наслаждением и страданием
Возможно на каком-то этапе возникла молекула Познера или подобный механизм, который внедрил сознание в наш мир. А может быть и иначе - изначально возникла эта молекула Познера и это сознание направляло ход эволюции. Как пример - все наблюдаемые нами эволюции - авто, телефоном, компьютеров - очень похожи на биологическую эволюцию (ветви, наследование) - но управлялись сознанием.
Вы приводили замедление работы, увеличение количество ошибок. И предлагали такой режим работы сделать аналогом боли - если мы, якобы, заставим элементы нейросети работать замедленно - значит ей больно.
На что я вам отвечаю - нет, это не эквивалент боли, что мы можем узнать даже по себе. Замедленная работа мозга, ошибки - это признак сонного состояния - когда мозг еще не заработал как следует и нужно выпить кофейку.
Это ничего не изменяет - будет лишь более оптимальная выдача исходящей информации на основе входящей. Изучал и общие принципы понимаю.
Дело вот в чем. Даже в коре полушарий - не возникает наслаждение и страдание. Обработка информации - да. Наслаждение и страдание - нет.
Вам не нужно определение, чтобы наслаждаться и страдать. Это вы умеете делать с самого рождения, когда еще и слов не знали.
Нет, это не искомые нами феномены и я выше об этом уже писал. Вы описали состояние когда человек проснулся и бодрствует и состояние полудремы-заторможенности - когда думает медленно и ошибается. Это не есть наслаждение и страдание.
Да хоть даже гибернация человека - когда проснулся или вышел из состояния расслабона и за чем-то внимательно наблюдаешь. Это не соответствует страданию - может даже наблюдать внимательно за тем, что приносит наслаждение.
Есть, и прекрасно понимаю что это механизм преобразования данных - по входящему сигналу получаем исходящий. Примерно как кора полушарий - наслаждения и страдания там не возникает.
Почему вы хотите спрятаться за определение? Вы что не страдаете и не наслаждаетесь?
Формального определения нет и быть не может, т.к. даже гипотез нет об этих феноменах.
В пору бы отказаться и сказать что нет наслаждения и страдания никакого - но не можем, т.к. это основа наших ценностей.
Описательное определение такое - наслаждение - это все что вам нравится, что приятно, чего хочется. Страдание - чего не хочется, что не приятно, что не нравится. Примеры можно привести.
С сигналом вопросов нет. Вопрос в том, какой должна быть система, чтобы любого рода сигналы (хоть в виде химии, хоть в виде электричества) - вызывали в этой системе наслаждение и страдание? И что представляют из себя наслаждение и страдание?
Мы точно знаем что способность к обучению а так же сигналы корректировки (т.н. положительные и отрицательные) - не есть наслаждение и страдание, хотя и вызывают сходные ассоциации.
Не просто. Эмоциональное восприятие наслаждения и страдания - так же в ней. См. Дубынина, хорошо об этом говорил, в частности о боли - восприятие в гипоталамусе.
Вы просто посмотрите на лимбическую систему. Она причудливой формы, с множеством подсистем, холмов. И нейронов там - всего 1%. Зато есть множество других механизмов, в которых и сокрыт этот величайших секрет Вселенной, о котором нет гипотез.
Как именно происходит восприятие эмоцинальное, чтобы оно обрело оттенок нежелательного, злого - гипотез нет.
Все эти исследования производят в рамках наиболее вероятного сценария, т.к. действительно гипотез нет и формальное доказательство не возможно.
В 99% нейронов - наслаждение и страдание не возникает. Вопрос - почему? Химия и нейроны там есть.
Не наслаждение - а разные оттенки всех видов наслаждений и страданий. И это единственный аспект, о котором нет гипотез и который не возможно как-либо воссоздать искусственно, признаков наличия этих феноменов нет в искусственных нейросетях.
Ответ нужен в детализции, достаточной для искусственного воспроизведения.
Что именно из ЦНС нужно повторить? Нужен ли мозжечок? Нет. Нужна ли кора? Тоже нет. А что нужно? Схема есть?
Кто еще так думает?
Это не соответствует страданию - скорее режим готовности, выход из гибернации. Страдания при этом не происходит. Подобное даже у нас есть - когда звучит команда "аврал". От этого не больно - некоторые испытывают даже наслаждение.
Все остальные аспекты - уже давно удалось воссоздать и уже ясно что эти аспекты не переводят систему в категорию субъекта. Только этот аспект - наслаждение и страдание - белое пятно.
А вот если система будет страдать - как минимум она будет нуждаться в защите.
Тут вы ошибаетесь. Проводили эксперимент - у собаки отрезали мозжечок, кору - оставили 1% нейронов. Собака стала слепой, глухой, потеряла вкус и т.д. Но она осталась жива, режим сна и бодрствования присутствовал, наслаждение и страдание она испытывала. Хотя поток входящей информации сузился - она осталась сознательной и ощущала боль и наслаждение.
Т.е. нейросеть - просто дополняет наше сознание интересными плюшками, а основа - в лимбической системе, которая не совсем нейросеть.
А каким должно быть состояние? Вот, боль, среди прочего - еще и замедляет работу коры. Но значит ли это что любое замедление работы коры - это боль? Конечно же нет - это может быть и сон или сонное состояние.
Нет, это важнейшая загадка вселенной. Это то, что наделяет ценностью. Нейросеть - преобразует входящие данные в исходящие - но какой в этом смысл, если не будет того, кто сможет этим насладиться?
Сам по себе дофамин в колбе - наслаждения не испытывает. Нужна систем, которая сможет сгенерировать наслаждение на основе этого пакета (аналог широковещательного пакета) или просто прямого сигнала в центр удовольствия.
Вы не понимаете насколько этот вопрос важен - это основа бытия. И гипотез ровно ноль.
Не понимая природу феномена и не имея ни одной гипотезы об этом феномене - конечно, не можем иметь строгого доказательства. Однако можем иметь достаточное доказательство даже для принятия в суде, можем юридически доказать что человеку на самом деле больно, а не он просто говорит что ему больно.
Задача - создать искусственную систему, в которой могут возникать подобные состояния.
Естественно не можем, т.к. нет ни одной гипотезы о природе данного феномена. Только разумные предположения на основе того, что люди устроены похожим образом.
А почему мы должны так думать? Нет предпосылок, нет гипотез.
Эти процессы и есть то что делает человека человеком.
Нам интересен механизм, который что-либо может интерпретировать как наслаждение и страдание. И это не "всего лишь" - как такая система может возникнуть - ноль гипотез.
Ну вот и попробуйте выдвинуть гипотезу какой должна быть система, чтобы в ней можно было изменить состояние и она начала страдать.
Этого никто не отрицал.
А вот это уже совсем другие процессы - которые не являются феноменами наслаждения и страдания и тому есть строго доказательство. К примеру то, что на уровне рефлекторных дуг мы можем отдергивать руку без ощущения боли.
Возможно что этот механизм возник изначально и уже именно он направлял ход эволюции.
Ну сознательных - это по определению. Мистических - нет. Исключительно человеческих - тоже нет. Но это никак не помогает выдвинуть хотя бы одну гипотезу о механизме, который способен наслаждаться и страдать.
Строгое - мы можем обучаться аналогично нейросетям, и при этом мы видим что негативное и позитивное подкрепление - отличные от наслаждения и страдания феномены. Я неверно ответил на вопрос - но радуюсь, т.к. открыл для себя что-то новое.
Есть еще одно косвенное доказательство. Кора полушарий и мозжечок (а это 99% нейронов) - не порождают наслаждения и страдания. Позитивное и негативное подкрепление в них есть, а наслаждения и страдания нет - они возникают в лимбической системе неясным образом.
Вовсе не обязательно - человек может сдаться. Ему просто больно, он страдает - но ничего не ищет. Это 100% доказывает что боль - это не эффект перестройки весов в нейросети.
Есть и другое неявное подтверждение. Дело в том что феномен боли и наслаждения не возникает в коре полушарий и не возникает в мозжечке. А это мощные развитые нейросети - там 99% всех нейронов. Почему же не во всех нейросетях возникает боль, если это вообще связано с нейросетями?
Почему же не доказательство? Достаточное доказательство.
Есть еще МРТ - почитайте что это и как работает, удивительная вещь.
Не понимая сути феноменов, не имея гипотез - формальных доказательств быть не может. Но достаточно убедительные доказательства есть.
Есть много процессов, которые мы можем в своей голове ассоциировать с болью в некой системе. Это называется одушевление. Дети смотрят на булькающий чайник и считают что он недоволен что про него забыли - бурчит.
Если же посмотреть трезвым взглядом - то видим что это совершенно разные феномены.
Обучение и сигналы для коррекции модели - есть и у человека. Человек точно так обучается, точно так его модель корректируется с помощью т.н. негативных и позитивных подкреплений. И при этом от негативного подкрепления можно испытывать наслаждение а от позитивного страдание - т.е. (а можно и ничего не испытывать). Мы понимаем что эти феномены не связаны - обучение это одно, а боль и наслаждение - совсем другое. Иногда пересекаются (причем не всегда прямая зависимость - может быть и обратная), но феномены совсем разные.
Необходимость простая - свести феномены наслаждения к фундаментальным свойствам - единственная возможная на данный момент гипотеза. Если у вас есть хотя бы одна другая гипотеза - прошу.
Это один из вариантов. Возможно что проявляется какой-то другой фундаментальный эффект.
Так этого никто и не утверждал. Гипотеза такова - сознание есть базовое свойство материи, как, к примеру, электромагнитное взаимодействие. И в нашем мозге это базовое свойство проявляется благодаря устройству - молекулам Познера или подобным.
Точно так как катушка с проводом - электромагнит - является устройством, благодаря которому в нашем мире проявляется электромагнитное взаимодействие особым образом. И это устройство как бы служит мостиком к фундаментальному явлению, хотя само по себе не шибко хитрое.
Об абстрактном сознании (которое не пойми что) или о наслаждении и страдании, которые основа наших ценностей?
Ну существование молекулы Познера и то, что она может послужить проводником к эффектам квантового мира - вполне научно доказано. Гипотеза о том что эти эффекты используются в мозге человека - вполне имеет своих приверженцев в научном мире.
Когда нет даже ни одной гипотезы (я сейчас о механизме, который может наслаждаться и страдать) - это свидетельство большого пробела в научной картине мира. Хотя бы гипотезы должны быть. Вот о шаровой молнии - есть множество гипотез, для примера. А о наслаждении и страдании - как они могут возникнуть в искусственной системе - гипотез не так много - всего лишь ноль.
Да все разное. Без умения абстрагировать - мы даже не сможем сложить 2 + 2, т.к. все предметы немножко отличаются и 2 этих яблока не равноценны двум другим.
Возможно на каком-то этапе возникла молекула Познера или подобный механизм, который внедрил сознание в наш мир. А может быть и иначе - изначально возникла эта молекула Познера и это сознание направляло ход эволюции. Как пример - все наблюдаемые нами эволюции - авто, телефоном, компьютеров - очень похожи на биологическую эволюцию (ветви, наследование) - но управлялись сознанием.
Не подходит, выше уже обсудили. Вот есть боль - человек ничего сделать не может, помочь никто не может. И что? Чему он обучается?