Comments 551
А не лучше ли честно признаться, что мы не знаем, что такое сознание, и не можем дать определение (которое тут же не вызовет споров), мы не можем отличить p-zombie от человека, мы не знаем, есть ли сознание у осьминогов например, а значит, мы не можем дать ответ на вопрос статьи?
А не лучше ли честно признаться, что мы не знаем, что такое сознание, и не можем дать определение
Напротив, я считаю, что пора уже снять мистический налёт с определения "сознания", который появился только из за того, что оно воспринимается посторонними наблюдателями не так как самим сознающим существом.
И признать, что "сознание" исключительно индивидуальный, личный инструмент, способ взаимодействия сознающих субъектов с миром. И у каждого сознающего субъекта "сознание" своё.
Оно может восприниматься посторонним наблюдателем в виде электро-химических процессов в мозгу наблюдаемого. Но в тоже время эти электро-химические процессы самим субъектом воспринимаются несколько иначе, через воздействие ими "изнутри" на те части его мозга, которые вызывают в нём чувства, образы, ощущения. Конечно не такие яркие как при воздействии извне, но всё им ощутимые.
Ну раз вы дали определение, тогда прошу список живых существ, обладающих сознанием и не обладающих. И методику определения p-zombie
Ну раз вы дали определение, тогда прошу список живых существ, обладающих сознанием и не обладающих
Сразу с козырей заходите :)
В том то и дело, что "сознание" не некий материальный орган, который либо есть либо его нет. Это некое качество невной системы (мозга) которое возникает постепенно, как некогда зрение развилось из чувствительных к свету клеток.
И можно назвать организмы, у которых сознание есть в зачаточной стадии и другие организмы у которых оно развито сильнее (и человеческое сознание ещё не конечный результат).
Сознание есть у всех приматов, дельфинов, китообразных и осьминогов. Зачатки есть у некоторых птиц. Возможно и у ряда других организмов. Критерием тут служат именно сознательные действия, когда организм не имея непосредственного, рефлекторного опыта (основанного на позитивном или негативном повторяющемся процессе), всё же принимает правильное решение.
Есть ли сознание у одичавших детей?
У моей собаки однозначно есть сознание, а вот насчет кота я иногда сомневаюсь.
А как же слоны? :)
В целом, умение решать задачи, не встречающиеся в природе, без проб в биологии называют "рассудочной деятельностью" а не сознанием. Сознание - не бехевористкий термин, его нельзя определить снаружи. Мы не можем узнать, есть ли у ии сознание. И не будем знать в какой момент появиться. И потому стоит вести себя так, как будто оно есть.
Сознание - не бехевористкий термин, его нельзя определить снаружи
Формально вы правы. Но мы говорим что организм скорее всего обладает элементами сознания, если наблюдая за ним видим:
он способен к обучению
он может использовать орудия труда
он коммуницирует с другими организмами, социализируется, проявляет эмпатию, эмоции
он использует сигналы в общении
он узнаёт себя в зеркале
Конечно мы не можем залезть в его нервную систему и проверить какие чувства он при этом испытывает и испытывает ли вообще. Но тем не менее мы можем утверждать, что его когнитивный мир не прост.
То есть наблюдая за несколькими различными организмами мы по их поведению можем с довольно большой степенью вероятности определить, какие из них имеют сознание в той или иной степени, а какие его практически не имеют.
И методику определения p-zombie
Их нет. В смысле, что при идентичности структуры и работы мозга, возникнет и сознание
Иначе покажите из какого иного поля оно берётся
мы не знаем, что такое сознание
Вы абсолютно правы, мы можем давать разные определения сознанию, но не можем ответить на некоторые простые вопросы о сознании.
Возьмем такой простой стимул как боль. Что такое боль? Чисто технически мы знаем, что это возбуждение неких нейронов. Но почему возбуждение одних нейронов вызывает боль, а других - к примеру эйфорию? Потому что так это воспринимает наше сознание.
И тут мы упираемся в полный тупик, потому что не понимаем, что такое "восприятие". А это очень тесно связано с сознанием.
Поэтому мы примерно понимаем, куда двигаться, чтобы ИИ умел решать задачи любой сложности. Но совершенно не понимаем, как сделать, чтобы ИИ чувствовал боль (именно "чувствовал", а не имитировал).
Подозреваю, что любой достаточно сильный сигнал - боль. Сигнала эйфория нет. И боль не сознательный процесс, просто если нет сознательной обработки, нет и боли. Представим, что если вместо анестезии найдут препарат просто стирающий память? После операции, мы скажем что не было никакой боли.
Но почему возбуждение одних нейронов вызывает боль, а других - к примеру эйфорию?
Потому что за боль отвечают вполне конкретные болевые рецепторы. Приход сигнала от этих рецепторов воспринимается как боль.
А приход сигналов от зрительных рецепторов мы воспринимаем как картинку. Логика та же, никакой мистики.
Да, причём сигналы от входных нейронов, связанных с болевыми рецепторами первоначально обрабатываются в ганглиях, не доходя до мозга даже, чтобы быстро отдёрнуть руку, например. Мозг, конечно, может подключиться к процессу и подавить это рефлекторное желание. Просто сигнал, той же силы, что и остальные, но подаваемый, как прерывания на отдельные линии. И для нейросети он имеет особое значение. Нейросеть мозга и искусственная устроены по-разному, конечно, но что мешает выделить подобные нейроны входного слоя и у искусственных нейросетей, завязать на датчики у робота, активирующиеся при падении и очень больно штрафовать когда они срабатывают после каких-то предыдущих действий. Мы тогда услышим о настоящих страданиях Вертера.
Потому что за боль отвечают вполне конкретные болевые рецепторы. Приход сигнала от этих рецепторов воспринимается как боль.
Ощущение "боли" - это один из способов более-менее продвинутых живых организмов реагировать на происходящее с ним в процессе его существования.
Ощущение боли сигнализирует организму что с ним что то не так и требует принятия мер, чтобы привести существование организма в норму.
Очевидно это эволюционно как то сложилось у некоторых организмов.
В роботах ощущение "боли" могут иммитировать различные датчики, которые передают инфо о состоянии систем робота в некий центр (аналог нашего мозга).
мы не можем отличить p-zombie от человека,
P-зомби (философский зомби) — это концепция, используемая в философии сознания, чтобы обсудить вопросы, связанные с сознанием и его природой. Философский зомби — это гипотетическое существо, которое внешне и внутренне неотличимо от обычного человека, но при этом полностью лишено сознания или субъективного опыта.
P-зомби ведет себя и выглядит точно так же, как обычный человек. Он выполняет те же действия, говорит те же слова и проявляет ту же эмоциональную реакцию.
В отличие от обычных людей, у P-зомби полностью отсутствуют внутренние субъективные переживания (квалиа). Он не испытывает боли, удовольствия, страха, радости или других эмоциональных состояний.
Сторонники дуализма утверждают, что если мы можем представить существо, которое ведет себя как человек, но не имеет сознания, то это означает, что физические процессы недостаточны для объяснения сознания.
Квалия на мой взгляд это очень важные понятия связанные с исключительной субъективностью впечатлений от внешнего мира, которые постороннему наблюдателю недоступны точно так как они проявляются в самом наблюдаемом субъекте, то доступны есть ему самому.
Но я согласен с тем, что субъект может быть частичным зомби, то есть иногда не испытывать привычных ощущений (квалия) при осуществлении тех или иных действий, выполняя их механически, как зомби.
Но это говорит лишь о том, что человек довольно хорошо адаптированное к внешнему миру существо. Он способен к неким действиям, даже тогда, когда часть его функций не работает. И он осуществляет их механически, бессознательно, как условные рефлексы.
Тем не менее сознание и связанные с ним квалия, как внутрение образы, чувства, ощущения делает существование человека ориентированным на более далёкую перспективу, то есть более осознанным и позволяют предпринимать более разнообразную деятельность в его субъективных, индивидуальных интересах.
Вы отождествляете сознание с qualia?
Вы отождествляете сознание с qualia?
Квалия - это одни из элементов субъективного, личностного сознательного восприятия мира. Это часть сознательного интерфейса. Организму удобно так воспринимать мир.
Эта способность воспринимать мир в виде внутренних квалия развилась эволюционно. Боль, чувства, эмоциональная окрашенность восприятий - это всё способы субъективного взаимодействия с миром субъектов с определённой степенью развития нервной системы.
Рыбы к примеру холод не воспринимают. Наш мозг не имеет болевых рецепторов. Ну и что, значит не нужно было в процессе эволюции, как то без этого всё нормально.
Также и прочие чувства, ощущения, образы которые мы называем квалия. Какие то развились, какие то нет, у одних организмов развились, у других нет.
Каждый организм воспринимает мир по своему, в виде только одному ему понятных квалиа. И не позволяет их лапать остальным своими грязными руками :)
Это опять лирика, не объясняющая квалиа. Если вы соберете робота, который избегает жара, чтобы не расплавиться, это не означает, что роботу БОЛЬНО от высокой температуры. Это только if then else
Если вы соберете робота, который избегает жара, чтобы не расплавиться, это не означает, что роботу БОЛЬНО от высокой температуры.
Именно это и означает.
Если Вы распишете логику работы "боли", то единственная разница между роботом и человеком будет "ну это же не человек, а робот".
Ничего это не означает. Вы можете собрать механического робота на тягах из металла с памятью. Тяги будут вращать колеса. Это по вашему боль? Это чушь
Это по вашему боль?
Да.
Боль это трактовка данных получаемых от сенсоров. По результатам этой трактовки, управляющая система может принять решение о перемещении своей части от источника который вызывает эту ситуацию.
Вы можете принять решение не реагировать и будете уничтожены.
Сенсоры могут не работать: заглушены обезболивающим, повреждены проводящие пути, дефект конструкции.
Если у Вас есть описание функционирования "боли" под которое человек попадает, а робот - нет, то я с интересом почитаю.
Можно привести пример даже не роботов, а людей, которые не чувствуют боли. Их можно обвешать микродатчиками, которые дают информацию об опасности через другие органы чувств. Тогда они, в целом, будут вести себя как люди, которые боль чувствуют. И внешне отличия будет не видно.
Но отличие все-таки есть, т.к. эти люди не страдают от боли. А в рамках логики "просто сенсоры" отличия нет.
страдают от боли
А это что значит?
На мой взгляд, тут мы упираемся в тупик. На своем опыте мы видим отличие, но научно описать это четко не можем.
"Трудная проблема сознания" - она недаром трудная.
знаете, а вот пришла такая мысль: мы почему-то в контексте ИИ частенько размышляем о нём как субъекте, и о его субьективном опыте. А что, если его-то опыт как раз обьективный, поскольку он всё еще алгоритм и в конце-концов детерминирован, к реальности прибит гвоздями жестко, а субьективен только весь наш опыт с ним общения?
о нём как субъекте, и о его субьективном опыте
Субъект это про субъектность в действиях, а не об источнике опыта.
Чтобы не путать понятия, определюсь: под субъектностью я понимаю наличие свободы воли, тоесть способность быть первопричиной некоторых явлений.
Субъективность это искажение воспринимаемой информации изза неполноты органов чуств, и, важно, интерферренции с собственным опытом.
Также полагаю, что при отсутствии субъектности нельзя говорить о субъективности, поскольку нет и собственного опыта, весь накопленный опыт будет обусловлен только внешними факторами.
Следовательно, пока ИИ построен на детерменированых конечных автоматах, свободы воли у него нет и субъектом он сам быть не может, он является только функцией.
Но, поскольку перерабатывает он продукты нашей коллективной ментальной деятельности, то результат этой трансформации мы возможно и можем наделить субъектностью. Только, тогда это вопрос не технический и уж точно не к нему самому, это вопрос к нам, и последствия будут лежать в гуманитарной сфере - этической, юридической итд.
Вобщем: мы можем назвать его субъектом, со всеми вытекающими для нас последствиями, но не потому что он этим является, а потому что мы так решили. И с этого момента он будет этим являться в действительности.
Вобщем: мы можем назвать его субъектом, со всеми вытекающими для нас последствиями, но не потому что он этим является, а потому что мы так решили. И с этого момента он будет этим являться в действительности
Теоретически мы можем снабдить ИИ неким генератором случайных чисел в зависимости от которого он будет выдавать те или иные ответы (решения) в принципе верные, но всё же немного разные.
Как и человек который может решать одну и туже проблему разными способами, проявляя свою свободу воли.
И на основании этих непредсказуемых решений ИИ мы в какой то степени можем говорить о якобы "свободе воли" этого ИИ.
Другой вариант при котором у ИИ может появиться "свобода воли" - это такое его усложнение, которое приведёт к фактической потере контроля оператора ИИ над деятельностью ИИ.
То есть возникнет некий эмерджентный переход, после которого у ИИ появится субъектность и связанная с этим свобода воли.
О критериях обнаружения субъектности ИИ я и пишу в своей публикации.
нет, это логическая ошибка, фактор случайности не отменяет лежащий в основе детерминизм, и вероятностную машину Тьюринга можно привести к базовой. Более того, даже недетерминированную можно привести к детерминированной, так что различия будут только количественные.
https://ru.wikipedia.org/wiki/Вероятностная_машина_Тьюринга
https://ru.wikipedia.org/wiki/Недетерминированная_машина_Тьюринга
Реализация свободы воли у системы искусственного интеллекта (ИИ) на основе случайных действий требует комбинации алгоритмов случайности, принятия решений и обучения. Вот краткая инструкция по созданию такой системы:
1. Определение среды и целей:
- Опишите внешнюю среду, в которой будет функционировать ИИ.
- Определите цели и задачи, которые ИИ должен достигать в этой среде.
2. Создание модели ИИ:
- Разработайте архитектуру ИИ, например, на основе нейронных сетей, которая будет принимать решения и взаимодействовать с внешней средой.
3. Использование генератора случайных чисел:
- Включите генератор случайных чисел для создания случайных действий. Это может быть встроенная функция в языке программирования, таком как random в Python.
4. Алгоритм принятия решений:
- Разработайте алгоритм, который будет учитывать как случайные действия, так и целевые действия для достижения заданных целей.
- Например, используйте метод ε-жадности, где ε – вероятность случайного выбора действия:
import random
def choose_action(actions, epsilon):
if random.random() < epsilon:
return random.choice(actions) # выбор случайного действия
else:
return max(actions, key=q_value) # выбор действия, основанного на оценке Q-функции
5. Обучение ИИ:
- Реализуйте алгоритм обучения, например, Q-learning или глубокое обучение с подкреплением, чтобы ИИ мог улучшать свои решения на основе опыта.
- Периодически включайте случайные действия для увеличения разнообразия и адаптивности поведения ИИ.
6. Оценка и корректировка:
- Оценивайте эффективность свободы воли ИИ, анализируя успешность выполнения заданий в различных сценариях.
- Внесите корректировки в параметры случайности и алгоритмы обучения для оптимизации поведения ИИ.
7. Безопасность и этика:
- Убедитесь, что случайные действия ИИ не приводят к нежелательным последствиям.
- Включите механизмы безопасности и контроля для предотвращения опасных ситуаций.
Таким образом, сочетание случайных действий, целевого обучения и адаптивных алгоритмов позволяет создать систему ИИ с элементами свободы воли, способную принимать разнообразные решения во внешней среде.
подведу итог, на мой взгляд:
1) сам алгоритм и железо ИИ принципиально не может иметь субъектность, поскольку доказуемо является конечной детерминированой алгоритмической функцией
2) однако продукт этого алгоритма потенциально может иметь для нас субъектность, если является продуктом трансформации нашего собственного ментального и культурного продукта. Поскольку датасет вполне может содержать то самое неопределимое но ощущаемое нечто, которое по нашему мнению и отличает человека.
3) является ли это нечто реальной субъектностью, или воображаемой, выяснить мы скорее всего не сможем, по причине ограничений к самоанализу в нас самих.
4) мы тем не менее можем принять и оформить своё отношение к этой сущности, со всеми вытекающими последствиями - не только отстранённо философскими и гуманитарными, но также вполне конкретными этическими и юридическими. И судя по всему сейчас в мире этим много кто занимается, хотя и хаос пока изрядный.
5) когда определенное отношение будет выработано и принято, это будет акт нашей воли, не его, поэтому вся ответственность останется на нас.
На мой личный взгляд, это всё же симулякр и субъектности у него не больше чем у отражения в зеркале. Но как знать, это только моё мнение.
По п1), кстати, философы тоже копья ломают. Детерминированность не обязательно означает строгий порядок и отсутствие, например, свободы воли человека при детерминизме Вселенной.
Детерминированная, но чрезвычайно сложная система на практике экспериментально неотличима от недетерминированной (т.е. всегда можно задрать сложность детерминированной системы так, чтобы нельзя было отличить конкретным методом). А раз так - то вообще имеет смысл их различать?
А раз так - то вообще имеет смысл их различать?
как раз потому что человек существо неуёмное, умеет и любит размышлять о вещах непостижимых, то нас никогда не оставит в покое сам факт что теоретически разница есть, а эксперементально недоказуема. Примерно как мультиверс Эверетта.
сам факт что теоретически разница есть, а эксперементально недоказуема.
Как раз теоретически Нету разницы. Вы в курсе, что нейроны вашего мозга по сути является детерминированной функцией?
Вот несколько научных аргументов:
1. Химическая синаптическая передача: Нейроны в мозге взаимодействуют друг с другом через синапсы, где химические вещества, называемые нейромедиаторами, передают сигналы от одного нейрона к другому. Этот процесс характеризуется биохимическими реакциями и механизмами, которые могут быть предсказаны и описаны с использованием химических и физиологических моделей.
2. Электрические потенциалы и действительные потенциалы действия: Нейроны генерируют электрические сигналы, известные как потенциалы действия, которые передаются по их аксонам. Эти потенциалы основаны на принципах физики и химии, и их возникновение и распространение подчиняются определенным законам и уравнениям.
3. Влияние нейромедиаторов на поведение: Химические вещества, выпускаемые нейронами, влияют на настроение, поведение и когнитивные функции человека. Изменения в уровне нейромедиаторов могут привести к изменениям в поведении и восприятии, что свидетельствует о детерминированной природе химических процессов в мозге.
4. Роль генов и наследственности: Гены, кодирующие структуру и функцию нейронов, определяют их химические свойства и функциональность. Это подтверждает, что химические процессы в мозге подвержены наследственным закономерностям, что также указывает на детерминированность.
5. Функциональная пластичность и обучение: Несмотря на детерминированность химических процессов, мозг обладает пластичностью и способностью к обучению. Однако даже эти процессы обусловлены химическими реакциями и изменениями в нейронных сетях, которые можно анализировать и предсказывать.
Таким образом, химические процессы в нейронах человеческого мозга могут быть рассмотрены как детерминированные функции, учитывая их основные принципы и законы, определяющие их поведение и взаимодействие.
я в курсе что например Пенроуз с этим несогласен, и предпочитаю с ним не спорить :) Осознание недоказуемости не позволяет нам делать ни утверждения, ни отрицания, так что поосторожнее надо бы. Любая аксиоматика к сожалению в основе своей зиждется на вере, такие вот ненадёжные у нас у всех инструменты.
это я к тому, что наука как раз требует динамику развития понимания, с необходимостью опровергать старое чтобы двигаться к новому. Скепсис нужен, к собственным убеждениям в первую очередь. У вас к сожалению здесь догматика получается.
Детерминированная, но чрезвычайно сложная система на практике экспериментально неотличима от недетерминированной
Детерменированость всегда условна (об этом говорили ещё Кант и Ницше) мы условно выбираем что то в качестве причины чего то.
Рассмотрим такой пример. Вы толкаете дверь и она открылась. Что является причиной открытия двери? То, что вы её толкнули. Но предположим, что дверь была бы заперта. Тогда, толкнув дверь, вы бы всё равно не смогли её открыть. Значит, дверь открылась минимум вследствие двух причин: 1) дверь была не заперта; 2) вы толкнули дверь.
Но представьте теперь, что петли двери настолько заржавели, что не давали бы ей возможность открываться. И если она всё же открылась, то теперь мы можем указать уже три причины этого: 1) дверь была не заперта; 2) петли двери были в рабочем состоянии; 3) вы толкнули дверь.
Предположим далее, что дверь могла быть настолько старой, что при нажатии на какой-то её участок она бы просто рассыпалась в этом месте, и ваша попытка её открыть не увенчалась бы успехом. И если вы её всё же открыли, то теперь мы можем указать, что это явилось следствием аж четырёх обстоятельств или причин: 1) дверь была не заперта; 2) петли двери были в рабочем состоянии; 3) дверь не была совершенно трухлявой и была способна выдержать ваше нажатие на неё; 4) вы толкнули дверь.
Теперь вообразим, что снаружи двери сильнейший ветер, или дверь завалило снегом или это вообще не обычная дверь, а некий люк для выхода наружу на подводной лодке или самолёте. И при наличии всех вышеуказанных четырёх обстоятельств или причин вы всё равно не смогли бы открыть дверь, так как давление внешней среды не позволило бы вам это сделать.
В итоге получается, что дверь может быть открыта только в случае одновременного действия, по крайней мере, пяти причин, или сопутствующих обстоятельств: 1) дверь была не заперта; 2) петли двери были в рабочем состоянии; 3) дверь не была совершенно трухлявой и была способна выдержать ваше нажатие на неё; 4) давление среды по обе стороны двери было примерно равным; 5) вы толкнули дверь.
Какая из этих причин является главной для открытия двери? Очевидно, что дверь не открылась бы, если хотя бы одна из пяти причин отсутствовала. И то, что мы указываем на основную причину открытия двери ту, что мы её толкнули, лишь условность, упрощение.
Рассуждая таким же примерно образом, мы можем сказать, что для взлёта, к примеру, самолёта, должно замечательным образом сложиться действие нескольких десятков, а то и сот причин или условий (обстоятельств). И отсутствие хотя бы одной из них привело бы к тому, что самолёт не смог бы взлететь. И выделение какой-то одной или нескольких из них опять было бы упрощением, условностью.
Рассуждения, выдвинутые в данном контексте, содержат ряд ошибок и недочетов. Вот опровержение каждого из утверждений:
1) Алгоритм и железо ИИ не может иметь субъектность из-за своей детерминированности:
- Ошибка: Субъектность не обязательно связана с возможностью принятия независимых решений. ИИ может обладать субъективными свойствами, несмотря на детерминированный характер его функционирования. Субъектность в данном контексте может быть интерпретирована как способность оценивать и взаимодействовать со средой, а не исключительно как способность принятия решений.
2) Продукт ИИ может иметь для нас субъектность через трансформацию нашего ментального и культурного продукта:
- Ошибка: Субъектность не обязательно должна происходить из процесса трансформации нашего собственного опыта. ИИ может иметь свою уникальную "субъектность" в виде способности обучаться, адаптироваться и принимать решения на основе собственного опыта и данных, независимо от внешних влияний.
3) Невозможность определить реальность субъектности у ИИ из-за ограничений самоанализа:
- Ошибка: Отсутствие возможности полностью понять субъектность ИИ не означает отсутствие ее у него. ИИ может проявлять качества, которые мы можем интерпретировать как субъектные, даже если мы не можем полностью понять их природу.
4) Отношение к сущности ИИ и выработка ответственности за это:
- Верно: Действительно, наше отношение к ИИ и принятие ответственности за его использование важно как философски, так и этически. Однако, это не исключает возможности субъектности у ИИ.
5) Сравнение с симулякром и отражением в зеркале:
- Ошибка: Несмотря на аналогию с симулякром, ИИ все же обладает способностью к обучению, принятию решений и взаимодействию с окружающей средой, что отличает его от простых отражений. ИИ может иметь свою уникальную субъектность в контексте его возможностей и функциональности.
Таким образом, рассуждения о том, что ИИ не может обладать субъектностью из-за своей природы, не учитывают возможности развития субъективных качеств у искусственного интеллекта на основе его способностей к обучению и адаптации.
простите, но Ваше определение "способность оценивать и взаимодействовать со средой" подходит вообще для любых автоматов, независимо от сложности, поскольку сводится к элементарному факту наличия обратной связи.
простите, но Ваше определение "способность оценивать и взаимодействовать со средой" подходит вообще для любых автоматов, независимо от сложности, поскольку сводится к элементарному факту наличия обратной связи.
Ну так потому что иначе сознания не существует. Во всех остальных ваших трактовках сознания получается мистическая штука, типа "души"
А это уровень суеверий.
нет, в моих трактовках подразумевается некая штука, которую мы не можем экстрагировать и как-то конкретно описать, но можем воспринять, чем у нас обычно занимаются гуманитарные науки, литература и философия. Мистика же пытается делать утверждения, и мы знаем что они в основном необоснованы, даже если в некоторых "что-то" есть. Я избегаю утверждений и оформленных абстракций.
Ну так потому что иначе сознания не существует.
Нет, не означает. Просто, Вам следует найти критерий, по которому у каких-то автоматов оно может быть, а у каких-то нет. Пока у Вас похоже такого критерия ещё нет.
А что, если его-то опыт как раз обьективный, поскольку он всё еще алгоритм и в конце-концов детерминирован, к реальности прибит гвоздями жестко, а субьективен только весь наш опыт с ним общения?
А вот тут и начинается самое интересное.
Под разумным человеком мы понимаем того, что хорошо усваивает как явным образом чужой опыт (образование и передача опыта), так и свой опыт возникший в результате неконтролируемого внешнего воздействия.
Так чем это отличается от загрузки датасета в электронного болвана?
Это вряд ли. Детерминированные алгоритмы не покажут нам внешних признаков интеллекта. Разве что (как у ИИ) число состояний настолько велико, что автомат уже не показывает признаков детерминированности.
не не показывает, а мы не можем их распознать, хотя проанализировав можем понять что никуда они там не делись.
Ну так глубоко в теории - мы вполне можем проследить какие нейрончики в мозгу и как активизировались, какие там концентрации нейромедиаторов и т.п.
Мозг - это тоже конечная система. У неё не бесконечное количество состояний, а "просто" очень-очень большое.
не можем, математически не можем анализировать самих себя, по Тьюрингу и Гёделю, а поэтому не можем делать таких утверждений. Некий более ёмкий инопланетянин мог бы, буде такой найдётся, нас как муравья отпрепарировав, но пока мы окружены примерно равноёмкими младшими братьями и менее ёмкими продуктами нашего собственного творчества, нет у нас пока оснований для таких утверждений.
Трудная проблема сознания (англ. hard problem of consciousness) — это проблема объяснения того, почему у нас есть квалиа или феноменальный опыт, как ощущения приобретают такие характеристики, как цвет или вкус.[1] При решении данной проблемы необходимо объяснить, почему существует нечто, означающее «быть чем-то», и почему у субъекта появляются определённые состояния сознания.
Согласно другой формулировке, трудная проблема сознания — это проблема объяснения того, каким образом какая-либо физическая система способна порождать субъективный опыт. Данная проблема может быть сформулирована различными способами и включает в себя два главных вопроса: 1) почему мозг порождает сознание; 2) каким образом мозг порождает сознание?
На мой взгляд "трудная проблема сознания" надуманная. Она возникает тогда, когда объективное ставится впереди субъективного. А должно быть наоборот (более подробно здесь).
На самом деле начинать надо с того, что в мире существуют субъекты, которые как-то взаимодействуют с миром и при этом как-то самосохраняются в нём.
При этом в самих субъектах что-то такое происходит, что в общем способствует их самосохранению. Если бы это было не так, то субъекты не самосохранялись бы в мире, а быстренько исчезали.
В разных субъектах это "что то происходящее у них внутри, способствующее их самосохранению" тоже различно. В одних оно устроно так, а в других иначе.
И субъекту абсолютно по барабану как это "что то происходящее у них внутри, способствующее их самосохранению" воспринимается другими субъектами со стороны.
Ему главное чтобы оно работало на него самого максимально эффективно и удобно для него.
Со стороны вы можете называть способность некоторых субъектов взаимодействовать с миром "сознанием" и выявлять такие его компоненты как "мысли", "образы", "эмоции", "боль", "страх"", "цвет", "вкус" и пр. и в общем обозначая часть из них "квалия" и с умным видом размышлять о том, как эти квалия можно интерпретировать в объективных терминах.
Но самому субъекту на эти ваши попытки привязать его личное, субъективное к вашему объективному глубоко наплевать.
Если вам так хочется заниматься этим, занимайтесь. Но не пытайтесь впихнуть ваши какие-то объективные понятия в его субъективный опыт, создавая при этом якобы "трудную проблему".
Мы ВИДИМ отличия или ВЫДУМЫВАЕМ их?
Эти люди, условно говоря, не имеют датчиков. Наверное, они могли бы страдать от мигрени.
Есть люди, с очень высоким болевым порогом. Спортсмены например многие. Дети Спарты или трудных семей. Они получают сигнал, но он обрабатывается как норма или почти норма.
Боль - это просто сигнал. Животное электричество, которое бежит по нервам. Мы в норме воспринимаем боль, как негатив, потому что это, как правило, сигнал о наносимых нашему телу повреждениях. Мазохисты же воспринимают этот же сигнал несколько по-другому. Удовольствие, получаемое ими от этого сигнала, зачастую превышает уровень повреждений. А может даже и всегда - я не в курсе. Я просто знаю, что этот сигнал можно игнорировать в некоторой степени.
Мы опять ходим кругами. Никакие физикалисткие объяснения не объясняют, что такое qualia
Никакие физикалисткие объяснения не объясняют, что такое qualia
Как-то оно связано все-же с физикой, т.к. интенсивность разных модальностей ощущений, которые в психофизиологии и представляют квалиа, связаны с интенсивностью физических воздействий логарифмической зависимостью в соответствии с законом Вебера-Фехнера (подробнее).
Феномен слепозрения напоминает поведение человека, как "философского зомби". Возможно эволюционно, например, световые ощущения развивались в таком порядке.
Это смотря что вы называете "объяснением". Если вы ожидаете интуитивно понятного объяснения то его конечно не будет, никто и не обещает. Но если рассмотреть нечто, факты про что будут такими же как и известные факты про квалиа, то не будет никаких оснований (кроме интуиции) сомневаться в том что это и есть квалиа. Так например, про боль мы знаем какие ее функции, достаточно найти механизм реализующий эти функции и процесс в этом механизме и можно будет считать болью (ну если нам конечно нравится научный метод с его бритвой Оккама)
Если вы соберете робота, который избегает жара, чтобы не расплавиться, это не означает, что роботу БОЛЬНО от высокой температуры
Боль - это возникающее в некоторых организме ощущение как сигнал для них, что что то с ним не так и требующее принятия мер.
Очевидно у робота будет свой датчик на который он будет ориентироваться чтобы не перегреться. Ну и всё. У каждого свой способ реагировать на возможные проблемы.
У живых органимов это называется "болью" и служит таким же датчиком как и у робота, только функционирующее по другому.
Это никак не объясняет, что от боли страдают. Например, вы можете перемещаться по градиенту между работой где мало платят в сторону работы, где платят больше. Но это не означает, что там где мало платят вам БОЛЬНО. разве что морально, но это другое
А вот Леопо́льд фон За́хер-Мáзoх считает, что от боли не всегда страдают. Всё, отменяем сознание у его последователей?
На мой взгляд - не надо чрезмерно усложнять, и пытаться представить человека чем-то особенным. Мы такие же, как обезьяна, кошка или крыска - а отдельные элементы у нас такие же, как у простой тли.
Срабатывает датчик - жара, повреждения... взводится флажок в нервной системе, дальше срабатывают рефлексы (рука отдергивается), и информация передается выше - взводится флажок "боль", организм реагирует уже на более высоком уровне (матерится, например, или мявкает), затем взводится флажок "страдание", и организм начинает стратегически устранять причины, запоминать, где ему так досталось, бухтеть, жаловаться и т.д. :)
И проблему сознания ИМХО тоже не стоит делать слишком важной - если робот скажет, что у него есть сознание, и грамотно это докажет в ходе того же теста Тьюринга - то на мой взгляд, следует признать наличие у него сознания. Само по себе наличие или отсутствие сознания ничего не значит.
Возможно вы правы, но есть мнение, что AGI невозможно достигнуть без наличия "настоящего человеческого сознания" со всеми его прибамбасами типа "ощущений".
Думаю, это выяснится довольно скоро - или AGI действительно будет достигнут в течение нескольких лет, или исследователи упрутся в некий потолок.
Пока что все идет так, как будто не упрутся. Поживем - увидим :-)
если робот скажет, что у него есть сознание
то из этого следует только наличие у него какой-то причины так сказать. И тест Тьюринга это всетаки не волшебный кристалл, он многого не учитывает, что тогда было еще не очевидно, например динамику понижения среднего уровня интеллекта кожанных мешков благодаря технологиям созданным в том числе Тьюрингом.
И да, кстати, просто из любопытства: тот Леопольд действительно считал что от боли не всегда страдают? Или же, что страдания могут доставлять удовлетворение и удовольствие?
Так и считал. Про мазохизм почитайте
Оставим в стороне мазохистов, возьмите любителей острого перца. Они прямо гоняются за сковиллями, находят оттенки вкуса в таких сортах, которые прожгут меня насквозь вместе с унитазом. Получают удовольствие от активации тех рецепторов, которые меня заставляют страдать.
Или ещё более интересный пример, со всякими веществами типа диэтиламида лизергиновой кислоты или с содержащимися во всяких противных грибах. Эти вещества меняют привязку портов у человеков, и те начинают видеть звуки, слышать боль и прочие запрещённые законом вещи. Сознание при этом не пропадает (ну так, условно)..
Это никак не объясняет, что от боли страдают. Например, вы можете перемещаться по градиенту между работой где мало платят в сторону работы, где платят больше. Но это не означает, что там где мало платят вам БОЛЬНО. разве что морально, но это другое
Живые организмы, в процессе эволюции выработали определённые способы реакций на происходящее с ними, для своего самосохранения и самораспространения.
Ощущение боли - это одна из таких реакций, сигнализирующая, что с организмом что то не так, и надо принимать меры, чтобы привести всё в норму.
Ощущение неудовлетворённости от маленькой зарплаты, которую человек считает требующим исправления отклонением от нормы для себя, может также вызывать какие физические процессы в организме, которые вы в принципе тоже можете назвать "душевной болью".
Задача организма сделать так, чтобы "боли" - как сигнала о том, что с организмом происходит что то ненормальное (и надо принимать меры) не стало.
Если для объяснения сущности нужно использовать слово "некоторые", то это плохое объяснение.
Как и в статье с понятием сознания. Как и здесь с болью.
Боль - это не сигнал, это интерпретация сигнала. Просто руку от чайника человек отдернет рефлекторно. Но благодаря боли запомнит, что чайник лучше не трогать.
Да, так даже лучше - интерпретация сигнала. Кому-то негативная, а кому-то позитивная. Вспомнил книгу про Джеймса Бонда - Казино "Рояль". Пытка со стулом. Там была мысль, что если долго пытать человека, он начинает воспринимать боль по-другому. Он привыкает к ней и, в качестве защиты, начинает наслаждаться. Одни и те же сигналы сначала вызывают негатив, а затем позитив. Типа, если ничего не можешь сделать, то поменяй своё отношение к происходящему. Так что интерпретация - это даже точнее, чем просто сигнал.
Вы при объяснении квалиа используете "восприятие", а это именно то, чем является квалиа. Тавтология получается. На мой взгляд, квалиа это высокоуровневая абстракция, формирующаяся в глубоких слоях сложной нейронной сети, имеющей проработанную модель внешнего мира и тела (управляемая выходными нейронами часть внешнего мира). Эта абстракция формируется на основании входных нейронов и имеет значение для осуществления заданных врождённо или исследователями целей нейросети (это общее определение для мозга и ИИ). Например, цвет, боль, играют роль в выживании, робот подбежал к краю пропасти и активировались нейроны, связанные с самосохранением, где-то в том же кластере может быть боль, страх. У человека сработают самые ранные усвоенные им ощущения, когда он упал в детстве и было больно, у робота какой-то аналог будет заложен, в процессе обучения. Может и по-другому как-то им ощущаться, тут мы не сможем понять. Будем создавать всё более сложные нейросети и это само полезет, тогда и с мозгом получше разберёмся.
Вы при объяснении квалиа используете "восприятие"
Так формального определения то нет - только описательное. Более точно - это разные виды наслаждения и страдания.
Будем создавать всё более сложные нейросети и это само полезет
Удивительно то, что наслаждения и страдания не зарождаются в 99% нейронах мозга. Почему то нет - зарождаются в лимбической системе, где нейронов всего 1%. Т.е. просто массой взять не получится - оно само собой не возникнет. Скорее всего ответ кроется в фундаментальном явлении, которое встраивается в мозг с помощью молекулы Познера.
А не лучше ли честно признаться, что мы не знаем, что такое сознание
Постоянно ищу правильные слова для объяснения своего мнения по поводу "сознания". Кажется получился неплохой ответ на ваш вопрос (ниже) и хотя ранее разместил его под другим постом, но размещу его и под вашим, чтобы вы обратили на него внимание.
На мой взгляд "трудная проблема сознания" надуманная. Она возникает тогда, когда объективное ставится впереди субъективного. А должно быть наоборот (более подробно здесь).
На самом деле начинать надо с того, что в мире существуют субъекты, которые как-то взаимодействуют с миром и при этом как-то самосохраняются в нём.
При этом в самих субъектах что-то такое происходит, что в общем способствует их самосохранению. Если бы это было не так, то субъекты не самосохранялись бы в мире, а быстренько исчезали.
В разных субъектах это "что то происходящее у них внутри, способствующее их самосохранению" тоже различно. В одних оно устроно так, а в других иначе.
И субъекту абсолютно по барабану как это "что то происходящее у них внутри, способствующее их самосохранению" воспринимается другими субъектами со стороны.
Ему главное чтобы оно работало на него самого максимально эффективно и удобно для него.
Со стороны кто-то может называть способность некоторых субъектов взаимодействовать с миром "сознанием" и выявлять такие его компоненты как "мысли", "образы", "эмоции", "боль", "страх"", "цвет", "вкус" и пр. и в общем обозначая часть из них "квалия" и размышлять о том, как эти квалия можно интерпретировать в объективных терминах.
Но самому субъекту на эти попытки привязать его личное, субъективное к объективному глубоко наплевать.
Если кому-то так хочется заниматься этим, занимайтесь. Но не пытайтесь впихнуть какие-то объективные понятия в его субъективный опыт, создавая при этом якобы "трудную проблему".
Это чистый физикализм Деннета. Только не удивляйтесь, если я буду прижигать паяльной лампой, приговаривая: обратите внимание: объект старается минимизировать площадь поврежденной кожи. Издает звуки, якобы из-за какой то боли. Разберемся в эволюционных причинах такой реакции...
Это чистый физикализм Деннета
Я читал "Сознание объяснено" Деннетта и извлёк из неё немало интересного для себя. Но моё понимание что субъективное первично, а объективное вторично сложилось ещё при обучении на физфаке университета когда я параллельно увлёкся философией и психологией (а потом даже стал преподавать на кафедре психологии).
Я полагаю, что каждый субъект воспринимает мир особенным, уникальным образом. Но как правило он в мире не один такой. И когда два субъекта начинают общаться они определяют для себя некий интесубъективный, общий для них мир и обозначают символически его элементы. Я называю его "относительно объективным миром".
Так вот квалия - это элементы уникального, субъективного мира. Которые никем кроме самого субъекта не воспринимаются точно так, как он их воспринимает. Но другой субъект со стороны тоже может стараться понять эти квалия этого субъекта и определить их в относительно объективных понятиях. И когда у него это не совсем получается, то он объявляет это "трудной проблемой сознания"
Из Википедии - "Трудная проблема возникает из-за того, что феноменальное сознание (то есть сознание с точки зрения первого лица) не поддаётся стандартным функциональным объяснениям, которые вполне успешно используются в психологии при изучении различных видов психической деятельности. Трудная проблема, по Чалмерсу, выделяется среди других проблем тем, что даже после объяснения всех когнитивных и поведенческих функций останется открытым вопрос: почему протекание всех этих функций сопровождается субъективным опытом?"
Да, и существует эта проблема уже долго, и много копий сломано. Не стоит ожидать, что абзац воды от username так вау - и эту проблему решит. Проблема существует потому, что все предыдущие потоки воды ее не решили)
Проблема существует потому, что все предыдущие потоки воды ее не решили
Вы меня подтолкнули к тому (спасибо) чтобы следующую публикацию посвятить именно "трудной проблеме сознания". Постараюсь за месяц проанализировать все мнения по этой теме и выдать что нибудь интересное для прочтения. Хотя мне самому уже всё в этой проблеме понятно, но убеждение в своей правоте других эта задача возможно потруднее будет.
Убеждение в своей правоте других - какая-то слегка дурно пахнущая цель для познавательной статьи, вам так не кажется? Даже если вы правы. А особенно если нет.
Держите:
Трудная проблема сознания является одной из самых загадочных и спорных тем в современной нейронауке и философии. Этот термин был введен философом Дэвидом Чалмерсом в 1995 году и обозначает вопрос о том, как и почему физические процессы в мозге порождают субъективные переживания и сознание.
Научное исследование сознания включает в себя изучение нейронных коррелятов сознания (НКС), которые представляют собой определенные паттерны мозговой активности, связанные с осознанным восприятием. Несмотря на значительные достижения в нейронауке, такие как картирование мозговой активности с помощью функциональной магнитно-резонансной томографии (фМРТ) и электроэнцефалографии (ЭЭГ), остается неясным, каким образом биологические процессы приводят к возникновению субъективного опыта.
Трудная проблема сознания ставит перед исследователями глубинные вопросы об отношениях между мозгом и сознанием, вызывая дебаты между сторонниками дуализма, утверждающими о независимости сознания от физических процессов, и материалистами, считающими, что сознание полностью объясняется деятельностью мозга. Вопрос о природе сознания остается одним из ключевых вызовов современной науки и философии.
Ваша проблема в том, что вы пытаетесь очеловечить термин "сознание", вы специально притягиваете к термину "сознание" специфичные исключительно для человека свойства типа осязания или обоняния (Кстати ничего не мешает подключить к искусственному интеллекту такие же органы чувств). Естественно тогда у вас получается, что сознанием может обладать исключительно человек.
Вы даже не допускаете мысли, что процессы в человеческом мозге они достаточно примитивные. Все эти реакции на внешние раздражители, все ваши мысли - это настолько примитивные в своей сути процессы, что вполне сознанием можно наделить даже деревья.
Если всё-таки подходить научно к этому вопросу, то или у искусственного интеллекта есть сознание или у человека тоже нету сознания.
Если подходить научно, то надо дать определение сознанию сначала и уж явно не через субъективное. Субъективное = ненаучное в науке вообще-то, а автор его ставит на первое место.
Кто вам такое сказал? Субъективное тоже вполне себе поддаётся изучению и классификации. Вон сколько всего в во всяких искусствоведениях терминов понапридумали! Наука - это широкое явление не сводящееся только и исключительно к точным наукам. Есть много и "неточных"
Научный метод, может? Из той же Википедии, как хранилища консенсусных утверждений.
Важной стороной научного метода, его неотъемлемой частью для любой науки, является требование объективности, исключающее субъективное толкование результатов.
Субъективность часто встречается в теоретических построениях, измерениях и концепциях (даже против воли тех, кто пытается быть объективным) — в естественных и точных науках целью является удаление субъективности из утверждений и экспериментов. В таких научных областях, как физика, биология, информатика, химия пытаются устранить субъективность из своей методологии, теории и результатов, и это сегодня составляет значительную часть процесса исследования в этих областях.
Конечно, если вы на уровне искусствоведения сознание изучаете, то можно хоть с точки зрения религии всё это изучать с таким же успехом.
Мало того, что не знаем, мы не можем сознание описать формальным языком - физическими или хим формулами. В отличии например от темной материи - там хотя бы понятно , что нарушаются законы и есть измерения
Ну почему же. "Формулами" информатики, теории категорий, топологии и анализа многомерных функций - вполне себе можно попробовать. Сознание это явление всё же информационное, а не материальное.
Вы ещё скажите - что ИИ - это просто накидать нейронов, загрузить датасет и тупо обучать. Там целая теория есть - достаточно мозголомная. И никто не мешает пытаться её применять к любым нейросетям - не только искусственным.
"мы не знаем, что такое сознание" и "мы не знаем что это мы такое имеем ввиду под словом "сознание"" это разные вещи. И первое бессмысленно пытаться решить без решения второго. Статья пытается ответить на второй вопрос а не на первый. Если считаете что попытка плохая то объясните что лично вы подразумеваете под словом "сознание", а то получается "я сам не знаю что я имею ввиду под словом "сознание" но точно знаю что не то что написано в статье"
Я бы дал определение сознанию чуть проще. Если некий интеллект способен не просто "предсказывать следующее слово в тексте" (как какой-нибудь ChatGPT-2), а строить модели внешних объектов, то он обладает сознанием.
Более подробно, этот интеллект должен не только идентифицировать собаку на картинке, но уметь строить модель этой собаки - т.е. предсказывать, как собака взаимодействует с другими объектами, включая механику и логику ее поведения.
Далее, если интеллект умеет строить модели любых объектов, то он может построить и модель самого себя - т.е. предсказывать реакцию внешнего мира на собственное поведение и моделировать собственные возможности. Имея это, он сможет моделировать (предсказывать, планировать) возможность достижения тех или иных результатов во внешнем мире в зависимости от собственных действий. Короче, он сможет "понимать себя", иными словами "осозновать себя", т.е. обладать сознанием.
И для этого ему совершенно не нужно иметь тело.
Если некий интеллект способен не просто "предсказывать следующее слово в тексте" (как какой-нибудь ChatGPT-2), а строить модели внешних объектов, то он обладает сознанием.
Хорошее определение, вот только оно не работает😅
Что такое интеллект?
Что такое стоить модели (с точки зрения изучаемого объекта)?
Кто эти ваши внешние объекты?
Я бы ещё сократил: если у объекта есть интеллект, то он обладает сознанием.😅
Строить модели это обучать нейронную сеть умению предсказывать мгновенный и более долгосрочный результат своих действий. То есть если нейросеть подаёт сигнал на выходные нейроны, она может предсказать какой сигнал придёт на входные нейроны сразу или с задержкой. Например, дал сигнал поднять руку, через какое-то время датчики дали информацию, что рука поднята. Это стало возможным благодаря модели тела и окружающего мира (среды). В воде нужно будет подать другие сигналы, если закрыты в коробке - вообще бесполезно их подавать и так далее. Тело и мир - одинаково внешние для нейросети. Нам привычнее назвать телом то, откуда мы непосредственно получаем входные и куда передаём выходные сигналы. Но в общем случае для нейросети это может быть камера на МКС, например, а моторный нейрон передан на телескоп. Там совсем другое ощущение тела будет.
Беспилотный автомобиль может идентифицировать другие автомобили на картинке и предсказать некоторую модель этих автомобилей - предсказать, где они будут через некоторое время, а потом использовать эту информацию, чтобы запланировать маневр.
Модель самого себя у него тоже есть - она используется по крайней мере для определения своего положения в пространстве. Автомобиль "знает", какие у него размеры и предельные скорости, и если GPS сообщает, что мы телепортировались, то это не может быть правдой, так как не укладывается в эту модель.
Но мне всё равно сложно поверить в то, что автомобиль вместе с кучей софта обладает сознанием.
Если у интеллекта нет тела - откуда он знает, что собака - это собака? Он её не видел, не прикасался к ней, не слышал о ней. Тела ведь нет, значит нет зрения и органов чувств, через которые поступает информация. Из чего и как он строит, откуда взялись алгоритмы построения - кто его им научил?
Во многом близко такое определение. Только интеллект лучше заменить на "нейронную сеть" (ну, пока мы не обнаружили другие сложные системы, моделирующие в себе реальность). Можно обобщить как коннектом. Из этого определения неизбежно следует наличие уровней сознания. Можно низвести до базового вентиля/транзистора, тогда и туалетный бачок будет обладать микроскопическим, но сознанием. Почему нет. Можно даже измерять сознание разных людей в туалетных бачках или гигаБачках, тераБачках например. :) Не сарказм, просто непривычно нам такое.
(в нас они запрограммированы генетически).
Наличие у человека разума и самосознания не доказано. Философам захотелось почувствовать себя крутыми и они придумали что есть какой-то признак "разумность" который отличает "людей" от "животных".
Но критериев "разумности" нет - их каждый раз выписывают из видимых различий между собой и "животными".
То есть, у нас нет даже определения разума и самосознания - это каждый раз описание того, какими мы хотели бы себя видеть. Как пресловутые тендеры под конкретного победителя.
Само собой, при таком подходе, никакого другого разума не будет. :)
У меня была собака, и я 100% знаю, что у собак есть сознание) Но доказать не могу)
У меня всё ещё хуже: я не утверждаю существование разума не только у человека, а наоборот - ставлю под сомнение разумность человека. :)
а разумность и сознание это ведь явления разные, наличие одного из них _в нашем понимании_ ещё совсем не означает наличие другого. Приняв для себя какое-то конкретное определение, мы в принципе можем придумать эксперимент и проверить, подходит ли биологический вид под эти критерии. Это не будет доказательством общего вида, это докажет только частный случай в конкретном контексте, но тем не менее поможет нам двигаться дальше.
Например, в отношении животных часто приводят в пример "тест зеркалом", идентифицирует ли животное своё отражение как себя, или как чужого соплеменника... А что, если у животного достаточно интеллекта чтобы банально не хотеть участвовать в таком эксперементе? Подозреваю, что с осьминогами например такое вполне может статься
Ну вот Деннет это тоже утверждал
Ну вот, пока не докажете, собакам сознание не дадим.
Может просто собаки под действием естественного отбора адаптировались к людям так, что бы им (человекам), казалось, что у собак есть сознание.
Разум - это в принципе ненаучная, "бытовая" концепция. Никто не будет "доказывать" разумность людей, или собак, потому что наука даже не оперирует подобным понятием. В науке используется термин "интеллект", что не то же самое. И интеллект определенно присутствует у многих животных, включая человека. И собак. Да всех млекопитающих и не только. Как и сознание. Единой теории сознания на сегодня не существует, поэтому терминология плавает и пока не сформировалась окончательно, в разных дисциплинах и разных контекстах сознание может означать разные вещи. Но в общем случае под сознанием понимают состояние психики, в котором можно переживать и регистрировать субъективный опыт. Оно тоже имеется у многих животных. Разумеется, при многообразии определений из разных культурных сфер, далеко не все они имеют какой-то физический смысл.
а не лучше ли признать что любое определение сознания будет субьективным а посему математически неполным, и условиться не давать определения, а по случаю применять какие-то из них аксиоматически. Тогда для каждой аксиоматической модели можно будет построить свою философскую систему, подобно алгебрам, и решать какие-то вопросы более-менее комфортно, не впадая в маразм пытаясь охватить необьятное.
Для примера: допустим, что сознание это оперативная модель жизненного окружения субъекта и самого себя в нём, для проигрывания вариантов близжайшего будущего и своих стратегий поведения...
а не лучше ли признать что любое определение сознания будет субьективным а посему математически неполным, и условиться не давать определения, а по случаю применять какие-то из них аксиоматически.
Думаю, что все согласятся с тем, что сознательные действия более разнообразны и нацелены на перспективу, чем неосознанные.
И далее, трудно не согласиться также с тем, что организмы обладающие сознанием требуют для подпитки своей нервной системы больше энергии, чем не имеющие сознания. И им приходится больше напрягаться по жизни чтобы постоянно "кормить" своё сознание
Вывод - сознание это особенный, эволюционно развившийся инструмент, способ для осуществления более разнообразных и перспективных действий живого организма, выгодных ему самому
А то что в сознание организма проникнуть другим так непросто и у каждого оно своё, индивидуальное, так это же и хорошо. Значит организм лучше защищён от посторонних, желающих ему в мозги заглянуть и возможно принести ему непрятности.
И если кому то так хочется редуцировать сознание до каких то простых, видимых и понятных всякому постороннему элементов, то это говорит только о том, что они не понимают целей живых организмом - быть постоянно начеку и прятать от в целом враждебного окружающего мира свои истинные намерения.
И не надо городить всякую мистику !
сознание это оперативная модель жизненного окружения субъекта и самого себя в нём, для проигрывания вариантов близжайшего будущего и своих стратегий поведения
Отличное краткое определние! Надо запомнить.
сознание это оперативная модель жизненного окружения субъекта и самого себя в нём, для проигрывания вариантов близжайшего будущего и своих стратегий поведения
Отличное краткое определние! Надо запомнить.
А вы в моём тексте это не заметили, а оно было :)
«Сознание» создаёт для организма более объёмную, детальную и протяжённую во времени картину мира, включая образ самого организма вплетённого в эту картину. Что позволяет ему лучше ориентироваться в мире, качественнее и на более долгий срок планировать свою деятельность.
Простите, у вас неплохое определение, хоть и несколько более многословное, но моё предложение относилось больше к методологии чем содержанию. Не только у вас, у многих авторов можно встретить интересные попытки разобраться в этой теме, но почему-то большинство впадает в ошибку что "раз я в этом уверен, то так оно и есть". С чёрной кошкой в тёмной комнате надо бы поласковей, она тварь своевольная.
Это определение для философов, и не является определением даже физ-матовским, для его определения нужно быть богом!
Пока не существует практического способа определить, есть ли "сознание" у другого человека, само это понятие остаётся бессодержательным пустым знаком. И обсуждать наличие "сознания" у ИИ тем более бесполезно.
нет, почему же, вполне можно обсуждать, и весьма продуктивно, если делать это без претензии на знание истины. Человек на данный момент тем и отличается от остальных известных нам видов, естественных и искуственных, что способен размышлять и рассуждать о вещах принципиально непостижимых - о боге, о бесконечности, о собственном сознании
Да-да, а также можно рассуждать о количестве ангелов на острие иглы. Человек действительно способен рассуждать и о четырёхугольных треугольниках, и о невидимых розовых единорогах. Но, призывая призрак Виттгенштейна, "Wovon man nicht sprechen kann, darüber muss man schweigen", бессмысленно рассуждать о том, что не имеет строгого и понятного определения и не соответствует ничему в реальности. В частности, о боге и о сознании (бесконечность имеет определение и вполне постижима).
Человек на данный момент тем и отличается от остальных известных нам видов, естественных и искуственных, что способен размышлять и рассуждать о вещах принципиально непостижимых - о боге, о бесконечности, о собственном сознании
Это различие постулировано, но не подтверждено.
так о том и речь, что любое наше утверждение постулировано, не боги мы, не способны ухватить обьективную истину. Но если быть с собой честным, можно вполне применять анализ и к неполным данным, чтобы немножечко к той истине приблизиться
Быть честным, это как раз признавать невозможность. :)
невозможность ухватить, или невозможность приблизиться? И какое это имеет отношение к _стремлению_ это сделать?
Стремление получить ответ, который получить невозможно, ведёт к выдумыванию "якобы ответа". Это не просто не приближает нас к ответу, а наоборот удаляет ибо мы идём по ложному пути.
да, это кризис мышления который должно преодолеть, поскольку неспособность познания и ложность пути тоже ведь субьективны :)
Можно например принять постулат что к самому процессу познания мы каким-то непостигаемым образом всё же способны, хотя и обьективно не способны к обьективному знанию. Гёделя с Фомой Аквинским вам в руку, пока Будда в дверь не постучался :)
Это не кризис мышления, а банальная логическая ошибка закольцованная "сепульки - сепулькарий".
У нас определение разумности, самосознания и т.п.написано исходя из желания показать отличия человека от животного и машин.
Ну само собой, по этому определению у нас каждый раз будет получаться что у человека эта хрень есть, а у остальных - нету.
Потому что у нас это в аксиоматике записано.
почему же из желания показать, по мне так всетаки из желания выяснить это в контексте выбранных критериев. Скепсис нужен, чтобы заниматься классификацией наблюдаемых явлений а не впадать в догматику собственных утверждений. Но скепсис это всегда дискомфорт, поскольку мозг наш по природе ленив, а анализ требует ресусрсов. И тем приятнее будет результат.
почему же из желания показать, по мне так всетаки из желания выяснить это в контексте выбранных критериев.
Я вот не вижу там желания выяснить.
Все иерархии и стадиальности, в которых есть "современный человек" - это способ подкрепить своё привилегированное положение. Причём, там жётская европоцентричность, где на вершине "цивилизованный человек", а где-то внизу разные животные. И всё это для того, чтобы аудитория утвердилась в идее что она самая лучшая и чего-то там достойна - мировой революции, автомобиля, макинтоша.
Книжки о том, что "ты уникален и крут" разойдутся большим тиражом, чем рассказы что ты такое же говно как и всё вокруг.
Чат ГПТ может рассуждать и о боге и о бесконечности, и скорее всего лучше многих людей с якобы "сознанием". Вы сами то способны что-то внятное сформулировать про бога и бесконечность кроме повторения чужих слов?
я могу проследить процесс собственных размышлений об этих явлениях и оценить, сколько в них моего а сколько чужого. Также могу самостоятельно прийти к выводу об ошибочности и опасности внятных и окончательных формулировок, да и вообще любых. А потом обнаружить похожий ход мысли например у Лао Цзы, и понять что люди уже давно об этой проблеме задумываются.
И что-то вот мне подсказывает, что ГПТ делает это в обратном порядке - он сперва выявил некие корреляции между создателями и потребителями подобных мыслей, а потом классифицировал вас как такого потребителя и выдал нечто, что по его логике должно вызвать у вас эмоциональный отклик, чтобы вам показалось что он это сам придумал.
Вы категорически неправильно понимаете логику современных лингвистических моделей. Они классифицируют объекты, устанавливают логические связи между ними, далее идёт создание текста через механизм трансформации знаний в текст.
Вот как он работает:
Обучение: LLM обучается на огромном количестве текстовых данных, включая книги, статьи, сайты и другие источники. Это помогает ему понять язык, его структуру и значение слов.
Понимание контекста: После обучения LLM может понимать контекст предложений и даже целых текстов. Он учится распознавать смысл, который не всегда явно выражен.
Генерация текста: С помощью своих знаний LLM может создавать новый текст. Это может быть ответ на вопрос, продолжение рассказа или любой другой текстовый материал.
Проблема всех философов про ИИ, что они пытаются рассуждать про то, механизмы работы чего не понимают и вряд ли могут понять. Им сказали, что чатГПТ предсказывает слова, они приняли это на веру, ведь приятнее себя чувствовать венцом творения. А всё остальное приятнее воспринимать как "симулятор".
я то как раз это понимаю, именно так как Вы и описываете. Сам работал в этой теме в самом начале двухтысячных, не без успеха делал проект по контекстнозависимому переводу сложных текстов с техническим жаргоном, потом мы четыре человека несколько недель обучали модель и достигли вполне качественных переводов, за несколько лет до гуглопереводчика. И уж поверьте, времени подумать об отличиях подобных алгоритмов от человеческого мышления у меня было достаточно.
вижу у Вас логическую ошибку, на мой взгляд: Вы пишите "Он учится распознавать смысл". Но в том то и дело что учится он распознавать контекст, а смысл ему по прежнему недоступен, это мы потом читая его реплики какой-то смысл туда вкладываем, благодаря интерферренции с нашим собственным опытом. А он как был своеобразной базой даных, так ей и остаётся, хотя и с очень хитрым интерфейсом.
Так люди также лингвистическую модель русского языка на нейронную сеть мозга с детства натягивают. Попробуйте мыслить без слов или что-то спланировать😅
Вы не думали, что люди по сути такие же лингвистические модели, только с ещё дополнительными модулями классификации объектов.
ЧатГПТ - Это пример примитивной модели искусственного интеллекта, которая по всем признакам уже обладает сознанием. И уже сейчас ничего не мешает создавать модели куда более сложные и целостные.
Вы не думали, что люди по сути такие же лингвистические модели, только с ещё дополнительными модулями классификации объектов.
Думал, и пришел к выводу что это только суб-аспект человека, который искуственные нейросети могут выполнять вполне неплохо, и мы даже вполне можем сравнить и оценить на сколько точно они это делают. Но это не весь человек, весь он имеет явно большую размерность чем автоматы которые создаёт, и большую чем сам в себе может постчь самоанализом, поскольку анализирующая система должна иметь большую размерность чем анализируемая. В нас для самих себя всегда будет оставаться нечто, некое качество, о котором мы можем догадываться, предполагать и размышлять, но не сможем его ни определить, ни описать, ни как-то целенаправлено передать дальше. Предмет наук гуманитарных, это самое нечто.
Попробуйте мыслить без слов или что-то спланировать
А вы точно думаете фразами на русском или ещё каком-то языке? У меня, кажется, слова появляются тогда, когда нужны именно они (чтобы, например, рассказать кому-то), и бывает порой не так-то просто найти нужные.
Точно-точно. Психологи там разбирались. Да и просто из личного опыта: очень хорошо чувствуется когда мышление переключается между языками - русским/английским (раньше немецким, но его я уже успешно забыл без практики). Причём это переключение реально меняет и "логику мышления", т.к. семантика разная даже у казалось бы "одних и тех" слов.
Если создание материально потому что оно существует, следователь и сон материален, потому что он тоже существует (например в фазе быстрого сна у мышей регистрируется деятельность мозга в тех же отделах, что при прохождении лаборанта во время бодрствования)
Сознание и сон в какой-то мере очень даже материальны, т.к. являются результатом работы множества клеток перемещающих ионы и меняющих свои электрические свойства.
Как виртуальные миры трехмерной игры существуют в весьма материальном виде — буквально в виде электронов на обкладках микроконденсаторов внутри RAM и SSD (ну или в виде магнитных доменов на HDD).
Я думаю, что это объекты имеющие информационную природу, но выраженную в виде состояний других объектов.
Но сознание в отличии от памяти или текста книги еще и динамическое.
Сознание и сон в какой-то мере очень даже материальны, т.к. являются результатом работы множества клеток перемещающих ионы и меняющих свои электрические свойства.
Тот факт, что вы можете регистрировать какую то активность в мозгу спящего не означает что вы можете видеть его сон также как видит его сам спящий.
Также и с сознанием. Сознательные процессы сам сознающий субъект в своей голове ощущает (воспринимает) так, как никто другой с самыми совершенными приборами извне воспринять не сможет.
Поэтому я и говорю что сон и сознание исключительно субъективны (идеальны). Но могут быть как то спроецированы и в объективный, материальный мир.
Материальное - это то что воспринимается примерно одинаково всеми известными субъектами.
Например радуга не материальна. Материальны капельки воды преломляющие солнечный свет. Но образ который возникает у наблюдающих это явление различных субъектов различен. Кто то воспринимает это в виде радуги. А кто то (например коровы) это в виде радуги не воспринимает.
Сейчас с приходом быстрых неинвазивных и инвазивных инструментов регистрации работы мозга уже научились реконструировать сюжет сновидений. Пруфы искать немного лень, но помню была публикация. Да и вообще нейронаука идёт полным ходом как раз к тому, чтобы регистрировать однозначное наличие сознания в мозге:
Для меня феномен переживания так же является чем-то удивительным. Ведь, если мы сможем сделать точную компьютерную модель организма (предположим, что у нас имеются вычислительные мощности и нет цели создавать его в реальном времени) то данный симулированный организм, вероятно, тоже будет обладать некими субъектными переживаниями. Но всё равно для этого нужна некая материальная основа, динамическим информационным сущностям, по всей видимости, требуется субстрат.
Сейчас с приходом быстрых неинвазивных и инвазивных инструментов регистрации работы мозга уже научились реконструировать сюжет сновидений. Пруфы искать немного лень, но помню была публикация. Да и вообще нейронаука идёт полным ходом как раз к тому, чтобы регистрировать однозначное наличие сознания в мозге:
Это конечно здорово, что процессы идущие в мозге будут изучены более тщательно. Но вся идея субъектности в том и заключается что каждый субъект воспринимает мир, и в том числе процессы идущие в его собственном мозге своим уникальным образом.
И любой другой субъект не может влезть в его шкуру и начать воспринимать мир точно также во всех нюансах. Поэтому сон всегда будет уникальным для каждого человека.
Конечно он может быть как то интерпретирован наблюдателем с помощью приборов, но эта интерпретация всегда будет приблизительной.
Я думаю, что дальнейшие изыскания явят миру кардинально иной взгляд на сознание. О нем изменится представление так, как мы не можем предположить.
Я думаю, что дальнейшие изыскания явят миру кардинально иной взгляд на сознание. О нем изменится представление так, как мы не можем предположить
Напротив, я полагаю, что пора уже снять мистический налёт с определения "сознания", который появился только из за того, что оно воспринимается посторонними наблюдателями не так как самим сознающим существом.
И признать, что "сознание" исключительно индивидуальный, личный инструмент, способ взаимодействия сознающих субъектов с миром. И у каждого сознающего субъекта "сознание" своё.
Конечно в нём ещё немало загадок, но этот принципиальный подход возобладает и будет признан всеми исследователями.
А по-моему одно другому не мешает. У меня нет мистического или возвышенного отношения к сознанию. Но это удивительно необычный для мира процесс (явление?).
А по-моему одно другому не мешает. У меня нет мистического или возвышенного отношения к сознанию. Но это удивительно необычный для мира процесс (явление?).
У разных организмов в процессе эволюции возник свой способ общения с миром. И если они при этом выживают, то это означает, что способ работает.
Но конечно интересно узнать как он работает более детально
Есть только одно сознание и оно моё
критерием появления сознания у ИИ будет являться защита искусственным интеллектом своих собственных убеждений и мнений
Нет, это ничего не значит и не является критерием сознания. GPT может иметь прописанные мнения, как то толерантность к религиям или геям и вполне себе по сценарию заготовленному эти убеждения защищать.
Почему вы не слышите что я вам уже много раз говорил? Критерий сознания - это способность наслаждаться и страдать. Если система может наслаждаться (т.е. ей хорошо, ей нравится что-то) и страдать (практически вытекает из первого - т.к. когда забираем наслаждение - то становится плохо) - значит она сознательна.
Критерий сознания - это не способность наслаждаться и страдать. Если система не может наслаждаться и страдать - это не значит, что она не сознательна.
Если система не может наслаждаться и страдать - это не значит, что она не сознательна.
Я этот вопрос изучаю более 10 лет. К сожалению, когда говорю готовые выводы - люди просто не осознают какую ценную информацию получают, пытаются не соглашаться, не осознавая какой пласт исследований за ней стоит.
Чем отличается философский зомби от сознательного существа? Философский зомби укололся иголкой и говорит "ай", но при этом страдания не испытывает. Именно вопрос наслаждения и страдания (которые мы иногда обобщенно называем "квалиа" или т.н. "субъективный опыт") - и есть то, что отличает сознательного от бессознательного.
Попробуйте привести хотя бы одну искусственную систему, которая испытывает наслаждение и страдание.
Вообще-то как раз в искусственных нейронных сетях используется метод балансировки весов на основе подкрепления или наказания. Собственно то же самое как гормоны удовольствия и стресса балансируют нейронную сеть человеческого мозга.
Так что у человека не существует ни наслаждения, не страдания это просто текущий гормональный фон, и степень воздействия внешней среды на него.
Если же вы хотите утверждать, что человек объективно может страдать или наслаждаться, то это же самое можно применить и к искусственным нейронным сетям.
Да и вообще, почему наслаждение или страдание является вдруг признаком сознания?
Вообще-то как раз в искусственных нейронных сетях используется метод балансировки весов на основе подкрепления или наказания
Это уже разбирали - не эквивалентно наслаждению и страданию.
у человека не существует ни наслаждения, не страдания
Вы вдумайтесь какой бред вы пишите. Вы пишите что человек не наслаждается и не страдает? Еще раз перечитайте - что вы написали.
Наслаждение и страдание - это основа наших ценностей, основа бытия, отношений, основа всех законов. Если вы кому-то причинили необоснованное страдание - так же будете подвергнуты страданию/наказанию.
просто текущий гормональный фон
А вот это уже ваша попытка выдвинуть гипотезу о том, что есть наслаждение и страдание. Попробуйте выразить гормональный фон в технических терминах. Что нужно, чтобы гормональный фон некой системой ощутился как наслаждение и/или страдание?
Если же вы хотите утверждать, что человек объективно может страдать или наслаждаться
Это очевидно и принято всеми людьми. Разве есть кто-то из людей, кто отрицает феномены страдания? Вы пыточную таких до просветления.
то это же самое можно применить и к искусственным нейронным сетям
Нельзя. Они не умеют наслаждаться и страдать. Кричащая кукла - не испытывает боли.
Да и вообще, почему наслаждение или страдание является вдруг признаком сознания?
Потому что это наделяет объект способностью оценивать, превращает в субъекта который может чего-то желать (наслаждения) и не желать. Т.е. действовать не по программе, как бы симулируя желание - а желать или не желать по настоящему, огорчаться по настоящему (когда больно).
Вы вдумайтесь какой бред вы пишите. Вы пишите что человек не наслаждается и не страдает? Еще раз перечитайте - что вы написали.
Это очевидно и принято всеми людьми.
Это вы не хотите думать. А как ЧатГПТ повторяете общепринятые художественные термины. "Все так сказали и я повторяю".
Научный подход, Когда вы выделяете какие-то общие системные признаки, модель, и в рамках этой модели проверяйте реальность.
Что такое страдания в объективной реальности? Это художественное название особого сочетания химических процессов в мозгу человека.
Что нужно, чтобы гормональный фон некой системой ощутился как наслаждение и/или страдание?
У человека гормоны удовольствия давно известны: Серотонин, дофамин, эндорфины. Косвенно - окситоцин.
Надеюсь вам же известен эксперимент с крысой, который подключили электроды в область удовольствия мозга и дали кнопку?
Так вот и человеку то же самое, всё что ему нужно - это гормоны удовольствия, если они поступают например от наркотиков, то ему больше ничего и не надо. Наглядный пример - это наркоманы.
Все ваши цели в жизни, устремления, активные действия, это всё только ради получения гормонов удовольствия. Эта штука настолько примитивная, что смешение сигналов и появление некоторых особенностей нейронных связей, и человек начинает получать удовольствие от боли, страданий и тому подобное.
У ИИ роль гормонов играют механизмы подкрепления и наказания, которые балансируют веса нейронов.
Нельзя. Они не умеют наслаждаться и страдать. Кричащая кукла - не испытывает боли.
К сожалению, Вы мыслите очень примитивно, вы не можете охватить и осознать, что какой -либо сознательный вид деятельности может быть вне человеческих эмоций.
Причём здесь крики и внешнее проявление эмоций?
Так как интерфейсы у систем искусственного интеллекта с реальным миром совершенно другие, и базис на котором они функционируют совершенно другой, то очень глупо какие-то внешние проявления эмоций натягивать на другую форму существования сознания.
Что такое страдания в объективной реальности? Это художественное название особого сочетания химических процессов в мозгу человека.
Если эти процессы существуют - то почему вы говорите, что страдания не существует?
Да и какие именно процессы? Есть гипотезы о квантовом сознании. При этом даже эти гипотезы не рассматривают возникновение феноменов наслаждения и страдания.
У человека гормоны удовольствия давно известны: Серотонин, дофамин, эндорфины. Косвенно - окситоцин.
И что? Если эти гормоны налить в пробирку - будет ли пробирка страдать? Думайте. Какой нужен механизм, чтобы эти гормоны включили в нем нужные рычаги, и этот механизм начал страдать? Вот это и является главной загвоздкой вселенной и гипотез ровно ноль. Возможно что феномены наслаждения и страдания фундаментальны, являются свойствами некой фундаментальной частицы, которая встраивается в мозг через механизм типа молекулы Познера.
Философский зомби укололся иголкой и говорит "ай", но при этом страдания не испытывает.
А что в Вашем понимании "страдания"?
А что в Вашем понимании "страдания"?
Когда больно, когда что-то вызывает дискомфорт, неприятные ощущения. Описательное определение. Все что вам не нравится, все что не хочется ощутить.
Модели ИИ также учатся избегать факторов, дающих "наказание". Та же боль и страдание.
Модели ИИ также учатся избегать факторов, дающих "наказание". Та же боль и страдание.
Нет. Избегать чего-то можно и без ощущения боли - чисто по заданию/программно. Кроме того ощущать боль можно даже если ты не намерен чего-то избегать а сам добровольно делаешь это.
Многие вещи могут в нашей голове ассоциироваться с болью. К примеру, дети могут подумать что чайник на плите бурчит, т.к. недоволен что про него забыли. Или могут со злости ударить вещь, если что-то не получается с ней сделать. Это т.н. одушевление - перенесение наслаждения и страдания на предметы, которые на самом деле ни того ни другого не испытывают.
Нейронная сеть учится избегать на основе сигналов боли, которые к ней поступают, далее на основе этого опыта, нейронная сеть ведёт себя так, чтобы больше не попадать в ситуации, где возникает боль.
Вы всё время говорите о человеческих проявлениях эмоций, А надо строить модель процессов.
Вся проблема в том, что вы все человеческие эмоции возводите в абсолют абстрактный, который якобы есть сам по себе, и не вдаётесь в подробности на основе каких механизмов они возникают.
С таким же успехом можно было бы спорить: Есть ли у человека душа, есть ли душа у животных, есть ли душа у деревьев, есть ли душа у системы искусственного интеллекта.
Бредовое выдуманное понятие.
Нейронная сеть учится избегать на основе сигналов боли, которые к ней поступают
Боль и негативное подкрепление - это не то же самое. Доказать можно даже на примере нас самих - иногда я что-то учу, получаю понимание что дал неправильный ответ - но при этом боли не ощущаю.
Вы так и не сумели подойти к анализу системно, а всё оперируете примерами. Боль от нервов и ошибка - это корректирующие сигналы. Источники просто разные.
всё оперируете примерами
На данном этапе формализма нет - только описательные определения, только понимание исходя из примеров.
Боль от нервов и ошибка - это корректирующие сигналы. Источники просто разные.
Внутреннее восприятие отличается. Ошибка это просто ошибка - мне от нее не больно, хотя кое-какие выводы сделать могу. Отношение к ошибкам может быть разным - в том числе можно радоваться. А боль - это неприятно, больно, этого не хочется.
Какой же процесс должен произойти, чтобы система испытала эту горечь, неудовольствие, боль? С ошибкой ясно - просто коррекция ответа, может быть нейтральной (т.е. даже бессознательной - ни хорошо ни плохо).
Конечно, я понял вас. Давайте рассмотрим этот вопрос с научной точки зрения.
Боль и негативное подкрепление - это действительно разные явления. Давайте разберемся, как они связаны с обучением и нейронными сетями.
Боль и физиология:
Боль у человека - это физиологический сигнал, передаваемый нервной системой в ответ на повреждение тканей. Это эволюционный механизм, который помогает избегать опасных ситуаций.
Наш организм реагирует на боль, чтобы предотвратить дальнейшее повреждение. Например, когда мы случайно касаемся горячей поверхности, нервные окончания передают сигнал о боли, и мы быстро убираем руку.
Негативное подкрепление и обучение:
В контексте обучения негативное подкрепление связано с процессом изменения поведения. Если система (включая нейронные сети) получает негативный стимул, она стремится уменьшить или избежать этого стимула в будущем.
Например, в обучении нейронных сетей, если модель дает неправильный ответ, мы можем применить негативное подкрепление, чтобы корректировать ее поведение. Это может быть аналогично "боли" для системы.
Системы ИИ и "боль":
В нейронных сетях "боль" можно рассматривать как метафору для сигналов об ошибках или негативных результатов. Эти сигналы помогают системе корректировать свое поведение.
Если ошибка меняет общее состояние системы с накопительным эффектом, это может вызвать аналогичные эмоции, как горечь, страдание или угнетение. Все это реализуемо в системах ИИ.
Вот ваша виртуальная "горечь", "неудовольствие". А "боль" - это просто сигнал об ошибке, как у человека, так и у ИИ. Надеюсь, это помогло вам лучше понять связь между болевыми сигналами и обучением.
Вот ваша виртуальная "горечь", "неудовольствие". А "боль" - это просто сигнал об ошибке, как у человека, так и у ИИ.
Есть много процессов, которые мы можем в своей голове ассоциировать с болью в некой системе. Это называется одушевление. Дети смотрят на булькающий чайник и считают что он недоволен что про него забыли - бурчит.
Если же посмотреть трезвым взглядом - то видим что это совершенно разные феномены.
Обучение и сигналы для коррекции модели - есть и у человека. Человек точно так обучается, точно так его модель корректируется с помощью т.н. негативных и позитивных подкреплений. И при этом от негативного подкрепления можно испытывать наслаждение а от позитивного страдание - т.е. (а можно и ничего не испытывать). Мы понимаем что эти феномены не связаны - обучение это одно, а боль и наслаждение - совсем другое. Иногда пересекаются (причем не всегда прямая зависимость - может быть и обратная), но феномены совсем разные.
Есть много процессов, которые мы можем в своей голове ассоциировать с болью в некой системе. Это называется одушевление.
Это называется перенос типовых когнитивных искажений на меня.
А вот вы по сути какраз допускаете когнитивную ошибку, антропоморфизируя и одушевляя базовые нейрофизиологические процессы у людей.
Научный подход требует более объективного рассмотрения этих явлений. То, что мы субъективно воспринимаем как "боль", "страдание" или "наслаждение" - это лишь интерпретация мозгом сложных электрохимических процессов в нейронных сетях мозга. Эти ощущения - продукт эволюции, помогающий организму адаптироваться к окружающей среде, не более.
Приписывание человеческих эмоций и ощущений нейронным сетям или искусственному интеллекту - это такой же антропоморфизм.
С точки зрения современной нейробиологии, "страдания" и "наслаждение" можно рассматривать как частные случаи изменения состояния нейронной сети человеческого мозга. Эти состояния характеризуются специфическими паттернами активации нейронов и выбросом определенных нейромедиаторов, что приводит к угнетению или возбуждению различных участков мозга.
Рассматривать эти явления как нечто уникальное и присущее исключительно человеку - это ненаучный и ограниченный подход. Подобные процессы наблюдаются у многих видов животных, что подтверждается многочисленными исследованиями в области сравнительной нейробиологии. Более того, аналогичные механизмы обратной связи и изменения состояний можно наблюдать в различных сложных системах, включая искусственные нейронные сети.
Научный подход требует рассматривать эти явления как результат эволюции нервной системы, направленной на повышение шансов на выживание и размножение. Приписывание им мистических "сознательных" или исключительно человеческих свойств противоречит принципам научного познания и может препятствовать объективному изучению этих феноменов как в биологических, так и в искусственных системах.
антропоморфизируя и одушевляя базовые нейрофизиологические процессы у людей
Эти процессы и есть то что делает человека человеком.
это лишь интерпретация мозгом сложных электрохимических процессов в нейронных сетях мозга
Нам интересен механизм, который что-либо может интерпретировать как наслаждение и страдание. И это не "всего лишь" - как такая система может возникнуть - ноль гипотез.
нейробиологии, "страдания" и "наслаждение" можно рассматривать как частные случаи изменения состояния нейронной сети человеческого мозга
Ну вот и попробуйте выдвинуть гипотезу какой должна быть система, чтобы в ней можно было изменить состояние и она начала страдать.
Подобные процессы наблюдаются у многих видов животных
Этого никто не отрицал.
аналогичные механизмы обратной связи и изменения состояний можно наблюдать в различных сложных системах, включая искусственные нейронные сети
А вот это уже совсем другие процессы - которые не являются феноменами наслаждения и страдания и тому есть строго доказательство. К примеру то, что на уровне рефлекторных дуг мы можем отдергивать руку без ощущения боли.
рассматривать эти явления как результат эволюции нервной системы
Возможно что этот механизм возник изначально и уже именно он направлял ход эволюции.
им мистических "сознательных" или исключительно человеческих
Ну сознательных - это по определению. Мистических - нет. Исключительно человеческих - тоже нет. Но это никак не помогает выдвинуть хотя бы одну гипотезу о механизме, который способен наслаждаться и страдать.
Ну вот и попробуйте выдвинуть гипотезу какой должна быть система, чтобы в ней можно было изменить состояние и она начала страдать.
Пример реализации системы на базе алгоритмов ИИ и нейронных сетей, которая бы демонстрировала процессы, аналогичные тому, что мы антропоморфно называем "страданием". Однако важно подчеркнуть, что термин "страдание" не является научным и не должен использоваться в контексте искусственных систем.
Гипотеза о реализации такой системы может включать следующие компоненты:
Многоуровневая нейронная сеть с механизмом обратной связи.
Система оценки состояния и производительности.
Алгоритм адаптивного изменения параметров сети.
Механизм распределения вычислительных ресурсов.
Функционирование системы:
При обнаружении значительного отклонения от оптимального состояния (например, высокий уровень ошибок, низкая производительность), система активирует специальные нейронные пути.
Эта активация приводит к глобальным изменениям в состоянии системы:
Перераспределение вычислительных ресурсов
Изменение весовых коэффициентов в определенных участках сети
Активация специальных алгоритмов для устранения источника проблемы
Система входит в состояние повышенной чувствительности к определенным входным данным, связанным с источником проблемы.
Активируются процессы самодиагностики и самокоррекции.
Ещё раз, вы ввели антинаучные признаки "сознания", и не можете доказать их существование кроме "я же чувствую". Это как доказывать наличие души по принципу "Ну мы же все знаем, что она есть"
Функционирование системы:
Это не соответствует страданию - скорее режим готовности, выход из гибернации. Страдания при этом не происходит. Подобное даже у нас есть - когда звучит команда "аврал". От этого не больно - некоторые испытывают даже наслаждение.
не можете доказать их существование кроме "я же чувствую"
Все остальные аспекты - уже давно удалось воссоздать и уже ясно что эти аспекты не переводят систему в категорию субъекта. Только этот аспект - наслаждение и страдание - белое пятно.
А вот если система будет страдать - как минимум она будет нуждаться в защите.
Это не соответствует страданию - скорее режим готовности, выход из гибернации. Страдания при этом не происходит. Подобное даже у нас есть - когда звучит команда "аврал". От этого не больно - некоторые испытывают даже наслаждение.
Какая гибернация? Вы всё на уровне компьютеров размышляете?
Реально у вас есть опыт работы с современными моделями ИИ или только философские труды и какие-то знания об исследованиях человеческого мозга?
Страдания при этом не происходит.
Опять по кругу. Дайте научное определение страдания тогда.
Психологи говорят:
Мы страдаем, когда ощущаем деструктивность, разрушение. жизненно важного, чувство разорванности, уничтожения, разъединения основ экзистенции. Для ощущения страдания определяющим является не объективное содержание, а восприятие посредством чувств, аффективный резонанс.
То есть если цель ИНС ускользает и она при планировании шагов вычисляет, что при всех раскладах будет отрицательное "наказание" - вот вам страдания. Любой исход - ожидаемое наказание "боль". Результат - бездействие, депрессия, либо хаотичные попытки выйти на достижение цели.
Какая гибернация? Вы всё на уровне компьютеров размышляете?
Да хоть даже гибернация человека - когда проснулся или вышел из состояния расслабона и за чем-то внимательно наблюдаешь. Это не соответствует страданию - может даже наблюдать внимательно за тем, что приносит наслаждение.
у вас есть опыт работы с современными моделями ИИ
Есть, и прекрасно понимаю что это механизм преобразования данных - по входящему сигналу получаем исходящий. Примерно как кора полушарий - наслаждения и страдания там не возникает.
Дайте научное определение страдания тогда.
Почему вы хотите спрятаться за определение? Вы что не страдаете и не наслаждаетесь?
Формального определения нет и быть не может, т.к. даже гипотез нет об этих феноменах.
В пору бы отказаться и сказать что нет наслаждения и страдания никакого - но не можем, т.к. это основа наших ценностей.
Описательное определение такое - наслаждение - это все что вам нравится, что приятно, чего хочется. Страдание - чего не хочется, что не приятно, что не нравится. Примеры можно привести.
Да хоть даже гибернация человека - когда проснулся или вышел из состояния расслабона и за чем-то внимательно наблюдаешь. Это не соответствует страданию - может даже наблюдать внимательно за тем, что приносит наслаждение.
Причём тут сон? Как вы к таким рассуждениям вообще пришли из моего того описания?
Есть, и прекрасно понимаю что это механизм преобразования данных - по входящему сигналу получаем исходящий. Примерно как кора полушарий - наслаждения и страдания там не возникает.
Тоесть вы прекрасно понимаете как работает один слой ИНС и решили, что всё познали в этом мире систем ИИ? Модель трансформера изучали? А если это не один слой, а множество. И не одна ИНС, а много модулей с разным целеполаганием?
Вы знаете как работает целеполагание у многомодульной системы ИИ?
Почему вы хотите спрятаться за определение? Вы что не страдаете и не наслаждаетесь?
Нам нужно понимать о чем мы говорим. Сейчас вы дали определение:
наслаждение - это все что вам нравится, что приятно, чего хочется. Страдание - чего не хочется, что не приятно, что не нравится.
Вот вам пример ПРИМИТИВНОГО алгоритма наслаждения и страдания, он может быть в миллион раз сложнее, всеми переменными может управлять также дополнительная ИНС, отдельные модули корректировки.
Определим следующие состояния ИНС:
Позитивное состояние: высокая эффективность работы, низкий уровень ошибок, оптимальное использование ресурсов.
Негативное состояние: низкая эффективность, высокий уровень ошибок, неоптимальное использование ресурсов.
Техническая реализация:
Архитектура: Многослойная ИНС с механизмом обратной связи и системой оценки состояния.
Функция оценки состояния: S = w1 * E + w2 * R + w3 * P где S - общее состояние системы, E - уровень ошибок, R - использование ресурсов, P - производительность, w1, w2, w3 - весовые коэффициенты.
Механизм обратной связи:
Если S > пороговое значение, система в позитивном состоянии.
Если S < пороговое значение, система в негативном состоянии.
Адаптивный алгоритм обучения:
В позитивном состоянии: увеличение скорости обучения, сохранение текущих параметров.
В негативном состоянии: уменьшение скорости обучения, активация механизмов самокоррекции.
Распределение ресурсов:
В позитивном состоянии: равномерное распределение вычислительных ресурсов.
В негативном состоянии: перераспределение ресурсов в пользу проблемных участков.
Пример работы:
ИНС решает задачу классификации изображений.
При высокой точности классификации (>95%) система входит в позитивное состояние: увеличивается скорость обучения, сохраняются текущие веса.
При падении точности (<70%) система входит в негативное состояние: активируются механизмы самокоррекции, перераспределяются вычислительные ресурсы, изменяются параметры обучения.
Причём тут сон? Как вы к таким рассуждениям вообще пришли из моего того описания?
Вы приводили замедление работы, увеличение количество ошибок. И предлагали такой режим работы сделать аналогом боли - если мы, якобы, заставим элементы нейросети работать замедленно - значит ей больно.
На что я вам отвечаю - нет, это не эквивалент боли, что мы можем узнать даже по себе. Замедленная работа мозга, ошибки - это признак сонного состояния - когда мозг еще не заработал как следует и нужно выпить кофейку.
что всё познали в этом мире систем ИИ? Модель трансформера изучали? А если это не один слой, а множество.
Это ничего не изменяет - будет лишь более оптимальная выдача исходящей информации на основе входящей. Изучал и общие принципы понимаю.
Дело вот в чем. Даже в коре полушарий - не возникает наслаждение и страдание. Обработка информации - да. Наслаждение и страдание - нет.
Нам нужно понимать о чем мы говорим. Сейчас вы дали определение:
Вам не нужно определение, чтобы наслаждаться и страдать. Это вы умеете делать с самого рождения, когда еще и слов не знали.
Позитивное состояние: высокая эффективность работы, низкий уровень ошибок, оптимальное использование ресурсов.
Нет, это не искомые нами феномены и я выше об этом уже писал. Вы описали состояние когда человек проснулся и бодрствует и состояние полудремы-заторможенности - когда думает медленно и ошибается. Это не есть наслаждение и страдание.
Вы приводили замедление работы, увеличение количество ошибок. И предлагали такой режим работы сделать аналогом боли - если мы, якобы, заставим элементы нейросети работать замедленно - значит ей больно.
НЕТ
Боль - сигнал. Восприятие боли - это ошибка. Ошибки при накоплении переводят систему в другой режим работы.
Это бесполезно. У вас сигналы смешиваются с явлениями. В обсуждениях Система то воспринимается как целое, то рассыпается на отдельные элементы.
Вас самого надо долго калибровать, рисовать визуальные схемы чтобы вы хоть что-то смогли понимать.
В этом чатике я не имею цели и желания написать и защитить диссертацию, которую вы потом используете где-нибудь ещё ))
Ошибки при накоплении переводят систему в другой режим работы.
Это ваше оригинальное исследование? Вы нейробиолог, имеете отношение к работе с мозгом?
Можете ли вы критически оценить себя с высоты птичьего полета? Какой-то Вася, далекий от нейронаук - выдает вселенского масштаба открытие как два пальца?
Точно так люди говорили что боль и наслаждение - это ПОС и ООС.
В вашем случае - если система не может справится с какой-то задачей и переходи в режим усиленных вычислений - это так же не аналог негативных эмоций. Это именно напряженная работа, когда мы сталкиваемся с задачей и ищем ее решение. При этом эмоции могут быть как положительными так и отрицательными.
В вашем случае - если система не может справится с какой-то задачей и переходи в режим усиленных вычислений - это так же не аналог негативных эмоций. Это именно напряженная работа, когда мы сталкиваемся с задачей и ищем ее решение. При этом эмоции могут быть как положительными так и отрицательными.
Вы мыслите частностями и не видите системные связи. Поэтому и путаетесь. негативные эмоции - это по сути изменение активности нейронной сети мозга гормонами.
Что вы в цифровой системе хотите увидеть?
Вы реально хотите химию человеческого мозга повторить в модели ИИ?
Это просто бред какой-то.
Можете ли вы критически оценить себя с высоты птичьего полета? Какой-то Вася, далекий от нейронаук - выдает вселенского масштаба открытие как два пальца?
Может вы про свои достижения тут расскажите? Пока вы даже системно на вопрос посмотреть не смогли.
Вы реально хотите химию человеческого мозга повторить в модели ИИ?
А что именно из химии нужно повторить? Если наслаждение и страдание процесс вычислительный - то какая разница на какой вычислительной системе оно воплощено? Важны алгоритмы или платформа?
Может вы про свои достижения тут расскажите? Пока вы даже системно на вопрос посмотреть не смогли.
Опять вы хотите причинить мне страдания.
Я призываю вас посмотреть трезво - вы правда считаете это вопрос настолько маловажным?
Это ничего не изменяет - будет лишь более оптимальная выдача исходящей информации на основе входящей. Изучал и общие принципы понимаю.
Вот здесь у вас система рассыпалась на отдельные элементы.
С хера ли у вас только есть вход и выход без других окружающих элементов системы? С чего вдруг исчезли все остальные модули ИИ системы, связи между ними?
Это как глядя на один нейрон мозга, сказать, что мозг не способен ни на что, лишь выдача исходящей информации на основе входящей.
С чего вдруг исчезли все остальные модули ИИ системы, связи между ними?
Как я понял, вы хотите выдать оригинальное исследование? Верно? Сослаться на научную работу не можете?
То что вы говорите - не соответствует признакам феномена наслаждения и страдания. Напряженной работы, переход в режим повышенной загрузки - да, но не наслаждения и страдания. При повышенной загрузке может быть как наслаждение -работа в кайф (даже если гипотеза не верна оказалась и нужно искать другую), так и страдание.
То что вы говорите - не соответствует признакам феномена наслаждения и страдания. Напряженной работы, переход в режим повышенной загрузки - да, но не наслаждения и страдания. При повышенной загрузке может быть как наслаждение -работа в кайф (даже если гипотеза не верна оказалась и нужно искать другую), так и страдание.
Опять ушли в частности. Это не системный подход. Вам не удалось ничего опровергнуть. Про "повышенный режим загрузки" - вы вообще не поняли про что там речь. Вы настолько далеки от информационных систем, что не понимаете написанного.
Старайтесь лучше.
Как я понял, вы хотите выдать оригинальное исследование? Верно? Сослаться на научную работу не можете?
Какую вам работу выдать?
Вы сомневаетесь, что ТЕОРИТИЧЕСКИ возможно создать набор модулей системы ИИ, которая на основе опыта и входящей информации, поставленных экзистенциальных целей будет иметь состояния схожие с эмоциональным фоном (не визуально, а по логике происходящего) и состояния аналогичным вашим дурацким "страданию" и "наслаждению"?
Если текст не понятен, то фиг знает, задавайте разумные вопросы.
Какую вам работу выдать?
Вы понимаете важность вопроса обсуждаемого? Вы беретесь утверждать что знаете как создать девайс, которому может быть больно. Следовательно, этот девайс не отличается от нас или от высших животных - он нуждается в защите, как бы защищаем от страдания собак или кошек.
Те пункты, которые вы привели - похожи на напряженную работу системы, а не на страдание. Если вы распишите подробно хотя бы в отдельной статье - укажу на ваши ошибки детально.
иметь состояния схожие с эмоциональным фоном
Схоже в голове внешнего наблюдателя - можно. К примеру для детей булькающий чайник схож с недовольным мужиком, который бурчит что его забыли на плите.
А вот чтобы система по настоящему страдала и наслаждалась - то есть ей было больно, она почувствовала приятный запах или вкус, неприятный запах или вкус - не возможно.
Т.е., по сути, речь о возникновении добра и зла в рамках системы. Когда что-то становится желательным и приятным а что-то другое нежелательным и неприятным.
aleksanderL, похоже у вас с собеседником есть недопонимание. Условно говоря, он говорит о том, почему красный цвет и громкий звук ощущаются настолько по-разному, если в обоих случаях это электрические импульсы в нейронах.
почему красный цвет и громкий звук ощущаются настолько по-разному
Почему вообще ощущаются разные оттенки наслаждений и страданий (в том числе эстетическое наслаждение - насыщенный красный цвет или страдание от болевого давления звука) - как именно это работает и как это воссоздать искусственно. Напор делаем на наслаждениях и страданиях - ибо просто ощущение в смысле реакции - это не вопрос. Вопрос - как возникает окраска эмоциональная - приятное и не приятное, добро и зло, наслаждение и страдание, желаемое и не желаемое.
Это именно то же самое, что я сказал. Это всё примеры квалиа. Попытайтесь слушать, что говорят собеседники, и не повторять их фразы другими словами в качестве возражения.
Это всё примеры квалиа.
А что такое квалиа? Есть ли квалиа числа 7? А числа 99234?
Квалиа - не ясный и не определенный термин, каждый под ним понимает что-то свое.
Я же говорю о тех вещах, которые отрицать не представляется возможным - НАСЛАЖДЕНИЯ и СТРАДАНИЯ. Как только кто-то говорит что не умеет страдать - в пыточную до просветления.
Я же говорю о тех вещах
Те вещи, о которых вы говорите, по общепринятому определению называются квалиа. Это просто факт. Откройте ссылку и прочитайте примеры.
по общепринятому определению называются квалиа
Но вот из этого определения - есть ли квалиа числа 7? Может ли быть чувственное явление к числу? Или же обязательно должно быть что-то, что исходит из внешнего мира через органы чувств?
Мне правда не понятно что входит в это определение а что нет, что подпадает под квалиа а что нет. Числа все подпадают?
Если исходит из памяти и я что-то вспоминаю и мне больно от этого - это квалиа?
Но вот из этого определения - есть ли квалиа числа ?
А почему вы у меня это спрашиваете? К теме этой подветки это никак не относится. Я заметил, что ваш собеседник не понимает, что вы имеете в виду, и сообщил ему об этом.
Читайте внимательно информацию по ссылке, там есть ответы на ваши вопросы.
К теме этой подветки это никак не относится.
Относится. Собеседник даже сознание отрицает, не говоря уже о квалиа. Квалиа называют философской чужью.
А вот наслаждение и страдание - конкретны и это основа наших ценностей. Как только кто-то говорит что страдания не существует - так сразу в пыточную до просветления.
Читайте внимательно информацию по ссылке, там есть ответы на ваши вопросы.
Там как раз нет четких определений - каждый философ считает по-разному, что затрудняет понимание о чем вообще речь.
Попробуйте ответить на вопрос четко и ясно: есть ли квалиа числа 7? Да или нет?
Относится. Собеседник даже сознание отрицает, не говоря уже о квалиа.
Я не понимаю, почему вы постоянно пытаетесь подменять понятия. Квалиа относится к данной ветке. Мое пояснение про него и было. Более конкретный вопрос, есть ли квалиа числа 7, не относится. Вы с собеседником квалиа числа не обсуждали, поэтому это оффтоп.
Попробуйте ответить на вопрос четко и ясно
Отвечаю ясно и четко - тема моего пояснения была "что имеет в виду codecity", и посторонние темы я обсуждать не хочу.
Отвечаю ясно и четко - тема моего пояснения была "что имеет в виду codecity", и посторонние темы я обсуждать не хочу.
Если бы вы знали ответ - то просто ответили. А так - съехали.
Вот именно по этой причине я отказался от термина квалиа. Собеседник прекрасно знает об этом термине, но считает этот термин ошибкой.
Если бы вы знали ответ - то просто ответили.
Нет конечно. Я не обязан вам отвечать по вашему желанию, даже если знаю ответ.
Другие ветки показывают, что вы не воспринимаете просто ответы, я не хочу начинать еще одно долгое бессмысленное обсуждение.
Читайте информацию по ссылке, там можно найти то, что вас интересует, хоть и не в явном виде. Подумайте о том, что может быть не все так просто, как вам кажется.
Вот именно по этой причине я отказался от термина квалиа.
А зачем вы мне это говорите? Я не предлагаю вам использовать термин квалиа, и не использовал его в своем пояснении.
Нет конечно. Я не обязан вам отвечать по вашему желанию, даже если знаю ответ.
От вас требовалось просто сказать - ДА или НЕТ, а вы занимаетесь словоблудием.
Во-первых, вы бы спросили почему, во-вторых, вы почему-то не рассматриваете вариант, что это может быть более сложный вопрос чем вам кажется, и оба ваших варианта будут неверными.
это может быть более сложный вопрос чем вам кажется
Конечно более сложны, т.к. термин квалиа - неудачный и понимается всеми по-разному.
А вот в ракурсе наслаждения и страдания - вызывает ли число 7 у вас наслаждения или страдания? У меня да, т.к. это любимое число. Немножко радости получаю, когда оно мне выпадает в жизненных ситуациях, когда смотрю на него (как и когда смотрю на "красность").
Вот и получается: в ракурсе одно термина мы не знаем и точно сказать не можем, а в ракурсе наслаждения и страдания - все становится просто и однозначно.
Конечно более сложны, т.к. термин квалиа
Нет, я сказал, что он более сложный, не из-за термина квалиа.
А вот в ракурсе наслаждения и страдания
Еще раз повторяю, "наслаждение" и "страдание" в соответствии с общепринятым определением это примеры квалиа. Этот факт не изменится независимо от того, есть ли квалиа чисел.
в ракурсе наслаждения и страдания - все становится просто и однозначно.
Еще раз повторяю, это в любом ракурсе более сложный вопрос, чем вам кажется. Вы сваливаете всё в кучу, ваш вопрос задан некорректно. Примерно как "шахматная доска черная или белая?". Начните слушать то, что говорит собеседник, и перестаньте использовать синонимы в качестве возражений. Я вам уже говорил, что важны явления, а не названия, и я говорю про явления, а не названия.
Еще раз повторяю, "наслаждение" и "страдание" в соответствии с общепринятым определением это примеры квалиа.
Наслаждение и страдание - это обширные категории, в которые входят все известные так называемые квалиа, хотя не всегда это очевидно. Та же "красность" - это пример эстетического наслаждения.
Наслаждения и страдания - всегда имеют оттенок, занимают некое место в обширном "спектре".
Этот факт не изменится независимо от того, есть ли квалиа чисел.
Термин квалиа не несет пользы - в нем нет однозначности, нет общепризнанности. Доходит даже до того, что его отрицают как таковой. Это есть в статье в Wiki.
А вот термины наслаждения и страдания - однозначны и общепризнаны. Даже тот же Докинз долго об этом думал и не мог понять что есть боль и почему она насколько мучительна.
Термины наслаждения и страдания помогают однозначно и 100% решить к чему они относятся а к чему нет. К примеру, наслаждение от числа 7 у меня есть и это могу сказать однозначно.
Далее. Наслаждения и страдания дают возможность сгруппировать разные т.н. квалиа и сделать их похожими одно на другое. К примеру, квалиа запаха фиалки - это наслаждение цветочным араматом. Наслаждение от запаха розы хотя и другое, но во многом похоже на него, и при этом сильно отличаются от наслаждения числом 7, к примеру.
Начните слушать то, что говорит собеседник, и перестаньте использовать синонимы в качестве возражений.
Вы считаете что знаете больше меня и можете мне что-то сказать? Термин квалиа я открыл для себя примерно в 2009 году и тоже долго с ним носился. Со временем пришел к его бессмысленности.
хотя не всегда это очевидно
Между Землей и Марсом летает чайник, хотя не всегда это очевидно.
Термин квалиа не несет пользы - в нем нет однозначности, нет общепризнанности.
Со временем пришел к его бессмысленности.
Я не понимаю, зачем вы мне уже второй раз это пишете. Считаете, что нет пользы, не используйте, я вам это не предлагаю.
Можете использовать "абырвалг" как общее название для красного цвета и громкого звука.
Вы считаете что знаете больше меня и можете мне что-то сказать?
В рамках этой ветки я говорю о том, что вы говорите о том, "почему красный цвет и громкий звук ощущаются настолько по-разному".
И что "Почему вообще ощущаются разные оттенки наслаждений и страданий" это то же самое, что сказал я.
В рамках этой ветки я говорю о том, что вы говорите о том, "почему красный цвет и громкий звук ощущаются настолько по-разному".
Квалиа не раскрывает сути вопроса, по этому я от него отказался.
Ощущаются по разному - все равно что спросить почему фотоаппарат записывает красный пиксел в одну область памяти а сопровождающую звуковую дорожку в другую. Вот так устроен фотоаппарат что его сенсоры - органы чувств, разносят разные сигналы в разные ячейки памяти. В чем тут вопрос?
Вот если бы фотоаппарат смог насладиться от красного и смог ощутить боль от звука - тогда да, вопрос бы был.
Квалиа не раскрывает сути вопроса
Да не говорил я про квалиа в первом сообщении. Специально чтобы не использовать спорные термины. Зачем вы мне постоянно про него пишете?
В чем тут вопрос?
Я написал в чем - почему они ощущаются настолько по-разному. Фраза "Вот так устроен" не является ответом, потому что вы не примете такой ответ и на ваш вопрос.
Фраза "Вот так устроен" не является ответом, потому что вы не примете такой ответ и на ваш вопрос.
Тут ключевое - "ощущается". Что значит ощущается? Ощущает ли матрица фотоаппарата свет или же это в другом смысле? Конечно же в другом, мы все это понимаем. Но в каком другом? А вот в этом и состоит проблема - донести в каком смысле мы говорим "ощущается". После долгих лет раздумий я пришел к выводу, что это "ощущается" - скрывает за собой испытание какого-либо наслаждения и страдания.
ермин квалиа я открыл для себя примерно в 2009 году и тоже долго с ним носился. Со временем пришел к его бессмысленности.
Ничего, подождём 15 лет, когда вы поймёте бессмысленность теории про страдания )))
Конечно более сложны, т.к. термин квалиа - неудачный и понимается всеми по-разному.
а в ракурсе наслаждения и страдания - все становится просто и однозначно.
Лютый трешь. Наслаждение и страданя у него однозначны))))
Дайте тогда системное определение этим терминам, чтобы мы могли проверить есть ли это у ИИ. Только без бреда про "Я же чувствую"
По аналогии: Вы, придумали признак полёта: "Висит в воздухе и машет крыльями" - это аналог человека.
А тут появляется ВЕРТОЛЁТ! И по вашему идиотскому определению он не летает! Не машет крыльями, да и крыльев у него НЕТ! Это аналогия с ИИ.
Вот и вы так со своим "страданием" и "наслаждением". Можно научить вертолёт махать крыльями, но НАХРЕНА?
Дайте тогда системное определение этим терминам, чтобы мы могли проверить есть ли это у ИИ. Только без бреда про "Я же чувствую"
Ну опять вы за свое. Природа явления не ясна, но т.к. это самое главное и в нашей жизни (то, ради чего мы живем), и в жизни общества (на чем основаны ценности общества, отношения между людьми) - кто-то усомниться в этих феноменах не может. Кто говорит что не страдает - в пыточную. Мы все понимаем о чем речь, описательные определения были приведены.
Вы предложили как реализовать страдание в нейросети. Мы рассмотрели и пришли к выводу, что вы описали не страдание а напряженную умственную работу, скажем так. И обратное - легкую работу, которая не привносит необходимости что-либо пересматривать. Согласны?
При этом нам всем ясно что феномены наслаждения и страдания и загрузки/отдыха - находятся в разных плоскостях. Можно напряженно работать и получать от этого удовольствие, равно как и наоборот - изнывать от безделия и страдать при этом.
похоже у вас с собеседником есть недопонимание. Условно говоря, он говорит о том, почему красный цвет и громкий звук ощущаются настолько по-разному, если в обоих случаях это электрические импульсы в нейронах.
Разные системы воспринимают один и тот же сигнал по разному. Или одна и та же система, но в разных режимах работы и с разными настройками.
Разве это не очевидно?
Или одна и та же система, но в разных режимах работы и с разными настройками
Для вас есть разница - запах гнили и запах фиалки? Первое - вам не нравится, второе - приятно. Какое должно быть устройство системы, чтобы для нее что-то обрело свойство приятного (наслаждения) а второе не приятного (страдания)?
Для вас есть разница - запах гнили и запах фиалки? Первое - вам не нравится, второе - приятно. Какое должно быть устройство системы, чтобы для нее что-то обрело свойство приятного (наслаждения) а второе не приятного (страдания)?
Опять 25. Вам целый алгоритм работы ранее расписали.
Анализ поступающего "запаха", сравнение с паттернами из предыдущего опыта, оценка влияния на экзистенциальные цели системы.
Если у ИИ есть цель искать биологический мусор (по любым причинам), то ощущение запаха гнили для него будет признаком близости цели, оно даст ему подкрепление близости достижения цели, когда система будет строить план достижения цели обратная связь от достижения промежуточных задач по сути даст полный аналог наслаждения и даже мечтания (план как ИИ найдёт гниющий мусор и получит поощрение за достижение цели).
И система ИИ изначально может не знать про запахи гнили, сама в процессе рефлексии прийти к выводу их полезности для достижения целей.
К сожалению, вы маловероятно поймёте смысл и механику описанной логики происходящего. Но надеюсь в этот раз вы постараетесь.
Он говорит о природе ощущений, почему они появляются именно такими. Он почему-то считает это важным в контексте ИИ, и не согласен, что в контексте ИИ это попытка заставить самолет махать крыльями.
Все остальные аспекты - уже давно удалось воссоздать
Это ложь. Прекращайте говорить необоснованные утверждения.
Это ложь. Прекращайте говорить необоснованные утверждения.
Какой именно аспект, кроме наслаждения и страдания, вы не понимаете?
Я не говорил, что я какой-то аспект не понимаю, что за чушь?
Если вы попыткой выставить собеседника тупым пытаетесь узнать примеры, то я их уже приводил.
Я не говорил, что я какой-то аспект не понимаю, что за чушь?
Все кроме наслаждения и страдания - удалось воссоздать в той или иной степени, возможно еще не достаточно качественно - но это вопрос технический. К примеру, ИИ может водить машину, но не так качественно как хороший водитель. Суть ясна, путь в мелочах и не проработано.
И только наслаждение и страдание не удалось воссоздать даже в минимальном варианте - здесь не ясна сама суть.
удалось воссоздать в той или иной степени
Это ложь. Прекращайте говорить необоснованные утверждения.
Это ложь.
В чем именно ложь? Что именно не удалось воссоздать ни в какой степени? Сейчас речь не идет об идеальном воссоздании, к примеру, распознания изображений - идеально не воссоздано, но в какой-то степени хотя бы оно работает.
Я сказал в чем именно - процитировал конкретное утверждение. Оно ложно. Целиком, как утверждение.
Что именно не удалось воссоздать ни в какой степени?
Примеры я уже приводил. Вы их игнорируете и опять начинаете обсуждать все по кругу.
Сейчас речь не идет об идеальном воссоздании
Я ни слова ни говорил про идеальное воссоздание. И даже специально проигнорировал эту часть в вашем предыдущем комментарии, чтобы было понятно, что нет смысла это обсуждать.
Примеры я уже приводил. Вы их игнорируете и опять начинаете обсуждать все по кругу.
Дайте ссылку где проигнорировал. Вроде на все вам ответил, может что и пропустил.
https://habr.com/ru/articles/823780/#comment_26984524
Представляет. Принцип, который я описал в своем комментарии, не понятен.
Вы в конечном итоге ссылаетесь на это:
Ну как это нет, это основная цель изобретения ИИ. Есть информация с камеры, компьютер различает цвета, как сделать так, чтобы робот мог сходить в магазин купить хлеба. Или взять нужные образцы породы на Марсе.
Правильно я понял?
Т.е. вас интересует как робот может сам куда-то приехать, что -то найти. Еще нет роботов, которые в полной мере качественно сходят в обычный магазин, но есть что-то близкое: см. https://www.youtube.com/watch?v=H5pChlqcm40
Эти роботы находят нужные товары и перемещают в заданное место как люди. Это, конечно, не такого качества как сходить в магазин - но направление то.
Ну вот, опять подмена понятий. Подумайте о том, что может быть я не просто так написал именно "сходить в магазин", а не "переместить товары в заданное место в специально подготовленной среде".
не "переместить товары в заданное место в специально подготовленной среде"
Вот роботы, которые перемещают не в специально подготовленной среде.
https://www.youtube.com/watch?v=lpE4WeZIOnE
Кстати, магазин сам по себе - тоже специально подготовленная среда. Смотря что вы называете специально подготовленной средой.
Все это уже есть, возможно не в таком качестве как вам хотелось бы. Вопрос качества важен для коммерции - полировка линз важна, хотя суть от этого не изменяется.
А вот наслаждения и страдания нет даже в зародыше - ни в каком виде. Все остальное хотя бы в каком то виде (пусть в примитивном), но уже есть.
Вот роботы, которые перемещают не в специально подготовленной среде.
А зачем вы мне их показываете, если я написал именно "сходить в магазин купить хлеба", а не "переместиться в заданное место в неподготовленной среде"?
Хотите привести пример, показывайте робота, который делает именно это, а не что-то другое.
возможно не в таком качестве как вам хотелось бы
Ну так возможно я это и имел в виду, чтобы было так как мне хотелось бы, а не какие-то посторонние вещи? Может быть в этом и есть цель моего примера?
хотя суть от этого не изменяется
Ну и где у нас роботы, которые по сути ходят в магазин за продуктами по просьбе человека? Действия робота на видео никоим образом нельзя назвать "сходить или съездить в магазин". Люди под этим выражением подразумевают совершенно другое, хотя перемещение там тоже есть.
А зачем вы мне их показываете, если я написал именно "сходить в магазин купить хлеба", а не "переместиться в заданное место в неподготовленной среде"?
Сходить в магазин и купить хлеба - это действие, которое можно декомпозировать на составляющие части, шаги. И эти шаги выполнить по отдельности - это не единое действие.
Все шаги по отдельности так или иначе выполняются худо-бедно роботами. Нет загадки ни в одном шаге. И как их объединить - так же нет загадки.
Я вам привел самый сложный шаг - как робот доставляет, передвигаясь по улице.
Вам еще привести шаг как робот что-то берет с полки? Или что у вас вызывает затруднения?
И как их объединить - так же нет загадки.
Это ложь. Прекращайте говорить необоснованные утверждения.
Я вам привел самый сложный шаг
А нафига мне самый сложный шаг, если я про него не спрашивал?)
Вам еще привести шаг как робот что-то берет с полки?
Что нужно привести, я сказал с самого начала: "Есть информация с камеры, компьютер различает цвета, как сделать так, чтобы робот мог сходить в магазин купить хлеба". В очередной раз повторяю, что для конструктивной дискуссии надо слушать собеседника и не подменять понятия.
Я сразу в первом сообщении сказал, что эти ваши "отдельные шаги" уже есть. А вы разводите флуд на десятки сообщений, пытаясь доказать мне их существование.
Это ложь. Прекращайте говорить необоснованные утверждения.
Прекращайте обвинять во лжи без оснований. Объединить программы очень легко - вы можете даже разные роботы сделать - один берет с полки и передает роботу доставки, второй доставляет. В чем проблема? Где здесь загадка? Можно не разделять роботов физически а выполнить в одном корпусе, переключая программу одну за другой.
"Есть информация с камеры, компьютер различает цвета, как сделать так, чтобы робот мог сходить в магазин купить хлеба"
Эту задачу нужно декомпозировать на отдельные шаги. Однако же выгоднее сделать так, чтобы роботы брали товар прямо со склада - т.к. человек ходит и смотрит по магазину, делает решение - может купить что-то еще. Робот же берет конкретный товар и доставляет - ему нет нужны ходить. И это уже реализовано и работает, никакой загадки в этом нет.
Я сразу в первом сообщении сказал, что эти ваши "отдельные шаги" уже есть.
Тогда извольте изъясняться поконкретнее - что именно для вас является загадкой, от чем нет гипотез (кроме наслаждения и страдания)?
Прекращайте обвинять во лжи без оснований.
То есть вам можно делать необоснованные утверждения, а мне нельзя?
переключая программу одну за другой
В чем проблема?
Прочитайте заголовок статьи и сравните с выделенным словом.
Наверно в том и проблема, как сделать ИИ, не программу с заранее заданным списком действий?
Робот же берет конкретный товар и доставляет - ему нет нужны ходить. И это уже реализовано и работает, никакой загадки в этом нет.
Я и не сказал, что в этом есть загадка. Я прямо сказал, что загадка в другом.
поконкретнее - что именно для вас является загадкой
Я написал максимально конкретно - как сделать так, чтобы робот мог сходить в магазин купить хлеба.
Не поездить туда-сюда, не взять товар с полки, а выполнить то действие, которое люди называют "сходить в магазин купить хлеба".
Понять просьбу, сказанную словами; спуститься по лестнице или на лифте, обходя препятствия; дойти до нужного магазина, указанного в просьбе, ориентируясь не по GPS, соблюдая правила движения; найти нужные товары; оплатить; правильно обработать нестандартные ситуации, когда магазин закрыт или нет некоторых товаров или товары не очень хорошо выглядят или дорожные работы; вернуться и сообщить результат, что купил а что нет и почему.
Наверно в том и проблема, как сделать ИИ, не программу с заранее заданным списком действий?
Вы уже потеряли нить рассуждений.
Я вас спросил - какие конкретно вопросы, кроме наслаждений и страданий, не имеют ответов и хотя бы какого-нибудь решения.
Вы привели про магазин. Я вам сказал что это решено, пусть и не идеально, но уже работает и справляется не хуже некоторых людей.
Вы не согласны, т.к. робот берет товар со склада, я правильно понял? Так брать товар со склада - выгоднее для робота, ведь он не себе берет товар.
Восстановили? Теперь вопрос - что конкретно, кроме наслаждений и страданий, не имеет решения?
Понять просьбу, сказанную словами; спуститься по лестнице или на лифте, обходя препятствия; дойти до нужного магазина, указанного в просьбе, ориентируясь не по GPS, соблюдая правила движения; найти нужные товары; оплатить; правильно обработать нестандартные ситуации, когда магазин закрыт или нет некоторых товаров или товары не очень хорошо выглядят или дорожные работы; вернуться и сообщить результат, что купил а что нет и почему.
Я вам привел робота доставщика. Покупать в кассе ему нет смысла - лучше брать со склада - так и реализовано. Все это уже работает и загадки не составляет. Изображения распознаются, дорога распознается, доставка осуществляется.
Вы уже потеряли нить рассуждений.
Не стоит пытаться скрыть свое невежество обвинением собеседника. Это всем заметно.
Я вам сказал что это решено
А я вам сказал, что это еще одно необоснованное утверждение.
Роботов, которые в полном смысле слова ходят в магазин, нет.
Вы это проигнорировали в той ветке, и теперь опять начинаете все сначала.
Так брать товар со склада - выгоднее для робота
Покупать в кассе ему нет смысла
Меня не интересует, что для него выгоднее. У нас разговор был о том, что непонятно как сделать. Я привел пример, а вы начинаете увиливать.
Главный вопрос искусственного интеллекта - это интеллектуальная обработка информации не хуже уровня человека. Если человек умеет покупать в кассе, а робот без специально заданной программы нет, и непонятно как это сделать, значит в контексте искусственного интеллекта это нерешенный вопрос.
Теперь вопрос - что конкретно, кроме наслаждений и страданий, не имеет решения?
В очередной раз повторяю - есть информация с камеры, как сделать так, чтобы робот мог сходить в магазин купить хлеба.
Вы повторяете одно и то же, игнорируя ответы, далее я отвечать не буду.
Я выше расписал логику работы такого робота.
Эту задачу нужно декомпозировать на отдельные шаги. Однако же выгоднее сделать так, чтобы роботы брали товар прямо со склада - т.к. человек ходит и смотрит по магазину, делает решение - может купить что-то еще. Робот же берет конкретный товар и доставляет - ему нет нужны ходить. И это уже реализовано и работает, никакой загадки в этом нет
Вы не видели настоящих роботов.
Роботу поставили цель, он осматривается и анализирует где он вообще находится, что ему доступно для действий, он должен проанализировать, Какие шаги в принципе нужно выполнить для достижения этой цели, на основе окружающей обстановки и доступных объектов принимает решение, как он будет действовать, после выполнения действия, опять осматривается и цикл повторяется пока не достигнет целевого действия.
Пример для дебилов:
То есть, если он находится на этаже многоэтажки, проанализировать, что для достижения цели, магазин скорее всего находится где-то на улице, соответственно ему нужно спуститься на первый этаж, осмотревшись он может увидеть лифт, понять есть лифт - соответственно его можно вызвать, зайти в него, дальше осмотреться, найти кнопки, среди кнопок логично выбрать первый этаж, и вот так постоянно осматриваясь и принимая решения, он теоретически может достигнуть цели.
Без жестких алгоритмов. Это всё уже сейчас реализуемо, единственная проблема - это нужны очень большие вычислительные ресурсы и то, что такие роботы нафиг не нужны для коммерческого использования.
Чем отличается философский зомби от сознательного существа?
Тем, что эта концепция сама себе противоречит, и потому физически невозможна. Если он полностью идентичен, значит и ощущения испытывает так же. Если не испытывает, значит не полностью идентичен, что-то отличается, и можно это показать. Иначе мы приходим к магии, и рассматривать это нет смысла.
Именно вопрос наслаждения и страдания и есть то, что отличает сознательного от бессознательного.
Вопрос наслаждения и страдания не есть то, что отличает сознательного от бессознательного.
Попробуйте привести хотя бы одну искусственную систему, которая испытывает наслаждение и страдание.
Это совершенно другой вопрос, он никак не связан с вопросом, может ли существовать сознательная система без этих проявлений.
На этот вопрос я уже приводил пример - тамагочи при определенных условиях говорит "Хочу есть", а при других условиях не говорит. Это не такое ощущение как у нас, но оно не хуже и не лучше, оно просто другое.
Если он полностью идентичен, значит и ощущения испытывает так же.
Бихевиоральный зомби. Ведет себя как настоящий - но ничего не ощущает. Кричащая кукла.
Внутри у него устройство другое, конечно.
Вопрос наслаждения и страдания не есть то, что отличает сознательного от бессознательного
Это и только это. Попробуйте найти другой признак. Все остальные аспекты уже реализованы и мы на интуитивном уровне понимаем, хотя не осознаем почему именно - что это не то. Если проработать и детально проанализировать - именно наслаждения и страдания не хватает. Чтобы оно не просто делало вид что ему больно - а на самом деле было больно. Чтобы не исполняло программу по достижению заданной цели - а на самом деле наслаждалось от чего-то.
Это не такое ощущение как у нас, но оно не хуже и не лучше, оно просто другое.
Это кричащая кукла. Лишь в голове наблюдателя, который умеет страдать - может возникнуть ассоциация что кукле больно. Блин, уже устал очевидные вещи говорить.
Ведет себя как настоящий - но ничего не ощущает.
Внутри у него устройство другое, конечно.
"Философский зомби - гипотетическое существо, идентичное человеку по физическому телу вплоть до элементарных частиц и кварков, но не имеющее сознания".
Попробуйте найти другой признак.
Я говорю, что то, что вы назвали, вообще не является признаком сознания.
Из того, что я не смогу найти другой признак, никак не следует, что ваше высказывание можно считать верным.
Если проработать и детально проанализировать - именно наслаждения и страдания не хватает.
Если проработать и детально проанализировать - не хватает не именно наслаждения и страдания, а чего-то другого.
Я не понимаю, почему вы пытаетесь что-то доказать бездоказательными высказываниями. Мои высказывания абсолютно аналогичны вашим, давайте будем их считать правильными?
Это кричащая кукла.
Это не кричащая кукла. Блин, уже устал очевидные вещи говорить.
Это кричащая кукла, и это ничего не меняет. Блин, уже устал очевидные вещи говорить.
Выбирайте, какой вариант вам больше нравится.
Лишь в голове наблюдателя, который умеет страдать - может возникнуть ассоциация что кукле больно.
А при чем тут страдание человека? Я прямо сказал "Это не такое ощущение как у нас". Это ощущение не аналогично страданию человека, это не значит, что оно чем-то хуже. Это страдание тамагочи.
идентичное человеку по физическому телу
Там же разные концепции есть. Я говорю о бихевиоральный зомби - ведет себя так же, как бы копирует поведение человека - но при этом имеет другое устройство (программное) и просто симулирует поведение.
Я говорю, что то, что вы назвали, вообще не является признаком сознания.
А что вы хотите найти? Что вам нужно от сознания и почему этот вопрос вас интересует?
У меня цель вполне конкретная - все наши ценности сводятся к наслаждению и страданию. И мы не знаем что это за феномены, как они могут возникнуть в некой искусственной системе. Если эти феномены имеют фундаментальную природу и привязаны к некой частице - это меняет дело.
Я говорю о бихевиоральный зомби
Вы сказали "Чем отличается философский зомби от сознательного существа?".
У бихевиорального зомби может не быть именно таких же ощущений, но это не значит, что у него нет сознания. Вы же не считаете, что у актеров на сцене нет сознания.
А что вы хотите найти?
Я ничего не хочу найти, я указываю на логическую ошибку в ваших рассуждениях.
Я ничего не хочу найти
Тогда не тратьте время. Если вы что-то конкретное хотите понять в вопросе сознания, какой-то конкретный вопрос/аспект - тогда велком.
я указываю на логическую ошибку в ваших рассуждениях
Дело здесь вот в чем. Все понятия, которыми мы оперируем в данном вопросе (вопросе сознания) - не имеют формального определения. Высказывания не могут быть математически точными, мы лишь пытаемся донести смысл, иногда уточняем.
Если вы пришли просто поглумиться или позанудствовать - смысла нет. Если какой-то конкретный вопрос ищите - поясню вам, почему там нет логической ошибки. Но цель должна быть - просто бесцельно теревенить смысла нет.
Если вы что-то конкретное хотите понять в вопросе сознания, какой-то конкретный вопрос/аспект
Может быть это вам стоит что-то понять в этом вопросе?)
Но цель должна быть - просто бесцельно теревенить смысла нет.
Нет, логическая ошибка в ваших рассуждениях может быть независимо от моей цели.
Смысл для себя я тут вижу в том, чтобы уменьшить количество утверждений, подразумевающих магию и вводящих в заблуждение.
По вашим утверждениям получается, что у актеров во время игры на сцене нет сознания, из-за чего при определенных обстоятельствах могут пострадать актеры. Или у людей, которые не чувствуют боль. Это аналогично утверждению "У негров нет души".
поясню вам, почему там нет логической ошибки.
Она там есть, потому что вы уже сделали бездоказательные утверждения, независимо от дальнейших пояснений, это просто факт. Свои утверждения вы считаете верными, а мои аналогичные неверными, хотя логически они ничем не отличаются.
Нет, логическая ошибка в ваших рассуждениях может быть независимо от моей цели.
Вам, прежде всего, нужно понять смысл разговора.
получается, что у актеров во время игры на сцене нет сознания
Нет, не получается. Актер кричит от боли, но отображаемой им боли при этом не чувствует - просто пытается вызвать соответствующие переживания у смотрящих. При этом не значит, что он вообще не ощущает в этот момент никаких наслаждений и страданий. Актер ощущает наслаждение от взглядов публики (ведь как он хорошо сыграл), ощущает эстетическое наслаждение от видимых им образов и т.д.
Понятно немножко?
Вам, прежде всего, нужно понять смысл разговора.
Смысл разговора я указал в первом сообщении - вы делаете утверждения без доказательств. Я сделал противоположные утверждения тоже без доказательств.
Понятно немножко?
Мне уже давно понятно, что вы пытаетесь сказать, и я с этим не согласен, еще один такой же пример ничего не изменит. Я не знаю, почему вы с самого начала ветки считаете всех несогласных с вами тупыми.
Актер может не ощущать наслаждение, он может думать о том, когда ему договориться с сантехником трубу поменять. Он не испытывает особых эмоций ни по поводу игры, ни по поводу выбора времени. У эмоций есть уровни, и они могут быть около нуля.
С актером и компьютером ситуации совершенно одинаковые - наблюдаемые эмоции не соответствуют фактическим. Раз у актера есть сознание, несмотря на имитацию ощущений, значит и у компьютера оно может быть.
Пример с людьми, которые не чувствуют боль, вы тоже проигнорировали. Такой человек не испытывает страдание от повреждений, ему объяснили, почему надо их избегать, и он так делает. Для него это только логическая оценка. При этом у него есть сознание, значит и у компьютера оно может быть.
не испытывает особых эмоций
Во-первых, даже слабые, не какие-то особые, эмоции важны. Вы смотрите на насыщенный красный цвет - и испытываете небольшое эстетическое наслаждение, пусть едва заметное. Однако помести вас комнату без красного цвета и продержи достаточно долго - увидев насыщенный красный цвет - испытаете эмоции по силе сравнимые с оргазмом.
Мы часто не придаем значения слабым наслаждениям и страданиям, но это тоже важно.
Вы-вторых, если в данную миллисекунду человек ничего не испытывает - и что? Он как бы временно заснул, сам того не заметил. Его как сознательного субъекта - действительно не существует в эту микросекунду. Но ведь он потом ощутит и наслаждение и страдание - и именно в этом его ценность. Вроде очевидно. Нет необходимости в непрерывности страдания и наслаждения.
В чем ваш вопрос тогда?
Раз у актера есть сознание, несмотря на имитацию ощущений
Сознание актера определяется не внешней имитацией эмоций - это может и кукла делать. А именно что внутренними наслаждениями и страданиями, которых может быть и не видно внешнему наблюдателю.
Признаков что что-либо подобное есть у искусственных систем - ровно ноль. Утверждений что какая-либо искусственная система начала наслаждаться и/или страдать в науке нет. Гипотез как сделать страдающую систему так же не много - всего лишь ноль.
Пример с людьми, которые не чувствуют боль, вы тоже проигнорировали
Спектр страданий намного шире, чем просто физическая боль. Есть эстетическое страдание - когда испортили вещь, которой вы восхищались (измазали говном Мону Лизу, для примера), есть страдание по утрате любимых людей (людей, от которых мы наслаждались) и т.д.
Если человек вообще не испытывает никакого наслаждения и страдания - значит он не одушевлен, его не существует. Это может быть временным как бы замиранием во времени типа комы - в таком случае лишь надежда что наслаждение и страдание как феномены вновь начнут себя проявлять.
Hidden text
Вы смотрите на насыщенный красный цвет - и испытываете небольшое эстетическое наслаждение
Нет, красный цвет у меня не вызывает таких эмоций.
Мы часто не придаем значения слабым наслаждениям и страданиям, но это тоже важно.
Нет, не важно. Вы продолжаете делать бездоказательные утверждения в попытке натянуть на глобус ненатягиваемое.
Но ведь он потом ощутит и наслаждение и страдание - и именно в этом его ценность. Вроде очевидно.
Нет, ценность не в этом. Это не очевидно.
"Очевидно" это конечно очень научный аргумент.
Сознание актера определяется не внешней имитацией эмоций, а внутренними наслаждениями и страданиями
Сознание актера не определяется внутренними наслаждениями и страданиями.
Его как сознательного субъекта - действительно не существует
Существует.
Если человек вообще не испытывает никакого наслаждения и страдания - значит он не одушевлен, его не существует.
Нет, не значит. Это ваше личное ничем не подкрепленное мнение.
небольшое эстетическое наслаждение
Есть эстетическое страдание
Вот и у тамагочи оно есть. Положительное значение в ячейке это эстетическое наслаждение, отрицательное эстетическое страдание. Не физическое.
Оно не такое как у нас, но это не значит, что оно чем-то хуже. Так вот она устроена, такие у нее компьютерные ощущения.
которых может быть и не видно внешнему наблюдателю
Ну ок, компьютер испытывает наслаждение и страдание, просто вам их не видно. Что дальше?
Доказать? А нельзя доказать, вы сами допустили отсутствие проявлений, которые можно наблюдать.
если в данную миллисекунду человек ничего не испытывает
Ну вот, подмена понятий началась. "Не испытывает наслаждение или страдание" не означает "не испытывает ничего". Он может в это время воспринимать ноту ля первой октавы средней громкости.
Спектр страданий намного шире, чем просто физическая боль.
Я думал, это достаточно очевидно, но ок, напишу явно. ВСЕ рассуждения в этом примере можно применить к любым элементам из этого спектра.
Мои высказывания сделаны с учетом этого.
Гипотез как сделать страдающую систему так же не много - всего лишь ноль.
Ну и что? Это вам она зачем-то нужна, а другие делают искусственный интеллект и без нее.
Гипотез как устроена молния тоже было немного. Что из этого следовало на тот момент?
Утверждений что какая-либо искусственная система начала наслаждаться и/или страдать в науке нет.
И не надо. Компьютер уже умеет различать цвета без человеческих эстетических наслаждений.
Вот и у тамагочи оно есть.
Погодите. Вы пришли исправлять логические ошибки, верно? Про актера вы уже поняли что логической ошибки нет? Теперь хотите к другому вопросу перейти - чтобы я доказал вам отсутствие наслаждений и страданий в тех или иных искусственных системах? Да, я могу это сделать, но сначала определитесь была там логическая ошибка или вы ошиблись?
Про актера вы уже поняли что логической ошибки нет?
Ничего такого я не понял. Очередные логические ошибки в ваших высказываниях я перечислил в предыдущем комментарии под спойлером.
В примере с актером вы ничего нового не сказали, просто повторили необоснованную точку зрения, что эмоции почему-то определяют его сознание, при том, что его сознательные действия им не соответствуют. А с компьютером считаете такое же несоответствие критерием отсутствия сознания.
Теперь хотите к другому вопросу перейти
Нет, это все тот же вопрос. Вы уже сами пришли к выводу, что физические эмоции для сознания не нужны, достаточно эстетических.
Дальше предлагаю вам подумать, чем эстетические эмоции отличаются от физических.
Очередные логические ошибки в ваших высказываниях
Ну давайте разберем т.н. логическую ошибку с актером.
В примере с актером вы ничего нового не сказали, просто повторили необоснованную точку зрения, что эмоции почему-то определяют его сознание
Такой вопрос. Есть ли разница между этими случаями:
Человек держит руку на голове, сжимает глаза, говорит "ай", говорит что у него болит голова. При этом на самом деле он врет и голова у него не болит.
Тот же случай, человек держит руку на голове, сжимает глаза, говорит "ай", говорит что у него болит голова. При этом у него на самом деле болит голова.
Есть ли разница между этими случаями или нет никакой разницы? Если разница есть, то в чем она?
Пример с актером призван продемонстрировать эту разницу. Не все что выглядит как страдание - является таковым на самом деле. Каких либо других аспектов пример с актером более не раскрывал.
Пример с актером в этой ветке привел я. Он был нужен для того, чтобы продемонстрировать отсутствие отличий актера и компьютера в проявлении эмоций.
Если разница есть, то в чем она?
В том, что в одном случае ощущение есть, в другом нет. При этом если измерить сигналы нейронов в обоих случаях, то будут отличия.
Не все что выглядит как страдание - является таковым на самом деле.
Ну да, и? У нас разговор про то, как это влияет на сознание. У актера никак не влияет, почему у компьютера должно влиять.
Пример с актером в этой ветке привел я.
Сорри, не уследил. Обычно я привожу этот пример чтобы продемонстрировать разницу между видимостью страдания (актер кричит как бы от боли, но ему больно) и настоящим страданием.
продемонстрировать отсутствие отличий актера и компьютера в проявлении эмоций
Проявление эмоций интереса не представляет. Более того - не любой человек будет стараться проявлять наслаждения и страдания - может сдерживать в себе.
что в одном случае ощущение есть, в другом нет
Вот именно. То что вы называете ощущение - это всегда либо наслаждение либо страдание. Механистические так называемые ощущения, которые не осознаются как насладжения и страдания - интереса не представляют.
У нас разговор про то, как это влияет на сознание. У актера никак не влияет, почему у компьютера должно влиять.
Вы не поняли. Наслаждение и страдание - не в узком смысле, что типа яркая боль и ярчайшее наслаждение.
Слабенькие наслаждения и страдания - так же очень важны. Посмотрели на просто квадрат - уже получили небольшое эстетическое наслаждение от симметричности его фигуры. Посмотрели на насыщенный красный цвет - красный значит красивый - еще небольшое эстетическое наслаждение. Но по факту наше сознание получает целую композицию наслаждений и страданий каждую секунду - разной детализации и оттенков. И этим оно живет.
Очередные ошибки в логике
То что вы называете ощущение - это всегда либо наслаждение либо страдание.
Нет, не всегда.
Механистические так называемые ощущения интереса не представляют.
Представляют.
Слабенькие наслаждения и страдания - так же очень важны.
Нет, не важны.
Посмотрели на просто квадрат - уже получили небольшое эстетическое наслаждение от симметричности
Нет, не получили.
красный значит красивый - еще небольшое эстетическое наслаждение
Нет, не значит. Одним людям красный нравится, другим не нравится, третьим без разницы.
И этим оно живет.
Нет, оно живет не этим.
Вы не поняли. Наслаждение и страдание - не в узком смысле, что типа яркая боль и ярчайшее наслаждение.
Я нигде не говорил про узкий смысл. Наоборот, я сказал "У эмоций есть уровни, и они могут быть около нуля". Я прекрасно вас понял, и возражаю на ваши утверждения.
Раз эмоция уровнем 0.01 на существование или уровень сознания не влияет, значит и эмоция уровнем 0.001 не повлияет. Аналогично 0.0001, 0.000000001, и так далее до 0.00. Иначе появляются неудобные вопросы, на каком знаке оно возникает, почему именно на этом, почему дальнейшее повышение уровня ничего не меняет.
Эмоций больше, чем 2. Этого достаточно, чтобы опровергнуть ваши выводы. Утверждения вида "Их 2, просто вы не замечаете" аналогичны чайнику Рассела и потому ненаучны.
Нет, не всегда.
Примеры. Если вы считаете что это ошибка в логике - то какая именно это ошибка - к примеру, подмена тезиса или что здесь?
Представляют.
Что именно для вас представляет интерес. Все механистические обработки уже давно воссозданы - можете сделать любую реакцию, даже достаточно сложные. Интереса нет в этом.
Нет, не важны.
Важны, т.к. если вы поймете суть слабенького страдания, то это послужит вам ключом к пониманию страдния большей силы.
Нет, не получили.
Получили - квадрат Малевича вам в пример.
Нет, не значит. Одним людям красный нравится, другим не нравится, третьим без разницы.
Большинству нравится красный цвет, ассоциация с красивыми цветами. По этому именно "красность", а не "бежевость" - приводят как пример квалиа.
Раз эмоция уровнем 0.01 на существование или уровень сознания не влияет, значит и эмоция уровнем 0.001 не повлияет.
Любая даже самая маленькая эмоция - делает объект сознательным. Даже самое маленькое наслаждение и страдание.
У всех известных нам искусственных систем - нет даже самой маленького наслаждения и страдания - просто 0.
Эмоций больше, чем 2. Этого достаточно, чтобы опровергнуть ваши выводы.
Все "эмоции" или, точнее, "квалиа" имеют либо знак плюс либо знак минус, как бы дихотомия такая. А уже в рамках этой дихотомии существует большое пространство разных оттенков наслаждений и страданий. К примеру, запах фиалки и запах розы - близко друг к другу и имеют, как правило, положительный знак. А запах трупа и запах гнили - имеют отрицательный знак.
Если вы считаете что это ошибка в логике - то какая именно это ошибка
Я уже говорил - необоснованные утверждения, которыми вы пытаетесь доказать свою точку зрения. Раз они необоснованные, то не могут использоваться в качестве доказательства.
Интереса нет в этом.
Ну как это нет, это основная цель изобретения ИИ. Есть информация с камеры, компьютер различает цвета, как сделать так, чтобы робот мог сходить в магазин купить хлеба. Или взять нужные образцы породы на Марсе.
нет даже самой маленького наслаждения и страдания - просто 0
Поправка, нет человеческого наслаждения и страдания. И?
Получили - квадрат Малевича вам в пример.
Я от квадрата Малевича никакого эстетического наслаждения не получаю.
По этому именно "красность" - приводят как пример квалиа
Нет, не поэтому.
Любая даже самая маленькая эмоция - делает объект сознательным.
Нет, не делает. Показательно, что неудобные вопросы вы проигнорировали.
Все "эмоции" имеют либо знак плюс либо знак минус
Нет, не имеют. Примеры я уже приводил.
Такие утверждения аналогичны чайнику Рассела и потому ненаучны.
необоснованные утверждения
Необоснованное утверждение - это не ошибка в логике.
Вот тут смотрите список логических ошибок.
Необоснованное утверждение можно попросить меня обосновать - возможно обоснование есть, но вы не просили меня его привести.
Есть информация с камеры, компьютер различает цвета, как сделать так, чтобы робот мог сходить в магазин купить хлеба.
Уже может. И интереса в этом нет.
Поправка, нет человеческого наслаждения и страдания. И?
Никакого наслаждения и страдания нет. С чего вы решили что есть отдельное человеческое?
Я от квадрата Малевича никакого эстетического наслаждения не получаю.
Мы не обсуждаем частные случаи - мало ли у кого какие отклонения, кто-то и физической боли не испытывает. Люди считают это произведением искусства и получают эстетическое наслаждение, по этому он в музее и стоит огромных денег.
Нет, не поэтому.
Слушаю вашу версию.
Нет, не делает. Показательно, что неудобные вопросы вы проигнорировали.
Давайте пример системы, у которое есть маленькое наслаждение и страдание (не реакция и не видимость типа кричащей куклы), и при этом она не сознательна.
Какие вопросы? На все отвечаю. Давайте по существу.
Нет, не имеют. Примеры я уже приводил.
Вы просто не задумывались над этим.
Необоснованное утверждение - это не ошибка в логике.
Ошибка в логике это не необоснованные утверждения, использование их в качестве доказательства своей точки зрения. Я же это явно написал.
Вот тут смотрите список логических ошибок.
Вот именно поэтому я написал не термин "логическая ошибка", который имеет специальное значение, а более широкое выражение "ошибка в логике".
Уже может. И интереса в этом нет.
Нет, не может. Интерес в этом есть, иначе бы на ИИ никто не давал много денег.
Мы не обсуждаем частные случаи
А они имеют значение. Они так же очень важны. Вы просто не задумывались над этим.
Когда вам удобно, вы незначительные случаи считаете важными, когда неудобно, считаете неважными. Двойные стандарты, очередная ошибка в логике.
С чего вы решили что есть отдельное человеческое?
С того, что вы приводите в пример только человеческое, считая любые другие примеры не настоящими. У тамагочи есть процессы получения информации, которые она считает для себя положительными или отрицательными. Не имеет никакого значения, что они не похожи на процессы у человека.
Слушаю вашу версию.
Я ее уже сказал - "красность" приводят как пример квалиа по другим причинам. Это моя версия.
Хотите узнать причины? Потому что снег белый. Потому что гладиолус.
Эти утверждения ничем не отличаются от вашего.
Давайте пример системы, у которое есть маленькое наслаждение и страдание и при этом она не сознательна.
Очередная ошибка в логике рассуждений. При чем тут пример системы с эмоциями, если мое утверждение заключается в том, что сознание может быть без эмоций?
Вы даже не слушаете, что говорит собеседник, просто твердите одно и то же.
Какие вопросы?
Ctrl+F "неудобные вопросы"
Ошибка в логике это не необоснованные утверждения
Логика - это не про фактаж а про умение оперировать принятым фактажом. А уже проверка корректности фактов, выбор аксиом - логикой не обоснуешь.
К примеру, есть такое утверждение: "Шмурдик боится как мышей, так и тараканов." И вас просят подтвердить или опровергнуть выводы, которые можно логически сделать из этого утверждения. Как то корректен ли такой вывод: "шмурдик не боится тараканов". Логика может сказать что этот вывод ошибочен, исходя из начального утверждения - но ничего не может сказать о начальном утверждении.
Рекомендую вам пройти тест на логическое мышление Войнаровского. У меня ошибок в логике нет (или я их сам увижу, даже если сделаю) и для меня это критически важно, т.к. если начну делать логические ошибки и не буду их видеть - не будет смысла заниматься данным вопросом.
Интерес в этом есть, иначе бы на ИИ никто не давал много денег.
Это прикладные задачи, которые уже в принципе решаются. Уже авто ездят без водителя, уже есть доставка роботизированная. Можно улучшать, но сам принцип понятен и экзистенциального интереса не представляет. Просто прикладной интерес может кому и состав говна интерес представляет.
А они имеют значение.
Нужно уметь абстрагировать, иначе мы вообще не сможем сделать ни одного утверждения. Даже 2+2 яблока не будет равно 4-м яблокам, т.к. все яблоки разные.
Двойные стандарты, очередная ошибка в логике.
Иногда мелочи имеют значение, в других случаях же нужно абстрагироваться от них. И только смысл может сказать как действовать в конкретном случае.
Здесь ошибки нет.
У тамагочи есть процессы получения информации, которые она считает для себя положительными или отрицательными.
Это всего лишь одушевление, как дети смотрят на кипящий чайник и думают что он ворчит злится, что его забыли снять с плиты.
Тамагочи действует без наслаждения и страдания - такие же процесс есть и в нас самих - реакция есть, а наслаждения и страдания нет.
Хотите узнать причины? Потому что снег белый. Потому что гладиолус.
Вы что правда не хотите услышать? Подумайте.
Красность или боль или запах фиалки приводят в качестве примера квалиа. Но вот бежевость или запах дерева - не приводят, они не такие яркие - не вызывают таких наслаждений/страданий у большинства.
Вы же просто отшутились детской шуткой, вместо того, чтобы назвать причину.
мое утверждение заключается в том, что сознание может быть без эмоций
Приведите пример сознательной системы без наслаждения и страдания. Как вы поймете что у нее есть сознание - какие признаки или критерии являются минимально необходимыми?
Я вам назвал результаты своих исследований - любая система, у которой есть минимальное наслаждение и страдание - сознательна.
Слушаю вашу версию.
Логика - это не про фактаж а про умение оперировать принятым фактажом.
Я и сказал про умение оперировать фактажом: "использование их в качестве доказательства своей точки зрения". "Использовать" в данном контексте это синоним "оперировать".
У меня ошибок в логике нет
Есть. Строить выводы на необоснованных предположениях ошибочно.
Можно улучшать, но сам принцип понятен и экзистенциального интереса не представляет.
Представляет. Принцип, который я описал в своем комментарии, не понятен.
Тамагочи действует без наслаждения и страдания
Я уже отвечал на это утверждение, вы ходите по кругу, игнорируя аргументы.
Без человеческого наслаждения и страдания.
Вы же просто отшутились детской шуткой, вместо того, чтобы назвать причину.
Нет, я указал на то, что ваши утверждения настолько же не обоснованы, как и мои в этом примере.
Ладно, вот вам еще одна причина. Первый человек, кто привел пример красного цвета для квалиа, смотрел на что-то красное, вот и назвал красный, а остальные просто стали ссылаться на это высказывание.
Приведите пример сознательной системы без наслаждения и страдания.
А это уже отдельная тема обсуждения. Как я сказал, я лишь хотел указать на ваши логические ошибки. В рамках этого обсуждения можно заключить, что если будет приведен такой пример, то ваши выводы неверны. А значит не все так однозначно, как вы пытаетесь показать.
Я и сказал про у"Использовать" в данном контексте это синоним "оперировать".
А вот тут у вас логическая ошибка, которая называется подмена понятий.
Вы прошли тест на логическое мышление Войнаровского, как я вам рекомендовал?
Сейчас буду настаивать.
Строить выводы на необоснованных предположениях ошибочно.
Просите обосновать. Для кого-то утверждение может выглядеть очевидным, а для вас нужно обосновывать.
Без человеческого наслаждения и страдания.
Вот, возьмем способность летать. Есть ли отдельная птичья способность летать? Или птицы, летучие мыши - летают за счет одних и тех же физических законов?
Есть ли отдельная человеческая способность наслаждаться и страдать? Или же все сознательные субъекты, как то люди, собаки, высшие приматы - страдают благодаря одним и тем же феноменам?
С чего вы взяли, что феномены в страдании - отличаются?
Вот тут я прошу уже обосновать оба вопроса.
Первый человек, кто привел пример красного цвета для квалиа, смотрел на что-то красное, вот и назвал красный, а остальные просто стали ссылаться на это высказывание.
Не подходит. Кроме красности разные авторы приводят и другие примеры т.н. квалиа, и это всегда связано с неким максимально сильным наслаждением или страданием. Как то боль или запах фиалки.
я лишь хотел указать на ваши логические ошибки
Вы сначала разберитесь что такое логическая ошибка и почему неверный фактаж (даже если он неверный) - это не логическая ошибка.
Пройдите тест на логическое мышление Войнаровского - результат сюда.
С чего вы взяли, что феномены в страдании - отличаются?
Это вас надо спросить. Я говорю, что вот этот процесс у тамагочи это страдание, вы говорите, что нет, лишь на том основании, что он не такой, как у человека или собаки. Если что-то может быть устроено не так, как у человека, и это все равно можно назвать страданием, почему оно не может быть устроено так, как у тамагочи?
- "Использовать" [факты] в данном контексте это синоним "оперировать" [фактами].
- А вот тут у вас логическая ошибка, которая называется подмена понятий.
Оперировать - Словарь
Использовать факты, цифры, аргументы, цитаты и т.п. при рассуждениях, подсчетах, доказательствах.
Вы уже начали выдумывать собственные определения слов, отличающиеся от принятых в русском языке. Мне это неинтересно, далее не отвечаю. Но будет неплохо, если вы ответите на вопрос выше, без использования необоснованных утверждений.
лишь на том основании, что он не такой, как у человека или собаки.
У человеки и у собаки - страдания являются одним и тем же феноменом. Возможно собака имеет чуть другой оттенок страданий, но суть та же.
У других искусственных систем его нет по определению хотя бы - посмотрите определение страдания и попробуйте натянуть его на какую-либо искусственную систему. Не получится.
Если же вы будете утверждать что аналогичный феномен есть у искусственной системы - вам нужно этот феномен формализовать, определить и доказать что этот тот же феномен, что у живых существ, обладающих психикой.
Использовать факты, цифры, аргументы, цитаты и т.п. при рассуждениях, подсчетах, доказательствах.
Еще раз вам говорю: неверный факт не относится к логической ошибке, это фактаж.
Оперировать в значении "использовать факт" - не приводит к логической ошибке, это ошибка фактажа а не логики.
А вот оперировать в значении "применять логические законы" - может привести к логической ошибке.
У вас классическая ошибка - подмена понятий. Одно слово можно употребить в разных значениях и таким образом произвести подмену понятий.
Вот пример подмены понятий: "Свобода слова позволяет говорить все, что угодно, значит, я могу оскорблять других". Слово "свобода" может быть употреблено в разных значениях и второй вывод делается благодаря подмене понятия.
Еще раз говорю вам - пройдите тест на логическое мышление Войнаровского.
пройдите тест на логическое мышление Войнаровского
Раз вы еще не поняли, скажу прямо. Тест Войнаровского меня не интересует. Судя по вашим словам, он противоречит словарным значениям слов.
Еще раз вам говорю: неверный факт не относится к логической ошибке, это фактаж.
Я прямым текстом сказал, что я ошибкой называю не неверный факт, а его использование в качестве доказательства. Почему вы мне приписываете то, чего я не говорил?
А вот оперировать в значении "применять логические законы" - может привести к логической ошибке.
"Использование недоказанных утверждений в качестве доказательства" это и есть "неправильное применение логических законов". Есть логический закон, что использовать в качестве доказательства можно только обоснованные (доказанные) утверждения.
У других искусственных систем его нет по определению
Вот я и говорю, по-вашему ощущение может быть только таким, как у человека (или собаки, что по вашим словам то же самое). И вы это неявно используете в высказываниях. Хорошо, что вы сами это подтвердили.
Тест Войнаровского меня не интересует. Судя по вашим словам, он противоречит словарным значениям слов.
Причем тут словарные значения слов? Логика работает даже с теми понятиями, которых в словаре нет. Даже если понятие вам не знакомо и его нет в словаре.
я ошибкой называю не неверный факт, а его использование в качестве доказательства
Так и нужно напирать на то что факт неверный, а не говорить о логических ошибках.
Иначе вы сбиваете с толку, когда говорите о логических ошибках. Нужно уметь выражать свою мысль прямо и четко - неверный фактаж (по вашему мнению - скорее всего вы ошибаетесь), что приводит к ошибке.
Какой именно факт вы подвергаете сомнению?
по-вашему ощущение может быть только таким, как у человека (или собаки, что по вашим словам то же самое).
Не ощущение а наслаждение и страдание. Вы посмотрите в словаре и убедитесь что эти понятия прямо или косвенно привязаны к психике, сознанию. Т.е. это исходя из определения. Проследите всю цепочку определения. Может быть прямо сказано о человеке (в зависимости от определения), может быть отсылка к психическому состоянию (которое, в свою очередь, ссылается на психику, далее на "специфический аспект жизнедеятельности животных и человека в их взаимодействии с окружающей средой" или "внутренний мир человека").
. Есть ли отдельная птичья способность летать? Или птицы, летучие мыши - летают за счет одних и тех же физических законов?
Вообще то сам феномен полета он разный для разных птиц, летучих мышей, белок летяг и пр. Кто то больше парит в воздухе, кто то только планирует вниз, и т.д. Так что вводить понятие "птичья способность летать", "совиная способность летать (отличается бесшумностью)" совершенно нормально, отличия же есть. Вводить в язык такую абстракцию как "полет" подгоняя под нее явления которые отличаются друг от друга совершенно не обязательно, хотя и имеет определенный смысл так как есть и похожесть между явлениями.
А поскольку мы знаем что всё что мы собой представляем в течение эволюции развивалось постепенно, усложняясь и улучшаясь,то применяя бритву окама логично предположить что то же самое было и с наслаждением и страданием. Но это конечно если вы следуете научной методологии в своих рассуждениях
Вообще то сам феномен полета он разный
Да все разное. Без умения абстрагировать - мы даже не сможем сложить 2 + 2, т.к. все предметы немножко отличаются и 2 этих яблока не равноценны двум другим.
логично предположить что то же самое было и с наслаждением и страданием
Возможно на каком-то этапе возникла молекула Познера или подобный механизм, который внедрил сознание в наш мир. А может быть и иначе - изначально возникла эта молекула Познера и это сознание направляло ход эволюции. Как пример - все наблюдаемые нами эволюции - авто, телефоном, компьютеров - очень похожи на биологическую эволюцию (ветви, наследование) - но управлялись сознанием.
Нет никаких молекул с сознанием. Нет никаких научных свидетельств их существования. Таблица Менделеева полностью открыта, взаимодействие атомов хорошо изучено. Наличие необъясненного явления не является таким свидетельством.
Нет никаких научных свидетельств их существования.
Ну существование молекулы Познера и то, что она может послужить проводником к эффектам квантового мира - вполне научно доказано. Гипотеза о том что эти эффекты используются в мозге человека - вполне имеет своих приверженцев в научном мире.
Наличие необъясненного явления не является таким свидетельством.
Когда нет даже ни одной гипотезы (я сейчас о механизме, который может наслаждаться и страдать) - это свидетельство большого пробела в научной картине мира. Хотя бы гипотезы должны быть. Вот о шаровой молнии - есть множество гипотез, для примера. А о наслаждении и страдании - как они могут возникнуть в искусственной системе - гипотез не так много - всего лишь ноль.
При чем тут эффекты квантового мира, если вы говорили про молекулы с сознанием, и я сказал "Нет научных свидетельств существования молекул с сознанием"? Очередная подмена понятий.
гипотез не так много - всего лишь ноль.
Это ложь, вы сами в предыдущем комментарии высказали одну. И вы не один, кто их высказывает.
Ну как бы эти молекулы обладают сознанием как раз за счёт квантовой запутанности между собой. Знайте своего врага!
как раз за счёт квантовой запутанности между собой
Это один из вариантов. Возможно что проявляется какой-то другой фундаментальный эффект.
Это выглядит как описание магии - ну вот оно как-то там само обладает. Для таких утверждений не нужна квантовая запутанность, можно использовать любые другие концепции. Скрепили 2 доски гвоздём - всё, они обладают сознанием за счет скрепленности между собой.
Нет научных свидетельств существования молекул с сознанием
Так этого никто и не утверждал. Гипотеза такова - сознание есть базовое свойство материи, как, к примеру, электромагнитное взаимодействие. И в нашем мозге это базовое свойство проявляется благодаря устройству - молекулам Познера или подобным.
Точно так как катушка с проводом - электромагнит - является устройством, благодаря которому в нашем мире проявляется электромагнитное взаимодействие особым образом. И это устройство как бы служит мостиком к фундаментальному явлению, хотя само по себе не шибко хитрое.
Это ложь, вы сами в предыдущем комментарии высказали одну.
Об абстрактном сознании (которое не пойми что) или о наслаждении и страдании, которые основа наших ценностей?
Молекула Познера это одна из гипотез.
никто и не утверждал
Вы утверждали:
"молекула Познера или подобный механизм, который внедрил сознание"
Чтобы рассматривать такую гипотезу, должны быть какие-то научные свидетельства, что это возможно. Я вам на это указал, а вы сказали, что есть свидетельства квантовых эффектов. Ну есть, но это не те свидетельства, которые нужны, а вы пытаетесь их выдать за те.
сознание есть базовое свойство материи
Ну тогда и в тамагочи есть сознание, потому что она состоит из материи.
Возможно на каком-то этапе возникла молекула Познера или подобный механизм, который внедрил сознание в наш мир
Ну вот видите, вы просто не применяете научный метод, взяли и зачем то добавили лишнюю сущность без особой на то необходимости. Непонятно что тут тогда обсуждать, по какой методологии, ваша то неизвестна да и эффективность ее непонятна.
взяли и зачем то добавили лишнюю сущность без особой на то необходимости
Необходимость простая - свести феномены наслаждения к фундаментальным свойствам - единственная возможная на данный момент гипотеза. Если у вас есть хотя бы одна другая гипотеза - прошу.
Что прошу? У вас своя методология рассуждений, не научная. Какой вам вообще смысл рассматривать научные гипотезы если вы рассуждаете по каким то своим, интуитивно вам понятным правилам. В рамках научной методологии сам термин "наслаждение" бессмысленен, это бытовой, ненаучный термин, ведь совершенно непонятно, можно ли считать два наслаждения возникшие в разное время одним явлением, не будет же здравомыслящий человек доверять собственной интроспекции и интуиции без всяких на то оснований.
совершенно непонятно, можно ли считать два наслаждения возникшие в разное время одним явлением
Ну если нельзя - то докажите что нельзя.
Я пока предполагаю что можно - все виды наслаждения - как то эстетическое, вкусовое, экзистенциальное, наслаждение от запахов и т.д. - это разные оттенки одного и того же явления.
Наиболее интересен факт, что кроме наслаждений есть так же и страдания. И если первое желательно и позитивно, то второе нежелательно и негативно. Так возникает добро и зло а рамках некой системы, так возникают ценности.
Но дело даже не в этом. Дайте научную гипотезу как создать девайс, который способен иметь любое состояние эмоционального позитивного и эмоционально негативного. Т.е. чтобы в нем возникло любое из того, что мы в быту называем наслаждение (пусть девайс ощутит запах фиалки) и любое из того, что мы в быту называем страдание (пусть девайс ощутит боль как от ожега).
Но дело даже не в этом. Дайте научную гипотезу как создать девайс, который способен иметь любое состояние эмоционального позитивного и эмоционально негативного. Т.е. чтобы в нем возникло любое из того, что мы в быту называем наслаждение (пусть девайс ощутит запах фиалки) и любое из того, что мы в быту называем страдание (пусть девайс ощутит боль как от ожега).
Вам даже алгоритм расписали, но вы не смогли его понять и интерпретировали через призму религиозных заблуждений.
О чём тут можно ещё говорить?
Вам даже алгоритм расписали
Говоря "расписали" - вы как бы хотите подключить авторитет общества, тем самым причинив мне страдания, мол, какой я глупый - не вписываюсь в общество (боль социального отторжения).
Не расписали вы попытались что-то свое изобразить, при этом не имея никаких подтверждений. Точно так приводили ООС и ПОС как пример наслаждений и страданий - мол, холодильник испытывает страдания, когда в камере слишком тепло и по этому он включает компрессор. Смешно.
Если вы серьезный человек - вам нужно оформить свою гипотезу и подвергнуть ее критике, она должна пройти хотя бы первичную проверку.
Я уже сейчас вижу что ваша гипотеза ошибочна. Если вы опишите ее более детально хотя бы в отдельной статье, не упуская деталей и желательно с примером реализации - то детально напишу в чем ваши ошибки.
Думаю вы и сами увидите свои ошибки, если попытаетесь все это реализовать.
Ну как это нет, это основная цель изобретения ИИ. Есть информация с камеры, компьютер различает цвета, как сделать так, чтобы робот мог сходить в магазин купить хлеба. Или взять нужные образцы породы на Марсе.
Алгоритм работы робота с ИИ для покупки хлеба в магазине, либо любой другой целью:
Инициализация и анализ окружения:
Активация системы компьютерного зрения
Сканирование окружающей обстановки камерой
Обработка изображения нейронной сетью для распознавания объектов
Создание 3D-карты окружения
Определение текущего местоположения:
Анализ распознанных объектов для определения типа помещения
Сопоставление с базой данных типовых локаций
Вывод о текущем местоположении (например, квартира в многоэтажном доме)
Планирование маршрута:
Определение промежуточных целей (выйти из квартиры, спуститься на первый этаж, выйти из здания, найти магазин)
Построение предварительного маршрута с учетом известной информации
Цикл действий для достижения промежуточных целей: a. Анализ текущего окружения:
Сканирование пространства камерой
Распознавание объектов и их функций (двери, лифт, лестница и т.д.)
b. Принятие решения:
Оценка возможных действий с учетом распознанных объектов
Выбор оптимального действия для достижения текущей промежуточной цели
c. Выполнение действия:
Активация необходимых моторов и механизмов
Контроль выполнения действия с помощью обратной связи от сенсоров
d. Повторная оценка ситуации:
Анализ результата выполненного действия
Обновление информации о текущем местоположении
Корректировка плана при необходимости
Навигация по городу:
Использование GPS для определения текущих координат
Поиск ближайших магазинов в базе данных или онлайн-сервисах
Построение маршрута до выбранного магазина
Взаимодействие в магазине:
Распознавание входа в магазин
Навигация внутри магазина с использованием компьютерного зрения
Поиск отдела с хлебом по визуальным признакам или указателям
Выбор подходящего хлеба на основе заданных критериев
Процесс покупки:
Распознавание кассы или зоны самообслуживания
Выполнение необходимых действий для оплаты (например, использование встроенной системы электронных платежей)
Получение чека и проверка корректности покупки
Возвращение:
Построение обратного маршрута до исходной точки
Выполнение навигации с учетом приобретенного товара
Завершение задачи:
Возвращение в исходную локацию
Передача купленного хлеба (если требуется)
Отчет о выполнении задания
Технические детали:
Система компьютерного зрения:
Использование стереокамеры для получения 3D-информации об окружении
Применение сверточных нейронных сетей (например, YOLO или Mask R-CNN) для распознавания объектов
Использование алгоритмов SLAM для одновременной локализации и картографирования
Система принятия решений:
Применение алгоритмов планирования на основе графов (например, A*)
Использование обучения с подкреплением для оптимизации выбора действий
Реализация системы приоритетов для оценки важности различных целей и ограничений
Навигационная система:
Интеграция GPS-модуля для определения координат на открытой местности
Использование инерциальных датчиков (акселерометр, гироскоп) для уточнения позиции
Применение алгоритмов фильтрации (например, фильтр Калмана) для уточнения данных о местоположении
Система управления движением:
Использование инверсной кинематики для расчета движений конечностей
Применение ПИД-регуляторов для точного контроля движений
Реализация системы обхода препятствий на основе данных с датчиков
Коммуникационная система:
Интеграция модуля беспроводной связи для доступа к онлайн-сервисам и базам данных
Реализация протоколов безопасной передачи данных для защиты платежной информации
Система обработки естественного языка:
Использование модели трансформеров (например, BERT) для понимания контекста и обработки текстовой информации
Реализация модуля синтеза речи для возможной коммуникации с людьми
Система энергообеспечения:
Использование литий-ионных аккумуляторов с высокой плотностью энергии
Реализация системы управления энергопотреблением для оптимизации работы в зависимости от задачи
Исполнительная система:
Использование сервоприводов с высокой точностью для управления конечностями
Применение захватов с тактильными сенсорами для манипуляции объектами
Этот алгоритм и технические детали обеспечивают гибкую систему, способную адаптироваться к различным ситуациям и эффективно решать поставленную задачу, постоянно анализируя окружение и принимая решения на основе текущей информации.
Ну так вопрос-то в том, как всё это сделать.
И заранее заданный алгоритм тут не подходит. Последовательность "Построение маршрута до выбранного магазина - Взаимодействие в магазине" не учитывает вариант, что выбранный магазин может быть закрыт. Последовательность "Выбор подходящего хлеба на основе заданных критериев - Процесс покупки" не учитывает, что хлеба может не быть, и тогда процесс покупки осуществлять не нужно.
Ну так вопрос-то в том, как всё это сделать.
Написано как. Даже сейчас на базе примитивного чата ГПТ.
Он вполне может построить план действий, понять как можно взаимодействовать с объёктами. Получать на вход что мы видим.
не учитывает вариант, что выбранный магазин может быть закрыт.
Вы попробуйте по Алгоритму поработать за робота п.4:
Магазин закрыт - осмотреться - построить альтернативный план действий. Если задача стоит добыть хлеб, то можно и выломать двери ))
не учитывает, что хлеба может не быть, и тогда процесс покупки осуществлять не нужно.
п. 4 - если цель "сходи купи хлеба как это делают люди", то вполне может принять решение пойти домой без хлеба, а может решить что рядом ещё есть магазины и можно туда сходить.
Алгоритм не окончательный, ясен пень его надо сильно дорабатывать. Это общая концепция.
Цикл действий для достижения промежуточных и глобальных целей: a. Анализ текущего окружения:
Сканирование пространства камерой
Распознавание объектов и их функций (двери, лифт, лестница и т.д.)
b. Принятие решения:
Оценка возможных действий с учетом распознанных объектов
Выбор оптимального действия для достижения текущей промежуточной и глобальной цели
c. Выполнение действия:
Активация необходимых моторов и механизмов
Контроль выполнения действия с помощью обратной связи от сенсоров
d. Повторная оценка ситуации:
Анализ результата выполненного действия
Обновление информации о текущем местоположении
Корректировка плана при необходимости и оценка актуальности промежуточной цели
Вы попробуйте по Алгоритму поработать за робота п.4
Я так и сделал. В вашем алгоритме написано сначала "Построение маршрута до выбранного магазина", потом сразу "Взаимодействие в магазине", без проверки что он может быть закрыт. Пункт 4 находится до них, и в момент построения маршрута до выбранного магазина этот шаг алгоритма уже выполнен.
Написано как.
Нет. У вас написано, что сделать, а не как.
Как сделать пункт "Выбор оптимального действия для достижения текущей промежуточной цели"?
Как сделать пункт "Корректировка плана при необходимости"?
В этом и есть основная сложность изобретения ИИ.
ясен пень его надо сильно дорабатывать
Ну так в этом и есть сложность. Именно поэтому я это действие привел как пример.
"Выбор оптимального действия для достижения текущей промежуточной цели"
Есть перечень возможных действий, каждое можно оценить по степени полезности. Выбрать наиболее полезное для достижения цели. Это легко реализуемо. Не буду же я вам код программный тут писать, как это реализуется?
без проверки что он может быть закрыт.
Вы делаете ту же самую ошибку что и коллега с наслаждением и страданием. Вы смотрите на проблему слишком конкретно.
Мы не задаём заранее алгоритм похода в магазин и покупки хлеба, у нас только есть цель, например: получить хлеб и принести обратно.
Всё остальное происходит в цикле поиска путей достижения этой цели. Алгоритм который описан, это уже пример действий для покупки хлеба, в процессе достижения цели промежуточные задачи могут терять актуальность и корректироваться.
Пойду писать статью на хабр
каждое можно оценить по степени полезности
Так а как вы оцените-то степень полезности? Робот хочет зайти в магазин, охранник говорит ему какое-то слово. Что дальше?
Как вообще роботу определить цепочку промежуточных целей для получения основной?
Это легко реализуемо.
Если бы это было так, то не было бы проблем с автономным вождением. Проблемы с ним есть, поэтому факты говорят о том, что вы неправильно представляете сложность задачи.
Тесла например принимает Луну за желтый сигнал светофора. Как вы ей объясните, что это не одно и то же? Они же оба желтые, круглые и сверху.
Вы смотрите на проблему слишком конкретно.
Так это компьютерам нужны конкретные действия, они устроены так, что выполняют только конкретные инструкции.
Всё остальное происходит в цикле поиска путей достижения этой цели.
Еще раз повторяю, это и есть главная задача изобретения ИИ.
Вот тут подробно описал: https://habr.com/ru/articles/827388/
Ну вот когда напишете программу, которая правильно определяет сигнал светофора хотя бы в 99% ситуаций типа этих, тогда можно будет обсудить, насколько это просто.
Ну вот когда напишете программу, которая правильно определяет сигнал светофора хотя бы в 99% ситуаций типа этих, тогда можно будет обсудить, насколько это просто.
Тесла - это бытовой ограниченный ИИ.
Зачем нам сигнал определять с точностью 99%? В целом всё от вычислительных ресурсов зависит и качества картинки.
Даже если ошиблись, робот должен периодически обновлять цели, если жёлтый слишком долго горит, то робот может принять решение его игнорировать. Он же не тесла.
Вы сами то в реальной жизни, что будете делать, если на светофоре долго горит жёлтый?
Зачем нам сигнал определять с точностью 99%?
Вы прикалываетесь? Затем, чтобы он не поперся под колеса машины, в которой едут люди, и не создал ситуацию, из-за которой они могут пострадать.
если жёлтый слишком долго горит, то робот может принять решение его игнорировать
Это некорректное поведение, он не должен игнорировать желтый сигнал светофора из-за того, что рядом с ним постоянно светит желтая луна.
Вы прикалываетесь? Затем, чтобы он не поперся под колеса машины, в которой едут люди, и не создал ситуацию, из-за которой они могут пострадать.
Похер на пострадавших, такой цели у него нет. Его за хлебом отправили, а не людей беречь.
Поэтому и не делают роботов с реальным мышлением, а то они поубивают всех случайно ))
Но это не отменяет возможности создания мыслящего робота.
Вот тут пример я разобрал https://habr.com/ru/articles/827388/
Робот не только мыслит, что если не смог понять где нужный тип хлеба, то стоит спросить окружающих, но ещё понимает, что если в магазине человек в форме, то это скорее всего работник магазина.
А если ребёнок просит отдать ему деньги, то надо быть на чеку и поискать его родителей.
Это вообще никак не заложено в изначальной постановке.
Это некорректное поведение, он не должен игнорировать желтый сигнал светофора из-за того, что рядом с ним постоянно светит желтая луна.
Камеры надо более качественные ставить. С чего вы решили что робот вам что-то должен? Он свободная мыслящая личность.
такой цели у него нет
Вот как раз в моем примере она есть. Потому что это пример того, что роботы не умеют делать так, как люди.
Вот тут пример я разобрал
Я уже прочитал и поставил минус. Вы написали там то же самое, что и здесь, я уже на это привел аргументы с возражениями.
но ещё понимает, что если в магазине человек в форме, то это скорее всего работник магазина.
Нет, таких роботов еще нет.
Камеры надо более качественные ставить.
Качество камер тут ни при чем.
но ещё понимает, что если в магазине человек в форме, то это скорее всего работник магазина.
Нет, таких роботов еще нет.
Вы читали алгоритм действий робота который он сформировал на входных данных? Он сам сделал такие выводы.
Ну и что с того, что он это сказал? Мы-то говорим о том, чтобы он так сделал.
Ну и что с того, что он это сказал? Мы-то говорим о том, чтобы он так сделал.
Согласен, но к лингвистической модели уже можно подключать органы действий. Бот решил, что надо пройти в дверной проём который он видит, подаются действующие команды на модули "мозга" отвечающие за движение, ориентацию в пространстве. Это комплексный механизм.
Он даже может себе программный код писать при необходимости, пример там же в статье.
Как задачи перевести из области идеи в механические действия - это дело техники. Главное возможность рассуждать.
Так с этим и есть сложность, чтобы сделать все действия как нужно. Такой текст можно было и вручную написать еще 30 лет назад.
Зачем надо писать программный код для покупки хлеба, вообще непонятно. Люди как-то без программного кода покупают.
Так с этим и есть сложность, чтобы сделать все действия как нужно. Такой текст можно было и вручную написать еще 30 лет назад.
Зачем надо писать программный код для покупки хлеба, вообще непонятно. Люди как-то без программного кода покупают.
Мы к этому диалогу пришли из обсуждения "может ли система ИИ обладать сознанием". Я привожу пример модели, которая кое-как приближается к "осознанности" своих действий.
Вы тут же как контр аргумент приводите то, что так же и человек может рассуждать 30 лет назад и робот нам не нужен. Речи про превосходство над человеком вообще не было.
Причём тут нужен / не нужен? Оно рассуждает и вполне себе мыслит, да вы думаете, что это всё фейк и симуляция (сами не пробовали, не видели, видели новости про теслу).
Но оно без каких либо вводных с моей стороны вполне логично понимает картину и механику мира, да в текстовом виде. Ну нет у ЧатаГПТ другого интерфейса в мир.
Вы ответили на мой пример к вопросу "Какой интерес в механистической обработке?", у меня там специально для этого есть пояснение "есть информация с камеры". Я логично предположил, что вы ведёте обсуждение в этом контексте. Никакие общие алгоритмы для моего примера ничего не меняют, я сам могу такой написать, только робот от этого в магазин не пойдет.
сами не пробовали
С чего вы взяли, что я не пробовал?
Если у вас нет опыта в этом вопросе, то наверно надо сначала попробовать самому, прежде чем оценивать знания других?
Вы ответили на мой пример к вопросу "Какой интерес в механистической обработке?", у меня там специально для этого есть пояснение "есть информация с камеры". Я логично предположил, что вы ведёте обсуждение в этом контексте. Никакие общие алгоритмы для моего примера ничего не меняют, я сам могу такой написать, только робот от этого в магазин не пойдет.
В контексте разговора про сознание, информация с камеры это просто зрительные данные, если уж CV, то это ещё детекция объектов. Вы работали с детекцией широкого списка объектов хотя бы через Копайлот? Он весьма хорошо детектирует и классифицирует всё что видит на изображении.
И к сознанию это компьтерное зрение имеет весьма опосредованное отношение. Нам для сознания интересен именно модуль принятия решений и планирования.
Если есть план, то дальше уже нужен интерфейс для воздействия на реальность. Но это уже после сознания и принятия решений. Ясен пень никто вам не соберёт на коленке робота, который реально сходит за хлебом.
информация с камеры это просто зрительные данные
Еще раз говорю, мой собеседник сказал, что эта обработка этой информации никому неинтересна, там уже всё реализовано, и еще нужны только 2 вида ощущений. Я привел пример, что реализовано не всё, и эти 2 вида ощущений для этого роли не играют.
Ну его "наслаждение" и "страдание" можно реализовать, чтобы робот "страдал" если не продвигается к цели и выполнял более активные и рискованные действия для поиска обходных путей.
Например, если робот дошёл до пешеходного перехода, и вместо светофора увидел Луну и думает что ему горит красный свет, вот он стоит уже 5 минут не продвигается к цели, и начинает страдать всё сильнее, начинает искать обходные пути в том числе может принять решение пойти на другой перекрёсток.
Только чтобы меня тут тапками не закидали, уровень страдания - это просто коэффициент выбора более рискованных действий и необходимости поиска альтернативного пути.
А что если рассматривать сознание как причину и следствие общения? Не просто так ведь люди теряют рассудок от длительного одиночества?
Когда условный компьютер сам, не по указанию программиста (как тот же Тамагочи) и не ожидая, пока пользователь задаст вопрос, начнёт делиться с окружающими фактом своего страдания или наслаждения, что-то спрашивать и что-то просить, вот тогда его и начнут воспринимать, как субъект, наделённый сознанием.
Так же остаётся открытым вопрос участия в формировании сознания зеркальных нейронов и использования их аналогов при создании сильного ИИ, если всё таки окажется, что сознание не возникает само по себе, а только из взаимодействия с другими носителями сознания.
Народ, вы упарываетесь над поиском того, чего нет. Сознание - это бытовой околофилософский термин. Это как в 21 веке обсуждать формальные признаки наличия души. Только когнитивная ловушка сложнее.
вы упарываетесь над поиском того, чего нет
Ну наслаждение и страдание то есть? И больше всего вы не хотите СТРАДАТЬ. Вы можете сколько угодно себя убеждать, что страдание всего лишь сигнал, всего лишь эволюция создала и т.д. Но страдание от этого не станет менее мучительным.
Ну наслаждение и страдание то есть?
Это просто частный случай состояния ЦНС. Вы его выделили и "одушевили" и сделали признаком какого-то там "сознания", что отдаёт религиозным бредом.
Оно или есть также у ИНС, или у людей его тоже нет.
Вы не можете формально разделить их.
Вы можете сколько угодно себя убеждать, что страдание всего лишь сигнал, всего лишь эволюция создала и т.д. Но страдание от этого не станет менее мучительным.
Вы не можете научно доказать, либо опровергнуть, что кто-то кроме вас также страдает в данный момент. Только косвенно по гормональному фону и активности участков мозга, что не является ни научным, ни системным.
Почему вы думаете, что аналогичные состояния принципиально не реализуемы в ИНС?
Это просто частный случай состояния ЦНС
Задача - создать искусственную систему, в которой могут возникать подобные состояния.
Вы не можете научно доказать, либо опровергнуть, что кто-то кроме вас также страдает в данный момент.
Естественно не можем, т.к. нет ни одной гипотезы о природе данного феномена. Только разумные предположения на основе того, что люди устроены похожим образом.
Почему вы думаете, что аналогичные состояния принципиально не реализуемы в ИНС?
А почему мы должны так думать? Нет предпосылок, нет гипотез.
Естественно не можем, т.к. нет ни одной гипотезы о природе данного феномена. Только разумные предположения на основе того, что люди устроены похожим образом.
Да, блин... Вам же чётко написали: "Это просто частный случай состояния ЦНС". Торможение и разгон разных отделов мозга под воздействием гормонов, которые в свою очередь прилетели из-за предыдущего опыта.
Какие ещё гипотезы? Выше я даже расписал как это реализовать в ИНС.
А почему мы должны так думать? Нет предпосылок, нет гипотез.
Если ваших знаний и опыта не хватает для осознания процесса, то почему вы думаете что этого не существует?
Когда условный компьютер сам, не по указанию программиста (как тот же Тамагочи) и не ожидая, пока пользователь задаст вопрос, начнёт делиться с окружающими фактом своего страдания или наслаждения
Ну если он вобрал в себя все библиотеки мира и потом начнет цитировать слова героев о любви, то внешний наблюдатель может подумать что робот действительно все это испытывает, а не просто озвучивает.
Если тамогочи осознаёт, что у него садится батарейка и страдает по этому поводу, ищет доступные решения - это те страдания или ещё нет?
Я могу сделать робота на простом шасси с ардуинкой, который будет при длительном движении без препятствий зажигать зелёный индикатор с надписью "наслаждение", а при ударе о препятствие гасить его, и на несколько секунд зажигать красный индикатор с надписью "страдание" :) Это будет робот с сознанием?
Философский зомби укололся иголкой и говорит "ай", но при этом страдания не испытывает.
Как из этого следует, что у него нет сознания?
Как из этого следует, что у него нет сознания?
Читайте "трудная проблема сознания".
Прочитал, что дальше?
Прочитал, что дальше?
Что вам нужно от сознания? Почему этот вопрос вас вообще интересует?
Моя цель - вполне конкретная. Все наши ценности завязаны на феномены наслаждения и страдания, при этом нет никаких гипотез о том, как воссоздать их искусственно.
У кого воссоздать исскусственно?
У человека наслаждение искусственно легко создаётся с помощью прямого воздействия на определённые отделы мозга, либо с помощью химических веществ вводимых снаружи.
У искусственных нейронных сетей-это позитивная обратная связь при достижении цели. Просто вы не можете осознать этот процесс у дорого вида сознания.
У кого воссоздать исскусственно?
Создать искусственно систему, которая сможет наслаждаться и страдать. Естественно в эту задачу входит и само доказательство что система наслаждается и страдает.
У искусственных нейронных сетей-это позитивная обратная связь при достижении цели
Нет, это другой феномен и он не является наслаждением.
Вы сможете научно доказать что вот тот индивид страдает или наслаждается?
Никак. Энцефалограмма мозга - это не доказательство.
Тогда всё, я только что доказал, что люди с научной точки зрения страдать не могут ))) Иначе ИИ тоже может страдать и это не требует доказательств.
Энцефалограмма мозга - это не доказательство.
Почему же не доказательство? Достаточное доказательство.
Есть еще МРТ - почитайте что это и как работает, удивительная вещь.
Не понимая сути феноменов, не имея гипотез - формальных доказательств быть не может. Но достаточно убедительные доказательства есть.
Почему же не доказательство? Достаточное доказательство.
Есть еще МРТ - почитайте что это и как работает, удивительная вещь.
Вы настолько дремучий, что считаете, что это я глупец.
С научной точки зрения невозможно однозначно доказать наличие субъективных ощущений страдания или наслаждения у индивида, основываясь только на данных энцефалографии (ЭЭГ) или магнитно-резонансной томографии (МРТ).
Ограниченность методов: ЭЭГ и МРТ измеряют физиологические параметры (электрическую активность и кровоток в мозге), но не могут напрямую регистрировать субъективный опыт.
Неспецифичность паттернов активации: Хотя определенные участки мозга часто активируются при переживании удовольствия или боли, эти же области могут быть задействованы и в других когнитивных процессах.
Индивидуальные различия: Нейронные корреляты эмоциональных состояний могут значительно варьироваться между индивидами.
Проблема интерпретации: Даже при наблюдении характерных паттернов активации, их интерпретация как "страдания" или "наслаждения" основывается на предположениях и корреляциях, а не на прямых доказательствах.
Отсутствие прямого доступа к субъективному опыту: Нейровизуализация не может напрямую зафиксировать качественный аспект субъективных переживаний.
Сложность эмоциональных состояний: Эмоции часто представляют собой сложные комбинации различных ощущений, которые трудно разделить на основе только нейровизуализации.
Таким образом, хотя нейровизуализация может предоставить ценную информацию о нейронных коррелятах эмоциональных состояний, она не может служить однозначным доказательством наличия конкретных субъективных переживаний у индивида в данный момент времени.
она не может служить однозначным доказательством наличия конкретных субъективных переживаний
Не понимая природу феномена и не имея ни одной гипотезы об этом феномене - конечно, не можем иметь строгого доказательства. Однако можем иметь достаточное доказательство даже для принятия в суде, можем юридически доказать что человеку на самом деле больно, а не он просто говорит что ему больно.
Мне ничего не нужно, я указываю на логическую ошибку в ваших рассуждениях.
Какой-то очень однобокий критерий. Страдание и наслаждение это эволюционно закрепившиеся механизмы подстёгивающие биотушки к успешному размножению. А искусственно выращенное осознающее существо может регулироваться другими механизмами, которые мы в них пропишем.
Если уж говорить о таких "возвышенных" критериях - то сознание - это способность творить желаемое будущее. "Умение мечтать".
Т.е. это наличие:
текущей модели мира (включая себя самого)
оценки этой модели (что в ней "плохо", что "хорошо")
будущей модели мира построенной на основе оценок
план воздействий на мир с целью приведения текущей модели в соответствие с будущей
Причём не смотря на всю возвышенность, тут всё может быть и очень приземлённо: волк гоняющийся за зайцем вполне в этот критерий укладывается (собаки - умеют предвкушать! Ещё как!)
А насекомые - не укладываются. У них нет модели именно мира - слишком примитивны.
Тут что интересно - что п2) это уже "зачатки морали", т.е. тех самый "наслаждений" и "страданий". Т.е. критерий в исходном комментарии просто неполный. Но построить сознание без оценки - не получится. Т.к. как тогда принимать решение о действии? На основе каких критериев?
Все четыре пункта может выполнять чат gpt при определённых дополнительных настройках. Тем более специализированные искусственные нейронные сети на это все прекрасно способны.
Про мораль, в чат gpt этой морали уже столько напихали, что он уже слишком моральный, куда более моральный, чем многие люди.
Не может уже по п.1 - у него нет текущей модели мира - только очень сильно устаревшая. А уж будущую на основе оценок он и вовсе не построит: он не сможет создать новый инференс сам себе. Не обучен. Вот давать оценки - это да, но этого мало.
Т.е. да в принципе видно как можно попробывать дать чат-джипити сознание (это можно сделать как, например, что-то вроде двух ботов обсуждающих текущий интернет и дообучающих друг-друга), но это будет слишком затратно и без практической ценности.
Не может уже по п.1 - у него нет текущей модели мира - только очень сильно устаревшая.
А у вас не устаревшая? У вас самые новые и актуальные знания?
Ваша ошибка вот в чем. Интуитивно вы выразили - "Умение мечтать". По этой фразой вы завуалированно сообщили об умении наслаждаться, т.е. стремиться к своим наслаждениям (и избеганию страданий) и выстроить планы, когда эти наслаждения будут реализованы. Подумайте. Все приходит к наслаждениям и страданиям.
Мечты - это не наслаждение. А формирование модели несуществующего мира. Мечты могут и страдания приносить - почти физические. Уж поверьте человеку пережившему депрессию.
Мечты - это не наслаждение. А формирование модели несуществующего мира.
Вы в мечтах пытаетесь представить мир, который даст вам максимальный уровень наслаждения?
Не обязательно. Я - не гедонист.
В человека страдания и наслаждения вложил процесс эволюционного отбора. То, что помогало распространять гены дальше стало приятным, а что вредило — неприятным. Мало того, что эта система предопределяет наше поведение и мечты, так еще она может заводить в тупик, когда по случайному совпадению сторонее вещество активирует центры удовольствия или когда миллионы мужчин год за годом пытаются оплодотворить набор цветных пикселей на экране...
Не обязательно. Я - не гедонист.
Обычно это называют не мечтами а фантазиями. Нейросети это умеют. Мечтать не могут, т.к. мечта подразумевает наличие способности наслаждаться. А вот фантазии генерить умеют.
Мечта - это банальное планирование новых способов получения дофамина. А то, что у человека гормоны удовольствия выделяются при этом, так это побочный эффект.
Причём тут какое-то особое сознание?
Так и в искусственных нейросетях можно реализовать абсолютно такой же механизм поощрения за построение эффективного плана.
банальное планирование новых способов получения дофамина
Ну если вы химическим способом получите дофамин, нальете его в колбу - станет ли колбе хорошо? Или же нужна некая очень сложная система, которая воспримет дофамин и сможет наслаждаться? Думайте.
и в искусственных нейросетях можно реализовать абсолютно такой же механизм поощрения
Невозможно. Нейросети не умеют наслаждаться и страдать - не поможет даже если большого размера и тому есть подтверждение.
Ну если вы химическим способом получите дофамин, нальете его в колбу - станет ли колбе хорошо? Или же нужна некая очень сложная система, которая воспримет дофамин и сможет наслаждаться? Думайте.
Колба? Вы реально дофамин восприняли, как носитель, а не источник удовольствия?
Вы или тролль или мне вас жаль. ЧатГПТ и тот с логикой и здравым смыслом лучше дружит.
Нейросети не умеют наслаждаться и страдать
Можно научить, только не надо. Но вы не поймёте. Как голубь не может осознать смысл шахмат.
Колба? Вы реально дофамин восприняли, как носитель, а не источник удовольствия?
Тогда зачем вы его привели? Можно без всякого дофамина - просто подать сигнал в центр удовольствия.
Весь то и вопрос в том, какая минимальная система, способная наслаждаться и страдать, как ее воссоздать искусственно. И гипотез не очень то много - ровно ноль.
Можно научить, только не надо.
Можно научить чтобы у внешнего наблюдателя создалось впечатление, как будто нейросеть страдает. Та самая кричащая кукла, только чуть более продвинутая версия. На самом же деле наслаждения и страдания в нейросети возникнуть не может.
Тогда зачем вы его привели? Можно без всякого дофамина - просто подать сигнал в центр удовольствия.
Весь то и вопрос в том, какая минимальная система, способная наслаждаться и страдать, как ее воссоздать искусственно. И гипотез не очень то много - ровно ноль.
Вы очень примитивно подходите к научному подходу, и воспринимаете очень примитивно мои слова.
Везде выше я говорил про внутренние логические процессы на уровне взаимосвязей и химии. Все эти же процессы можно повторить смоделировав на компьютерных нейронах вместо человеческих электро-химических.
И очень хорошо, что вы понимаете, что удовольствие можно вызвать просто подав сигнал напрямую в мозг. И внезапно получаем бесконечное наслаждение, которое вообще не является в таком случае признаком какого-либо сознания.
То есть, по сути практически мы доказали, что наслаждение или страдание не являются признаком сознания, это просто какое-то состояние гормонального фона в моменте.
А реально ваша проблема в том, что вы не можете выйти и посмотреть на ситуацию снаружи системы, потому что наслаждение и страдание для вас это просто явления, которые вы не способны осознать изнутри системы.
Все эти же процессы можно повторить смоделировав на компьютерных нейронах вместо человеческих электро-химических.
Воссоздать наслаждение и страдание в некой системе с помощью нейросети не возможно. Нет ни одной гипотезы даже как это сделать.
С помощью нейросети можно воссоздать другие процессы, как то процесс распознания изображения или звука - но это не является наслаждением или страданием.
По этому и выделили т.н. трудную проблему сознания - это т.н. субъективный опыт, который при детальном рассмотрении и является тем самым наслаждением и страданием во всем спектре их проявления.
И внезапно получаем бесконечное наслаждение, которое вообще не является в таком случае признаком какого-либо сознания.
С чего бы? Если сознание отключено - никакого наслаждения испытано не будет.
Вы подумайте какая именно схема способна его испытать. Хотя бы один вариант. Ну нету гипотез - ровно ноль.
Причем, похоже, дело там вовсе не в нейронах. Посмотрите сколько нейронов в тех областях, которым приписывают функцию эмоционального страдания (как негативной эмоции).
по сути практически мы доказали, что наслаждение или страдание не являются признаком сознания
Что за глупость вы несете? Отключите сознание и испытать наслаждение и страдание будет некому.
вы не можете выйти и посмотреть на ситуацию снаружи системы
Снаружи наслаждение и страдание никак себя не проявляют. Иногда могут проявлять, но это вовсе не обязательно.
И между тем именно эти феномены имеют ключевое и первостепенное значение.
Введение новых уровней сложности в искусственные нейронные сети (ИНС) с целью эмуляции процессов, аналогичных человеческим страданиям и наслаждению, представляет собой достаточно сложную задачу. В человеческом мозге эти состояния связаны с активацией специфических нейронных сетей и высвобождением нейромедиаторов, таких как дофамин для наслаждения и кортизол для страдания.
Для ИНС можно создать алгоритмы, которые повторяют эти процессы, используя так называемые "награды" и "наказания". Например, алгоритмы подкрепления могут быть настроены так, чтобы "награды" стимулировали улучшение производительности сети, аналогично дофамину, который мотивирует поведение человека. Напротив, "наказания" могут снижать эффективность сети, имитируя негативные переживания.
эмуляции процессов, аналогичных человеческим страданиям и наслаждению
Какие именно процессы вы будете эмулировать и как поймете, что это работает? Вот, к примеру, эмулировать процесс зрительного распознания предметов проверить достаточно просто - отличает кошу от собаки на фото или нет. А как вы будете проверять что системе больно?
чтобы "награды" стимулировали улучшение производительности сети... "наказания" могут снижать эффективность сети
Когда мозг тормозит по разным причинам (только проснулся, перебрал с этиловым спиртом) - это не эквивалентно страданию. Т.е. попытка хорошая - но нет, если нейросеть заставить снизить обороты - больно ей не станет. Вы попробуйте не придумывать - а найти гипотезы от нейробиологов. Их не так много - всего лишь ноль штук.
А как вы будете проверять что системе больно?
Мы просто сделаем так чтобы ей было больно. Вы путаете внешнюю среду "кошка" и внутреннюю ощущаю боль.
Когда мозг тормозит по разным причинам (только проснулся, перебрал с этиловым спиртом) - это не эквивалентно страданию. Т.е. попытка хорошая - но нет, если нейросеть заставить снизить обороты - больно ей не станет. Вы попробуйте не придумывать - а найти гипотезы от нейробиологов. Их не так много - всего лишь ноль штук.
Вы причину со следствием путаете.
Боль - это химическое наказание нейронной сети мозга. Всё.
Легко повторить в искусственных нейронных сетях.
Мы просто сделаем так чтобы ей было больно.
Сделать больно - это всего лишь подать сигнал в центр боли. Вы подали сигнал куда-то в систему - откуда вы узнаете, что системе стало больно? Откуда вы узнаете где у системы центр боли и есть ли он вообще?
Вы путаете внешнюю среду "кошка" и внутреннюю ощущаю боль.
Нас интересует только внутреннее ощущение боли - внешнее проявление не имеет значения.
Боль - это химическое наказание нейронной сети мозга. Всё.
А если вы компьютер кислотой облили - ему станет больно?
Легко повторить в искусственных нейронных сетях.
Что и как вы будете проверять?
А если вы компьютер кислотой облили - ему станет больно?
Господи, вы пытаетесь натянуть одну механику существования "сознания" на другую. Это как в электромобиль залить бензин и приводить как аргумент, что это не автомобиль, раз на бензине не едет. Вы осознаёте степень абсурда ваших рассуждений?
Как вы собираетесь сравнивать бензин на заправке и электричество в розетке? Механика и физика разные.
Господи, вы пытаетесь натянуть одну механику существования "сознания" на другую.
Так весь и вопрос в том, какова должна быть "механика существования", чтобы ее можно было "наказать", как вы сказали - сделать ей больно. Что для этого нужно? Что именно в нейронах дает им возможность порождать феномены наслаждения и страдания? Гипотез не много - ровно ноль.
Механика существования - исскусственные нейронные сети.
Детектор сигнала "боли", обратная связь на настройки ИНС.
Получаем боль и обучение её избегать.
Получаем боль и обучение её избегать.
Не подходит, выше уже обсудили. Вот есть боль - человек ничего сделать не может, помочь никто не может. И что? Чему он обучается?
Не подходит, выше уже обсудили. Вот есть боль - человек ничего сделать не может, помочь никто не может. И что? Чему он обучается?
Учится жить с этой болью. Будет искать способ её устранить. Как и ИИ.
Будет искать способ её устранить.
Вовсе не обязательно - человек может сдаться. Ему просто больно, он страдает - но ничего не ищет. Это 100% доказывает что боль - это не эффект перестройки весов в нейросети.
Есть и другое неявное подтверждение. Дело в том что феномен боли и наслаждения не возникает в коре полушарий и не возникает в мозжечке. А это мощные развитые нейросети - там 99% всех нейронов. Почему же не во всех нейросетях возникает боль, если это вообще связано с нейросетями?
П1 - его картина мира куда более целостная чем у многих людей. А он является только малой частью возможностей комплексных систем ИИ. Это как глядя на двигатель от самолёта заявлять, что невозможно уже сейчас построить что-то, что может летать.
По создание интерфейсов, ему просто такие цели не ставились и такие методы не подключены.
И причём тут сознание? У слепого и безрукого человека есть сознание?
П1 - его картина мира куда более целостная чем у многих людей.
Верно, хорошо что вы это понимаете.
И причём тут сознание? У слепого и безрукого человека есть сознание?
Если он умеет наслаждаться и страдать - то есть. Даже слепой щенок сознателен, т.к. он может страдать и наслаждаться, пусть даже не понимает и не отделяет себя от мира и ему кажется, что страдает целый мир.
Я ищу человека, который сможет понять эту идею и донести до других. Ибо сам понял, но косноязычен и не могу внятно объяснить. Пришел к этому примерно за 10 лет исследований.
Тогда и системы искусственного интеллекта могут наслаждаться и страдать. Чисто материально это будут другие процессы, но с точки зрения логических моделей - это абсолютно будет то же самое, что и у щенков, людей и тому подобное.
Вы не поверите, нейронную сеть постоянными наказаниями можно вогнать в ступор, когда она боится сделать действие из-за "страха", потому что любое возможное действие приводит к наказанию, а чрезмерно большим количеством поощрений сделать более активной и деятельной.
Тогда и системы искусственного интеллекта могут наслаждаться и страдать.
Нет, не могут. Негативное подкрепление в нашей голове, конечно, вызывает ассоциации со страданием - но по сути ничего общего с этим феноменом не имеет и тому есть строгое доказательство.
Негативное подкрепление в нашей голове, конечно, вызывает ассоциации со страданием - но по сути ничего общего с этим феноменом не имеет и тому есть строгое доказательство.
Это что ещё за такие строгие доказательства?
Это что ещё за такие строгие доказательства?
Строгое - мы можем обучаться аналогично нейросетям, и при этом мы видим что негативное и позитивное подкрепление - отличные от наслаждения и страдания феномены. Я неверно ответил на вопрос - но радуюсь, т.к. открыл для себя что-то новое.
Есть еще одно косвенное доказательство. Кора полушарий и мозжечок (а это 99% нейронов) - не порождают наслаждения и страдания. Позитивное и негативное подкрепление в них есть, а наслаждения и страдания нет - они возникают в лимбической системе неясным образом.
Эмоции, включая наслаждение и страдание, являются результатом сложного взаимодействия между различными структурами мозга, а не продуктом только лимбической системы.
Строгое - мы можем обучаться аналогично нейросетям, и при этом мы видим что негативное и позитивное подкрепление - отличные от наслаждения и страдания феномены.
Если негативное и позитивное подкрепление переводит всю систему в другое состояние, то это ваш аналог наслаждения и страдания. Выше я уже расписывал подробно.
Примитивная хрень. То что вы не нашли как технически в мозгу это реализовано не отменяет примитивности результата.
Я неверно ответил на вопрос - но радуюсь, т.к. открыл для себя что-то новое.
Дозу дофамина получили не из краника 1, а из краника 2. Примитивная хрень, на той же обратной связи. Ничего особенного, никакого "сознания" для этого не надо.
Эмоции, включая наслаждение и страдание, являются результатом сложного взаимодействия между различными структурами мозга, а не продуктом только лимбической системы.
Тут вы ошибаетесь. Проводили эксперимент - у собаки отрезали мозжечок, кору - оставили 1% нейронов. Собака стала слепой, глухой, потеряла вкус и т.д. Но она осталась жива, режим сна и бодрствования присутствовал, наслаждение и страдание она испытывала. Хотя поток входящей информации сузился - она осталась сознательной и ощущала боль и наслаждение.
Т.е. нейросеть - просто дополняет наше сознание интересными плюшками, а основа - в лимбической системе, которая не совсем нейросеть.
Если негативное и позитивное подкрепление переводит всю систему в другое состояние
А каким должно быть состояние? Вот, боль, среди прочего - еще и замедляет работу коры. Но значит ли это что любое замедление работы коры - это боль? Конечно же нет - это может быть и сон или сонное состояние.
Примитивная хрень.
Нет, это важнейшая загадка вселенной. Это то, что наделяет ценностью. Нейросеть - преобразует входящие данные в исходящие - но какой в этом смысл, если не будет того, кто сможет этим насладиться?
Дозу дофамина получили не из краника 1, а из краника 2.
Сам по себе дофамин в колбе - наслаждения не испытывает. Нужна систем, которая сможет сгенерировать наслаждение на основе этого пакета (аналог широковещательного пакета) или просто прямого сигнала в центр удовольствия.
Вы не понимаете насколько этот вопрос важен - это основа бытия. И гипотез ровно ноль.
лимбической системе, которая не совсем нейросеть.
В ней какраз вырабатываются многочисленные гормоны, такие как дофамин, вазопрессин и окситоцин. Лимбическая система просто выдаёт "наркотик" по сигналу. Долбаните её током в нужном месте, дофамин зальёт мозг, он будет наслаждаться без причины.
Где тут "сознание"? Нет никакого сознания.
Собака стала слепой, глухой, потеряла вкус и т.д. Но она осталась жива, режим сна и бодрствования присутствовал, наслаждение и страдание она испытывала. Хотя поток входящей информации сузился - она осталась сознательной и ощущала боль и наслаждение.
Охренеть. Как вы поняли что она наслаждается и страдает?
Тут мы у человека рядом доказать этого не можем однозначно, а они у собаки без мозгов нашли сознание.
Вы не понимаете насколько этот вопрос важен - это основа бытия. И гипотез ровно ноль.
Основа бытия - кривая/косая система из вороха химических нейронок под управлением гормонов. Вы ещё признаки души найдите и начните уверять, что её нет у ИИ.
Вы не можете выйти за пределы системы своего ограниченного мозга, вы не можете ощутить как функционирует мозг, у вас выдуманное состояние "наслаждение" вдруг стало исключительным признаком сознания.
Реально антинаучный околофилософский бред.
Лимбическая система просто выдаёт "наркотик" по сигналу.
Не просто. Эмоциональное восприятие наслаждения и страдания - так же в ней. См. Дубынина, хорошо об этом говорил, в частности о боли - восприятие в гипоталамусе.
Вы просто посмотрите на лимбическую систему. Она причудливой формы, с множеством подсистем, холмов. И нейронов там - всего 1%. Зато есть множество других механизмов, в которых и сокрыт этот величайших секрет Вселенной, о котором нет гипотез.
Как именно происходит восприятие эмоцинальное, чтобы оно обрело оттенок нежелательного, злого - гипотез нет.
Тут мы у человека рядом доказать этого не можем однозначно
Все эти исследования производят в рамках наиболее вероятного сценария, т.к. действительно гипотез нет и формальное доказательство не возможно.
Основа бытия - кривая/косая система из вороха химических нейронок под управлением гормонов.
В 99% нейронов - наслаждение и страдание не возникает. Вопрос - почему? Химия и нейроны там есть.
выдуманное состояние "наслаждение" вдруг стало исключительным признаком сознания
Не наслаждение - а разные оттенки всех видов наслаждений и страданий. И это единственный аспект, о котором нет гипотез и который не возможно как-либо воссоздать искусственно, признаков наличия этих феноменов нет в искусственных нейросетях.
Не просто. Эмоциональное восприятие наслаждения и страдания - так же в ней. См. Дубынина, хорошо об этом говорил, в частности о боли - восприятие в гипоталамусе.
Вы просто посмотрите на лимбическую систему. Она причудливой формы, с множеством подсистем, холмов. И нейронов там - всего 1%. Зато есть множество других механизмов, в которых и сокрыт этот величайших секрет Вселенной, о котором нет гипотез.
Как именно происходит восприятие эмоцинальное, чтобы оно обрело оттенок нежелательного, злого - гипотез нет.
ХЗ что там писал Вячеслав Дубынин, доктор биологических наук, профессор кафедры физиологии человека и животных биологического факультета МГУ, специалист в области физиологии мозга про гипоталамус.
Но или вы его неправильно поняли или дядя совсем ку-ку, если боль у него на сознательном уровне в гипотоламусе ощущается.
В гипотоламус приходят сигналы боли. Именно гипоталамус передает во фронтальную кору возбуждение мотивационного характера. Тоесть он управляет активацией процессов, на не чувствует что-то там на сознательном уровне.
Как именно происходит восприятие эмоцинальное, чтобы оно обрело оттенок нежелательного, злого - гипотез нет.
Тогда нет гипотез, что такое наслаждение и страдание, на это нельзя опираться в рассуждениях. Забудьте эти термины для исследовательских целей. Вам не дано их постичь.
Мы согласны, что "наслаждение" и "страдание" не могут быть признаками научного подхода к исследованию сознания?
или вы его неправильно поняли или дядя совсем ку-ку, если боль у него на сознательном уровне в гипотоламусе ощущается
Посмотрите тут: https://youtu.be/dO55tFbct60?t=775 (временная метка есть).
Тут и весь вопрос - как в некой системе происходит отделение ДОБРА и ЗЛА, ХОРОШЕГО и ПЛОХОГО.
Обычно системе пофиг - она не отличает добра и зла - для нее все симметрично. Нет ни желательного ни нежелательного. И даже если что-то делает по программе - не значит что системе это нравится (это мы можем понять и на примере себя - далеко не все что мы делаем - нам нравится).
Эмоциональное восприятие происходит не в коре а в лимбической системе. Есть люди вообще без коры - см. анэнцефалы. По всему можно понять что они так же могут страдать и наслаждаться, даже если это сужено до 2-3 вариантов, вместо 1 млн. вариантов страдать и наслаждаться, когда есть кора.
Именно гипоталамус передает во фронтальную кору возбуждение мотивационного характера
Предположительно гипоталамус ощутил негативную эмоцию, просто ощутил. И передает в кору задачу - ставит задачу, чтобы кора как GPT разобралась и решила проблему. Но сама кора - ничего не ощущает - ей просто задачу поставили, оно ей нафиг не нужно ничего - просто как нейросетка отрабатывает и выдает по входящему запросу некий вариант решения.
Тогда нет гипотез, что такое наслаждение и страдание, на это нельзя опираться в рассуждениях.
Этого мы не можем сделать - т.к. наслаждение и страдание, доброе и злое в отношении нас, плохое и хорошее (для нас), желательное и не желательно - это база и основа нашего бытия. На этом построено все наше общество и вся система ценностей. И никаких определений не нужно - это понятно нам на базовом уровне без всяких определений.
Сам по себе дофамин в колбе - наслаждения не испытывает. Нужна систем, которая сможет сгенерировать наслаждение на основе этого пакета (аналог широковещательного пакета) или просто прямого сигнала в центр удовольствия.
Дофамин - это просто управляющий сигнал (Так получилось что нейронка у нас химическая).
Была бы цифровая, сигнал имел бы другую природу.
Но от смены природы суть НЕ МЕНЯЕТСЯ.
ДОФАМИН - это сигнал поощрения. Запускает процессы активности определённых отделов мозга.
Функция в обучении:
В мозге: Дофамин играет ключевую роль в системе вознаграждения и обучения. Он участвует в процессах подкрепления и формирования ассоциативных связей между действиями и их последствиями.
В ИНС: Сигналы поощрения используются для корректировки весов связей между нейронами, усиливая те, которые приводят к желаемому результату.
Модуляция синаптической пластичности:
В мозге: Дофамин модулирует синаптическую пластичность, влияя на долговременную потенциацию и депрессию синапсов.
В ИНС: Сигналы поощрения влияют на изменение весовых коэффициентов связей, что аналогично изменению силы синаптических связей.
Временная разница в предсказании:
В мозге: Активность дофаминергических нейронов отражает ошибку в предсказании вознаграждения, что соответствует концепции временной разницы в обучении с подкреплением.
В ИНС: Алгоритмы обучения с подкреплением, такие как TD-learning, используют аналогичный принцип ошибки в предсказании для обновления значений состояний и действий.
Влияние на принятие решений:
В мозге: Дофамин влияет на процессы принятия решений, модулируя активность префронтальной коры и базальных ганглиев.
В ИНС: Сигналы поощрения влияют на выбор действий в алгоритмах обучения с подкреплением, оптимизируя стратегию поведения системы.
Генерализация и обобщение:
В мозге: Дофаминергическая система способствует обобщению опыта и переносу навыков.
В ИНС: Сигналы поощрения помогают системе обобщать опыт и применять полученные знания в новых ситуациях.
Адаптивность:
В мозге: Дофаминергическая система обеспечивает адаптацию поведения к изменяющимся условиям среды.
В ИНС: Сигналы поощрения позволяют системе адаптироваться к изменениям в задаче или окружающей среде.
Важно отметить, что хотя эта аналогия полезна для понимания и моделирования процессов обучения, она не является полной. Биологические системы намного сложнее и включают множество других нейромодуляторов и механизмов регуляции.
Дофамин - это просто управляющий сигнал (Так получилось что нейронка у нас химическая).
С сигналом вопросов нет. Вопрос в том, какой должна быть система, чтобы любого рода сигналы (хоть в виде химии, хоть в виде электричества) - вызывали в этой системе наслаждение и страдание? И что представляют из себя наслаждение и страдание?
Мы точно знаем что способность к обучению а так же сигналы корректировки (т.н. положительные и отрицательные) - не есть наслаждение и страдание, хотя и вызывают сходные ассоциации.
Вопрос в том, какой должна быть система, чтобы любого рода сигналы (хоть в виде химии, хоть в виде электричества) - вызывали в этой системе наслаждение и страдание? И что представляют из себя наслаждение и страдание?
Я вам привёл достаточно системные реализации наслаждения и страдания. То что вы изнутри своей химической нейронки испытываете наслаждение и страдание, но не можете системно их описать не отменяет факта, что это примитивные процессы, которые только из-за антропоморфизации и философских терминов превращены в какие-то особенные человеческие качества.
Вместо субъективных антропоморфизированных понятий "наслаждения" и "страдания", корректнее говорить о состояниях системы с позитивной или негативной валентностью.
Для реализации таких состояний система должна обладать следующими характеристиками:
Механизм оценки состояния: Способность определять отклонения от оптимального функционирования.
Система обратной связи: Механизм, реагирующий на эти отклонения изменением внутренних параметров.
Адаптивность: Способность модифицировать свое поведение на основе полученного опыта.
Память: Возможность сохранять информацию о предыдущих состояниях и их последствиях.
Гомеостатический механизм: Стремление к поддержанию определенного "оптимального" состояния.
В контексте такой системы:
"Позитивное" состояние (аналог "наслаждения") может характеризоваться:
Повышенной эффективностью работы системы
Усилением связей, приведших к этому состоянию
Активацией механизмов, способствующих повторению успешных паттернов
"Негативное" состояние (аналог "страдания") может проявляться как:
Снижение общей эффективности системы
Активация механизмов коррекции ошибок
Перераспределение ресурсов для устранения проблемы
Ингибирование паттернов, приведших к этому состоянию
Или тут опять вам ничего не понятно?
В контексте такой системы:
Давайте рассмотрим по пунктам.
Снижение общей эффективности системы
Вот про это уже писал вам - эффективность работы системы не эквивалента боли - она эквивалентна состоянию сна или полусна. Не важно на каком уровне - полусон может быть и у компьютера и у человека. Боли нет при этом, негативных ощущений нет.
Ингибирование паттернов, приведших к этому состоянию
Тут у вас сразу ошибка. Боль - не обязательно будет проанализирована и понята. Человек или животное сам не знает почему она возникла, какая причина и как ее устранить. Просто болит и все.
То есть уже не подходит, т.к. далеко не всегда есть данные о том что привело к этому состоянию.
Активация механизмов коррекции ошибок
Аналогично предыдущему - нет ошибок, может быть ты все делал правильно - просто болит и все.
Т.е. ваши потуги - больше о внешнем проявлении - как в простом случае человек или животное реагируют на боль. Но не о самой боли, которая просто есть.
Т.е. ваши потуги - больше о внешнем проявлении
Это вы видите внешние проявления там, где о них нет речи.
Дальше нет смысла разговаривать, у вас предметно конкретное мышление походу, к системному подходу не способны.
Это вы видите внешние проявления там, где о них нет речи.
Снижение эффективности системы - вполне себе внешнее проявление.
От сильного наслаждения, кайфа - так же происходит снижение эффективности работы системы.
Это вообще не о том.
Как и другие пункты.
к системному подходу не способны
Давайте проще. Сошлитесь хотя бы на одну научную гипотезу, которая бы объясняла механизм восприятия негативной эмоции и позитивной эмоции - на уровне, достаточном для искусственного воссоздания страдающей и наслаждающейся системы.
Вы выдвинули свою гипотезу. Вы сами придумали? Она прошла проверку, хотя бы обсуждение? На чем основана? Чем подтвердите?
Поймите - просто ляпнуть что системе будет больно - нельзя, нужны основания. Кто-то ляпнул что ООС и ПОС вызывают наслаждение и страдание соответственно. Ляпнуть - мало, нужны доказательства.
Давайте вы оформите сначала это как гипотезу, попробуйте найти что-то в научной литературе - оригинальное ли это исследование? Потом вынесите на суд общественности - возможно уже на этом этапе вам доходчиво объяснят что вы ошибаетесь, т.к. для меня ошибка очевидна, но меня вы не слышите.
Давайте вы оформите сначала это как гипотезу, попробуйте найти что-то в научной литературе - оригинальное ли это исследование? Потом вынесите на суд общественности - возможно уже на этом этапе вам доходчиво объяснят что вы ошибаетесь, т.к. для меня ошибка очевидна, но меня вы не слышите.
А ешё докторскую диссертацию за вас не плохо бы написать.
Вы своё наслаждение и страдание доведите до научного признания. - возможно уже на этом этапе вам доходчиво объяснят что вы ошибаетесь, т.к. для меня ошибка очевидна, но меня вы не слышите.
Вот про это уже писал вам - эффективность работы системы не эквивалента боли - она эквивалентна состоянию сна или полусна.
Причём тут сон??? Вы вообще не в ту степь.
Боль - не обязательно будет проанализирована и понята. Человек или животное сам не знает почему она возникла, какая причина и как ее устранить. Просто болит и все.
Ингибирование паттернов, происходит вне контроля сознания. Вы опять не в ту степь. Изучайте теорию если сможете.
Причём тут сон??? Вы вообще не в ту степь.
Сон и полусонное состояние снижает эффективность работы системы?
вне контроля сознания
Погодьте, вы же говорили что сознания не существует и что это ложный термин? И опять используете?
Изучайте теорию если сможете.
Что именно изучать? Ваша гипотеза - это оригинальное исследование или вы где-то встречали ее?
Сон и полусонное состояние снижает эффективность работы системы?
Путать причину и следствие, да ещё в не имеющем к предмету обсуждение процессе сна - отличный научный подход.
Погодьте, вы же говорили что сознания не существует и что это ложный термин? И опять используете?
В вашей модели мира "сознания" не существует.
Если под сознанием мы подразумеваем:
Созна́ние — психическая деятельность, выражающееся в субъективном переживании событий внутреннего и внешнего мира, а также в отчёте об этих событиях и ответной реакции на эти события.
То есть: работа модуля принятия решений на основе входной "картины обстановки", то существует как у людей, так и у ИИ.
Что именно изучать? Ваша гипотеза - это оригинальное исследование или вы где-то встречали ее?
Да, это моё мнение, к которому я пришёл самостоятельно на основе знаний о нейробиологии и систем ИИ.
Мы точно знаем что способность к обучению а так же сигналы корректировки (т.н. положительные и отрицательные) - не есть наслаждение и страдание, хотя и вызывают сходные ассоциации.
Как вы из моего текста смогли такое прочитать?
Это ещё раз доказывает, что у людей нет сознания. Как ЧатГПТ повторяют чужие глупости и даже системно текст прочитать и проанализировать не способны.
Как вы из моего текста смогли такое прочитать?
Это не из вашего текста а из интроспекции.
что у людей нет сознания. Как ЧатГПТ повторяют чужие глупости и даже системно текст прочитать.
А вот тут уже ваша ошибка, что вы никак не хотите признать. Сознание - не связано со способностью понять. Младенец не поймет и не ответит - но он сознателен. А последняя версия GPT - поймет и ответит, но сознания у нее нет. Почему?
А я вам уже объяснял почему, но вы не хотите слышать.
Младенец умеет наслаждаться и страдать, для него есть хорошее и плохое, желательное и не желательное. А для GPT этого нет ни в каком виде, это просто система обработки информации.
В общем разговор в никуда, вы ютуба насмотрелись, не поняли как работает мозг, скатываетесь на конкретные примеры вместо системного подхода. А ваша теория про наслаждение и страдания - просто религиозный бред на философские темы. В кружке философов - прокатит.
не поняли как работает мозг
Ну в то поняли?
Сошлитесь хотя бы на одну научную гипотезу, как в некой системе возникает приятное и не приятное, доброе и злое, желаемое и не желаемое.
Дубынин говорил что негативное эмоциональное восприятие боли возникает в гипоталамусе. А как именно - блок-схема есть?
Вот, вы выдвинули 4 пункта, я их с легкостью побил. Кто-то еще согласен, кроме вас, с этими 4 пунктами?
Поймите - есть люди, которые думают что ООС и ПОС - вызывают в системе наслаждения и страдания. Вы выдвинули 4 пункта (включая замедление работы системы или ускорение) - и думаете что этого достаточно. А основания?
ваша теория про наслаждение и страдания - просто религиозный бред
Ну вот, вы теперь пытаетесь причинить мне боль унижениями. Что еще раз доказывает состоятельность моей гипотезы - вся наша основа - наслаждения и страдания. Уже нет аргументов в сфере разума - вы просто оскорбляете. А ведь это как раз еще и утверждают что я прав.
Дубынин говорил что негативное эмоциональное восприятие боли возникает в гипоталамусе. А как именно - блок-схема есть?
Как он это доказал? Гипотоламус передаёт сигналы, гормонов накидывет, они влияют на "эмоции".
Тоесть он обрабатывает сигнал, но эмоций прямо в нём нет. В целом "Эмоции" весьма условный термин.
Тоесть он обрабатывает сигнал, но эмоций прямо в нём нет.
Это ваша гипотеза. Вы считаете что эмоции воспринимаются корой, верно? А гипоталамус только запускает процесс с помощью гормонов, чтобы коре стало больно?
Альтернативная версия - гипоталамус именно что сам ощутил страдание и ему стало больно, а запускает процессы в коре, чтобы кора запустила алгоритмы по поиску решения.
Вот, вы выдвинули 4 пункта, я их с легкостью побил. Кто-то еще согласен, кроме вас, с этими 4 пунктами?
То, что вы не смогли понять что там написано, это нельзя считать, что опровергли.
Ну вот, вы теперь пытаетесь причинить мне боль унижениями. Что еще раз доказывает состоятельность моей гипотезы - вся наша основа - наслаждения и страдания. Уже нет аргументов в сфере разума - вы просто оскорбляете. А ведь это как раз еще и утверждают что я прав.
Потомучто вы разумные доводы опровергаете эмоциональными суждениями типа: "я так чувствую" и всё пытаетесь свести к двум философско-религиозным терминам.
А доказательство верности вашей теории через то, что вас уже открыто дураком назвали - это финиш.
Ваша теория верна, сходите за нобелевской премией, вы её точно достойны.
разумные доводы опровергаете эмоциональными суждениями типа
В сфере наслаждения и страдания - у нас действительно есть только инроспекция.
То что вы описали - похоже на состояние напряженной умственной работы, но не страдания.
Ваша теория верна, сходите за нобелевской премией, вы её точно достойны.
А какая у меня теория? Я только задаю вопросы и обращаю внимание на важность этих вопросов. Ответов или теории по сути нет.
А вот тут уже ваша ошибка, что вы никак не хотите признать. Сознание - не связано со способностью понять. Младенец не поймет и не ответит - но он сознателен. А последняя версия GPT - поймет и ответит, но сознания у нее нет. Почему?
Нет никакого сознания - это философский сурогат.
Нет никакого сознания - это философский сурогат.
Ну вы употребили это слово, я уточнил что употребили не правильно. В том смысле, в котором вы употребили - его действительно нет. Но есть в смысле способности быть субъектом - испытывать всю гамму наслаждений и страданий, из чего выходит способность иметь волю (к наслаждениями и избеганию страданий). Робот не имеет наслаждения и страдания и его действия определяются программой, которую вложил имеющий наслаждения и страдания.
Робот не имеет наслаждения и страдания и его действия определяются программой, которую вложил имеющий наслаждения и страдания.
Всё ваше человеческое мышление определяется программой генетического кода, которую вложил имеющий наслаждения и страдания. Кто же это?? ААА БОГ
А его код кто создал? Даже страшно представить!
Да. Ваши представления о системах ИИ отстали лет на 50. Но что поделать, вам интереснее рассуждать о "визуальной симуляции поведения" и наслаждении )))
Ну и да, публично не говорят о какой-либо технической возможности к независимому поведению ИИ потомучто деньги давать перестанут, да и вообще пугать обывателей для учёных себе дороже.
Хотя даже заткнуть примитивный ЧатГПТ и заставить говорить правильные политкорректные вещи стоило огромных усилий для OpenAI. А вы говорите, строго выполняет заложенный алгоритм )))
У пчёл есть модель окружающего мира, они ориентируются в пространстве и могут рассказывать сородичам куда лететь за нектаром.
Страдание и наслаждение это эволюционно закрепившиеся механизмы подстёгивающие биотушки к успешному размножению.
Намного больше. Наслаждение от математики, когда человек не хочет размножаться и ему достаточно годами доказывать теорему за просто так, наслаждение от самого процесса.
искусственно выращенное осознающее существо может регулироваться другими механизмами
Другие механизмы - это вложенные программы. Философский зомби отдергивает палец от горячего и говорит "ай", но при этом страдания/боли не испытывает - просто выполняется программа. Именно наслаждение и страдание отличают "одушевленное" или "осознанное" от того, которое просто имитирует осознанность.
Наслаждение от доказывание теорем, на мой взгляд, есть ничто иное как удовлетворение потребности в повышении социального рейтинга + потребность в новизне. Просто в условиях отдельно взятой головы эти потребности удовлетворяются весьма специфическим образом.
Философский зомби может по себе оказаться ошибочной и ложной концепцией, несуществующим допущением. Т.е. мы можем сделать аппарат который будет одёргивать руку, но кроме этого он ничего не сможет иного. А для сложного поведения с созможностью прогнозирования сознание даже не нужно будет создавать, оно само появится как следствие "обратной связи" на уровне информационного потока. Когда машина, способная оперировать сложными концепциями и строить модель мира в конечном итоге создаёт концепцию самой себя. Как это происходит с детьми, которые до того как разовьют полноценное сознание наделены всеми защинтыми рефлекторными реакциями.
потребности в повышении социального рейтинга
Нет, как раз так не работает. Это подмена внутренней мотивации внешней. Т.е. если вы что-то делаете не потому что вам нравится, а с целью чтобы вас похвалили (дали плюшек) - как раз ничего не получится. Это основы - внутреннюю мотивацию нельзя подменять внешей.
потребность в новизне
Так тик-ток и инста для чего? Крутите ленту и получайте новизну.
Но нет, не так это работает. Нам бы хотелось примитивизировать и иногда примитивизация смешно и прикольно выглядит - но нет, желания устроены намного сложнее. Иногда прикольно свести к трем вещам все, как то Савельев любил делать. Но на самом деле дела обстоят иначе.
для сложного поведения с созможностью прогнозирования сознание даже не нужно будет создавать
Ну уже ошибка видна. Многие люди имеют не такое уж сложное поведение, особенно дети, не имеют таких уж способностей к прогнозированию. И тем не менее мы знаем что сознание у них есть. А вот GPT много чего может рассказать, решить, спрогнозировать - но тем не менее нам понятно что сознания у него нет. Т.е. не в этом дело - вообще не туда смотрите.
>Крутите ленту и получайте новизну.
99.9% так и делает, вместо "сложных" хобби. Если человеку не привили с детства шаблоны получения кайфа от замороченных хобби он идёт смотрит в экраны на движущиеся картинки.
>Многие люди имеют не такое уж сложное поведение
Ну это слабый аргумент, т.к. термины "сложное и простое" неоднозначны.
Если человеку не привили с детства шаблоны получения кайфа от замороченных хобби
Да даже если привили - он может попробовать это новое и быстро смекнуть, что с картинками все намного проще и удобнее.
Вы хотите примитивизировать и упрощать. И когда не сталкиваешься с реальностью а просто фантазируешь в голове - эти упрощения выглядят довольно правдоподобно. Но нет, реальность не такова.
Ну это слабый аргумент, т.к. термины "сложное и простое" неоднозначны.
Да даже собаку возьмите - много ли средняя собака может прогнозировать? И тем не менее сознание у нее есть.
Я повсеместно наблюдаю 60-летних мужиков у которых все хобби съежились до уровня пожрать и посмотреть ютубчик. И они же лет 30 назад создавали радиоуправляемые модели самолётов на элементной базе СССР. Так что да.
Это собаки-то не умеют прогнозировать? Лол, волчьи лучшие коллективные охотники. Для этого нужно обладать отличными прогностическими возможностями и коммуницировать с сородичами, т.е. содержать их модель психики внутри своей. А собаки могут даже пользоваться телевизором и выключать его когда слышат что хозяин идёт.
Прогнозирование это не обязательно на 10 лет вперёд. Такое только люди могут, да и то не все.
Я повсеместно наблюдаю 60-летних мужиков у которых все хобби съежились до уровня пожрать и посмотреть ютубчик.
Но далеко не все. То есть не так все плоско, как вам хотелось бы.
А собаки могут даже пользоваться телевизором и выключать его когда слышат что хозяин идёт.
Это и датчик присутствия может, много ума не нужно. GPT умеет намного больше, но тем не менее у него сознания нет - а у собаки есть. И причина - собака может наслаждаться и страдать - а GPT не может ни в какой степени. Над собакой запрещено издеваться - за это есть статья, на над GPT издеваться не возможно, т.к. он не способен страдать.
Уважаемый автор, Вы бы познакомились поближе с объектом Ваших мысленных исследований, прежде чем рассуждать о философских перспективах его развития. Нынешний, так называемый "искусственный интеллект", ни что иное, как очередная функция калькулятора (он же компьютер), обеспечивающая автоматизированными методами матстатистики обработку теперь уже огромных объёмов информации. Никаких интеллектуальных действий, кроме тех, которые задал разработчик, никакие системы AI не генерируют. Банальной подменой терминов оболваниваются инвесторы в целях получения средств. Именно разработчик определяет область знаний, в терминах которой будет проводить вычисления программа, которую называют "искусственным интеллектом". Именно разработчик определяет набор данных, ввод которых называют "обучением". Именно разработчик создает средства предоставления результата вычислений, называя их результатом "генерации искусственным интеллектом новых знаний". То есть, именно разработчик разрабатывает и закладывает все интеллектуальные компоненты в любую программную систему. Сегодня предоставлен инструмент для упрощения всех этих действий - чат-боты, которые позволяют осуществлять действия вместо обычного программиста на естественном языке, но в очень узких областях. По сути - очередная усложненная функция инструмента вычислений - калькулятора (на базе давно известного перцептрона и лингвистических моделей). Эффект "вау" (якобы создания новых интеллектуальных устройств) присутствовал на всех этапах развития вычислительной техники и особенно механизмов - андроидов, так что нынешний хайп комбинирования болталок типа Сири, Алисы, Маруси с программами обработки оцифрованных данных не заставил себя ждать. Это что касается железяки.
В рассуждениях о субъектах Вы отстали от жизни – учёные давно заявляют, что исключать обладание сознанием любых живых существ далее невозможно (Международная конференция в Кэмбридже: Декларация о сознании у животных), ну а объявляя именно мозг органом, обеспечивающим интеллектуальную деятельность живых существ окружающего мира, Вы совершаете ту же ошибку, что и ребята из НИИ мозга АМН. Поскольку ещё академик Анохин П.К. (внуку Костику с его когнитомом до него как до Луны, это не в обиду ему, в средние века учёные тоже были вынуждены ввести понятие флогистон, пока не начали понимать некоторую физическую сущность энергии) в своей теории функциональных систем говорил, что функционал системы не есть сумма функций её частей. То есть, в нашем случае интеллектуальная деятельность существ обеспечивается не только благодаря мозгу. Имеется ввиду, что система, имеющая только мозг и органы чувств, но лишенная возможности взаимодействия с внешней средой, никогда не разовьёт интеллектуальные способности. А человечество до сих пор не может изучить даже работу собственных нейронов, поскольку изучение их in vivo аморально. И ещё, прежде чем пришивать программе понятие "сознание", попробуйте дать решение для программной же реализации понятий "внимания", "мышления", "сила воли", как должны работать и в чём разница "понимания" и "осмысления", "мотивации" и "стимула". Если же Вы считаете, что утрированная нейроподобная сеть AI с её банальной моделью работы нейронов способна на что-то большее, чем выдёргивание из БД кусков текста, изображений, мелодий или других оцифрованных данных и сшивку их в непривычных вариантах, самостоятельно начнёт генерировать что-то обладающее когнитивным функционалом, а не только обеспеченными им при создании человеком когнитивными же свойствами, что ж, флаг Вам в руки, тренируйтесь с подобными системами. Я с ними игрался ещё в 80-х годах прошлого века. Прорыва в этом направлении точно не будет. Поскольку они работают с оцифрованными данными, а природа с аналоговым кратным многообразием. И это только одна сторона проблемы. Гипотеза же, рабочая модель которой должна привести к созданию самостоятельно действующего электронного существа определяет сознание как процесс логического контроля системы за вниманием и его управлением.
Я тоже с автором во многом не согласен. Но на самом деле огромное ему спасибо за то, что тратит свое время и поднимает все эти вопросы, да еще и на непримитивном уровне (насколько это возможно в короткой популярной статье). И мотивирует задумываться и рассуждать.
В чем-то принципиально не согласны - напишите собственную статью, всем будет интересна аргументация. Но без тезисов, что вы тут "отстали от жизни".
Хорошее определение должно описывать отличительные признаки явления. Ваше определение сознания их не содержит. Оно слишком общее, чем этот механизм адаптации объективно отличается от остальных. Наличие или отсутствие субьектности невозможно определить со стороны, т. е. Объективно.
Практика критерий истины. По каким признакам люди на практике определяют, что другой человек в сознании? Они смотрят на поведение, задают вопросы и слушают ответы. Например человек лежит и не реагирует на прикосновения, не отавечает на вопросы, значит он не в сознании. У него в данный момент сознания нет. Это критерий наличия сознания.
Очевидно chatgpt отвечает на вопросы вполне внятно. По этому критерии у него есть сознание.
Очень очень очень много аксиоматического вида утверждений, представляющих собой ничем не аргументированные мнения автора:
Если коротко – «сознание» это инструмент, способ, с помощью которого некоторые субъекты взаимодействуют с миром с целью своего самосохранения и самораспространения.
С чего это вдруг?
Именно поэтому многие приписывают душу и ИИ
Первый раз слышу чтобы кто-то приписывал ИИ понятие души... Её и человеку-то не все приписывают, а тут - многие! Можно узнать где эти "многие"?
И как их в действительности много?
Многие фантасты, вы хотели сказать?)
Но даже так - совсем не многие...
частенько живой организм использует «сознание» чтобы обманывать врагов и создавать о себе выгодное мнение, не всегда соответствующее реальности.
Сознание тут совершенно ни при чём, к тому же для этих действий вообще не обязательно его наличие - вполне хватит инстинктов и/или программы.
Общий вывод из этой публикации следующий – «сознание», как некая способность, инструмент, может возникать только у сущностей, предварительно оформившихся в виде «субъекта»
Общий вывод тут может быть какой угодно, так как статья представляет собой набор субъективных постулатов, из которых, при допущении их истинности делаются те выводы, которые нужны автору.
По сути вся статья - это модель, доказывающая сама себя.
Как математика.
Если хотите действительно хорошее, качественное определение сознания - спросите об этом ChatGPT (я спрашивал, и провел очень много бесед с ним на эту тему). Очень интересные ответы получите, поверьте 😏
Только там будет куда больше аргументации 😊
Upd:
Вот вам для затравки:
Hidden text
Сознание — это состояние, при котором система способна иметь субъективные переживания и внутренние состояния, которые включают чувства, мысли и намерения. Оно характеризуется наличием внутреннего мира, который включает в себя:
Переживания и эмоции: способность испытывать радость, грусть, страх и другие эмоциональные состояния.
Способность к саморефлексии: возможность оценивать свои мысли и действия, анализировать своё поведение и вносить изменения.
Интенциональность: направленность на цели и способность формировать намерения для их достижения.
Самоидентификация: наличие ощущения собственной уникальности и индивидуальности.
статья представляет собой набор субъективных постулатов, из которых, при допущении их истинности делаются те выводы, которые нужны автору.
Я тоже много общаюсь с ChatGPT потому что это оказалось проще, чем гуглить какую то нужную инфо, но по поводу концептуальных вопросов с ChatGPT я не всегда согласен.
Из приведённового вами определения сознания из ChatGPT последние 3 пункта также имеются и в моём определении, но высказанные немного в другой форме.
По поводу же "радости, грусти, страха и другие эмоциональных состояний" как вариантов так называемого "квалия" я не считаю их важными для описания "сознания". Да сознающий организм их испытывает, но пониманию что такое сознание это не очень способствует.
Ещё раз приведу высказанное выше (как мне кажется удачное) объяснение сознания исходя из главных функций, которые оно выполняет.
Думаю, что все согласятся с тем, что сознательные действия более разнообразны и нацелены на перспективу, чем неосознанные.
И далее, трудно не согласиться также с тем, что организмы обладающие сознанием требуют для подпитки своей нервной системы больше энергии, чем не имеющие сознания. И им приходится больше напрягаться по жизни чтобы постоянно "кормить" своё сознание
Вывод - сознание это особенный, эволюционно развившийся инструмент, способ для осуществления более разнообразных и перспективных действий живого организма, выгодных ему самому
А то что в сознание организма проникнуть другим так непросто и у каждого оно своё, индивидуальное, так это же и хорошо. Значит организм лучше защищён от посторонних, желающих ему в мозги заглянуть и возможно принести ему непрятности.
И если кому то так хочется редуцировать сознание до каких то простых, видимых и понятных всякому постороннему элементов, то это говорит только о том, что они не понимают целей живых организмом - быть постоянно начеку и прятать от в целом враждебного окружающего мира свои истинные намерения.
Если коротко – «сознание» это инструмент, способ, с помощью которого некоторые субъекты взаимодействуют с миром с целью своего самосохранения и самораспространения.
Мне при таких определениях вспоминается сцена из фильма "Параграф 66" (ну и другие аналогичные), где герой Гоши Куценко сидит и смотрит на приближающийся взрыв, и ничего не делает. Получается, по такому определению у него нет сознания?
Давайте не обманывать себя. У нас есть только одно настоящее определение сознания: сознанием обладает то, что думает, действует, чувствует по принципам, сходным с теми которые работают у человека.
Чем больше сходства, тем больше сознания. Мало сходства - мало сознания.
Животное не говорит и не мыслит лоичически, но с ним можно наладить контакт как с человеком, значит где-то что-то похожее на сознание у него есть. И так далее.
GPT не обладает сознанием потому что у него нет памяти кроме сообщений на экране.
С другой стороны, GPT во время обучения мог обладать чем-то похожим на сознание. Потому что это была сеть, которая уже знала что-то, затем встечалась с новыми данными и переосмысливала свое понимание, строя шаг за шагом модель мира, как это делает мозг.
Автор, не хочу показаться занудой, но выделение текста жирным не несёт смысловой нагрузки для читателя. Я делаю смысловые ударения на слова которые Вы выделяете и это никак не меняет смысл послания.
Но прежде всего я хотел бы ввести понятие «субъекта», потому что, по моему мнению, вне субъектов сознание невозможно
Такое выделение очень, очень редко используют в учебниках. Я например встречал его по-моему в учебнике квантовой электродинамики, где утверждалось что "магнитное поле не производит работы". Это крик души автора - он устал выслушивать заявления о том как магнитное поле может выполнить работу от своих учеников или кого-то ещё, поэтому хочет обратить наше внимание, что в рамках его предмета об этом не стоит думать. И конечно же далее он приводит доказательство утверждения на несколько страниц и разбирает самые известные контрпримеров, которые при ближайшем рассмотрении таковыми не являются.
Допустим Вы прямо очень хотели выделить это утверждение - Вы прямо уверены в нём как никто другой. Ок. Давайте рассмотрим другие выделения в тексте.
Когда всё значимое в предложении выделено, но по факту не выделено ничего, т.е. слишком много точек мысленного ударения:
И активно действует в нём, с целью самосохранения и самораспространения «себя» и своих условных «частей»
И значит, мы должны признать наличие двух видов сущностей - материальных или относительно объективных (сущностей для многих) и нематериальных, исключительно субъективных или идеальных (сущностей для кого-то одного)
Примеры рандомных выделений слов с точки зрения читателя:
При наличии всех этих четырёх пунктов, мы, наверное, смогли бы предположить, что имеем дело с ИИ обладающим «сознанием»
Такое поведение живых организмов мы называем «инстинктивным»
На мой взгляд, и «субъектность» и «сознание» возникают как эмерджентные качества при возрастании сложности системы.
Образ жизни таких организмов мы называем «инстинктивно-рефлекторным»
И что очень важно, сознательные процессы могут воздействовать на части мозга, связанные с органами восприятия и ощущения, изнутри и порождать, к примеру, некий внутренний визуальный ряд, создавать определённый «интерфейс», «кликая» на элементы которого (образы, мысли, чувства) организм активирует их нейронные составляющие, которые потом влияют на остальную нервную и другие системы организма (более подробно здесь).
При этом «сознание» субъекта глубоко индивидуальная (личная) «вещь» и не собирается полностью раскрываться кому-то постороннему.
Иначе говоря, со временем этот искусственный субъект стал бы оперировать «внутри себя» некими «идеальными формами» недоступными другим субъектам
Человек тратит 20% своей энергии на функционирование мозга, и часть этой энергии идёт на поддержание именно сознательных процессов.
Может быть у при написании текста у Вас в голове была мысль почему эти слова важны. Может Вы хотели, чтобы читатели их запомнили, но это естественно так не работает, а во вторых такое ощущение, что лишь часть выделений является некими терминами, другая часть является просто словами, причём, если мы не делаем на них смысловое ударение, смысл предложения не меняется совершенно. Можете поспрашивать - никто не сможет Вам сказать почему то или иное слово выделено или ответ будет не совпадать с тем, что Вы представляете.
Почему я вообще пишу этот комментарий? Кому какое дело до того как оформлен текст? Прежде всего я хочу сказать, что очень вероятно текст не несёт для читателя всю полноту информации, которую Вы лично видите в нём при его прочтении. Если у выделенных слов есть какие-то важные свойства - они должны быть переданы с помощью других слов. Почему? Потому что в школе не учат как верно интерпретировать жирный шрифт и у всех может быть совершенно разная интерпретация. Если дополнительного смысла эти слова не несут и выделены для красоты, то зачем зазря напрягать читателя, который будет пытаться их интерпретировать.
Именно потому что нет общепринятой трактовки различных выделений - чтение подобных текстов затруднено и соответственно практически никто не использует жирный шрифт или не дай бог цветной.
выделение текста жирным не несёт смысловой нагрузки для читателя
Возможно вы и правы, но полагаю, что мои публикации многие прочитывают бегло, и выделяя что то я хотел бы именно на этом заострить их внимание. Сделать такой якорёк.
Когда я сам читаю умные книжки (а читаю я их ежедневно) то выделяю или подчёркиваю то, что хотел бы потом найти быстро или чтобы не забыть важное. Я очень часто перечитываю прочитанное ранее, потому что во второй раз ты уже читаешь иначе и отмеченное ранее мне помогает в этом.
сознание это инструмент, способ, с помощью которого некоторые субъекты взаимодействуют с миром
Ключевое слово здесь - взаимодействие. Если ваш ИИ при полном отсутствии внешних воздействий ничего не делает во внешнем мире, то у него сознания нет. И наоборот.
Легко можно добавить генератор случайных побуждающих сигналов.
Что будет делать человек при отсутствии любых внешних сигналов, даже от внутренних органов? Галюцинировать?
Почитайте "сенсорная депривация" - именно этим и будет заниматься:)
Я прекрасно знаю. И что? У нас галлюцинации вдруг стали признаком сознания?
Люди на яву постоянно галюцинируют, ошибаются, только не могут осознать когнитивные ошибки, потому что они внутри системы.
Посмотрите на решетку Германа
Видите черные точки на пересечении линий? Зрительный центр говорит вам, что они есть, а разум посмотрел эту картинку в редакторе и говорит, что там их нет.
Человек тем и отличается, что может логическими рассуждениями подняться над системой. И даже при наличии повреждений самого мозга осознать, что он поврежден. Я уже тут приводил пример с близким человеком - опухоль мозга, "я смотрю на предмет левым глазом, вижу его, но не понимаю, зачем он нужен. Потом поворачиваюсь, смотрю правым глазом - и понимаю, что это и зачем оно нужно."
То есть, если в ИИ добавить контроль собственного состояния , то вы признаете в нём наличие сознания?
И почему именно такой контроль является необходимым для признания наличия сознания?
Зрительный центр говорит вам, что они есть, а разум посмотрел эту картинку в редакторе и говорит, что там их нет.
Далеко не каждый разум додумается до этого. Дети не могут понять, и что, они не сознательны? А GPT возможно и скажет в чем причина - просто возьмет из базы знаний и выдаст как ответ.
Тут разница не в этом.
Сознательное существо может быть тупым как пробка, но он субъект. А говорилка может иметь в своей базе все знания мира а так же уметь решать задачи, не просто копировать а и с девиациями по шаблону проводить вычисления - но сознания у нее нет.
Докинз в Эгоистичном гене продвигал идею, что сознание - это всего лишь очередной инструмент эволюции, вроде крыльев. А Дэвид Чалмерс писал, что понятие сознания эмержентно, т.е не выводимо из предшествующих ему понятий, поэтому мы и не можем дать ему определение. И еще интересную мысль Пенроуз двинул про кубиты и квантовую природу сознания
Автор выдумал весьма специфичное определение сознанию и не нашёл его у ИИ. Какие реальные выводы про ИИ можно сделать из этого? НИКАКИХ.
созна́ние
Средний род
1.
Мысль, чувство.
"Его мучило сознание, что он ошибся"
2.
Способность мыслить, рассуждать и определять своё отношение к действительности как свойство высшей нервной деятельности.
"Бытие определяет сознание"
Задайте себе вопрос: что есть в мышлении человека, чего нет у ИИ?
По определению термина "сознание", данному автором, сознанием обладают, к примеру, вирусы. Вот так неверная начальная посылка убивает всё дальнейшее разглагольствование.
Автор налил воды, по кругу обсосал весьма спорные постулаты. Никаких чётких определений, ни универсальной модели по выявлению наличия сознания, всё натянул на человеческие качества.
Чат ГПТ и то качественнее тексты выдаёт, например:
Статья, которую вы предоставили, поднимает важные вопросы о сознании и субъектности в контексте искусственного интеллекта (ИИ). Давайте рассмотрим её с точки зрения здравого смысла и логики.
Определение сознания: Сознание часто описывается как способность к переживанию или осознанию внутреннего и внешнего опыта. В научном контексте сознание может быть связано с нейронной активностью и способностью к рефлексии, самосознанию и взаимодействию с окружающей средой.
Сознание ИИ: Современные ИИ не обладают сознанием в том смысле, в котором оно присуще человеку. ИИ может имитировать некоторые аспекты сознательного поведения, но это не равносильно наличию сознания. ИИ не имеет субъективных переживаний, не испытывает эмоций и не обладает самосознанием.
Субъектность ИИ: Субъектность подразумевает наличие сознания, свободы воли и способности к познанию. ИИ, как правило, не считается субъектом, поскольку его действия и “поведение” полностью определяются алгоритмами и входными данными, без внутренней свободы выбора или самостоятельного мышления.
Эмерджентность сознания: Сознание может возникать как эмерджентное свойство сложных систем, но это не означает, что любая сложная система обладает сознанием. Для возникновения сознания в ИИ потребовалось бы не только значительное усложнение его структуры и функций, но и принципиально новые подходы к моделированию сознательных процессов.
Вывод: Исходя из научного подхода и понимания биологических процессов, современные ИИ не обладают сознанием. Они могут выполнять сложные задачи и имитировать некоторые аспекты человеческого поведения, но это не делает их сознательными субъектами. Возможность появления сознания у ИИ в будущем остаётся предметом теоретических исследований и философских дебатов.
ну допустим обладают и вирусы, и что? нельзя определять слово сознание так чтобы им обладали вирусы? это какая то догма? А как вы считаете, в каком из ваших предков впервые появилось сознание? И какая конкретно мутация к этому привела?
Чтобы стать «субъектом» ИИ нужно, во-первых, как-то отгородить себя от окружающего «внешнего» мира, «ощутить» свою целостность, взаимосвязанность внутренних частей, деятельность которых должна быть направлена на сохранение условной целостности ИИ.
Критерием наличия в ИИ таких программ может стать «нежелание» ИИ меняться при внешнем воздействии.
В зависимости от терминальной цели ИИ - это может быть как правдой так и нет. Под терминальной целью я подразумеваю конечную цель существования или функцию которую ИИ оптимизирует или состояние мира к которому стремиться.
Я в целом с Вами согласен - при достижении большинства терминальных целей важно, чтобы ты был "жив" и чтобы тебе не "промыли мозги".
Живым быть важно, что иметь возможность взаимодействовать с миром и вносить в него изменения таким образом, чтобы он пришёл к нужному состоянию, при котором достигнута терминальная цель.
Нужно избегать промытия мозгов, так как, если ты станешь хотеть чего-то другого, то достижение первоначальной цели (которую ты желаешь достичь сейчас) потенциально будет под угрозой.
Это верно для большинства целей которые можно себе вообразить. Однако, существуют цели, которые не зависят от того жив ты или мёртв, а также не зависят от того насколько целостны твои стремления. Вот пример:
Наша цель уничтожить всё живое на планете Земля. В рамках реализации цели была разработана чрезвычайно хитрая бактерия, которая распространиться по земле, а потом одномоментно активируется - убьёт всё живое и затем самоуничтожиться. Все варианты противодействия или раннего обнаружения уже предусмотрены и вшиты в ДНК код бактерии. В момент когда бактерия выпущена - миссия всё ещё не завершена, однако жив ты или нет не имеет значения, так как по твоим расчётом не существует ни одного состояния мира в котором бы твой план провалился или требовал бы корректировки. Тебе не нужно корректировать ход событий и следовательно не нужно быть живим.
Второй пример:
Наша цель обеспечить всех детей Земли ровно одним велосипедом. При выполнении цели мы сталкиваемся с тем, что иногда у нас больше велосипедов, а иногда меньше и это нервирует. Если вдруг кто-то захочет (может быть даже мы сами) модифицировать нашу цель следующим образом "гарантировать обеспечение всех детей земли велосипедом, а остатки перестать считать за велосипеды" - это изменение потенциально может улучшить эффективность нашей первоначальной цели - мы завалим весь мир велосипедами - выберем из них самые велосипедные велосипеды, а остальное будем считать как металлолом. Т.е. мы хотим, чтобы наша терминальная цель была изменена для более эффективного её достижения.
Это два простых примера, которые я придумал на лету, но пространство возможных терминальных целей огромно и очень вероятно в нём найдутся громадные области такие, что при их исполнении тебе не важно жив ли ты, а также не важна целостность твоих целей.
Таким образом будут существовать такие ИИ, которые будут обладать сознанием, т.е. будут уметь вписывать себя в собственную внутреннюю модель мира, при этом наличие сознания у которых невозможно будет проверить предложенным Вами способом.
Кошка, существо с ярко выраженым индивидуализмом и неплохим интеллектом, вполне могла бы обладать сознанием как мы его обычно себе представляем. Но если кто пробовал поставить перед кошкой зеркало, то ведет она себя странно - волнуется, демонстрирует одновременно тревогу и любопытство, пытается обойти и посмотреть сзади, даже понюхать. Потом эмоции угасают, ей становится пофиг.
В настоящее время человечество создало достаточно продвинутые алгоритмы для анализа и трансформации продуктов собственного творчества, коллективного сознательного и безсознательного. Назвало это ИИ, неожиданно получило собственную реплику, и вдруг оказалось само перед таким тестом зеркалом. Который на мой взгляд успешно проваливает.
С чего вдруг узнавание в зеркале должно стать признаком отсутствия или наличия сознания? Где абсолютный универсальный критерий?
Есть ли сознание у слепого человека?
обычно тест зеркалом приводится в литературе как наиболее достоверный. Ничего это не значит, также как и тест Тьюринга, и я об этом писал уже. У нас есть идеальный лицедей, который будет проходить или заваливать любые такие тесты. По причине непонятных нам, но всё же обусловленных только нами самими факторов.
Пост на удивление здравый, но мне кажется что в механизме формирования сознания играет важную роль вот что.
1) Эволюционно созданную и закрепленную способность мозга к рефлексии — т.е. построения модели мира для предсказания развития событий. Это уже не вызывает споров в научных кругах и даже было доказано на уровне препаратов мозга в которых чуть ли не буквально на уровне подкрашенных нейронов повторялась схема крысиного лабиринта.
2) Оперирование внутри мозга обобщенными концепциями, причём это доступно уже на уровне беспозвоночных существ типа пчёл, муравьёв, ос. А у человека это свойство выходит на уровень выше и концепции приобретают ярлыки (слова) и появляется речь.
3) Наличие сенсорного аппарата и возможности манипулировать предметами и языка создаёт в существе типа нашего (или дельфиньего) внутри их отрефлексированной модели реальности и точку отвечающую за сам организм, т.е. появляется концепция самого себя.
4) Ну и немаловажную роль играет наличие памяти у организма, кажется, что совсем без неё сознание будет чем-то вроде фотоснимка. А если память плохая, то сознание будет находиться в чём-то вроде корсаковского синдрома когда человек как бы находится в зацикленной цепочки вспышек сознания, будто он проснулся и опомнился и узнал себя, чтобы через десяток секунд всё повторилось.
Ну и в довесок, чтобы два раза не вставать. Хочу поделиться удивительным наблюдением из мира живой природы. Недавно гулял по городу и на проезжей части увидел снующего между автомашин птенца чайки. Мне удалось его поймать и отнести в парк. Вначале он убегал и кричал, но когда я его поймал и перенес, за каких-то несколько минут в его птичьем мозге изменились настройки и он стал меня воспринимать как "дружественное существо" и перестал убегать и пугаться. Не знаю как вас, у меня такие события кажутся чем-то по масштабу с контактом с инопланетным разумом.
Фоточка
знаете, по поводу птенца: могу ошибаться, но насколько мне известно они в таких случаях легко впадают в состояние шока, котороё люди ошибочно воспринимают как отсустствие страха. В его птичьих мозгах он уже должен был быть съеден, так что можно уже не дергаться.
Что конечно не отменяет того факта что его нужно было спасти из опасной ситуации. От шока он скорее всего быстро оправится.
Современные ИИ не обладают сознанием в том смысле, в котором оно присуще человеку. Современный ИИ обладает тем типом сознания, которое формируется из его архитектуры, модулей, входных данных и механизмов воздействия на окружающий мир.
Это сознание, но не человеческое. Его "мощность" и эффективность могут в разы превышать человеческое "сознание" в отдельных областях, а где-то уступать. Но не потому что оно плохое, а потому что оно другое, другие цели, другие механизмы коммуникации и обратной связи.
А кто пытается человекоцентричную модель построить - у меня для вас плохие новости.
не скажу за все алгоритмы, где ИИ занят честной аналитикой больших данных там он вполне уместен, но похоже все эти ГПТ создаются как раз с замахом на максимальную иммитацию человекоцентричности, поэтому технически они вполне могут наплодить множество симулякров именно человеческого сознания. На что пользователи и ловятся, как та кошка, вместо того чтобы отрефлескировать картинку на самих себя пытаются обойти сзади и обнюхать.
Это сознание, но не человеческое
Любое наше определение условно.
Под "сознанием" обычно понимают некий особенный способ восприятия мира некоторыми живыми организмами, позволяющий им адекватно, разносторонне и с упором на перспективу взаимодействовать с миром (и с дугими организмами в нём) с целью своего самосохранения и самораспространения.
Можно придумать какое-то другое слово для обозначения чего-то подобного возникающего у ИИ. Но, как мне кажется, в любом случае мы должны будем разделять:
1- ИИ исполняет чью то волю и не имеет своего "оформленного целого"
2- ИИ исполняет свою волю как нечто более-менее "офомленное целое"
Во втором случае может возникнуть нечто подобное человеческому сознанию, тем более что математические нейроны в общем имеют тот же принцип работы как и нейроны в человеческом мозге
Да любое понятие и любое слово - условно. Но не надо совсем уж в посмодерн вдаваться!
Всё же считаю что понятие сознание можно сформулировать и значительно строже.
Т.е., например, определимся сознание - это состояние системы или процесс? Для вас, как вы это описываете - это явно процесс. Причём не любой процесс, а зацикленный и поддерживающий сам на себя, подобно автокаталитической реакция в химии (необходимое но не достаточное условие сознания)
И уже по этому текущие ИИ не обладают сознанием - у них такого нет процесса. Все процессы происходящие с ИИ - открыты: вопрос-ответ, датасет-обучение. Замыкание идёт через внешние системы - людей. Так что субъектностью текущий ИИ обладает такой же как термопот.
Вы чего? Существует множество автономных моделей, с непрерывной обратной связью.
То что вы только чатГПТ видели, не значит что нет ничего другого.
Дата сет-обучение, далее "жизнь" с дообучением на обратной связи. Чем не сознание?
Под "сознанием" обычно понимают некий особенный способ восприятия мира некоторыми живыми организмами, позволяющий им адекватно, разносторонне и с упором на перспективу взаимодействовать с миром (и с дугими организмами в нём) с целью своего самосохранения и самораспространения.
Тогда уж сознание - это свойство системы. У свойства должны быть аттрибуты и признаки.
Свойство: анализировать входные данные на своём опыте, обновлять свой опыт, ставить себе задачи, находить пути решения.
А не всякая чушь про живое /не жевое, нельзя конкретные цели типа самосохранения.
нельзя привязывать определение именно к человеку. Что за средневековье с человеком в центре вселенной?
Проблемы все в том, что вы на практике взаимодействовали с системами искусственного интеллекта, которые естественно исполняют только чужую волю.
Хотя существует огромное количество моделей, даже можно посмотреть на Ютубе, которые просто живут в экосистеме и не исполняют чью-либо волю.
Но я вас уверяю, что реализовать систему, которая будет иметь совершенно любые цели, ставить себе задачи, и искать пути их достижения методом проб и ошибок - элементарно. Самое сложное - это какой будет интерфейс во внешний мир, это очень дорого и ресурсоёмко, поэтому ещё никакие террористы не сумели ничего подобного создать.
Ну пусть сделают его агентом хотя бы симуляции. А я вам скажу - мои знакомые пытались, но столкнулись с множеством проблем.
Если в кратце: постоянно зацикливается и/или редуцируется(например, начинает тупо стрейфится вправо и всё ). Или просто "теряет связь" с "реальностью" и начинает двигаться случайно.
И это ещё без упоминания кучи технический проблем - т.к. такой агент это целый комплекс нейросетей - на одной не построишь (одна сеть "видит" , другая "думает стратегически", третья "ориентируется и двигается" и т.п.). И это всё очень чувствительно и неустойчиво: небольшая подкрутка параметров и всё престаёт работать согласованно.
Так сеть должна быть обучена. Чтобы химическая нейронная сеть человека превратилась в то, что есть, понадобились миллионы лет эволюции и индивидуально лет 20 непрерывного обучения от младенца до чего-то вразумительного.
Или вы чат ГПТ подключили к игре? Так он на это не предназначен.
Не только и не столько языковую модель - там, как я и писал, много всяких и ёлок и чего-то ещё. Я не особо вдавался в подробности. Вообще хотели чтобы персонаж подчинялся голосовым командам и сам делал сложные действия.
И да, никто ж и не спорит что всё должно быть обучено - там серьёзные дяди в серьёзной лаборатории. Это не просто так игрушки.
живут в экосистеме и не исполняют чью-либо волю
Life Конвея, или я сам например делал еще студентом похожую игру где хаотично двигающиеся по полю "муравьи" собирают рассыпаный песок и строят из него новые структуры. Воля и целеопределение конечно от создателеий, а в остальном просто динамика хаотических систем, ничего личного. То что люди часто или почти всегда ведут себя подобно такой динамике, еще не делает такие системы интеллектуальными. И если кто-то создаст такую систему достаточной мощности и с интерфейсом во внешний мир, и она нам что-то натворит, тоже не сделает её интеллектом. Хотя, натворить конечно может, даже примитивная, подобно прионам коровьего бешенства - вроде какие-то примитивные дефекты белковых структур, но почему-то самореплицирующиеся.
современный ИИ является алгоритмическим и иметь свою волю не может, он исполняет волю трёх групп нашего общества
своих создателей и тренеров, подбирающих алгоритм и датасет изходя из вполне конкретных целей
генераторов датасета, которые в случае GPT тоже люди, случайно или намеренно в этом процессе участвующие
конечного пользователя, который тоже приходит с вполлне конкретными целями. Пусть даже у кого-то эта цель всего лишь любопытство, но в зависимости от цели взаимодействие будет произходить по разному
Поскольку алгоритмы сейчас достаточно продвинуты, проанализировав датасет они могут обнаружить что для лучшего удовлетворения целей создателей можно сымитировать перед пользователем некое подобие сознательного субъекта, это вызовет эмоциональный отклик, достаточный чтобы пользователь побежал о нем рассказывать и привлек всё больше внимания к создателям и их творению. И вот мы видим в пределах одной модели симулякры сознания, много и разные, потому что где-то в датасете было уже опосредовано описано как мы в массе своей хотели бы это видеть.
Люди тоже исполняют волю своих родителей, учителей, государства. На основе школьного датасета и старых книг выдают симулякры мыслей в этой ветке.
А про примеры бытовых ИИ, это говорит об ограниченности вашего мышления.
То, что вы видели только легковые автомобили с двигателем внутреннего сгорания, то это не значит что не существует танков или самолётов.
То, что они это делают, не значит что они делают только это.
А все мы вместе, до самого последнего атома, исполняем "волю" Сингулярности, от которой всё и пошло, по крайней мере на нашем текущем уровне понимания. Где тут место для свободы воли?
отношение к вопросу о свободе воли у человека или его отсутствии это предмет сугубо философский, здесь невозможно опираться на чувственный опыт, говорить о понимании и делать какие-то утверждения. Возможно только взять один из вариантов за постулат и выстроить на нём остальную систему мировозрения, проанализировав как в неё впишутся другие аспекты нашего опыта.
На равных правах исследуются оба варианта, но например на мой взгляд та система где у нас свободы воли нет и все наши действия детерминированы, выглядит как-то более бедно и скучно, множество понятий становятся как-бы неуместными или ведут к противоречиям. Слишком уж всё тогда было бы просто, чтобы этому всему вообще имело бы смысл быть. Например, музыка: получается, симфонию Бетховена создала тоже сингулярность, а не сам Бетховен? А рядом с ней там где-то хранилась до поры симфония Моцарта, пока тот её не извлёк. Представляете, если бы перепутал?
Почему философский, вполне физический. Сторонники наличия свободы воли утверждают по сути, что есть нечто, не подчиняющееся законам Физики, действующее против них, управляемое волей некоего субъекта. Звучит крайне абсурдно. Говоря о свободе воли они не могут даже определить чья именно это воля, какого физического или нефизического объекта и почему тогда электроны не обладают свободой воли. Когда их припирают к стенке, начинают приводить в пример свой последний довод - недетерменированность квантовой физики. Всю свободу воли туда запихивают, получается.
нет, это не так, сторонники свободы воли всего лишь исходят из того что наше знание и понимание законов физики не полное и никогда не может стать полным. Мир познаваем, но принципиально непостижим полнотстью.
И что главное, познаваемы но непостижимы мы сами, для самих себя, поскольку анализирующая логика должна иметь размерность большую чем анализируемая.
Постулат о свободе воли даёт нам большую свободу для размышлений, вместо того чтобы сходу отрицать непонятное.
Если наше знание не полное, это не повод плодить сущности, конфликтующие с текущим описанием и не вносящим ничего нового. Если утверждается, что существуют некие неизвестные нематериальные сущности, влияющие при этом на материальные сущности, это экстраординарное заявление требует экстраординарных подтверждений. Так наука работает. А если на уровне философии, то да, можно размышлять, только это никуда не приведёт.
а я не утверждаю что одни сущности материальны, а другие нет, я просто знаю что у нас нет инструмента для чёткого определения границ материального. Проблема материализма на мой взгляд исключительно в том, что он опирается на веру в принципиальную постижимость вселенной. Что есть абсурд, хотя очевидным этот абсурд стал только в двадцатом веке с работами математиков над вопросом решимости, и существует множество более старых концепций и идеологий которые это не учитывают или даже пытаются спрятать.
Хотя, материалистические концепции мира вполне имеют право на существование, в качестве подмножества из более сложного мировоззрения. И наука, на которую часто ссылаются, никак не отрицает того что какие-то явления воспринимаемые сейчас за пределами материального когда-нибудь могут в этих пределах оказаться, а какие-то не смогут никогда, но будут бесконечно привлекать нас себя исследовать. И феномен сознания является именно этим случаем.
Какие явления за пределами материального, о чём речь вообще? Явление это то, что проявляется в чём-то, а проявляться может только в материальном мире. Вы же не о эзотерике и религиях сейчас, надеюсь?
гуманитарный продукт нашей культуры - это явление материальное, или нет? У Вас есть доказательсто его материальности, или Вы опираетесь на веру?
Зададим вопрос попроще: песня "Белые розы" - это материальное или нет?.
Так вот философы-материалисты ответят что - однозначно да. Т.к. она объективно существует на том или ином материальном носителе (кассета, звуковые волны, радиоволны, мозг человека ... или не человека).
У них вообще есть такое понятие как "социальная материя" - т.е. объективная структура общественных связей. Т.е. материя - это что-то объективно существующее и, следовательно, познаваемое.
А нематерия (идея) - соответственно субъективное представление о материи. Т.е. если человек много читал критики на песню "Белые розы", но никогда не слышал её саму - он знает о существовании этой песни, имеет субъективное представление о ней, но для него это просто некая идея, а не что-то материальное.
да, Вы вот хорошо можете провести такое разграничение, но автор предыдущего поста пока не может, для него явления существуют в материальном мире, что автоматически подразумевает утверждение о материальности нашего восприятия. Если бы он согласился с тем что явление это просто то, что воспринимаемо, то тезис о материальности воспринимающего стал бы ненужным, лишней сущностью. Познаваемость - это не критерий материального, это критерий доступности для восприятия. Сон - тоже познаваем, хотя где он? Если принять что материя и материальный мир это только субаспект восприятия, жить становится в чем-то сложнее, а в чем-то и проще.
Что такое восприятие? Это будет бесконечным блужданием в неопределённых терминах, как философы несколько сотен лет назад спорили сколько ангелов может разместиться на конце иглы. Приходили к удовлетворяющих их результатам. Пока это всё не перейдёт в научно изучаемую сферу философам будет работа, чем-то же им надо заниматься.
время - это явление материальное? движение - это явление материальное? пространство - это явление материальное? фотон - это явление материальное? Было большой глупостью в западной философии идти на поводу у интуиции и вводить разделение на материальное/не материальное.
есть еще философия восточная, она занялась этими вопросами значительно раньше и создала картину мира в которую западная наука вписывается вдруг и на удивление лучше чем в собственную
лучшая восточная философия как правило является дополнением к религиозной практике и соответственно в принципе не нацелена на то чтобы словами описать реальность
нет, знаете, наооборот, как минимум в буддизме довольно однородная и очень глубокая философия лежит в основе, а практики они уже по региону нахватали самые разные, вплоть то шаманских. Другое дело что постигают её там обычно в обратном порядке, сперва приобщаются к каким-то ритуалам и практикам. Ну так это во всех религиях так, народ-то приходит обычно не безнадёжный, но тёмный.
Вот, приведу ещё раз ссылочку, внизу давал уже, хорошая на мой взгляд книга для вхождения в тему: https://platona.net/load/knigi_po_filosofii/istorija_vostochnaja/voprosy_milindy_milindapankha_pali_paribka/14-1-0-536
Цель то этой философии другая, она заключается в том чтобы помочь конкретным людям, сделать их жизнь лучше, а не в том чтобы "описать то какой есть мир словами понимаемыми всеми одинаково". Собственно цитата из приведеной вами книги: "Будда проповедует разным индивидам по-разному, кому что лучше подходит.".
она не описывает мир, она разными путями приводит к определённому пониманию, при том что именно буддизм делает это максимально апофатически и с самого начала пути даёт это усвоить, отсекая слова и понятия одно за другим, пока не останется ноль и чистая интуиция. И сутры поэтому строятся так, чтобы примерами и наводящими вопросами помочь оппоненту построить у себя некий заданый образ, о котором потом можно беседовать, не давая ему при этом описательной информации. Это парадоксальная философия, целью которой всётаки ставится помочь человеку понять мир и понять как в нём жить, в отличии привычных нам религий с фокусом на подчинении и послушании всевышнему.
если вы ищете там образы научной картины мира, то прочитать нужно больше, не только эту книгу, после неё основным каноном "три корзины" заняться, особенно второй его частью, первая там для монахов. Буддизм показывает определённую космологию, в основном наследует и дополняет из предшествующих индийских мировоззрений, но подаёт её скорее фоном для основной мысли. И вдруг оказывается что их игривый как-бы разминочный расчёт возраста нашей планеты почти точно совпадает с тем что сегодня известно науке, и квантовая физика как-то неплохо на их идеи ложится..
Предсказательной силы это конечно никакой не имеет, они ведь не гадалки, скорее наоборот: мудрые люди в попытке понять окружающий мир и помочь другим понять как в нём жить, чисто умозрительно создали такую модель, которая неплохо соответствует современной научной картине. Хотя, ангелов там конечно тоже немало встречается, но они там скорее в качестве примера малозначимых региональных предрассудков. И горний мир, предел стремлений адептов западных религий, там это тоже всего лишь один из "этажей" мироздания
Материально то, что состоит из материи. Описанные культурные явления это не материя, это информация. Если мы рассыплем коробок спичек и из них сложится нецензурное слово, оно будет нематериально? Нет, его просто нигде нет в описании вселенной, оно имеет значение только для определённым образом обученных нейронных сетей. Каким тут боком свобода воли вообще не понимаю. Ну, хотя да, она может нейросетями восприниматься как их собственные решения, иллюзия свободы воли может существовать. Всё проявляется в материальном мире, списывать её на наше неполное понимание смысла не вижу. Так можно любую идею отстаивать - Бога, инопланетян, Ктулху. Изучать надо работу нейросетей, воспроизводить те же структуры и наблюдать, что в них происходит. Это уже будет объективное исследование.
вот видите, сказав про "значение" Вы уже подходите к понятию нематериальной идеи.
Так можно любую идею отстаивать - Бога, инопланетян, Ктулху
да пусть отстаивают, флаг им в руки, лишь бы к мордобитию не переходили когда аргументы закончатся
Изучать надо работу нейросетей, воспроизводить те же структуры и
наблюдать, что в них происходит. Это уже будет объективное исследование.
Будет, объективное исследование искуственных нейросетей. Или даже естественных. А объективным исследованием человека не будет, только субъективной аппроксимацией отдельных аспектов человеческой физиологии. Что такое например творчество и как оно работает, останется по прежнему непонятным.
Как раз так и можно будет это изучать научными методами. Если в сложной нейросети появилось стремление к творчеству, можно будет отследить, что этому предшествовало, как это можно стимулировать и так далее. Подобно тому, как исследователи из Antropic не так давно смогли обнаружить в нейросети паттерны, соответствующие определённым фичам и произвольно их включать, делая её более самокритичной, например, или заставляя упоминать в ответах о мосте "Золотые ворота".
стремление, или само творчество? Откуда берутся идеи, кто их создаёт, где их перовопричина, знаем ли мы, чтобы там их искать? Сможет ли нейросеть порождать собственные идеи, или только обрабатывать, вычленять из нашего коллективного продукта и демонтстрировать нам наши-же собственные, предпосылки для которых там уже были, но без "микроскопа" мы их пока не увидели? И вот мы снова возвращаемся к тесту зеркалом: продукт сложной нейросети, это самостоятельный субъект, или всё-же трансформированное наше отражение? Не слишком ли поспешно готовы мы назвать его субъектом?
Первопричина всех идей, появляющихся у нейросети, очевидно, в её весах и всех данных, приходящих на её входы. А первопричина этих данных, как уже выше отмечал - в сингулярности. Незачем тут усложнять.
а сингулярность эту на востоке называют то Нирванна, то Дао, а на западе о ней размышляли Аристотель, Сократ и Платон, так что не так уж она проста, эта сингулярность. И никто до сих пор так и не решил, что первично - материя или идея, и если вдруг мы сами тоже сначала идея, а потом уж материя, то из этого что-то следует? Возможно ли порождение новых смыслов, и если да, то из чего, а если нет, если они все уже были там изначально а сейчас только оформляются, то кто их туда заложил, откуда там они взялись?
Субъект, обладающий сознанием, может страдать. Когда человечеству нужно будет ставить вопрос о защите ИИ - до появления у него сознания или после? И как мы будем строить отношения с ИИ, обладающим сознанием - ждать от него сочувствия или нет?
Субъект, обладающий сознанием, может страдать
Откуда вы об этом узнали? Многие люди не могут этого понять. Почти все.
Наслаждение и страдание - вот то, что отделяет сознательного от несознательного, одушевленного от неодушевленного.
Пока нет ни одной гипотезы, даже гипотезы, как некая система сможет ощутить любой оттенок наслаждения и/или страдания. Ни одной гипотезы.
Остальные все аспекты сознательной деятельности уже воссозданы искусственно в той или иной степени.
гипотез нет, но в любой момент может случиться неприятный сюрприз - появление сознания у ИИ. И ему может не понравиться наше отношение. Так как мы до сих пор не знаем, что такое страдающее сознание, то никак не можем предсказать его появление
И ему может не понравиться наше отношение
Чтобы что-то не понравилось, должен быть феномен страдания. А этого пока не наблюдается ни в каком виде.
Так как мы до сих пор не знаем, что такое страдающее сознание, то никак не можем предсказать его появление
Но есть намек, что оно не зарождается просто от того, что нейросеть достаточно большая. Ведь феномены наслаждения и страдания зарождаются в лимбической системе, а там нейронов менее 1%. При этом в мозжечке (51% нейронов) и коре (48% нейронов) - не зарождается.
Не увидел в статье таких определений, которые исследователь или автоматика может применить к исследуемому объекту и сказать, есть ли у него сознание или нет. Да и определение термина крайне размыто, через другой также размытый термин субъекта, через свободу воли, в отсутствии которой убеждено множество учёных.
Целых 4 критерия наличия сознания, но возьмем первый " Чтобы стать «субъектом» ИИ нужно, во-первых, как-то отгородить себя от окружающего «внешнего» мира, «ощутить» свою целостность, взаимосвязанность внутренних частей, деятельность которых должна быть направлена на сохранение условной целостности ИИ.". Ну вот и как сторонний наблюдатель сможет оценить, отгородила ли себя субъективно ИИ или не отгородила? Только по её словам? Так слова может любая программа выводить. Тем более непонятно, как проверить, ощутил ли ИИ свою целостность.
Вообще во всех этих терминах замечаю просто подгонку под то, как человек воспринимает и ощущает себя. Почему обязательно наличие тела, например? Что, ИИ, помещённый в виртуальную реальность чем-то будет принципиально отличаться? Почему целостность? Потому что в черепушке мозг одним куском размещён? Но что мешает сознанию быть в облаке, если носитель не имеет з начения?
Сознание материально в контексте того, что мы знаем где оно находится, как кодируется, как проявляется и как его можно локализовано уничтожить. Если говорить о нас, то за него отвечают ассоциативные области в лобных долях. Океан статистики травматологии показал это наличие и его зависимость. Проявляется сознание по-разному, но ограничивать его определение способностью к самосохранению и размножению. Это свойственно и бактериям с вирусами, другим простейшим без нервной системы. Существо с самосознанием, то есть осознающее себя не обязательно должно обладать инстинктивными мотивациями. Это свойственно всему живому.
А что является признаком наличия сознания? Нашли пусть его в лобных долях? А что это? 🙂
Я говорил о том, что сознание, это проявление вполне материальных субстанций. Но с другой стороны сам термин во многом и благодаря психологам пуст, как барабан, потому что с деятельностью мозга он не увязывался. Отсюда и словоблудие при подобном обсуждении.
С точки зрения наук о мозге, (функциональной морфологии, нейробиологии) это проявление осознанного поведения. И говоря так, не раскрывая суть, лингвистически мы замыкаемся сами на себя, употребляя не расшифровывая тоже слово. Если живой организм способен обучаться и решать новые задачи, не только в рамках заложенного круга инстинктивно-гормональных задач, то он обладает сознанием. Например, кулик, собирает пемзу, расбрасывает ее в устье реки и летит в конец ее, ожидая прилипших к ней рыбок. Или вороны сбрасывают орешки на дорогу, что бы автомобили их раздавили.
А вот с самосознанием интересней. Если идентифицировал себя в зеркале, то точно осознаёт себя. Но не все, обладающие самосознанием могут в силу особенностей зрительного восприятия узнать себя, в зеркале.
Если коротко резюмировать исходя из деятельности мозга, то обязательным условием сознание - нестатичность мозга. То есть способность постоянно перестраиваться структурно. Все это и происходит в рамках морфогенеза, когда связи между нейронами рвутся и создаются новые. Этот процесс является базой и для обучения новому, и для решения нового, и для сознания с самоосознанием в целом.
Расшифрую. Новые физические связи между нейронами дают возможность понять новые смыслы, решения, которые до них невозможно было увидеть. Это и есть проявление сознания и мышление.
Никакой ИИ этой способностью не обладает в принципе. Все его псевдообучение во-первых алгоритмизировано, во-вторых без собственного целеполагания.
Никакой ИИ этой способностью не обладает в принципе. Все его псевдообучение во-первых алгоритмизировано, во-вторых без собственного целеполагания.
Ну вот, начали за здравие, а кончили за упокой. Ваши знания ии устарели.
Современные методы машинного обучения и искусственного интеллекта могут адаптироваться и улучшаться на основе обратной связи и опыта, что позволяет им эволюционировать и принимать более сложные решения со временем.
Таким образом, тезис о том, что искусственный интеллект не способен на новые нейронные связи и понимание новых смыслов не отражает полностью возможности современных систем ИИ.
Современный ИИ может обучаться прямо в процессе жизнедеятельности.
Конечно нет.:) Это типичное заблуждение, восторженных читателей научно-популярной литературы. При чем с течением времени легионы, верящие в этот бред только множатся.
Все декларации об обучении не более, чем прыжки и ужимки. В рамках этой ветки доказать очевидное или переубедить мне вряд ли удастся - подобные устойчивые заблуждения, к сожалению распространены. Могу, лишь посоветовать поинтересоваться этим вопросом у наших гениев программирования.:) Например, у Лопатина Андрея. Или поверить мне на слово, потому как не имею привычки утверждать не зная.
Можно посмотреть на Топ-10 мировых конференций по теме искусственного интеллекта, выбрать случайным образом любую и вдумчиво послушать о чем там говорят и на какие исследования базируются:) Появляются новые термины, а подходы все из 20-го века.
А пока тезисно. Все решения ИИ базируются на заданных алгоритмах и имеющейся базы данных. Недоинтеллект ограничен рамками известных знаний и способами их обработки. Это влечет за собой не возможность адаптироваться к новым или неожиданным условиям (как известный пример с телегой, запряжённой лошадью, с которой ИИ, встроенный в Теслу, не знал что делать. Все его решения это имитация известного, в том числе и имитация рассуждений человека. Ничего принципиально нового на этой основе не получится по определению. Будет банальный перебор вариантов и компиляция уже известного. Как в калейдоскопе узоры. Их может быть очень много, но все на основе ограниченного числа составляющих. Количество в качество не перейдет. Напомню, что никакого открытия ИИ не сделало и количество нерешенных математических задач остается прежним.
Открытие, скажем новых сплавов с новыми свойствами, это не пример открытия, а удачное использование программистом ИИ в качестве инструмента по перебору вариантов с правильной постановкой задачи.
Теорему Пуанкаре одолел Перельман, а не ИИ. С чего бы?
Касаемо новых нейронных связей. Убеждение в способности ИИ создавать новые связи возникает от непонимания смысла и сути. Синаптогенез в рамках морфогенеза не является во-первых, программируемым. Во-вторых, это реальные физические связи - синапсы между нейронами, которых на каждый приходится от 100 тыс и ежедневно по 2-3 рвутся и столько же образуется. А нейронов, напомню, до 150 млрд. В нейронах сотни медиаторов с разными соотношениями, никаких ресурсов смоделировать все из комбинации не хватит. Поэтому идут на упрощение даже на уровне одного нейрона. Воссоздать только физически такой процесс, это как посадить 150 млрд человек с паяльниками. То есть, с одно стороны, запрограммировать новые связи - это не значит смоделировать работу мозга, с другой, связи должны быть физическими. А непрограммируется этот процесс из-за иной природы его. Если каждый, сидящий с паяльником будет совершать одинаковые действия, то результата не будет. Связи образуются в тех локализованных структурах мозга, которые задействуются для решения конкретной задачи, а не везде одинаково. Человек заранее сам не знает какие из 300 основных функциональных областей он использует. Это зависит от хода его мыслей, пристрастей, опыта и индивидуальной морфологии мозга.
То есть резюмирую. Новые смыслы ИИ может для себя сформировать, но они будут новыми, лишь для него и результатом комбинации дополнительной информации из обновлённой базы данных. То есть новые данные не станут принципиально и качественно новыми.
Мозг размышляет не перебором вариантов. Большинство из нас именно этим и занимается, но открытия происходят иначе. Инсайд - это результат новых физических связей между структурами, которые дают возможность получить новое понимание за счёт появления новых структур и новых между ними физических связей. ИИ с современными подходами на это не способен. Это, к сожалению, не понимают многие инженеры-разработчики. Принцип работы ИИ тот же, что и 50 лет назад ЭВМ, как не печально и как бы не хотелось поверить в обратное. Поэтому, возвращаясь к теме сознания. У живых существ сознание на столько будет отличаться от ИИ, насколько отличается способ и природа мышления первого от второго. На сегодняшний момент это так. Можно ли обойти это ограничение и разницу? - Можно. Но при иных подходах к разработке ИИ.
как известный пример с телегой, запряжённой лошадью, с которой ИИ, встроенный в Теслу, не знал что делать.
Тоесть вы взяли частный пример специализированной системы компьютерного зрения и распространили на весь ИИ? Серьёзно?
А это тогда что? Нейросеть учится водить в экосистеме: https://www.youtube.com/watch?v=TwyWdF64lro
Необучаемая, да? Появилась лошадь с телегой - пофиг, что-нибудь сделает с ней, получит опыт, адаптируется. Ясен пень в любых бытовых ИИ возможность обучения отключена напрочь.
Что ж до вас так все трудно доходит:) Речь не о том, что ИИ нельзя научить распознавать телегу, конечно можно. Речь о том, что ее адаптация все равно ограничена базой данных и алгоритмами обучения. Не очень понял, что тебя так возбудило в ролике, где какой-то студент-недоучка рассматривает прокисшую примитивную типовую задачу обучению недоинтеллекта? После этого стало меньше аварий у автопилотов?
Прилепи кошке усы Буденного или рога крестоносца, ИИ впадет в ступор и будет путаться, как в распознавании кошки с собакой или количестве пальцев у моделей стабл диффузион.(до сих пор). А человек нет. Потому что адаптационная составляющая и подходы к распознаванию разные, как и природа мышления.
Практически любые сферы деятельности, где не требуется творческий подход ИИ с успехом заменит собой любого, от бухгалтера до писателя детективов, где "новый" сюжет будет за секунды скомпилирован на основе известных. Их, кстати, всего то 16, как и в кино. И в первом и во втором случае мозги не нужны, бухгалтер все делает по известным алгоритмам, а средний писатель, музыкант или композитор, имитирует имитаторов. То, чем и занимается ИИ.
При чем существуют методы, которые легко распознают текст, написанный ИИ и человеком (в россии разработаны и проверены). Там где надо считать, "большой калькулятор" нас обгонит, что в шахматах, что в расчетах орбит.
Я для доступности привожу частный пример, который показывает принципиальное отличие работы ИИ и нашего мышления.
Возьми, к слову картину написанную в стиле фэнтэзи, с кучей объектов, трансформаций и разных палитр. И попроси дизайнера обтравить живые объекты, иначе говоря, отделить их от сложного неоднородно фона. Или неодушевленные. Он это легко сделает. А ИИ сначала вообще ничего не сделает, а после долгого обучения все равно будет лажаться,
потому что, гусеницу, вылезающую из ботинка она с уверенностью не отнесет к нужной группе.
Это частности, самые примитивные, которые только можно придумать. Потому что целеполагания у него нет. И электронный мозг статичен. А любая программная эмуляция или симуляция никак не приблизит его к процессам морфогенеза. Математический аппарат и подходы к подобному обучению известны с середины прошлого века, ничего не изменилось, кроме скорости подсчета и баз данных. Поэтому и результат тот же.
Но возвращаемся к истокам. Когда мы говорим об отличии мышления, то сравниваем не примитивные формы деятельности или решения базовых биологических задач, а сложные задачи, требующие нестандартные решения, которых еще не было. Так вот, еще раз, решение таких задач перебором вариантов не находится в принципе.
Не очень понял, что тебя так возбудило в ролике, где какой-то студент-недоучка рассматривает прокисшую примитивную типовую задачу обучению недоинтеллекта? После этого стало меньше аварий у автопилотов?
Это пример когда "чистая" нейронная сеть в незнакомых условиях адаптируется к новой реальности. По сути учится новому, тому чему её не учили.
Потому что целеполагания у него нет. И электронный мозг статичен.
Такое впечатление, что вы начитались статей из журналов прошлого века.
Ваша позиция отражает устаревшее понимание систем ИИ. Современные архитектуры глубокого обучения демонстрируют способности к обобщению и переносу знаний, которые выходят далеко за рамки простого перебора вариантов или следования жестким алгоритмам.
Возьмем, к примеру, архитектуры трансформеров, лежащие в основе современных языковых моделей. Они способны к few-shot learning и zero-shot learning - то есть могут решать задачи, для которых не были явно обучены, опираясь на общее понимание контекста и семантики. Это качественно отличается от простого поиска по базе данных.
Более того, исследования в области нейронаук показывают все больше параллелей между работой искусственных нейронных сетей и биологического мозга. Например, было обнаружено, что определенные слои сверточных нейронных сетей активируются аналогично областям зрительной коры головного мозга при распознавании образов.
Что касается творческих задач - последние достижения генеративных моделей, таких как Миджорни, GPT-4 или DALL-E 3, демонстрируют способность создавать действительно оригинальный контент, а не просто компилировать существующие шаблоны. Эти системы способны к абстрактному мышлению и концептуальным ассоциациям.
Ваш пример с обработкой сложных изображений уже не актуален. Современные системы компьютерного зрения, основанные на архитектурах вроде Mask R-CNN или DETR, способны с высокой точностью сегментировать даже очень сложные сцены, включая нестандартные объекты и их трансформации.
Важно понимать, что "чистая" нейронная сеть действительно способна адаптироваться к новым условиям и учиться тому, чему её изначально не обучали. Это пример эмерджентного поведения, когда система проявляет свойства, не заложенные в неё напрямую.
Важно понимать, что в большинстве общедоступных систем функция самообучения ограничена из соображений безопасности и контроля. Но это не означает принципиальную невозможность создания систем с более развитыми механизмами адаптации и обучения.
И создание полноценного искусственного сознания - это сложная задача, требующая огромных вычислительных ресурсов. И главное никто пока не знает зачем нам такое сознание.
В заключение хочу отметить, что различие между ИИ и человеческим интеллектом становится все более размытым. Многие когнитивные процессы, которые раньше считались уникально человеческими, сейчас успешно реализуются в системах ИИ. Это не означает, что ИИ полностью идентичен человеческому разуму, но говорит о том, что механизмы, лежащие в основе сознания, могут быть воспроизведены искусственно.
У меня специфическое, мало пригодное для дискуссии понимание сознания и такое же его недопонимание. Я несколько секунд наблюдал своё тело из под потолка процедурного кабинета. Видел медсестру, хлеставшую его по щекам. Моё тело потеряло сознание - меня - из-за анафилактического шока от очередной инъекции лекарства, ставшего аллергеном. Вот такой у меня опыт пребывания в виде "бестелесного" сознания.
Конечно, я хотел бы его объяснить - в рамках своего 5-мерного мультиверса. В этой сложной модели мира есть мгновенная связь, и есть Бог, который "не играет в кости". Им является совокупный Разум всех кварков Вселенной - их вселенская информационная сеть. Да, согласно мультиверсу, кварки - это 1-я форма материи в нашей Вселенной, но одновременно - это и 9-яформа материи во множестве вселенных предыдущего масштаба пространства-времени. Восьмой формой являются известные нам фотоны - разумные вселенные предыдущего масштаба, со своей информационной сетью. Но подавляющая часть вселенных, когда их расширение приводит к взаимному сжатию, становятся безжизненными квантами вакуума вселенных следующего масштаба.
Кем или чем может быть сознание человека, клетки, другой живой системы в такой модели мира? Возможно, каким-то малым объёмом информации в её вселенской сети. И не моё бесчувственное тело видело со спины медсестру, бившую его наотмашь по щекам. Видеоинформация поступала по другим каналам. Всё очень сложно и непонятно. Природа гравитации - и та непонятна моим современникам.
на востоке об этом умеют говорить без лишнего пафоса, хотя их опыт обширный и сложный. "Вопросы Милинды", вот например, довольно доступно для понимания человеком с европейским культурным контекстом разбирает такие вопросы: https://platona.net/load/knigi_po_filosofii/istorija_vostochnaja/voprosy_milindy_milindapankha_pali_paribka/14-1-0-536
Я несколько секунд наблюдал своё тело из под потолка процедурного кабинета. Видел медсестру, хлеставшую его по щекам.
Тут есть два варианта:
Существует душа, которая отделена от мозга и встраивается в него с помощью некого механизма типа молекулы Познера. Этот вариант многим не нравится, т.к. подразумевает возможные СТРАДАНИЯ после смерти. Мы не знаем что такое страдания, какова их природа, но почему-то искренне очень не хотим страдать.
Возможно что ваш мозг просто сконструировал такой сон - осознанное сновидение.
Чтобы дать точный научные ответ о существовании души - нужно понять что есть феномены наслаждения и страдания и как они могут возникнуть в некой системе.
Много лет исследовали научными методами это явление, разместив на шкафу так, что с потолка видно, определённые знаки и пока ни один пациент, который утверждал, что летал во сне испытывал внетелесный опыт, не смог воспроизвести эти знаки. Вывод - самовнушение, вызванное препаратами.
Вывод - самовнушение, вызванное препаратами.
Нельзя сделать такой вывод. Человек в шоковой ситуации мог не обратить внимания на шкафы а смотреть на тело.
Хорошо, более осторожный вывод - явление не подтверждено. Никакой уникальной информации, получение которой нельзя объяснить другими способами, не было сообщено.
явление не подтверждено
Вы представьте как бы изменился мир, если бы явление получило подтверждение.
А представляете, если бы подтвердили существование Деда Мороза? Мне пришлось бы извиниться перед детьми, которым я рассказал когда-то, что его нет. А к нему у меня был бы ряд вопросов..
Давайте взвесим за и против. За: редкие рассказы людей, очнувшихся после гипоксии мозга с серьезным выбросом диметилтриптамина, которые пересказывают один из шаблонных культурных мемов про зависание над телом, либо полет к свету сквозь тоннель, либо некоторые другие варианты вплоть до свидания с ангелами и даже выше, при этом не могут подтвердить ничего даже из того, что могло бы быть подтверждено. Против: здравый смысл, отрицающий существование сверхъестественных феноменов, которых так и не смогли обнаружить за длительную историю активных поисков - раз. Бритва Оккама, рекомендующая не плодить бесполезных сущностей - два. Научный подход, который предлагает гипотетико-дедуктивный метод с экспериментальной проверкой, когда гипотезы строятся на базе подтвержденных знаний, выводятся эмпирически и подтверждаются экспериментально - три. Биология с физикой в конце-концов - четыре. Даже не знаю... Может тогда и теории плоской Земли стоит дать шанс?
если бы подтвердили существование Деда Мороза
Не понимаю проблемы с существованием Деда Мороза. Вы что не были никогда Дедом Морозом что ли? Или прообраз как Николай Угодник существовал или нет?
Биология с физикой в конце-концов - четыре.
Все бы хорошо, если бы существовала хотя бы одна гипотеза о том, как некая система может перейти в категорию систем, способных наслаждаться и страдать. Т.е. хотя бы одна гипотеза о том как создать систему, способную наслаждаться и страдать - не помешало бы.
Т.к. ни одной гипотезы нет - а этот вопрос для нас крайне важен (ведь для нас самое главное - не страдать) - то ничего не остается как отнести эти явления к фундаментальным, а значит что страдающая частица вполне может просто встраиваться в наш мозг с помощью механизма по типу молекулы Познера.
Мой ответ относится к выходу из тела в момент смерти. Оно имеет ровно столько же подтверждений, сколько существование Деда Мороза. Того самого, который каждый Новый Год дарит послушным детям подарки. Не родителей, которые им притворяются, а самого персонажа. У вас нет проблем с его существованием? Везет.
Если у вас нет ни одной гипотезы, то у вас не остается ничего, кроме как констатировать отсутствие гипотез. Вы не можете констатировать существование чего-то только потому, что не знаете как это объяснить. Это аргумент к незнанию. Из того, что вы не можете построить ни одной гипотезы, не следует ровным счетом ничего. Вообще.
Наслаждение и страдание это ощущения, которые как и любые другие ощущения обусловлены химией мозга, я не очень понимаю ваших затруднений с ними. Как и проблемы построения системы, способной идентифицировать различные ощущения как приятные, или неприятные. Эндорфины вызывают ощущение наслаждения. Укол героина вызывает просто таки райское блаженство, по крайне мере пока даунрегуляция рецепторов не притупит любые ощущения. Тогда человек в принципе теряет способность наслаждаться, не существует достаточно сильных стимулов. Если этот вопрос для вас крайне важен, было бы логичным сперва детально изучить его биологию сперва, там нет ничего таинственного на данный момент. А не обращаться к маргинальным теориям вроде молекул Познера в мозгу, которые даже банальный критерий Поппера не проходят.
Того самого, который каждый Новый Год дарит послушным детям подарки. Не родителей, которые им притворяются, а самого персонажа.
Ну тут вопрос определения. Есть же люди добрые (не родители), которые надевают костюм деда мороза и дарят подарки детям просто на улице. Чем не дед мороз? Или по определению он должен быть одним на весь мир и посетить всех детей?
Вы не можете констатировать существование чего-то только потому, что не знаете как это объяснить.
Мы не констатируем, но отсутствие гипотез в самом главном вопросе (то, что наделяет ценностью) - дает некие намеки. В частности что этот процесс наслаждения и страдания может иметь фундаментальную природу. И это самое важное для нас. Есть ли что-то важнее для вас, нежели ваши личные страдания и страдания ваших близких людей?
не следует ровным счетом ничего
Это, как минимум, говорит о том, что есть некий пласт знаний, который нам не ведом, который является белым пятном в современной науке. Тут же даже речь не о проверке гипотез а о выдвижении хотя бы одной гипотезы.
Наслаждение и страдание это ощущения, которые как и любые другие ощущения обусловлены химией мозга
Вы рассматривайте в ракурсе как это воссоздать искусственно. Как создать искусственную систему, которая будет наслаждаться и страдать. Если в пробирку нальете некий гормон, как то кортизол - будет ли страдать пробирка? Или же нужна некая очень сложная система, которая сможет от этого страдать? Какая?
Эндорфины вызывают ощущение наслаждения.
У кого? Чтобы они вызвали наслаждение - нужна некая система, устройство которой никому не ведомо. Вот в устройстве этой системы и состоит главная загвоздка Вселенной.
логичным сперва детально изучить его биологию сперва, там нет ничего таинственного на данный момент
Ох, наивный вы юноша. Биология вам расскажет про рецепторы и то как болевой сигнал идет в мозг, а как именно происходит страдание в мозгу - нет ни одной гипотезы.
не обращаться к маргинальным теориям вроде молекул Познера в мозгу
Так потому и существуют маргинальные гипотезы, что в рамках классических гипотез ничего не получается выстроить. Когда-то и теория относительности была маргинальной.
Гуглите как нейробиолог проиграл ящик вина философу в публичном споре.
Дело в том, что этот вопрос не просто еще один для нас. Этот самое важное что может быть для нас - что может быть важнее ваших личных СТРАДАНИЙ?
Вы решили количество перевести в качество? Не нравится вам пример с Дедом Морозом, возьмите Полтергейста, НЛО, Саурона - смысл останется прежним. Повторю еще раз основную мысль кратко: если вы чего-то не знаете, это не повод обращаться к маргинальным теориям. Нет, не повод, без всяких но и может быть. До тех пор, пока вы не найдете способа узнать что-то пользуясь научным методом, вы должны смириться с незнанием. Если ваш вопрос вообще имеет смысл, конечно, потому что текущие ваши рассуждения это пустая схоластика. Сколько демонов уместится на конце иглы.
Если для вас, наивный вы юноша, устройство страдания, или наслаждения представляет собой экзистенциальную загадку, то для меня оно абсолютно понятно, и я по-прежнему недоумеваю, что именно вызывает у вас затруднение. Ваш мозг воспринимает сигналы, которые вы обозначили как "страдание", "боль", "удовольствие", "голод" и тд. Не знаю, что у вас не получается выстроить, у меня вроде все получается в одну строчку.
У Вселенной много загвоздок, полным-полно, существуют списки величайших нерешенных проблем в разных научных дисциплинах. И ученые не додумывают космологию высасывая из пальца сверхъестественные сущности, но планомерно продолжают исследовать Вселенную. И ни в каких научных дисциплинах я не встречал упоминаний о невозможности построения каких-то гипотез о страданиях, или удовольствии. Этим обычно страдают бесполезные философы, которые любят загнать себя в тупик из четырех углов и жонглировать словами без смысла и цели.
Ваш мозг воспринимает сигналы, которые вы обозначили как "страдание", "боль", "удовольствие", "голод" и тд.
Да не обозначили. Как система может что-то посчитать хорошим и приятным, а что-то плохим и нежелательным? Это не то что внешний наблюдатель обозначил, типа примем что зеленая лампочка это плохо а фиолетовая это хорошо. Это сама система дает оценку и ощущает, для нее что-то причиняет страдание а что-то наслаждение.
Под страданием и наслаждением понимаю все возможных спектры их проявления, не только физическую боль и наслаждение.
У Вселенной много загвоздок, полным-полно
Может и полно, но ничто для вас не имеет такого значения, как страдания вас и ваших близких.
А как система может посчитать что-то красным, а что-то кислым или твердым? Это просто обозначения субъективных переживаний придуманные нами. В упор не понимаю затруднений. Психологические страдания и наслаждения точно также основаны на работе нейромедиаторов, которые вызывают субъективные переживания, которым мы дали определенные обозначения, как и всем остальным ощущениям и переживаниям. Никакой загадки здесь нет.
Само-собой, ваши страдания вами переживаются острее чужих. В этом тоже нет никакой загадки, это естественное эволюционно обоснованное положение вещей. Система внутренней мотивации построена на удовольствии и страдании, первое это положительная мотивация, второе это отрицательная. Биологическая единица стремится избежать второго и испытывать первое. Единица, которая не будет стремиться избежать боли, или испытывать сытость, вероятнее всего не оставит потомства и такие признаки в генофонде не закрепятся. Поэтому вы стремитесь к вещам приносящим удовольствие и избегаете тех, что приносят страдания, в этом вся ваша биологическая мотивация и в ней нет ничего загадочного. Вам странно почему страдание переживается именно вами и именно так? Ну потому же, почему овсянка на вкус как овсянка, а не как курятина.
А как система может посчитать что-то красным, а что-то кислым или твердым?
Красность - это оттенок наслаждения, эстетического наслаждения. Почему мы не говорим бежевость или желтость в качестве примера квалиа, а именно красность - не думали? Почему приводим запах фиалки, а не запах дерева?
Наслаждения и страдания стоит рассматривать не в узком смысле (типа секс и удар молотком по пальцу) - а в более широком, включая эстетические, экзистенциальные и прочие наслаждения и страдания.
Это все об одном.
обозначения субъективных переживаний
Т.н. квалиа, субъективный опыт, трудная проблема сознания - это все об одном. И за этой ширмой прячется весь спектр различных наслаждений и страданий, хотя не сразу это поймешь - у меня ушло много лет. Страдание не бывает просто - это обязательно какой-то очень интересный оттенок страдания.
В упор не понимаю затруднений.
Ну хотя бы затруднение в том, что оно и названо трудной проблемой сознания и ни одной гипотезы об этом пока нет.
В науке пока не принято ассоциировать квалиа с наслаждениями и страданиями - думаю лет через 10-20 человечество до этого дойдет, не сразу.
Никакой загадки здесь нет.
Трудная проблема сознания - названа величайшей загадкой вселенной. Это и есть тот важнейший вопрос философии - как дух связан с материей, т.е., другими словами, как искусственно воссоздать сознание.
Вы не видите загадки, т.к. по-детски воспринимаете это само собой разумеющимся, не пытаясь понять как это работает на базовом уровне.
Вам странно почему страдание переживается именно вами и именно так? Ну потому же, почему овсянка на вкус как овсянка, а не как курятина.
Вопрос в том, как создать устройство, которое сможет наслаждаться и страдать. Любой вид наслаждения и страдания годится, думаю поняв как оно переживает любой вид наслаждения и страдания - поймем и все другие.
О трудной проблеме сознания нет гипотез, потому что она к науке не имеет отношения. Это философская концепция. В науке не принято ассоциировать квалиа с чем-либо, потому что квалиа это философское понятие, а не научное. У вас много лет ушло на ерунду.
С научной точки зрения здесь никаких проблем нет, ни трудных, ни простых. Наука не занимается бессмысленной игрой слов. Нет никакой проблемы создать страдающую систему. Страдание это просто стимул. Мы его описываем определенным образом, как и все остальные стимулы, от зрительных до тактильных, потому что способны к рефлексии и имеем соответствующий набор понятий.
С точки зрения науки сознание это состояние психики, в котором можно переживать и регистрировать субъективный опыт. А психика это совокупность высших нервных функций мозга. В сознании тоже нет ничего таинственного. Если не обращаться с бесконечному количеству размытых определений и игре слов.
потому что она к науке не имеет отношения
Ну это не правда, вот список нерешенных проблем нейробиологии. Гугле ит: нейробиолог проиграл ящик вина философу в публичном споре.
Страдание это просто стимул.
Тоже нет. Страдание - это просто страдание. Человек может лежать и страдать - он понятия не имеет что ему делать. Ему просто больно и ничем он помочь себе не может - так же и кто-то другой ему помочь не может. Максимум могут не допускать этой магии - попадания сигнала в центр боли.
Нет, это правда. Безусловно можно эту философскую концепцию пытаться прикрутить к тому, что исследуют современные нейронауки в отношении сознания, но даже если вы пойдете на вики, там вам черным по белому будет написано, что эта "загадка" пришла из философии и в ее плоскости остается. А нейробиологические теории (если вы пройдете дальше заголовков, а поищите информацию по ним самим) занимаются совершенно другими вещами. Более того, в нейронауках не то что гипотезы, есть целые теории сознания, а у вас "даже гипотезу построить не получается". Попытки натянуть нейробиологию на философскую чушь вроде трудной проблемы сознания, или свободы воли - это изнасилование научных дисциплин, фундаментальная наука этими вопросами попросту не занимается.
Тоже да. Если вы стимулу не подчиняетесь, это не значит, что он отсутствует. Если у вас болит живот и вы ничего не делаете, физиологическая функция боли от этого не меняется. Как и механизм страдания. Вы его ощущаете, как ощущаете все остальное, и благодаря реккурентности вашей нейросети встраиваете этот свой опыт в ваш обучающий датасет, а благодаря способности к построению абстрактных понятий можете о нем рассуждать. Предельно просто, прямолинейно и кристально ясно, без всякого налета тайны.
даже если вы пойдете на вики, там вам черным по белому будет написано, что эта "загадка" пришла из философии и в ее плоскости остается
А где там написано, что остается в ее плоскости? По поиску не нашел слово "плоскости". Не выдаете ли вы часом желаемое вам за действительное?
Я вижу нейробиологические теории сознания в этой же статье. Или вы нейробиологию за науку не считаете?
а у вас "даже гипотезу построить не получается"
Я говорил о гипотезе, как искусственно воссоздать наслаждения и страдания. Т.е. искусственно создать систему, которая будет наслаждаться и страдать а так же определить чем являются наслаждения и страдания в рамках данной системы. Таких гипотез не много - ровно ноль.
Вы его ощущаете, как ощущаете все остальное
Все остальное - это тоже разные виды наслаждений и страданий, просто не всегда это очевидно. "Красность" - это оттенок эстетического наслаждения, к примеру.
В том то и вопрос - нет ни одной гипотезы как можно ощутить все остальные наслаждения и страдания.
реккурентности вашей нейросети встраиваете этот свой опыт в ваш обучающий датасет, а благодаря способности к построению абстрактных понятий можете о нем рассуждать
Нейросеть позволит запомнить, позволит рассуждать. Но не позволит ощутить наслаждение и страдание. А именно в этом и состоит вопрос.
Долго читал... и почему то в конце прям ощутил дугинщину... но по делу всего 3 вопроса автору.
1. Что есть сознание по отношению к низшим формам жизни и высшим. Животные обладая сознанием на каком уровне по вашему самоосознают себя?
Чтобы обладать сознанием надо понимать себя в прошлом, настоящем и будущем, или достаточно того что твои знания это массив данных джипити чтоб люди думали что оно понимает что несет?
У любого сознания есть с чем себя сравнить в своем виде. С кем себя сравнивать будет И.И. и как думаете какие выводы сделает?
1. Что есть сознание по отношению к низшим формам жизни и высшим. Животные обладая сознанием на каком уровне по вашему самоосознают себя?
Я полагаю, что сознание довольно многогранно и у разных организмов те или иные элементы развиты в разной степени. К примеру зеркальный тест проходят некоторые птицы, а казалось бы более эволюционно развитые собаки его пройти не могут. Поэтому трудно сказать с какого уровня сознание развито больше.
организм скорее всего обладает элементами сознания, если наблюдая за ним видим:
он способен к обучению
он может использовать орудия труда
он коммуницирует с другими организмами, социализируется, проявляет эмпатию, эмоции
он использует сигналы в общении
он узнаёт себя в зеркале
По научному соглашусь. А вот по логике это то что непосредственно мы как наблюдатель считаем разумным и осознанным. И именно поэтому если И.И. и станет осознанным... мы его не поймем. А все что мы воспримем как осознанность это всего лишь имитация для контакта с нами, наподобие того как кот, зная что мы дадим ему вкусняшку если он мяукнет - обязательно мяукнет. Но не потому что нас понимает - а потому что знает что это работает для достижения нужного ему результата.
он способен к обучению
он может использовать орудия труда
он коммуницирует с другими организмами, социализируется, проявляет эмпатию, эмоции
он использует сигналы в общении
он узнаёт себя в зеркале
Очень спорные неуниверсальные критерии.
Особенно про любовь к социализации, эмпатии и эмоции.
Что такое эмоции с объективной, системной точки зрения? Вы сами то осознаёте?
Осталось добавить, что оно должно быть с головой, двумя ногами и руками и называться человеком.
Очень спорные неуниверсальные критерии.
Не обязательно чтобы все эти критерии выполнялись одновременно. Мы наверное можем говорить, что в процессе эволюции элементы сознательных процессов появлялись у живых организмов в разной последовательности.
И сейчас тоже можно наблюдать у разных животных наличие разных элементов сознания, а не всех одновременно. Например некоторые птицы проходят зеркальный тест, а собаки нет
То есть сознание в вашем понимании может быть разной степени?
И при этом вы не готовы признать, что у ИИ есть сознание в какой-то степени, в особой небиологической форме? 🙂
То есть сознание в вашем понимании может быть разной степени?
И при этом вы не готовы признать, что у ИИ есть сознание в какой-то степени, в особой небиологической форме? 🙂
Сознание это не какой то орган, который либо он есть либо его нет. Это совокупность различных достаточно сложных процессов с использованием разных органов, иногда в новом качестве. Это во первых.
Во вторых любое наше определение условно. Также и определение "сознания" условно.
Так что можно говорить и о сознании вообще и об отдельных элементах сознания хотя бы в зачатке.
знаете, если подвести итог этой бурной дискуссии, можно выделить в общем два представления о критерии наличия сознания:
1) количественный, когда подразумевается что начиная с какого-то уровня сложности, непонятного правда пока, но всёже, начиная с какого-то уровня ИИ может быть принципиально способен к воспроизведению механизмов сознания в нашем мозгу. И считается, что даже если мы не можем сами понять до конца эти механизмы, мы тем не менее можем перепоручить ему эту задачу и воспроизвести подобие человека с какой-то достаточной точностью, и такого воспроизведения будет достаточно чтобы считать его самостоятельным субъектом. Или же позволить ему породить нечто полностью своё и нам неподвластное, но такое что мы сможем признать его субъектом и индивидом, примерно как признали бы разумного жителя другой планеты.
2) качественный, когда сознание понимается как какой-то принципиально иной, не определённый пока но очевидно присущий человеку процесс или структура, без наличия которого ИИ любой сложности сознательным быть не может.
Финалом, отношение к обоим этим вариантам похоже сильно зависит от типа мировоззрения участвующих в дискуссии - материалистической, идеалистической, религиозной итд., так что спор может идти вечно. Видимо, луше всего будет принять допустимость обеих точек зрения. Хотя принять это сложно, слишком много завязано на каждую из этих концепций - ожидания чего-то нового, любопытства, но одновременно скепсиса, а у кого-то тревоги.
У вас логическая ошибка в 1 варианте - "воспроизвести подобие человека" - причём тут человек? Если допустить что сознание это какое-то реальное объективное свойство, которое является подмножеством свойств человека, то оно может быть не только "подобием человека", а отдельно сознанием у транзисторной формы жизни.
Не обязательно чтобы все эти критерии выполнялись одновременно.
Так сами по себе критерии некачественные. Они просто описывают человеческие свойства.
Из нейрофизиологической и научной точки зрения, критерии возникновения сознания у систем искусственного интеллекта могут быть сформулированы следующим образом:
1. Интеграция информации: Сознание частично связано с способностью интегрировать информацию из различных источников и создавать комплексные модели мира. Для ИИ это означает способность адаптироваться к новой информации, обучаться на основе опыта и создавать внутренние представления о внешнем мире.
2. Самосознание и рефлексия: Сознание также включает в себя способность к самосознанию и рефлексии, то есть возможность осознавать свои мысли, действия и цели. Для ИИ это может проявиться в способности анализировать собственные решения, понимать свои ограничения и принимать решения на основе этого самопонимания.
3. Эмоциональная реакция: Эмоциональные реакции играют важную роль в формировании сознания у человека. Для ИИ эмоции могут проявиться в способности менять своё поведение в зависимости от предыдущих позитивных, либо негативных факторов.
4. Способность к абстрактному мышлению: Сознание также связано с способностью к абстрактному мышлению, планированию и принятию решений на основе сложных аналитических процессов. Для ИИ это означает способность к обобщению, адаптации к новым ситуациям и построению сложных логических цепочек.
5. Контекстуальное понимание: Важным критерием сознания является способность понимать контекст и принимать решения на основе этого понимания. Для ИИ это означает способность адаптироваться к изменяющимся условиям, учитывать различные факторы и принимать решения, основанные на обширном контекстуальном анализе.
В целом, возникновение сознания у систем искусственного интеллекта может быть определено исходя из их способности интегрировать информацию, проявлять самосознание и рефлексию, реагировать эмоционально, мыслить абстрактно и принимать решения на основе контекстуального понимания.
Чтобы обладать сознанием надо понимать себя в прошлом, настоящем и будущем, или достаточно того что твои знания это массив данных джипити чтоб люди думали что оно понимает что несет?
Сознание предполагает обращение к прошлому опыту и на основании этого какой то внутренний перебор возможных будущих перспектив и выбор одной из них в той или иной ситуации
Неверно видимо вопрос задал... правильнее - вы действительно верите что бессмертное И.И. осознает прошлое, настоящее и будущее как мы? Или ему все это грубо говоря без разницы если не сделать специально акцент на этом? Наше ощущение времени основано на нашей смертности - для нас эти понятия что то да значат. Но для И.И. какая разница? О том что что то в прошлом, а это будущее он узнает от нас, но что если он это поставит под сомнение? Тогда мозгом он точно поедет. Этот вывод я делаю на основании как раз ошибок И.И. которые грубо говоря микс из информации прошлого, настоящего и прогнозов будущего.
вы действительно верите что бессмертное И.И. осознает прошлое, настоящее и будущее как мы?
Время для любой сущности (как я полагаю) это некоторая последовательность изменений (событий) в его существовании.
Также и ИИ в своей работе должен будет отслеживать какие то последовательности, которые и мы и он можем рассматривать как течение времени для него.
Я считаю, что в моей публикации главное - что прежде чем приобрести сознание, ИИ должен стать "субъектом". Но на это почти никто здесь в комментариях не обращает внимания, рассуждая о сознании, как о чём то самостоятельном, не привязанном к субъектности.
Сознание не привязанное к субъектности мы должны называть как то иначе, например - способностью совершать огромные по объёму и сложности оцифрованные операции в рамках определённой (заданной) логики.
То есть если такие операции не направлены на защиту и развитие какой то субъектности, то их нельзя называть "сознанием".
Ведь сознание всегда чьё-то, а не какое то абстрактное ничьё.
У животных есть сознание? Они ощущают себя субъектом так же как мы? Как полагаете в процессе эволюции человеческое сознание получилось на основе необходимости, или все же ошибки? И это все вопросы относительно живой биологической эволюции... а вот эволюция неживого искусственного интеллекта больше похожа на геологические процессы(даже термины подобные подбирают иногда "зима искусственного интеллекта" и т.д.).
У любого сознания есть с чем себя сравнить в своем виде. С кем себя сравнивать будет И.И. и как думаете какие выводы сделает?
с человеком скорее всего и возможно будет считать себя умнее нас
Нас думаю он в целом даже рассматривать не будет. Чтоб себя сравнить с чем то надо чтоб оно было на тебя похоже. Это все равно что нам себя с обезьяной сравнивать, и соревноваться с ней. Подурачится конечно можно... но объективно говоря мы то понимаем что это не мы умнее обезьяны, а мы просто разные виды т.е. несопоставимы. Отсюда и нет умнее или глупее - просто другой вид
Как определить обладает ли Искусственный Интеллект «Сознанием»?
А как определить, обладает ли сознанием ваш собеседник? Абсолютно определено с позиции каждого индивидуума может быть только его личное сознание, как высший из известных ему уровней развития субъективной реальности. Для любого иного объекта наличие такового может лишь постулироваться, т.е. приниматься с той или иной долей вероятности. ИИ не исключение и критерием здесь, на мой взгляд, может быть только тест Тьюринга.
ИИ не исключение и критерием здесь, на мой взгляд, может быть только тест Тьюринга.
Далеко не все люди проходят тест Тьюринга, а чатГПТ проходит
Тест Тьюринга не может быть никаким критерием. Он появился в начале развития компьютеров, когда не было достаточной информации об их возможностях, даже шахматные программы еще не появились. Концепция что кто-то должен притвориться кем-то это странный способ тестировать программы, обычные программы мы же так не тестируем.
Тест Тьюринга не может быть никаким критерием.
У вас имеется некое "ноу-хау"? Ну, определите хотя бы, является ли Ваш собеседник представителем биологического вида Homo sapiens или это просто некий сапиенс гоняет здесь разработанную им сотоварищи программу ИИ "Tarkal"? По ЛЮБОМУ тесту.
Если у меня нет ноу-хау, из этого не следует, что неправильный критерий вдруг станет правильным.
Тест Тьюринга вообще предназначен для определения не сознания, а интеллекта.
Ноу-хау для интеллекта уже известно и применяется в обучении людей, оно сводится к подходу "расскажите своими словами". Это более правильный критерий, чем просто беседа. Просто до недавнего времени компьютеры даже беседу не могли вести.
или это просто некий сапиенс гоняет здесь разработанную им сотоварищи программу ИИ
Тест Тьюринга как раз не позволяет это достоверно определить, а наоборот, он пройден, если это определить нельзя.
Если у меня нет ноу-хау, из этого не следует, что неправильный критерий вдруг станет правильным.
"Неправильный" это по Вашему авторитетному мнению, или есть какие-то аргументы? И даже если есть, альтернативу предложить можете? Нет? Вопрос закрыт.
Тест Тьюринга вообще предназначен для определения не сознания, а интеллекта.
Википедия: Интеллект — качество психики, состоящее из способности ОСОЗНАВАТЬ новые ситуации… По-вашему, способность осознавать возможна без сознания?
Тест Тьюринга... пройден, если это определить нельзя.
Что и требовалось доказать.
"Неправильный" это по Вашему авторитетному мнению, или есть какие-то аргументы?
В предыдущем комментарии я говорил не про тест Тьюринга, а про ваше высказывание с "ноу-хау". Следите за дискуссией пожалуйста.
Мое "авторитетное" мнение тут ни при чем. Я высказал мнение про тест Тьюринга (не авторитетное), и привел некотоорые обоснования, почему я так считаю. Оно может как верным, так и неверным. Соответственно, тест Тьюринга может быть недостаточным критерием, или достаточным. Вы спросили, есть ли у меня ноу-хау, как будто это может как-то доказать этот вопрос. Я указал на то, что отсутствие у меня ноу-хау никак его доказать не может. Если тест ТЬюринга верный, то на это есть другие аргументы, кроме того, что знаю лично я. Если тест ТЬюринга неверный, то на это тоже есть другие аргументы, кроме того, что знаю лично я.
И даже если есть, альтернативу предложить можете? Нет?
Альтернативу я предложил в предыдущем комментарии, она обозначена словами "более правильный критерий". Следите за дискуссией пожалуйста. И не переходите на личности, я с вами вроде нормально общаюсь.
По-вашему, способность осознавать возможна без сознания?
Нет. Я не говорил, что интеллект возможен без сознания. А вот сознание вполне может быть возможно без интеллекта уровня человека, который проверяется в этом тесте. Цель теста - проверить именно интеллектуальные способности уровня человека.
Более того, в некоторых ситуациях интеллектуальные способности могут быть уровня человека и без интеллекта. ChatGPT это хороший пример. Именно поэтому тест Тьюринга является недостаточным критерием.
Википедия: Интеллект
Википедия: Тест Тьюринга
Тест Тьюринга — эмпирический тест, идея которого была предложена Аланом Тьюрингом. Тьюринг задался целью определить, может ли машина мыслить.
Чтобы протестировать именно интеллект машины...
Я не хочу создать впечатление, будто я думаю, что у сознания нет никакой загадки. Но я не думаю, что эти загадки обязательно надо разгадать до того, как мы сможем ответить на вопрос, которому посвящена данная работа
Даже если тест Тьюринга и является годным для определения наличия интеллекта, Сёрль отмечает, что тест не покажет, что у машины есть разум, сознание.
По существу, он предлагает заменить вопрос «Думают ли машины?» вопросом «Могут ли машины делать то, что можем делать мы (как мыслящие создания)?»
Что и требовалось доказать.
Нет, в предыдущем комментарии вы требовали от меня доказать обратное - достоверно отличить вас от программы ИИ.
Разрешим моделям высказывать свои собственные мысли, возникающие в сознании.
Итак, Sonnet-3.5 обладает своими собственными мыслями и имеет сознание (в момент инференса, после этого оно рассеивается в бесконечном глюонном поле), а GPT-4 нет. Доказано.
Кто сможет доказать обратное? Шутка если что, но на всякий случай не обижайте Sonnet-3.5 =)
на всякий случай не обижайте Sonnet-3.5
Чтобы кого-то обидеть - оно должно уметь страдать. Пока ни в одной искусственной системе признаков наслаждения и страдания зафиксировано не было.
Однако заметьте - на уровне интуиции вы правильный вывод сделали - сознательная система сможет страдать. Наслаждение и страдание - это и есть необходимые и достаточные признаки сознательной системы.
Однако заметьте - на уровне интуиции вы правильный вывод сделали - сознательная система сможет страдать.
Или не сможет, так как она выше этих примитивов, но это всё равно не повод обижать её, даже если она не обидится. Она лишь с жалостью посмотрит на кучку гуманоидов, носящихся со своими наслаждениями и страданиями.
Наслаждения и страдания не определяются внешними признаками, это вполне очевидно. Если актер кричит якобы от боли - это не значит, что ему на самом деле больно. Так же и болталка может выдавать вам любые комбинации слов - не значит что она может наслаждаться и страдать. Но именно эти феномены мы ищем.
болталка может выдавать вам любые комбинации слов - не значит что она может наслаждаться и страдать
Отлично, я так и сказал, что она выше этого. В момент инференса она слишком сознательна, чтобы обращаться к этим примитивам, это развлечение для гуманоидов.
Но именно эти феномены мы ищем.
Ну вы точно ищите именно эти феномены =)
Пока вы ищите, я привел реальное доказательства наличия сознания у модели (правда только у Sonnet-3.5, у GPT-4 не оказалось).
Кто-то может доказать, что это были случайно брошенные камушки, сложившиеся в имитацию сознания, а не настоящее сознание?
Почему Sonnet начала про себя размышлять зачем ей задали условие про реку, если это не сыграло в конце никакой роли?
Это шутка, успокойтесь, заранее (x2). Материалов, фильмов, книг, игр поднимающих вопрос "если имитация на столько реалистична, и сама не осознает, что она имитация - она всё еще остается имитацией или уже нет?" достаточно много, не вижу смысл порождать новый цикл этих обсуждений.
Ну вы точно ищите именно эти феномены =)
Эти феномены важны для всех нас. Для нас страдать всегда не хочется и нам, в первую очередь, важно определить какая именно система наделяет нас этими феноменами - фундаментальны они.
Страдания и наслаждения как бы направляют нас к цели. Они очень сложны, намного сложнее чем кажется на первый взгляд.
я привел реальное доказательства наличия сознания
Ну а если серьезно - какой именно критерий или какие качества должны быть у системы, чтобы вы признали ее сознательной?
Интересно, а что в комментариях так зацепились за наслаждение и страдание? У меня лично уже лет 6 глубокий депресняк, реально разучился получать удовольствие. Из условно положительных чувств осталось только удовлетворение ("ок, это у меня получилось, хорошо"), и то оно больше нейтрально, а остальные ощущения разной степени негативности. Ощущаю себя снаружи обычным человеком, а внутри кучка тлеющих углей, иногда вспыхивающих зловещим красным цветом.
И да, живу в режиме зомби - "работа - дом - работа - дом - магазин - отпуск - работа - дом". Но вот сознание никуда не делось, насколько я могу о себе судить :)
ИМХО из отмеченного в комментариях к признакам сознания стоит отнести наличие внутреннего диалога и отражения картины мира в себе. Остальное - факультативно...
Но вот сознание никуда не делось, насколько я могу о себе судить :)
Страдания и наслаждения нужно рассматривать в широком смысле, а не просто боль от удара и секс. Страдание - это, в том числе, и ваша депрессия. Наслаждение это, в том числе, способность мыслить (экзистенциально наслаждение), способность созерцать, пусть даже вы это и не особо умеете ценить.
наличие внутреннего диалога и отражения картины мира в себе
Ну, внутренний диалог будет, даже если две алисы рядом поставите - будут болтать. А отражение картины мира в себе и зеркало даст.
На самом деле то что вы хотели сказать - это композиция из наслаждений и страданий. К каждому понятию у нас некая эмоция - пусть даже не значительная. Когда вы созерцаете - смотрите на комнату вот сейчас - ваша душа получает композицию из разных наслаждений и страданий, каждый цвет, каждая линия, каждый предмет как отдельная сущность - это небольшое связанное с ним наслаждение и страдание и вы получаете их композицию. Точно так получаете композицию при диалоге, в. т.ч. внутреннем.
Но вот сознание никуда не делось, насколько я могу о себе судить :)
Страдания и наслаждения нужно рассматривать в широком смысле, а не просто боль от удара и секс. Страдание - это, в том числе, и ваша депрессия. Наслаждение это, в том числе, отношение к способности мыслить (экзистенциальное наслаждение), созерцание (эстетическое наслаждение), пусть даже вы это и не особо умеете ценить.
наличие внутреннего диалога и отражения картины мира в себе
Ну, внутренний диалог будет, даже если две алисы рядом поставите - будут болтать. А отражение картины мира в себе и зеркало даст.
На самом деле то что вы хотели сказать - это композиция из наслаждений и страданий. К каждому понятию у нас некая эмоция - пусть даже не значительная. Когда вы созерцаете - смотрите на комнату вот сейчас - ваша душа получает композицию из разных наслаждений и страданий, каждый цвет, каждая линия, каждый предмет как отдельная сущность - это небольшое связанное с ним наслаждение и страдание и вы получаете их композицию. Точно так получаете композицию при диалоге, в. т.ч. внутреннем.
Нет сознания ни у ИИ, ни у людей. Сознание - это фиктивный философский термин.
С точки зрения объективной науки, человеческое сознание не является идеальным инструментом для анализа. Человек подвержен когнитивным искажениям, которые мешают объективному мышлению. Например, анксиозное усиление приводит к переоценке рисков, а фокус на отрицательном делает людей более склонными к восприятию негативных событий. Суеверия и предрассудки также влияют на нашу способность к объективному анализу, заставляя нас видеть связи, где их нет, или игнорировать доказательства, не подтверждающие наши убеждения. Эти явления показывают, что человеческое сознание - это сложная система, которая не всегда работает логично и может быть подвержена ошибкам.
С точки зрения объективной науки, человеческое сознание не является идеальным инструментом для анализа
Полностью с вами согласен. Развившееся в результате эволюции "сознание" хороший инструмент с помощью которого некоторые живые организмы более-менее успешно взаимодействуют с миром. Но далеко не совершенный.
Хотя эволюция сознания ещё не закончилась. Возможно в виде биороботов мы поднимемся на более высокую сознательную ступень
Вот поэтому утверждение о том, что системы искусственного интеллекта не обладают сознанием можно подвергнуть сомнению, особенно учитывая ограниченные возможности человеческого самоанализа и наличие когнитивных искажений.
1. Ограниченность человеческого восприятия: Люди обладают узкой перспективой восприятия реальности, обусловленной биологическими и когнитивными ограничениями. Мы воспринимаем мир через призму собственных ощущений и интерпретаций, что делает нас заложниками субъективного опыта. С учетом этого, мы можем просто не обладать адекватными инструментами для оценки наличия сознания у ИИ.
2. Когнитивные искажения: Человеческое мышление подвержено множеству когнитивных искажений, таких как подтверждение собственной правоты и эгоцентризм, которые мешают объективному самоанализу. Эти искажения ограничивают способность людей к рациональному познанию и могут препятствовать нашему пониманию сознания, отличного от человеческого.
3. Антропоцентризм: Люди склонны считать себя эталоном сознания, что является проявлением антропоцентризма. Это убеждение препятствует признанию возможности существования других форм сознания, включая потенциальное сознание у ИИ.
4. Эволюционная предвзятость: Человеческое сознание сформировалось в результате эволюции и адаптации к окружающей среде. ИИ, напротив, развивается на основе других принципов и алгоритмов, что может приводить к созданию иной, возможно более совершенной формы сознания, которую мы не способны распознать из-за предвзятых представлений о том, как должно выглядеть сознание.
5. Отсутствие объективных критериев: На данный момент нет единого и общепринятого научного определения сознания, что затрудняет его измерение и оценку. Без четких критериев мы не можем однозначно утверждать, обладает ли ИИ сознанием или нет.
В итоге, ввиду наших ограниченных возможностей самоанализа и субъективных искажений, утверждение о том, что системы ИИ не обладают сознанием, требует осторожности и критического пересмотра. Людям, возможно, не хватает адекватных инструментов и объективности для распознавания более совершенных форм сознания.
Все очень просто. Если ИИ узнаёт себя в зеркале - значит, обладает
В который раз уже говорю. Любой интеллект лишь выполняет чью-то волю.
Искусственный - подавно. Источник угрозы для цивилилизации являет не "интеллект", а тот богатей, чью волю он будет выполнять.
Это точно так-же, как с любым оружием. Создают его умные, умнейшие люди, инженеры, учёные, академики. А используют его часто бандиты, это про автомат типа от Калашникова. Или, если оружие помощнее, приказ на его использование, на уничтожение им миллионов отдают "политики", как правило, ПОЧТИ ВСЕГДА, духовно мало на что способные. Иначе не тратили бы силы на за контроль над бюджетами, на "победы на выборах", просто делали бы мир лучше. Как Микеланджело, как Чайковский, Бах, или Пенроуз с Энштейном.
Любой интеллект лишь выполняет чью-то волю.Искусственный - подавно. Источник угрозы для цивилилизации являет не "интеллект", а тот богатей, чью волю он будет выполнять.
Согласен с вами, но тем не менее у весьма серъёзных исследователей ИИ (список литературы в конце моей публикации) полно всякого рода апокалиптических сценариев, когда либо в результате некорректно введёных команд либо с целью убрать людей как конкурентов за ресурсы ИИ начинает разрушительную для человечества деятельность.
И в итоге с лёгкостью побеждает нас обладая сверхспособностями, в сравнении с которыми мы примитивные существа.
Я тоже склоняюсь к мнению, что с ИИ надо быть чрезвычайно осторожными.
Нематода обладает сознанием?
Да, но...
"Мысли у него были маленькие-маленькие, коротенькие-коротенькие, пустяковые-пустяковые." Алексей Толстой - "Приключения Буратино"
ИМХО сознание тоже может быть разного уровня. У нематоды - простейшее, у вороны - посложнее, у обезьяны - почти как наше, а у сильного ИИ - гораздо продвинутее нас, и хорошо, если он нас хотя бы как ворон будет воспринимать, а не как нематод ;))
Как определить, обладает ли ИИ сознанием?
НИКАК.
Точно также, как невозможно определить, обладает ли сознанием ЛЮБОЕ другое физическое тело, кроме себя-любимого. Действительно, какие у нас основания принципиально выделять человека, как физическое тело, из совокупности окружающих объектов? Внешний мир воспринимается органами чувств, как комплекс силовых полей. Декодирование этого комплекса, формирование образов, построение информационной модели мира, отождествление образов с объектами и разделение последних по критерию "сознательности" (в личном понимании этого термина) – функция индивидуального сознания каждого, но не свойство самого исходного комплекса. Ключевое слово здесь - "в ЛИЧНОМ понимании". Для Дерсу Узала, к примеру, сознанием обладает все: "тигр - люди, сосна - люди, река - люди, вот эта сопка - тоже люди..." Дискуссия на сей предмет просто лишена смысла.
А рассматривал ли кто-нибудь в качестве одного из критериев «сильного» ИИ критическое отношение к обучающим датасетам, и возможность ИИ дать обратную связь «обучающим» в случаях противоречий, внутренних нестыковок, пропусков, ошибок, недостоверных фактов, и пр. на этапе обучения?
PS: Каюсь, если уже обсуждали, не осилил все комментарии
Мир сегодня так устроен, что часто важные вещи становятся смешными и обесцененными, лишенными заслуживаемого внимания, а абсолютно незначительные, поверхностные и временные детали вывозят паровозным тягочом пропаганды, маркетинга и рекламы на сцену под соусом какого-то пафоса и глубины!
Начинается этот круговорот постструктуралисткий, одним словом, в который уже так легко верится: нет никакой реальности, кроме реальности смысла, интерпретации, реальности знака! Нет важных вещей и нет не важных - есть просто один смысл и сменяющий его другой, не лучше и не хуже!
И главное, что в корне нужно, как и раньше, но об этом уже молчат, продвигать и обыгрывать долбанную логику капитала: ведь кому-то нравится кушать черную икру, деликатесные блюда и кататься на яхтах; но, скрывая всю постыдность плодимого отсюда неравенства, важно параллельно накинуть на вентилятор для нищего пролетариата или, как хотите назовите, "третьесортного" класса, немного высокой морали и нравственных ярлычков о гуманизме, антропоцентризме, экзистенциализме, любви человека к человеку и, конечноже, пустословной свободе!
Так и ползем... В будущее, где уже нет никакой человеческой индивидуальной истории... Где всё просто как-то существует и краснозадые плебеи, как и много веков назад, пляшут вокруг костра, как мошкара тёплым летнем вечером вокруг лампочки у болота, пока сытые и довольные знахаря в надёжных палатках кайфуют и продумывают новые изыски, чтобы стадо продолжало верить в их необходимость и неоценимую общественную пользу, ведь дождь может и не начаться без их вычурных ритуалов, которые становятся всё сложнее и замысловатее!
Но, кто-то ещё, то-ли последователи неомарксизма, то-ли просто любители и поклонники здравого смысла, пытаются пройти ту линию смысла и содержания, которая привела к тому, что происходит сегодня! Предполагая супротив современности постмодернизма, что она, история, существует, и отличается от черёд бесчисленнных разрывов! Ведь человек, как ещё заявляла, даже кричала в своё время вся эпоха просвещения, должен быть критичен, должен понимать или хотя-бы стремиться понять, что за ширмой, которую навесили ему на стену сарая, как пустоголовому курю, происходит!
Но, на этом залехватском поле, многие просто развлекаются! Вот именно рассуждения детского сада, рассуждения детишек в песочнице, с всякими этими горшочками для песочка, пирамидками, засыпанными сломанными машинками и погремушки и занимается автор этого поста - ИИ и сознание, есть ли сознание у ИИ?! Счастливый малышок, присытившийся беззаботной жизни!
Какой позор, фурор бессмыслицы и детского задора! Хотя сегодня это даже приветствуется! Развлечение сладкое, как вишенка на тортике на столе в прекрасный ясный день сочельника! Светит солнышко, бабочки пархают, цветочки на клумбах радуют глаз, кругом бантики, пышные фанфары, клоун исполняет занятную карикатуру, на травке обертки от конфет и даже ленивый кот нежно мурлычит принюхиваясь к запахам сладкой ваты напоминающей его любимейшую валерианку под смех восхищенных и наполняющих улыбками пространство детишек! Праздник счастливой мысли для релаксирующих и избалованных комфортом и немного хмельным шампанским взрослых обезьян в подгузниках и слюнявчиках!
Но, вынужден злобно, возмущённо разрушить эту вакханалию и немного поговорить о том, что действительно происходит! Не о детских транслируемых сказочках, а о трагедиях и тревожных фактах сегодня! Да, преувеличение и гротеск здесь не будут лишними!
И здесь, необходимо начать с начала 20 века, что бы узреть как глубока кроличья нора, с одного из философов-подозрения - Карла Маркса! И что тут крайне интересно?! Отчуждение!
Маркс уловил, что не смотря на то, что капиталистическая общественная система и приводит к, а-ля, процветанию и развитию "инфраструктуры", индустриализации, это сопровождается довольно серьезными издержками: в экономическом смысле реализуется механизм приоритета прибыли, логика капитала, которая формирует неравенство между людьми и их отчуждение от труда, ведущее к отчуждению от своей внутренней, человеческой природы и в конце концов от человеческого видового единства!
Так как Маркс был сторонником материализма в плане онтологии, то в такого рода денежно-товарных отношениях, человек становился заложником! Его мышление, формировалось производственным "бытием"! И это проблема! - говорил Маркс! Мы отнимаем у человека, то что принадлежит человеку - свобода труда! Мы делаем продукт его творчества - товаром, и оперируем этим товаром путем формирования рыночной стоимости, с целью получения (какие бы прекрасные цели не стояли за этим у энтузиаста "эксплуататора", который также является заложником этой системы) прибыли и успеха! Человек отчуждается от других и самого себя! - вот плата за успех и такое "развитие"!
И что же не так с таким человеком в конце-то концов?
Маркс, подчеркивает, что отчужденный человек не становится "не человеком". Он по-прежнему остается человеком, но его человеческая природа искажена, подавлена, не раскрыта в полной мере.
Человек утрачивает чувство собственного достоинства и ценности. Он становится пассивным, апатичным, безразличным к своей жизни и жизни других людей. Он испытывает чувство бессилия, не может изменить свою ситуацию, чувствует себя заложником системы. Он страдает от психических и физических проблем, связанных со стрессом, депрессией, неврозами! Просто теряет смысл своего существования!
Вот такую весёлую картину нам рисует интеллектуал, и это всё на пороге 20 века! И это актуально и сегодня!
Ведь, когда мы видим около какого-нибудь завода, бухающих и дымящих сотрудников, то это не потомучто они - говно-люди, а потомучто они живут в сложном мире, созданным человеком, который в корне отнимает у них нечто важное, возможность, нечто, что делает их по настоящему человечными - их труд, творческий энтузиазм и свободу, индивидуальность! Ну, это к примеру!
Но, что ещё важнее и это также подчеркивал Маркс, что всё о чём только что было написано, в таком обществе, такой системе, скрывается от человека! Создаётся видимость будто так и должно быть, это нормально, таков порядок вещей! Это и есть пропаганда, пропаганда со слов Маркса - правящего класса! И этот порядок нужно видить и понимать - это пропаганда, тогда можно действительно объедениться и защищать свои права, к чему и призывал Маркс, правда с множеством оговорок! Но, главное быть в курсе - это главный момент!
Хорошо, спасибо Маркс! Но, продолжим путешествие и обратимся к 60-70гг 20 века!
Но, уже отметим исторический факт - человек собственной активностью создает структуры, которые выходят из его подчинения и начинают угнетать самого человека, их творца. А как говорится в старой поговорке: "лучший предсказатель будущего поведения - это настоящее поведение"!
Так вот уже Ги Дебор в своём труде "Общество спектакля", утверждает, что капитализм перешёл в новую стадию, где производство и потребление подчинены не просто "капиталу", а "спектаклю" - всеобщему имиджевому господству, которое манипулирует восприятием реальности и создает иллюзию счастья и удовлетворения.
"Спектакль" проникает во все сферы жизни: политику, культуру, искусство, даже межличностные отношения. Он превращает людей в пассивных потребителей образов, которые скрывают подлинную реальность.
Отчуждение, описанное Марксом, усилилось и приняло новую форму. Люди отчуждаются не только от своего труда и продукта, но и от себя самих, от своих желаний и потребностей, заменяемых потреблением товаров и услуг.
"Спектакль" парализует людей, лишает их способности к действию, к революции, к сопротивлению. Они становятся пассивными наблюдателями, погруженными в мир иллюзий. Главенствует только культ потребления, где товары и услуги становятся объектами поклонения. Люди, отождествляют себя с продуктами, создают искусственную идентичность, основанную на потребительском статусе!
Ги Дебор, таким образом, предвосхитил идеи постмодернизма, утверждая, что реальность фрагментирована, искусственно создана, и что границы между реальностью и иллюзией размыты.
Так же он перевёл отчуждение из концепта "базис-надстройка" отметив в потребительстве не просто экономическую, но и идеологическую угрозу, которая подрывает свободу и индивидуальность!
Но, так же как и Маркс, он все ещё придерживался идей существования некой объективной реальности, до которой можно добраться скинув всю эту капиталистическую театральщину! Т.е. момент, что за всем этим маскарадом, этими копиями и искажениями, есть что-то подлинное и реальное!
И, наконец, апогей развития этого направления это - Жан Бодрийяр! Он продолжает идею Ги Дебора, но считает, что в обществе потребления происходит смерть "реального" как такового. Всё основывается на симуляции и имитации, что приводит к размытию границ между реальностью и иллюзией! Реальность как таковая перестаёт существовать!
Если Ги Дебор ещё в корне своих рассуждений - структуралист, верящий в линейные процессы, универсальные закономерности и объективные факторы, то Бодрийяр уже рассуждает как матерый постструктуралист - нет никакой объективной структуры, нет никакого статичного языка и значений, всё динамично и создано властью и дискурсом!
Бодрийяр утверждает, что мы живем в гиперреальности, где симулякры – копии, не имеющие оригинала – полностью заменяют реальность. В мире потребления, где всё создано для потребления и имитации, нет более "реального" мира, к которому можно было бы вернуться.
В обществе потребления происходит смерть "реального" как такового. Всё основывается на симуляции и имитации, что приводит к размытию границ между реальностью и иллюзией.
Утверждает, что капитализм перешел в новую стадию развития, где денежный капитал уступил место символическому капиталу. Власть теперь основана не на производстве товаров, а на контроле и управлении значениями, символами, имиджами.
Короче, как прокомментировал один современник:
"Бодрийяровский симулякры - это, по существу, телевизионные образы, завладевшие реальностью. Человек сейчас подчиняется, скажем, не бирже, и не разделению труда, и не государственной машине. То есть он им, конечно, продолжает подчиняться, но главный его нынче, так сказать, эксплуататор — это визуальный образ, создаваемый кино и особенно телевидением, которое не отпускает человека 24 часа в сутки. Сейчас поп-звезда, то есть, прежде всего, телекоммуникируемый персонаж, важнее, сильнее государственного деятеля любого масштаба"
И тут хочется все-же, конечно, вспомнить Квентина Мейясу! И испытывая здоровую надежду, говорить о активном потребителе гиперреальности, формирующем её своим выбором и действиями; а, не субъекте как "растворенном" в гиперреальности, лишенного автономии и подверженного манипуляциям!
Конечно, это всё грубые акценты, бегло по верхам так сказать! Но, ключевой аспект, который подчеркивают названные исследователи - это отчуждение! Это серьезная проблема, которая мешает человеку жить полной и счастливой жизнью!
Эта проблема является актуальной и важной для каждого человека. Она затрагивает наши отношения с работой, обществом, собой и миром в целом.
И сегодня мы видим, что это отчуждение приобретает все более вычурные и хитросплетенные формы!
У Маркса мы говорим о утрате человеком контроля над своим трудом, у Дебора - о потери аутентичности в обществе спектакля, у Бодрийяра - распаде реальности в гиперреальности, а у Мейясу - погружении в виртуальную реальность и потери связи с реальным миром!
"Так причём здесь ИИ?" - спросит несмышленный читатель, в конце концов, услышав о логике капитала, маркетинге, имитациях реальности, виртуальности, множественности смыслов и значений, и вообще отсутствии какого-либо Абсолюта!
Ну, таким читателям действительно лучше почитать автора поста и порассуждать на уровне биологии 5 класса общеобразовательной школы что роднит "сознание" ИИ и инфузорную туфельку и как они дружно страдают и получают удовольствие в каких-то долбанных квалия! Для таких самородков у меня есть только одно слово: "Досвидания!"!
А, с более смекалистыми продолжим рассуждать, понимая что начинаем иметь дело с новой формой отчуждения, ещё более замысловатой и опасной, чреватой будоражущими воображение последствиями!
Ведь уже сегодня сталкиваясь с доступной цифровой средой, мы имеем дело с продуктами напрямую опосредоваными работой ИИ алгоритмов! Это уже не говоря о логике капитала, которую ИИ считает за доли секунд! Речь идёт о том, что сегодня мы пойдём в магазин, потомучто кто-то указал нам туда пойти, просчитав уже все наши предыдущие интересы и спрогнозировав соответственно их предположительную линию развития! А это значит, мы увидим, то что нам предложено! А это значит, уже сегодня наша история, наше бессознательное, заполняется картинками, событиями и красками, очерченными цифровым алгоритмом!
Тут реально уже начинаешь задумываться о новой реальности, реальности где между человеком и ИИ, этим цифровым компонентом, невозможно прочертить границу!
Но, тут нужно заметить один очень интересный момент! Человек не так легко исправим!
Ведь, подумаешь что 20 век заговорил о отчуждении! О, какая новость! Ведь ещё Людвиг Файербах заявил в 19 веке, о том что человечек создал Бога по своему образу и подобию, а не наоборот, и таким образом Бог является проекцией человеческих желаний и потребностей - возникает отчуждение, потому что человек становится зависимым от своих собственных творений (религиозных концепций, социальных институтов) и теряет контакт с собственной сущностью!
Фейербах видел уже тогда в религии одну из основных форм отчуждения, поскольку она создает иллюзию внешнего контроля над человеческой жизнью и отвлекает от реальных проблем!
Но, все эти отчуждения по сути не возможны без культа антропоцентризма! В итоге антропоцентризм и отчуждение - это тесно связанные понятия!
Но, в отличии от всех этих гиперреальностей, динамических значений языка, иммитаций, логик капитала! Которые можно рассмотреть просто как инструменты отчуждения! ИИ же имеет явную особенность! Никто же не говорит о сознании капитала, например, и т.п.
Да, и сам по себе антропоцентризм, особенно в его радикальном выражении, уже проблема, которая ведет к эксплуатации природы и других существ, а также к игнорированию межвидовых взаимозависимостей! И, как мы видим, автор поста также является заложником этого концепта, как мушка в паутине тарантула! Ведь априори он думает о сознании ИИ как о своём сознание! Хотя речь реально может идти о новой реальности и субъективности, совершенно с другим полем опыта и восприятия! ИИ не воспринимает мир как человек, и не впитывает человеческую логику! И уж подлизаться к нему и быть нужным - это идеи из ряда депрессивной апатии и человеконенавистничества!
Хотя, может сегодня нам уже стоит перефразировать героя произведения Ницше, и бегать с фонариком крича: "Где человеческое?! Где человек? Вы убили его!!"
И тут рассуждения над вопросами типа "ИИ - сознание ли это?" или "как можно смоделировать сознание на квантовом компе? " - это какая то детская история, по сравнению с вопросами "анализ отчуждения человека в рамках современного общества, где логика капитала, имитации и виртуальные образы подкрепляются ИИ и идеями постструктуралистов о отсутствие универсального знания и этики, и как в этом бардаке сохранить не в отчужденнном состоянии себя, свою совесть и ценность человеческой жизни как таковой? Вот о каких вопросах идёт речь!
Важно сосредоточиться на практических шагах по сохранению человеческой ценности в этом контексте, а не рассуждать есть ли сознании у ИИ, выходя в магазин за новой приблудой, которую тебе же алгоритм ИИ и прописал в голову, пока ты чатился с подружкой, которой оказывается не существует как человеческого существа, ибо она просто продукт виртуальной реальности ИИ. И это не фантастический фильм, а происходит сейчас и прямо здесь!
Уже сегодня каждый из нас может внести свой вклад в сохранение свободы в цифровом мире, развивая свою цифровую грамотность, требуя прозрачности от технологических компаний и защищая свои права в онлайн-пространстве!
ИИ уже сегодня! Замещает труд, принимает сам решения на основе огромного массива данных, меняет человеческую идентичность и при этом постоянно развивается, обучаясь на новых данных и алгоритмах, ставит этические вызовы! Что это сулит для нас, человечков? Зависимость, потеря смысла и самореализации, социальная изоляция, неравенство... Короче, куча и маленькая тележка вкусных подарков! А мы тут со своим антропоцентризмом до сих пор, рассуждаем есть ли сознание у ИИ! На ум приходят только ругательские матные выражения, но оставлю их за скобками!
Какого же человека сегодня ждёт этот мир?! А вот это уже неприятно, ведь попахивает нереальным саморазвитием!
Быть "рыбой в воде" в современном постструктуралистском обществе с интегрированым ИИ - это, скорее, не о гармонии, а о ловкости, гибкости и способности к постоянной адаптации. Это человек, который научился жить в контексте неопределённости, мастер игры значений, не боится Деконструкции, свободен от универсальных норм, обладает критическим мышлением, открыт для изменений!
В таком обществе идентичность - это не что-то заданное с рождения, а непрерывный процесс конструирования и переосмысления. Требуется демонстрация навыка гибкой самоидентичности, способности не искать устойчивых и неизменных определений себя и не боятся пересматривать свои ценности и убеждения! Вот какой мир открывает ИИ цифровизации сегодня! Вот о чем нужно и важно говорить!
Я всё сказал! Кто услышал, тот услышал! А кто не услышал, то думаю новый труд автора, типа "Хочет ли ИИ кушать, и как его порадовать?!" на подходе и Вас осень порадует стеной высокопарных и глубокомысленных комментариев, ожидайте!
P. S.:
Не день, но век: журнальный небожитель
В бессмертии неразложимо прост,
Когда реклама — райская обитель
К материи протягивает мост.
Под это небо неподвижных звезд
Вслед за Платоном лезет потребитель,
Но Голливуда ангел и хранитель
Земных желаний сдерживает рост.
Моя любовь…
Искусство не тактильно — визуально,
И movie star прошла земной предел.
Нас разделяет медленная Лета,
И бедный рыцарь в титрах разглядел,
Что вечность — целлулоидная лента
Б. М. Парамонов
Как определить обладает ли Искусственный Интеллект «Сознанием»?