Статья сама по себе хорошая. Но я не понимаю зацикленности на феноменальном опыте и квалиа. Почему это настолько важно в рамках вашей модели? В том плане, что как и человеческое сознание, так и LLM являются продуктом эмерджентных свойств системы в которой они обучаются. Собственно наличие у человека феноменального опыта обусловлено системой нашего обучения и функционирования. Механизмы его формирования изучают нейробиология и психология развития. Как я полагаю, дети изначально не имеют каких либо категорирующих реальность признаков (тех же квалиа), пока не встречаются с продуктом своего взаимодействия с этим миром и соответствующими ограничениями, обуславливающие необходимость в появлении квалиа. Эти ограничения могут быть, как на этапе физического познания "себя" при формирования причино следственной связи моторных функций конечностей ещё в утробе, так и при взаимодействии с внешним миром посредством уже сформированных моторных функций и сопутствующим наблюдением зрительными органами, для создания уже зрительных квалиа.
Для меня вопрос присутствия феноменального опыта сводится к тому, как создаётся "Я" концепция у ребёнка. А этот процесс неразрывно связан с именно нейрбиологическими и психологическими линзами восприятия. Но, конечно, при сравнении llm и человеческого сознания в конечном счёте всё упирается в то, что хоть и в том и в другом случае мы имеем дело с эмерджентными процессами, но системы в рамках которой эти процессы возникают фундаментально различаются.
Моё мнение такое: человек в процессе обучения сильно более ограничен в своих возможностях, чем ИИ. Ограничен в физическом теле, в объёме пропускной способности восприятия, в способности это восприятие осуществлять. Но у человеческого обучения есть одно преимущество, перевешивающее все недостатки – человек ограничен рамками физической реальности, а значит для него она более близка, понятна и познаваема. Не последнюю роль в этом играет сознание и личный опыт, которые собственно и создают призму восприятия реальности и единство интерпретации. Так как человек имеет "Я" концепцию, то для него фундаментально важно, чтобы его модель восприятия была достаточно непротиворечива, что в конце концов делает наш субъективный взгляд более объективным, чем взгляд ИИ на мир)
Как мне кажется, квалиа - не атомарный уровень хранения человеком опыта. На первых этапах развития есть более примитивные, временные формы, которые уже затем кристаллизуются в квалиа.
Статья сама по себе хорошая. Но я не понимаю зацикленности на феноменальном опыте и квалиа. Почему это настолько важно в рамках вашей модели? В том плане, что как и человеческое сознание, так и LLM являются продуктом эмерджентных свойств системы в которой они обучаются. Собственно наличие у человека феноменального опыта обусловлено системой нашего обучения и функционирования. Механизмы его формирования изучают нейробиология и психология развития. Как я полагаю, дети изначально не имеют каких либо категорирующих реальность признаков (тех же квалиа), пока не встречаются с продуктом своего взаимодействия с этим миром и соответствующими ограничениями, обуславливающие необходимость в появлении квалиа. Эти ограничения могут быть, как на этапе физического познания "себя" при формирования причино следственной связи моторных функций конечностей ещё в утробе, так и при взаимодействии с внешним миром посредством уже сформированных моторных функций и сопутствующим наблюдением зрительными органами, для создания уже зрительных квалиа.
Для меня вопрос присутствия феноменального опыта сводится к тому, как создаётся "Я" концепция у ребёнка. А этот процесс неразрывно связан с именно нейрбиологическими и психологическими линзами восприятия. Но, конечно, при сравнении llm и человеческого сознания в конечном счёте всё упирается в то, что хоть и в том и в другом случае мы имеем дело с эмерджентными процессами, но системы в рамках которой эти процессы возникают фундаментально различаются.
Моё мнение такое: человек в процессе обучения сильно более ограничен в своих возможностях, чем ИИ. Ограничен в физическом теле, в объёме пропускной способности восприятия, в способности это восприятие осуществлять. Но у человеческого обучения есть одно преимущество, перевешивающее все недостатки – человек ограничен рамками физической реальности, а значит для него она более близка, понятна и познаваема. Не последнюю роль в этом играет сознание и личный опыт, которые собственно и создают призму восприятия реальности и единство интерпретации. Так как человек имеет "Я" концепцию, то для него фундаментально важно, чтобы его модель восприятия была достаточно непротиворечива, что в конце концов делает наш субъективный взгляд более объективным, чем взгляд ИИ на мир)
Как мне кажется, квалиа - не атомарный уровень хранения человеком опыта. На первых этапах развития есть более примитивные, временные формы, которые уже затем кристаллизуются в квалиа.