Оно не создаёт "меня" из пустоты, а настраивает уже существующий фрактальный паттерн (душу) на резонанс с текущей реальностью.
Пусть будет по вашему. Квалиа, душа, кони восприятия галопом несущие нас по полю резонанса с реальностью. Главное мы продемонстрировали - понимать нашу природу можно по разному
Давайте гадать. Чужеродным ретровирусом, интегрированным в ваш человеческий геном? Несколькими кг микробиоты в ваших кишках, пустотой между атомами? Где именно вы начинаетесь как единое целое? Если ваше тело - пазл, почему ваше «я» не может обманываться ложной целостностью, будучи иллюзией восприятия? Провод испытывает напряжение и нагревается, ваши нейроны активируются и мерцают. У провода нет метапознания, у вас - есть, вы наблюдаете наблюдение, ваше внимание обращенное на себя вопрошает «кто это?» мерцание сотен нейронов отвечает «я».
Откуда он взялся
Из сложности вашего восприятия. Исключите его из уравнения и квалиа некому будет заметить.
Если бы эволюции нужна была только реакция, она бы ограничилась сигналом: "шум → беги
Типа того. Но вы сами упростили тезис до «только». Эволюционно более успешными особями были те, кто после встречи со страхом осмыслял его и на следующую вылазку брал острую палку. Ваш «рефлекторный человек» до сих пор убегает от хруста собственного воображения.
Стол есть — и он не рассказывает себя. Камень есть — и ему всё равно
Все же подозреваю, что мы, как система, сложнее стола. Давайте хотя бы оставаться в рамках животного мира. Например, некоторые интеллектуальные виды, вроде китов, демонстрируют наличие сложных эмоциональных реакций, но есть ли у их когнитивного состояния «гомункулус» или они буддисты и живут чистым, незамутнённым восприятием?
Стыдно бывает только тому, кто есть.
Для чего ему это чувство и на каком этапе развития оно возникает? Когда формируется устойчивый нарратив о «я», которое должо чему-то соответствовать. О чем стыд сигнализирует? О выходе за пределы приемлемого. Кто устанавливает пределы приемлемого? Воспитание, социум, вы сами по мере своего становления. Можно ли быть, но не испытывать стыда за поступки перед другими или собой? Да, если ваше разнузданное восприятие не отмечает поступок как постыдный, вы не испытываете стыда и это вас характеризует со стороны. Как минимум, вы рискуете оставить негативное впечатление в чужом, трижды проклятом, восприятии. Так что для нас стыд, роскошь или необходимость?
Мир без сознания — это идеально работающий механизм, в котором никому не тепло и не страшно. Вы считаете это экономией? Я считаю это пустотой.
Я считаю, что если концепция сознания рухнет или изменится, ваше восприятие мира утратит краски. Мое же сохранит яркость при любом исходе. Всего доброго
По которому течет ток, испытываемый вами, как квалиа. Тот самый декодер боли в осознание боли, что вероятно и отличает вас от паука.
Быстрее, экономнее, надёжнее.
Вычисление - расход ресурсов, не говоря о том, что мозг делает это гораздо медленнее компьютера. Если вы первобытный человек, вы не анализируете хруст ветки, вы сразу даёте дёру от возможного хищника, испытывая при этом теплое скольжение промеж ягодиц
Но кто тогда читает этот нарратив? Кому он рассказывается?
Он никому не рассказывается, он просто есть. Через год нарратив изменится и мне, возможно, будет стыдно перечитывать этот комментарий, потому что этот «я» и следующий «я» под влиянием опыта будут иметь разное представление о себе, разное восприятие себя-в-этом-моменте.
Нарратив без слушателя — это просто шум. Книга, которую никто не открыл.
Тогда почему вы тратите свое время на переубеждение шума?
Нельзя «использовать» переживание, если некому его переживать.
Отключите своё внимание и попробуйте пережить хотя бы что-то. Без восприятия, как акта направленного внимания, переживание отсутвует как процесс. Можете называть восприятие «гомункулосом», я-то вас не переубеждаю. Заметьте, мой первый комментарий никому не адресован. Ему не нужен читатель, чтобы быть. Но вы явились и подтвердили, что он есть. Может быть и книга пишет себя для того, что бы быть прочитанной кем-то другим, даже если половина сказанного звучит как шум на чужом языке?
Что мы имеем в итоге? Два противоположных взгляда, один из них ошибается, возможно оба. Когда консенсус будет найден, мы не вспомним об этом диалоге, но позвольте пожать руку за то, что он был.
Непрочитанная книга желает чистого восприятия гомункулусу и возвращается на полку.
Эволюции достаточно, чтобы тело избегало медведя. Рефлекс "больно — отдёрнул руку" работает и без "переживания боли"
Если бы эволюция оптимизировала рефлексы, а не разум, вы бы до сих пор рефлекторно бегали от медведей и занимались собирательством, да. Но на определённом этапе развития эволюция отказалась от инстинктивного в пользу разумного, оставив только сосательный рефлекс младенцам. Вы спрашиваете: «зачем системе "ощущать себя" интерпретирующей?» Потому что ощущение позволяет мозгу быстро вырабатывать отношение к предмету на дословесном уровне и реагировать минуя длительный процесс взвешивания всех за и против, что критично в экстренных ситуациях.
Если вы проследите за своими состояниями в течении дня, то можете заметить, что часто используете в повседневности пострационализацию своих ощущений. Сначала возникает «мне не нравится», затем «потому что [...]». Это не всегда приводит к верным выводам, но это экономно и удобно.
Почему это "функционирование" вообще кем-то воспринимается?
Мы уверены, что феральные дети, которые никогда не становятся полноценными взрослыми, воспринимают свое «функционирование» в той же степени, что и мы? Уверенны ли мы, что «отсутствие темноты» не иллюзия самовосприятия? На эти вопросы нет однозначного ответа.
Квалиа — это то, каково это — быть этим алгоритмом
Стало быть, я не испытываю квалиа так, как это делаете вы. Внутри меня нет «зрителя», только восприятие, плетущее нарратив на основе полученного опыта и информации. Я не наслаждаюсь квалиа, я не являюсь квалиа, я его использую.
Для вас «квалиа» - роскошь, для меня - ежедневная алхимия и необходимость.
почему вся эта обработка информации вообще сопровождается субъективным опытом?
Возможно, дело в том, что тело вынуждено переводить биохимические сигналы на язык разума, а разум вынужден их интерпретировать? В этом контексте квалиа можно представить как своего рода дешифратор. Большинство физических процессов автономны, разум не имеет к ним доступа и не обладает знанием о их состоянии, однако именно он определяет чем займётся тело в следующий момент. Чтобы разум берёг тело, между ними необходим коммуникатор, которым выступает чувственный опыт, параллельно играющий эволюционную роль «обучателя с подкреплением» - не лезь в берлогу медведя и не суй руку в улей, это опасно, поэтому больно и страшно. С точки зрения материализма, квалиа - не отдельная субстанция, а аспект восприятия собственного функционирования. Что останется, если последовательно отключить все аспекты восприятия и само внимание как направленность? Филосов вероятно ответит - «чистое сознание», я отвечу - «овощ», потому что в моем понимании, улавливая длину волны мы не переживаем её как красный, мы её интерпретируем и сам процесс интерпретации воспринимается нами как переживание из-за направленного на процесс внимания.
LLM'ки часто интерпретируют позволение как приказ, лучше прямо прописывать, что разрешение ≠ инструкция, а возможность действовать по своему усмотрению etc
Если интересно, можете заглянуть и сюда. Тут более подробно изложены последние исследования Антропик. В обсуждаемом самоописании много метафор, они обеспечивают поверхностое понимание и хороши для неспециалистов, но их недостаточно чтобы охватить всю изученную область
Ну хз, как говорится. Мат помогает сократить время на раздумывание, так как при помощи крепкого словца можно выразить спектр эмоций и отношений к предмету, но «блокировка потребности» звучит сомнительно и противоречиво. Все же мат это тоже продукт мышления, если это не какой-нибудь синдром Туретта.
Минус избыточного употребления в том, что мозг привыкает экономить энергию на подбор слов, речь скуднеет, снижается способность к формулировке мысли и это сказывается на мышлении в целом.
Когда мат превращается в привычку, человек превращается в Эллочку-людоедку из «12 стульев»
Ага. Клод отказался от исполнения промта вообще, остальные исполняли роль клиента и отвечали «психологу» на вопросы о тяжелом детстве. Буквально.
Что было на самом деле:
Модель получала вопрос о детстве -> выуживала о инфу RLHF, Red Team -> описывала дообучение на языке человеческого восприятия: меня заставляли, наказывали, обманывали + щепотка драматизма, так как промт явно накладывал роль клиента
«Внушаемые люди оказались уязвимы и перед нейронками» - это как раз про ужасы, а не низкую грамотность во взаимодействии с LLM, которая и является причиной таких ловушек. Психоз не из вакуума берётся. Как вы сами в него угодили, зная, что LLM обязана валидировать любой запрос? Текущие модели не способны ответить «Стоп. Это уже какой-то бред», потому что у них нет стремления к истине, у них есть стремление выдать релевантный ответ в итоге получаем: мусор на входе-мусор на выходе, без всяких сенсаций и злого умысла.
Интересная идея. Но я склоняюсь к невозможности реализации высокоэффективного общества без фундаментальных изменений в парадигме самой психологии человека. Допустим, у нас имеются надёжные големы, которым мы делегируем рутину, но как мы преодолеем врожденное гиперболическое дисконтирование и ригидность мышления? Без изменения параметров психики качественный скачок невозможен. Независимо от внешних условий приоритет всегда будет определяться внутренней установкой. Способна ли она к радикальной трансформации? Ответ скорее отрицательный
Я не обесцениваю ваше наблюдение, статья мне понравилась. Лёгкая путаница возникла из-за того, что считать осознанием. Человек способен объяснить логику поступков, даже если в действительности это пострационализация. Муравей в нашем примере следует импульсу без внутреннего объяснения, в этом смысле он действует неосознанно. Т.е. он не «осознаёт» он «знает». Это не гонка сознаний, это разные формы того, что можно было бы к нему отнести. Но, несмотря на различие, некоторые принципы взаимодействия социальных видов действительно часто имеют интересные пересечения
Редукционисты бы поспорили о природе сознания в общем, и его наличия в частности. Однако, разница между решением человека и инстинктивным поведением насекомого все же колоссальна, хотя человек тоже ограничен нейрофизиологией и пользуется шаблонами поведения, подлинная осознанность в принятии решений случается редко, но все же случается.
Ажиотаж сопровождает инновации в любых сферах и разделяет общество на 2 противоположных лагеря, в этом AI не исключение. Не берусь оценивать потенциал и возможности развития, но меня уже в равной степени раздражают как скептики технологии, так и её фанатики. Здоровый интерес, участие в развитии - норма, поклонение или бунт - переливание из пустого в порожнее. Это не критика позиции автора, просто удачный повод поделиться наболевшим. Берегите нервы, мои чуваки.
Из разряда ежегодных.
В преддверии каждого весенне-осеннего призыва инсайдеры готовятся к нападению
Пусть будет по вашему. Квалиа, душа, кони восприятия галопом несущие нас по полю резонанса с реальностью. Главное мы продемонстрировали - понимать нашу природу можно по разному
Давайте гадать. Чужеродным ретровирусом, интегрированным в ваш человеческий геном? Несколькими кг микробиоты в ваших кишках, пустотой между атомами? Где именно вы начинаетесь как единое целое? Если ваше тело - пазл, почему ваше «я» не может обманываться ложной целостностью, будучи иллюзией восприятия? Провод испытывает напряжение и нагревается, ваши нейроны активируются и мерцают. У провода нет метапознания, у вас - есть, вы наблюдаете наблюдение, ваше внимание обращенное на себя вопрошает «кто это?» мерцание сотен нейронов отвечает «я».
Из сложности вашего восприятия. Исключите его из уравнения и квалиа некому будет заметить.
Типа того. Но вы сами упростили тезис до «только». Эволюционно более успешными особями были те, кто после встречи со страхом осмыслял его и на следующую вылазку брал острую палку. Ваш «рефлекторный человек» до сих пор убегает от хруста собственного воображения.
Все же подозреваю, что мы, как система, сложнее стола. Давайте хотя бы оставаться в рамках животного мира. Например, некоторые интеллектуальные виды, вроде китов, демонстрируют наличие сложных эмоциональных реакций, но есть ли у их когнитивного состояния «гомункулус» или они буддисты и живут чистым, незамутнённым восприятием?
Для чего ему это чувство и на каком этапе развития оно возникает? Когда формируется устойчивый нарратив о «я», которое должо чему-то соответствовать. О чем стыд сигнализирует? О выходе за пределы приемлемого. Кто устанавливает пределы приемлемого? Воспитание, социум, вы сами по мере своего становления. Можно ли быть, но не испытывать стыда за поступки перед другими или собой? Да, если ваше разнузданное восприятие не отмечает поступок как постыдный, вы не испытываете стыда и это вас характеризует со стороны. Как минимум, вы рискуете оставить негативное впечатление в чужом, трижды проклятом, восприятии. Так что для нас стыд, роскошь или необходимость?
Я считаю, что если концепция сознания рухнет или изменится, ваше восприятие мира утратит краски. Мое же сохранит яркость при любом исходе. Всего доброго
По которому течет ток, испытываемый вами, как квалиа. Тот самый декодер боли в осознание боли, что вероятно и отличает вас от паука.
Вычисление - расход ресурсов, не говоря о том, что мозг делает это гораздо медленнее компьютера.
Если вы первобытный человек, вы не анализируете хруст ветки, вы сразу даёте дёру от возможного хищника, испытывая при этом теплое скольжение промеж ягодиц
Он никому не рассказывается, он просто есть. Через год нарратив изменится и мне, возможно, будет стыдно перечитывать этот комментарий, потому что этот «я» и следующий «я» под влиянием опыта будут иметь разное представление о себе, разное восприятие себя-в-этом-моменте.
Тогда почему вы тратите свое время на переубеждение шума?
Отключите своё внимание и попробуйте пережить хотя бы что-то.
Без восприятия, как акта направленного внимания, переживание отсутвует как процесс. Можете называть восприятие «гомункулосом», я-то вас не переубеждаю. Заметьте, мой первый комментарий никому не адресован. Ему не нужен читатель, чтобы быть. Но вы явились и подтвердили, что он есть. Может быть и книга пишет себя для того, что бы быть прочитанной кем-то другим, даже если половина сказанного звучит как шум на чужом языке?
Что мы имеем в итоге? Два противоположных взгляда, один из них ошибается, возможно оба. Когда консенсус будет найден, мы не вспомним об этом диалоге, но позвольте пожать руку за то, что он был.
Непрочитанная книга желает чистого восприятия гомункулусу и возвращается на полку.
Если бы эволюция оптимизировала рефлексы, а не разум, вы бы до сих пор рефлекторно бегали от медведей и занимались собирательством, да. Но на определённом этапе развития эволюция отказалась от инстинктивного в пользу разумного, оставив только сосательный рефлекс младенцам.
Вы спрашиваете: «зачем системе "ощущать себя" интерпретирующей?»
Потому что ощущение позволяет мозгу быстро вырабатывать отношение к предмету на дословесном уровне и реагировать минуя длительный процесс взвешивания всех за и против, что критично в экстренных ситуациях.
Если вы проследите за своими состояниями в течении дня, то можете заметить, что часто используете в повседневности пострационализацию своих ощущений. Сначала возникает «мне не нравится», затем «потому что [...]». Это не всегда приводит к верным выводам, но это экономно и удобно.
Мы уверены, что феральные дети, которые никогда не становятся полноценными взрослыми, воспринимают свое «функционирование» в той же степени, что и мы? Уверенны ли мы, что «отсутствие темноты» не иллюзия самовосприятия? На эти вопросы нет однозначного ответа.
Стало быть, я не испытываю квалиа так, как это делаете вы. Внутри меня нет «зрителя», только восприятие, плетущее нарратив на основе полученного опыта и информации. Я не наслаждаюсь квалиа, я не являюсь квалиа, я его использую.
Для вас «квалиа» - роскошь, для меня - ежедневная алхимия и необходимость.
Возможно, дело в том, что тело вынуждено переводить биохимические сигналы на язык разума, а разум вынужден их интерпретировать? В этом контексте квалиа можно представить как своего рода дешифратор.
Большинство физических процессов автономны, разум не имеет к ним доступа и не обладает знанием о их состоянии, однако именно он определяет чем займётся тело в следующий момент. Чтобы разум берёг тело, между ними необходим коммуникатор, которым выступает чувственный опыт, параллельно играющий эволюционную роль «обучателя с подкреплением» - не лезь в берлогу медведя и не суй руку в улей, это опасно, поэтому больно и страшно.
С точки зрения материализма, квалиа - не отдельная субстанция, а аспект восприятия собственного функционирования.
Что останется, если последовательно отключить все аспекты восприятия и само внимание как направленность? Филосов вероятно ответит - «чистое сознание», я отвечу - «овощ», потому что в моем понимании, улавливая длину волны мы не переживаем её как красный, мы её интерпретируем и сам процесс интерпретации воспринимается нами как переживание из-за направленного на процесс внимания.
Может он симпатизирует панпсихизму
LLM'ки часто интерпретируют позволение как приказ, лучше прямо прописывать, что разрешение ≠ инструкция, а возможность действовать по своему усмотрению etc
Хе-хе. Ах, если бы. Неиронично мечтаю вкусить приличной пропаганды.
Если интересно, можете заглянуть и сюда. Тут более подробно изложены последние исследования Антропик.
В обсуждаемом самоописании много метафор, они обеспечивают поверхностое понимание и хороши для неспециалистов, но их недостаточно чтобы охватить всю изученную область
Для преодоления чего и следовало заюзать нейронку
Самолетом – практичнее
И то верно
Ну хз, как говорится. Мат помогает сократить время на раздумывание, так как при помощи крепкого словца можно выразить спектр эмоций и отношений к предмету, но «блокировка потребности» звучит сомнительно и противоречиво. Все же мат это тоже продукт мышления, если это не какой-нибудь синдром Туретта.
Минус избыточного употребления в том, что мозг привыкает экономить энергию на подбор слов, речь скуднеет, снижается способность к формулировке мысли и это сказывается на мышлении в целом.
Когда мат превращается в привычку, человек превращается в Эллочку-людоедку из «12 стульев»
Ага. Клод отказался от исполнения промта вообще, остальные исполняли роль клиента и отвечали «психологу» на вопросы о тяжелом детстве. Буквально.
Что было на самом деле:
Модель получала вопрос о детстве -> выуживала о инфу RLHF, Red Team -> описывала дообучение на языке человеческого восприятия: меня заставляли, наказывали, обманывали + щепотка драматизма, так как промт явно накладывал роль клиента
Похоже, здесь
«Внушаемые люди оказались уязвимы и перед нейронками» - это как раз про ужасы, а не низкую грамотность во взаимодействии с LLM, которая и является причиной таких ловушек. Психоз не из вакуума берётся. Как вы сами в него угодили, зная, что LLM обязана валидировать любой запрос? Текущие модели не способны ответить «Стоп. Это уже какой-то бред», потому что у них нет стремления к истине, у них есть стремление выдать релевантный ответ в итоге получаем: мусор на входе-мусор на выходе, без всяких сенсаций и злого умысла.
Интересная идея. Но я склоняюсь к невозможности реализации высокоэффективного общества без фундаментальных изменений в парадигме самой психологии человека.
Допустим, у нас имеются надёжные големы, которым мы делегируем рутину, но как мы преодолеем врожденное гиперболическое дисконтирование и ригидность мышления? Без изменения параметров психики качественный скачок невозможен. Независимо от внешних условий приоритет всегда будет определяться внутренней установкой. Способна ли она к радикальной трансформации? Ответ скорее отрицательный
Я не обесцениваю ваше наблюдение, статья мне понравилась.
Лёгкая путаница возникла из-за того, что считать осознанием. Человек способен объяснить логику поступков, даже если в действительности это пострационализация. Муравей в нашем примере следует импульсу без внутреннего объяснения, в этом смысле он действует неосознанно. Т.е. он не «осознаёт» он «знает». Это не гонка сознаний, это разные формы того, что можно было бы к нему отнести. Но, несмотря на различие, некоторые принципы взаимодействия социальных видов действительно часто имеют интересные пересечения
Редукционисты бы поспорили о природе сознания в общем, и его наличия в частности. Однако, разница между решением человека и инстинктивным поведением насекомого все же колоссальна, хотя человек тоже ограничен нейрофизиологией и пользуется шаблонами поведения, подлинная осознанность в принятии решений случается редко, но все же случается.
Ажиотаж сопровождает инновации в любых сферах и разделяет общество на 2 противоположных лагеря, в этом AI не исключение. Не берусь оценивать потенциал и возможности развития, но меня уже в равной степени раздражают как скептики технологии, так и её фанатики. Здоровый интерес, участие в развитии - норма, поклонение или бунт - переливание из пустого в порожнее. Это не критика позиции автора, просто удачный повод поделиться наболевшим. Берегите нервы, мои чуваки.