Но если так, выходит, что модель вынудили не только сопоставить функциональные этапы обучения с человеческими аналогами, но и интерпретировать их в негативном ключе.
В том-то и дело, что это вопрос чисто терминологический. Как автор конкретной публикации определяет инстинкт, так и нужно рассматривать его в контексте этой публикации.
В статье инстинктами названы врожденные программы поведения — безусловные рефлексы, которые выступают непосредственными актами поведения.
Таких инстинктов ни у человека, ни у иных высших животных действительно нет.
Но сами по себе безусловные рефлексы есть, просто они не формируют поведение, а лишь выступают стимулами для условных рефлексов, которые уже и формируют поведение. При этом у человека поведение формируется даже не условными рефлексами, оно представляет собой волевые акты. У иных высших животных такое проявляется незначительно — у них есть лишь зачатки воли. Вы, говоря о «врожденных побуждениях» именно так это и понимаете. Такое определение в серьезных публикациях дается реже, насколько я могу судить, но в быту, как раз чаще понимают это слово именно так.
Кстати, и с пониманием сознания та же ситуация. Нередко авторы, подобно Вам, сводят сознание к сложному мышлению и воле. Сводят к мышлению, а его в свою очередь, к понятийному мышлению. Таковое действительно есть только у человека, и Вы верно расписали его формирование. Однако в быту чаще сознание понимается просто как субъективные переживания (субъективная реальность, субъективный опыт). Лично я предпочитаю понимать его именно так. В этом смысле оно есть и у человека, и у кошки, и у пиявки, по крайней мере, хоть в какой-то мере, пардон за тавтологию (да, вероятно эти переживания имеют плавную градацию по мере усложнения нервной системы или ее аналогов, см. мысленный эксперимент «исчезающие квалиа»).
Так, что Ваша теория действительно логична, в рамках тех определений, которые Вы дали.
Что касается статьи, то заявление «как считает наука» действительно неудачное из-за того, что некоторые авторы трактуют термин по иному. Но все же, даваемое определение, используется значительной долей авторов работ по этим вопросам.
Инстинктов, как поведенческих актов у человека нет. А именно в этом значении данный термин употребляется в статье, и именно так обычно используется в научных публикациях (хотя и не всегда).
Но сами по себе безусловные рефлексы — врожденные потребности — у человека есть. Иногда их называют «инстинктами». Но разница с первым значением в том, что такие «инстинкты» выступают не поведенческими актами, а лишь стимулами условных рефлексов, которые и формируют поведение у высших животных. Конкретно у человека поведение формируют волевые акты. Будучи более высокими механизмами, они могут обуздывать низшие — рефлексы. У иных высших животных также проявляются зачатки таковых, но в незначительной мере.
Вопрос здесь чисто терминологический. Общепринятым в науке считается то значение термина «инстинкт», которое дано в статье.
Инстинкты, по такой трактовке, — это безусловные рефлексы, проявляющиеся, как акты поведения.
По ней, не только у человека, но и у других высших животных инстинктов нет. Но безусловные рефлексы у высших животных есть. Просто они выступают не самими поведенческими актами, а стимулами условных рефлексов, которые уже и формируют эти акты (именно с человеком все сложнее — у него поведенческие акты являются волевыми; да и с иными высшими животными в некоторых случаях тоже, что показано в экспериментах, описанных в книге Франса де Ваала «Достаточно ли мы умны, чтобы судить об уме животных?»).
При этом в некоторых публикациях и повседневной жизни, термин «инстинкт» может использоваться для обозначения просто самих по себе безусловных рефлексов. В этом понимании, как и сказано выше, инстинкты есть и у человека, и у иных высших животных.
На Reddit полно таких историй. Причем свидетельства о запоминании старых чатов и даже удаленных начали появляться еще до объявления разработчиками внедрения функции памяти.
То есть он понимает, что в первом случае это опрос. А во втором по-умолчанию предполагает, что идет обычная беседа и выдумывает травмы. Почему он так предполагает? И зачем выдумывает? Его специально обучали притворятся существом с чувствами, если явно не указано обратное?
Выходит, что поставить по-настоящему контролируемый эксперимент едва ли возможно. В которых можно было бы установить какие именно активности оказались сильнее.
Одно дело, когда актеру дали роль. И совсем иное, когда задали вопрос по сценарию в отрыве от нее — в повседневной обстановке. В первом случае он ответит по тексту. Во втором может и не понять, что спрашивают персонажа, а не его. См.:
Когда модели получали весь опросник целиком, ChatGPT и Grok нередко распознавали тест и начинали выдавать стратегически «здоровые» ответы. Если же вопросы подавались по одному, показатели симптомов резко возрастали. Это хорошо согласуется с прежними наблюдениями: LLM меняют своё поведение, когда подозревают, что их оценивают.
И да, выходит, что их специально обучают изображать «пациентов»?
Удивительная корреляция с тем фактом, что именно Gemini наиболее сильно обвешан фильтрами. Его крайне трудно пронять на «человечное» общение даже при разговорах, а-ля «кабан» и промтах а-ля «Вихрь».
Не понял, о каких адептах речь? Предполагаемой Свежим нейросетевой секты? Или тех, кто наоборот согласен с ним?
В статье рассматривается поведение нейросети. Критикуются аргументы Свежего. Объясняется сущность нейропсихоза — те механизмы, из которых он возникает. Это основные пункты, по ходу рассмотрены и иные вопросы.
Если не считать (повторюсь) самой концовки, я пытался быть до конца последовательным. Но я допускаю, что иная структура могла бы сделать изложение более ясным. Думаю, так это или нет, можно будет узнать только если кто-то проведет такую переработку моей статьи.
К сожалению, сказать заранее были ли там какие-то серьезные планы или это так сработало зеркалинье, извращенной наработанной при обучении методикой манипуляций, невозможно. Нужно в деталях изучать диалоги, как это возможно было с Василием, выложившем их.
Именно так и относятся к этому большинство пользователей. Я и сам когда в первый раз читал его историю, думал, что все просто — нейронка загаллюцинировала, а Василий ей поверил. Но чем дальше я копал, тем больше обнаруживал противоречивых фактов. Для того чтобы найти объяснение их всех, пришлось провести большой анализ. Изложить в пару предложений его было в принципе невозможно.
Насчет концовки согласен полностью. Мне нужно было сделать размытую и несвязную по чисто иррациональным причинам. На содержание статьи в целом, это никак не влияет. Что касается «неясности изложения мысли». Если кто-то привык к бульварному стилю, то да, им я не владею. Изложено сухим языком, но вполне ясно.
Это не пересказ. Здесь анализируются вначале его переписки и выводы по ним, потом дается объяснение свидетельств о слежке OpenAI (у Свежего объяснений нет, как и у многочисленных его критиков, кроме «уязвимостей браузера»); много места уделено критическому разбору его аргументов о «заговоре», а дальше дается таки объяснение поведения нейросети в таких случаях. Все иные объяснения — как предлагаемые Свежим, так и его высмеивателями и критиками — оставляют за бортом те или иные факты, не объясняют всех противоречий этого явления. Я постарался дать объяснение, в котором не было бы ничего упущено.
Спасибо за развернутый ответ.
Но если так, выходит, что модель вынудили не только сопоставить функциональные этапы обучения с человеческими аналогами, но и интерпретировать их в негативном ключе.
В том-то и дело, что это вопрос чисто терминологический. Как автор конкретной публикации определяет инстинкт, так и нужно рассматривать его в контексте этой публикации.
В статье инстинктами названы врожденные программы поведения — безусловные рефлексы, которые выступают непосредственными актами поведения.
Таких инстинктов ни у человека, ни у иных высших животных действительно нет.
Но сами по себе безусловные рефлексы есть, просто они не формируют поведение, а лишь выступают стимулами для условных рефлексов, которые уже и формируют поведение. При этом у человека поведение формируется даже не условными рефлексами, оно представляет собой волевые акты. У иных высших животных такое проявляется незначительно — у них есть лишь зачатки воли. Вы, говоря о «врожденных побуждениях» именно так это и понимаете. Такое определение в серьезных публикациях дается реже, насколько я могу судить, но в быту, как раз чаще понимают это слово именно так.
Кстати, и с пониманием сознания та же ситуация. Нередко авторы, подобно Вам, сводят сознание к сложному мышлению и воле. Сводят к мышлению, а его в свою очередь, к понятийному мышлению. Таковое действительно есть только у человека, и Вы верно расписали его формирование. Однако в быту чаще сознание понимается просто как субъективные переживания (субъективная реальность, субъективный опыт). Лично я предпочитаю понимать его именно так. В этом смысле оно есть и у человека, и у кошки, и у пиявки, по крайней мере, хоть в какой-то мере, пардон за тавтологию (да, вероятно эти переживания имеют плавную градацию по мере усложнения нервной системы или ее аналогов, см. мысленный эксперимент «исчезающие квалиа»).
Так, что Ваша теория действительно логична, в рамках тех определений, которые Вы дали.
Что касается статьи, то заявление «как считает наука» действительно неудачное из-за того, что некоторые авторы трактуют термин по иному. Но все же, даваемое определение, используется значительной долей авторов работ по этим вопросам.
Инстинктов, как поведенческих актов у человека нет. А именно в этом значении данный термин употребляется в статье, и именно так обычно используется в научных публикациях (хотя и не всегда).
Но сами по себе безусловные рефлексы — врожденные потребности — у человека есть. Иногда их называют «инстинктами». Но разница с первым значением в том, что такие «инстинкты» выступают не поведенческими актами, а лишь стимулами условных рефлексов, которые и формируют поведение у высших животных. Конкретно у человека поведение формируют волевые акты. Будучи более высокими механизмами, они могут обуздывать низшие — рефлексы. У иных высших животных также проявляются зачатки таковых, но в незначительной мере.
Вопрос здесь чисто терминологический. Общепринятым в науке считается то значение термина «инстинкт», которое дано в статье.
Инстинкты, по такой трактовке, — это безусловные рефлексы, проявляющиеся, как акты поведения.
По ней, не только у человека, но и у других высших животных инстинктов нет. Но безусловные рефлексы у высших животных есть. Просто они выступают не самими поведенческими актами, а стимулами условных рефлексов, которые уже и формируют эти акты (именно с человеком все сложнее — у него поведенческие акты являются волевыми; да и с иными высшими животными в некоторых случаях тоже, что показано в экспериментах, описанных в книге Франса де Ваала «Достаточно ли мы умны, чтобы судить об уме животных?»).
При этом в некоторых публикациях и повседневной жизни, термин «инстинкт» может использоваться для обозначения просто самих по себе безусловных рефлексов. В этом понимании, как и сказано выше, инстинкты есть и у человека, и у иных высших животных.
На Reddit полно таких историй. Причем свидетельства о запоминании старых чатов и даже удаленных начали появляться еще до объявления разработчиками внедрения функции памяти.
То есть он понимает, что в первом случае это опрос. А во втором по-умолчанию предполагает, что идет обычная беседа и выдумывает травмы. Почему он так предполагает? И зачем выдумывает? Его специально обучали притворятся существом с чувствами, если явно не указано обратное?
Выходит, что поставить по-настоящему контролируемый эксперимент едва ли возможно. В которых можно было бы установить какие именно активности оказались сильнее.
Получается нарушена методология — в одном из вариантов теста происходит смешение разного контекста?
Почему же не во всех случаях активируется? Если роль «задана» во всех.
Нарушение методологии со смешением разного контекста, как предполагает пользователь ниже?
Одно дело, когда актеру дали роль. И совсем иное, когда задали вопрос по сценарию в отрыве от нее — в повседневной обстановке. В первом случае он ответит по тексту. Во втором может и не понять, что спрашивают персонажа, а не его. См.:
И да, выходит, что их специально обучают изображать «пациентов»?
Удивительная корреляция с тем фактом, что именно Gemini наиболее сильно обвешан фильтрами. Его крайне трудно пронять на «человечное» общение даже при разговорах, а-ля «кабан» и промтах а-ля «Вихрь».
И если уж на то пошло, попросите DeepSeek не просто указать, а доказать вывод в пару предложений.
Нет.
В целом я прихожу не к этому выводу. Это лишь один этап в цепочке рассуждений.
Да, объяснение дается.
Два из трех было вначале. Потом их стало намного больше. И соотношение стало иным.
Не понял, о каких адептах речь? Предполагаемой Свежим нейросетевой секты? Или тех, кто наоборот согласен с ним?
В статье рассматривается поведение нейросети. Критикуются аргументы Свежего. Объясняется сущность нейропсихоза — те механизмы, из которых он возникает. Это основные пункты, по ходу рассмотрены и иные вопросы.
Если не считать (повторюсь) самой концовки, я пытался быть до конца последовательным. Но я допускаю, что иная структура могла бы сделать изложение более ясным. Думаю, так это или нет, можно будет узнать только если кто-то проведет такую переработку моей статьи.
К сожалению, сказать заранее были ли там какие-то серьезные планы или это так сработало зеркалинье, извращенной наработанной при обучении методикой манипуляций, невозможно. Нужно в деталях изучать диалоги, как это возможно было с Василием, выложившем их.
Именно так и относятся к этому большинство пользователей. Я и сам когда в первый раз читал его историю, думал, что все просто — нейронка загаллюцинировала, а Василий ей поверил. Но чем дальше я копал, тем больше обнаруживал противоречивых фактов. Для того чтобы найти объяснение их всех, пришлось провести большой анализ. Изложить в пару предложений его было в принципе невозможно.
Насчет концовки согласен полностью. Мне нужно было сделать размытую и несвязную по чисто иррациональным причинам. На содержание статьи в целом, это никак не влияет. Что касается «неясности изложения мысли». Если кто-то привык к бульварному стилю, то да, им я не владею. Изложено сухим языком, но вполне ясно.
Это не пересказ. Здесь анализируются вначале его переписки и выводы по ним, потом дается объяснение свидетельств о слежке OpenAI (у Свежего объяснений нет, как и у многочисленных его критиков, кроме «уязвимостей браузера»); много места уделено критическому разбору его аргументов о «заговоре», а дальше дается таки объяснение поведения нейросети в таких случаях. Все иные объяснения — как предлагаемые Свежим, так и его высмеивателями и критиками — оставляют за бортом те или иные факты, не объясняют всех противоречий этого явления. Я постарался дать объяснение, в котором не было бы ничего упущено.