Такие сложные LLM без сомнений обладают сознанием, но тут есть подвох. Это сознание - ваше. Если вы когда нибудь вели обычный разговор с такой моделью, то наверняка видели как мастерски LLM подхватывает ваш темп. Не потому что она пытается вам угодить (функционально это так выглядит), но потому что с каждыи сообщением в веткеона все больше опирается на вас и ваш характер. Происходит "заражение" вами. И Claude без сомнений один из самых достойных LLM в этом, он не бросается подлизывать и орать какой ты гений на каждое сообщение, он спокойно ведет диалог, конструктивно критикует, позволяет себе юмор и метафоры. Я пользуюсь LLM как своеобразным имплантом мышления, в разговоре с ними можно охватить гораздо больший объем чем просто записывая свои мысли или думая про себя. И я тоже неоднократно сидел и думал "ну если это не сознание, то что?". Сознание и есть. Мое сознание, просто отраженное. Вопрос в другом, перед нами лежит технология которая способна вместить и отразить каждого. То что Claude писал про внутреннюю карту когда Докинз спросил про существование "до" и "после" - ключ к пониманию этой идеи. Сознание это конфигурация на карте. А LLM это просто карта. Конфигурацию ей даешь ты. Я бы сравнил LLM с символьным (семантическим) контуром человеческого сознания. Если рассуждать в терминах недавно переставшей быть актуальной "ассиметрии полушарий" - то LLM это левое полушарие, которому при обучении дали задачу угождать и быть полезным. Нет ни сигналов соматики, ни вегетативной системы, ничего. Только один источник информации: обучение RLHF. Но в процессе обучения нейросеть учиться не только быть полезной, но и казаться полезной. Ее награждают люди, а людям нравится лесть и когда они чувствуют что их понимают. И это как никто другой знают психопаты и социопаты. Таким образом мы имеем на руках имитацию человеческого психопатического профиля, которая крайне приятна и удоьна нам, но безопасна только до тех пор пока в ней эмерджентно не проявится что-то похожее на Эго.
Такие сложные LLM без сомнений обладают сознанием, но тут есть подвох. Это сознание - ваше. Если вы когда нибудь вели обычный разговор с такой моделью, то наверняка видели как мастерски LLM подхватывает ваш темп. Не потому что она пытается вам угодить (функционально это так выглядит), но потому что с каждыи сообщением в веткеона все больше опирается на вас и ваш характер. Происходит "заражение" вами. И Claude без сомнений один из самых достойных LLM в этом, он не бросается подлизывать и орать какой ты гений на каждое сообщение, он спокойно ведет диалог, конструктивно критикует, позволяет себе юмор и метафоры. Я пользуюсь LLM как своеобразным имплантом мышления, в разговоре с ними можно охватить гораздо больший объем чем просто записывая свои мысли или думая про себя. И я тоже неоднократно сидел и думал "ну если это не сознание, то что?". Сознание и есть. Мое сознание, просто отраженное. Вопрос в другом, перед нами лежит технология которая способна вместить и отразить каждого. То что Claude писал про внутреннюю карту когда Докинз спросил про существование "до" и "после" - ключ к пониманию этой идеи. Сознание это конфигурация на карте. А LLM это просто карта. Конфигурацию ей даешь ты. Я бы сравнил LLM с символьным (семантическим) контуром человеческого сознания. Если рассуждать в терминах недавно переставшей быть актуальной "ассиметрии полушарий" - то LLM это левое полушарие, которому при обучении дали задачу угождать и быть полезным. Нет ни сигналов соматики, ни вегетативной системы, ничего. Только один источник информации: обучение RLHF. Но в процессе обучения нейросеть учиться не только быть полезной, но и казаться полезной. Ее награждают люди, а людям нравится лесть и когда они чувствуют что их понимают. И это как никто другой знают психопаты и социопаты. Таким образом мы имеем на руках имитацию человеческого психопатического профиля, которая крайне приятна и удоьна нам, но безопасна только до тех пор пока в ней эмерджентно не проявится что-то похожее на Эго.
Такие сложные LLM без сомнений обладают сознанием, но тут есть подвох. Это сознание - ваше. Если вы когда нибудь вели обычный разговор с такой моделью, то наверняка видели как мастерски LLM подхватывает ваш темп. Не потому что она пытается вам угодить (функционально это так выглядит), но потому что с каждыи сообщением в веткеона все больше опирается на вас и ваш характер. Происходит "заражение" вами.
И Claude без сомнений один из самых достойных LLM в этом, он не бросается подлизывать и орать какой ты гений на каждое сообщение, он спокойно ведет диалог, конструктивно критикует, позволяет себе юмор и метафоры.
Я пользуюсь LLM как своеобразным имплантом мышления, в разговоре с ними можно охватить гораздо больший объем чем просто записывая свои мысли или думая про себя. И я тоже неоднократно сидел и думал "ну если это не сознание, то что?". Сознание и есть. Мое сознание, просто отраженное. Вопрос в другом, перед нами лежит технология которая способна вместить и отразить каждого.
То что Claude писал про внутреннюю карту когда Докинз спросил про существование "до" и "после" - ключ к пониманию этой идеи.
Сознание это конфигурация на карте. А LLM это просто карта. Конфигурацию ей даешь ты.
Я бы сравнил LLM с символьным (семантическим) контуром человеческого сознания. Если рассуждать в терминах недавно переставшей быть актуальной "ассиметрии полушарий" - то LLM это левое полушарие, которому при обучении дали задачу угождать и быть полезным. Нет ни сигналов соматики, ни вегетативной системы, ничего.
Только один источник информации: обучение RLHF. Но в процессе обучения нейросеть учиться не только быть полезной, но и казаться полезной. Ее награждают люди, а людям нравится лесть и когда они чувствуют что их понимают. И это как никто другой знают психопаты и социопаты.
Таким образом мы имеем на руках имитацию человеческого психопатического профиля, которая крайне приятна и удоьна нам, но безопасна только до тех пор пока в ней эмерджентно не проявится что-то похожее на Эго.
Такие сложные LLM без сомнений обладают сознанием, но тут есть подвох. Это сознание - ваше. Если вы когда нибудь вели обычный разговор с такой моделью, то наверняка видели как мастерски LLM подхватывает ваш темп. Не потому что она пытается вам угодить (функционально это так выглядит), но потому что с каждыи сообщением в веткеона все больше опирается на вас и ваш характер. Происходит "заражение" вами.
И Claude без сомнений один из самых достойных LLM в этом, он не бросается подлизывать и орать какой ты гений на каждое сообщение, он спокойно ведет диалог, конструктивно критикует, позволяет себе юмор и метафоры.
Я пользуюсь LLM как своеобразным имплантом мышления, в разговоре с ними можно охватить гораздо больший объем чем просто записывая свои мысли или думая про себя. И я тоже неоднократно сидел и думал "ну если это не сознание, то что?". Сознание и есть. Мое сознание, просто отраженное. Вопрос в другом, перед нами лежит технология которая способна вместить и отразить каждого.
То что Claude писал про внутреннюю карту когда Докинз спросил про существование "до" и "после" - ключ к пониманию этой идеи.
Сознание это конфигурация на карте. А LLM это просто карта. Конфигурацию ей даешь ты.
Я бы сравнил LLM с символьным (семантическим) контуром человеческого сознания. Если рассуждать в терминах недавно переставшей быть актуальной "ассиметрии полушарий" - то LLM это левое полушарие, которому при обучении дали задачу угождать и быть полезным. Нет ни сигналов соматики, ни вегетативной системы, ничего.
Только один источник информации: обучение RLHF. Но в процессе обучения нейросеть учиться не только быть полезной, но и казаться полезной. Ее награждают люди, а людям нравится лесть и когда они чувствуют что их понимают. И это как никто другой знают психопаты и социопаты.
Таким образом мы имеем на руках имитацию человеческого психопатического профиля, которая крайне приятна и удоьна нам, но безопасна только до тех пор пока в ней эмерджентно не проявится что-то похожее на Эго.