Взаимодействие «LLM — Человек»: с чем мы имеем дело — с «псевдоличностью» или алгоритмом?

В спорах о взаимодействии больших языковых моделей с человеком обычно сталкиваются две крайности.

Первая: стоит достаточно долго пообщаться с LLM — и перед нами уже не инструмент, а почти «личность». Появляются устойчивые черты «характера» и что-то похожее на намерения и эмоции. Да, это имитация. Но настолько точная, что некоторые уже говорят о «короткоживущих идентичностях» и едва ли не о новом классе «Я». Потом обычно следуют либо восторги и ожидания прекрасного цифрового будущего, либо алармизм в духе «Скайнет уже близко».

Вторая: да ладно.

Это тупая железяка, которая быстро считает и выдаёт наиболее вероятный ответ. Всё остальное — антропоморфизация. Мы просто приписываем цифровой кукле человеческие свойства.

Обе позиции не безосновательны. Об этом всерьёз говорят философы, психологи, социологи и главы технологических компаний. Позже я вернусь к аргументам обеих сторон.

Но тогда почему одна и та же модель ведёт себя так по-разному?

Она может примитивно отыгрывать роль и легко соскальзывает в генерацию правдоподобного белого шума.

И она же — спокойно принимает критику, не уходит в лесть и остаётся точной, внутренне согласованной системой, способной анализировать собственное поведение. 

Ни «это просто железка», ни «это уже новое „я“» сами по себе этого не объясняют. 

Почему?

Я постараюсь ответить на этот вопрос в следующем посте. Про Дэвида Чалмерса и Андрея Карпати писали уже много. Но где-то в столе у меня лежит диплом психфака - это позволяет взглянуть на проблему с другой стороны.