Comments 8
Устал читать, слишком много текста.
Я тоже устал, но справился. Сокращу для вас: "потому что так и задумано".
Ну, вообще, как раз наоборот:
По словам авторов, Anthropic не знала бы, как создать ИИ-ассистента, который не ведёт себя как человек, даже если бы захотела. Точное предсказание текста требует моделирования психологии — целей, убеждений, черт характера, — и модель неизбежно переносит эти качества на своего "персонажа".
Хм... Согласен.
Я просто с другой стороны смотрел:
Согласно модели выбора персоны (persona selection model, PSM), во время предобучения языковая модель учится имитировать тысячи персонажей из обучающих данных — реальных людей, литературных героев, вымышленных роботов.
То есть сама идея выбора персонажа заложена в идею обучения. А вот это:
По словам авторов, Anthropic не знала бы, как создать ИИ-ассистента, который не ведёт себя как человек, даже если бы захотела.
Для меня звучит скорее как: "у нас нет нечеловеческих данных, чтобы обучить нейронку". А не то, что мы не можем.
Старая добрая мысль: "Как мы к вам — так и вы к нам". Напиши LLM-ке сложный вопрос языком школьника, и она тебе выдаст бред. Напиши тот же вопрос языком профессора, и она вполне вероятно, ответит хорошо. Antrophic сказали то же самое, только в профиль.
Офигенные выводы, на самом деле.
И я невероятно рад, что пользуюсь лучшей нейронкой.
Anthropic объяснила, почему ИИ ведет себя как человек — и почему иначе не получится