Comments 2
Забавно читать это из мира LLM, потому что в кредитном скоринге та же история двадцать лет: модель выдает балл уверенно, а решение показывать его клиенту или нет принимают правила сверху - какие данные применимы, свежие ли, есть ли право вообще отвечать. Видимо, любой ML рано или поздно упирается в то, что источник важнее модели.
Спасибо, отличная параллель со скорингом и ML.
Мне кажется, здесь действительно есть общая логика: модель может быть сильным источником сигнала, но все равно нужны правила, ограничения и ответственность за итоговые решения.
Для LLM / GenAI своя особенность: модель не только дает оценку или классификацию, а формирует связный текст с похожим ощущением уверенности.
Тут важно поймать баланс между: качеством генерации, управляемостью и минимизацией рисков - иначе это как красивый прототип без достаточной / измеримой продуктовой ценности.
И да, про источники отчасти согласен, для LLM / GenAI важны оба фактора: и модель (соответствующая по силе предметной задаче) и качество источников - т.к. именно из них формируется контекст.
Зачем GenAI-ассистенту platform logic: как управлять источниками, evidence и ответами