Пользователь
Скажите, а чтобы дотюнить ее на свой домен, и не потерять в ризонинге, то как лучше:тюнить в bf16 весах, а потом квантизовать для инференса; или сразу квантизованную тюнить?
Скажите, а чтобы дотюнить ее на свой домен, и не потерять в ризонинге, то как лучше:
тюнить в bf16 весах, а потом квантизовать для инференса; или сразу квантизованную тюнить?