я играюсь с бертом. Думал сортировать ответы по логитам, но эта "уверенность" для этого не очень подходит: очень часто "подходящие" ответы имеют меньшее значение.
Ещё заметил, что на результат часто влияет наличие "?" в конце вопроса.
И squad_ru_bert_infer выдает лучше результаты на иностранных текстах чем squad_bert_infer.
На счет 4г GPU — уменьшил max_seq_length до 4 :) — всё равно не влезает.
ПС: сейчас ответ по контексту в облаке что-то не работает
SAML появился только в версии 6.2.0. Описанный костыль, как уже упомянуто, будет работать начиная с 5.6.2.
Я еще SAML не настраивал, поэтому ничего про этот вариант сказать не могу. Надо посмотреть, как там моя любимая фича "unmapped_groups_as_roles: true" будет работать.
я играюсь с бертом. Думал сортировать ответы по логитам, но эта "уверенность" для этого не очень подходит: очень часто "подходящие" ответы имеют меньшее значение.
Ещё заметил, что на результат часто влияет наличие "?" в конце вопроса.
И
squad_ru_bert_inferвыдает лучше результаты на иностранных текстах чемsquad_bert_infer.На счет 4г GPU — уменьшил max_seq_length до 4 :) — всё равно не влезает.
ПС: сейчас ответ по контексту в облаке что-то не работает
со
"ans_start_predicted","logits"вроде разобрался )"ans_start_predicted", "logits"?scoreв вывод?"batch_size": 1в конфиге не помогаетСпасибо!
SAML появился только в версии 6.2.0. Описанный костыль, как уже упомянуто, будет работать начиная с 5.6.2.
Я еще SAML не настраивал, поэтому ничего про этот вариант сказать не могу. Надо посмотреть, как там моя любимая фича "
unmapped_groups_as_roles: true" будет работать.