Comments 6
В эмбеддерах нет bge-m3, а очень зря.
Из каких документов состоит ваш корпус данных? Это чистый текст в формате docx? есть ли в них таблицы, встроенные приложения в документы? сканы, excel, диаграммы, схемы, встроенные в текст изображения? схемы BPMN ? вы проводите пред обработку документов в markdawn? размечаете метаданные?
я собираю бота по корпоративным нормативным знаниям предприятия: приказы, положения, регламенты, порядки, инструкции.
В базе:
- 858 PDF - решения СИП, скачаны с Caselook
- 1 687 DOCX - тоже решения СИП, скачаны с Caselook
- 1 PDF - ГК РФ Часть 4 (с учётом поправок ФЗ-214, но отдельного файла закона нет)
Формат документов - чистый юридический текст. Таблицы в части DOCX-файлов есть - они обрабатываются. Сканов, изображений, BPMN нет.
Предобработки в Markdown нет - документы читаются напрямую (PDF через PyMuPDF, DOCX через python-docx).
Метаданные размечаются- имя файла, номер документа, позиция чанка внутри документа.
Проверьте эмбеддинги qwen3-embedding-8b, pplx-embed-4b от perplexity, я уверен, что один из них точно будет в топе. bge m3 нужно локально использовать с его мультивекторной фичей, сам по себе он слабый
Бенчмарк 7 эмбеддингов и 4 реранкеров на корпусе судебной практики