Как научить ИИ переносить информацию с бумаги в ERP
Для автоматизации бизнес-процессов часто требуется обработка бумажных документов со сложной структурой — например, счетов или накладных. Разбирать такие документы вручную долго, но, к счастью, процесс можно автоматизировать с помощью ИИ.
Мы в таких случаях используем Datapipe — инструмент с открытым исходным кодом. Он помогает нам построить пайплайн обработки данных. Он устроен так:
Данные, размеченные модератором в Label Studio, автоматически загружаются в пайплайн.
Размеченные данные добавляются в т. н. «замороженный датасет» — он больше не изменяется и используется для обучения ML-моделей.
Затем разбиваем данные на две части:
Тренировочный набор (train) — для обучения модели.
Проверочный набор (val) — для проверки и оценки качества модели.
Изображения подвергаются трансформации: каждая картинка делится на более мелкие сегменты (кропы) для облегчения обучения модели. В каждом кропе выделяются еще более мелкие области, чтобы улучшить точность детекции и классификации.
Приступаем к последовательному обучению моделей. Сначала обучаются модели для детекции объектов (YOLOv5), а затем применяются OCR-модели (Google Cloud Vision OCR) для распознания текста.
Последовательное тестирование моделей. После каждого обучения модели проводится процесс предсказания результатов на тренировочных и тестовых данных. Подсчитываем метрики качества, и модель с лучшими показателями внедряем в рабочую среду.