Итак JEV

TypeSafe выпустили Jev. Это модель, которая может отвечать на структурированные вопросы по любому массиву данных почти мгновенно и дёшево (оплата только за input tokens).

Типов вопросов может быть три:

Noul — да/нет → вероятность.

Choice — выбрать один вариант из заданного списка → распределение вероятностей по вариантам.

Score — оценка на шкале → score + распределение/уверенность.

То есть берём, например, новый входящий счёт, добавляем к нему нужный контекст — договор, прошлые счета, PO, данные поставщика — и задаём Jev набор заранее определённых вопросов:

«Это дубликат счёта?»  

«Сумма соответствует договору?»  

«Есть признаки мошенничества?»  

«Поставка подтверждена?»  

«Что делать: PAY / HOLD / REVIEW?»

Jev не пишет текстовый ответ, а очень быстро возвращает вероятности по каждому варианту:

"duplicate": {

    "yes": 0.97,
    "no": 0.03

  },

  "amount_matches_contract": {

    "yes": 0.22,
    "no": 0.78

  },

  "fraud_risk": 0.08,

  "delivery_confirmed": {

    "yes": 0.94,
    "no": 0.06

  },

  "action": {

    "PAY": 0.05,
    "HOLD": 0.18,
    "REVIEW": 0.77
  }
}

На все заданные вопросы Jev отвечает сразу — то есть количество вопросов не влияет на скорость ответа.

Штука интересная — будем прикручивать к AI-ботам и RAG-пайплайнам.

Больше по теме тут.