Сжать четыре токена в один вектор: запускаем автоэнкодер CALM на доменных данных (и на одном CPU)

[Andriljo]

Остаётся вопрос, зачем CALM, если есть текст диффузии, которые эту же проблему решают и схожи.

[slavb18]

Спасибо за точный комментарий! Диффузия действительно решает похожие проблемы генерации, и я обязательно до нее дойду - тема в планах.

Сейчас я последовательно изучаю семейство подходов с латентными векторными пространствами на базе традиционной авторегрессии (CALM, ConceptLM и концепт-модели в целом). Цель - оценить, насколько эффективно такие “смыслы-векторы” применимы в прикладных HR-задачах (анализ вакансий, выравнивание грейдов, семантический поиск кандидатов).