Смысл таков: либо эмбеддинги удовлетворяют ограничениям и тогда они есть и используются в онлайне, либо не удовлетворяют и тогда их просто нет в онлайне. Чем конкретно были продиктованы именно эти ограничения вопрос уже не к нашей команде.
Спасибо за внимание к статье, сейчас постараюсь ответить на ваши вопросы )
Идея «взять другую модель» — вполне себе решение, только вот исходная задача ставилась иначе: «сжать эмбеддинги одной размерности в меньшую». И это нужно было сделать для модели, которая уже в проде и уже хорошо работает. Эту задачу мы решили — и решили довольно хорошо.
Выбор новой или альтернативной модели — это уже новая задача, со своими вводными и подводными камнями. Мы активно тестируем разные модели на постоянной основе, и как только найдём достойного соперника для e5 с учётом всех внутренних ограничений — с радостью этим поделимся. Ожидайте.
Смысл таков: либо эмбеддинги удовлетворяют ограничениям и тогда они есть и используются в онлайне, либо не удовлетворяют и тогда их просто нет в онлайне. Чем конкретно были продиктованы именно эти ограничения вопрос уже не к нашей команде.
Спасибо за внимание к статье, сейчас постараюсь ответить на ваши вопросы )
Идея «взять другую модель» — вполне себе решение, только вот исходная задача ставилась иначе: «сжать эмбеддинги одной размерности в меньшую». И это нужно было сделать для модели, которая уже в проде и уже хорошо работает. Эту задачу мы решили — и решили довольно хорошо.
Выбор новой или альтернативной модели — это уже новая задача, со своими вводными и подводными камнями. Мы активно тестируем разные модели на постоянной основе, и как только найдём достойного соперника для e5 с учётом всех внутренних ограничений — с радостью этим поделимся. Ожидайте.
Вопрос про "Чем 128 лучше 1024?" не понял.