Комментарии 7
Оффлайн версия, для запуска у себя, будет?
На данный момент оффлайн версия не предоставляется, так как сервис заточен под массовый сегмент B2C.
Но мы рассматриваем возможность запуска платформы в формате On-Premise в рамках B2B направления, запуск которого запланирован на Q4 2023.
RTX 4090 и/или Xeon 18 ядер 256 Gb потянет?
CPU точно нет, хотя и существуют программные адаптеры, но там скорость катастрофически низкая.
На один поток инференса сейчас необходимо аллоцировать примерно 50-60гб GPU, поэтому кроме A100 альтернатив нормальных мало.
Если тема вам действительно интересна, просьба в ЛС поделиться подробностями кейса и написать, какую потребность вы хотите закрыть локальным решением, и почему не подходит облако (например, в режиме АПИ).
это не GPT или его вариация
Чувствую себя дураком
Облачная платформа RoboText.io представила новую нейросеть собственной разработки