Уф, отдельная история комьюта выделенного на это, пробовали runpod по началу, но сейчас остановились на сотрудничестве с одним сервисом, они скоро выйдут на рынок и мы обьявим об этом (скорее всего), но пока краткий ответ: используем партнерские мощные сервера, позволяющее до 200 интервью одновременно в лайвтайме. Пока что это покрывает потребности, если (надеюсь) ситуация с количеством юзеров изменится, горизонтально масштабироваться не будет проблемой!
так, по порядку: Вся обработка на нашем сервере - поэтому какой у вас компьютер вообще не имеет разницы (желательно интернет стабильный иметь) Касаемо 400мс - это задержка уже "Я сказал - программа показала текст", разница может быть только из-за стабильности сети (не критичная)
Слушайте, сейчас довольно быстро ии компании развиваются и я честно могу допустить, что дела с OpenAI API стали лучше, и я скажу больше - Вы меня заинтриговали! Я на выходных проведу актуальные тесты нашей модели против опенаи, самому очень интересно будет пронаблюдать за разницей! Спасибо за инсайт еще раз
Да, но возможно описал немного не так)) В 3 строки сплошного текста, информацию не додумывает!)
ничего не работает - значит ничего не нужно чинить, одни плюсы!
Уф, отдельная история комьюта выделенного на это, пробовали runpod по началу, но сейчас остановились на сотрудничестве с одним сервисом, они скоро выйдут на рынок и мы обьявим об этом (скорее всего), но пока краткий ответ: используем партнерские мощные сервера, позволяющее до 200 интервью одновременно в лайвтайме. Пока что это покрывает потребности, если (надеюсь) ситуация с количеством юзеров изменится, горизонтально масштабироваться не будет проблемой!
так, по порядку:
Вся обработка на нашем сервере - поэтому какой у вас компьютер вообще не имеет разницы (желательно интернет стабильный иметь)
Касаемо 400мс - это задержка уже "Я сказал - программа показала текст", разница может быть только из-за стабильности сети (не критичная)
Слушайте, сейчас довольно быстро ии компании развиваются и я честно могу допустить, что дела с OpenAI API стали лучше, и я скажу больше - Вы меня заинтриговали! Я на выходных проведу актуальные тесты нашей модели против опенаи, самому очень интересно будет пронаблюдать за разницей! Спасибо за инсайт еще раз
Хах, звучит как вызов, проверим?)