Clarifai, поставщик платформ для искусственного интеллекта, представил новую функцию управления вычислениями, которая обещает помочь бизнесу оптимизировать использование AI в любой вычислительной среде, снижая затраты и избегая зависимости от одного поставщика.
Эта функция, доступная в предварительном релизе с 3 декабря 2024 года, позволяет организациям управлять рабочими нагрузками AI через единую панель управления, независимо от того, работают ли они в облаке, локально или в изолированной инфраструктуре. Платформа совместима с любыми моделями AI и аппаратными ускорителями, такими как графические процессоры и TPU.
Основатель и генеральный директор Clarifai, Мэтт Зейлер, отметил, что компания всегда стремилась быть впереди, имея более десяти лет опыта в поддержке крупных корпоративных и государственных нужд с помощью полного набора инструментов AI для создания индивидуализированных рабочих нагрузок. "Теперь мы делимся нашими внутренними разработками для оптимизации затрат на вычисления, чтобы обслуживать миллионы моделей одновременно", - добавил он.
Clarifai утверждает, что их платформа может уменьшить использование вычислительных ресурсов в 3,7 раза благодаря оптимизации размещения моделей, поддерживая более 1,6 миллиона запросов в секунду с надежностью 99,9997%. Это может снизить затраты на 60-90% в зависимости от конфигурации.
Функциональные возможности платформы включают:
Автоматизированное управление ресурсами для оптимизации затрат, включая оптимизацию упаковки моделей, упрощение зависимостей и настраиваемое автоматическое масштабирование.
Гибкость развертывания на оборудовании любого поставщика, будь то облачная, локальная или изолированная инфраструктура, а также инфраструктура Clarifai SaaS.
Интеграцию с платформой AI Clarifai для задач маркировки данных, обучения, оценки и обратной связи.
Функции безопасности, позволяющие развертывание в клиентских VPC или локальных кластерах Kubernetes без необходимости открытых входящих портов или пользовательских ролей IAM.
Эта платформа была разработана в ответ на проблемы клиентов Clarifai с производительностью и стоимостью AI. Как отметил один из клиентов: "Если бы мы могли целостно оценить наши текущие затраты и сравнить их с облачными, а затем организовать работу с учетом этих затрат, это было бы невероятно полезно".
Функции управления вычислениями базируются на существующей платформе AI Clarifai, обработавшей более 2 миллиардов операций в области компьютерного зрения, языка и звука. Компания также поддерживает более 99,99% времени безотказной работы и круглосуточную доступность для критически важных приложений. На данный момент функция управления вычислениями доступна в предварительном режиме, и заинтересованные организации могут связаться с Clarifai для получения доступа.