Microsoft начала использовать инфраструктуру Oracle для поддержки Bing Chat. Некоторые модели машинного обучения, используемые Bing Search, перенесут в суперкластер графических процессоров Oracle в рамках многолетнего соглашения.

«Наше сотрудничество с Oracle и использование инфраструктуры Oracle Cloud вместе с инфраструктурой искусственного интеллекта Microsoft Azure расширит доступ для клиентов и улучшит скорость получения многих результатов поиска», — пояснили в Microsoft.

Компания решила использовать преимущество Oracle Interconnect для Microsoft Azure, которое позволяет сервисам, работающим в Azure, взаимодействовать с ресурсами в Oracle Cloud Infrastructure (OCI). Ранее эту службу использовали, чтобы позволить клиентам подключать рабочие нагрузки, выполняемые в Azure, обратно к базам данных OCI. В этом случае Microsoft использует систему вместе со своей службой Azure Kubernetes для оркестровки узлов графического процессора Oracle.

Oracle утверждает, что облачные суперкластеры, которые, предположительно, будет использовать Bing, могут масштабироваться каждый до 32 768 графических процессоров Nvidia A100 или 16 384 графических процессоров H100 с использованием сети удалённого прямого доступа к памяти (RDMA) со сверхнизкой задержкой.