Сервис «Рег.облако» представил приватного ИИ-ассистента для работы с конфиденциальными данными. Решение предназначено для компаний, которые не могут использовать публичные облачные сервисы из-за строгих требований к безопасности и конфиденциальности данных.
Ассистент реализован по модели HaaS (Hardware-as-a-Service). Решение представляет собой изолированную версию облачного ИИ-ассистента, которую можно развернуть на оборудовании заказчика или в выделенном сегменте дата-центров компании. В отличие от облачной версии, приватный ИИ-ассистент работает в полностью изолированном контуре.
«Рег.облако» берёт на себя техническую поддержку инфраструктуры с широким ассортиментом предустанавливаемых открытых ИИ-моделей. Донастройку и интеграцию решения под конкретные бизнес-задачи компании могут выполнять самостоятельно или с привлечением партнёров-интеграторов.
Решение поставляется в виде мощных серверов с графическими ускорителями. На серверах размещается образ на базе платформы Ollama с предустановленными ИИ-моделями и веб-интерфейсом. В основе серверных конфигураций используются высокопроизводительные графические процессоры NVIDIA, среди которых решения H100 и H200 с 80 ГБ и 141 ГБ памяти соответственно, а также карты серий A100, L40S и A6000.
Серверы поддерживают установку до восьми видеокарт и комплектуются мощными процессорами, оперативной памятью до 4 ТБ и быстрыми накопителями NVM. Архитектура сервиса позволяет проводить аттестацию для соответствия строгим стандартам, включая ФЗ-152 о персональных данных и требования ФСТЭК России.
