Сбер открывает доступ к нейросетевой модели ruGPT-3.5

я пробовал, валиться на первом же этапе конвертации в ggml fp16 формат.

Вы бы выложили веса модели хотя бы в стандартном hugging face FP16, а то так хрен запустишь генерацию стандартными методами даже на RTX 4090, что вообще какое-то безобразие для такой сравнительно небольшой модели.

HashiСorp Vault & Kubernetes Secret: используем vault-secrets-operator

А смысл использовать сторонний vault-operator, когда официальный vault-agent, который ставится официальным же чартом, позволяет в аннотациях указать, какие секреты из волта нужны deployment'у?

     annotations:
        vault.hashicorp.com/agent-inject: "true"
        vault.hashicorp.com/role: "consul-agent"
        vault.hashicorp.com/secret-volume-path: "/consul/config"
        vault.hashicorp.com/agent-inject-secret-ca.crt: "consul-pki/issue/agent"
        ...