sssrgei Jul 11 at 11:57

Как я подружил Yandex Cloud и Gemini API без миграции на зарубежные сервера

Medium

4 min

2.9K

Node.JS*JavaScript*TypeScript*Cloud services*Information Security*

Case

+11

Comments 12

un1t Jul 11 at 12:11

Vpn тут не нужен же, можно просто прокси развернуть.

Амнезия умеет работать как сокс прокси?

sssrgei Jul 11 at 12:24

Да, умеет

Kassiy_Pontiy_Pilat Jul 11 at 12:55

Socks прокси тоже уже режут на известные адреса хостеров. На мтс сейчас ни socks ни shadowsocks и даже в последнее время vless толком не работает если адрес прокси не в россии

sssrgei Jul 11 at 13:01

Это же серверный код, вряд ли МТС как-то влияет на сервера яндекс, не через мобильную же дата центр подключен.

Kassiy_Pontiy_Pilat Jul 11 at 13:06

Я просто пример привёл. У разных провайдеров даже в разных регионах все по-разному. Но вероятность , что гайки закрутят постепенно везде высокая. Поэтому амнезия хороший выбор

sssrgei Jul 11 at 13:08

Согласен, что стратегически это не годится, как продакшн решение, но чтобы по быстрому протестировать гипотезу, вполне.

AnaSergeeva Jul 11 at 13:45

а как-то обрабатывается ситуация, когда к примеру все прокси разом легли или список закончился? Есть какой-то фоллбэк или сервис упадет с ошибкой?

sssrgei Jul 11 at 13:58

Сервис не упадет, а у функции выскочит исключение, которое сервис должен обработать.

Jacov911 Jul 11 at 17:28

Был уверен что прочитаю, как вы написали "прослойку" для api и развернули на том же google cloud, куда стучитесь за gemini, это было бы логичнее, как мне кажется

sssrgei Jul 11 at 18:27

Я не очень знаком с инфраструктурой Google Cloud, был один пет проект давно и немного забыл все, за 30 минут не поднял бы точно, а сервера на амнезии у меня давно используются для других нужд, поэтому мне было просто по клику получить новые креды и подключиться. Если бы я мог использовать гугл клауд, мне бы и не надо было стучаться из яндекс клауда, но там все по другому, вплоть до бд (firebase vs ydb). Если гипотеза выстрелит, то можно будет подумать над более целевым решением, может и без gemini, альтернативы есть.

SabMakc Jul 12 at 09:09

Вариант обучать собственную модель отпал сразу — опыта у меня в этом не было, а искать кого-то, кто сможет это сделать, не было времени, так как хотелось быстро запустить.

Создается впечатление, что "обучить свою модель" - дело на пять минут, максимум несколько часов.

P.S. рассматривали ли запуск открытой модели на своих ресурсах? В Yandex Cloud можно и GPU арендовать...

sssrgei Jul 13 at 16:28

Пока никаких вариантов не рассматривал, для теста гипотезы это не нужно. По результатам теста буду смотреть все варианты.