По идее можно в опенроутере использовать ключ OpenAI. Openrouter работает без впна и сам в таком плане будет работать как прокси. А рукод и клайн как раз его по умолчанию поддерживают.
Тут суть все же не в производительности, а в отсутствии зависания страницы для пользователя. На больших данных это действительно бывает проблемой. Сам не так давно переносил работу с огромным компонентом дерева в отдельный воркер, и с точки зрения пользователя работать оно стало гораздо плавнее и приятнее.
Более того, это можно делать через WebRTC, передавая файлы p2p, поэтому не совсем понимаю ценность данного решения, которое ещё и требует полноценного сервера
По идее можно в опенроутере использовать ключ OpenAI. Openrouter работает без впна и сам в таком плане будет работать как прокси. А рукод и клайн как раз его по умолчанию поддерживают.
Тут суть все же не в производительности, а в отсутствии зависания страницы для пользователя. На больших данных это действительно бывает проблемой. Сам не так давно переносил работу с огромным компонентом дерева в отдельный воркер, и с точки зрения пользователя работать оно стало гораздо плавнее и приятнее.
Более того, это можно делать через WebRTC, передавая файлы p2p, поэтому не совсем понимаю ценность данного решения, которое ещё и требует полноценного сервера