Microsoft добавила в VS Code полностью автономный режим с локальным ИИ

[SchwarzFuchs]

В инсайдерской версии Visual Studio тоже такое добавили, но есть один неприятный момент, который пока не починили: если модель не отвечает за минуту, IDE думает, что модель повисла и рубит соединение. Пока это не исправили, про модели, которые не помещаются полностью в видеопамять вместе с кэшем, особенно размышляющие, можно забыть.
Не проверял, есть ли такая проблема в VS Code, но вряд ли у них два разных Copilot для VS и VS Code.

[kedzoo]

Таймаут установить в настройках и всё. BTW локальные модели в вскод уже работали давно и не совсем понятно в чем новость.

[SchwarzFuchs]

Так в том и проблема, что на данный момент значение в минуту является захардкоженным, и поменять это, не копаясь в кишках бинарника, нельзя. А новость в том, что для использования локальных инструментов теперь не требуется логиниться в Copilot, раньше требовалось.

[Politura]

например через Ollama

Так-то модели Ollama и раньше можно было добавлять, как минимум в 1.120 я там в списке управления моделей видел Ollama, в 1.122 просто добавили Custom Endpoint, теперь не только Олламу, но и что угодно можно добавить.

[beliy1]

Источник какой-то вторичный. Релизноты говорят, что

The Custom Endpoint provider is currently in preview and only available in VS Code Insiders.

https://code.visualstudio.com/updates/v1_121

[Omaske]

Так уже 122 https://code.visualstudio.com/updates/v1_122
Я поставил и он работает.

[guryanov]

Работает только в чате, автокомплит по прежнему через неизвестную и не настраиваемую модель работает.

[oldzoomer_ru]

У меня вообще не работает. Если что, в гитхабе я залогинен, может поэтому...

UPD: пофиксил специальным плагином. Если что, у меня чистая llama.cpp, не их фронтенды, по типу олламы и лм-студии.