Очень актуально ,в Rust безопасная работа с памятью гарантируется за счет механизма «владения». Оплошности, допускаемые программистами на C при работе с памятью, могут приводить к возникновению массы ошибок и потенциальных уязвимостей, выявление которых является крайне непростой задачей даже при использовании специализированных инструментов анализа кода.
@Develp10 Доброе утро, интересная статья уже и до смартфонов добрались в репозитории на Github ничего про V2 не сказано, поставил на свой телефон с помощью Termux и никакой скорости не заметил, запускал модель Meta-Llama-3-8B-Instruct-Q4_K_M.gguf.
Не понял какие вам нужны подробности, на Github куча новых проектов выбирайте себе какой понравится например anything-llm или open-webui создаёте локально векторную базу и грузите в неё свои документы, так же в этих проектах уже реализован доступ локальной модели в интернет, и всё будет работать как часы, проекты регулярно обновляются и добавляют новые возможности правда 100.000 документов пока не пробовал.
Очень актуально ,в Rust безопасная работа с памятью гарантируется за счет механизма «владения». Оплошности, допускаемые программистами на C при работе с памятью, могут приводить к возникновению массы ошибок и потенциальных уязвимостей, выявление которых является крайне непростой задачей даже при использовании специализированных инструментов анализа кода.
Кто мешает снять OneDrive с автозагрузки и не входить в него ,по умолчанию никакое копирование не производится.
@Develp10 Доброе утро, интересная статья уже и до смартфонов добрались в репозитории на Github ничего про V2 не сказано, поставил на свой телефон с помощью Termux и никакой скорости не заметил, запускал модель Meta-Llama-3-8B-Instruct-Q4_K_M.gguf.
Не понял какие вам нужны подробности, на Github куча новых проектов выбирайте себе какой понравится например anything-llm или open-webui создаёте локально векторную базу и грузите в неё свои документы, так же в этих проектах уже реализован доступ локальной модели в интернет, и всё будет работать как часы, проекты регулярно обновляются и добавляют новые возможности правда 100.000 документов пока не пробовал.
При наличии opensource векторных баз данных подключенных через RAG к LLM отпадает надобность писать заметки.