Как стать автором
Обновить
18
0
Славик Фурсов @SlavikF

Developer

Отправить сообщение

Уже вышла версия 0.4.6

https://github.com/open-webui/open-webui/releases

Реквестирую статью про использование RAG на базе Open Web UI: или какой-нибудь туториал, или пример использования...

Программы, практически никогда не состоят из одного файла - обычно это десятки или сотни файлов. Исключение - это может быть shell-скрипты и что-то подобное.

И даже если файлы небольшие - как вы их зальёте в GPT?

Ну есть разные сервисы, которые позволяют загружать в контекст множество файлов, но структуры проекты ещё никто не научился понимать.

сотрудники больше не тратят половину рабочего дня на перенос цифр из одной таблицы в другую. Вместо этого они сконцентрировано занимаются тем, что действительно важно: стратегическими задачами

Ну да, конечно, сотрудник который вчера вбивал цифры в таблицу, завтра будет решать стратегические задачи

Позанудствую:

Там, где подпись у скриншота - 158 MB/s downlink - это 1.3Gb/s. Ошибочка

Инвертер и батарея на  100Ah
Инвертер и батарея на  100Ah


Вот такое у меня. Я не очень соображаю как посчитать мм2

Я типа такой систем пробовал с инвертором на 1.2кВт (может держать до 3.6кВт) и один свинцовый аккумулятор 12вольт x 100Ампер-час.

Тянет два холодильника, компьютер. Но как только я попробовал включить кофе-машинку на 1kВт, то напряжение на аккумуляторе упало так, что вся система отключилась.

Интересно, как правильно посчитать какой аккумулятор(ы) нужен, чтобы держать 1кВт в моменте? Я так думаю, что наверное нужно взять литиевый аккумулятор.

А ещё я удивляюсь, за что мы платим когда покупаем брэндовые UPS, когда вот такие системы держат питание намного дольше. Вот только нет подключения по USB / Ethernet.

Я ставил некоторые такие утилиты, пробовал учить hot keys. Как-то "не заходит".

Вот думаю, наверное идеальным решением для меня было бы иметь SSH terminal в браузере, в который всегда можно вернуться именно в уже начатую сессию.

web-terminal - таких полно. А вот, чтобы можно было вернуться в сессию - таких не видел.

А вы где-то видели государство, которое белое и пушистое?

Смешались в кучу кони, люди,

И залпы тысячи орудий

Слились в протяжный вой...

С религиозной точки зрения, супер-способность человека - это творчество.

Так и получается, что с теми знаниями, которые уже есть у человечества - AI превосходит или приближается к уровню учёных.

А вот придумать что-то фундаментально новое - не может.

Кто-то возразит, что AI и музыку пишет, картины рисует, книги пишет... Насколько я смог разобраться - это не творчество AI, а компиляция из данных полученных при тренинге.

А к настоящему творчеству и новым открытиям способен только человек.

А в чём преимущество ставить "для памяти одинаковые значения для реквеста и лимита"?

Мой скрипт на Ubuntu 22 для nVidia Quadro P5000:

##### NVIDIA Drivers
# https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html
sudo apt-get install linux-headers-$(uname -r)
sudo apt-key del 7fa2af80
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get install cuda-toolkit cuda-drivers-550 nvtop
sudo reboot

И Docker c toolkit:

nvidia-smi

##### NVIDIA toolkit for Docker
# https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg   && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list |     sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' |     sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit

###### Docker
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc
echo   "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu $(. /etc/os-release && echo "$VERSION_CODENAME") stable" |   sudo tee /etc/apt/sources.list.d/docker.list
sudo apt-get update
sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker
sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi

CozyStack как-то похоже на Harvester от SUSE. У них тоже идёт в комплекте Grafana, Prometheus, Longhorn. Тоже можно деплоить кластер в кластере.

Или я неправ про аналогию?

Хранилище, где под капотом уже есть LINSTOR с ZFS

Как-то не понял, как получилось скрестить ZFS (низкоуровневая файловая система, в кластер не умеет) и LINSTOR (кластерная файловая система). Хотя на сайте у LINSTOR тоже написано, что эта возможность у них есть из коробки, но интересно почитать, как это работает.

Есть External Libraries. Можно на отдельном диске иметь фото:

https://immich.app/docs/features/libraries/

Я не знаю, можно ли перетягивать уже существующие фото в external library...

А вообще, просто весь Immich переносите на большИй диск, да и всё...

Я все фото держу на HDD 20TB (RAID 1), а thumbnails - на SSD.

Я какое-то время назад пробовал поставить Linux. Но там и не смог понять, почему я не могу перетаскивать файлы и иконки на рабочий стол (desktop). Это такая фишка Linux? Или это надо какое-то специальное рабочее окружение? Подскажите, пожалуйста

Да, только этот ИБП на телефонах дохнет очень быстро, если держать включенным в розетку постоянно.

Получается маловато для суммаризации...

Интересно, что в статье есть совет по поводу выбора процессоров для кластера, но ничего не говорится по поводу выбора файловой системы.

сделать кластер с гипервизорами Proxmox (два и больше сервера работают вместе)

С двумя серверами сделать кластер не получится. Минимум - 3.

Есть вариант 2 servers + witness, но это всё равно получается 3.

И самое главное: где будут храниться диски для виртуалок в кластере? Если в обычной файловой системе (ext4, zfs), то при потери ноды кластер вам никак не поможет, потому что диск с виртуалкой потерян.

Для работы с кластером есть варианты:

  • Кластерная файловая система. У Proxmox для этого есть CephFS, но как по мне она показалась довольно сложной в управлении и поддержке. Но вариант рабочий. Опять же - минимум 3 сервера.

  • Shared file system. То есть NFS на отдельном сервере. Но для домашней лабы в этом смысла нет, потому что при выходе из строя ЕДИНСТВЕННОГО сервера NFS - весь кластер падает, и зачем такой кластер, в котором выход из строя одного компонента ложит весь кластер?

По этой причине, я решил себе для домашней лабы поставить Harvester. Там из коробки:

  • Кластер

  • Гипервизор

  • Kubernetes

  • кластерная файловая система (Longhorn)

  • Всё можно завести на двух серверах + witness, включая файловую систему

Конечно у Harvester есть свои недостатки:

  • ограниченная поддержка прокидывания (pass through): для GPU надо лишние движения делать на хосте, USB pass through обещают в следующей версии

  • нет возможности создавать администраторские аккаунты (или я ещё не разобрался)

Насчёт "полноценный" - тут ещё надо разобраться:

Например, Docker поставить на такой "Debian-Proxmox" можно, но работать он будет криво, потому что Docker настраивает firewall под себя, и при этом сеть слетает у виртуалок. Вот здесь можно посмотреть детали:

https://forum.proxmox.com/threads/running-docker-on-the-proxmox-host-not-in-vm-ct.147580/

Да, можно (и рекомендуется) Docker поставить в виртуалку, но получается несколько слоёв: Server -> VM -> Docker -> программа. Как-то ненадёжно.
В LXC ставить Docker тоже не рекомендуют, уже не помню почему.

1
23 ...

Информация

В рейтинге
5 165-й
Откуда
Seattle, Washington, США
Зарегистрирован
Активность