ollama в docker потому, что изначально упор идёт на удалённый сервер с gpu, и просто удачно совпало, что на wsl инструкция тоже работает, поэтому добавил
Вообще, контейнеры — популярная тема. Например, в нефтянке, где часто приходится перемещаться с места на место, стационарный ЦОД строить нет смысла. А вот контейнеры выручают. Поскольку информации там очень много собирается (куча датчиков, каждый что-то пишет), то парой серверов не обойтись. А контейнер поставил, подключил — работает. Потом информацию использовали, забэкапили, а контейнер на новый объект увезли.
Подробнее об этом постараемся в следующий раз рассказать. Но для быстрого старта — нормальный рабочий вариант.
Делали специально, как аналог Storagebox. Доступно автоматическое создание пользователей, совместная работа с файлами, можно расшаривать папки. Миграция на Nextcloud с других платформ — без проблем. Будем рады, если пригодится :)
Все с сервером в порядке и там реально на каждый nvme идёт по 4 линии. Я это платформу во время тестов пересобрал наверное раз 20-30. И пометил на картинке от двух процов выведено напрямую на материнку – 8 дисков, остальные 16 через NVME HUB. И да мы проверяли одновременно 24 одиночных диска, мы сильно заморочились проверяя эту платформу
После Второй мировой войны войска союзников изъяли её обычное и химическое оружие и разгружали прям целыми кораблями ящики с гранатами, бомбами и другими боеприпасами в море . Может, и от первой мировой что-то было, но не так массово.
Переходите на решения облачного провайдера Cloud4Y, и мы:
• Снизим ваш текущий счет на облачные услуги
• Бесплатно осуществим миграцию
• Гарантируем уровень отказоустойчивости SLA 99.983% финансово и юридически
В рамках акции мы рассчитаем стоимость каждой инфраструктурной позиции в соответствии с текущими счетами, которые вы оплачиваете своему текущему провайдеру, и предложим лучшую цену.
А ещё у нас:
• Ресурсы в дата центре в Турции и бесплатная миграция
• Лицензии на программное обеспечение Microsoft несмотря на санкции
Свяжитесь с нашим менеджером (email, телефон), чтобы узнать детали или подключить сервисы корпоративного облачного провайдера Cloud4Y! Более подробно о решениях Cloud4Y а нашем сайте.
Можете попробовать на 7B, но это прям совсем впритык будет. Лучше взять 3B
Спасибо за мнение!
Подумаю, смогу ли провести такое сравнение.
Привет!
ollama в docker потому, что изначально упор идёт на удалённый сервер с gpu, и просто удачно совпало, что на wsl инструкция тоже работает, поэтому добавил
Привет! Нам радостно, что статья Как запустить Windows 95 на одноразовом вейпе порадовала вас и хабравчан, но в Технотексте она участвовать не может же? Переводная.
Вообще, контейнеры — популярная тема. Например, в нефтянке, где часто приходится перемещаться с места на место, стационарный ЦОД строить нет смысла. А вот контейнеры выручают. Поскольку информации там очень много собирается (куча датчиков, каждый что-то пишет), то парой серверов не обойтись. А контейнер поставил, подключил — работает. Потом информацию использовали, забэкапили, а контейнер на новый объект увезли.
Подробнее об этом постараемся в следующий раз рассказать. Но для быстрого старта — нормальный рабочий вариант.
Мы будем следить за этим :))
Спасибо!
Карты официальные с официальной поставкой от завода изготовителя
Карты ставятся в специальные платформы для GPU карт, они для этого и предназначены.
Если вдруг будет полезно: У нас есть корпоративное файловое хранилище, связка Nextcloud + ftp. https://www.cloud4y.ru/cloud-services/corp-drive/
Делали специально, как аналог Storagebox. Доступно автоматическое создание пользователей, совместная работа с файлами, можно расшаривать папки. Миграция на Nextcloud с других платформ — без проблем. Будем рады, если пригодится :)
• для raid испльзовали vroc? как решали вопрос с требующимся аппаратным ключом?
Да, тестировали – купили ентерпрайз ключи) Гигабайт поставлял. И не только vroc. Тестировали и LSI 9560 серию. И софтверные рейды тоже.
• у amd имеются подобные технологии vmd/vroc? Увы, не могу ответить на этот вопрос. В сортах amd пока не разбираюсь :))
Вы не совсем верно прочитали диаграмму)
Все с сервером в порядке и там реально на каждый nvme идёт по 4 линии. Я это платформу во время тестов пересобрал наверное раз 20-30. И пометил на картинке от двух процов выведено напрямую на материнку – 8 дисков, остальные 16 через NVME HUB. И да мы проверяли одновременно 24 одиночных диска, мы сильно заморочились проверяя эту платформу
Привет! Пока выключать не планируем. Так что можете попробовать пройти на выходных, например.
Привет! Опубликовали результаты тут: https://habr.com/ru/companies/cloud4y/articles/844090/
Спасибо за участие! Результаты будут скоро :))
А так не будет видно рамку ЭЛТ самого, если кто-то хотел именно похвастать, что на ретро-мониторе запускает
Ваши комментарии прекрасны :)
Спасибо за внимательность, исправили
После Второй мировой войны войска союзников изъяли её обычное и химическое оружие и разгружали прям целыми кораблями ящики с гранатами, бомбами и другими боеприпасами в море . Может, и от первой мировой что-то было, но не так массово.
Спасибо, поправили
Переходите на решения облачного провайдера Cloud4Y, и мы:
• Снизим ваш текущий счет на облачные услуги
• Бесплатно осуществим миграцию
• Гарантируем уровень отказоустойчивости SLA 99.983% финансово и юридически
В рамках акции мы рассчитаем стоимость каждой инфраструктурной позиции в соответствии с текущими счетами, которые вы оплачиваете своему текущему провайдеру, и предложим лучшую цену.
А ещё у нас:
• Ресурсы в дата центре в Турции и бесплатная миграция
• Лицензии на программное обеспечение Microsoft несмотря на санкции
Свяжитесь с нашим менеджером (email, телефон), чтобы узнать детали или подключить сервисы корпоративного облачного провайдера Cloud4Y! Более подробно о решениях Cloud4Y а нашем сайте.