В предыдущей статье мы рассказывали, как тестировали сервер с одной RTX 5090. Теперь же мы решили установить в сервер две видеокарты RTX 5090. И это также вызвало у нас определённые проблемы, но результат того стоил.

Несмотря на огромный дефицит, нам удалось достать несколько карт GeForce RTX 5090 и протестировать одну из них. Не все так однозначно, как обещал глава NVIDIA, но результаты интересные и внушают оптимизм для применения GPU для ИИ задач.

Связку из Ollama и OpenWebUI я использую больше года, и она является моим рабочим инструментом в части работы с документацией и контентом и по-настоящему ускорила работу по локализации документации HOSTKEY на другие языки. Но жажда исследований не отпускает, и с появлением относительно вменяемой документации к API у OpenWebUI возникло желание написать что-то, автоматизирующее работу. Например, перевод документации из командной строки.

Хотите использовать OpenWebUI для генерации изображений? Мы написали пошаговую инструкцию, как поставить и подключить к нему ComfyUI, установить модель StableDiffusion 3.5, настроить доступ к API и автоматизировать процесс для удобной работы.

OpenWebUI обновился до версии 0.5.12! Узнайте, какие новые функции появились в версиях 0.5.x: асинхронные чаты, Code Interpreter, поддержка Kokoro‑JS TTS, улучшенный интерфейс работы с моделями, авторизация через LDAP и многое другое.

Мы протестировали сервер GIGABYTE R283-ZK0-AAL1 с 48 слотами RAM. Экономия на планках памяти, температурные показатели и тесты производительности – все подробности в нашем обзоре.

Языковые нейросетевые модели как только не тестировали: от решения олимпиадных задач до создания шедевров мировой литературы. У нас же родилась идея протестировать их на более прикладном уровне. А именно, сможет ли нейросеть играть по правилам в настольную игру, которая сложнее, чем крестики-нолики, и заодно посмотреть, как поведет себя в работе с LLM связка из четырех видеокарт Radeon RX 7900 XTX с 24 гигабайтами видеопамяти.

Представьте, что на одной из множества ваших виртуальных машин, работающих на oVirt, начнет давать сбой диск в одном из узлов? Мы в Hostkey используем связку smartctl_exporter совместно с Prometheus и Grafana чтобы отследить этот момент и успеть принять меры и хотим поделиться с вами нашим опытом.

Попыток совместить компьютерные и настольные игры предпринималось и предпринимается столько, сколько существуют сами компьютеры (а настольные игры вообще были еще до нашей эры). И если сейчас это заигрывание с виртуальной реальностью, QR-кодами, голосовыми помощниками или виртуальными гейм-мастерами, то еще в 1980 году была создана настольная игра, в которой компьютер отвечал и за генерацию случайного игрового поля и за поведение одного из игровых персонажей.

Медиакомбайн с веб-интерфейсом для работы с LLM-моделями Open WebUI за последний месяц серьезно обновился дважды (сначала до версии 0.3.35, а затем — до стабильной версии 0.4.5), которые привнесли множество полезных изменений. Поскольку мы используем его в нашем AI-чат-боте, то хотим рассказать, какие новшества и улучшения они привнесли и на что стоит обратить внимание при обновлении.

В статье мы хотим рассказать о том, как мы упростили жизнь нашим клиентам и перешли к удаленному администрированию серверов через веб-интерфейс в том числе и для IPMI.

Мы потратили определенное время на поиски проблем, из-за которых TS3 Manager не работал как нужно (от невозможности залогиниться до проблем с отображением серверов), поэтому решили облегчить жизнь тем, кто пойдет по нашем пути и написали данную статью.

Open WebUI — веб интерфейс с открытым исходным кодом, предназначенный для работы с различными LLM-интерфейсами, такими как Ollama или другими совместимыми с API от OpenAI. Он продолжает развиваться, но его документация не успевает за всеми этими изменениями. Поэтому мы решили дать 10 советов, которые помогут вам раскрыть потенциал Ollama, Stable Diffusion и самого Open WebUI.

Моему серверу 4U 71 TiB ZFS, собранному из двадцати четырех 4-терабайтных дисков, уже больше десяти лет и он всё ещё отлично работает. Хотя сейчас у него уже вторая материнская плата и блок питания, система до сих пор не столкнулась ни с одной поломкой дисков (стучу по дереву). Как же мне удалось добиться отсутствия отказов дисков в течение десяти лет?

В сфере электронной коммерции предприниматели стоят перед важным выбором: использовать готовые SaaS-решения или разворачивать собственную инфраструктуру. Это решение может значительно повлиять на бюджет, гибкость и масштабируемость бизнеса. С одной стороны, платформы вроде Tilda и «Битрикс24» обеспечивают быстрый запуск проекта и минимизируют технические сложности (которых может быть немало). С другой стороны, установка того же WordPress с плагином WooCommerce на арендованный виртуальный сервер (или другого решения с открытым исходным кодом) дает полный контроль над магазином, но требует от предпринимателя определенных технических навыков, впрочем, это не так сложно как кажется на первый взгляд — это не рокет сайнс.

Игры, которые можно было положить в карман и играть в любом месте начались не с GameBoy или GameGear и даже не с пресловутого Game&Watch. В 70-х годах с развитием микроэлектронной базы появились и как первые видеоигры, так и игры, которые можно было держать в руках (handled games или pocket games). Более того, на рынке уже были и продолжали выпускаться карманные игры, которые вообще не требовали батареек, то есть были механическими. Давайте посмотрим, в какие прообразы карманных приставок могли играть дети в то время.

Установка драйверов для видеокарт от Nvidia с одной стороны сейчас не вызывает столько проблем, как было еще 10–15 лет назад, с другой стороны если с драйверами еще как-то народ управляется, то вот работоспособную CUDA получить могут не все. У себя в HOSTKEY мы создали специальный скрипт, который пользователь может запустить самостоятельно и получить рабочее окружение для запускавсего — от PyTorch до Stable Diffusion и Ollama с поддержкой GPU.

По данным Telegram-канала Mash, с 12 июля 2024 года в России может произойти замедление работы YouTube. Скорость загрузки видео снизится, а качество воспроизведения ухудшится. Причиной тому, по версии официальных лиц и ведомств, — технические проблемы связанные с износом оборудования Google в России. Объем трафика увеличивается, и старая CDN-инфраструктура, которая не обновлялась уже 2,5 года, перестает справляться с нагрузкой. Как подтвердил «Ростелеком», эта ситуация затронет всех пользователей независимо от выбранного оператора. Также все чаще всплывают слухи о замедлении сервиса или о его полной блокировке. Впрочем, пока все проблемы связаны с авариями у магистральных провайдеров.

Мы решили узнать, как работает YouTube в России сейчас, а также проверить, поможет ли использование виртуальной приватной сети с подключением к серверу, расположенному близко к кэширующим серверам Google за пределами Российской Федерации, обеспечить комфортный просмотр видео. Также интересно было проверить, как постоянное включение такого соединения повлияет на работу других сервисов, поскольку зачастую использование виртуальных приватных сетей негативно сказывается на работе сервисов и программного обеспечения.

OpenWebUI сейчас — это медиакомбайн, который объединяет доступ к OpenAI, Ollama, Automaitc1111, ComfyUI, Wisper API, создание кастомных моделей, RAG на основе Langchain и ChromaDB, гибридный поиск на основе BM25, веб-поиск и многое другое.

Да, все это уже давно доступно, расписано и при знании языков программирования реализуется на том же Python. Но в данном случае мы можем создавать интересные и полезные чат-боты, даже будучи далекими от написания кода.

В этой статье мы хотим поделиться нашим опытом создания чат-бота технической поддержки, который призван помогать отделу фронтлайна отвечать на вопросы пользователей (а в будущем — стать частью нашей команды).

Для Stable Diffusion WebUI (он же Automatic1111) уже несколько дней, как стала доступна модель генерации изображений Stable Diffusion 3. Мы в HOSTKEY попробовали модель и написали, как вам также это можно сделать.