Как поднять локальную LLM за 5 минут 🚀

Хотите свой ChatGPT, который работает локально и не требует интернета?
В статье показываю, как развернуть Ollama + OpenWebUI в Docker:

• Ollama — инструмент для запуска локальных LLM (LLaMA, Mistral, Gemma и др.)
• LLaMA — серия открытых языковых моделей от Meta
• OpenWebUI — удобный веб-интерфейс, похожий на ChatGPT, но для ваших локальных моделей

Минимальные требования: 8 GB RAM, 4 CPU, 25 GB диска.

Всё сводится к трём шагам:

Установить Docker

Настроить docker-compose с Ollama и OpenWebUI

Зайти в локальный веб-интерфейс и протестировать свою LLM 🎉

💻 Код, конфиги и пошаговая инструкция в статье!

Привет / Merhaba! Я сетевой инженер из Санкт-Петербурга, один год жил и работал в Москве, но всегда мечтал пожить в небольшом поселке, без пробок и суматохи. И вот мы всей семьей уже более полугода живем в поселке Taşucu (Ташуджу), который расположен в провинции Mersin, рядом с городом Silifke, на побережье Средиземного моря. Сейчас Россия ведет активные работы по строительству объекта энергетики и сопутствующей инфраструктуры в Турции, поэтому переезд на Средиземноморское побережье стал для россиян более доступным (наличие вакансий в разных сферах). Турция располагает как для удаленной работы и фриланса, так и трудоустройства. Сегодня я расскажу про особенности переезда, оформления документов, особенности жилья, плюсах и минусах жизни в небольшом турецком поселке, где всего один светофор и почти не бывает туристов. Данные актуальны на 2021 год.

В продолжение двух статей про ЛВС, сегодня поговорим о том, как сделать хороший Wi-Fi для предприятия.

1. Разберем общие вопросы (от юридических моментов до выбора технологий);

2. Кратко и емко пройдемся по вопросам моделирования Wi-Fi;

3. Обсудим настройку сети Wi-Fi (мощность, выбор каналов, роуминг, WMM, Beamforming);

4. Разберем основные ошибки при проведении радио замеров;

5. Проведем эксперимент с микроволновкой на кухне.

В продолжение предыдущей статьи, где описали основные принципы и протоколы для построения вендор-независимой и отказоустойчивой сети, будем разбираемся дальше:

1. Рекомендации по применению базовых протоколов и стандартов

2. Общие настройки сетевого оборудования

3. Коротко и таблично уделим внимание безопасности

Сегодня рассуждаем над задачей построения максимально отказоустойчивой сетевой инфраструктуры предприятия, с минимальной привязкой к конкретному вендору, преимущественно на открытых протоколах и стандартах.

Рассмотрим такие вопросы:

1. Вендор-независимость (долой проприетарное рабство)

2. Отказоустойчивость (больше линков, больше железа, меньше технологий)

3. Модульность (занудно, но важно)

Каким бы не был удобным WEB интерфейс системы управления сетью, это все-равно будет не так удобно, как использование мессенджера Telegram, где все в одном приложении: от общения с друзьями и получения прогноза погоды до управления сетевыми устройствами. В дополнение, удобный API интерфейс платформы Telegram позволяет получить желаемый сервис с минимальными трудозатратами. В данной статье я приведен самый простой пример одного из таких решений.

Постановка задачи

1. Условный Просто пользователь (используем базовый ЯндексDNS)
2. Условная Боящаяся интернета бабушка (ЯндексDNS, без мошеннических сайтов и вирусов)
3. Условный Студент 5 курса, которому нужен Интернет без ограничений (выход в Интернет через VPN в Европу, DNS 8.8.8.8)
4. Условный Школьник 7 класса, которому по административным причинам надо выключать Интернет в 21:00 час по будням и в 22:00 часа по выходным (используем ЯндексDNS «Семейный» и по расписанию выключаем/включаем SSID).

Радио моделирование

Вступление