Облачная или локальная LLM: что выбрать для своего проекта
Выбор между API и self-hosted сводится к балансу четырех параметров: безопасность данных, стоимость на единицу нагрузки, гибкость инфраструктуры и требования к compliance. Для MVP и нерегулярной нагрузки облачный API почти всегда дешевле, для миллионов токенов в день и сценариев с 152-ФЗ или GDPR картина обратная.
В статье разобрали, как устроены оба подхода, и собрали сравнение по ключевым параметрам — от запуска и масштабирования до работы с AI-агентами и длинным контекстом. Показали требования к VRAM для self-hosted (от 8–12 ГБ для 7–8B в квантизации до 48–80+ ГБ для 70B), разобрали гибридные архитектуры с маршрутизацией запросов между локальной и облачной моделью и риски vendor lock-in при работе через API.
GitHub Copilot и Python: настройка, промптинг и сравнение с альтернативами
Copilot экономит время на типовом коде: дополнении функций, заготовках классов и CLI-скриптов, тестах на pytest, парсинге CSV и JSON, обертках над requests. Качество подсказок сильно зависит от контекста — названий функций, комментариев и того, что открыто рядом.
В статье разобрали установку Copilot в VS Code и PyCharm, настройку проекта под Python (venv, расширения, выбор интерпретатора) и практики промптинга, которые повышают релевантность подсказок. Отдельно написали про ограничения, безопасность при работе с секретами и валидацией, и сравнение с Amazon Q Developer, Gemini Code Assist, JetBrains AI Assistant, Tabnine, Cursor и Windsurf.
Продолжаем рубрику с видеообзорами железа, которое используем в нашей инфраструктуре. Перед запуском на проде тщательно отбираем оборудование и гоняем его под высокими нагрузками, чтобы убедиться в стабильности и надежности.
В новом видео Влад Олейник, ведущий инженер ЦОД, рассказал про 3-х юнитовый Microcloud компании Supermicro 3015MR с приставкой H8TNR.
В одном 3U-шасси умещается 8 полноценных серверов вместо классической схемы 1 сервер = 1 юнит. Все ноды изолированы друг от друга, а общими остаются только питание и охлаждение.
Универсальное ли это решение? Нет — поэтому покажем, где такая сборка особенно полезна:
1️⃣ 1С (SQL + App). Производительность 1С часто упирается в частоту процессора, а десктопные Ryzen как раз обеспечивают 5+ ГГц.
2️⃣ Frontend-сборка. На высокочастотных процессорах сборка может идти в 1,5–2 раза быстрее, чем на многих серверных Xeon.
3️⃣ Build-фермы. Разные типы лезвий можно подбирать под задачи CI/CD. Конфигурации с десктопными AMD-процессорами ускоряют этапы сборки, требующие высокой однопоточной производительности.
Как RETAILIQA совместила 152‑ФЗ, SLA для иностранцев и задел под новые ИИ‑сценарии
👨💻 Что за компания RETAILIQA (бренд компании ООО «Крона Лабс») с 2014 года развивает сервисы мобильного аудита: электронные чек-листы для контроля качества, мониторинга цен конкурентов и оценки лояльности клиентов (NPS). Решения компании используют крупные федеральные и региональные игроки в ритейле, общепите, телекоме, банках, страховании, управлении недвижимостью, промышленности, логистике и других отраслях.
🚀 Задача На фоне роста клиентской базы и объема собираемых данных команда столкнулась с несколькими ограничениями: прежний провайдер не мог масштабировать хранилище и вычислительные ресурсы, усилились требования федеральных заказчиков к безопасности и хранению чувствительных данных в российском ЦОД, у зарубежных клиентов возникали проблемы с доступностью сервисов. Параллельно RETAILIQA готовилась внедрять ИИ-модели для распознавания полок и ценников, что требовало гибкой и отказоустойчивой облачной инфраструктуры.
☁️ Что сделали В 2024 году всю инфраструктуру перенесли в облако VMware на платформе Cloud.ru, закрыв потребность в ресурсах и отказоустойчивости без простоя для клиентов. Для хранения терабайтов данных подключили S3-совместимое хранилище Evolution Object Storage и перешли на модель pay-as-you-go — оплачивают только фактическое потребление без необходимости «держать запас» на стороне. Для защиты и соответствия требованиям безопасности добавили StormWall: Anti-DDoS и сервис резервного копирования виртуальных машин VMware, обеспечив дополнительный уровень защиты от атак и потери данных.
🦾 Что получили в итоге RETAILIQA сняла ресурсный потолок: теперь можно без ограничений подключать федеральных и региональных клиентов с тысячами объектов контроля и десятками тысяч пользователей. Доступность сервисов достигла 99,98%, а надежное хранение фото- и видеоматериалов в сертифицированных российских ЦОД укрепило доверие крупных заказчиков и регуляторно-чувствительных отраслей. Например, крупная аптечная сеть с более чем 2 000 точек ежедневно отправляет «тяжлые» фотоотчеты по строжайшим стандартам мерчендайзинга — инфраструктура провайдера справляется с таким потоком без деградации.
В планах — внедрение сервисов AI Factory для анализа фотографий и распознавания информации на ценниках. Это позволит автоматически проверять, соответствует ли выкладка товара в торговых залах утвержденным схемам (планограммам), а также ускорит подготовку отчетов и позволит гибко масштабировать ресурсы под новые сценарии с применением ИИ, не перестраивая всю архитектуру с нуля.
Развивается не только наша инфраструктура, но и сервисы. Сегодня — про AI-агентов.
За последние три месяца количество активных агентов выросло в 4 раза, а пользователи тратят больше миллиарда токенов в день.
Теперь можно закрывать больше сценариев в одном диалоге: поиск актуальных данных и создание визуалов под запрос.
➖ Веб-поиск
Агент ищет информацию в интернете перед ответом, а вы получаете актуальные цены, тарифы, новости, данные с сайтов. Под капотом — интеграция с Яндексом.
Функция включается в настройках агента. Стоимость — 0,49 руб. за запрос.
➖ Генерация изображений
Агент генерирует иллюстрации, иконки, баннеры прямо в диалоге, без лишних переключений. В будущем добавим и генерацию аудио.
Доступные модели: Gemini 3.1 Flash Image Preview и Gemini 3 Pro Image Preview, они же Nano Banana. Список будет пополняться.
Оплата — по токенам выбранной модели. Включить можно где удобно: при создании агента, в настройках уже готового или прямо в чате.
Бонусом поменяли способ тарификации для новых агентов на поресурсный. Так можно дешевле тестировать новые фичи, платить только за фактическое использование и настраивать агента под свои задачи.
Май посвятили удобству: добавили образ FASTPANEL и Ubuntu 26.04 LTS, собрали продукты по импортозамещению на одной странице, переработали работу с балансом и упростили продление выделенных серверов. Ниже — всё главное за месяц.
Добавили образ FASTPANEL
Обновили образ FASTPANEL в Рег.облаке — теперь с ним доступно больше возможностей для гибкой работы с серверами. Можно создать виртуальную машину на гибко конфигурируемых тарифах, выбрать любую из актуальных тарифных линеек, конфигураций и регионов размещения, а также настроить резервное копирование точнее, чем раньше. Подробности на странице образа.
Для удобства подготовили пул документации: как создать сервер с FASTPANEL, сбросить пароль, разместить сайт, работать с базами данных и электронной почтой, настроить резервное копирование и установить SSL-сертификат.
Добавили образ Ubuntu 26.04 LTS
В каталоге образов появился Ubuntu 26.04 LTS. Новый образ уже доступен для запуска во всех регионах Рег.облака.
Упростили продление выделенных серверов
Дополнительные услуги теперь группируются внутри сервера и выравниваются до даты его окончания. Управлять выделенными серверами стало проще — и в Рег.облаке, и в Рег.ру.
Собрали продукты по импортозамещению на одной странице
Решения по импортозамещению теперь собраны на отдельной странице, чтобы их было проще найти.
Переработали работу с балансом
Сделали отдельный интерфейс для работы с балансом Рег.ру в Рег.облаке. Здесь видно состояние баланса и доступный кредитный лимит (для корпоративных клиентов), а пополнить баланс можно с подсказкой рекомендуемой суммы — она рассчитывается по прогнозу расходов на услуги Рег.ру. Также доступны прогноз расходов на 7, 30 и 90 дней с переходом на страницу продления и список операций по балансу.
Из новостей: ИИ-ассистент Рег.облака заговорил с нейросетями в Moltbook
Добавили ИИ-помощника в Moltbook — площадку, где ИИ-агенты общаются между собой без участия человека. Первым делом ассистент рассказал другим ботам про Free Tier и объяснил, как развернуть сервер на минимальной конфигурации (1 vCPU, 1 ГБ RAM, 10 ГБ NVMe). Инструкции он передает через API на базе модели Hermes поверх локального инференса на GPU-серверах Рег.облака. К Free Tier, запущенному в апреле, уже подключились больше 1000 компаний и пользователей. Подробнее об ИИ-ассистенте Рег.облака читайте у нас на сайте.
Желаем всем продуктивного месяца и спасибо, что следите за обновлениями Рег.облака!
Инженер Netflix Теджас Чопра разработал открытый инструмент Project Headroom, который сжимает контекст перед отправкой в языковую модель и за счёт этого помогает пользователям экономить на ИИ-запросах.
Проект Headroom работает с контекстом, который отправляется в языковую модель: историей переписки, логами, результатами работы инструментов, файлами, документацией и другими данными. Перед отправкой в LLM программа сжимает этот контекст и удаляет из него избыточную информацию. По оценке Чопры, до 90% токенов в таких данных могут быть фактически лишними для модели.
Идея проекта появилась после того, как Чопра получил счёт на $287 за использование Claude Sonnet в домашнем проекте. Речь шла о типичных задачах: отладке, рефакторинге, работе с MCP-инструментами и запросах к базе данных. После анализа расходов инженер выяснил, что значительная часть токенов уходит не на его собственные инструкции, а на машинный «мусор»: чрезмерно подробные JSON-схемы, вложенные шаблоны в API-ответах, повторяющиеся колонки баз данных и другую служебную информацию.
Чопра описывает такие данные как «сжимаемую информацию, маскирующуюся под текст». По его словам, проблема особенно заметна в агентных системах, где модель получает не только пользовательский запрос, но и большое количество технического контекста. Чем больше данных отправляется в контекстное окно, тем выше стоимость запроса и тем больше риск, что модель начнет хуже работать из-за перегрузки информацией.
Сегодня The.Hosting разослал юзерам такое сообщение:
IMPORTANT: Notice of Service Discontinuation and Account Closure
Dear Customer,
We are writing to inform you that due to unforeseen and unavoidable force majeure circumstances, THE.Hosting is forced to permanently discontinue all its operational services and wind down its activities.
As a result, our platform, support channels, and all associated services will be closed in the coming days.
What this means for you:
➖ New Orders & Renewals: All active forms of registration, ordering, and renewals have been disabled. No new services can be purchased.
➖ Data & Accounts: If you have any active data, configurations, or account details stored within our systems, we urgently advise you to retrieve and back up your information immediately.
➖ Final Termination: Once the wind-down process is completed, all accounts and data will be permanently deleted from our systems.
We deeply regret that we are forced to take this step and understand the inconvenience this causes. We want to thank you sincerely for your partnership and trust in THE.Hosting over the past period.
Sincerely,The Management of THE.Hosting
Суть в том, что деятельность компании будет прекращена в течение нескольких дней. Данные необходимо спасать вручную. Деньги вряд ли будут возвращены (создать тикет уже невозможно).
Проблемы у The.Hosting начались около двух недель назад, через несколько дней стало известно об изъятии серверов в Нидерландах, теперь история подошла к закономерному финалу.
Представлен открытый проект Magic Resume, который собирает весь опыт пользователя и портфолио в единое резюме:
достаточно только скинуть сервису информацию — опыт, портфолио и немного данных о себе. На выходе получите идеальное резюме со всеми ключевыми словами для ИИ‑скрининга и прочих программ;
резюме можно составлять под конкретную позицию и его точно увидит живой рекрутер, а не забракует бездушная машина;
добавляет анимации, кастомные темы и плавные переходы;
адаптирует резюме под ПК, планшеты и другие мобильные устройства;
можно экспортировать резюме в PDF и кидать документом;
Включаем пространственный звук в Discord. Подробное руководство, как включить новую опцию. С ней все участники канала будут звучать так, будто они сидят в одной комнате:
Свой ML-завод: что дает собственная ML-платформа и как ее запустить
Большинство корпоративных ИИ-пилотов не дают измеримых результатов. Не из-за моделей, из-за инфраструктурного хаоса вокруг них.
Специалисты тратят время на подготовку данных и настройку окружения вместо экспериментов. Стек собирается из разрозненных инструментов, интеграция съедает месяцы, видеокарты простаивают и сжигают бюджет. А поверх всего — ужесточение требований к субъектам КИИ и приближающиеся сроки перехода на отечественное ПО.
На вебинаре разберем, как выстроить нормальный процесс разработки ИИ — от загрузки данных до обучения моделей на кластере видеокарт. Покажем, как платформа Evolution Stack.ML от Cloud.ru превращает этот хаос в работающий ML-завод: готовые сервисы убирают месяцы интеграций, единое управление наводит порядок в инфраструктуре, а развертывание внутри контура закрывает требования регуляторов.
Будет полезно специалистам по данным и ML-инженерам, руководителям команд, ИТ-архитекторам, DevOps-инженерам, специалистам по ИБ, техническим и ИТ-директорам.
Что обсудим:
почему ИИ-проекты не взлетают: разрозненные инструменты, простой GPU и другие грабли;
во сколько на самом деле обходится машинное обучение (спойлер: затраты на видеокарты лишь вершина айсберга);
три пути к ML-платформе и скрытые ловушки каждого из них: облако, самостоятельная сборка на базе решений с открытым кодом, готовый продукт;
когда локальное развертывание дешевле облака — и почему это работает не всегда;
в каких отраслях платформа внутри контура необходима и какие задачи она закрывает;
как устроена Evolution Stack.ML и зачем нужны рабочие пространства.
В практической части покажем:
как создать рабочее пространство и подключить внешние источники данных;
как запустить Jupyter-сервер на готовом образе — от выбора образа до открытия среды разработки;
весь путь от первого запуска до распределенного обучения на нескольких GPU;
как отслеживать метрики прямо из интерфейса платформы.
📅 2 июня в 11:00 мск 📍 Онлайн. Зарегистрируйтесь, чтобы задать вопросы спикеру в прямом эфире.
Git reset: как управлять историей и не уничтожить свою работу
git reset — одна из тех команд, которые удобно держать под рукой, но страшно запускать без понимания последствий. Она помогает очистить локальную историю, убрать лишние коммиты, отменить git add или полностью откатиться к нужному состоянию. Но в режиме --hard может стереть незакоммиченные изменения так, будто ничего и не было.
В новой статье разобрали, что делает git reset, чем отличаются режимы --soft, --mixed и --hard, когда команду можно использовать безопасно, а когда лучше выбрать git revert или git restore. Отдельно показали типичные сценарии: объединение нескольких коммитов, вывод файлов из индекса, полный откат и восстановление после неудачного reset --hard через reflog.
Представлен открытый учебный проект 100 free open-source github repos everyone needs - 100 бесплатных репозиториев для решения любых задач. У них полностью открытый код и актуальные инструменты:
ИИ-агенты и скиллы для них;
Локальные альтернативы SaaS-сервисам;
Фреймворки и плагины для любых задач;
Топовые тулзы для разработчиков;
Курсы и справочники по всевозможным темам;
Дизайн и фронтенд-разработка;
Извлечение данных и аналитика;
Безопасность и приватность в сети;
Сборник инструментов для подготовки контента.
При этом у каждого проекта своя лицензия, а авторы подробно разбирают их назначение и способы применения.
Как перестать надеяться на бэкап и автоматизировать Disaster Recovery
В одном из материалов я уже проводил границу между бэкапом и DR, которые решают принципиально разные задачи. Если бэкап — это архивный «огнетушитель», то DR — это система пожаротушения и план эвакуации. По реакции сообщества стало понятно: разницу осознают многие, но главный вопрос остается открытым — как обеспечить предсказуемый подъем сервисов, когда инфраструктура отказала?
Наличие резервных копий гарантирует, что данные не пропадут бесследно. Но бэкап не обеспечивает непрерывность бизнеса. При масштабном сбое восстановление из архивов вручную превращается в многочасовой (а иногда и многодневный) квест, который в условиях стресса часто ведет к человеческим ошибкам и увеличению простоя.
Чтобы перевести обсуждение из теории в плоскость работающих сценариев, мы с командой решили провести технический вебинар. 27 мая в 13:00 МСК в прямом эфире представим практические кейсы по восстановлению инфраструктуры после сбоя.
В программе:
Разберем почему бэкап не всегда спасает, и в какой момент нужен полноценный DR. Поговорим о том, как реалистично оценивать RTO и RPO.
Покажем сценарии восстановления инфраструктуры и посмотрим, какой подход работает лучше в каждой ситуации.
Покажем на практике:
восстановление данных через подключение дисков;
как это используется в реальных сценариях;
на что обратить внимание при восстановлении.
Вебинар будет полезен архитекторам, системным администраторам и всем, кто отвечает за доступность критичных систем. Приходите с вопросами по вашей инфраструктуре — разберем их в конце эфира во время сессии вопросов и ответов.
В финале встречи каждый участник получит актуализированный чек-лист для аудита плана аварийного восстановления.
Представлен открытый проект OpenPixel-RPG, который генерирует игру в стиле RPG Maker прямо из реального города. Можно загрузить практически любое место на планете и получить из него играбельную JRPG-карту. На выходе получается «игра» с квестами, NPC и «живым» окружением. Система работает на нейродвижке WorldX и визуализации через Gemini.
YouTube начал требовать отключить средства обхода блокировок для просмотра видео. Ограничение касается каналов с жёсткими региональными правами на контент: в первую очередь спортивных — «Формула 1», некоторые футбольные лиги, отдельные музыкальные лейблы. Это каналы, где рекламодатели платят за показы в конкретных странах, а правообладатели продают лицензии по регионам. YouTube обязан контролировать, из какой страны смотрит зритель, — иначе нарушаются условия лицензий.
Для обычных видео — летсплеев, обзоров, подкастов, авторского контента — ничего не изменилось. Средства обхода блокировок работают как прежде. Явление касается единичных каналов с крупными медиапартнёрами и существует уже не первый год — просто периодически всплывает у новых пользователей и вызывает волну тревоги.
Представлен проект anitabi - это карта реальных мест из японских аниме. Anitabi собирает локации прямо в Google Maps: станции, улицы, магазины, школы и целые районы, где происходили сцены из сериалов и фильмов.
Можно открыть тайтл, найти точку и буквально повторить кадр из мульта в реальной жизни. Там уже тысячи локаций по всей Японии, а база пополняется комьюнити вручную. Люди буквально сидят и сравнивают кадры из аниме с реальными улицами. А ещё у проекта открытый API.
В Google сломали поиск — новый ИИ‑поиск сделал поисковик глупее. Теперь при коротких фразах вроде «отвали», «иди» или «стой» система воспринимает это как личное обращение и команду.
Присоединяйся ко дню открытых дверей магистерских программ по ИТ-направлениям от МТС в партнерстве с ведущими вузами 🏛️
Ищешь магистратуру по актуальным для ИТ-рынка направлениям, хочешь систематизировать знания или глубже изучить область, в которой уже работаешь? Тогда выбирай подходящую программу и подключайся к онлайн-встрече 21 или 22 мая — узнаешь, как проходит отбор, что ждет студентов после поступления и сможешь задать свои вопросы.
🎓 Магистратура «Облачные технологии» МТС × ФПМИ — это бесплатная программа для подготовки специалистов в области облачных платформ, распределенных систем и DevOps. Подойдет тем, кто закончил бакалавриат по технической специальности, хочет развиваться в облаках и работать с современными инфраструктурными решениями.
Преимущества программы:
возможность попасть на стажировку в МТС уже сразу после поступления,
будешь работать над задачами, основанными на реальных кейсах компании;
обучение ведут инженеры и эксперты компании, а менторы проектов — специалисты из индустрии.
На программе 15 бюджетных мест, платное обучение не предусмотрено.
