Облачные вычисления *

Развертывание ИИ-моделей в облаке — стандартная задача для современных специалистов по машинному обучению. Но выбор подходящего инстанса GPU часто превращается в «лотерею»: переплата за избыточные ресурсы или, наоборот, «торможение» из-за недостаточной мощности. В этой статье мы расскажем, как не ошибиться с выбором облачного GPU, сохранив баланс между производительностью и бюджетом. Акцент сделаем на реальных кейсах — от обучения нейросетей до инференса в продакшене.

Прямо сейчас российская ИТ-сфера переживает довольно противоречивый период. С одной стороны, объем облачного рынка достиг 165 млрд рублей в 2024 году, прибавив за предшествующие 12 месяцев почти четверть. С другой, мы видим отчетливую тенденцию на строительство собственных дата-центров, к которой присоединяется все больше компаний, в том числе весьма крупных. Они вкладывают миллиарды в создание железной инфраструктуры. То есть фактически речь идет о двух разнонаправленных трендах, развивающихся параллельно друг другу. Вопрос только в том, кто же прав?

Насколько облака удобны и приятны в использовании, настолько же они и непредсказуемы. Особенно, если не перестроить «железную» модель бюджетирования под облачную. В этом случае практически гарантирован исход, при котором инфраструктурные затраты будут превышать планы в полтора, а то и два раза. Сказывается невозможность контролировать расходы вручную. Слишком уж много нюансов и переменных влияет на итоговый счет. Обычно проблему решают специализированные FinOps‑инструменты, но они чаще всего, либо дорогие, а потому не подходят для начинающих, либо попросту не учитывают особенностей российских платформ. Но у FinOps Radar этих недостатков нет.

Я устроил вебинар и пригласил Марата Рахимова — директора по ИИ и цифровой трансформации в MR Group (до этого Сбер, МТС, Data Monsters). Мы обсудили, как компаниям подходить к выбору «железа» под ИИ: покупать своё или брать в аренду, какие карты нужны и что с этим всем делать.

Многие российские компании, отказались от железной инфраструктуры и, перейдя в облако, столкнулись с неожиданным парадоксом. Финансовое планирование, которое должно было стать проще, на деле усложнилось настолько, что потеряло всякий смысл. Ситуации, когда стартап закладывал в месячный бюджет 500 тысяч рублей на облачные расходы, а по итогу получал счет на 1.2 миллиона, стали обычным делом. И это не единичные случаи. Исследование Flexera за 2023 год показывает, что с перерасходом сталкиваются примерно 45% всех организаций. А, по данным Wasabi, и вовсе 60%. Конечно, так быть не должно. 

Nebius - формально молодая компания с головным офисом в Нидерландах, работающая на стыке облачных технологий, вычислительной инфраструктуры и задач ИИ.

Интерес к ней объясняется рядом причин. Во-первых, это наследие бывшего Yandex N.V., возникшее после разделения активов Яндекса: компания переориентировалась на предоставление мощностей для обучения и запуска ИИ-моделей, став независимой от российского бизнеса. Во-вторых, Nebius позиционирует себя как поставщик полного стека вычислений для разработчиков ИИ: от доступа к графическим ускорителям до средств развертывания, тем самым переходя от универсальных подходов к специализированной AI-инфраструктуре.

И самое главное - Nebius почти на 10% обогнала Яндекс по рыночной капитализации после сделки с Microsoft, достигнув стоимости $22,8 млрд к утру 10 сентября.

Предыдущая часть

Картина мира: почему браузер — главный блокер для «настоящего» gRPC

Если коротко, gRPC живёт поверх HTTP/2 и активно полагается на стримы. А в браузере до сих пор нет низкоуровневого API, который позволил бы JavaScript управлять HTTP/2‑стримами на том уровне, который нужен gRPC. Даже unary‑вызов в gRPC — это частный случай стрима: открыли поток, отдали запрос, забрали ответ, закрылись. Пока браузеры не дадут этот «рычаг», все WEB‑решения — это компромиссы разной степени изящности.

Чем это оборачивается на практике:

Нативные bidi‑стримы из браузера недоступны

Приходится конвертировать транспорт: HTTP/1.1 или WebSocket → что‑то «похоже на gRPC» → gRPC/HTTP2 на бэкенде

Добавляются прокси, адаптеры и слой совместимости, где теряется часть достоинств «чистого» gRPC

Облако, несмотря на все свои преимущества, довольно коварно с точки зрения управления затратами. В отличие от железной инфраструктуры, где вы физически ограничены возможностями закупленных серверов, облачные ресурсы кажутся безлимитными. Они позволяют развернуть сколько угодно мощных проектов и баз данных, ничем вас не ограничивая. Заплатить за все, конечно, придется, но не сейчас, а потом. Это создает опасную иллюзию бездонности облака. В результате к концу месяца финансовый отдел получает счета, которые могут в разы превышать ожидания. И хуже всего, что так работает почти каждый второй.

Сегодня мы уроним прод в Яндекс Облаке, действуя из тестовой среды. В процессе разберемся: что такое сервис метаданных, IAM токен, сервисный аккаунт, зачем сервисные аккаунты привязывают к облачным ресурсам.

А дочитавшие до конца узнают, как понять и предотвратить атаки на облачную инфраструктуру.

Привет, Хабр!

За время своего развития, люди научились передавать информацию различными способами. Сначала это могла быть устная речь, далее были письменные источники, а в современном мире многообразие способов обучения действительно поражает: это и множество видеокурсов, интерактивных платформ, блогов и так далее. Однако на фоне всего этого особняком стоят книги. Нередко изучение книги может быть долгим и может казаться не таким эффективным, поскольку похожие знания можно получить быстрее, используя более динамичные и наглядные инструменты. Плюс, сами знания имеют свойство устаревать, и описанные истины могут не поспевать за техническим прогрессом. Однако, на мой взгляд, книга имеет и свои преимущества — при помощи нее можно исчерпывающе описывать те или иные темы, не срезая углы, подробно и конкретно описывая идеи, которые могло быть сложно выразить как то иначе.

Несмотря на то что мы здесь говорим в основном об облачной инфраструктуре для корпораций, для рядового пользователя облако – это никакой не Kubernetes, не Terraform и даже не виртуалка в Selectel. Для большинства это интернет-приложение, куда можно слить 50 гигов фоточек, чтобы освободить память на телефоне. И пренебрегать интересами этой категории наших потенциальных читателей было бы неправильно. Так что представляем вашему вниманию топ-10 облачных сервисов, которые работают в России.

Привет, Хабр!  

Очередная «революционная» облачная платформа? Да ладно! Похоже, в этом году нас ждет парад похожих историй — все как один «независимые», «инновационные» и «готовые заменить AWS». 

В чем дело? В июне этого года MWS (входит в облачный бизнес МТС) официально заявила о запуске новой облачной платформы собственной разработки MWS Cloud Platform — без зависимостей от вендоров и сторонних технологий, Серьёзно — совсем без зависимостей? Захотелось разобраться, что действительно скрывается за такими заявлениями.

В этой статье последовательно проанализируем все аспекты платформы — от процесса регистрации до конкретных сервисов, сравним с решениями конкурентов и дадим объективную оценку. Особое внимание уделим тем моментам, где слова расходятся с реальным положением дел, а также проанализируем, насколько платформа готова к использованию в production-среде.

P.S. Информация актуальна на момент публикации статьи.

Привет, Хабр!

Лето — не повод сбавлять обороты. Строительство ЦОДов в Марфино и Мытищах продолжается, и мы делимся с вами свежими новостями. Если вдруг пропустили предыдущие серии — ловите ссылки: раз, два, три, четыре, пять, шесть.

Одна из самых основных проблем в работе с gRPC - необходимость наружу вытаскивать отдельно REST API для web клиента, но, надо ли отдельно его писать, или можно как-то унифицировать и эту историю?

И вот начал я копать эту тему, и чем глубже копал, тем больше удивлялся. Оказывается, за последние почти 10 лет было целых ТРИ ЧЕТЫРЕ серьезных попытки затащить gRPC в веб. И знаете что самое смешное? Самая первая попытка, сделанная в 2015 году японкой-одиночкой (в команде с коллегами), до сих пор остается самым адекватным решением. А Google со всеми своими миллиардами и армией разработчиков так и не смог ничего нормального придумать. Но обо всем по порядку.

Ах, да, меня зовут Эдгар Сипки, я все также евангелист gRPC && OpenSource :) Кстати, мой канал, там я гораздо чаще пишу (а скоро еще и начну снимать очень много крутого контента про gRPC и Go), ну и конечно один из основателей инструмента EasyP

Ссылка на полный доклад, если хочется посмотреть - YouTube

Привет, Хабр! Последнее время я много слышал, что в облачных технологиях появляются ИИ‑ассистенты. Они перестают быть экспериментом и становятся рабочим инструментом. Кроме того, нейросетевые модели всё больше появляются в разных облаках. Но как это выглядит с точки зрения разработчиков облачных платформ, и какие технологии лежат в основе таких сервисов? Об этом я поговорил на конференции GigaConf с директором продуктовой разработки Cloud.ru Владимиром Шульгой. Также в разговоре затронули темы RAG‑пайплайна, интеграции LLM в DevOps‑процессы, автоматизации рутинных операций и о том, как облачные ассистенты меняют пользовательский опыт. Приятного чтения!

Впасть в зависимость от облачных сервисов в корпоративном сегменте довольно просто. Сначала ты просто переносишь пару приложений для тестов, потом соглашаешься на расширенный план, и вот уже через год IT-директор хватается за голову от счетов, которые выросли в несколько раз. Хуже всего, что с течением времени сервисов становится только больше, команды разворачивают новые проекты, а контроля за тратами как не было, так и нет. Кто запустил эти 50 инстансов? За что платим 200 тысяч в месяц? Почему расходы на машинное обучение выросли втрое?

В таких условиях FinOps перестает быть просто модным термином, становясь, по сути, единственным рабочим способом вернуть контроль над IT-бюджетом. Остается самая малость – доказать руководству, что эти инвестиции окупятся. А тут без конкретных метрик и четкого расчета ROI не обойтись.

Несмотря на то что всеобъемлющее импортозамещение в России идет уже несколько лет, все еще существует немало исключений. Особенно в части софта и онлайн-услуг. Многим компаниям до сих пор позволяется использовать зарубежные сервисы, поэтому даже условно отключенные у нас AWS, Microsoft Azure и Google Cloud продолжают обслуживать корпоративных клиентов. Но эта ситуация может кардинально изменится уже через два года.

Привет, Хабр! В этой статье расскажем, как справляться с ростом объема персональных данных, и поделимся опытом создания собственной облачной платформы, соответствующей требованиям ФЗ-152. Поделимся опытом перехода от VMware к OpenStack, перестройки сетевой изоляции и другими неожиданными сложностями. Статья будет полезна инженерам, архитекторам и всем, кто работает над безопасностью в облаке.

13.8 миллиардов лет назад квантовые флуктуации породили Вселенную. Сегодня подобный эффект возникает в дата-центрах: одна команда запускает виртуальную машину, другая — контейнер, и вот уже ваша облачная инфраструктура стремительно расширяется. В физике это называют Большим взрывом, в FinOps — Cloud Sprawl.

Но что, если законы астрофизики могут объяснить — и даже обуздать — поведение облаков?

Собрали для вас материалы, посвященные графическим процессорам: как развивалась архитектура GPU, интерактивный глоссарий CUDA, перспективы GPU-хостинга и не только.

Нужна ли вам GPU для VDI расскажем на вебинаре о виртуальных десктопах в облаке, присоединяйтесь.