— Можно посмотреть телевизор?
— Можно, только не включай

Всем привет! Сегодня хочу поговорить про «бесплатные виртуалки», которыми вас щедро одарят даже со страниц Хабра. Под катом — несколько мыслей про арифметику демпинга и в целом о природе этого явления.

Негласное правило «Работает — не трогай» широко известно в IT-сфере и за её пределами. Но если ничего не трогать, то ничего не поменяется — такой подход не для всех. Чтобы не остаться сидеть на одном месте, а идти в гору, иногда приходится что-то менять, рисковать. Впрочем, перемены иногда бывают внеплановыми и от нас не зависящими — тогда-то уже хочешь не хочешь, а приходится шевелиться.



На своих семинарах Хабр рассказывает о том, что аудитория с удовольствием читает про факапы самых разных калибров. Поэтому в этой статье — небольшая подборка невыдуманных историй про изменения в нашей компании. С факапами — как вы любите.  

Вообще-то эта история про край идиотизма и понтов. Но так кажется сейчас, а тогда всё выглядело последовательным и логичным. Сама история кончилась где-то год назад, но мы про неё почему-то раньше не рассказывали, а зря ― она яркая. Ярко-коричневая, если угодно.

В один солнечный день сидим мы, работаем, и тут нам прилетает повестка из прокуратуры — вызывают на допрос. А потом, бац, — повестка в суд. Причём не посмотреть, а в качестве ответчика. Штраф от полумиллиона до полутора миллионов рублей.



Почему? Потому что у нас была лицензия на оказание услуг связи. А эта лицензия может сделать вас соучастником преступлений, совершаемых на вашей инфраструктуре, если вы хостинг.

Упрощая, у нас хостился мошенник. Вместо того чтобы искать его (это уж потом нашли), прокуратура увидела у нас лицензию на оказание услуг связи, очень обрадовалась и решила, что конечный ответчик за его действия — мы.

Сказать, что мы были удивлены и раздосадованы, — это некоторое преуменьшение.

Привет, Хабр! Подавляющее большинство современных автомобильных аккумуляторов кальциевые, про которые существует расхожий миф, будто бы дозаряд при напряжении выше 15.5, 15.0 или даже 14.7 вольт действует на них губительно.

Сегодня мы исследуем этот вопрос опытным путём.

Совсем недавно вышел шикарный трейлер Silent Hill f, а следом поспели и первые возрастные ограничения. Американская ESRB присвоила новой игре рейтинг M (Mature), 17+, приложив детальное спойлерное описание жестоких моментов. А вот на страничке австралийских цензоров появилась информация, что игре отказано в классификации. Лишь неделю спустя чиновники сообщили, что статус об отказе в выдаче возрастного рейтинга был ошибочным, и новой части Silent Hill выдали рейтинг 15+. На самом деле, практика запрета игр в стране кенгуру вовсе не редкая, и в бан попадают порой относительно безобидные тайтлы — просто, потому что местным чиновникам что-то не понравилось.

У нас много странного в поддержке.

Некоторые странные запросы мы поддерживаем, некоторые — нет. Сегодня — про те, которые нет.

Одна из очень частых ситуаций — про восстановление серверов после неоплаты. У нас есть железное правило: если клиент нажал «Удалить сервер», то всё будет чисто и наглухо удалено, включая всю цепочку технических бекапов, например, если машина переезжала с одной стойки на другую. Потому что просто так эту кнопку не нажимают, и ожидается, что она будет действовать именно так, как написано. Хотя, конечно, однажды одному директору, поссорившемуся с главбухом, это стоило всей бухгалтерии. Без шансов восстановить, потому что бекапа бухгалтерии, как потом выяснилось, они не делали. Очень смелые и отчаянные люди. Оба.

Так вот, если сервер не оплатить, то он не удалится в ту же миллисекунду. Он будет висеть ещё несколько дней (сейчас это семь) просто на тот случай, если кто-то — раздолбай. Правило мы ввели после приключений со сменой реквизитов платёжных шлюзов на новый год.

Это не оферта, мы не обязаны этого делать, но мы складываем бекап на страховочный диск, потому что сами много раз продалбывали сроки. И вот, зная об этой особенности, некоторые клиенты начали от нас требовать — прямо требовать! — восстановления через любой срок после неоплаты.

Мотивы от «У меня тогда оплата не прошла» и «Я забыл» до грубых форм вроде «Как вы могли удалить?! У меня там торговля идёт, я миллионы теряю!». Ладно, миллионы — не наше дело, но оплатить сервер за 500 рублей после 10 напоминаний и отключения на неделю, наверное, забывать не стоило. Через полгода мы такого не поддерживаем, конечно.

В последнее время такие компании, как OpenAI и Google, заключают эксклюзивные соглашения об обмене данными с издателями, крупными форумами вроде Reddit и социальными медиаплатформами, что становится для них ещё одним способом сконцентрировать власть.

Такая тенденция выгодна крупнейшим игрокам на рынке ИИ, которые могут позволить себе такие сделки, в отличие от исследователей, некоммерческих организаций и небольших компаний. Крупнейшие корпорации располагают лучшими ресурсами для сбора датасетов. В результате эталонные датасеты для бенчмарков (и для обучения) моделей ИИ всё больше концентрируются в руках малого количества корпораций и академических учреждений.

По мнению некоторых исследователей, это «новая волна асимметричного доступа», которой ещё не было в истории открытого интернета в таком масштабе.

В 2022-м из российских дата-центров стали уходить зарубежные клиенты. Казалось, освободилось очень много места и ЦОДы скорее думали, как выжить при таких потерях. Крупные игроки могут подтвердить, что от них ушли такие якорные клиенты, как Apple, MS и подобные, которые платили хорошие деньги. В первое время никто не знал, что делать — продавать бизнес или как-то выкручиваться.

В этот момент новые ЦОДы никто не начинал строить, потому что не было смысла. Зачем строить, если клиенты ушли? Некоторые длительные проекты, типа ЦОДа МТС с 7-летним циклом строительства, продолжались, но и они сорвали все сроки.

Но очень быстро тренд развернулся. Оказалось, что стоек стало не хватать и даже не надо было сильно вкладываться в маркетинг. Началась волна регуляторики. В 2023 году всех окологосударственных начали возвращать в российские дата-центры. Закон о приземлении (который вышел ещё в 2021 году и вступил в силу в январе 2022) сначала был мягким, обязывал компании просто открыть офис. Но к 2024 году это переросло в реестр хостеров со всеми вытекающими.

Госкомпаниям дали понять, что хранить данные за рубежом не надо. Пошёл отток оттуда. Потом проблемы с платежами — ушли всякие Dropbox и другие сервисы, которые начали здесь дублировать. Поначалу были обходные пути, но они постепенно закрывались. Можно было платить через казахские карты, но недавно многим релокантам их заблокировали.

Ну а потом как вишенка размером с КамАЗ на торте пришёл инференс нейросетей.

В итоге ситуация очень странная: новые ЦОДы никто сейчас не строит и не будет в ближайшие годы, а дефицит места растёт.

Привет, Хабр! Сегодня узнаем, на что реально способны бюджетные VPS от RUVDS. Посмотрим, что можно сделать с самыми недорогими серверами, которые так часто мелькают в рекламе.

Для нашего эксперимента я выбрал конфигурацию за 139 рублей в месяц — VPS с 1 ядром процессора 2.2 ГГц, всего 512 МБ оперативной памяти и 10 ГБ на HDD, а ОС привычная CentOS 9. На всём этом добре мы развернём статический сайт-резюме на Hugo, о чём будет подробнее ниже в тексте.

Моя недавняя эпопея со стиральной машиной напомнила мне, почему одна из самых страшных и ненавидимых задач в разработке ПО начинается с вопроса:

«Сколько времени вам на это потребуется?»

Привычность этого бытового прибора внушила мне ложное чувство безопасности

Потому что дерьмо случается.

Обычный российский хостинг в такой ситуации продаёт юрлицо в Грозный (это проще, чем банкротство) и скрывается в ночи, чтобы потом открыться под новым названием, но уже без долгов и репутации. Некоторые сразу не кладут яйца в одну корзину и имеют несколько юрлиц (это ещё позволяет продавать новым дешевле то, за что постоянные клиенты платят по обычному прайсу). Мы по ряду причин так делать не можем — главная часть нашей экономики это серверное железо, а серверное железо требует долгих контрактов. Про это я писал вот здесь. И ещё мы строим маркетинг на репутации, как это ни странно.

Перенос дата-центра OVH SBG2 в облако, 55 % complete

Когда вы строите что-то на репутации, самый ценный ресурс — это вес вашего слова. Нужно это для того, чтобы люди понимали, что у вас происходит, и разбирались вообще, что происходит на рынке. А ещё это становится критически важным, если случается что-то плохое: нужен кто-то, кто может выйти и рассказать о неправомерных действиях кого-то, о том, что действительно за авария и в каком ЦОДе, о том, что с блокировками и так далее.

То есть блог на Хабре — это часть нашего антикризисного плана. И, как показала практика переноса ЦОДа в облако примерно 10-летней давности, это бывает очень актуально.

В общем, есть много причин управлять репутацией хостинга, если вы на рынке больше чем на пару лет. Я бы хотел немного рассказать, что именно мы делаем для этого. Потому что на нашем рынке управление репутацией — это работа с негативом.

Клиенты пишут в поддержку по рабочим вопросам — ну знаете, всё то, что ещё не автоматизировано и нельзя сделать из личного кабинета — и по странным. С учётом, что у нас разработка постоянно добавляет функции в ЛК по мере накопления тикетов, которые надо автоматизировать, постепенно работа поддержки всё больше сводится к разбору странного.

Например, часто клиенты берут демопериод и спрашивают, можно ли спамить с наших серверов, ломать чьи-то кошельки и так далее. Когда мы показываем пункты оферты, по которым нельзя, просят пустить их по-братски. Заканчивается обычно вот примерно так:

Клиент на демопериоде: Разблокируйте. Просто хотел блокчейн запустить на сервере и получил бан.

Сотрудник: Данные в паспорте не соотносятся с тем, что вы заполнили, поэтому либо заполните согласно паспорту, либо предоставьте надлежащую копию.

Клиент: Готово. Исправил ошибку.

Сотрудник: Разблокировали.

Клиент: Снова разблокируйте.

Сотрудник: Укажите назначение и цель использования программ, за которым поступили блокировки одна за одной.

Клиент: Еммм. Взлом своего бтц-кошелька. Жалобы от кого? )

Сотрудник: К сожалению, разблокировка сервера в этой ситуации возможна только после его оплаты на общих основаниях.

Клиент: Ахааххах, странные вы ) очень ) идите на**й )

Обычно на этом диалог и заканчивается, поскольку мы отказываем клиентам в обслуживании после оскорбления сотрудника поддержки. При этом если клиент матерился просто безадресно, на ситуацию, это более-менее приемлемо, а вот если адресно послал или обозвал сотрудника — уже нет. Это простое правило, возможно, стоило нам нескольких десятков клиентов, но сберегло море нервов сотрудников.

Конечно, самое ценное — это когда нам присылают баг. Или жалуются на что-то, что легко исправить и получить ещё одно преимущество. Вот, например, недавно был случай, когда выяснилось, что в личном кабинете можно менять 1 рубль на 1 доллар, — курс получался вполне себе даже ничего.

Это от DHL Express приехал слегка битый сервер. Про то, как решали с ним, — ниже.

По России мы закупаемся в центральный офис, настраиваем оборудование и везём его по стране. По Европе сложнее, и там мы несколько раз наступали на разные грабли. Первыми граблями была попытка привезти железо из России во Франкфурт, потому что у нас тут получались цены ниже, чем все затраты на таможню и перевозку. Первый раз это закончилось тем, что перевозчик накосячил в декларации, и их машину брали со спецназом. Чтобы вернуть сервер, нам пришлось заплатить штраф, равный его стоимости, но это всё равно было лучше, чем покупать новый с доставкой за шесть недель.

Точнее, даже не так. Первый раз мы повезли два сервера сами на поезде, потому что у нас была встреча в ЦОДе. Это было, ещё когда мы ездили лично, а не проводили аудит дата-центра по финансовым и операционным показателям. В поезде европейский таможенник долго пытался убедить нас, что «персональные компьютеры потому и называются персональными, что для личного пользования», и декларировать их не надо. Дал квиточек, похожий по виду на листок туалетной бумаги. Оформили временный вывоз, то есть мы имеем право их вернуть, а если не вернём, то надо будет возместить НДС.

До Франции привезли их в поезде, дальше перегрузили в машину и поехали в Швейцарию. А вот уже во второй раз отправили перевозчиком, который, похоже, решил чуточку сэкономить, а таможня решила, что он вывозит какое-то редкое российское вычислительное оборудование.

Всё железо у нас одинаковое, чтобы упростить обслуживание: условно, поддерживаются две типовые конфигурации серверной платформы. Сейчас из-за того, что сделали с Хуавеем, будет третья. Каждый год мы закупаем железо на обновление по амортизации (сервер меняется примерно раз в пять лет плюс-минус год), расширение (рынок растёт со скоростью около 20–30 %, и нужно столько же железа, просто чтобы оставаться в той же доле) и ЗИП.

Пользователь VDS-хостинга задал нам вопрос о том, откуда берётся Интернет. И тут мы поняли, что это тот самый детский вопрос, на который не так-то просто нормально ответить.

Думаю, что 99 % людей ответят: берёт и приходит, а потом задумаются. Это настолько естественно и очевидно, что обычно просто не обсуждается. Ну там, знаете, оптика, она приходит в домик, в домике стоит коробка, а из коробки идёт медь. Вот примерно так оно и работает.

В теории всё так и есть, но на практике это выглядит немного иначе. И есть нюансы. Давайте покажу, откуда к нам приходит Интернет и в чём. А заодно поговорим про то, где фильтруется трафик и как это устроено в хостинге.

Для нас всё начинается вот с этой ракеты в Королёве:


Источник

Это памятник «Восток-2М» (8А292М), стоящий в Королёве примерно на том месте, где вообще был разработан «Восток». Перед ним находится люк, где одна трасса оптики разделяется на три к M9, или MSK-IX — московской международной телефонной станции № 9, где когда-то появился самый крупный узел обмена трафика. Сейчас это главное место, откуда Интернет поставляется в Москву. Из-за некоторых особенностей нашей территории бомбоубежища именно в этом люке под ракетой находится уязвимое место оптики, где все три канала идут вместе, и их легко перерубить экскаватором на протяжении примерно 120 метров. В других местах до и после ракеты такого нет.

Соответственно один луч идёт через наш ЦОД в Ивантеевку, поворачивает в Щёлково и заканчивается на M9-IX. Второй подземный ввод идёт через Ярославское шоссе, третий ввод — дополнительный, он скачет по столбам от коллектора до ЦОДа в одну сторону и до местного провайдера в другую, а провайдер уже врезается в кольцо оптики по городу и тоже попадает в девятку.

— В чём прикол хоститься у российской компании за рубежом?

Рассмотрим размещение в Амстердаме или Лондоне. Из-за другой юрисдикции не будет вопросов от российского МВД, например, потому, что на практике будет очень сложно дотянуться и разобраться. С другой стороны, точно так же вас почти точно не будет трогать и местное МВД, поскольку при запросе данных через кросс-юрисдикцию нужно будет делать это через Интерпол, что довольно сложно. В итоге нужно реально сильно накосячить, чтобы за вами пришли. У нас запросов через Интерпол было только два за историю хостинга.

— Погодите, то есть это лучше, чем у английской компании в Англии?

С точки зрения приватности — да. Местные не могут получить доступа к вашим установочным данным без запроса в Интерпол, а в России никто на практике не интересуется другой юрисдикцией. Если при этом выбрать ещё не Англию, а Голландию, где законы разрешают почти всё с точки зрения информационной свободы, то получится флеш-рояль.

В один прекрасный момент сотрудник техподдержки скидывает в административный чат ссылку на видеоролик на Ютубе, где подробно разбирается принцип функционирования финансовой пирамиды. Он его смотрел просто развлечься, но на 14:30 там указаны конкретные IP-адреса. А профессиональная деформация владельцев хостинга — приглядываться к ним внимательнее. В общем, это наши айпишники.

Далее сотрудник поддержки предлагает блокировать этих людей.

И тут мы встаём перед этической дилеммой: вроде бы понятийно понятно, что это мошенники, и они, пользуясь нашей инфраструктурой, обманывают людей. Это с одной стороны. А с другой — у нас нет ни решения суда, ни обращения из РКН, чтобы их блокировать.

Можем ли мы на основании своих личных ощущений прервать действие договора или нет?

Одним прекрасным солнечным утром, когда я был далеко от Москвы, даже не в европейской её части, выяснилось, что у нас есть неделя на то, чтобы освободить офис. У арендодателя случилось срочное обострение уровня «через две недели через вашу серверную пройдёт новая федеральная трасса», только немного другое, и нам надо куда-то срочно деться.

Мечта! Перевозить офис за неделю само по себе интересное приключение, а без личного присутствия так вообще вдвойне. И без сотрудников, потому что почти все в эти мрачные ковидные времена выбрали удалёнку. Есть буквально пара человек и офис-менеджер Кристина.

С другой стороны, это возможность, потому что я не видел причин возвращаться в офис всем и сразу когда-либо (удалёнка нормально работала) и предположил, что можно повысить категорию офиса до самого крутого из возможных за счёт уменьшения его размеров.

Оставалось всего ничего: выбрать место под новый офис, перевезти вещи, мебель и серверную, развернуть всё на новом месте и сделать ещё сотню дел вроде «предупреди контрагентов, что у тебя сменился юрадрес». В итоге уже через неделю мы взламывали свою же особо защищённую дверь в новый офис.

Печатаем адаптеры для SSD с 2,5 на 3,5 дюйма, потому что в продаже их нет

Значит, салазки. Давным-давно мы стояли в ЦОДе на Ярославском шоссе, том самом, что был на месте станции МЦК. Собственно, он в какой-то момент накрылся этой самой станцией, и нам нужно было куда-то уезжать. Тогда у нас была первая партия хуавеевских серверов, 20 штук. И вот у них в поставке идёт сам сервер и отдельно салазки для него за 150 долларов. А у нас стойки с уголками уже, то есть салазки не нужны. Мы просим менеджера их из счёта убрать, он убирает. 3 тысячи долларов экономии, круто, да? На самом деле реально круто, как нам тогда казалось. Деньги для начинающей компании вполне значимые.

В общем, счастливы мы были до переезда. Потому что купили новые стойки. А они не подразумевали уголков в принципе, сразу нужен был нормальный монтаж в салазки. А салазок-то ни у кого нет. Вообще. Даже у вендора нет. Они по какой-то странной причине продают их только вместе с серверами. В общем, уговорили со следующей партией железа каждый сервер укомплектовать двумя комплектами. Причём несколько разных людей пытались нам помочь и сказать, что салазки ломаются редко, и они убрали из заказа лишние…

В момент тотальной замены HDD на SSD снова понадобились новые салазки. На этот раз мы прочёсывали все радиорынки, все склады Савёловской и все объявления на Авито. Но это как с ремешками от дорогих часов: если продаётся, значит, владелец свои часы утопил. Нужно было найти много людей, утопивших свои серверы. В некоторых случаях даже думали покупать совсем старые списанные серверы с салазками в комплекте, потому что там они хотя бы были в сборе.

Давайте расскажу, что потребляет наш ЦОД в Королёве из мелочей.