Вот вы говорите «спасет», а расскажите реальный кейс-более менее крупной инфраструктуры где она реально спасет, с учетом всех накладных расходов?
Я с облаками уже давно работаю и если учитывать не только прямые расходы, вроде стоимость ядра в месяц, то в большинстве (не во всех, но большинстве) сценариев облако выигрывает по совокупности и не особо то бьет по карману.
Ну, я с вами не соглашусь. Бывают ситуации, когда свое железо дешевле конечно, но это от кейса к кейсу.
Могу вам озвучить реальную стоимость одной инфраструктуры в GKE, обслуживающей достаточно крупную команду заработки (частный бизнес, никаких бюджетов), состоящей из вот чего:
1. Два независимых K8s кластера, каждому по балансеру для Ingress. На обоих активно используются preemptible-ноды,:
— Один — 3 машины, в сумме 5 CPU и 14 Гб памяти в статике, иногда надувается до 11 CPU и около 30 Гб памяти.
— Второй — 9 машин, в сумме 9 CPU и 34 ГБ памяти в статике, надувается в пике до 30 CPU и почти 100 ГБ памяти (больше разрешено, но ни разу не видел).
2. 12 назависимых, но мелких PostgreSQL баз, в которых лежат всякие не очень критичные штуки, поэтому без включенного HA.
3. Еще одна достаточно база PostgreSQL, тоже мелкая, но с включенным HA.
4. Около 3.2 ТБ архивов в cold storage.
5. Около 500 Гб в региональном сторадже, куда кладутся первичные бэкапы, где живет Docker Registry и еще всяких штук по мелочи.
По обслуживанию — всегда последние security патчи без даунтайма и даже без просадки производительности, полностью автоматизированное управление.
Профит — нулевая очередь на сборку при любых нагрузках, максимальное ожидание — 3-4 минуты, пока автоскейл ноду инициализирует, все данные удобно бэкапятся, можно выключать\менять размер любых нод в течении 15 минут, убирать-добавлять сервисы по желанию вот прям тогда, когда нужно, ресурсы аллоцируются автоматически (ну то есть вообще нет вопроса «ой, какой то ресурс заканчиваеся»), сервисы изолированы друг от друга(сеть + физически разнесены на разные инстансы самые критичные штуки), можно при желании выдавать права на управление-администрирование (не в панельку, а вот прям внутрь) с градацией до сервиса, все легко переподнимается в любом другом месте в течении пары часов, т.к k8s + helm + дампы баз + где надо дампы статики с диска.
На обслуживание именно инфраструктуры тратится 30 минут в месяц, когда надо ткнуть апдейт для тех групп машин, для которых автоапдейт запрещен да кубик на мастерах обновить.
Обходится это все добро по данным биллинга в 650-700 долларов в месяц в зависимости от активности разработчиков.
И да, админа на окладе тут нет, потому что для этого он не нужен.
Да, за эти деньги можно взять 3 жирных машинки где-то в приличном месте, но обслуживание их будет стоить далеко не 100 баксов в пересчете на все простои, тупняки и зарплату специалистов.
Да почти во всех, где надо много емкости на некоторое время и есть устойчивость к перезапускам отдельных элементов, или хочется экономить (а кому не хочется) и архитектура позволяет.
То есть от обработки пользовательских запросов nginx-ом до бигдаты, да.
Не рекомендуется только для баз по понятным причинам, но с исключениями — можно даже ClickHouse какой нибудь поверх этого крутить, если юзкейс поволяет. По крайней мере частично, что уже даст ощутимую экономию средств.
На самом деле очень много систем и проектов живут на спотах в AWS, потому что выгодно. Некоторые кейсы можно найти допустим тут. Сходу — Yelp вот пользуется и радуется, вот их доклад на сайте Mesosphere.
У меня самого почти все машинки на проектах — это spot/preemptible (чаще второе, потому что почти все в GKE) и практически все, что касается разработки на них, включая Jenkins и Gitlab (за исключением непосредственно gitaly, т.к. он пока не умеет в HA) и все энвайременты продуктов (там конечно не все ноды preemptibe, но большинство).
Но пока что их месячный прайс оказывается уж слишком неприятным в сравнении с покупкой железок и определённой вознёй с простаиванием/наращиванием мощностей.
А если не секрет, что за сервера используются в варианте bare-metal-а?
Просто если учесть стоимость работ по обслуживанию, простоям из-за сбоев и всякие особенности контрактов на свое железо, а так же невозможность масштабирования не должно очень большой разницы получаться, особенно со stateless приложениями, где можно preemptible/spot nodes использовать и прочие трики.
Смысл масштабирования в рассматриваемом примере неясен.
Согласен с вами, тоже почитал и не очень понял зачем. HPA без автоскейлинга на уровне нод весьма бесполезны. Есть конечно исключения, можно к примеру сделать кастомный scheduler и что-то вроде контроллера и реализовать что-то вроде вытеснения некритичной нагрузки в момент пиков в пользу критичной, но тут явно не тот случай.
в рамках крупных аутсорсеров, особенно практикующих «бенчи»
Я и там работал одно время, буквально недавно, в одном из крупнейших (по крайней мере на бирже она присутствует и стоит больше миллиарда), как раз у которых есть «бенчи» (кстати, не понимаю, причем тут они в нашем контексте). Задница там похлеще чем во многих местах, но это в целом. А в частности про подход и инструменты — черта с два. Конвейер, просто тупой конвейер.
Львиная доля проектов — это или корпоративный застандартизованый по самые помидоры ад, либо легаси, либо вообще отсутствие стандартов и подходов, потому что срочно — горит — надо вчера — заказчику продали и черт бы с ним, теперь крутитесь. Никто там ничего не даст выбирать, дали стек — крути, и хорошо если стек более-менее свежий (хотя на 90% он одинаковый — Java + SpringBoot + обвязка по вкусу). В части инфры разнообразия тоже маловато.
Так что нет, спасибо, сказки про интересную и драйвовую работу со сменой парадигм по желанию работника в аутсорсерах за более-менее приличные деньги оставьте при себе.
Даже без причных денег — нет ее там, а есть дружная команда гребцов с непредсказуемым средним скилом, вне зависимости от их лычек, которые зарабатываются сидением на заднице и навыком прохождения разнообразных внутренних экзаменов, именуемых умным словом ассессмент.
Причем на собственном опыте (да и с коллегами мы в целом сходились во мнении по этому поводу) скажу, что прохождение ассессмента не особо то зависит от технических скилов, зато крайне сильно зависит от навыков коммуникации и презентации, потому что компетентность людей, которые тебя оценивают вообще рендомная.
Из 5 человек комитета (4 тех. специалиста и 1 менеджер), с которым я общался, трое знали английский (на котором и проводится ассессмент) хуже чем я, что выливалось в трудности общения, потому что сложно задавать правильные вопросы, испытывая сложности с их формулированием, двое из 4 тех. специалистов минимум по разу задали технически некорректный запрос (ну, условно «с какой скоростью летает корова» и получив ответ, что корова вообще не летает начинали доказывать что летает, но к счастью были остановлены аппелированием к беспощадной документации на корову, где черным по белому написано собственно), а менеджер задал вопрос, почти дословно «как вы будете убеждать клиента что ему срочно нужно уходить в облака с on-premise», не дав вообще никакой информации и клиенете, вот буквально одной фразой. При том, что переход был между техническими позициями, а на пресейл кажется надо отдельно людей готовить. И это не мне одному так повезло, еще двое коллег проходили то же самое с другими комитетами — разница в деталях, общая картина та же.
Короче, наверно хорошо, что я туда случайно попал (релокация достаточно комфортная опять же, так что плюсы все-таки были), но еще раз — не в жизнь. За такие деньги, на таких условиях с таким подходом — нафиг. Может кому то такое и нравится, но не мне так точно.
ИМХО конечно, но идти туда можно только за одним — чтобы увезли в интересующую тебя локацию на достаточно комфортных условиях, когда не сильно хочется рисковать и после окончания всех доп. договоров связанных с переездом уходить, ибо делать там нечего. И уж не в коем случае не ехать с ними туда, где законы не позволяют менять работодателя из-за привязки к визе (типа США), если не хочется на 90к в год жить 5 лет в Калифорнии в коробке из под холодильника (потому что за эти деньги только на нее и хватит) с шансом вылета на мороз в любой момент.
Вот как то оно так, простите за многобукв, вспомнилось.
Начиная с Яндекса, КРОКа и заканчивая Касперским и тп.
За всех не скажу, но за Яндекс скажу из своего опыта и опыта многих коллег оттуда, ныне перешедших в другие компании.
Спектр задач там конечно широкий (хотя опять же часто это тысяча оттенков одного и того же), но на на подавляющем большинстве позиций толком не будет ни роста, ни какой то смены культуры и практики.
Большие компании естественным образом стремятся к оптимизации и унификации.
Сегодня вы пилили один модуль\приложение\фреймворк в одной команде (или поддерживали один кластер\продукт), завтра вы можете пойти в другую команду и пили другой модуль\приложение\фреймворк (или поддерживать другой кластер\продукт) и ни черта по факту не изменится. Те же вариации инструментов, те же подходы, часто даже люди будут +- те же, потому что в рамках компании возможно пересекались.
Для того, что получить что-то ощутимо другое, надо все таки выходить за рамки одной компании, какая бы крупная, и тем более если она крупная, не была.
И это я не говорю еще про финансовый вопрос, т.к. сменить работу с повышением дохода проще (внезапно), чем добиться его повышения, оставаясь в компании.
Спасибо за интересный рассказ. Насыщенно, написано отлично.
Хотел оставить исключительно позитивный комментарий, но, честно говоря, впечатление у меня осталось двойственное.
С одной стороны — классно, что вы нашли себя, вам нравится то, чем вы занимаетесь. Наличие открытого комьюнити и желание делиться знаниям — это классно. Да и в целом, у меня сложилось впечатление о вас, как о «дядьке с бородой» из старого-доброго bsd комьюнити, который «не то, что эти злые красноглазики»:)
С другой стороны — некоторые моменты и то, что под спойлером, заставило немного попереживать и смутиться. Рынок все-таки узкий в сравнении с действительно большими рынками столиц, ЕС или тех же штатов. Потолок роста ниже (хотя надо ли оно вообще туда наверх ползти — вопрос философский).
В целом я искренне рад, что у вас все получилось так, как вы хотели, ну или по крайней мере вы довольны результатом.
Но вот на счет переезда… не могу согласиться. Да, «нас и здесь неплохо кормят», но едут часто не за деньгами (доход это вообще штука относительная) и даже не за опытом, а за другими ощущениями, другим качеством жизни и от общего дурдома. Какое бы классное комьюнити вокруг тебя не было, какие бы деньги (в тех категориях, что можно заработать в нашей индустрии как работник) тебе не падали на счет — это никак не изменит остальное и остальных.
Но, повторюсь, это очень круто, что вы нашли себя там.
мне больше нравится устраиваться в компании, от которых у меня захватывает дух и где я готов подождать интервьювера, и к интервью которых я готовлюсь. Вот в таких компаниях я смогу расти и дальше.
Из личного опыта тут больше зависит от конкретной команды в компании, а не от самой компании, к сожалению. И вот найти хорошую команду — это крайней сложное занятие.
Я начал подмечать, что с определенного уровня все компании в целом +- одинаковые. Где-то обеды бесплатные, где-то игр на приставку больше, где-то мед. страховка лучше, платят в целом тоже примерно одинаково и неплохо.
При этом такого, чтобы компания прям захватывала дух к сожалению давно не встречалось. Даже топы индустрии на поверку готовы предложить не так много интересного вкупе с обычным корпоративным ИБД-синдромом.
Наверно мне пора в стартап:)
Ah, that's why an interface is in English:)
Congrats guys!
P.S. «User Status» is not translated yet. «Пользователь» instead of «Regular user» or something like that.
Как и в любом разговорнике, Вы попадаете в скрипт, который выглядит круто, пока не попадете в реальную ситуацию.
Это точно:)
Как говорил один сатирик (к сожалению не помню, кто именно) — «Разговорник — страшная вещь. Мало того, что ты не понимаешь, что говоришь, так они же еще и ответить могут!»
-20 (из того же письма) А, и вот еще список скиллов и технологий, не могли бы Вы пополнить ваш уровень владения, где 0 — не знаком, не владею, а 10 — максималный балл?
Я с облаками уже давно работаю и если учитывать не только прямые расходы, вроде стоимость ядра в месяц, то в большинстве (не во всех, но большинстве) сценариев облако выигрывает по совокупности и не особо то бьет по карману.
Могу вам озвучить реальную стоимость одной инфраструктуры в GKE, обслуживающей достаточно крупную команду заработки (частный бизнес, никаких бюджетов), состоящей из вот чего:
1. Два независимых K8s кластера, каждому по балансеру для Ingress. На обоих активно используются preemptible-ноды,:
— Один — 3 машины, в сумме 5 CPU и 14 Гб памяти в статике, иногда надувается до 11 CPU и около 30 Гб памяти.
— Второй — 9 машин, в сумме 9 CPU и 34 ГБ памяти в статике, надувается в пике до 30 CPU и почти 100 ГБ памяти (больше разрешено, но ни разу не видел).
2. 12 назависимых, но мелких PostgreSQL баз, в которых лежат всякие не очень критичные штуки, поэтому без включенного HA.
3. Еще одна достаточно база PostgreSQL, тоже мелкая, но с включенным HA.
4. Около 3.2 ТБ архивов в cold storage.
5. Около 500 Гб в региональном сторадже, куда кладутся первичные бэкапы, где живет Docker Registry и еще всяких штук по мелочи.
По обслуживанию — всегда последние security патчи без даунтайма и даже без просадки производительности, полностью автоматизированное управление.
Профит — нулевая очередь на сборку при любых нагрузках, максимальное ожидание — 3-4 минуты, пока автоскейл ноду инициализирует, все данные удобно бэкапятся, можно выключать\менять размер любых нод в течении 15 минут, убирать-добавлять сервисы по желанию вот прям тогда, когда нужно, ресурсы аллоцируются автоматически (ну то есть вообще нет вопроса «ой, какой то ресурс заканчиваеся»), сервисы изолированы друг от друга(сеть + физически разнесены на разные инстансы самые критичные штуки), можно при желании выдавать права на управление-администрирование (не в панельку, а вот прям внутрь) с градацией до сервиса, все легко переподнимается в любом другом месте в течении пары часов, т.к k8s + helm + дампы баз + где надо дампы статики с диска.
На обслуживание именно инфраструктуры тратится 30 минут в месяц, когда надо ткнуть апдейт для тех групп машин, для которых автоапдейт запрещен да кубик на мастерах обновить.
Обходится это все добро по данным биллинга в 650-700 долларов в месяц в зависимости от активности разработчиков.
И да, админа на окладе тут нет, потому что для этого он не нужен.
Да, за эти деньги можно взять 3 жирных машинки где-то в приличном месте, но обслуживание их будет стоить далеко не 100 баксов в пересчете на все простои, тупняки и зарплату специалистов.
То есть от обработки пользовательских запросов nginx-ом до бигдаты, да.
Не рекомендуется только для баз по понятным причинам, но с исключениями — можно даже ClickHouse какой нибудь поверх этого крутить, если юзкейс поволяет. По крайней мере частично, что уже даст ощутимую экономию средств.
На самом деле очень много систем и проектов живут на спотах в AWS, потому что выгодно. Некоторые кейсы можно найти допустим тут. Сходу — Yelp вот пользуется и радуется, вот их доклад на сайте Mesosphere.
У меня самого почти все машинки на проектах — это spot/preemptible (чаще второе, потому что почти все в GKE) и практически все, что касается разработки на них, включая Jenkins и Gitlab (за исключением непосредственно gitaly, т.к. он пока не умеет в HA) и все энвайременты продуктов (там конечно не все ноды preemptibe, но большинство).
А если не секрет, что за сервера используются в варианте bare-metal-а?
Просто если учесть стоимость работ по обслуживанию, простоям из-за сбоев и всякие особенности контрактов на свое железо, а так же невозможность масштабирования не должно очень большой разницы получаться, особенно со stateless приложениями, где можно preemptible/spot nodes использовать и прочие трики.
Согласен с вами, тоже почитал и не очень понял зачем. HPA без автоскейлинга на уровне нод весьма бесполезны. Есть конечно исключения, можно к примеру сделать кастомный scheduler и что-то вроде контроллера и реализовать что-то вроде вытеснения некритичной нагрузки в момент пиков в пользу критичной, но тут явно не тот случай.
У всех аутсорсеров работа проектная за редкими исключениями внутренних нужд.
Я и там работал одно время, буквально недавно, в одном из крупнейших (по крайней мере на бирже она присутствует и стоит больше миллиарда), как раз у которых есть «бенчи» (кстати, не понимаю, причем тут они в нашем контексте). Задница там похлеще чем во многих местах, но это в целом. А в частности про подход и инструменты — черта с два. Конвейер, просто тупой конвейер.
Львиная доля проектов — это или корпоративный застандартизованый по самые помидоры ад, либо легаси, либо вообще отсутствие стандартов и подходов, потому что срочно — горит — надо вчера — заказчику продали и черт бы с ним, теперь крутитесь. Никто там ничего не даст выбирать, дали стек — крути, и хорошо если стек более-менее свежий (хотя на 90% он одинаковый — Java + SpringBoot + обвязка по вкусу). В части инфры разнообразия тоже маловато.
Так что нет, спасибо, сказки про интересную и драйвовую работу со сменой парадигм по желанию работника в аутсорсерах за более-менее приличные деньги оставьте при себе.
Даже без причных денег — нет ее там, а есть дружная команда гребцов с непредсказуемым средним скилом, вне зависимости от их лычек, которые зарабатываются сидением на заднице и навыком прохождения разнообразных внутренних экзаменов, именуемых умным словом ассессмент.
Причем на собственном опыте (да и с коллегами мы в целом сходились во мнении по этому поводу) скажу, что прохождение ассессмента не особо то зависит от технических скилов, зато крайне сильно зависит от навыков коммуникации и презентации, потому что компетентность людей, которые тебя оценивают вообще рендомная.
Из 5 человек комитета (4 тех. специалиста и 1 менеджер), с которым я общался, трое знали английский (на котором и проводится ассессмент) хуже чем я, что выливалось в трудности общения, потому что сложно задавать правильные вопросы, испытывая сложности с их формулированием, двое из 4 тех. специалистов минимум по разу задали технически некорректный запрос (ну, условно «с какой скоростью летает корова» и получив ответ, что корова вообще не летает начинали доказывать что летает, но к счастью были остановлены аппелированием к беспощадной документации на корову, где черным по белому написано собственно), а менеджер задал вопрос, почти дословно «как вы будете убеждать клиента что ему срочно нужно уходить в облака с on-premise», не дав вообще никакой информации и клиенете, вот буквально одной фразой. При том, что переход был между техническими позициями, а на пресейл кажется надо отдельно людей готовить. И это не мне одному так повезло, еще двое коллег проходили то же самое с другими комитетами — разница в деталях, общая картина та же.
Короче, наверно хорошо, что я туда случайно попал (релокация достаточно комфортная опять же, так что плюсы все-таки были), но еще раз — не в жизнь. За такие деньги, на таких условиях с таким подходом — нафиг. Может кому то такое и нравится, но не мне так точно.
ИМХО конечно, но идти туда можно только за одним — чтобы увезли в интересующую тебя локацию на достаточно комфортных условиях, когда не сильно хочется рисковать и после окончания всех доп. договоров связанных с переездом уходить, ибо делать там нечего. И уж не в коем случае не ехать с ними туда, где законы не позволяют менять работодателя из-за привязки к визе (типа США), если не хочется на 90к в год жить 5 лет в Калифорнии в коробке из под холодильника (потому что за эти деньги только на нее и хватит) с шансом вылета на мороз в любой момент.
Вот как то оно так, простите за многобукв, вспомнилось.
За всех не скажу, но за Яндекс скажу из своего опыта и опыта многих коллег оттуда, ныне перешедших в другие компании.
Спектр задач там конечно широкий (хотя опять же часто это тысяча оттенков одного и того же), но на на подавляющем большинстве позиций толком не будет ни роста, ни какой то смены культуры и практики.
Большие компании естественным образом стремятся к оптимизации и унификации.
Сегодня вы пилили один модуль\приложение\фреймворк в одной команде (или поддерживали один кластер\продукт), завтра вы можете пойти в другую команду и пили другой модуль\приложение\фреймворк (или поддерживать другой кластер\продукт) и ни черта по факту не изменится. Те же вариации инструментов, те же подходы, часто даже люди будут +- те же, потому что в рамках компании возможно пересекались.
Для того, что получить что-то ощутимо другое, надо все таки выходить за рамки одной компании, какая бы крупная, и тем более если она крупная, не была.
И это я не говорю еще про финансовый вопрос, т.к. сменить работу с повышением дохода проще (внезапно), чем добиться его повышения, оставаясь в компании.
Хотел оставить исключительно позитивный комментарий, но, честно говоря, впечатление у меня осталось двойственное.
С одной стороны — классно, что вы нашли себя, вам нравится то, чем вы занимаетесь. Наличие открытого комьюнити и желание делиться знаниям — это классно. Да и в целом, у меня сложилось впечатление о вас, как о «дядьке с бородой» из старого-доброго bsd комьюнити, который «не то, что эти злые красноглазики»:)
С другой стороны — некоторые моменты и то, что под спойлером, заставило немного попереживать и смутиться. Рынок все-таки узкий в сравнении с действительно большими рынками столиц, ЕС или тех же штатов. Потолок роста ниже (хотя надо ли оно вообще туда наверх ползти — вопрос философский).
В целом я искренне рад, что у вас все получилось так, как вы хотели, ну или по крайней мере вы довольны результатом.
Но вот на счет переезда… не могу согласиться. Да, «нас и здесь неплохо кормят», но едут часто не за деньгами (доход это вообще штука относительная) и даже не за опытом, а за другими ощущениями, другим качеством жизни и от общего дурдома. Какое бы классное комьюнити вокруг тебя не было, какие бы деньги (в тех категориях, что можно заработать в нашей индустрии как работник) тебе не падали на счет — это никак не изменит остальное и остальных.
Но, повторюсь, это очень круто, что вы нашли себя там.
Из личного опыта тут больше зависит от конкретной команды в компании, а не от самой компании, к сожалению. И вот найти хорошую команду — это крайней сложное занятие.
Я начал подмечать, что с определенного уровня все компании в целом +- одинаковые. Где-то обеды бесплатные, где-то игр на приставку больше, где-то мед. страховка лучше, платят в целом тоже примерно одинаково и неплохо.
При этом такого, чтобы компания прям захватывала дух к сожалению давно не встречалось. Даже топы индустрии на поверку готовы предложить не так много интересного вкупе с обычным корпоративным ИБД-синдромом.
Наверно мне пора в стартап:)
Для Чикаго тем же калькулятором получается со $130к в год $7.6к в месяц чистыми для одного или $8.2к если женат.
Для справки с той же суммы:
Сиэтл — $8.1к на одного и $8.7 на двоих.
Сан-Франциско — $7.3к на одного и $8.2к на двоих.
У меня что-то никак не получается найти место, где со 130 будет 47к налогов.
Congrats guys!
P.S. «User Status» is not translated yet. «Пользователь» instead of «Regular user» or something like that.
Тут скорее надо менять сам принцип оценки.
Это точно:)
Как говорил один сатирик (к сожалению не помню, кто именно) — «Разговорник — страшная вещь. Мало того, что ты не понимаешь, что говоришь, так они же еще и ответить могут!»
Вот это прям гуглом пахнет…