Pull to refresh
18
0
Максим @therb1

SR-Engineer

Send message

Автоматическая система Netflix для восстановления заданий после сбоев, основанная на машинном обучении

Level of difficultyMedium
Reading time19 min
Views1.1K

Это — первый материал из серии статей, посвящённой использованию анализа данных и машинного обучения (Machine Learning, ML) в Netflix. Мы применяем то, о чём собираемся рассказать, совершенствуя автоматизацию оперативной деятельности. Делается это ради повышения производительности и экономической эффективности задач, связанных с обработкой больших данных. В понятие «автоматизация оперативной деятельности», кроме прочих, входят следующие операции: диагностика систем, исправление сбоев, конфигурирование, настройка, масштабирование, отладка, тестирование. Всё это — та база, от которой зависит успешность современных платформ, ориентированных на обработку данных. В этом материале речь пойдёт о нашем проекте Auto Remediation, направленном на автоматическое восстановление задач после сбоев. В соответствующую систему интегрированы классификатор ошибок, основанный на правилах, используемый в настоящий момент, и ML‑служба. Цель этой системы заключается в автоматическом восстановлении работоспособности заданий, с которыми что‑то случилось. Мы развернули систему Auto Remediation в продакшне для того, чтобы исправлять с её помощью ошибки заданий Spark. Это — ошибки, связанные с настройками памяти, и неклассифицированные ошибки. Система доказала свою эффективность. Так — было автоматически исправлено 56% ошибок, связанных с памятью, на 50% снижены расходы, вызванные всеми ошибками. Мы, кроме того, видим в Auto Remediation большой потенциал для дальнейшего развития.

Читать далее
Total votes 5: ↑5 and ↓0+14
Comments0

Лучшее резюме из тех, что я видел

Level of difficultyEasy
Reading time5 min
Views97K

Позвольте мне рассказать историю о лучшем из виденных мною резюме облачного разработчика. В нём совершенно отсутствовал профессиональный опыт в ИТ, и оно было великолепным в том числе и поэтому. Но чтобы полностью передать всё великолепие этого резюме, мне нужно начать с самого начала. С неприятно пахнущего начала.

Вонючее начало


В момент начала пандемии COVID-19 Дэниелу Синглтери уже осточертела его работа. Работая сантехником в коммерческих и жилых зданиях Атланты, он в свои 11-часовые смены решал самые грязные и вонючие проблемы в стране.

Возьмём для примера день, когда ему позвонили с жалобой на неожиданный запах в торговом комплексе. Дэниел с коллегой отправились на место происшествия. Да, запах присутствовал, в этом не было никакой ошибки. Воняло канализацией, и очень жёстко.

Зайдя с целью разведки в туалеты, Дэниел заметил нечто странное: по низу помещений дул поток воздуха. Отодвинув унитаз, от отшатнулся: в нос ему ударил отвратительно пахнущий ветер. Позже он писал: «Представьте, что мощный насос подаёт вам в лицо канализационный газ». Это не просто необычно, такого просто не должно быть возможно.

Трубы канализации не выдувают воздух. Тем не менее, весь торговый центр превратился в газопровод.
Читать дальше →
Total votes 72: ↑54 and ↓18+60
Comments93

Как выжить под руководством микроменеджера и откуда берется гиперконтроль — личный опыт и полезные советы

Level of difficultyEasy
Reading time10 min
Views8.9K

Привет! Я Женя, CPO в корпоративном мессенджере Compass. И сегодня о наболевшем…

Представьте, что вы сосредоточились на сложной задаче. Погрузились в процесс, мозг вскипает от огромного объема информации и, кажется, вот-вот будет готово решение. Но в очередной раз приходит оповещение: «Ну что там по задаче? Отправь готовую часть — в обед посмотрю».

А после обеда еще с десяток вопросов. А почему готова только эта часть? А в прошлый раз было не так — почему теперь по-другому? А когда будет финальный результат?

Многим даже не нужно представлять. Для тех, кто работает под руководством микроменеджера, это суровая реальность — бессмысленная и беспощадная.

Если вы счастливчик, который никогда не сталкивался с подобным, поясню. Микроменеджер — это руководитель, который контролирует каждый шаг сотрудников и полностью блокирует инициативу, какую-либо самостоятельность со стороны команды.

Долго останавливаться на том, чем плох такой стиль управления, я не буду. Об этом написано немало статей. Скажу лишь, что при подходе, который выбирают микроменеджеры, страдают абсолютно все: сами руководители, команда, клиенты и, конечно, компания.

В этой статье я хочу подробнее рассмотреть все грани микроменеджмента и поделиться личным опытом. Расскажу, как работать с микроменеджерами, а также как не скатиться в этот стиль управления, если вы сами руководите командой.

Читать далее
Total votes 13: ↑10 and ↓3+11
Comments9

Как субъективная оценка кандидатов может стать причиной ошибок в найме?

Level of difficultyEasy
Reading time8 min
Views3.3K

Представьте ситуацию: вы только что завершили интервью с кандидатом, который выглядит фантастически. Уверенный, харизматичный, с безупречным резюме. Вы уже готовы подписать с ним контракт. Но через три месяца этот «идеальный» сотрудник оказывается полной катастрофой. Знакомо? И вы не одиноки.

По данным исследований, до 80% решений о найме, основанных на субъективной оценке, являются ошибочными в долгосрочной перспективе.

Давайте разберемся, почему так происходит и как избежать дорогостоящих ошибок в найме.

Читать далее
Total votes 9: ↑1 and ↓8-5
Comments3

Структурированные собеседования: зачем они нужны и как их успешно реализовать

Level of difficultyEasy
Reading time4 min
Views3.4K

Представьте, что вы владеете процветающим бизнесом. Ваша прибыль растет, место на рынке стабильно, но вас постоянно преследует кошмар — текучка кадров. Взлет обещаний соискателей, которые исчезают через пару месяцев, угрожает эффективности вашего бизнеса. Вам это знакомо? Если да, то вы попали в ловушку неэффективного найма. Но не отчаивайтесь — у нас есть что‑то, что изменит ситуацию кардинально. Добро пожаловать в мир структурированных собеседований!

Читать далее
Total votes 11: ↑3 and ↓80
Comments8

Приложение, идентичное натуральному: 7 способов прокачать свой pet-проект

Level of difficultyEasy
Reading time9 min
Views4.9K

Обучение программированию очень похоже на единоборства: это сложный комплексный навык, искусство, если угодно. Есть в программировании и свои «боксёрские мешки» — это pet‑проекты. Но в отличие от единоборств, не совсем очевидно, что свой домашний проект и реальный коммерческий — это не одно и то же. В итоге ребята, старательно разрабатывающие очередное приложение для списка дел и просмотра погоды, рискуют заложить фундамент сомнительного качества, выстраивая цитадель своей профессиональной экспертизы.

Если вы начинающий программист и хотите повысить положительный эффект от работы над pet‑проектом, то эта статья для вас. Мы обсудим, как сделать так, чтобы через свой pet‑проект вы развили навыки, необходимые при работе на коммерческом проекте.

Читать далее
Total votes 21: ↑16 and ↓5+16
Comments10

Как не сжечь команду дотла, или Почему Work-life balance — задача руководителя

Level of difficultyEasy
Reading time9 min
Views18K

Всем привет! Я Саша Ворожищев, руководитель мобильной разработки в AGIMA. В интернете сотни статей о том, как важно не выматывать себя на работе, но всё без толку. Согласно недавнему исследованию Хабр Карьеры, более 90% российских IT-специалистов сталкивались с выгоранием. При этом более 40% доводят себя до поздних стадий, когда эмоциональное истощение уже перерастает в депрессию.

В этой ситуации будет полезным напомнить, что любой руководитель может влиять на состояние команды. И это важно не только с точки зрения человеколюбия, но и с точки зрения бизнеса. В конце концов энергичный сотрудник, который любит свою работу, принесет компании больше счастья, чем выгоревший и усталый. Поэтому давайте разберем, как мотивировать команду соблюдать Work-life balance.

Читать далее
Total votes 34: ↑30 and ↓4+31
Comments2

Как Яндекс создал технологию эмоционального синтеза в Алисе

Reading time6 min
Views13K

Уже скоро Алисе исполнится семь лет. К семи годам у людей уже формируется эмпатия: мы начинаем понимать чувства окружающих и осознаем, что эти чувства отражают внутреннее состояние собеседника. 

У Алисы уже давно есть узнаваемые характер и чувство юмора. Но мы хотим, чтобы наш голосовой помощник стал ещё человечнее. Поэтому мы сделали Алису более чуткой: теперь она сопереживает пользователю в трудную минуту, радуется вместе с ним в его счастливые моменты, увлеченно слушает его рассказы и не только. При выборе эмоции она учитывает ситуацию общения, реплику пользователя и текст ответа, который генерирует для нее нейросеть YandexGPT.

Например, сравните следующие фразы, произнесенные обычным и более эмоциональным образом:

Примеры — под катом
Total votes 36: ↑35 and ↓1+42
Comments19

Куча таймеров в node.js

Level of difficultyMedium
Reading time8 min
Views5.9K

А знаете ли вы, как на самом деле работают таймеры в node.js? В этой статье мы разберемся, как хранятся таймеры, когда запускаются и как в целом все работает вплоть до системных вызовов.

Читать далее
Total votes 15: ↑14 and ↓1+17
Comments4

Zen of Python: история, реализация и пасхалки

Level of difficultyEasy
Reading time6 min
Views7.9K

В мире программирования на Python существует особая философия, представляющая собой специальный документ под названием Zen of Python (Дзен Python). Он включает принципы, направленные на написание ясного, простого и элегантного кода на Python. В этой статье мы поговорим об истории создания этого документа, его реализации и пасхалках, связанных с ним.

Читать далее
Total votes 12: ↑11 and ↓1+10
Comments5

Искусство общения с LLM: Гайд по техникам Prompt Engineering

Level of difficultyMedium
Reading time8 min
Views7.9K

Привет, Хабр! Меня зовут Никита Кулин, ML-Engineer NLP моделей.

В этом гайде мы поговорим о подготовке к prompt-engineering, о базовых принципах написания промпта, про его структуру и про типы решаемых задач, о продвинутых техниках через рассуждения для повышения качества ответа и снижения вероятности появления галлюцинаций. Гайд будет полезен для всех, кто начинает погружаться в промптинг.

Это мой первый пост, поэтому буду рад любой обратной связи!

Читать далее
Total votes 13: ↑10 and ↓3+11
Comments3

Prompt engineering 101

Level of difficultyEasy
Reading time26 min
Views13K

Привет!

Использование LLM все больше проникает в бизнес. И ритейл — не исключение. В X5 мы решили сделать небольшую методичку по prompt engineering для обычного бизнес‑пользователя. Мы посмотрели на получившийся результат и решили поделиться этой методичкой с сообществом, чтобы как можно больше людей смогли овладеть разными техниками, позволяющими работать с LLM эффективнее.

Для этого нам сначала придется разобраться с тем, как вообще устроены LLM, затем поговорим о промптах: общие принципы построения, техники оптимизации и промпты для изображений. А на десерт предложим вам продвинутые техники работы с LLM: автоматизированные подходы по улучшению промптов, Retrieval‑Augmented Generation и разметка данных для ML с помощью LLM.

Читать далее
Total votes 16: ↑14 and ↓2+16
Comments9

Как понять, что работодатель не в себе — часть 2

Level of difficultyEasy
Reading time4 min
Views29K

Я уже писала пост-шпаргалку для тех, кто боится пасть жертвой начальника с протекающим колпаком. Вторую часть публиковать не собиралась, но тут набрались чудо-примеры, которые нельзя скрывать от людей (впечатлительным не читать).

Читать далее
Total votes 68: ↑62 and ↓6+70
Comments33

Сквозная аналитика в HR

Level of difficultyEasy
Reading time7 min
Views4.1K

Сквозная аналитика в HR в виде приложения в Power BI.

После первой встречи с HR отделом в лице руководителя, специалиста, занимавшегося сбором данных и оформлением отчетов в таблицах Excel, выяснилось, что источники с необходимыми данными находятся в регулярных выгрузках из 1С Предприятие, Google Sheets, Битрикс24, PostgreSQL, iSpring. По визуальному оформлению как таковых «жестких» требований не было, была лишь просьба, учесть наглядность представляемых данных и «желательно как в таблицах Excel».

После чего я приступил к созданию дашборда из нескольких дашбордов с получением данных из первоисточников ежедневно.

Читать далее
Total votes 7: ↑7 and ↓0+9
Comments2

Насколько быстр Javascript? Симулируем 20 миллионов частиц

Level of difficultyEasy
Reading time23 min
Views23K

Я бросил себе вызов: симулировать 1000000 (миллион) частиц на чистом Javascript на телефоне, используя только CPU и добившись 60 FPS.

Поехали.

Задача не особо сложна, если выполнять всю работу на GPU, но правило гласит, что нужно пользоваться только CPU, при этом работая на JS, так что никакого WASM.

Читать далее
Total votes 109: ↑108 and ↓1+133
Comments34

Введение в MLflow

Level of difficultyMedium
Reading time19 min
Views6.8K

MLflow - это инструмент для управления жизненным циклом машинного обучения: отслеживание экспериментов, управление и деплой моделей и проектов. В этом руководстве мы посмотрим, как организовать эксперименты и запуски, оптимизировать гиперпараметры с помощью optuna, сравнивать модели и выбирать лучшие параметры. Также рассмотрим логирование моделей, использование их в разных форматах, упаковку проекта в MLproject и установку удаленного Tracking Server MLflow.

Читать далее
Total votes 12: ↑12 and ↓0+18
Comments4

Все, что вы хотели знать про иерархию инжекторов в Angular

Level of difficultyMedium
Reading time8 min
Views4.9K

Привет. Меня зовут Дмитрий, я фронтенд-разработчик в компании «Цифровая индустриальная платформа». В своей работе мне часто приходится использовать Dependency Injection (DI) в Angular. Это мощный и популярный инструмент, который упрощает работу с зависимостями в наших приложениях. Он позволяет легко интегрировать необходимые сущности в компоненты, упрощает процесс тестирования и поддерживает принцип инверсии зависимостей. Однако часто мы не используем все возможности DI, потому что не знаем, как он работает под капотом. Давайте разберемся, как функционирует DI, что такое иерархия инжекторов и какие изменения принесла версия Angular 14.

Читать далее
Total votes 12: ↑12 and ↓0+15
Comments4

Сетевые плагины (CNI) в Kubernetes

Level of difficultyHard
Reading time14 min
Views6.2K

Сеть Kubernetes — это сложная и увлекательная тема, наполненная множеством подвижных частей. Одним из ключевых компонентов, обеспечивающих сетевую связность и взаимодействие различных элементов кластера, является CNI (Container Networking Interface).

CNI  - это спецификация, разработанная CNCF (Cloud Native Computing Foundation) для стандартизации процесса подключения сетевых интерфейсов к контейнерам. CNI обеспечивает гибкость и адаптивность сетевой инфраструктуры, позволяя интегрировать различные сетевые решения в Kubernetes.

Давайте подробнее разберем, что такое Container Network Interface?

Читать далее
Total votes 19: ↑17 and ↓2+18
Comments2

Освоение любой темы с помощью искусственного интеллекта и метода Фейнмана

Level of difficultyEasy
Reading time5 min
Views58K

Когда в последний раз вы сталкивались с трудной для понимания темой? Или проводили часы за просмотром обучающих видео на YouTube?

Существует множество эффективных методик обучения, позволяющих усвоить сложные концепции и обрести уверенность в своих знаниях. Если вы, как и я, постоянно стремитесь к саморазвитию, то понимаете важность правильного подхода к обучению. Одним из наиболее простых и действенных методов является техника Фейнмана.

В этой статье я расскажу, как эффективно применять метод Фейнмана и использовать искусственный интеллект для восполнения пробелов в знаниях.

По окончании чтения вы научитесь использовать ChatGPT для разбора сложных концепций и их интуитивного освоения всего за четыре простых шага.

Читать далее
Total votes 54: ↑42 and ↓12+38
Comments29

Понятно про браузер: критические этапы рендеринга, аппаратное ускорение и оптимизации

Level of difficultyMedium
Reading time6 min
Views3.5K

В статье детально разобраны этапы браузерного рендеринга, от парсинга HTML до композиции, описана техническая работа на этапе лейаута, приведены практические советы по оптимизации, которые помогут выявлять и устранять узкие места в коде. Описана польза FLIP анимаций и дан пример ее реализации.

Читать далее
Total votes 7: ↑6 and ↓1+9
Comments3
1
23 ...

Information

Rating
Does not participate
Location
Москва, Москва и Московская обл., Россия
Date of birth
Registered
Activity