Обновить
3
Игорь Сериков@eager_igor

Пользователь

Отправить сообщение

Airflow TaskFlow API: внутреннее устройство современного способа писать DAG‑и

Уровень сложностиСредний
Время на прочтение11 мин
Охват и читатели8.2K

Немного погрузимся во внутреннее устройство Apache Airflow и разберёмся, что на самом деле происходит за красивым синтаксисом TaskFlow API. Посмотрим, как работают декораторы @task и @dag, каким образом обычные Python‑функции превращаются в задачи Airflow и за счёт какой «магии» строится граф зависимостей. А заодно напишем собственный мини‑пример, чтобы лучше понять архитектурные идеи, на которых построен современный Airflow.

Заглянем под капот Airflow TaskFlow API

Декларативный Data Pipeline

Уровень сложностиСредний
Время на прочтение8 мин
Охват и читатели6.9K

В статье разберём, как построить декларативный data pipeline на Python: от базовых идей до реализации собственного мини-фреймворка с шагами, контекстом и SQL-интеграцией.

Декларативный data pipeline

Информация

В рейтинге
Не участвует
Зарегистрирован
Активность

Специализация

Инженер данных
Средний