Pull to refresh
6
Send message

Event Sourcing в платформе данных: миграция с JSON на Avro

Level of difficultyEasy
Reading time9 min
Reach and readers10K

Иногда legacy живёт в компании годами не потому, что он плох, а потому что «работает — не трогай». Но однажды появляется триггер, который заставляет переосмыслить подход. В нашем случае таким триггером стала миграция на Kafka 4.0.

Привет! Меня зовут Роман, я инженер данных в компании CDEK и занимаюсь разработкой платформы данных и внедрением self‑service инструментов. В этой статье расскажу, как мы обеспечиваем Event Sourcing подход в платформе больших данных, с какой болью столкнулись при переходе на Kafka 4.0 и как решились отказаться от JSON‑формата.

Читать далее

Information

Rating
Does not participate
Registered
Activity

Specialization

Инженер по данным
Старший
Python
Java
Apache Kafka
ClickHouse
Greenplum
ETL
Scala
Apache Spark
Apache Airflow