Перейти до контенту
Data & Analytics

На вигляд усе гараздПридивись

У data & analytics дашборд, що виглядає правильним, зазвичай і є тим, який ніхто не перевірив.Коли графік виглядає хибним, визначення дрейфують уже тижнями.

  • Data contracts
  • Lineage
  • Свіжість і повнота
  • Єдине визначення
Довіряти числам

Зелені пайплайни все одно брешуть

Хибні числа рідко себе оголошують – пайплайн і далі світиться зеленим, поки сенс під ним гниє

Ознаки того, що воно не переживе зустрічі з продакшеном

  1. 01Row counts дрейфують день у деньДжерело, що віддавало 4,2 млн рядків, тепер віддає 3,9 млн, і жоден джоб не позначив зниклі 300K
  2. 02Freshness відстає без алертуОстанній успішний load був 30 годин тому, але дашборд усе ще показує вчорашній timestamp, наче він живий
  3. 03Та сама метрика, два числаFinance і product звітують різний дохід за той самий день, бо кожна команда визначає метрику у своєму запиті
  4. 04Backfill переписав історіюГрафік минулого кварталу виглядає інакше, ніж тиждень тому, бо джоб переобробки тихо перезаписав уже усталені рядки
  5. 05Late-arriving події падають у не той деньПлутанина timezone та event-time штовхає активність опівночі в наступну дату, і денні суми перестають сходитися