Toolverse
Wszystkie skille

dbt-transformation-patterns

autor: wshobson

Wzorce transformacji danych w dbt dla inżynierów analityki

Instalacja

Wybierz klienta i sklonuj repozytorium do odpowiedniego katalogu skilli.

Instalacja

Szybkie info

Kategoria
Testowanie
Wyświetlenia
83

O skillu

Opanuj dbt (data build tool) i buduj produkcyjne potoki transformacji danych. Skill zawiera gotowe wzorce organizacji modeli w warstwach (staging, intermediate, marts), strategie testowania jakości danych, dokumentację oraz implementację przetwarzania przyrostowego. Idealne do strukturyzowania projektów analitycznych, tworzenia tabel wymiarów i faktów oraz automatyzacji procesów ETL w oparciu o best practices inżynierii danych.

Jak używać

  1. Zainstaluj skill w swoim projekcie agenta, dodając referencję do repozytorium wshobson/agents w sekcji plugins. 2. Utwórz strukturę katalogów projektu dbt zgodnie z architekturą medalionową: katalogi sources/, staging/, intermediate/ i marts/ w folderze models/. 3. Zdefiniuj źródła danych w plikach YAML (np. stripe__sources.yml), wskazując połączenia do surowych danych i ich schemat. 4. Utwórz modele w warstwie staging z prefixem stg, wykonując czyszczenie 1:1 z danymi źródłowymi, następnie modele intermediate z prefixem int_ zawierające logikę biznesową i złączenia, wreszcie modele marts z prefixami dim_ i fct_ jako finalne tabele analityczne. 5. Skonfiguruj plik dbt_project.yml, ustawiając ścieżki do modeli, testów i makr, oraz definiując materializację dla każdej warstwy (views dla staging, ephemeral dla intermediate, tables dla marts). 6. Dodaj testy danych w folderze tests/, sprawdzające unikalność kluczy, wartości null i spójność referencyjna, a następnie uruchom dbt test, aby weryfikować jakość transformacji przed deploymentem.

Podobne skille