awslabs / awslabs/python-deequ

Example for persisting metrics from metricsRepository to file on S3 and reloading the metrics file in Glue to perform anomaly detection

Offen
#144 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
documentation enhancement
Vorherrschende Sprache
Jupyter Notebook
Sterne
826
Forks
158
Ø Merge
9 T. 22 Std.
Gemergte PRs (30 T.)
3

Beschreibung

**Is your feature request related to a problem? Please describe.**
I am unable to leverage the full benefits of the MetricsRepository feature in PyDeequ - especially with respect to persisting the metrics to an S3 file, and reload in a subsequent job run for historical comparison and anomaly detection

**Describe the solution you'd like**
An example code snippet where DeeQu and Analyzer metrics are persisted to an S3 file, and reloaded into another job run to perform anomaly detection. Currently, the example covers persisting to JSON file, would be great to know if the metrics can be persisted in parquet files as dataframe, and then reloaded to get historical metrics repository details.

**Describe alternatives you've considered**
Currently, the workaround is to compute the metrics by partition during every job run, and then do a comparison of analyzer metrics - but this is not very efficient, especially if the number of historical partitions is large

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Beginne damit, das vorhandene PyDeequ-Beispiel zu finden, das MetricsRepository-Daten in JSON persistiert, und verfolge dann, wie MetricsRepository-Metriken für historische Vergleiche und die Anomalieerkennung geladen werden. Füge ein Beispiel hinzu, das die Persistierung und das erneute Laden in S3 innerhalb eines AWS-Glue-Jobs abdeckt, einschließlich der Frage, ob ein Parquet-backed dataframe workflow unterstützt wird; abgeschlossen ist die Aufgabe, wenn das Beispiel ausführbar ist und die historische Anomalieerkennung demonstriert.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
aws, python
Bereich
data-engineering, documentation
Issue-Typ
Dokumentation
Schwierigkeit
3/5
Geschätzter Aufwand
1-2 Tage
Aktivitätsstatus
Ruhig
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
42/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.