awslabs / awslabs/python-deequ
support for Row Level DQ Reports
- Vorherrschende Sprache
- Jupyter Notebook
- Sterne
- 826
- Forks
- 158
- Ø Merge
- 9 T. 22 Std.
- Gemergte PRs (30 T.)
- 3
Beschreibung
Hello folks, it seems u forgot to expose in Python PyDeequ, the following Deequ Scala method, which in turn makes it impossible to use PyDeequ to produce row level DQ report - only column/dataset SUMMARY level DQ reports are possible at the moment
[def rowLevelResultsAsDataFrame( sparkSession: SparkSession, verificationResult: VerificationResult, data: DataFrame): DataFrame = {](https://github.com/awslabs/deequ/blob/master/src/main/scala/com/amazon/deequ/VerificationResult.scala)
why is that, any plans to rectify and when?
Beitragsleitfaden
Rechercherichtung
Beginne mit der verlinkten Deequ VerificationResult.scala-Methode und untersuche anschließend, wie PyDeequ die bestehenden Verifizierungsberichte auf Spalten- und Dataset-Ebene bereitstellt. Ermittle den entsprechenden Python-API-Einstiegspunkt und mache Ergebnisse auf Zeilenebene als DataFrame verfügbar; fertig ist die Aufgabe, wenn PyDeequ den im Issue beschriebenen Bericht auf Zeilenebene erzeugen kann.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- python, scala
- Bereich
- api, data-engineering
- Issue-Typ
- Feature
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Ruhig
- Klarheit
- Größtenteils klar
- Anfängerfreundlichkeit
- 48/100