apache / apache/parquet-java

Add measurement of compression/decompression time

Offen
#1,760 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Java Component: Parquet Priority: Major Type: enhancement
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

As we compress/decompress a full page at a time, it is easy to measure with negligible overhead.
We should measure the time spent in compressing/decompressing and put that in a hadoop counter.
This way we have visibility in time spend compressing/decompressing.

**Reporter**: [Julien Le Dem](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=julienledem) / @julienledem

**Note**: *This issue was originally created as [PARQUET-219](https://issues.apache.org/jira/browse/PARQUET-219). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Das Issue nennt keine Dateien, Tests oder Einstiegspunkte. Ermittle die Pfade für die Komprimierung und Dekomprimierung vollständiger Seiten sowie deren Integration in Hadoop-Counter und überprüfe anschließend, dass die verstrichene Zeit für Komprimierung und Dekomprimierung über Counter mit vernachlässigbarem Messaufwand bereitgestellt wird.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
hadoop, java
Bereich
observability
Issue-Typ
Feature
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.