apache / apache/parquet-java

ParquetRecordWriter does not provide interface like getRowCount(),getRawDataSize() like org.apache.orc.Writer

Offen
#2,087 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Parquet Priority: Major Type: bug
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

Hive with orc can update the statistics like rowCount,rawDataSize after loading data to table. Hive with parquet cannot and need to use analyze command like "analyze table xxx compute statistics noscan" to update these two statistics info. The reason is ParquetRecordWriter used in hive does not provide interfaces like getRowCount(),getRawDataSize(). While org.apache.orc.Writer provides these [two interfaces](https://github.com/apache/orc/blob/master/java/core/src/java/org/apache/orc/Writer.java#L68 ). Anyone knows how to get rowCount and rawDataSize in ParquetRecordWriter?

**Reporter**: [liyunzhang](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=kellyzly)

**Note**: *This issue was originally created as [PARQUET-1117](https://issues.apache.org/jira/browse/PARQUET-1117). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Beginne damit, ParquetRecordWriter in diesem Repository zu finden und seine verfügbaren Schnittstellen mit den im Issue verlinkten org.apache.orc.Writer-Referenzen zu vergleichen. Prüfe, wie Hive derzeit rowCount und rawDataSize abruft, und bestätige anschließend, dass die angeforderten Statistiken bereitgestellt werden können, ohne den genannten analyze table-Befehl vorauszusetzen.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
data-engineering
Issue-Typ
Feature
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
25/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.