apache / apache/parquet-java

Merging two valid parquet files produces a corrupted result file in 1.12.1

Offen
#2,654 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Java Component: Parquet Priority: Major Type: bug
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

This ticket relates to PARQUET-2027. In the previous ticket for two parquet files produced by 1.11.x merging was failing in 1.12.0. For 1.12.1 merging was fixed, i. e. it doesn't fail. But in the same time it results with a corrupted output file. The error:
```java

Dictionary page must be before data page.
```
is thrown when one tries to read it. It comes from this .

I attached two example input files and the outcome of merging.

 

**Reporter**: [Matthew M](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=eltherion)
#### Original Issue Attachments:
- [input_file1.parquet](https://issues.apache.org/jira/secure/attachment/13034644/input_file1.parquet)
- [input_file2.parquet](https://issues.apache.org/jira/secure/attachment/13034643/input_file2.parquet)
- [output_file.parquet](https://issues.apache.org/jira/secure/attachment/13034642/output_file.parquet)

**Note**: *This issue was originally created as [PARQUET-2100](https://issues.apache.org/jira/browse/PARQUET-2100). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Führe den Merge mit input_file1.parquet und input_file2.parquet unter Verwendung von 1.12.1 erneut aus und versuche anschließend, output_file.parquet zu lesen, um den Fehler mit der Dictionary-Page zu bestätigen. Vergleiche den Fehler mit PARQUET-2027 und untersuche die referenzierte Zeile 712 in parquet-cpp record_reader.cc. Als erledigt gilt die Aufgabe, wenn die zusammengeführte Ausgabe ohne die gemeldete Beschädigung lesbar ist.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
data-engineering
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.