Merging two valid parquet files produces a corrupted result file in 1.12.1
- Vorherrschende Sprache
- Java
- Sterne
- 3.1k
- Forks
- 1.6k
- Ø Merge
- 3 T. 12 Std.
- Gemergte PRs (30 T.)
- 33
Beschreibung
This ticket relates to PARQUET-2027. In the previous ticket for two parquet files produced by 1.11.x merging was failing in 1.12.0. For 1.12.1 merging was fixed, i. e. it doesn't fail. But in the same time it results with a corrupted output file. The error:
```java
Dictionary page must be before data page.
```
is thrown when one tries to read it. It comes from this .
I attached two example input files and the outcome of merging.
**Reporter**: [Matthew M](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=eltherion)
#### Original Issue Attachments:
- [input_file1.parquet](https://issues.apache.org/jira/secure/attachment/13034644/input_file1.parquet)
- [input_file2.parquet](https://issues.apache.org/jira/secure/attachment/13034643/input_file2.parquet)
- [output_file.parquet](https://issues.apache.org/jira/secure/attachment/13034642/output_file.parquet)
**Note**: *This issue was originally created as [PARQUET-2100](https://issues.apache.org/jira/browse/PARQUET-2100). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Rechercherichtung
Führe den Merge mit input_file1.parquet und input_file2.parquet unter Verwendung von 1.12.1 erneut aus und versuche anschließend, output_file.parquet zu lesen, um den Fehler mit der Dictionary-Page zu bestätigen. Vergleiche den Fehler mit PARQUET-2027 und untersuche die referenzierte Zeile 712 in parquet-cpp record_reader.cc. Als erledigt gilt die Aufgabe, wenn die zusammengeführte Ausgabe ohne die gemeldete Beschädigung lesbar ist.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- data-engineering
- Issue-Typ
- Bug
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Größtenteils klar
- Anfängerfreundlichkeit
- 35/100