Pig and Hive cannot read repeated groups written with parquet-protobuf
- Vorherrschende Sprache
- Java
- Sterne
- 3.1k
- Forks
- 1.6k
- Ø Merge
- 3 T. 12 Std.
- Gemergte PRs (30 T.)
- 33
Beschreibung
parquet-hive and parquet-pig make assumptions about list schemas that are not compatible with the more compact schemas generated by parquet-protobuf. This bug was discussed in more detail on https://github.com/Parquet/parquet-mr/issues/354
**Reporter**: [Nathan Howell](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=NathanHowell)
**Note**: *This issue was originally created as [PARQUET-14](https://issues.apache.org/jira/browse/PARQUET-14). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Rechercherichtung
Beginne damit, die list-schema-Verarbeitung in parquet-hive und parquet-pig zu lesen, und nutze dann die Diskussion in Issue 354, um zu verstehen, wie parquet-protobuf kompakte repeated-group-Schemas erzeugt. Als abgeschlossen gilt die Aufgabe, wenn beide Reader diese Schemas akzeptieren, ohne die bestehende list-schema-Verarbeitung zu beeinträchtigen; der Inhalt nennt keine spezifischen Dateien oder Tests, daher müssen diese Einstiegspunkte zuerst gefunden werden.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- data-engineering
- Issue-Typ
- Bug
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 25/100