apache / apache/parquet-java

Pig and Hive cannot read repeated groups written with parquet-protobuf

Offen
#1,410 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Java Component: Parquet Priority: Major Type: bug
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

parquet-hive and parquet-pig make assumptions about list schemas that are not compatible with the more compact schemas generated by parquet-protobuf. This bug was discussed in more detail on https://github.com/Parquet/parquet-mr/issues/354

**Reporter**: [Nathan Howell](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=NathanHowell)

**Note**: *This issue was originally created as [PARQUET-14](https://issues.apache.org/jira/browse/PARQUET-14). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Beginne damit, die list-schema-Verarbeitung in parquet-hive und parquet-pig zu lesen, und nutze dann die Diskussion in Issue 354, um zu verstehen, wie parquet-protobuf kompakte repeated-group-Schemas erzeugt. Als abgeschlossen gilt die Aufgabe, wenn beide Reader diese Schemas akzeptieren, ohne die bestehende list-schema-Verarbeitung zu beeinträchtigen; der Inhalt nennt keine spezifischen Dateien oder Tests, daher müssen diese Einstiegspunkte zuerst gefunden werden.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
data-engineering
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
25/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.