apache / apache/parquet-java

Question on parquet-protobuf and parquet-pig

Offen
#1,870 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Java Component: Parquet Priority: Major Type: bug
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

Hi,

I have a question about protobuf to parquet conversion.
I have a message like this (simplified) :
```Java

message MyMessage {
repeated string language = 1;
}
```

parquet-protobuf convert it to the following schema :

```Java
message MyMessage {
repeated binary language (UTF8);
}
```

But, according to TestPigSchameConverter.java, the correct schema should be :

```Java
message MyMessage {
optional group language (LIST) {
repeated binary value (UTF8);
}
}
```

Language is an optional list of language, i want to store zero or more language.

Who have the correct schema for my case ? parquet-protobuf or parquet-pig ?

**Reporter**: [Christian Nguyen Van Than](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=cnguyen@nextperf.com)

**Note**: *This issue was originally created as [PARQUET-354](https://issues.apache.org/jira/browse/PARQUET-354). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Vergleiche das protobuf-Konvertierungsverhalten mit dem erwarteten Schema in TestPigSchameConverter.java, beginnend damit, wie parquet-protobuf und parquet-pig wiederholte String-Felder darstellen. Ermittle, ob sich die Schemas für null oder mehr Werte fälschlicherweise unterscheiden, und dokumentiere eine reproduzierbare Schlussfolgerung oder einen Test, der klärt, welche Darstellung korrekt ist.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
data-engineering
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
25/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.