Question on parquet-protobuf and parquet-pig
- Vorherrschende Sprache
- Java
- Sterne
- 3.1k
- Forks
- 1.6k
- Ø Merge
- 3 T. 12 Std.
- Gemergte PRs (30 T.)
- 33
Beschreibung
Hi,
I have a question about protobuf to parquet conversion.
I have a message like this (simplified) :
```Java
message MyMessage {
repeated string language = 1;
}
```
parquet-protobuf convert it to the following schema :
```Java
message MyMessage {
repeated binary language (UTF8);
}
```
But, according to TestPigSchameConverter.java, the correct schema should be :
```Java
message MyMessage {
optional group language (LIST) {
repeated binary value (UTF8);
}
}
```
Language is an optional list of language, i want to store zero or more language.
Who have the correct schema for my case ? parquet-protobuf or parquet-pig ?
**Reporter**: [Christian Nguyen Van Than](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=cnguyen@nextperf.com)
**Note**: *This issue was originally created as [PARQUET-354](https://issues.apache.org/jira/browse/PARQUET-354). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Rechercherichtung
Vergleiche das protobuf-Konvertierungsverhalten mit dem erwarteten Schema in TestPigSchameConverter.java, beginnend damit, wie parquet-protobuf und parquet-pig wiederholte String-Felder darstellen. Ermittle, ob sich die Schemas für null oder mehr Werte fälschlicherweise unterscheiden, und dokumentiere eine reproduzierbare Schlussfolgerung oder einen Test, der klärt, welche Darstellung korrekt ist.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- data-engineering
- Issue-Typ
- Bug
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 25/100