Parquet silently discards decimal values if they do not fit in declared type
- Vorherrschende Sprache
- Java
- Sterne
- 3.1k
- Forks
- 1.6k
- Ø Merge
- 3 T. 12 Std.
- Gemergte PRs (30 T.)
- 33
Beschreibung
If I declare a schema with a DecimalType(7,2) and I try and write a value that will not fit, such as 123,456.00 and then read it back, I get a null value i.e. the data is silently discarded.
I have written up a full example to demonstrate this, here:
https://github.com/andygrove/spark-parquet-decimal-bug
**Environment**: Ubuntu 15.10
**Reporter**: [Andy Grove](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=andygrove) / @andygrove
**Note**: *This issue was originally created as [PARQUET-578](https://issues.apache.org/jira/browse/PARQUET-578). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Rechercherichtung
Es wird keine Quelldatei oder kein Test genannt. Beginne damit, das im Issue verlinkte vollständige Beispiel auszuführen, und vergleiche das Schreiben und Lesen eines Werts, der DecimalType(7,2) überschreitet; die Aufgabe ist abgeschlossen, wenn die außerhalb des Bereichs liegende Dezimalzahl explizit behandelt wird, statt stillschweigend als null zurückgegeben zu werden.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- data-engineering
- Issue-Typ
- Bug
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 32/100