[Java] Avro to Arrow converter doesn't appear to generate valid arrow data
- Vorherrschende Sprache
- Java
- Sterne
- 94
- Forks
- 152
- Ø Merge
- 3 T. 16 Std.
- Gemergte PRs (30 T.)
- 11
Beschreibung
I think this is related to how Unions are handled (I had thought unions of with a null and one other type would get created to the nullable type, but that is a separate issue).
I haven't had time to fully diagnose, but remnants of the code I tried to use are at
And the CSV file from https://issues.apache.org/jira/browse/ARROW-11629?jql=text%20~%20%22arrow%20drill%20parquet%20dictionary%22
produce data that isn't readable by the C++ implementation.
**Reporter**: [Micah Kornfield](https://issues.apache.org/jira/browse/ARROW-12340) / @emkornfield
**Note**: *This issue was originally created as [ARROW-12340](https://issues.apache.org/jira/browse/ARROW-12340). Please see the [migration documentation](https://github.com/apache/arrow/issues/14542) for further details.*
Beitragsleitfaden
Rechercherichtung
Beginne mit dem Java Avro-to-Arrow-Konverter und reproduziere das Problem anhand der in ARROW-11629 referenzierten CSV-Datei. Überprüfe die Überbleibsel im verlinkten gist und konzentriere dich dabei auf die Behandlung von union. Vergleiche anschließend die erzeugten Daten mit dem, was die C++-Implementierung akzeptiert. Erledigt ist die Aufgabe, wenn der Konverter Arrow-Daten erzeugt, die von der C++-Implementierung gelesen werden können, und ein Regressionstest für die fehlschlagende Eingabe vorhanden ist.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- data-engineering
- Issue-Typ
- Bug
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 35/100