apache / apache/arrow-java

[Java] Avro to Arrow converter doesn't appear to generate valid arrow data

Aperta
#383 1 commento 0 reazioni 0 assegnatari Vedi su GitHub
Type: bug
Lingua principale
Java
Stelle
94
Fork
152
Merge medio
3g 16h
PR unite (30g)
11

Descrizione

I think this is related to how Unions are handled (I had thought unions of with a null and one other type would get created to the nullable type, but that is a separate issue).

 

I haven't had time to fully diagnose, but remnants of the code I tried to use are at

 

And the CSV file from https://issues.apache.org/jira/browse/ARROW-11629?jql=text%20~%20%22arrow%20drill%20parquet%20dictionary%22

 

produce data that isn't readable by the C++ implementation.

**Reporter**: [Micah Kornfield](https://issues.apache.org/jira/browse/ARROW-12340) / @emkornfield

**Note**: *This issue was originally created as [ARROW-12340](https://issues.apache.org/jira/browse/ARROW-12340). Please see the [migration documentation](https://github.com/apache/arrow/issues/14542) for further details.*

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Inizia con il convertitore Java Avro-to-Arrow e riproduci il problema utilizzando il file CSV referenziato da ARROW-11629. Esamina i resti nel gist collegato, concentrandoti sulla gestione di union, quindi confronta i dati generati con ciò che accetta l'implementazione C++. Il lavoro è completo quando il convertitore produce dati Arrow leggibili dall'implementazione C++, con un test di regressione per l'input che causa il fallimento.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
java
Ambito
data-engineering
Tipo di issue
Bug
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
35/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.