apache / apache/datafusion

Json inference of multiple files is brittle

Aperta
#486 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub
bug
Lingua principale
Rust
Stelle
9.3k
Fork
2.4k
Merge medio
3g 11h
PR unite (30g)
362

Descrizione

Currently, we run the inference on a per file basis, and limit the number of records over all files. This means that if the first file has 1000 entries and the second 1000, and we run the inference with a max of 1000 rows, the whole inference will be based on the first file alone.

IMO we should distribute the rows at least evenly with the number of files we are inferring. In the case above, this would correspond to 500 lines for each file.

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Nell’issue non sono indicati né file né test. Inizia individuando l’entry point dell’inferenza JSON per file e i test che coprono il limite massimo di righe; il lavoro è completato quando l’inferenza distribuisce il limite tra più file invece di consumarlo interamente dal primo file.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
rust
Ambito
data-engineering
Tipo di issue
Funzionalità
Difficoltà
3/5
Tempo stimato
1-2 giorni
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
45/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.