apache / apache/datafusion

Compute column statistics min & max for FilterExec and beyond

Aperta
#8,155 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub
enhancement
Lingua principale
Rust
Stelle
9.3k
Fork
2.4k
Merge medio
3g 11h
PR unite (30g)
360

Descrizione

### Is your feature request related to a problem or challenge?

In IOx we use columns statistics min and max in an optimizer rule however the statistics of column min and max are lost after going through filter (and may be many other operators).

This ticket is to compute the Column statistics in a conservative way.

### Describe the solution you'd like

Column min/max of filter will be the same but turns from `Exact` to `InExact`.

When https://github.com/apache/arrow-datafusion/issues/8078 is implemented, The `InExact` in this case will become `Conservative` or the like

While working on FilterExec, I will see if I can do the similarly for other operators

### Describe alternatives you've considered

_No response_

### Additional context

_No response_

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Iniziare individuando l’implementazione delle statistiche di FilterExec e i test esistenti per le statistiche min/max delle colonne. Verificare il comportamento conservativo richiesto —mantenere min/max e modificare Exact in InExact— quindi valutare se lo stesso trattamento si applica ad altri operatori menzionati nell’issue.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
rust
Ambito
databases
Tipo di issue
Funzionalità
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
35/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.