apache / apache/datafusion

Track peak memory usage in `SortExec`

Aperta
#16,042 2 commenti 1 reazione 0 assegnatari Vedi su GitHub
enhancement
Lingua principale
Rust
Stelle
9.3k
Fork
2.4k
Merge medio
3g 11h
PR unite (30g)
360

Descrizione

### Is your feature request related to a problem or challenge?

Profiling the peak memory usage of blocking operators can be helpful.Aggregation and SortMergeJoin has already implemented it: https://github.com/apache/datafusion/blob/7a3d020af2a3736db11ba7477efc1a5dae96c2d3/datafusion/physical-plan/src/aggregates/row_hash.rs#L113

### Describe the solution you'd like

Track peak memory usage in `SortExec`

### Describe alternatives you've considered

_No response_

### Additional context

_No response_

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Inizia individuando l’implementazione di SortExec nel codice physical-plan di DataFusion, quindi confronta la sua gestione della memoria con l’implementazione di riferimento datafusion/physical-plan/src/aggregates/row_hash.rs. Verifica come vengono testate le metriche di memoria degli operatori esistenti e aggiorna i test SortExec pertinenti in modo che dimostrino che l’utilizzo di memoria di picco viene monitorato.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
rust
Ambito
performance
Tipo di issue
Funzionalità
Difficoltà
3/5
Tempo stimato
1-2 giorni
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
48/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.