[Question] Optimize multiple reads on same DataFrame
- Vorherrschende Sprache
- Rust
- Sterne
- 9.3k
- Forks
- 2.4k
- Ø Merge
- 3 T. 11 Std.
- Gemergte PRs (30 T.)
- 360
Beschreibung
Hey,
I have a scenario where I have to run the same filter expression but with different values on the same RecordBatch
For example
```
let c2: Vec = ....
let provider = datafusion::datasource::MemTable::try_new(c2[0].schema(), vec![c2])
.map_err(|e| {
log::error!("Error MemTable {}", e);
e
})
.unwrap();
let ctx = SessionContext::new();
ctx.register_table("t", provider ).unwrap();
let df = ctx.table("t").unwrap();
let expr: Expr = get_expression(id, from_time, to_time)
let df = df.filter(expr).unwrap();
let res = df.collect().await.unwrap();
ctx.deregister_table("t").unwrap();
```
It is pretty fast, a few ms on a 80MiB in-memory array with filtering on 2 columns.
I might run 1000 queries on the same MemTable and was wondering if there is anything that could be optimized:
- pre computing an execution plan on the MemTable if it's cost effective
- Is SessionContext thread safe and shareable between multiple threads and be optimized across executions?
- Somehow create an index (not sure if an index is created by one of the calls or supported at all) if it's cost effective
Thanks!
Beitragsleitfaden
Rechercherichtung
Beginne damit, die in der Frage genannten Einstiegspunkte MemTable, SessionContext, DataFrame::filter und DataFrame::collect zu lesen. Ermittle, ob wiederholte gefilterte Lesevorgänge Planungs- oder Ausführungsarbeit wiederverwenden können, ob SessionContext die angeforderte gleichzeitige Nutzung unterstützt und ob Indexierung unterstützt wird; abgeschlossen ist die Aufgabe mit einer dokumentierten Antwort oder einem abgegrenzten Verbesserungsvorschlag.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- rust
- Bereich
- databases
- Issue-Typ
- Feature
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 20/100