apache / apache/datafusion

Reuse file descriptors for LocalFileSystem object storage

Offen
#19,983 6 Kommentare 2 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
enhancement performance
Vorherrschende Sprache
Rust
Sterne
9.3k
Forks
2.4k
Ø Merge
3 T. 11 Std.
Gemergte PRs (30 T.)
360

Beschreibung

### Is your feature request related to a problem or challenge?

The ObjectStore implementation is stateless and doesn't allow for passing `File` descriptors.
This means for every request it's doing a `File::open` (and close) call, which creates overhead (mainly when doing a lot of small requests, e.g. with predicate pushdown enabled).

### Describe the solution you'd like

Implement an object store implementation for DataFusion that opens / reuses the `File`s for each path.

We can use `Arc` stored in hashmap for each file / path + read_at (stateless file read) to minimize overhead and maximize concurrency.

### Describe alternatives you've considered

_No response_

### Additional context

Also see

https://github.com/apache/arrow-rs-object-store/issues/622
https://github.com/apache/arrow-rs-object-store/issues/614

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Beginne mit den Einstiegspunkten von DataFusion's ObjectStore und LocalFileSystem und prüfe anschließend die verknüpften Issues #622 und #614 in arrow-rs-object-store auf verwandte Einschränkungen. Die Arbeit ist abgeschlossen, wenn LocalFileSystem geöffnete File-Deskriptoren pro Pfad wiederverwendet, dabei nebenläufige zustandslose Lesevorgänge beibehält und einen Öffnen/Schließen-Zyklus für jede Anfrage vermeidet.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
rust
Bereich
backend, data-engineering, performance
Issue-Typ
Feature
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.