apache / apache/datafusion

Make it possible to disable compression algorithm feature flags inside the parquet dependency without disabling parquet.

Offen
#10,101 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
enhancement
Vorherrschende Sprache
Rust
Sterne
9.3k
Forks
2.4k
Ø Merge
3 T. 11 Std.
Gemergte PRs (30 T.)
362

Beschreibung

### Is your feature request related to a problem or challenge?

Hi, I'm trying to reduce the size of my compiled binary. Using cargo bloat, it appears that a large portion of the size (around 10%) is coming from the dependency on the brotli compression algorithm. I don't plan on compressing or decompressing anything using brotli, so I'd like to disable this dependency. Ideally, I would only depend on zstd, since that is the only algorithm I plan to use.

Currently, I have `default-features = false` and `features = ["parquet"]`. This is enough to pull in all of the compression algorithms, since the parquet has default features enabled.

I'm less familiar with Rust build systems, so my analysis of the situation might be incorrect.

### Describe the solution you'd like

Could we do something similar to #10058, where top level features are exposed by the datafusion crate, and this toggles on or off the features inside the parquet crate?

### Describe alternatives you've considered

_No response_

### Additional context

_No response_

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Beginne damit, die Cargo-Feature-Deklarationen für DataFusion und seine parquet-Abhängigkeit nachzuverfolgen, und verwende cargo tree, um zu prüfen, welche Komprimierungs-Features aktiviert sind. Die Aufgabe ist abgeschlossen, wenn parquet weiterhin verfügbar bleibt, brotli deaktiviert werden kann und zstd aktiviert bleiben kann und der daraus resultierende Abhängigkeitsgraph bestätigt, dass der nicht verwendete Algorithmus nicht vorhanden ist.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
rust
Bereich
build-system
Issue-Typ
Feature
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.