apache / apache/datafusion

Eliminate more outer joins by supporting more expressions

Offen
#13,232 5 Kommentare 3 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
enhancement optimizer performance
Vorherrschende Sprache
Rust
Sterne
9.3k
Forks
2.4k
Ø Merge
3 T. 11 Std.
Gemergte PRs (30 T.)
362

Beschreibung

### Is your feature request related to a problem or challenge?

This PR by @JasonLi-cn tried to support more pushdown of filters https://github.com/apache/datafusion/pull/13184 , however the implementation wasn't 100% right as it pushed down more predicates, but didn't change the join type (left to inner).

### Describe the solution you'd like

Add support for a wider range of expressions in `EliminateOuterJoin`, notably in `extract_non_nullable_columns`.
We lack support of more complex nested expressions, quite some binary operators, UDFs etc. such as:

* `abs(x) > 1`
* `a + a` > `c + b`

We should aim to support any operator that returns null when the input value is null (most binary / unary operators).

### Describe alternatives you've considered

_No response_

### Additional context

_No response_

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Beginne mit der Optimizer-Regel EliminateOuterJoin, insbesondere mit extract_non_nullable_columns, und prüfe PR #13184 auf das bestehende Pushdown-Verhalten. Als erledigt gilt die Unterstützung der beschriebenen verschachtelten Ausdrücke, binären Operatoren und UDFs, die bei null als Eingabe null zurückgeben, wobei der Join-Typ korrekt geändert wird, wenn die Prädikate dies erlauben.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
rust
Bereich
databases
Issue-Typ
Feature
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Ruhig
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
50/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.