AbsaOSS / AbsaOSS/enceladus

Add options to control caching in Spark Jobs

Offen
#923 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Conformance feature priority: undecided Standardization under discussion
Vorherrschende Sprache
Scala
Sterne
33
Forks
16
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

## Background
Currently, Standardization and Conformance uses the default caching strategy (provided by `df.cache()`). For some jobs (very big files), different cache modes may be preferrable, including turning off cache altogether.

## Feature
Add an option to Standardization and Conformance to control cache strategy. One of the strategies should be no caching at all.

Beitragsleitfaden

Beitragsleitfaden öffnen

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.