AbsaOSS / AbsaOSS/enceladus

Data partitioning

Aperta
#1,961 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Conformance Epic Menas priority: high Standardization
Lingua principale
Scala
Stelle
33
Fork
16
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

## Background
Sometimes the data coming in into Enceladus are not well partitioned.

## Goal
Make Enceladus to output data files in effective sizes to well leverage partioning

## Expected Task List
A list of expected issues that will be needed to achieve this Epic
- investigate the problematic data
- create the library
- enhance dataset data model with `recordsPerPartition` value
- optional dataset setting
- heuristic based on anylysis to be saved
- implement partitioning by record count
- warning if partition size is over limit
- warning if record count is off

Guida per i contributori

Apri la guida per i contributori

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.