AbsaOSS / AbsaOSS/enceladus

Spark 3.x

Aperta
#1,706 0 commenti 0 reazioni 1 assegnatario Rivendicata da @dk1844 Vedi su GitHub
Epic priority: high
Lingua principale
Scala
Stelle
33
Fork
16
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

## Background
We need to move on higher version of Spark

## Goal
Making Enceladus working with Spark 3.0

## Expected Task List [Optional]
A list of expected issues that will be needed to achieve this Epic
1. Figure out dependencies are ready
2. Cross-compilation for Scala 2.11 and 2.12
3. How it will work on prem? Spark 3 with Hadoop 2

**NB! Don't forget to assign the Epic into a Milestone**

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Start by checking whether the dependencies support Spark 3.0, then investigate cross-compilation for Scala 2.11 and 2.12. Review how Spark 3.0 should run on-premises with Hadoop 2. Done means Enceladus works with Spark 3.0 across the required Scala versions and deployment environment.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
hadoop, scala, spark
Ambito
data-engineering, distributed-systems
Tipo di issue
Funzionalità
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
20/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.