AbsaOSS / AbsaOSS/enceladus

Spark 3.x

Offen
#1,706 0 Kommentare 0 Reaktionen 1 zugewiesene Person Beansprucht von @dk1844 Auf GitHub ansehen
Epic priority: high
Vorherrschende Sprache
Scala
Sterne
33
Forks
16
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

## Background
We need to move on higher version of Spark

## Goal
Making Enceladus working with Spark 3.0

## Expected Task List [Optional]
A list of expected issues that will be needed to achieve this Epic
1. Figure out dependencies are ready
2. Cross-compilation for Scala 2.11 and 2.12
3. How it will work on prem? Spark 3 with Hadoop 2

**NB! Don't forget to assign the Epic into a Milestone**

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Start by checking whether the dependencies support Spark 3.0, then investigate cross-compilation for Scala 2.11 and 2.12. Review how Spark 3.0 should run on-premises with Hadoop 2. Done means Enceladus works with Spark 3.0 across the required Scala versions and deployment environment.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
hadoop, scala, spark
Bereich
data-engineering, distributed-systems
Issue-Typ
Feature
Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
20/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.