51zero / 51zero/eel-sdk

An overwrite option for all sink types that write to HDFS

Offen
#224 10 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
enhancement
Vorherrschende Sprache
Scala
Sterne
147
Forks
32
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

An overwrite option for all sink types that write to HDFS

**Proposal**

Sink.withOverwrite

**AffectedSinks**

- Parquet
- AvroParquet
- Avro
- Orc
- Csv

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Look for sink implementations (Parquet, AvroParquet, Avro, Orc, Csv) in the codebase, likely under a 'sink' or 'io' package. Understand how they currently write to HDFS and where configuration options are handled. The goal is to add a 'withOverwrite' method that sets a flag to overwrite existing output files. Check existing tests for sinks to see how to add a test for the new option.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
hadoop, scala
Bereich
backend, data-engineering
Issue-Typ
Feature
Schwierigkeit
3/5
Geschätzter Aufwand
1-2 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
45/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.