51zero / 51zero/eel-sdk

An overwrite option for all sink types that write to HDFS

Ouverte
#224 10 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
enhancement
Langage dominant
Scala
Étoiles
147
Forks
32
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

An overwrite option for all sink types that write to HDFS

**Proposal**

Sink.withOverwrite

**AffectedSinks**

- Parquet
- AvroParquet
- Avro
- Orc
- Csv

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Piste de recherche

Look for sink implementations (Parquet, AvroParquet, Avro, Orc, Csv) in the codebase, likely under a 'sink' or 'io' package. Understand how they currently write to HDFS and where configuration options are handled. The goal is to add a 'withOverwrite' method that sets a flag to overwrite existing output files. Check existing tests for sinks to see how to add a test for the new option.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
hadoop, scala
Domaine
backend, data-engineering
Type d'issue
Fonctionnalité
Difficulté
3/5
Temps estimé
1-2 jours
Activité
À l'abandon
Clarté
Plutôt claire
Accessibilité débutants
45/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.