51zero / 51zero/eel-sdk

Orc properties for Hive Source and Sink

Aperta
#247 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub
enhancement help wanted
Lingua principale
Scala
Stelle
147
Fork
32
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

I just want to confirm that we respect the following Hive properties outlined in the documentation:

- Hive: http://orc.apache.org/docs/hive-config.html

My only concern is that our Orc dialect for Hive Source and Sink delegates to the same code base for our native Orc Source and Sink and hence ignoring these table properties?

If this is the case we should automatically pick up these options from the Hive Metastore when using HiveSource and HiveSink, and support them natively when using the OrcSink and OrcSource?

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Direzione di ricerca

Check the HiveSource and HiveSink implementations to see if they delegate to OrcSource and OrcSource. Review the ORC dialect code to verify if Hive table properties from the metastore are being read and applied. Look for configuration handling in the ORC module and compare with the Hive config documentation. Determine what changes are needed to respect these properties in both Hive and native ORC contexts.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
hadoop, scala
Ambito
data-engineering, databases
Tipo di issue
Bug
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
35/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.