51zero / 51zero/eel-sdk

Orc properties for Hive Source and Sink

Offen
#247 2 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
enhancement help wanted
Vorherrschende Sprache
Scala
Sterne
147
Forks
32
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

I just want to confirm that we respect the following Hive properties outlined in the documentation:

- Hive: http://orc.apache.org/docs/hive-config.html

My only concern is that our Orc dialect for Hive Source and Sink delegates to the same code base for our native Orc Source and Sink and hence ignoring these table properties?

If this is the case we should automatically pick up these options from the Hive Metastore when using HiveSource and HiveSink, and support them natively when using the OrcSink and OrcSource?

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Check the HiveSource and HiveSink implementations to see if they delegate to OrcSource and OrcSource. Review the ORC dialect code to verify if Hive table properties from the metastore are being read and applied. Look for configuration handling in the ORC module and compare with the Hive config documentation. Determine what changes are needed to respect these properties in both Hive and native ORC contexts.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
hadoop, scala
Bereich
data-engineering, databases
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.