AbsaOSS / AbsaOSS/cobrix

Need hlep in configuration

Offen
#323 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
question
Vorherrschende Sprache
Scala
Sterne
170
Forks
96
Ø Merge
57 Min.
Gemergte PRs (30 T.)
2

Beschreibung

## Background [Optional]
Hi, Iam new to Spark and Cobrix. we have 10 EBCDIC files to process and load to Database. each file contains 1MM records and we have an SLA of 45mins to process 10 files
## Question
Hi, we have implemented Cobrix to read EBCDIC file contains 1MM records and it is taking 15 mins nearly to read and insert into database table. could you please to improve this performance and complete 10 files with this size of data in SLA of 45mins? your response and help is appreciated.
below is the load command we are using to read the file.

Dataset ds = sparkSession.read().format().option("copybook" "copybook_path").option("schma_retention_policy", "collapse_root").option("number_of_partitions", 10).load("file_name");

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.