AbsaOSS / AbsaOSS/cobrix

Optimization of input file split

Aberta
#585 4 comentários 0 reações 0 responsáveis Ver no GitHub
enhancement
Linguagem predominante
Scala
Estrelas
170
Forks
96
Merge médio
57min
PRs com merge (30d)
2

Descrição

## Background
I have fixed length of 200 bytes file with 100 multi segments present in copybook with 2k columns. It is taking almost 12 hours for just 1gb of file.
## Feature

Can you add feature for input file split in mb for all file formats, currently it is working for record format =VB, where input_split_size_mb

I tried to adjust block size in spark code, but cobrix taking default cluster block size.

## Proposed Solution [Optional]
Solution Ideas
1. Allow this input_split_size_mb for all file formats
2. How to take custom block size specified in spark configuration.
Ex:spark.conf.set(“dfs.blocksize”,”32m”)

Guia de contribuição

Nenhum guia de contribuição indexado para este repositório

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.