apache / apache/datafusion-python
ADD gz decompression in parallel like pigz
Đang mở
enhancement
- Ngôn ngữ chính
- Python
- Star
- 604
- Fork
- 174
- Merge trung bình
- 1 ngày 7 giờ
- Pull request đã merge (30 ngày)
- 4
Mô tả
Hi,
In our case, we would like to read a big CSV file compressed in .gz format.
We would like to use the `read_csv ` function like this:
`ctx.read_csv('myfile.csv.gz',file_extension=".csv.gz", delimiter=';', has_header=True, schema_infer_max_records=0, file_compression_type='gzip')`
However, this decompression is not parallel like pigz (54 seconds) compared to 800 seconds when using the `read_csv` function.
If you could take a look...
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Đánh giá
Issue này chưa được đánh giá.