Parquet OutputFormat should allow controlling the file size
- Ngôn ngữ chính
- Java
- Star
- 3.1k
- Fork
- 1.6k
- Merge trung bình
- 3 ngày 12 giờ
- Pull request đã merge (30 ngày)
- 33
Mô tả
To generate the most efficient on disk file, the size of the file is important to control. It would be nice if we could configure the ouputformat to roll over new files when it reaches the right size and start a new file.
There's currently no easy way to tune this and requires indirect tuning (number of reduces, map input size).
**Reporter**: [Nong Li](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=nongli) / @nongli
**Note**: *This issue was originally created as [PARQUET-17](https://issues.apache.org/jira/browse/PARQUET-17). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Hướng nghiên cứu
Issue nêu tên Parquet OutputFormat nhưng không chỉ ra tệp hoặc bài kiểm thử nào. Hãy bắt đầu bằng cách xác định entry point đó và tìm hiểu cách kích thước tệp đầu ra hiện được xử lý; công việc được xem là hoàn tất khi có thể cấu hình một ngưỡng kích thước, và khi đạt ngưỡng này, đầu ra được chuyển sang một tệp mới.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- java
- Lĩnh vực
- data-engineering
- Loại issue
- Tính năng
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Cần làm rõ
- Mức phù hợp với người mới
- 25/100