Pool SeekableInputStreams in ParquetFileReader
- Ngôn ngữ chính
- Java
- Star
- 3.1k
- Fork
- 1.6k
- Merge trung bình
- 3 ngày 12 giờ
- Pull request đã merge (30 ngày)
- 33
Mô tả
If https://issues.apache.org/jira/browse/PARQUET-1982 goes through, then we could allow parallel reading of row groups with a pool of SeekableInputStreams. This would significantly boost performance for applications that read data at random positions from a large file.
I've already developed a patch that would enable this functionality. I will link the merge request in the next few days.
Is there a related ticket that i have overlooked?
**Reporter**: [Felix Schmalzel](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=fschmalzel) / @fschmalzel
**Note**: *This issue was originally created as [PARQUET-1983](https://issues.apache.org/jira/browse/PARQUET-1983). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Hướng nghiên cứu
Bắt đầu bằng việc xem xét PARQUET-1982 và triển khai ParquetFileReader hiện có để hiểu yêu cầu tiên quyết và cách xử lý stream hiện tại. Công việc được xem là hoàn tất khi cho phép đọc song song các row-group thông qua một pool của SeekableInputStreams, với hành vi hiệu năng được xác thực đối với việc đọc tại các vị trí ngẫu nhiên.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- java
- Lĩnh vực
- data-engineering
- Loại issue
- Tính năng
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 25/100