ParquetReader directory read using InputFile
- Ngôn ngữ chính
- Java
- Star
- 3.1k
- Fork
- 1.6k
- Merge trung bình
- 3 ngày 12 giờ
- Pull request đã merge (30 ngày)
- 33
Mô tả
Using Hadoop Path, users can read from directories (excluding hidden files) using a single ParquetReader. This is not yet possible using the InputFile API. To resolve this, a generic way should be added for directories to be read, consistent with the behaviour of the read API when using a Hadoop Path.
**Reporter**: [Atour Mousavi Gourabi](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=amousavigourabi) / @amousavigourabi
**Note**: *This issue was originally created as [PARQUET-2404](https://issues.apache.org/jira/browse/PARQUET-2404). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Hướng nghiên cứu
Bắt đầu bằng cách so sánh hành vi đọc thư mục hiện có của Hadoop Path với InputFile API được mô tả trong issue. Xác định cách một thao tác đọc thư mục tổng quát cần hoạt động, bao gồm việc loại trừ các tệp ẩn và duy trì hành vi của một reader duy nhất, sau đó đối chiếu kết quả với hành vi của read API hiện có.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- java
- Lĩnh vực
- data-engineering
- Loại issue
- Tính năng
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 35/100