appendRowGroup will loose pageIndex
- Ngôn ngữ chính
- Java
- Star
- 3.1k
- Fork
- 1.6k
- Merge trung bình
- 3 ngày 12 giờ
- Pull request đã merge (30 ngày)
- 33
Mô tả
Currently,
org.apache.parquet.hadoop.ParquetFileWriter#appendFile(org.apache.parquet.io.InputFile) uses appendRowGroup method to concate parquet row group. However, appendRowGroup method **looses** column index.
```java
// code placeholder
public void appendRowGroup(SeekableInputStream from, BlockMetaData rowGroup,
boolean dropColumns) throws IOException {
....
// TODO: column/offset indexes are not copied
// (it would require seeking to the end of the file for each row groups)
currentColumnIndexes.add(null);
currentOffsetIndexes.add(null);
}
```
Look forward to functionality that support append with page index.
**Reporter**: [GANHONGNAN](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=NathanKan)
**Note**: *This issue was originally created as [PARQUET-2340](https://issues.apache.org/jira/browse/PARQUET-2340). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Hướng nghiên cứu
Bắt đầu tại parquet-hadoop/src/main/java/org/apache/parquet/hadoop/ParquetFileWriter.java, ở appendFile(InputFile) và appendRowGroup. Theo dõi cách các chỉ mục cột và offset của row-group được biểu diễn, cũng như lý do phương thức hiện tại thêm các mục null. Xem xét logic writer xung quanh và các kiểm thử hiện có, sau đó xác định hoàn thành là khi các row group được nối thêm vẫn giữ các chỉ mục trang của chúng.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- java
- Lĩnh vực
- data-engineering
- Loại issue
- Tính năng
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 35/100