ParquetRecordWriter does not provide interface like getRowCount(),getRawDataSize() like org.apache.orc.Writer
- Ngôn ngữ chính
- Java
- Star
- 3.1k
- Fork
- 1.6k
- Merge trung bình
- 3 ngày 12 giờ
- Pull request đã merge (30 ngày)
- 33
Mô tả
Hive with orc can update the statistics like rowCount,rawDataSize after loading data to table. Hive with parquet cannot and need to use analyze command like "analyze table xxx compute statistics noscan" to update these two statistics info. The reason is ParquetRecordWriter used in hive does not provide interfaces like getRowCount(),getRawDataSize(). While org.apache.orc.Writer provides these [two interfaces](https://github.com/apache/orc/blob/master/java/core/src/java/org/apache/orc/Writer.java#L68 ). Anyone knows how to get rowCount and rawDataSize in ParquetRecordWriter?
**Reporter**: [liyunzhang](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=kellyzly)
**Note**: *This issue was originally created as [PARQUET-1117](https://issues.apache.org/jira/browse/PARQUET-1117). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Hướng nghiên cứu
Bắt đầu bằng cách tìm ParquetRecordWriter trong repository này và so sánh các interface hiện có của nó với các tham chiếu org.apache.orc.Writer được liên kết trong issue. Kiểm tra cách Hive hiện lấy rowCount và rawDataSize, sau đó xác nhận rằng các thống kê được yêu cầu có thể được cung cấp mà không cần đến lệnh analyze table đã nêu.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- java
- Lĩnh vực
- data-engineering
- Loại issue
- Tính năng
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Cần làm rõ
- Mức phù hợp với người mới
- 25/100