parquet-mr must handle statistics in files written by parquet-cpp
Chưa có ai nhận issue này.
- Ngôn ngữ chính
- Java
- Star
- 3.1k
- Fork
- 1.6k
- Merge trung bình
- 3 ngày 12 giờ
- Pull request đã merge (30 ngày)
- 33
Mô tả
shouldIgnoreStatistics in parquet-mr always accepts statistics for files written by other applications including parquet-cpp. We must fix this to correctly handle statistics written by parquet-cpp versions.
Reporter: Deepak Majeti / @majetideepak
Note: This issue was originally created as PARQUET-1017. Please see the migration documentation for further details.
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Hướng nghiên cứu
Bắt đầu bằng cách tìm shouldIgnoreStatistics trong parquet-mr và xem xét cách hàm này quyết định liệu có thể sử dụng thống kê từ các ứng dụng khác hay không. So sánh cách xử lý cần thiết đối với các tệp được ghi bởi các phiên bản parquet-cpp, sử dụng PARQUET-1017 được liên kết và tài liệu di chuyển làm ngữ cảnh. Công việc được xem là hoàn tất khi parquet-mr xử lý chính xác các thống kê đó mà không chấp nhận siêu dữ liệu không tương thích.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- java
- Lĩnh vực
- data-engineering
- Loại issue
- Lỗi
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 35/100