apache / apache/parquet-java

parquet-mr must handle statistics in files written by parquet-cpp

Đang mở
#2,063 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Component: Java Component: Parquet Priority: Major Type: bug
Ngôn ngữ chính
Java
Star
3.1k
Fork
1.6k
Merge trung bình
3 ngày 12 giờ
Pull request đã merge (30 ngày)
33

Mô tả

shouldIgnoreStatistics in parquet-mr always accepts statistics for files written by other applications including parquet-cpp. We must fix this to correctly handle statistics written by parquet-cpp versions.

Reporter: Deepak Majeti / @majetideepak

Note: This issue was originally created as PARQUET-1017. Please see the migration documentation for further details.

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Hướng nghiên cứu

Bắt đầu bằng cách tìm shouldIgnoreStatistics trong parquet-mr và xem xét cách hàm này quyết định liệu có thể sử dụng thống kê từ các ứng dụng khác hay không. So sánh cách xử lý cần thiết đối với các tệp được ghi bởi các phiên bản parquet-cpp, sử dụng PARQUET-1017 được liên kết và tài liệu di chuyển làm ngữ cảnh. Công việc được xem là hoàn tất khi parquet-mr xử lý chính xác các thống kê đó mà không chấp nhận siêu dữ liệu không tương thích.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
java
Lĩnh vực
data-engineering
Loại issue
Lỗi
Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức độ hoạt động
Đình trệ
Độ rõ ràng
Khá rõ ràng
Mức phù hợp với người mới
35/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.