apache / apache/parquet-java

Retire _metadata generation

Đang mở
#1,728 5 bình luận 0 reaction 0 người được giao Xem trên GitHub
Component: Parquet Priority: Major Type: task
Ngôn ngữ chính
Java
Star
3.1k
Fork
1.6k
Merge trung bình
3 ngày 12 giờ
Pull request đã merge (30 ngày)
33

Mô tả

We can disable _metadata file generation since it is not being used anymore to reduce the memory usage during commit phase.

We are keeping the _common_metadata since it is less memory expensive.

**Reporter**: [elif dede](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=elif) / @elifdd-zz
**Assignee**: [elif dede](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=elif) / @elifdd-zz

**Note**: *This issue was originally created as [PARQUET-179](https://issues.apache.org/jira/browse/PARQUET-179). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Hướng nghiên cứu

Issue không nêu tên file hoặc test nào. Trước tiên, hãy theo dõi quá trình tạo _metadata trong giai đoạn commit, sau đó xác minh _common_metadata được giữ lại ở đâu. Công việc được hoàn tất khi _metadata không còn được tạo, _common_metadata vẫn khả dụng và thay đổi này làm giảm mức sử dụng bộ nhớ trong giai đoạn commit.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
java
Lĩnh vực
data-engineering
Loại issue
Tái cấu trúc
Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức độ hoạt động
Đình trệ
Độ rõ ràng
Khá rõ ràng
Mức phù hợp với người mới
35/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.