stream through files when writing the _metadata file to reduce memory usage
- Ngôn ngữ chính
- Java
- Star
- 3.1k
- Fork
- 1.6k
- Merge trung bình
- 3 ngày 12 giờ
- Pull request đã merge (30 ngày)
- 33
Mô tả
Currently we load all the footers of the part files in memory in the committer to write the _metadata file.
We could open the _metadata file first and then add the metadata for each part file one by one. That would reduce the required memory.
**Reporter**: [Julien Le Dem](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=julienledem) / @julienledem
**Note**: *This issue was originally created as [PARQUET-91](https://issues.apache.org/jira/browse/PARQUET-91). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Hướng nghiên cứu
Bắt đầu từ mã committer ghi tệp _metadata và theo dõi cách các footer từ các part file hiện được tải. Thay đổi được hoàn tất khi metadata được ghi từng part file một mà không giữ tất cả footer trong bộ nhớ; payload không nêu tên tệp cụ thể hoặc các kiểm thử cần chạy.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- java
- Lĩnh vực
- data-engineering
- Loại issue
- Tái cấu trúc
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 35/100