apache / apache/parquet-java

Could we provide a potentially larger InternalParquetRecordWriter.getDataSize

Đang mở
#3,032 1 bình luận 0 reaction 0 người được giao Xem trên GitHub
Ngôn ngữ chính
Java
Star
3.1k
Fork
1.6k
Merge trung bình
3 ngày 12 giờ
Pull request đã merge (30 ngày)
33

Mô tả

The following code currently has getDataSize as an estimated value. The Iceberg rolling file write operation relies on this method, which may result in writing files that are much smaller than expected.
```JAVA
/**
* @return the total size of data written to the file and buffered in memory
*/
public long getDataSize() {
return lastRowGroupEndPos + columnStore.getBufferedSize();
}
```

Could we provide a potentially larger getDataSize? I can't think of any downsides at the moment.

### Component(s)

_No response_

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Hướng nghiên cứu

Tìm InternalParquetRecordWriter.getDataSize và theo dõi cách thao tác ghi tệp xoay vòng của Iceberg sử dụng giá trị của nó. So sánh kích thước được báo cáo với dữ liệu thực tế đã ghi và được đệm, sau đó xác định và kiểm thử một ước tính kích thước lớn hơn, an toàn để ngăn các tệp có kích thước nhỏ ngoài dự kiến.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
java
Lĩnh vực
data-engineering
Loại issue
Lỗi
Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức độ hoạt động
Đình trệ
Độ rõ ràng
Khá rõ ràng
Mức phù hợp với người mới
35/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.