apache / apache/parquet-java

Document how a schema can have columns splitted over different files

Đang mở
#2,581 3 bình luận 0 reaction 0 người được giao Xem trên GitHub
Component: Parquet Priority: Minor Type: enhancement
Ngôn ngữ chính
Java
Star
3.1k
Fork
1.6k
Merge trung bình
3 ngày 12 giờ
Pull request đã merge (30 ngày)
33

Mô tả

In the design overview is stated that the format supports that columns of a given schema are splitted over several files . 

To date ,other than the reference in the parquet homepage there are no other references to these feature , not even if it is actually implemented. 

As it currently stands , I believe that for a given row group you cannot have some columns in one file and other column group in another file belonging to the same schema .

If these feature was actually implemented it would open the door to faster data updates which affect a single column in very wide tables, which is typical on big data use cases .

 

**Reporter**: [Carlos Diogo](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=cdiogo79)

**Note**: *This issue was originally created as [PARQUET-1987](https://issues.apache.org/jira/browse/PARQUET-1987). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Hướng nghiên cứu

Bắt đầu với phần tổng quan về thiết kế và tài liệu tham chiếu hiện có trên trang chủ của Parquet, sau đó kiểm tra phần triển khai để xác định liệu các cột từ một schema có thể được chia ra giữa các tệp trong một row group hay không. Ghi lại hành vi được hỗ trợ, hoặc nêu rõ hạn chế nếu tính năng này chưa được triển khai, bao gồm mọi ràng buộc liên quan đến việc cập nhật các bảng rộng.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
java
Lĩnh vực
documentation
Loại issue
Tài liệu
Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức độ hoạt động
Đình trệ
Độ rõ ràng
Cần làm rõ
Mức phù hợp với người mới
30/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.