apache / apache/parquet-java

Vectorized Reader In Parquet

Đang mở
#1,657 24 bình luận 0 reaction 0 người được giao Xem trên GitHub
Component: Java Component: Parquet Priority: Major Type: enhancement
Ngôn ngữ chính
Java
Star
3.1k
Fork
1.6k
Merge trung bình
3 ngày 12 giờ
Pull request đã merge (30 ngày)
33

Mô tả

Vectorized Query Execution could have big performance improvement for SQL engines like Hive, Drill, and Presto. Instead of processing one row at a time, Vectorized Query Execution could streamline operations by processing a batch of rows at a time. Within one batch, each column is represented as a vector of a primitive data type. SQL engines could apply predicates very efficiently on these vectors, avoiding a single row going through all the operators before the next row can be processed.
As an efficient columnar data representation, it would be nice if Parquet could support Vectorized APIs, so that all SQL engines could read vectors from Parquet files, and do vectorized execution for Parquet File Format.

Detail proposal:
https://gist.github.com/zhenxiao/2728ce4fe0a7be2d3b30

**Reporter**: [Zhenxiao Luo](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=zhenxiao) / @zhenxiao
**Assignee**: [Zhenxiao Luo](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=zhenxiao) / @zhenxiao
#### Subtasks:
- [ ] [[Vectorized Reader] Support Complex Types (Map, Array, Struct) in Parquet Vectorized Reader](https://github.com/apache/parquet-java/issues/1824)
- [ ] [[Vectorized Reader] ColumnVector length should be in terms of rows, not DataPages](https://github.com/apache/parquet-java/issues/1439)
- [ ] [[Vectorized Reader] Make sure all encodings work in Parquet Vectorized Reader](https://github.com/apache/parquet-java/issues/1825)
- [ ] [[Vectorized Reader] Lazy Load in Vectorized Reader](https://github.com/apache/parquet-java/issues/1826)
- [ ] [[Vectorized Reader] Lazy Decoding in Vectorized Reader](https://github.com/apache/parquet-java/issues/1827)
- [ ] [[Vectorized Reader] Add Testcases/Benchmarks for ParquetVectorizedReader](https://github.com/apache/parquet-java/issues/1828)
- [ ] [[Vectorized Reader] Add attributes in ColumnVector and RowBatch](https://github.com/apache/parquet-java/issues/1852)
#### Related issues:
- [Improve Parquet Vectorization](https://issues.apache.org/jira/browse/HIVE-8128) (is related to)
#### Original Issue Attachments:
- [ParquetInPresto.pdf](https://issues.apache.org/jira/secure/attachment/12684592/ParquetInPresto.pdf)
- [Parquet-Vectorized-APIs.pdf](https://issues.apache.org/jira/secure/attachment/12684393/Parquet-Vectorized-APIs.pdf)

**Note**: *This issue was originally created as [PARQUET-131](https://issues.apache.org/jira/browse/PARQUET-131). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Hướng nghiên cứu

Bắt đầu với đề xuất vectorized API được liên kết và xem xét các subtasks được liệt kê cho phạm vi hiện tại, đặc biệt là các kiểu phức tạp, encoding, lazy loading và benchmark. Được coi là hoàn tất khi Parquet cung cấp hỗ trợ đọc vectorized phù hợp với các SQL engine, đồng thời hành vi reader được liệt kê và phạm vi bao phủ của test hoặc benchmark đã được xử lý.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
java
Lĩnh vực
data-engineering
Loại issue
Tính năng
Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức độ hoạt động
Đình trệ
Độ rõ ràng
Cần làm rõ
Mức phù hợp với người mới
25/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.