Vectorized Reader In Parquet
- Ngôn ngữ chính
- Java
- Star
- 3.1k
- Fork
- 1.6k
- Merge trung bình
- 3 ngày 12 giờ
- Pull request đã merge (30 ngày)
- 33
Mô tả
Vectorized Query Execution could have big performance improvement for SQL engines like Hive, Drill, and Presto. Instead of processing one row at a time, Vectorized Query Execution could streamline operations by processing a batch of rows at a time. Within one batch, each column is represented as a vector of a primitive data type. SQL engines could apply predicates very efficiently on these vectors, avoiding a single row going through all the operators before the next row can be processed.
As an efficient columnar data representation, it would be nice if Parquet could support Vectorized APIs, so that all SQL engines could read vectors from Parquet files, and do vectorized execution for Parquet File Format.
Detail proposal:
https://gist.github.com/zhenxiao/2728ce4fe0a7be2d3b30
**Reporter**: [Zhenxiao Luo](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=zhenxiao) / @zhenxiao
**Assignee**: [Zhenxiao Luo](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=zhenxiao) / @zhenxiao
#### Subtasks:
- [ ] [[Vectorized Reader] Support Complex Types (Map, Array, Struct) in Parquet Vectorized Reader](https://github.com/apache/parquet-java/issues/1824)
- [ ] [[Vectorized Reader] ColumnVector length should be in terms of rows, not DataPages](https://github.com/apache/parquet-java/issues/1439)
- [ ] [[Vectorized Reader] Make sure all encodings work in Parquet Vectorized Reader](https://github.com/apache/parquet-java/issues/1825)
- [ ] [[Vectorized Reader] Lazy Load in Vectorized Reader](https://github.com/apache/parquet-java/issues/1826)
- [ ] [[Vectorized Reader] Lazy Decoding in Vectorized Reader](https://github.com/apache/parquet-java/issues/1827)
- [ ] [[Vectorized Reader] Add Testcases/Benchmarks for ParquetVectorizedReader](https://github.com/apache/parquet-java/issues/1828)
- [ ] [[Vectorized Reader] Add attributes in ColumnVector and RowBatch](https://github.com/apache/parquet-java/issues/1852)
#### Related issues:
- [Improve Parquet Vectorization](https://issues.apache.org/jira/browse/HIVE-8128) (is related to)
#### Original Issue Attachments:
- [ParquetInPresto.pdf](https://issues.apache.org/jira/secure/attachment/12684592/ParquetInPresto.pdf)
- [Parquet-Vectorized-APIs.pdf](https://issues.apache.org/jira/secure/attachment/12684393/Parquet-Vectorized-APIs.pdf)
**Note**: *This issue was originally created as [PARQUET-131](https://issues.apache.org/jira/browse/PARQUET-131). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Hướng nghiên cứu
Bắt đầu với đề xuất vectorized API được liên kết và xem xét các subtasks được liệt kê cho phạm vi hiện tại, đặc biệt là các kiểu phức tạp, encoding, lazy loading và benchmark. Được coi là hoàn tất khi Parquet cung cấp hỗ trợ đọc vectorized phù hợp với các SQL engine, đồng thời hành vi reader được liệt kê và phạm vi bao phủ của test hoặc benchmark đã được xử lý.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- java
- Lĩnh vực
- data-engineering
- Loại issue
- Tính năng
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Cần làm rõ
- Mức phù hợp với người mới
- 25/100