apache / apache/parquet-java

Push predicates into the whole read path

オープン
#1,464 コメント 2 件 リアクション 0 件 担当者 0 名 GitHub で見る
Component: Java Component: Parquet Priority: Major Type: enhancement
主要言語
Java
スター
3.1k
フォーク
1.6k
平均マージ
3日 12時間
マージ済み PR(30日)
33

説明

Regarding primitive types, there are 3 import primitive types set:
- the file schema primitive type set
- the requested schema primitive type set
- the predicates primitive type set

Currently the file schema primitive type set and the requested schema primitive type set has been pushed into the whole read path, but not the the predicates primitive type set.

This brings some problems like:
- PARQUET-389, SPARK-11103, SPARK-11434
- PARQUET-425, PARQUET-426
- PARQUET-295

This issue propose to push the predicates primitive type set into the whole read path as well. When this is resolved, hopefully the issues listed above would also be resolved as well.

Attached is a change proposal.

**Reporter**: [Liwei Lin(Inactive)](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=proflin) / @lw-lin
**Assignee**: [Liwei Lin(Inactive)](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=proflin) / @lw-lin
#### Original Issue Attachments:
- [Parquet-427 v0.1.pdf](https://issues.apache.org/jira/secure/attachment/12782011/Parquet-427+v0.1.pdf)

**Note**: *This issue was originally created as [PARQUET-427](https://issues.apache.org/jira/browse/PARQUET-427). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

調査の方向性

添付された Parquet-427 v0.1 change proposal から始め、ファイルスキーマと要求スキーマのプリミティブ型セットが、読み取りパスを通じてすでにどのように受け渡されているかを追跡します。完了条件は、述語のプリミティブ型セットもこのパスに従い、関連する PARQUET-389、SPARK-11103、SPARK-11434、PARQUET-425、PARQUET-426、PARQUET-295 の問題が対処されていることです。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
java
領域
data
issue の種類
機能追加
難易度
5/5
見積もり時間
1週間以上
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
25/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。