Parquet protobuf: List wrapper should be optional
- 主要言語
- Java
- スター
- 3.1k
- フォーク
- 1.6k
- 平均マージ
- 3日 12時間
- マージ済み PR(30日)
- 33
説明
Following , parquet-protobuf will conform to the specs[1] regarding the definition of lists and will adopt the 3-level structure:
```java
*required* group my_list (LIST) {
repeated group list {
optional binary element (UTF8);
}
}
```
The first level has the repetition level **required**, however this won't allow making the distinction between a null list and an empty one.
This ticket is for changing the root level repetition to **optional** as following:
```java
*optional* group my_list (LIST) {
repeated group list {
optional binary element (UTF8);
}
}
```
This will allow differentiating between null and empty lists.
[1] https://github.com/apache/parquet-format/blob/master/LogicalTypes.md#lists
**Reporter**: [Benoit Hanotte](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=b.hanotte)
**Note**: *This issue was originally created as [PARQUET-1216](https://issues.apache.org/jira/browse/PARQUET-1216). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
調査の方向性
まず、リストスキーマの parquet-protobuf 実装を見つけ、issue でリンクされている Parquet lists specification および参照されている parquet-mr の変更と比較します。root LIST group が optional であり、ネストされた list と element の構造が示されているとおり維持され、null リストと空のリストを区別できれば完了です。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- java
- 領域
- data-engineering
- issue の種類
- バグ
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 活発さ
- 停滞
- 明瞭さ
- おおむね明確
- 初心者へのやさしさ
- 35/100