apache / apache/parquet-java

Parquet protobuf: List wrapper should be optional

未关闭
#2,133 0 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看
Component: Java Component: Parquet Priority: Minor Type: bug
主要语言
Java
星标
3.1k
派生
1.6k
平均合并
3 天 12 小时
30 天内合并 PR
33

描述

Following  , parquet-protobuf will conform to the specs[1] regarding the definition of lists and will adopt the 3-level structure:
```java

*required* group my_list (LIST) {
repeated group list {
optional binary element (UTF8);
}
}
```
The first level has the repetition level **required**, however this won't allow making the distinction between a null list and an empty one.

This ticket is for changing the root level repetition to **optional** as following:
```java

*optional* group my_list (LIST) {
repeated group list {
optional binary element (UTF8);
}
}
```
This will allow differentiating between null and empty lists.

[1] https://github.com/apache/parquet-format/blob/master/LogicalTypes.md#lists

**Reporter**: [Benoit Hanotte](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=b.hanotte)

**Note**: *This issue was originally created as [PARQUET-1216](https://issues.apache.org/jira/browse/PARQUET-1216). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

贡献指南

这个仓库没有索引到贡献指南

调研方向

首先定位 parquet-protobuf 对列表 schema 的实现,并将其与 issue 中链接的 Parquet lists specification 以及所引用的 parquet-mr 更改进行比较。当 root LIST group 为 optional,同时嵌套的 list 和 element 结构保持如图所示,从而能够区分 null 列表和空列表时,即表示完成。

由索引模型根据 Issue 内容生成。

评估

技术栈
java
领域
data-engineering
Issue 类型
缺陷
难度
4/5
预计耗时
3-5 天
活跃度
停滞
描述清晰度
基本清楚
新手友好度
35/100

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。