Question on parquet-protobuf and parquet-pig
- 主要语言
- Java
- 星标
- 3.1k
- 派生
- 1.6k
- 平均合并
- 3 天 12 小时
- 30 天内合并 PR
- 33
描述
Hi,
I have a question about protobuf to parquet conversion.
I have a message like this (simplified) :
```Java
message MyMessage {
repeated string language = 1;
}
```
parquet-protobuf convert it to the following schema :
```Java
message MyMessage {
repeated binary language (UTF8);
}
```
But, according to TestPigSchameConverter.java, the correct schema should be :
```Java
message MyMessage {
optional group language (LIST) {
repeated binary value (UTF8);
}
}
```
Language is an optional list of language, i want to store zero or more language.
Who have the correct schema for my case ? parquet-protobuf or parquet-pig ?
**Reporter**: [Christian Nguyen Van Than](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=cnguyen@nextperf.com)
**Note**: *This issue was originally created as [PARQUET-354](https://issues.apache.org/jira/browse/PARQUET-354). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
贡献指南
这个仓库没有索引到贡献指南
调研方向
将 protobuf 转换行为与 TestPigSchameConverter.java 中的预期 schema 进行比较,首先了解 parquet-protobuf 和 parquet-pig 如何表示重复的 string 字段。确定对于零个或更多值,这些 schema 是否存在错误差异,并记录一个可复现的结论或 test,以解决哪种表示是正确的。
由索引模型根据 Issue 内容生成。
评估
- 技术栈
- java
- 领域
- data-engineering
- Issue 类型
- 缺陷
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 活跃度
- 停滞
- 描述清晰度
- 需要澄清
- 新手友好度
- 25/100