apache / apache/parquet-java

Not able to store int or boolean from Pig to Parquet

未关闭
#1,965 0 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看
Component: Parquet Component: Pig Priority: Trivial Type: bug
主要语言
Java
星标
3.1k
派生
1.6k
平均合并
3 天 12 小时
30 天内合并 PR
33

描述

I have a simple Pig schema that contains long and boolean properties. When trying to store the records using `parquet.pig.ParquetStorer();` I get the following error:
```
java.io.IOException: parquet.io.ParquetEncodingException: can not write value at 9 in tuple (...) from type 'likeCount: long' to type 'optional int64 likeCount'
```

**Reporter**: [Jonathan Morales](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=jonathanmv@outlook.com)

**Note**: *This issue was originally created as [PARQUET-586](https://issues.apache.org/jira/browse/PARQUET-586). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

贡献指南

这个仓库没有索引到贡献指南

调研方向

首先,使用报告的 Pig schema 复现该故障,该 schema 包含 long 和 boolean 属性以及 ParquetStorer。跟踪从 Pig 元组值到报告的可选 int64 Parquet 字段的转换过程,同时也考虑 boolean 路径。只要记录能够成功存储且不再出现报告的 ParquetEncodingException,即视为完成。

由索引模型根据 Issue 内容生成。

评估

技术栈
java
领域
data-engineering
Issue 类型
缺陷
难度
4/5
预计耗时
3-5 天
活跃度
停滞
描述清晰度
需要澄清
新手友好度
25/100

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。