Reduce memory footprint for nulls caching
未关闭
还没有人认领这个 Issue。
Component: Java
Component: Parquet
Priority: Major
Type: enhancement
- 主要语言
- Java
- 星标
- 3.1k
- 派生
- 1.6k
- 平均合并
- 3 天 12 小时
- 30 天内合并 PR
- 33
描述
Scenario:
There is a schema with many optional groups, e.g.
message example {
required binary id (UTF8);
optional group a1 (LIST) {
repeated int64 array;
}
optional group a2 (LIST) {
repeated int64 array;
}
...
optional group aN (LIST) {
repeated int64 array;
}
}
Many records without optional parameters are written.
In this case groupNullCache will contain many elements which all are zeros.
Reporter: Boris Molodenkov
Related issues:
Note: This issue was originally created as PARQUET-1119. Please see the migration documentation for further details.
贡献指南
这个仓库没有索引到贡献指南
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
调研方向
未指定源文件或测试。首先跟踪 groupNullCache 的创建和填充位置,然后阅读关于现有缓存设计的 issue #1860。完成标准是在保留相关写入行为的同时,减少全零 null-cache 条目的存储;在测试当前缓存行为的位置添加有针对性的覆盖。
由索引模型根据 Issue 内容生成。
评估
- 技术栈
- java
- 领域
- data-engineering
- Issue 类型
- 重构
- 难度
- 5/5
- 预计耗时
- 一周以上
- 活跃度
- 停滞
- 描述清晰度
- 需要澄清
- 新手友好度
- 25/100