apache / apache/parquet-java

[Java] Arrow read write support

未关闭
#2,264 0 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看
Component: Java Component: Parquet Priority: Major Type: enhancement
主要语言
Java
星标
3.1k
派生
1.6k
平均合并
3 天 12 小时
30 天内合并 PR
33

描述

Native reader/writer implementation on C++ allow user directly read parquet file into Arrow Buffer and Write to parquet file from arrow buffer. However, these features are not supported on Java.

Supports read/write arrow on Java.

**Reporter**: [Masayuki Takahashi](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=masayuki038) / @masayuki038
#### Externally tracked issue: [https://lists.apache.org/thread.html/8783f4cca0bfa9574f53b81a8331f87f0dd8f5b218a7ef6548f50170@%3Cdev.parquet.apache.org%3E](https://lists.apache.org/thread.html/8783f4cca0bfa9574f53b81a8331f87f0dd8f5b218a7ef6548f50170@%3Cdev.parquet.apache.org%3E)

**Note**: *This issue was originally created as [PARQUET-1479](https://issues.apache.org/jira/browse/PARQUET-1479). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

贡献指南

这个仓库没有索引到贡献指南

调研方向

该 issue 将 Java 支持和现有的原生 C++ Arrow reader/writer 作为参考点,但没有 Java 文件或测试。首先定位这些实现以及 Java 的 Parquet 读写入口,然后确定所需的对等性,并添加覆盖,展示 Arrow 缓冲区可以从 Parquet 读取并写入 Parquet。

由索引模型根据 Issue 内容生成。

评估

技术栈
cpp, java
领域
data-engineering
Issue 类型
功能
难度
4/5
预计耗时
3-5 天
活跃度
停滞
描述清晰度
需要澄清
新手友好度
30/100

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。