apache / apache/parquet-java

Parquet-tools cat mangles strings created by other clients

オープン
#2,140 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
Component: Parquet Priority: Major Type: bug
主要言語
Java
スター
3.1k
フォーク
1.6k
平均マージ
3日 12時間
マージ済み PR(30日)
33

説明

I have some parquet files that are created by Java MR process (which I do not own). I am able to read these fields successfully in pig and Spark, but for some reason the String fields are being mangled when I view the files with parquet-tools (cat).

Here are the details on the file metadata using today's build of parquet-tools:
```

hadoop jar parquet-tools-1.9.1-SNAPSHOT.jar meta /parquet-r-00000
```
Output:
```

file: hdfs:///parquet-r-00000
creator: parquet-mr version 1.8.1 (build 4aba4dae7bb0d4edbcf7923ae1339f28fd3f7fcf)

file schema: MY_DATA
--------------------------------------------------------------------------------
myfield: OPTIONAL BINARY R:0 D:1

row group 1: RC:37343 TS:32397576 OFFSET:4
--------------------------------------------------------------------------------
myfield: BINARY SNAPPY DO:0 FPO:4 SZ:273374/556406/2.04 VC:37343 ENC:RLE,BIT_PACKED,PLAIN_DICTIONARY ST:[no stats for this column]
```
 Has anyone seen this before?

**Environment**: {noformat}
uname -a
Linux myhost 4.4.0-63-generic #84-Ubuntu SMP Wed Feb 1 17:20:32 UTC 2017 x86_64 x86_64 x86_64 GNU/Linux
{noformat}
**Reporter**: [Michael McCarthy](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=Michael.McCarthy)

**Note**: *This issue was originally created as [PARQUET-1235](https://issues.apache.org/jira/browse/PARQUET-1235). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

調査の方向性

まず parquet-tools cat のパスと、レポートで説明されている OPTIONAL BINARY フィールドのメタデータから始め、次にその出力を Pig と Spark が読み取った文字列と比較します。Java MR プロセスによって作成された Parquet ファイルを使って文字化けを再現します。完了条件は、parquet-tools cat がそれらの文字列フィールドを正しく表示することです。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
java
領域
cli, data-engineering
issue の種類
バグ
難易度
4/5
見積もり時間
3〜5日
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
25/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。