apache / apache/parquet-java

Parquet-tools cat mangles strings created by other clients

Ouverte
#2,140 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
Component: Parquet Priority: Major Type: bug
Langage dominant
Java
Étoiles
3.1k
Forks
1.6k
Merge moyen
3 j 12 h
PR mergées (30 j)
33

Description

I have some parquet files that are created by Java MR process (which I do not own). I am able to read these fields successfully in pig and Spark, but for some reason the String fields are being mangled when I view the files with parquet-tools (cat).

Here are the details on the file metadata using today's build of parquet-tools:
```

hadoop jar parquet-tools-1.9.1-SNAPSHOT.jar meta /parquet-r-00000
```
Output:
```

file: hdfs:///parquet-r-00000
creator: parquet-mr version 1.8.1 (build 4aba4dae7bb0d4edbcf7923ae1339f28fd3f7fcf)

file schema: MY_DATA
--------------------------------------------------------------------------------
myfield: OPTIONAL BINARY R:0 D:1

row group 1: RC:37343 TS:32397576 OFFSET:4
--------------------------------------------------------------------------------
myfield: BINARY SNAPPY DO:0 FPO:4 SZ:273374/556406/2.04 VC:37343 ENC:RLE,BIT_PACKED,PLAIN_DICTIONARY ST:[no stats for this column]
```
 Has anyone seen this before?

**Environment**: {noformat}
uname -a
Linux myhost 4.4.0-63-generic #84-Ubuntu SMP Wed Feb 1 17:20:32 UTC 2017 x86_64 x86_64 x86_64 GNU/Linux
{noformat}
**Reporter**: [Michael McCarthy](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=Michael.McCarthy)

**Note**: *This issue was originally created as [PARQUET-1235](https://issues.apache.org/jira/browse/PARQUET-1235). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Piste de recherche

Commencez par le chemin parquet-tools cat et les métadonnées du champ OPTIONAL BINARY décrit dans le rapport, puis comparez sa sortie avec les chaînes lues par Pig et Spark. Reproduisez la corruption à l’aide d’un fichier Parquet créé par le processus Java MR ; le travail est terminé lorsque parquet-tools cat affiche correctement ces champs de chaînes.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
java
Domaine
cli, data-engineering
Type d'issue
Bug
Difficulté
4/5
Temps estimé
3-5 jours
Activité
À l'abandon
Clarté
À clarifier
Accessibilité débutants
25/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.