apache / apache/parquet-java

Parquet File is not able to read from Spark and Hive

Ouverte
#2,335 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
Component: Java Component: Parquet Priority: Major Type: bug
Langage dominant
Java
Étoiles
3.1k
Forks
1.6k
Merge moyen
3 j 12 h
PR mergées (30 j)
33

Description

Issue: Caused by: java.io.IOException: Expected 35393 values in column chunk at maprfs:////path/date=20190605/caa63aa9-abfa-46e1-8221-10f6c669512d.parquet offset 4 but got 46402 values instead over 2 pages ending at file offset 341624 

we are getting Avro Serialized messages from kafka which are being consumed by Spring-kafka and converted into parquet gets persisted into MaprFS(hdfs) file system. 

i have tried replicating the issue in local with same Avro file but i was able to read parquet successfully, I am not sure why the parquet being corrupted in HDFS . 

 

 

 

 

**Reporter**: [Prashanth pampanna desai](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=Prashanth+Desai)

**Note**: *This issue was originally created as [PARQUET-1594](https://issues.apache.org/jira/browse/PARQUET-1594). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Piste de recherche

Commencez par l'IOException signalée et comparez la lecture locale réussie avec le chemin MapRFS/HDFS utilisé après que Spring-kafka a consommé des messages Avro. L'issue ne mentionne aucun fichier source ni aucun test, et l'achèvement n'est pas défini au-delà de la détermination de la raison pour laquelle Spark et Hive ne peuvent pas lire le fichier Parquet persistant.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
hadoop, java, kafka, spark, spring
Domaine
data-engineering, databases, distributed-systems
Type d'issue
Bug
Difficulté
5/5
Temps estimé
Plus d'une semaine
Activité
À l'abandon
Clarté
À clarifier
Accessibilité débutants
25/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.