apache / apache/parquet-java

parquet-mr must handle statistics in files written by parquet-cpp

Abierto
#2,063 0 comentarios 0 reacciones 0 asignados Ver en GitHub
Component: Java Component: Parquet Priority: Major Type: bug
Lenguaje dominante
Java
Estrellas
3.1k
Forks
1.6k
Merge medio
3 d 12 h
PR fusionados (30 d)
33

Descripción

`shouldIgnoreStatistics` in parquet-mr always accepts statistics for files written by other applications including parquet-cpp. We must fix this to correctly handle statistics written by parquet-cpp versions.

**Reporter**: [Deepak Majeti](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=mdeepak) / @majetideepak

**Note**: *This issue was originally created as [PARQUET-1017](https://issues.apache.org/jira/browse/PARQUET-1017). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Línea de trabajo

Empieza por localizar shouldIgnoreStatistics en parquet-mr y revisar cómo determina si se pueden usar las estadísticas de otras aplicaciones. Compara el tratamiento necesario para los archivos escritos por versiones de parquet-cpp, usando como contexto el PARQUET-1017 enlazado y la documentación de migración. Se considera terminado cuando parquet-mr gestiona correctamente esas estadísticas sin aceptar metadatos incompatibles.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
java
Área
data-engineering
Tipo de issue
Error
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.