apache / apache/parquet-java

Reduce memory pressure when reading footers

Abierto
#1,385 1 comentario 0 reacciones 0 asignados Ver en GitHub
Component: Parquet Priority: Major Type: bug
Lenguaje dominante
Java
Estrellas
3.1k
Forks
1.6k
Merge medio
3 d 12 h
PR fusionados (30 d)
33

Descripción

I encountered OOMs reading metadata for a dataset with 500+ columns, many of them quite sparse.

We can reduce memory utilization significantly.

**Reporter**: [Dmitriy V. Ryaboy](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=dvryaboy) / @dvryaboy

**Note**: *This issue was originally created as [PARQUET-11](https://issues.apache.org/jira/browse/PARQUET-11). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Línea de trabajo

Empieza reproduciendo la condición de falta de memoria al leer los metadatos de un dataset con más de 500 columnas dispersas y, después, sigue la ruta de lectura del footer. El issue no menciona archivos ni tests, así que identifica el código relevante de metadatos y footer antes de decidir el cambio. Se considera terminado cuando el uso de memoria sea sustancialmente menor sin cambiar el resultado de la lectura de metadatos.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
java
Área
data-engineering, performance
Tipo de issue
Error
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
30/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.