Reduce memory pressure when reading footers
- Lenguaje dominante
- Java
- Estrellas
- 3.1k
- Forks
- 1.6k
- Merge medio
- 3 d 12 h
- PR fusionados (30 d)
- 33
Descripción
I encountered OOMs reading metadata for a dataset with 500+ columns, many of them quite sparse.
We can reduce memory utilization significantly.
**Reporter**: [Dmitriy V. Ryaboy](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=dvryaboy) / @dvryaboy
**Note**: *This issue was originally created as [PARQUET-11](https://issues.apache.org/jira/browse/PARQUET-11). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Línea de trabajo
Empieza reproduciendo la condición de falta de memoria al leer los metadatos de un dataset con más de 500 columnas dispersas y, después, sigue la ruta de lectura del footer. El issue no menciona archivos ni tests, así que identifica el código relevante de metadatos y footer antes de decidir el cambio. Se considera terminado cuando el uso de memoria sea sustancialmente menor sin cambiar el resultado de la lectura de metadatos.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- java
- Área
- data-engineering, performance
- Tipo de issue
- Error
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Estado de actividad
- Estancado
- Claridad
- Necesita aclaración
- Aptitud para principiantes
- 30/100