apache / apache/parquet-java

Validate parquet row group size and HDFS block size

Abierto
#1,717 1 comentario 0 reacciones 0 asignados Ver en GitHub
Component: Java Component: Parquet Priority: Major Type: bug
Lenguaje dominante
Java
Estrellas
3.1k
Forks
1.6k
Merge medio
3 d 12 h
PR fusionados (30 d)
33

Descripción

The OutputFormat should verify that `parquet.block.size < dfs.blocksize` to avoid bad performance. In addition, we could check that `(dfs.blocksize % parquet.block.size) < 1MB` to ensure that some number of row groups is approximately the size of an HDFS block.

**Reporter**: [Ryan Blue](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=rdblue) / @rdblue
#### Related issues:
- [Improve alignment between row groups and HDFS blocks](https://github.com/apache/parquet-java/issues/1831) (depends upon)

**Note**: *This issue was originally created as [PARQUET-166](https://issues.apache.org/jira/browse/PARQUET-166). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Línea de trabajo

Comienza localizando la implementación de OutputFormat y el manejo de parquet.block.size y dfs.blocksize. Comprueba las dos condiciones indicadas, incluido el umbral de resto de 1MB, y considera el issue relacionado sobre la alineación de row groups y bloques de HDFS; el trabajo estará terminado cuando la validación solicitada esté cubierta.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
java
Área
data-engineering, distributed-systems
Tipo de issue
Error
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
28/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.