apache / apache/parquet-java

Handle special values of floating point statistics

Abierto
#2,595 0 comentarios 0 reacciones 0 asignados Ver en GitHub
Component: Java Component: Parquet Priority: Major Type: bug
Lenguaje dominante
Java
Estrellas
3.1k
Forks
1.6k
Merge medio
3 d 12 h
PR fusionados (30 d)
33

Descripción

Based on PARQUET-1251 we have implemented the suggested workaround but it is not complete in all situations.
- We handle the special floating point values at row-group level in parquet-mr but only for the read path. For the write path we still write these values.
- For column indexes we handle these values but only for the write path and not for the read path.

We should implement the workaround for both read and write paths for all cases so we not only handle potentially invalid values but also don't write them to the file.

**Reporter**: [Gabor Szadovszky](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=gszadovszky) / @gszadovszky
**Assignee**: [Gabor Szadovszky](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=gszadovszky) / @gszadovszky

**Note**: *This issue was originally created as [PARQUET-2017](https://issues.apache.org/jira/browse/PARQUET-2017). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Línea de trabajo

Comienza rastreando el manejo existente de valores de coma flotante especiales para las estadísticas de grupos de filas y los índices de columnas, cubriendo tanto las rutas de lectura como las de escritura. Confirma que la solución alternativa se aplica en todos los casos, incluido evitar que estos valores se escriban en archivos, y añade o actualiza la cobertura de las rutas afectadas.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
java
Área
data-engineering
Tipo de issue
Error
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.