apache / apache/parquet-java

Array Index OutOf Bounds Exception when fall Back Dictionary Encoded Data

Abierto
#2,488 2 comentarios 0 reacciones 0 asignados Ver en GitHub
Component: Java Component: Parquet Priority: Major Type: bug
Lenguaje dominante
Java
Estrellas
3.1k
Forks
1.6k
Merge medio
3 d 12 h
PR fusionados (30 d)
33

Descripción

java.lang.ArrayIndexOutOfBoundsException: 39782
\n\tat org.apache.parquet.column.values.dictionary.DictionaryValuesWriter$PlainBinaryDictionaryValuesWriter.fallBackDictionaryEncodedData(DictionaryValuesWriter.java:284)
\n\tat org.apache.parquet.column.values.dictionary.DictionaryValuesWriter.fallBackAllValuesTo(DictionaryValuesWriter.java:123)
\n\tat org.apache.parquet.column.values.fallback.FallbackValuesWriter.fallBack(FallbackValuesWriter.java:147)
\n\tat org.apache.parquet.column.values.fallback.FallbackValuesWriter.checkFallback(FallbackValuesWriter.java:141)
\n\tat org.apache.parquet.column.values.fallback.FallbackValuesWriter.writeBytes(FallbackValuesWriter.java:163)
\n\tat org.apache.parquet.column.impl.ColumnWriterV1.write(ColumnWriterV1.java:201)
\n\tat org.apache.parquet.io.MessageColumnIO$MessageColumnIORecordConsumer.addBinary(MessageColumnIO.java:467)
\n\tat org.apache.parquet.io.RecordConsumerLoggingWrapper.addBinary(RecordConsumerLoggingWrapper.java:119)
\n\tat org.apache.parquet.example.data.simple.BinaryValue.writeValue(BinaryValue.java:45)
\n\tat org.apache.parquet.example.data.simple.SimpleGroup.writeValue(SimpleGroup.java:229)
\n\tat org.apache.parquet.example.data.GroupWriter.writeGroup(GroupWriter.java:51)
\n\tat org.apache.parquet.example.data.GroupWriter.write(GroupWriter.java:37)
\n\tat org.apache.parquet.hadoop.example.GroupWriteSupport.write(GroupWriteSupport.java:79)
\n\tat org.apache.parquet.hadoop.example.GroupWriteSupport.write(GroupWriteSupport.java:36)
\n\tat org.apache.parquet.hadoop.InternalParquetRecordWriter.write(InternalParquetRecordWriter.java:123)
\n\tat org.apache.parquet.hadoop.ParquetWriter.write(ParquetWriter.java:293)

**Reporter**: [jiangbo](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=jiangbo)

**Note**: *This issue was originally created as [PARQUET-1852](https://issues.apache.org/jira/browse/PARQUET-1852). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Línea de trabajo

Comienza con DictionaryValuesWriter.java en fallBackDictionaryEncodedData, línea 284, y sigue las llamadas de fallback a través de DictionaryValuesWriter.java, FallbackValuesWriter.java y ColumnWriterV1.java. Determina la entrada que produce la ArrayIndexOutOfBoundsException reportada y verifica que la ruta de fallback la gestione sin la excepción, con cobertura de regresión si se identifica un punto de entrada de prueba existente.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
java
Área
data-engineering
Tipo de issue
Error
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
30/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.