apache / apache/parquet-java

Issues when using the head on a parquet file

Abierto
#2,835 0 comentarios 0 reacciones 0 asignados Ver en GitHub
Component: Parquet Priority: Major Type: bug
Lenguaje dominante
Java
Estrellas
3.1k
Forks
1.6k
Merge medio
3 d 12 h
PR fusionados (30 d)
33

Descripción

```

**$** parquet head train-00000-of-00001-15a05aeec7726f9d.parquet       

Unknown error

shaded.parquet.org.apache.avro.SchemaParseException: Illegal character in: original-instruction

at shaded.parquet.org.apache.avro.Schema.validateName(Schema.java:1607)

at shaded.parquet.org.apache.avro.Schema.access$400(Schema.java:92)

at shaded.parquet.org.apache.avro.Schema$Field.(Schema.java:556)

at shaded.parquet.org.apache.avro.Schema$Field.(Schema.java:595)

at org.apache.parquet.avro.AvroSchemaConverter.convertFields(AvroSchemaConverter.java:295)

at org.apache.parquet.avro.AvroSchemaConverter.convert(AvroSchemaConverter.java:279)

at org.apache.parquet.cli.util.Schemas.fromParquet(Schemas.java:89)

at org.apache.parquet.cli.BaseCommand.getAvroSchema(BaseCommand.java:405)

at org.apache.parquet.cli.commands.CatCommand.run(CatCommand.java:66)

at org.apache.parquet.cli.Main.run(Main.java:163)

at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:76)

at org.apache.parquet.cli.Main.main(Main.java:193)

```

this is the dataset in question: https://huggingface.co/datasets/argilla/databricks-dolly-15k-curated-en/tree/main/data

**Reporter**: [Rémy Léone](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=remyleone) / @remyleone

**Note**: *This issue was originally created as [PARQUET-2377](https://issues.apache.org/jira/browse/PARQUET-2377). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Línea de trabajo

Reproduce el fallo con el archivo Parquet enlazado mediante el comando parquet head y, después, sigue el stack a través de CatCommand, BaseCommand.getAvroSchema y Schemas.fromParquet hasta AvroSchemaConverter. Se considera terminado cuando head pueda procesar este archivo a pesar del nombre de campo original-instruction, con una prueba de regresión que cubra este comportamiento si la estructura de pruebas existente identifica un lugar adecuado.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
java
Área
cli
Tipo de issue
Error
Dificultad
3/5
Tiempo estimado
1-2 días
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.