Issues when using the head on a parquet file
- Vorherrschende Sprache
- Java
- Sterne
- 3.1k
- Forks
- 1.6k
- Ø Merge
- 3 T. 12 Std.
- Gemergte PRs (30 T.)
- 33
Beschreibung
```
**$** parquet head train-00000-of-00001-15a05aeec7726f9d.parquet
Unknown error
shaded.parquet.org.apache.avro.SchemaParseException: Illegal character in: original-instruction
at shaded.parquet.org.apache.avro.Schema.validateName(Schema.java:1607)
at shaded.parquet.org.apache.avro.Schema.access$400(Schema.java:92)
at shaded.parquet.org.apache.avro.Schema$Field.(Schema.java:556)
at shaded.parquet.org.apache.avro.Schema$Field.(Schema.java:595)
at org.apache.parquet.avro.AvroSchemaConverter.convertFields(AvroSchemaConverter.java:295)
at org.apache.parquet.avro.AvroSchemaConverter.convert(AvroSchemaConverter.java:279)
at org.apache.parquet.cli.util.Schemas.fromParquet(Schemas.java:89)
at org.apache.parquet.cli.BaseCommand.getAvroSchema(BaseCommand.java:405)
at org.apache.parquet.cli.commands.CatCommand.run(CatCommand.java:66)
at org.apache.parquet.cli.Main.run(Main.java:163)
at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:76)
at org.apache.parquet.cli.Main.main(Main.java:193)
```
this is the dataset in question: https://huggingface.co/datasets/argilla/databricks-dolly-15k-curated-en/tree/main/data
**Reporter**: [Rémy Léone](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=remyleone) / @remyleone
**Note**: *This issue was originally created as [PARQUET-2377](https://issues.apache.org/jira/browse/PARQUET-2377). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Rechercherichtung
Reproduziere den Fehler mit der verlinkten Parquet-Datei unter Verwendung des Befehls parquet head und verfolge dann den Stack über CatCommand, BaseCommand.getAvroSchema und Schemas.fromParquet bis in AvroSchemaConverter. Als erledigt gilt die Aufgabe, wenn head diese Datei trotz des Feldnamens original-instruction verarbeiten kann und ein Regressionstest dieses Verhalten abdeckt, sofern die bestehende Teststruktur einen geeigneten Ort dafür erkennen lässt.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- cli
- Issue-Typ
- Bug
- Schwierigkeit
- 3/5
- Geschätzter Aufwand
- 1-2 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Größtenteils klar
- Anfängerfreundlichkeit
- 35/100