apache / apache/parquet-java

Issues when using the head on a parquet file

Offen
#2,835 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Parquet Priority: Major Type: bug
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

```

**$** parquet head train-00000-of-00001-15a05aeec7726f9d.parquet       

Unknown error

shaded.parquet.org.apache.avro.SchemaParseException: Illegal character in: original-instruction

at shaded.parquet.org.apache.avro.Schema.validateName(Schema.java:1607)

at shaded.parquet.org.apache.avro.Schema.access$400(Schema.java:92)

at shaded.parquet.org.apache.avro.Schema$Field.(Schema.java:556)

at shaded.parquet.org.apache.avro.Schema$Field.(Schema.java:595)

at org.apache.parquet.avro.AvroSchemaConverter.convertFields(AvroSchemaConverter.java:295)

at org.apache.parquet.avro.AvroSchemaConverter.convert(AvroSchemaConverter.java:279)

at org.apache.parquet.cli.util.Schemas.fromParquet(Schemas.java:89)

at org.apache.parquet.cli.BaseCommand.getAvroSchema(BaseCommand.java:405)

at org.apache.parquet.cli.commands.CatCommand.run(CatCommand.java:66)

at org.apache.parquet.cli.Main.run(Main.java:163)

at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:76)

at org.apache.parquet.cli.Main.main(Main.java:193)

```

this is the dataset in question: https://huggingface.co/datasets/argilla/databricks-dolly-15k-curated-en/tree/main/data

**Reporter**: [Rémy Léone](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=remyleone) / @remyleone

**Note**: *This issue was originally created as [PARQUET-2377](https://issues.apache.org/jira/browse/PARQUET-2377). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Reproduziere den Fehler mit der verlinkten Parquet-Datei unter Verwendung des Befehls parquet head und verfolge dann den Stack über CatCommand, BaseCommand.getAvroSchema und Schemas.fromParquet bis in AvroSchemaConverter. Als erledigt gilt die Aufgabe, wenn head diese Datei trotz des Feldnamens original-instruction verarbeiten kann und ein Regressionstest dieses Verhalten abdeckt, sofern die bestehende Teststruktur einen geeigneten Ort dafür erkennen lässt.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
cli
Issue-Typ
Bug
Schwierigkeit
3/5
Geschätzter Aufwand
1-2 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.