apache / apache/parquet-java

Parquet fails to parse schema contains '\r'

Offen
#1,726 2 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Java Component: Parquet Priority: Major Type: bug
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

Parquet fails to parse schema contains '\r' for windows operating system.
at parquet.schema.MessageTypeParser.asRepetition(MessageTypeParser.java:203)
at parquet.schema.MessageTypeParser.addType(MessageTypeParser.java:101)
at parquet.schema.MessageTypeParser.addGroupTypeFields(MessageTypeParser.java:96)
at parquet.schema.MessageTypeParser.parse(MessageTypeParser.java:89)
at parquet.schema.MessageTypeParser.parseMessageType(MessageTypeParser.java:79)
at org.apache.spark.sql.parquet.ParquetTestData$.writeFile(ParquetTestData.scala:221)
at org.apache.spark.sql.parquet.ParquetQuerySuite.beforeAll(ParquetQuerySuite.scala:92)

**Reporter**: [Rekha Joshi](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=rekhajoshm)
#### Related issues:
- [Parquet fails to parse schema contains '\r'](https://issues.apache.org/jira/browse/SPARK-5192) (is required by)

**Note**: *This issue was originally created as [PARQUET-176](https://issues.apache.org/jira/browse/PARQUET-176). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Beginnen Sie in parquet.schema.MessageTypeParser.java bei den gemeldeten Parsing-Methoden und untersuchen Sie anschließend die Tests des Parquet-Schema-Parsers oder den Aufruf von Spark ParquetTestData.scala, der den Fehler reproduziert. Reproduzieren Sie unter Windows das Parsen eines Schemas, das '\r' enthält, und verifizieren Sie, dass das Schema erfolgreich geparst wird, ohne bestehende Fälle zu beeinträchtigen.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
data-engineering
Issue-Typ
Bug
Schwierigkeit
3/5
Geschätzter Aufwand
1-2 Tage
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.