apache / apache/parquet-java

parquet-cascading Add Parquet Avro Scheme

Offen
#1,743 8 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Java Component: Parquet Priority: Major Type: enhancement
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

At the moment using parquet-cascading writing Parquet files when using Avro as the object format is not possible as a Schema is not yet provided.

As part of this ticket, a ParquetAvroScheme will be introduced, and also a local.ParquetAvroScheme , so that from Cascading / Scalding developers can read / write and test in both --hdfs and --local mode Parquet-Avro files.

**Reporter**: [Antonios Chalkiopoulos](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=antwnis) / @Antwnis
**Assignee**: [Antonios Chalkiopoulos](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=antwnis) / @Antwnis

**Note**: *This issue was originally created as [PARQUET-198](https://issues.apache.org/jira/browse/PARQUET-198). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Beginne damit, die Scheme-Implementierungen von parquet-cascading und die entsprechenden lokalen Schemes zu finden, und ermittle anschließend, wie Cascading und Scalding mit Avro-Objektformaten umgehen. Füge die angeforderten ParquetAvroScheme und local.ParquetAvroScheme hinzu, einschließlich der Abdeckung des Lesens, Schreibens und Testens von Parquet-Avro-Dateien in HDFS- und lokalen Modi.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
data-engineering
Issue-Typ
Feature
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
25/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.