apache / apache/parquet-java

parquet-cascading Add Parquet Avro Scheme

Aperta
#1,743 8 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Component: Java Component: Parquet Priority: Major Type: enhancement
Lingua principale
Java
Stelle
3.1k
Fork
1.6k
Merge medio
3g 12h
PR unite (30g)
33

Descrizione

At the moment using parquet-cascading writing Parquet files when using Avro as the object format is not possible as a Schema is not yet provided.

As part of this ticket, a ParquetAvroScheme will be introduced, and also a local.ParquetAvroScheme , so that from Cascading / Scalding developers can read / write and test in both --hdfs and --local mode Parquet-Avro files.

**Reporter**: [Antonios Chalkiopoulos](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=antwnis) / @Antwnis
**Assignee**: [Antonios Chalkiopoulos](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=antwnis) / @Antwnis

**Note**: *This issue was originally created as [PARQUET-198](https://issues.apache.org/jira/browse/PARQUET-198). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Direzione di ricerca

Inizia individuando le implementazioni di Scheme di parquet-cascading e le controparti dello schema locale, quindi identifica come Cascading e Scalding gestiscono i formati degli oggetti Avro. Aggiungi le implementazioni richieste ParquetAvroScheme e local.ParquetAvroScheme, con la copertura della lettura, della scrittura e dei test dei file Parquet-Avro nelle modalità HDFS e locale.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
java
Ambito
data-engineering
Tipo di issue
Funzionalità
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
25/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.