apache / apache/parquet-java

Why doesn't Parquet currently support writing multiple row groups simultaneously?

Aperta
#2,929 1 commento 0 reazioni 0 assegnatari Vedi su GitHub
question
Lingua principale
Java
Stelle
3.1k
Fork
1.6k
Merge medio
3g 12h
PR unite (30g)
33

Descrizione

Hi Parquet developers,

I have a question regarding the current implementation of Parquet. As far as I understand, Parquet does not support writing multiple row groups simultaneously. Could you please explain the reasoning behind this design choice?

Additionally, I am considering modifying Parquet to allow for multiple row groups to exist in memory and be flushed sequentially. From a high-level perspective, does this approach seem feasible? Are there any potential pitfalls or challenges I should be aware of?

Thank you for your time and assistance.

Best regards,

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Direzione di ricerca

Non sono indicati file sorgente, test o entry point. Inizia individuando l’attuale writer Parquet e la gestione dei gruppi di righe, quindi segui come i gruppi di righe vengono mantenuti e svuotati; per considerare il lavoro completato servirebbero un design confermato da un maintainer e risposte documentate su fattibilità, uso della memoria, ordinamento e altre possibili insidie.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
java
Ambito
data-engineering
Tipo di issue
Funzionalità
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
25/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.