apache / apache/parquet-java

Decrease the default page size to 64k

Aperta
#1,757 4 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Component: Java Component: Parquet Priority: Major Type: bug
Lingua principale
Java
Stelle
3.1k
Fork
1.6k
Merge medio
3g 12h
PR unite (30g)
33

Descrizione

Impala uses 64k for a page size and recommends smaller page sizes over the current 1MB default. We're considering an absolute minimum row group size of 1MB, so it makes sense to dial the page size down a bit.

**Reporter**: [Ryan Blue](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=rdblue) / @rdblue

**Note**: *This issue was originally created as [PARQUET-216](https://issues.apache.org/jira/browse/PARQUET-216). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Direzione di ricerca

Inizia individuando la definizione della dimensione di pagina predefinita e tutti i test che coprono i valori predefiniti della dimensione di pagina o dei gruppi di righe. La modifica è completa quando il valore predefinito viene ridotto da 1MB a 64KB e i test pertinenti hanno esito positivo.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
java
Ambito
data-engineering
Tipo di issue
Funzionalità
Difficoltà
2/5
Tempo stimato
1-3 ore
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
42/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.