Enhance ParquetWriter with exposing in-memory size of writer object
- Lingua principale
- Java
- Stelle
- 3.1k
- Fork
- 1.6k
- Merge medio
- 3g 12h
- PR unite (30g)
- 33
Descrizione
While using ParquetWriter and before closing it to write the content out to the disk, there is no way to check/estimate the size of the output file. This is useful in case we want to close files and upload them based on a minimum size threshold. Since ParquetWriter keeps everything in memory and only writes it out to disk at the very end when writer is closed, it is not possible to have an estimate of the output file size before closing the writer.
Based on Parquet documentation, the data is written into memory object in the final format, meaning that the size of the object in memory is the very close to the final size on disk. it would be great if you can expose the current size of the parquetWriter object in memory. It is true that such a size will be different than the final output size because of adding the schema and other metadata at the end of the file but it still gives a close estimation of the output file size that will be very useful when reading/writing streams.
**Reporter**: [Reza Shiftehfar](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=reza79)
**Note**: *This issue was originally created as [PARQUET-209](https://issues.apache.org/jira/browse/PARQUET-209). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Direzione di ricerca
Inizia tracciando il ciclo di vita dell’output in memoria di ParquetWriter prima di close e individua dove potrebbe essere esposta la sua dimensione attuale. Controlla i test esistenti del writer e confronta la stima riportata con la dimensione finale del file; il lavoro è completo quando i chiamanti possono ottenere una stima utile della dimensione prima di chiudere il writer.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- java
- Ambito
- data-engineering
- Tipo di issue
- Funzionalità
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Stato di attività
- Ferma
- Chiarezza
- Abbastanza chiara
- Idoneità per principianti
- 42/100