Enhance ParquetWriter with exposing in-memory size of writer object
- 主要言語
- Java
- スター
- 3.1k
- フォーク
- 1.6k
- 平均マージ
- 3日 12時間
- マージ済み PR(30日)
- 33
説明
While using ParquetWriter and before closing it to write the content out to the disk, there is no way to check/estimate the size of the output file. This is useful in case we want to close files and upload them based on a minimum size threshold. Since ParquetWriter keeps everything in memory and only writes it out to disk at the very end when writer is closed, it is not possible to have an estimate of the output file size before closing the writer.
Based on Parquet documentation, the data is written into memory object in the final format, meaning that the size of the object in memory is the very close to the final size on disk. it would be great if you can expose the current size of the parquetWriter object in memory. It is true that such a size will be different than the final output size because of adding the schema and other metadata at the end of the file but it still gives a close estimation of the output file size that will be very useful when reading/writing streams.
**Reporter**: [Reza Shiftehfar](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=reza79)
**Note**: *This issue was originally created as [PARQUET-209](https://issues.apache.org/jira/browse/PARQUET-209). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
調査の方向性
まず、close 前の ParquetWriter のメモリ内出力のライフサイクルを追跡し、現在のサイズをどこで公開できるかを特定します。既存の writer テストを確認し、報告された推定値を最終的なファイルサイズと比較します。完了の条件は、呼び出し元が writer を閉じる前に有用なサイズ推定値を取得できることです。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- java
- 領域
- data-engineering
- issue の種類
- 機能追加
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 活発さ
- 停滞
- 明瞭さ
- おおむね明確
- 初心者へのやさしさ
- 42/100