stream through files when writing the _metadata file to reduce memory usage
- 主要言語
- Java
- スター
- 3.1k
- フォーク
- 1.6k
- 平均マージ
- 3日 12時間
- マージ済み PR(30日)
- 33
説明
Currently we load all the footers of the part files in memory in the committer to write the _metadata file.
We could open the _metadata file first and then add the metadata for each part file one by one. That would reduce the required memory.
**Reporter**: [Julien Le Dem](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=julienledem) / @julienledem
**Note**: *This issue was originally created as [PARQUET-91](https://issues.apache.org/jira/browse/PARQUET-91). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
調査の方向性
_metadata ファイルを書き込む committer コードから開始し、part files の footers が現在どのように読み込まれているかを追跡します。すべての footers をメモリに保持せず、1 回に 1 つの part file ずつメタデータが書き込まれるようになれば、変更は完了です。payload には特定のファイルや実行するテストは記載されていません。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- java
- 領域
- data-engineering
- issue の種類
- リファクタリング
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 活発さ
- 停滞
- 明瞭さ
- おおむね明確
- 初心者へのやさしさ
- 35/100