apache / apache/parquet-java

Cache FileStatus in Footer to reduce redundant NameNode RPC calls

オープン
#3,394 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
Type: enhancement
主要言語
Java
スター
3.1k
フォーク
1.6k
平均マージ
3日 12時間
マージ済み PR(30日)
33

説明

### Describe the enhancement requested

Optimization reduces redundant getFileStatus() RPC calls to the NameNode
when processing Parquet files.

Benefits:
- Reduces NameNode RPC calls by 1 per Parquet file during split generation
- For workloads with thousands of small files, this can significantly reduce
  NameNode pressure and improve job startup time
- Maintains full backward compatibility with existing code paths

### Component(s)

Core

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

調査の方向性

まず、Parquet の split 生成中に getFileStatus() が呼び出される箇所を追跡し、各 Parquet ファイルについて Footer がどのように処理されるかを調べます。動作を変更せずに、既存のコードパス内のどこに FileStatus キャッシュを保持できるかを確認します。ファイルごとの NameNode RPC が 1 回減り、後方互換性が維持され、多数の小さなファイルを含むワークロードで呼び出し回数が削減されれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
hadoop, java
領域
distributed-systems
issue の種類
機能追加
難易度
4/5
見積もり時間
3〜5日
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
35/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。