Add option to reuse (Avro) objects when reading
- 主要言語
- Java
- スター
- 3.1k
- フォーク
- 1.6k
- 平均マージ
- 3日 12時間
- マージ済み PR(30日)
- 33
説明
Instead of creating an object for each record, Avro DatumReaders support passing in an object to be reused. It would be nice to expose this in Parquet.
This could be turned on with a setting in the job configuration.
**Reporter**: [Sandy Ryza](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=sandyr) / @sryza
**Note**: *This issue was originally created as [PARQUET-5](https://issues.apache.org/jira/browse/PARQUET-5). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
調査の方向性
まず Parquet のレコード読み取りパスを追跡し、Avro DatumReader によるオブジェクトの再利用と比較してから、ジョブ設定でその動作をどのように制御できるかを特定します。レコードの読み取り時に reader がオブジェクトをオプションで再利用でき、設定と期待される動作が定義され、適切なテストでカバーされていれば完了です。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- java
- 領域
- data-engineering
- issue の種類
- 機能追加
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 活発さ
- 停滞
- 明瞭さ
- 説明が足りない
- 初心者へのやさしさ
- 35/100