apache / apache/parquet-java

Add 'mask' command to parquet-tools/parquet-cli

オープン
#2,455 コメント 8 件 リアクション 0 件 担当者 0 名 GitHub で見る
Component: Java Component: Parquet Priority: Major Type: enhancement
主要言語
Java
スター
3.1k
フォーク
1.6k
平均マージ
3日 12時間
マージ済み PR(30日)
33

説明

Some personal data columns need to be masked instead of being pruned(Parquet-1791). We need a tool to replace the raw data columns with masked value. The masked value could be hash, null, redact etc.  For the unchanged columns, they should be moved as a whole like 'merge', 'prune' command in Parquet-tools. 

 

Implementing this feature in file format is 10X faster than doing it by rewriting the table data in the query engine. 

**Reporter**: [Xinli Shang](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=shangx@uber.com) / @shangxinli
**Assignee**: [Xinli Shang](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=shangx@uber.com) / @shangxinli
#### Subtasks:
- [ ] [Add null command ](https://github.com/apache/parquet-java/issues/2525)
- [ ] [Add hash functionality ](https://github.com/apache/parquet-java/issues/1601)

**Note**: *This issue was originally created as [PARQUET-1792](https://issues.apache.org/jira/browse/PARQUET-1792). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

調査の方向性

Start in the parquet-tools/parquet-cli command implementations, using the existing merge and prune commands as references. Review the linked null and hash subtasks before deciding how masking should support hash, null, and redact values. Done means a mask command replaces selected raw columns while moving unchanged columns as a whole.

索引モデルが issue の本文から書いたものです。

評価

技術スタック
java
領域
cli, data-engineering
issue の種類
機能追加
難易度
5/5
見積もり時間
1週間以上
活発さ
停滞
明瞭さ
おおむね明確
初心者へのやさしさ
25/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。