mysql轮询读取数据时,第一个切片的InputFormat中会重复读取数据
- 主要言語
- Java
- スター
- 4.1k
- フォーク
- 1.7k
- PR マージ指標
- 30日以内にマージされた PR はありません
説明
**Describe the bug**
当source或reader并行度>1,轮询读取数据时(例如:MySQL),第一个切片的InputFormat中会重复读取数据。
**Screenshots**
Chunjun Master分支代码中当source或reader并行度>1,轮询读取数据(例如:MySQL)时,会出现数据重复读取的情况。例如:设置mysql source的并行度为2时,mysql指定表此时只有2条数据,但是在Flink web UI中可以很明显的看见数据读取量不正确,经控制台打印分析,只有第一个子任务会重复读取数据:



コントリビューションガイド
調査の方向性
まず、1より大きい並列度でMySQLソースを再現し、最初のsliceのInputFormatがデータをどのように読み取るかを調べます。各subtaskが読み取ったレコードを2行のテーブルと比較します。各行が1回ずつ読み取られ、最初のsubtaskがデータを繰り返し読み取らなければ完了です。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- java, mysql
- 領域
- data-engineering, databases, distributed-systems
- issue の種類
- バグ
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 活発さ
- 停滞
- 明瞭さ
- おおむね明確
- 初心者へのやさしさ
- 35/100