DTStack / DTStack/chunjun

mysql轮询读取数据时,第一个切片的InputFormat中会重复读取数据

オープン
#992 コメント 1 件 リアクション 0 件 担当者 0 名 GitHub で見る
bug
主要言語
Java
スター
4.1k
フォーク
1.7k
PR マージ指標
30日以内にマージされた PR はありません

説明

**Describe the bug**
当source或reader并行度>1,轮询读取数据时(例如:MySQL),第一个切片的InputFormat中会重复读取数据。

**Screenshots**
Chunjun Master分支代码中当source或reader并行度>1,轮询读取数据(例如:MySQL)时,会出现数据重复读取的情况。例如:设置mysql source的并行度为2时,mysql指定表此时只有2条数据,但是在Flink web UI中可以很明显的看见数据读取量不正确,经控制台打印分析,只有第一个子任务会重复读取数据:
![image](https://user-images.githubusercontent.com/51312128/175223790-08995fa0-4fe2-469f-a21b-85228d5a5b02.png)
![image](https://user-images.githubusercontent.com/51312128/175223811-1dadd79e-994d-4759-aa10-a6d1793ea612.png)
![image](https://user-images.githubusercontent.com/51312128/175223827-5e515abf-f0ef-4199-96f3-90c7b330f665.png)

コントリビューションガイド

コントリビューションガイドを開く

調査の方向性

まず、1より大きい並列度でMySQLソースを再現し、最初のsliceのInputFormatがデータをどのように読み取るかを調べます。各subtaskが読み取ったレコードを2行のテーブルと比較します。各行が1回ずつ読み取られ、最初のsubtaskがデータを繰り返し読み取らなければ完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
java, mysql
領域
data-engineering, databases, distributed-systems
issue の種類
バグ
難易度
4/5
見積もり時間
3〜5日
活発さ
停滞
明瞭さ
おおむね明確
初心者へのやさしさ
35/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。