DTStack / DTStack/chunjun

mysql轮询读取数据时,第一个切片的InputFormat中会重复读取数据

Offen
#992 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
bug
Vorherrschende Sprache
Java
Sterne
4.1k
Forks
1.7k
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

**Describe the bug**
当source或reader并行度>1,轮询读取数据时(例如:MySQL),第一个切片的InputFormat中会重复读取数据。

**Screenshots**
Chunjun Master分支代码中当source或reader并行度>1,轮询读取数据(例如:MySQL)时,会出现数据重复读取的情况。例如:设置mysql source的并行度为2时,mysql指定表此时只有2条数据,但是在Flink web UI中可以很明显的看见数据读取量不正确,经控制台打印分析,只有第一个子任务会重复读取数据:
![image](https://user-images.githubusercontent.com/51312128/175223790-08995fa0-4fe2-469f-a21b-85228d5a5b02.png)
![image](https://user-images.githubusercontent.com/51312128/175223811-1dadd79e-994d-4759-aa10-a6d1793ea612.png)
![image](https://user-images.githubusercontent.com/51312128/175223827-5e515abf-f0ef-4199-96f3-90c7b330f665.png)

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Beginne damit, den MySQL-Quellcode mit einem Parallelismus größer als 1 zu reproduzieren und zu untersuchen, wie das InputFormat des ersten Slices Daten liest. Vergleiche die von jeder Subtask gelesenen Datensätze mit einer Tabelle, die zwei Zeilen enthält; als erledigt gilt es, wenn jede Zeile genau einmal gelesen wird und die erste Subtask Daten nicht wiederholt.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java, mysql
Bereich
data-engineering, databases, distributed-systems
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.