mysql轮询读取数据时,第一个切片的InputFormat中会重复读取数据
- Vorherrschende Sprache
- Java
- Sterne
- 4.1k
- Forks
- 1.7k
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beschreibung
**Describe the bug**
当source或reader并行度>1,轮询读取数据时(例如:MySQL),第一个切片的InputFormat中会重复读取数据。
**Screenshots**
Chunjun Master分支代码中当source或reader并行度>1,轮询读取数据(例如:MySQL)时,会出现数据重复读取的情况。例如:设置mysql source的并行度为2时,mysql指定表此时只有2条数据,但是在Flink web UI中可以很明显的看见数据读取量不正确,经控制台打印分析,只有第一个子任务会重复读取数据:



Beitragsleitfaden
Rechercherichtung
Beginne damit, den MySQL-Quellcode mit einem Parallelismus größer als 1 zu reproduzieren und zu untersuchen, wie das InputFormat des ersten Slices Daten liest. Vergleiche die von jeder Subtask gelesenen Datensätze mit einer Tabelle, die zwei Zeilen enthält; als erledigt gilt es, wenn jede Zeile genau einmal gelesen wird und die erste Subtask Daten nicht wiederholt.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java, mysql
- Bereich
- data-engineering, databases, distributed-systems
- Issue-Typ
- Bug
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Größtenteils klar
- Anfängerfreundlichkeit
- 35/100