mysql轮询读取数据时,第一个切片的InputFormat中会重复读取数据
- Lenguaje dominante
- Java
- Estrellas
- 4.1k
- Forks
- 1.7k
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Descripción
**Describe the bug**
当source或reader并行度>1,轮询读取数据时(例如:MySQL),第一个切片的InputFormat中会重复读取数据。
**Screenshots**
Chunjun Master分支代码中当source或reader并行度>1,轮询读取数据(例如:MySQL)时,会出现数据重复读取的情况。例如:设置mysql source的并行度为2时,mysql指定表此时只有2条数据,但是在Flink web UI中可以很明显的看见数据读取量不正确,经控制台打印分析,只有第一个子任务会重复读取数据:



Guía de contribución
Línea de trabajo
Comienza reproduciendo el código fuente de MySQL con un paralelismo mayor que 1 e inspecciona cómo el InputFormat del primer slice lee los datos. Compara los registros leídos por cada subtask con una tabla que contenga dos filas; se considera completado cuando cada fila se lee una vez y el primer subtask no repite datos.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- java, mysql
- Área
- data-engineering, databases, distributed-systems
- Tipo de issue
- Error
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Estado de actividad
- Estancado
- Claridad
- Bastante claro
- Aptitud para principiantes
- 35/100