4paradigm / 4paradigm/OpenMLDB

kafka-connector:If wrong data is sent to Kafka, the connector process will crash

Aperta
#2,295 2 commenti 0 reazioni 1 assegnatario Rivendicata da @dl239 Vedi su GitHub
bug extensions high-priority
Lingua principale
C++
Stelle
1.7k
Fork
331
Merge medio
12g 12h
PR unite (30g)
1

Descrizione

**Bug Description**
+ version:v0.6.0
If the wrong data is sent to Kafka, the data cannot be synchronized later. You need to delete topic and restart Kafka connect.

**Expected Behavior**
The error data will prompt the error information in the log, and the subsequent data can be synchronized normally

**Steps to Reproduce**

1.
2.
3.
4.

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Look at the Kafka connector code in the OpenMLDB repository, likely under connectors or streaming modules. Examine error handling around data ingestion and deserialization. The fix involves making the connector resilient to malformed data, logging errors, and continuing to process subsequent messages. Testing requires setting up a Kafka instance and sending both correct and incorrect data to verify the connector does not crash.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
kafka
Ambito
data-engineering, databases, stream-processing
Tipo di issue
Bug
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
30/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.