4paradigm / 4paradigm/OpenMLDB

kafka-connector:If wrong data is sent to Kafka, the connector process will crash

Offen
#2,295 2 Kommentare 0 Reaktionen 1 zugewiesene Person Beansprucht von @dl239 Auf GitHub ansehen
bug extensions high-priority
Vorherrschende Sprache
C++
Sterne
1.7k
Forks
331
Ø Merge
12 T. 12 Std.
Gemergte PRs (30 T.)
1

Beschreibung

**Bug Description**
+ version:v0.6.0
If the wrong data is sent to Kafka, the data cannot be synchronized later. You need to delete topic and restart Kafka connect.

**Expected Behavior**
The error data will prompt the error information in the log, and the subsequent data can be synchronized normally

**Steps to Reproduce**

1.
2.
3.
4.

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Look at the Kafka connector code in the OpenMLDB repository, likely under connectors or streaming modules. Examine error handling around data ingestion and deserialization. The fix involves making the connector resilient to malformed data, logging errors, and continuing to process subsequent messages. Testing requires setting up a Kafka instance and sending both correct and incorrect data to verify the connector does not crash.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
kafka
Bereich
data-engineering, databases, stream-processing
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
30/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.