DTStack / DTStack/flinkStreamSQL

增大并行度后ALL模式维表缓存带来的数据库连接及内存压力

Offen
#300 2 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Java
Sterne
2k
Forks
913
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

源码中ALL模式维表缓存是个flatMap操作,当任务数据量和计算压力增大后,增大SQL的并行度,每个并行度都会去维表中加载数据,这样一个是容易出现把维表连接打满的情况,另一个就是带来不小的内存开销。

因为存在定时更新数据,广播可能不太好做,能否实现一个taskmanager只加载一份维表数据,而不是每个slot都去加载一遍

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.