DTStack / DTStack/flinkStreamSQL

增大并行度后ALL模式维表缓存带来的数据库连接及内存压力

Aperta
#300 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Java
Stelle
2k
Fork
913
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

源码中ALL模式维表缓存是个flatMap操作,当任务数据量和计算压力增大后,增大SQL的并行度,每个并行度都会去维表中加载数据,这样一个是容易出现把维表连接打满的情况,另一个就是带来不小的内存开销。

因为存在定时更新数据,广播可能不太好做,能否实现一个taskmanager只加载一份维表数据,而不是每个slot都去加载一遍

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.