DTStack / DTStack/flinkStreamSQL
增大并行度后ALL模式维表缓存带来的数据库连接及内存压力
オープン
- 主要言語
- Java
- スター
- 2k
- フォーク
- 913
- PR マージ指標
- 30日以内にマージされた PR はありません
説明
源码中ALL模式维表缓存是个flatMap操作,当任务数据量和计算压力增大后,增大SQL的并行度,每个并行度都会去维表中加载数据,这样一个是容易出现把维表连接打满的情况,另一个就是带来不小的内存开销。
因为存在定时更新数据,广播可能不太好做,能否实现一个taskmanager只加载一份维表数据,而不是每个slot都去加载一遍
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
評価
この issue はまだ評価されていません。