DTStack / DTStack/flinkStreamSQL

增大并行度后ALL模式维表缓存带来的数据库连接及内存压力

Đang mở
#300 2 bình luận 0 reaction 0 người được giao Xem trên GitHub
Ngôn ngữ chính
Java
Star
2k
Fork
913
Chỉ số merge pull request
Không có pull request nào được merge trong 30 ngày

Mô tả

源码中ALL模式维表缓存是个flatMap操作,当任务数据量和计算压力增大后,增大SQL的并行度,每个并行度都会去维表中加载数据,这样一个是容易出现把维表连接打满的情况,另一个就是带来不小的内存开销。

因为存在定时更新数据,广播可能不太好做,能否实现一个taskmanager只加载一份维表数据,而不是每个slot都去加载一遍

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Đánh giá

Issue này chưa được đánh giá.

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.