AllenNeuralDynamics / AllenNeuralDynamics/aind-large-scale-cellpose

Improve performance in GPU when processing data

Đang mở
#2 1 bình luận 1 reaction 1 người được giao Được @camilolaiton nhận Xem trên GitHub
enhancement
Ngôn ngữ chính
Python
Star
10
Fork
0
Chỉ số merge pull request
Không có pull request nào được merge trong 30 ngày

Mô tả

The current approach assumes that there's a single GPU processing data. However, this is not true for other users or even us when we need to scale to bigger datasets. Therefore, I need to implement a multiprocessing approach that uses all the GPUs available at the moment.

In addition to that, there's a down time in the GPU processing that is wasted. With a Z1 dataset in the 2nd multiscale, this down time is about 12 seconds when we're writing to the zarr dataset in the prediction of the gradients. The GPU should, ideally, be processing data all the time while another process should be looking at gathering the results and writing them to zarr.

The following image is an example of this:
![image](https://github.com/AllenNeuralDynamics/aind-z1-cell-segmentation/assets/36769694/845cf738-b70e-477e-b81c-39ff2cbfeb16)

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Đánh giá

Issue này chưa được đánh giá.

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.