AllenNeuralDynamics / AllenNeuralDynamics/aind-large-scale-cellpose

Improve performance in GPU when processing data

オープン
#2 コメント 1 件 リアクション 1 件 担当者 1 名 @camilolaiton が担当を希望しています GitHub で見る
enhancement
主要言語
Python
スター
10
フォーク
0
PR マージ指標
30日以内にマージされた PR はありません

説明

The current approach assumes that there's a single GPU processing data. However, this is not true for other users or even us when we need to scale to bigger datasets. Therefore, I need to implement a multiprocessing approach that uses all the GPUs available at the moment.

In addition to that, there's a down time in the GPU processing that is wasted. With a Z1 dataset in the 2nd multiscale, this down time is about 12 seconds when we're writing to the zarr dataset in the prediction of the gradients. The GPU should, ideally, be processing data all the time while another process should be looking at gathering the results and writing them to zarr.

The following image is an example of this:
![image](https://github.com/AllenNeuralDynamics/aind-z1-cell-segmentation/assets/36769694/845cf738-b70e-477e-b81c-39ff2cbfeb16)

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。