DetectionTeamUCAS / DetectionTeamUCAS/RetinaNet_Tensorflow_Rotation
erro with nms_rotate_gpu
オープン
- 主要言語
- Python
- スター
- 312
- フォーク
- 92
- PR マージ指標
- 30日以内にマージされた PR はありません
説明
我发现当图像中物体较多的时候,用inference.py预测运行时间较长,发现代码中的nms是用cpu做的,但是当修改为GPU时,代码运行报错:
File "rotate_polygon_nms.pyx", line 22, in rotate_polygon_nms.rotate_gpu_nms
IndexError: Out of bounds on buffer access (axis 0)
我修改的地方是libs/detection_operations/proposal_opr_.py Line60 use_gpu=True
请问这个报错是什么原因导致的呢?
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
調査の方向性
まず、libs/detection_operations/proposal_opr_.py の60行目で use_gpu=True に設定した後、inference.py の失敗を再現します。rotate_gpu_nms 周辺の rotate_polygon_nms.pyx を読み、そこに到達する入力バッファを比較します。out-of-bounds エラーが解消され、多数のオブジェクトを含む画像で GPU NMS が完了すれば完了です。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- python, tensorflow
- 領域
- computer-vision, machine-learning
- issue の種類
- バグ
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 活発さ
- 停滞
- 明瞭さ
- 説明が足りない
- 初心者へのやさしさ
- 30/100