Project-MONAI / Project-MONAI/tutorials

Clarification on [1] in swinunetr_pretrained README and training pipeline of ssl_pretrained_weights.pth

オープン
#2,060 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

主要言語
Jupyter Notebook
スター
2.5k
フォーク
803
平均マージ
6日 22時間
マージ済み PR(30日)
3

説明

Hi MONAI team,

I’m trying to understand the origin of the pretrained weight:
ssl_pretrained_weights.pth (from MONAI-extra-test-data, ~719MB).

From the checkpoint structure, it contains:

  • encoder.*
  • decoder*
  • out.conv.*
  • encoder.mask_token

which looks like a full encoder-decoder model.


I found the following description in the tutorial README:
https://github.com/Project-MONAI/tutorials/blob/main/self_supervised_pretraining/swinunetr_pretrained/README.md

"The entire SwinUNETR model including encoder and decoder was trained end-to-end using self-supervised learning techniques as outlined in [1]."

However, it is unclear what [1] refers to in terms of actual training code or pipeline.


Could you please help clarify:

  1. What exactly does reference [1] correspond to?
    (Is it a specific paper, or an internal training implementation?)

  2. Was ssl_pretrained_weights.pth trained using the
    research-contributions/SwinUNETR/Pretrain (SSLHead: rotation + contrastive + reconstruction),
    or a different encoder-decoder / autoencoder-style pretraining pipeline?

A short clarification would already help a lot.

Thanks!

コントリビューションガイド

コントリビューションガイドを開く

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

調査の方向性

self_supervised_pretraining/swinunetr_pretrained/README.md とその参照 [1] から始め、文書化されているパイプラインを research-contributions/SwinUNETR/Pretrain とその SSLHead と比較します。記載されている ssl_pretrained_weights.pth チェックポイントのキーを使って、どのパイプラインで生成されたかを追跡します。README が [1] を特定し、チェックポイントのトレーニングパイプラインを明確に記載すれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
pytorch
領域
documentation, machine-learning
issue の種類
ドキュメント
難易度
3/5
見積もり時間
1〜2日
活発さ
静か
明瞭さ
説明が足りない
初心者へのやさしさ
38/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。