ailia-ai / ailia-ai/ailia-models
fix : latent-diffusion-txt2img require FP32
オープン
- 主要言語
- Python
- スター
- 2.4k
- フォーク
- 365
- 平均マージ
- 23時間 2分
- マージ済み PR（30日）
- 11
説明
[diffusion/latent-diffusion-txt2img](https://github.com/axinc-ai/ailia-models/tree/master/diffusion/latent-diffusion-txt2img) dosen't work correctly with FP16 accuracy. The FP16 result has no "playing guitar" elements.
The `transformer_attn.onnx`'s internal blob has `~1e+6` value that is transferred to +Inf.
## cuDNN(fp32)
## cuDNN(fp16)
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
評価
この issue はまだ評価されていません。