ailia-ai / ailia-ai/ailia-models
fix : latent-diffusion-txt2img require FP32
Aperta
- Lingua principale
- Python
- Stelle
- 2.4k
- Fork
- 365
- Merge medio
- 3g 17h
- PR unite (30g)
- 13
Descrizione
[diffusion/latent-diffusion-txt2img](https://github.com/axinc-ai/ailia-models/tree/master/diffusion/latent-diffusion-txt2img) dosen't work correctly with FP16 accuracy. The FP16 result has no "playing guitar" elements.
The `transformer_attn.onnx`'s internal blob has `~1e+6` value that is transferred to +Inf.
## cuDNN(fp32)
## cuDNN(fp16)
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Valutazione
Questa issue non è ancora stata valutata.