is fused layernorm really better?

https://github.com/pytorch/pytorch/commit/8b87f9a5107e8b3c4f87d5297af698bb55838d81#diff-f12c726e3e8cd2b4768f8984fef27059

I think we don't need to use apex fused layernorm anymore.
torch layernorm is better. what do you think about this?

cc. @stas00 @thomasw21

Beginne mit dem verlinkten PyTorch-Commit und untersuche die Aufrufstellen der Layer-Normalisierung im Repository, um zu ermitteln, wo Apex fused layernorm verwendet wird. Vergleiche diese Pfade mit torch LayerNorm, einschließlich der für die Begründung einer Änderung erforderlichen Nachweise zu Leistung und Korrektheit. Abgeschlossen ist die Aufgabe, wenn eine von Maintainer unterstützte Entscheidung erreicht wurde und, falls ein Ersatz genehmigt wird, der betroffene Umfang und die Validierungskriterien definiert sind.

Vom Indexierungsmodell aus dem Issue-Text verfasst.