a171232886 / a171232886/a171232886.github.io

Pytorch中的Relu对梯度的影响 | 小王同学

オープン
#30 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
f61b7a48ef1facd8b981109d7d0ad426 Gitalk
主要言語
HTML
スター
0
フォーク
0
PR マージ指標
30日以内にマージされた PR はありません

説明

https://a171232886.github.io/2021/12/29/pytorch%E4%B8%AD%E7%9A%84Relu%E5%AF%B9%E6%A2%AF%E5%BA%A6%E7%9A%84%E5%BD%B1%E5%93%8D/

Relu层
卷积层和全连接层这种有可训练参数的,可以求梯度。Relu层怎么办?
先说结论:Relu(x),若x<=0,x的梯度为0,若x>0,梯度为x。

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。