allenai / allenai/XNOR-Net

backward gradient is vanished

Ouverte
#6 8 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
Langage dominant
Lua
Étoiles
872
Forks
235
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

Hi,thanks for your excellent work, and I'm focused on the work for a period. I think the core is Gradient optimization. But still then I haven't reproduce your experiment. Could you provide a little advice to me?

I build the network with the block that mentioned in your paper (B->A->C->P). and Backward is using full precision data (weights&gradient) for ||r|| < 1.

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Évaluation

Cette issue n'a pas encore été évaluée.

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.