MegEngine / MegEngine/examples

how to dump a int4 model

Ouverte
#9 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Personne n'a encore pris cette issue.

Langage dominant
Python
Étoiles
31
Forks
5
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

hi我使用代码中提示的dump.py脚本,不加载模型文件,生成的mgb模型速度远低于resnet50.int4.mge的模型
另外参考int8的模型,https://github.com/MegEngine/Models/tree/master/official/quantization#quantization-aware-training-qat
dump成量化模型需要quantize。麻烦请教一下是否是我操作有误best
yours

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Piste de recherche

Commencez par le script dump.py mentionné dans l’issue et comparez sa sortie avec resnet50.int4.mge. Consultez la documentation liée de MegEngine sur le quantization-aware training afin de comprendre le flux de quantification attendu. Le travail est terminé lorsqu’il a été déterminé si la procédure de dump du modèle est incorrecte et que l’opération correcte a été documentée, ou qu’un problème confirmé a été reproduit.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
python
Domaine
machine-learning
Type d'issue
Bug
Difficulté
4/5
Temps estimé
3-5 jours
Activité
À l'abandon
Clarté
À clarifier
Accessibilité débutants
25/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.