MegEngine / MegEngine/examples

Question about running INT4 example

Aperta
#8 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Lingua principale
Python
Stelle
31
Fork
5
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

Thanks for your excellent work! However, I got some problems running this example

  1. Do I have to install TensorRT in order to run this example? If so, where can I find a guide to install it (e.g. what version of TensorRT should I use)?
  2. Can I running this INT4 example on my RTX3090 GPU? or it has to be A2?
  3. When I running this example, I got an error of
    File "/home/hyf/anaconda3/lib/python3.9/site-packages/megengine/utils/comp_graph_tools.py", line 499, in run
    self._func.execute()
    RuntimeError: var sanity check failed: var: {id:516, layout:{512(2048),32(64),1(64),1(64),64(1) @ LOWBITS{4,8} QuantizedS4}, QuantizedS4, owner:fuse():dimshuffle(reshape[3158])[3160]@3161{ImmutableTensor}, name:fuse():dimshuffle(reshape[3158])[3160]@3161, slot:0, CompNode("gpu0:0" from "xpux:0"), s, 2, 2} (checksum: expect={checksum:0x2d819168, last_int:1412490702, last_float:3.03908e+12} got={checksum:0x9b352857, last_int:1412490702, last_float:3.03908e+12}); receiver: conv_bias(conv_bias[4275],fuse[3160]@3161,const{1,8,1,1,64}[3182])[4282]{ConvBiasForward}(864); you can set MGB_DEBUG_VAR_SANITY_CHECK_LOG=516 to get more details; pass=0
    How can I fix this?

Looking forward to your reply!!

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Direzione di ricerca

L'issue non fornisce alcun file del repository, test o punto di ingresso da cui iniziare; comincia individuando l'esempio INT4 e riproducendo l'errore segnalato di MegEngine relativo ai tensori quantizzati. Verifica i prerequisiti richiesti di TensorRT e GPU, quindi documenta una configurazione compatibile confermata e la risoluzione del fallimento del sanity check.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
python
Ambito
machine-learning
Tipo di issue
Bug
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
15/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.