AlibabaResearch / AlibabaResearch/flash-llm

Question on TILE_M = 256 handling

Aperta
#12 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Cuda
Stelle
247
Fork
24
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

Hello,
looking into your code, when TILE_M is 256, SpMM_CopyFromGlobalToReg loads double the amount of nonzeros, than in other tile sizes. What is the purpose of this exception?

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.