AlibabaResearch / AlibabaResearch/flash-llm

CUSPARSE API Fails During Kernel Benchmarks

Aperta
#13 1 commento 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Cuda
Stelle
247
Fork
24
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

Thank you for your outstanding work! However, I faced an issue while executing the kernel benchmarks. The output below was generated
```
Launching CuBlas...
Launching Flash-LLM...
Launching Flash-LLM without Ahead of Time Sparse Data Reordering...
Launching CuSparse_ColMajor...
Launching CuSparse_RowMajor...
Launching Sputnik...
Launching sparTA...
NZ_A: 0.300 NZ_A1: 0.277 NZ_A2: 0.023
CUSPARSE API failed at line 130 with error: internal error (7)
```
Currently, I do not have a clear solution to this issue. I would greatly appreciate any insights or guidance you could provide regarding this matter

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.