AlibabaResearch / AlibabaResearch/flash-llm

CUSPARSE API Fails During Kernel Benchmarks

Offen
#13 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Cuda
Sterne
247
Forks
24
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

Thank you for your outstanding work! However, I faced an issue while executing the kernel benchmarks. The output below was generated
```
Launching CuBlas...
Launching Flash-LLM...
Launching Flash-LLM without Ahead of Time Sparse Data Reordering...
Launching CuSparse_ColMajor...
Launching CuSparse_RowMajor...
Launching Sputnik...
Launching sparTA...
NZ_A: 0.300 NZ_A1: 0.277 NZ_A2: 0.023
CUSPARSE API failed at line 130 with error: internal error (7)
```
Currently, I do not have a clear solution to this issue. I would greatly appreciate any insights or guidance you could provide regarding this matter

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.