AlibabaResearch / AlibabaResearch/flash-llm

Question on TILE_M = 256 handling

Offen
#12 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Cuda
Sterne
247
Forks
24
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

Hello,
looking into your code, when TILE_M is 256, SpMM_CopyFromGlobalToReg loads double the amount of nonzeros, than in other tile sizes. What is the purpose of this exception?

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.