antirez / antirez/ds4

Performance of DeepSeek V4 Flash on H200 - 70 tokens/s

Aperta
#564 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
C
Stelle
22.3k
Fork
2.1k
Merge medio
1g 3h
PR unite (30g)
4

Descrizione

I do have a H200 at home, and I would love to help get the card to perform better than the current speed. I do believe some code changes are required. Is anyone interested on having this card to work on the model but me? Someone to help me out?

Guida per i contributori

Apri la guida per i contributori

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.