antirez / antirez/ds4

ds4: --ssd-streaming is not compatible with --mtp yet" When trying to launch Dspark after the new commit

Đang mở
#596 1 bình luận 0 reaction 0 người được giao Xem trên GitHub
Ngôn ngữ chính
C
Star
22.3k
Fork
2.1k
Merge trung bình
1 ngày 3 giờ
Pull request đã merge (30 ngày)
4

Mô tả

Hi, reading the new README section regarding Dspark it is stated "On Metal, the main model may be resident or use --ssd-streaming", does it mean that dspark (launched via the mtp flag) should work with ssd streaming ? Or maybe I misunderstood? I asked ds4 and it agrees with me :P
Here's what I launched :
````
dani@Host-002 ds4 % ./ds4-server \
--ssd-streaming \
--port 9000 \
--kv-disk-dir /Users/dani/ds4/kvcache \
--kv-disk-space-mb 32768 \
--kv-cache-continued-interval-tokens 10000 \
--mtp gguf/DeepSeek-V4-Flash-DSpark-support.gguf \
--dspark
ds4: --ssd-streaming is not compatible with --mtp yet
````
Should it work or not?
Thanks

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Đánh giá

Issue này chưa được đánh giá.

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.