antirez/ds4

在 GitHub 查看

DeepSeek 4 Flash and PRO local inference engine for Metal, CUDA and ROCm

星标: 22.4k
派生: 2.1k
开放的新手 issue: 0
已索引 issue: 256
平均合并: 2 天 13 小时
30 天内合并 PR: 5

主要语言: C
许可证: MIT
最近 GitHub push: 2026年9月13日
最近索引: 2026年9月13日
贡献指南: 贡献指南
行为准则: 没有行为准则
新手标签: help wanted

未关闭全部

目前已索引 255 个未关闭的 Issue

test_deepseek41_metal: new router check fails on M1 Ultra (pre-M5); sqrt(softplus) compared at 3e-6 but 1.0f+exp is ~0.7% imprecise 未关闭

antirez/ds4#1039 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月14日
AMD GPU (ROCm/HIP) and especially Strix Halo discussion group 未关闭

antirez/ds4#16 · 266 条评论 · 24 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
SSD tree cache KV cache 未关闭

antirez/ds4#17 · 3 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Feature Request: Add HTTP CORS Support 未关闭

antirez/ds4#20 · 1 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Question: any interest in OpenAI Responses API support for Codex compatibility? 未关闭

antirez/ds4#22 · 2 条评论 · 4 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Context Window Exhaustion Causes Unterminated Tool Calls 未关闭

antirez/ds4#48 · 1 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Speculative Decoding via "Draft KV Stitching" 未关闭

antirez/ds4#63 · 1 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
can you add deepseek q8 ? 未关闭

antirez/ds4#64 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
FP4 inference for 4 bit 未关闭

correctness

antirez/ds4#74 · 8 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Feature request: Natural Language Level Speculative Decoding with heterogeneous Draft Models (e.g. Qwen 2B) 未关闭

help wanted speed would-skip-this

antirez/ds4#80 · 2 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Please provide a ModelScope mirror for Chinese users who cannot easily download large models from Hugging Face 未关闭

antirez/ds4#85 · 2 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ds4 parser vulnerability: user prompt can insert special tokens that are interpreted by the model 未关闭

antirez/ds4#95 · 1 条评论 · 4 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
[feature] Offload KV cache from GPU (VRAM) to RAM 未关闭

antirez/ds4#108 · 2 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Question: why does readme recommend using openai-completions api for coding agent usage. 未关闭

documentation

antirez/ds4#113 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
API access security verification 未关闭

antirez/ds4#120 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Multi-GPU for nvidia 未关闭

cuda distributed-inference ideas-to-explore

antirez/ds4#123 · 29 条评论 · 13 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Logits Processor Support 未关闭

would-skip-this

antirez/ds4#142 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Empirical RSS curve for incremental ctx loading (10K to 250K) on M4 Max 128GB - is --kv-disk-dir masking the indexer growth? 未关闭

antirez/ds4#164 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
fedora f44: rocm: build fails to find libstdc++ 未关闭

antirez/ds4#179 · 6 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Request: Split large models into chunks 未关闭

antirez/ds4#188 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Server: expose directional steering as a model-callable DSML tool 未关闭

antirez/ds4#190 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
MoE disk offload 未关闭

antirez/ds4#202 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
我在 GitHub 上的首次留言，献给让 V4-Flash 在 Mac 上奔跑的大神！未关闭

antirez/ds4#208 · 0 条评论 · 13 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Roadmap question: multi-session / concurrent multi-user inference support 未关闭

ideas-to-explore

antirez/ds4#209 · 8 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Add support for structured outputs 未关闭

antirez/ds4#210 · 12 条评论 · 3 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Return deepseek-chat in GET models 未关闭

antirez/ds4#216 · 3 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Shared Library Support 未关闭

antirez/ds4#217 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
support for vulkan backend 未关闭

antirez/ds4#237 · 3 条评论 · 14 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ds4-agent: separate runtime asset root from workspace cwd 未关闭

antirez/ds4#240 · 1 条评论 · 5 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ds4 / DGX Spark / MTP and Performance Improvements 未关闭

cuda speed

antirez/ds4#244 · 9 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
download_model.sh pro-imatrix --> error 400 未关闭

antirez/ds4#249 · 5 条评论 · 2 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Support for 2 GX10s cluster with 128GB each - support tensor parallelism 未关闭

antirez/ds4#262 · 2 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
cuda prefill failed on NVIDIA A100-SXM4-80GB during both inference and bench 未关闭

antirez/ds4#284 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
on naming 未关闭

antirez/ds4#288 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Attach file from open-webui does not work 未关闭

antirez/ds4#291 · 1 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Distributed CUDA worker host-registers the whole GGUF, not just its layer slice → Q4 OOM on 128GB DGX Spark 未关闭

antirez/ds4#293 · 8 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
How to choose between models for the 512GB max m3ultra 未关闭

antirez/ds4#303 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Support distributed prefill with local decode 未关闭

antirez/ds4#304 · 4 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Onboarding skill for DS4: a docs-grounded agent skill tutor 未关闭

antirez/ds4#309 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Poor mans parallelism: ~1.6× from 2 processes 未关闭

antirez/ds4#314 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Unclosed </think> before tool call stalls agent session (finish=stop, no tool call delivered) 未关闭

antirez/ds4#318 · 8 条评论 · 9 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
SSE body read failed: DeepSeek stream timed out after 660000ms 未关闭

antirez/ds4#329 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Server does not abort prefill when client disconnects 未关闭

antirez/ds4#333 · 1 条评论 · 5 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Health checkpoint 未关闭

antirez/ds4#334 · 0 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Distributed SSD streaming 未关闭

antirez/ds4#340 · 3 条评论 · 3 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
Feature request: more information in usage 未关闭

antirez/ds4#342 · 0 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ROCm is just a "CUDA" alternative, isn't it? 未关闭

antirez/ds4#357 · 0 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ROCm: high-context OOM on large-VRAM-carveout APUs (Strix Halo) — general tensor allocator is device-only 未关闭

antirez/ds4#359 · 2 条评论 · 1 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
ROCm/Windows: native AMD HIP SDK build for gfx1151 + >2 GiB staged-read off_t truncation 未关闭

antirez/ds4#360 · 0 条评论 · 0 个 reaction · 已指派 0 人 · 索引于 2026年9月13日
KV cache invalidated on every turn by client-injected transient metadata in user messages 未关闭

antirez/ds4#364 · 6 条评论 · 3 个 reaction · 已指派 0 人 · 索引于 2026年9月13日

antirez/ds4

把新 issue 发到你的邮箱