antirez/ds4

GitHub で見る

DeepSeek 4 Flash and PRO local inference engine for Metal, CUDA and ROCm

スター: 22.4k
フォーク: 2.1k
オープンの初心者向け issue: 0
索引済み issue: 256
平均マージ: 1日 3時間
マージ済み PR（30日）: 4

主要言語: C
ライセンス: MIT
最終 GitHub push: 2026年9月13日
最新の索引: 2026年9月13日
コントリビューションガイド: コントリビューションガイド
行動規範: 行動規範がありません
初心者向けラベル: help wanted

オープンすべて

オープンの issue を 255 件索引しました

test_deepseek41_metal: new router check fails on M1 Ultra (pre-M5); sqrt(softplus) compared at 3e-6 but 1.0f+exp is ~0.7% imprecise オープン

antirez/ds4#1039 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月14日に索引
AMD GPU (ROCm/HIP) and especially Strix Halo discussion group オープン

antirez/ds4#16 · コメント 266 件 · リアクション 24 件 · 担当者 0 名 · 2026年9月13日に索引
SSD tree cache KV cache オープン

antirez/ds4#17 · コメント 3 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Feature Request: Add HTTP CORS Support オープン

antirez/ds4#20 · コメント 1 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Question: any interest in OpenAI Responses API support for Codex compatibility? オープン

antirez/ds4#22 · コメント 2 件 · リアクション 4 件 · 担当者 0 名 · 2026年9月13日に索引
Context Window Exhaustion Causes Unterminated Tool Calls オープン

antirez/ds4#48 · コメント 1 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Speculative Decoding via "Draft KV Stitching" オープン

antirez/ds4#63 · コメント 1 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
can you add deepseek q8 ? オープン

antirez/ds4#64 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
FP4 inference for 4 bit オープン

correctness

antirez/ds4#74 · コメント 8 件 · リアクション 2 件 · 担当者 0 名 · 2026年9月13日に索引
Feature request: Natural Language Level Speculative Decoding with heterogeneous Draft Models (e.g. Qwen 2B) オープン

help wanted speed would-skip-this

antirez/ds4#80 · コメント 2 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Please provide a ModelScope mirror for Chinese users who cannot easily download large models from Hugging Face オープン

antirez/ds4#85 · コメント 2 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
ds4 parser vulnerability: user prompt can insert special tokens that are interpreted by the model オープン

antirez/ds4#95 · コメント 1 件 · リアクション 4 件 · 担当者 0 名 · 2026年9月13日に索引
[feature] Offload KV cache from GPU (VRAM) to RAM オープン

antirez/ds4#108 · コメント 2 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Question: why does readme recommend using openai-completions api for coding agent usage. オープン

documentation

antirez/ds4#113 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
API access security verification オープン

antirez/ds4#120 · コメント 2 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Multi-GPU for nvidia オープン

cuda distributed-inference ideas-to-explore

antirez/ds4#123 · コメント 29 件 · リアクション 13 件 · 担当者 0 名 · 2026年9月13日に索引
Logits Processor Support オープン

would-skip-this

antirez/ds4#142 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Empirical RSS curve for incremental ctx loading (10K to 250K) on M4 Max 128GB - is --kv-disk-dir masking the indexer growth? オープン

antirez/ds4#164 · コメント 2 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
fedora f44: rocm: build fails to find libstdc++ オープン

antirez/ds4#179 · コメント 6 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Request: Split large models into chunks オープン

antirez/ds4#188 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Server: expose directional steering as a model-callable DSML tool オープン

antirez/ds4#190 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
MoE disk offload オープン

antirez/ds4#202 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
我在 GitHub 上的首次留言，献给让 V4-Flash 在 Mac 上奔跑的大神！オープン

antirez/ds4#208 · コメント 0 件 · リアクション 13 件 · 担当者 0 名 · 2026年9月13日に索引
Roadmap question: multi-session / concurrent multi-user inference support オープン

ideas-to-explore

antirez/ds4#209 · コメント 8 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Add support for structured outputs オープン

antirez/ds4#210 · コメント 12 件 · リアクション 3 件 · 担当者 0 名 · 2026年9月13日に索引
Return deepseek-chat in GET models オープン

antirez/ds4#216 · コメント 3 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Shared Library Support オープン

antirez/ds4#217 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
support for vulkan backend オープン

antirez/ds4#237 · コメント 3 件 · リアクション 14 件 · 担当者 0 名 · 2026年9月13日に索引
ds4-agent: separate runtime asset root from workspace cwd オープン

antirez/ds4#240 · コメント 1 件 · リアクション 5 件 · 担当者 0 名 · 2026年9月13日に索引
ds4 / DGX Spark / MTP and Performance Improvements オープン

cuda speed

antirez/ds4#244 · コメント 9 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
download_model.sh pro-imatrix --> error 400 オープン

antirez/ds4#249 · コメント 5 件 · リアクション 2 件 · 担当者 0 名 · 2026年9月13日に索引
Support for 2 GX10s cluster with 128GB each - support tensor parallelism オープン

antirez/ds4#262 · コメント 2 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
cuda prefill failed on NVIDIA A100-SXM4-80GB during both inference and bench オープン

antirez/ds4#284 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
on naming オープン

antirez/ds4#288 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Attach file from open-webui does not work オープン

antirez/ds4#291 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Distributed CUDA worker host-registers the whole GGUF, not just its layer slice → Q4 OOM on 128GB DGX Spark オープン

antirez/ds4#293 · コメント 8 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
How to choose between models for the 512GB max m3ultra オープン

antirez/ds4#303 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Support distributed prefill with local decode オープン

antirez/ds4#304 · コメント 4 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Onboarding skill for DS4: a docs-grounded agent skill tutor オープン

antirez/ds4#309 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Poor mans parallelism: ~1.6× from 2 processes オープン

antirez/ds4#314 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Unclosed </think> before tool call stalls agent session (finish=stop, no tool call delivered) オープン

antirez/ds4#318 · コメント 8 件 · リアクション 9 件 · 担当者 0 名 · 2026年9月13日に索引
SSE body read failed: DeepSeek stream timed out after 660000ms オープン

antirez/ds4#329 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
Server does not abort prefill when client disconnects オープン

antirez/ds4#333 · コメント 1 件 · リアクション 5 件 · 担当者 0 名 · 2026年9月13日に索引
Health checkpoint オープン

antirez/ds4#334 · コメント 0 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
Distributed SSD streaming オープン

antirez/ds4#340 · コメント 3 件 · リアクション 3 件 · 担当者 0 名 · 2026年9月13日に索引
Feature request: more information in usage オープン

antirez/ds4#342 · コメント 0 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
ROCm is just a "CUDA" alternative, isn't it? オープン

antirez/ds4#357 · コメント 0 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
ROCm: high-context OOM on large-VRAM-carveout APUs (Strix Halo) — general tensor allocator is device-only オープン

antirez/ds4#359 · コメント 2 件 · リアクション 1 件 · 担当者 0 名 · 2026年9月13日に索引
ROCm/Windows: native AMD HIP SDK build for gfx1151 + >2 GiB staged-read off_t truncation オープン

antirez/ds4#360 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月13日に索引
KV cache invalidated on every turn by client-injected transient metadata in user messages オープン

antirez/ds4#364 · コメント 6 件 · リアクション 3 件 · 担当者 0 名 · 2026年9月13日に索引

antirez/ds4

新しい issue をメールで受け取る