deepspeedai/DeepSpeedExamples

在 GitHub 查看

Example models using DeepSpeed

星标: 6.8k
派生: 1.1k
开放的新手 issue: 0
已索引 issue: 300
平均合并: 2 天 16 小时
30 天内合并 PR: 1

主要语言: Python
许可证: Apache-2.0
最近 GitHub push: 2026年8月26日
最近索引: 2026年9月20日
贡献指南: 没有贡献指南
行为准则: 行为准则
新手标签: 没有已索引的新手标签

适合新手全部

未关闭全部

目前已索引 300 个未关闭的 Issue

Compute_rewards in PPO:rewards[j, start:ends[j]][-1] += reward_clip[j] is wrong 未关闭

难度 2/5 1-3 小时新手友好度 52/100

deepspeedai/DeepSpeedExamples#996 · 2025年12月22日创建
Step1 failed when I run "bash training_scripts/opt/single_gpu/run_1.3b.sh" 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#995 · 2025年12月16日创建
One example, multiple config files 未关闭

难度 2/5 1-3 小时新手友好度 52/100

deepspeedai/DeepSpeedExamples#989 · 2025年9月8日创建
moe example 404 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#984 · 2025年7月25日创建
Possible to include an example of DeepNVMe + state dict 未关闭

难度 4/5 3-5 天新手友好度 42/100

deepspeedai/DeepSpeedExamples#979 · 6 条评论 · 2025年6月19日创建
Apply Zero-3 and LoRA appears empty lora weight [0] 未关闭

难度 4/5 3-5 天新手友好度 38/100

deepspeedai/DeepSpeedExamples#969 · 1 条评论 · 2025年4月16日创建
DeepSpeed-FastGen support ascend npu? 未关闭

难度 5/5 一周以上新手友好度 15/100

deepspeedai/DeepSpeedExamples#960 · 3 条评论 · 2025年3月4日创建
Why Does vf_loss Take the Maximum Value, Rendering Clamp Meaningless? 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#956 · 2 条评论 · 2025年2月7日创建
Is there any example about DeepSpeed Zero with Ulysses/Ulysses-offload 未关闭

难度 4/5 3-5 天新手友好度 28/100

deepspeedai/DeepSpeedExamples#951 · 2025年1月10日创建
Domino + PP 未关闭

难度 5/5 一周以上新手友好度 25/100

deepspeedai/DeepSpeedExamples#950 · 2025年1月9日创建
Assertion `srcIndex < srcSelectDimSize` failed 未关闭

deepspeedai/DeepSpeedExamples#946 · 1 条评论 · 已指派 1 人 · 2024年12月18日创建
Question to attention computation 未关闭

难度 5/5 一周以上新手友好度 25/100

deepspeedai/DeepSpeedExamples#944 · 2024年12月15日创建
KV_cache offload 未关闭

难度 3/5 1-2 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#943 · 3 条评论 · 2 个 reaction · 2024年12月15日创建
How can I change the master_port when using deepspeed for multi-GPU on single node, i.e. localhost 未关闭

难度 4/5 3-5 天新手友好度 30/100

deepspeedai/DeepSpeedExamples#936 · 4 条评论 · 2024年11月20日创建
Does DeepSpeed's Pipeline-Parallelism optimizer supports skip connections? 未关闭

难度 5/5 一周以上新手友好度 25/100

deepspeedai/DeepSpeedExamples#932 · 2024年10月17日创建
How to calculate training efficiency ,i.e tokens/sec of step 1 fine tuning of llama2 model ? 未关闭

难度 2/5 1-3 小时新手友好度 25/100

deepspeedai/DeepSpeedExamples#923 · 2024年8月29日创建
Actor loss nan and Resizing model embedding 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#922 · 1 条评论 · 2024年8月29日创建
step2 without any response for a long time 未关闭

难度 4/5 3-5 天新手友好度 20/100

deepspeedai/DeepSpeedExamples#915 · 2024年8月15日创建
Different zero stage the training memory compute 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#912 · 2024年7月17日创建
an error with gradient checkpointing in DeepspeedChat step 3 未关闭

deepspeedai/DeepSpeedExamples#908 · 已指派 1 人 · 2024年6月28日创建
单机多卡进行RLHF在第三步中使用Qwen模型作Actor Model报错未关闭

难度 4/5 3-5 天新手友好度 20/100

deepspeedai/DeepSpeedExamples#907 · 2 条评论 · 2024年6月25日创建
DeepSpeed-Chat step-1 hanging for a long time 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#906 · 2024年6月19日创建
CPU OOM when inferencing Llama3-70B-Chinese-Chat 未关闭

难度 4/5 3-5 天新手友好度 35/100

deepspeedai/DeepSpeedExamples#904 · 2024年5月20日创建
cannot pickle 'Stream' object 未关闭

难度 3/5 1-2 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#903 · 2024年5月17日创建
can not run the test-gpt.sh because of assertionError 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#902 · 2024年5月16日创建
请问fastgen 是否支持长文本和序列并行推理未关闭

难度 5/5 一周以上新手友好度 15/100

deepspeedai/DeepSpeedExamples#901 · 2024年5月14日创建
[Error] AutoTune: `connect to host localhost port 22: Connection refused` 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#894 · 1 个 reaction · 2024年4月20日创建
How to use deepspeed for multi-node and multi-card task in slurm cluster 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#893 · 2024年4月18日创建
Does Zero-Inference support TP? 未关闭

难度 5/5 一周以上新手友好度 20/100

deepspeedai/DeepSpeedExamples#892 · 11 条评论 · 2024年4月16日创建
Deepspeed support finetune extra model with lora ? 未关闭

难度 5/5 一周以上新手友好度 20/100

deepspeedai/DeepSpeedExamples#890 · 1 条评论 · 2024年4月12日创建
The actor constantly generates ['</s>'] or ['<|endoftext|></s>'] after 200 steps in RLHF with hybrid engine disabled 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#887 · 1 条评论 · 2024年4月9日创建
About multiple-thread attention computation on CPU using zero-inference example. 未关闭

难度 4/5 3-5 天新手友好度 20/100

deepspeedai/DeepSpeedExamples#886 · 2024年4月4日创建
Suggested GPU to run the demo code of step2_reward_model_finetuning (DeepSpeed-Chat) 未关闭

难度 4/5 3-5 天新手友好度 20/100

deepspeedai/DeepSpeedExamples#885 · 2024年4月4日创建
[REQUEST] More fine-grained distributed strategies for RLHF training 未关闭

难度 5/5 一周以上新手友好度 25/100

deepspeedai/DeepSpeedExamples#884 · 2024年4月3日创建
The reward value did not increase. 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#883 · 1 条评论 · 2024年4月2日创建
Confusion about Deepspeed Inference 未关闭

难度 5/5 一周以上新手友好度 20/100

deepspeedai/DeepSpeedExamples#879 · 1 条评论 · 2024年3月25日创建
`AttributeError: readonly attribute` while trying to run training/HelloDeepSpeed 未关闭

难度 3/5 1-2 天新手友好度 35/100

deepspeedai/DeepSpeedExamples#878 · 2024年3月21日创建
[Bug] DeepSpeed Inference Does not Work with LLaMA (Latest verison) 未关闭

难度 4/5 3-5 天新手友好度 35/100

deepspeedai/DeepSpeedExamples#867 · 3 条评论 · 2024年2月29日创建
[BUG in Stable Diffusion inference] There's an error on CUDAGraph when using deepspeed inference. How to fix it? 未关闭

难度 4/5 3-5 天新手友好度 35/100

deepspeedai/DeepSpeedExamples#866 · 2 条评论 · 2024年2月29日创建
zero3 and enable hybrid engine are not suitable for llama2, how to solve it? 未关闭

难度 4/5 3-5 天新手友好度 30/100

deepspeedai/DeepSpeedExamples#864 · 3 条评论 · 2024年2月26日创建
RLHF problems when using Qwen model 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#861 · 1 条评论 · 2024年2月22日创建
Codellama finetune 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#860 · 2024年2月19日创建
Throughput should be `num_queries/latency` as opposed to `num_clients/latency`? 未关闭

难度 3/5 1-2 天新手友好度 38/100

deepspeedai/DeepSpeedExamples#858 · 2024年2月3日创建
The inaccurate flop results after several rounds 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#855 · 1 条评论 · 2024年1月19日创建
remove redundant code 未关闭

难度 1/5 1 小时以内新手友好度 45/100

deepspeedai/DeepSpeedExamples#852 · 2024年1月13日创建
Question: Why not padding to the same sequence length within the batch during the sft training phase? 未关闭

难度 4/5 3-5 天新手友好度 35/100

deepspeedai/DeepSpeedExamples#849 · 2024年1月12日创建
torch.distributed.DistBackendError: NCCL error in: ../torch/csrc/distributed/c10d/ProcessGroupNCCL.cpp:1333, remote process exited or there was a network error, NCCL version 2.18.6 未关闭

难度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#845 · 4 条评论 · 2024年1月8日创建
Invalidate trace cache @ step 0: expected module 0, but got module 6 未关闭

难度 4/5 3-5 天新手友好度 18/100

deepspeedai/DeepSpeedExamples#840 · 2023年12月31日创建
async_pipeline is not exposed in the library 未关闭

难度 1/5 1 小时以内新手友好度 48/100

deepspeedai/DeepSpeedExamples#835 · 1 条评论 · 2023年12月20日创建
Mistral and Orca Training 未关闭

难度 5/5 一周以上新手友好度 20/100

deepspeedai/DeepSpeedExamples#832 · 2023年12月14日创建

deepspeedai/DeepSpeedExamples

把新 issue 发到你的邮箱