deepspeedai/DeepSpeedExamples

Xem trên GitHub

Example models using DeepSpeed

Star: 6.8k
Fork: 1.1k
Issue cho người mới đang mở: 0
Issue đã lập chỉ mục: 300
Merge trung bình: 2 ngày 16 giờ
Pull request đã merge (30 ngày): 1

Ngôn ngữ chính: Python
Giấy phép: Apache-2.0
Lần push lên GitHub gần nhất: 26/8/2026
Lập chỉ mục gần nhất: 20/9/2026
Hướng dẫn đóng góp: Không có hướng dẫn đóng góp
Quy tắc ứng xử: Quy tắc ứng xử
Label cho người mới: Chưa lập chỉ mục label nào cho người mới

Phù hợp cho người mới Tất cả

Đang mở Tất cả

Đã lập chỉ mục 300 issue đang mở

Compute_rewards in PPO:rewards[j, start:ends[j]][-1] += reward_clip[j] is wrong Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 52/100

deepspeedai/DeepSpeedExamples#996 · Mở ngày 22/12/2025
Step1 failed when I run "bash training_scripts/opt/single_gpu/run_1.3b.sh" Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#995 · Mở ngày 16/12/2025
One example, multiple config files Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 52/100

deepspeedai/DeepSpeedExamples#989 · Mở ngày 8/9/2025
moe example 404 Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#984 · Mở ngày 25/7/2025
Possible to include an example of DeepNVMe + state dict Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 42/100

deepspeedai/DeepSpeedExamples#979 · 6 bình luận · Mở ngày 19/6/2025
Apply Zero-3 and LoRA appears empty lora weight [0] Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 38/100

deepspeedai/DeepSpeedExamples#969 · 1 bình luận · Mở ngày 16/4/2025
DeepSpeed-FastGen support ascend npu? Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100

deepspeedai/DeepSpeedExamples#960 · 3 bình luận · Mở ngày 4/3/2025
Why Does vf_loss Take the Maximum Value, Rendering Clamp Meaningless? Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#956 · 2 bình luận · Mở ngày 7/2/2025
Is there any example about DeepSpeed Zero with Ulysses/Ulysses-offload Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 28/100

deepspeedai/DeepSpeedExamples#951 · Mở ngày 10/1/2025
Domino + PP Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#950 · Mở ngày 9/1/2025
Assertion `srcIndex < srcSelectDimSize` failed Đang mở

deepspeedai/DeepSpeedExamples#946 · 1 bình luận · 1 người được giao · Mở ngày 18/12/2024
Question to attention computation Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#944 · Mở ngày 15/12/2024
KV_cache offload Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#943 · 3 bình luận · 2 reaction · Mở ngày 15/12/2024
How can I change the master_port when using deepspeed for multi-GPU on single node, i.e. localhost Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100

deepspeedai/DeepSpeedExamples#936 · 4 bình luận · Mở ngày 20/11/2024
Does DeepSpeed's Pipeline-Parallelism optimizer supports skip connections? Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#932 · Mở ngày 17/10/2024
How to calculate training efficiency ,i.e tokens/sec of step 1 fine tuning of llama2 model ? Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#923 · Mở ngày 29/8/2024
Actor loss nan and Resizing model embedding Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#922 · 1 bình luận · Mở ngày 29/8/2024
step2 without any response for a long time Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 20/100

deepspeedai/DeepSpeedExamples#915 · Mở ngày 15/8/2024
Different zero stage the training memory compute Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#912 · Mở ngày 17/7/2024
an error with gradient checkpointing in DeepspeedChat step 3 Đang mở

deepspeedai/DeepSpeedExamples#908 · 1 người được giao · Mở ngày 28/6/2024
单机多卡进行RLHF在第三步中使用Qwen模型作Actor Model报错 Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 20/100

deepspeedai/DeepSpeedExamples#907 · 2 bình luận · Mở ngày 25/6/2024
DeepSpeed-Chat step-1 hanging for a long time Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#906 · Mở ngày 19/6/2024
CPU OOM when inferencing Llama3-70B-Chinese-Chat Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeedExamples#904 · Mở ngày 20/5/2024
cannot pickle 'Stream' object Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#903 · Mở ngày 17/5/2024
can not run the test-gpt.sh because of assertionError Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#902 · Mở ngày 16/5/2024
请问fastgen 是否支持长文本和序列并行推理 Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100

deepspeedai/DeepSpeedExamples#901 · Mở ngày 14/5/2024
[Error] AutoTune: `connect to host localhost port 22: Connection refused` Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#894 · 1 reaction · Mở ngày 20/4/2024
How to use deepspeed for multi-node and multi-card task in slurm cluster Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#893 · Mở ngày 18/4/2024
Does Zero-Inference support TP? Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100

deepspeedai/DeepSpeedExamples#892 · 11 bình luận · Mở ngày 16/4/2024
Deepspeed support finetune extra model with lora ? Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100

deepspeedai/DeepSpeedExamples#890 · 1 bình luận · Mở ngày 12/4/2024
The actor constantly generates ['</s>'] or ['<|endoftext|></s>'] after 200 steps in RLHF with hybrid engine disabled Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#887 · 1 bình luận · Mở ngày 9/4/2024
About multiple-thread attention computation on CPU using zero-inference example. Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 20/100

deepspeedai/DeepSpeedExamples#886 · Mở ngày 4/4/2024
Suggested GPU to run the demo code of step2_reward_model_finetuning (DeepSpeed-Chat) Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 20/100

deepspeedai/DeepSpeedExamples#885 · Mở ngày 4/4/2024
[REQUEST] More fine-grained distributed strategies for RLHF training Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#884 · Mở ngày 3/4/2024
The reward value did not increase. Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#883 · 1 bình luận · Mở ngày 2/4/2024
Confusion about Deepspeed Inference Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100

deepspeedai/DeepSpeedExamples#879 · 1 bình luận · Mở ngày 25/3/2024
`AttributeError: readonly attribute` while trying to run training/HelloDeepSpeed Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeedExamples#878 · Mở ngày 21/3/2024
[Bug] DeepSpeed Inference Does not Work with LLaMA (Latest verison) Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeedExamples#867 · 3 bình luận · Mở ngày 29/2/2024
[BUG in Stable Diffusion inference] There's an error on CUDAGraph when using deepspeed inference. How to fix it? Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeedExamples#866 · 2 bình luận · Mở ngày 29/2/2024
zero3 and enable hybrid engine are not suitable for llama2, how to solve it? Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100

deepspeedai/DeepSpeedExamples#864 · 3 bình luận · Mở ngày 26/2/2024
RLHF problems when using Qwen model Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#861 · 1 bình luận · Mở ngày 22/2/2024
Codellama finetune Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#860 · Mở ngày 19/2/2024
Throughput should be `num_queries/latency` as opposed to `num_clients/latency`? Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 38/100

deepspeedai/DeepSpeedExamples#858 · Mở ngày 3/2/2024
The inaccurate flop results after several rounds Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#855 · 1 bình luận · Mở ngày 19/1/2024
remove redundant code Đang mở

Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 45/100

deepspeedai/DeepSpeedExamples#852 · Mở ngày 13/1/2024
Question: Why not padding to the same sequence length within the batch during the sft training phase? Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeedExamples#849 · Mở ngày 12/1/2024
torch.distributed.DistBackendError: NCCL error in: ../torch/csrc/distributed/c10d/ProcessGroupNCCL.cpp:1333, remote process exited or there was a network error, NCCL version 2.18.6 Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeedExamples#845 · 4 bình luận · Mở ngày 8/1/2024
Invalidate trace cache @ step 0: expected module 0, but got module 6 Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 18/100

deepspeedai/DeepSpeedExamples#840 · Mở ngày 31/12/2023
async_pipeline is not exposed in the library Đang mở

Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 48/100

deepspeedai/DeepSpeedExamples#835 · 1 bình luận · Mở ngày 20/12/2023
Mistral and Orca Training Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100

deepspeedai/DeepSpeedExamples#832 · Mở ngày 14/12/2023

deepspeedai/DeepSpeedExamples

Nhận issue mới trong hộp thư của bạn