deepspeedai/DeepSpeedExamples

GitHub で見る

Example models using DeepSpeed

スター: 6.8k
フォーク: 1.1k
オープンの初心者向け issue: 0
索引済み issue: 300
平均マージ: 2日 16時間
マージ済み PR（30日）: 1

主要言語: Python
ライセンス: Apache-2.0
最終 GitHub push: 2026年8月26日
最新の索引: 2026年9月20日
コントリビューションガイド: コントリビューションガイドがありません
行動規範: 行動規範
初心者向けラベル: 初心者向けラベルは索引されていません

初心者向けすべて

オープンすべて

オープンの issue を 300 件索引しました

Compute_rewards in PPO:rewards[j, start:ends[j]][-1] += reward_clip[j] is wrong オープン

難易度 2/5 1〜3時間初心者へのやさしさ 52/100

deepspeedai/DeepSpeedExamples#996 · 2025年12月22日に作成
Step1 failed when I run "bash training_scripts/opt/single_gpu/run_1.3b.sh" オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#995 · 2025年12月16日に作成
One example, multiple config files オープン

難易度 2/5 1〜3時間初心者へのやさしさ 52/100

deepspeedai/DeepSpeedExamples#989 · 2025年9月8日に作成
moe example 404 オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#984 · 2025年7月25日に作成
Possible to include an example of DeepNVMe + state dict オープン

難易度 4/5 3〜5日初心者へのやさしさ 42/100

deepspeedai/DeepSpeedExamples#979 · コメント 6 件 · 2025年6月19日に作成
Apply Zero-3 and LoRA appears empty lora weight [0] オープン

難易度 4/5 3〜5日初心者へのやさしさ 38/100

deepspeedai/DeepSpeedExamples#969 · コメント 1 件 · 2025年4月16日に作成
DeepSpeed-FastGen support ascend npu? オープン

難易度 5/5 1週間以上初心者へのやさしさ 15/100

deepspeedai/DeepSpeedExamples#960 · コメント 3 件 · 2025年3月4日に作成
Why Does vf_loss Take the Maximum Value, Rendering Clamp Meaningless? オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#956 · コメント 2 件 · 2025年2月7日に作成
Is there any example about DeepSpeed Zero with Ulysses/Ulysses-offload オープン

難易度 4/5 3〜5日初心者へのやさしさ 28/100

deepspeedai/DeepSpeedExamples#951 · 2025年1月10日に作成
Domino + PP オープン

難易度 5/5 1週間以上初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#950 · 2025年1月9日に作成
Assertion `srcIndex < srcSelectDimSize` failed オープン

deepspeedai/DeepSpeedExamples#946 · コメント 1 件 · 担当者 1 名 · 2024年12月18日に作成
Question to attention computation オープン

難易度 5/5 1週間以上初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#944 · 2024年12月15日に作成
KV_cache offload オープン

難易度 3/5 1〜2日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#943 · コメント 3 件 · リアクション 2 件 · 2024年12月15日に作成
How can I change the master_port when using deepspeed for multi-GPU on single node, i.e. localhost オープン

難易度 4/5 3〜5日初心者へのやさしさ 30/100

deepspeedai/DeepSpeedExamples#936 · コメント 4 件 · 2024年11月20日に作成
Does DeepSpeed's Pipeline-Parallelism optimizer supports skip connections? オープン

難易度 5/5 1週間以上初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#932 · 2024年10月17日に作成
How to calculate training efficiency ,i.e tokens/sec of step 1 fine tuning of llama2 model ? オープン

難易度 2/5 1〜3時間初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#923 · 2024年8月29日に作成
Actor loss nan and Resizing model embedding オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#922 · コメント 1 件 · 2024年8月29日に作成
step2 without any response for a long time オープン

難易度 4/5 3〜5日初心者へのやさしさ 20/100

deepspeedai/DeepSpeedExamples#915 · 2024年8月15日に作成
Different zero stage the training memory compute オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#912 · 2024年7月17日に作成
an error with gradient checkpointing in DeepspeedChat step 3 オープン

deepspeedai/DeepSpeedExamples#908 · 担当者 1 名 · 2024年6月28日に作成
单机多卡进行RLHF在第三步中使用Qwen模型作Actor Model报错オープン

難易度 4/5 3〜5日初心者へのやさしさ 20/100

deepspeedai/DeepSpeedExamples#907 · コメント 2 件 · 2024年6月25日に作成
DeepSpeed-Chat step-1 hanging for a long time オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#906 · 2024年6月19日に作成
CPU OOM when inferencing Llama3-70B-Chinese-Chat オープン

難易度 4/5 3〜5日初心者へのやさしさ 35/100

deepspeedai/DeepSpeedExamples#904 · 2024年5月20日に作成
cannot pickle 'Stream' object オープン

難易度 3/5 1〜2日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#903 · 2024年5月17日に作成
can not run the test-gpt.sh because of assertionError オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#902 · 2024年5月16日に作成
请问fastgen 是否支持长文本和序列并行推理オープン

難易度 5/5 1週間以上初心者へのやさしさ 15/100

deepspeedai/DeepSpeedExamples#901 · 2024年5月14日に作成
[Error] AutoTune: `connect to host localhost port 22: Connection refused` オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#894 · リアクション 1 件 · 2024年4月20日に作成
How to use deepspeed for multi-node and multi-card task in slurm cluster オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#893 · 2024年4月18日に作成
Does Zero-Inference support TP? オープン

難易度 5/5 1週間以上初心者へのやさしさ 20/100

deepspeedai/DeepSpeedExamples#892 · コメント 11 件 · 2024年4月16日に作成
Deepspeed support finetune extra model with lora ? オープン

難易度 5/5 1週間以上初心者へのやさしさ 20/100

deepspeedai/DeepSpeedExamples#890 · コメント 1 件 · 2024年4月12日に作成
The actor constantly generates ['</s>'] or ['<|endoftext|></s>'] after 200 steps in RLHF with hybrid engine disabled オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#887 · コメント 1 件 · 2024年4月9日に作成
About multiple-thread attention computation on CPU using zero-inference example. オープン

難易度 4/5 3〜5日初心者へのやさしさ 20/100

deepspeedai/DeepSpeedExamples#886 · 2024年4月4日に作成
Suggested GPU to run the demo code of step2_reward_model_finetuning (DeepSpeed-Chat) オープン

難易度 4/5 3〜5日初心者へのやさしさ 20/100

deepspeedai/DeepSpeedExamples#885 · 2024年4月4日に作成
[REQUEST] More fine-grained distributed strategies for RLHF training オープン

難易度 5/5 1週間以上初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#884 · 2024年4月3日に作成
The reward value did not increase. オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#883 · コメント 1 件 · 2024年4月2日に作成
Confusion about Deepspeed Inference オープン

難易度 5/5 1週間以上初心者へのやさしさ 20/100

deepspeedai/DeepSpeedExamples#879 · コメント 1 件 · 2024年3月25日に作成
`AttributeError: readonly attribute` while trying to run training/HelloDeepSpeed オープン

難易度 3/5 1〜2日初心者へのやさしさ 35/100

deepspeedai/DeepSpeedExamples#878 · 2024年3月21日に作成
[Bug] DeepSpeed Inference Does not Work with LLaMA (Latest verison) オープン

難易度 4/5 3〜5日初心者へのやさしさ 35/100

deepspeedai/DeepSpeedExamples#867 · コメント 3 件 · 2024年2月29日に作成
[BUG in Stable Diffusion inference] There's an error on CUDAGraph when using deepspeed inference. How to fix it? オープン

難易度 4/5 3〜5日初心者へのやさしさ 35/100

deepspeedai/DeepSpeedExamples#866 · コメント 2 件 · 2024年2月29日に作成
zero3 and enable hybrid engine are not suitable for llama2, how to solve it? オープン

難易度 4/5 3〜5日初心者へのやさしさ 30/100

deepspeedai/DeepSpeedExamples#864 · コメント 3 件 · 2024年2月26日に作成
RLHF problems when using Qwen model オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#861 · コメント 1 件 · 2024年2月22日に作成
Codellama finetune オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#860 · 2024年2月19日に作成
Throughput should be `num_queries/latency` as opposed to `num_clients/latency`? オープン

難易度 3/5 1〜2日初心者へのやさしさ 38/100

deepspeedai/DeepSpeedExamples#858 · 2024年2月3日に作成
The inaccurate flop results after several rounds オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#855 · コメント 1 件 · 2024年1月19日に作成
remove redundant code オープン

難易度 1/5 1時間未満初心者へのやさしさ 45/100

deepspeedai/DeepSpeedExamples#852 · 2024年1月13日に作成
Question: Why not padding to the same sequence length within the batch during the sft training phase? オープン

難易度 4/5 3〜5日初心者へのやさしさ 35/100

deepspeedai/DeepSpeedExamples#849 · 2024年1月12日に作成
torch.distributed.DistBackendError: NCCL error in: ../torch/csrc/distributed/c10d/ProcessGroupNCCL.cpp:1333, remote process exited or there was a network error, NCCL version 2.18.6 オープン

難易度 4/5 3〜5日初心者へのやさしさ 25/100

deepspeedai/DeepSpeedExamples#845 · コメント 4 件 · 2024年1月8日に作成
Invalidate trace cache @ step 0: expected module 0, but got module 6 オープン

難易度 4/5 3〜5日初心者へのやさしさ 18/100

deepspeedai/DeepSpeedExamples#840 · 2023年12月31日に作成
async_pipeline is not exposed in the library オープン

難易度 1/5 1時間未満初心者へのやさしさ 48/100

deepspeedai/DeepSpeedExamples#835 · コメント 1 件 · 2023年12月20日に作成
Mistral and Orca Training オープン

難易度 5/5 1週間以上初心者へのやさしさ 20/100

deepspeedai/DeepSpeedExamples#832 · 2023年12月14日に作成

deepspeedai/DeepSpeedExamples

新しい issue をメールで受け取る