bigscience-workshop / bigscience-workshop/bigscience

eval opt-175B

オープン
#63 コメント 1 件 リアクション 0 件 担当者 0 名 GitHub で見る
主要言語
Shell
スター
1k
フォーク
102
PR マージ指標
30日以内にマージされた PR はありません

説明

I noticed you evaluated the opt-175B model, how did it convert to a Megatron-Deepspeed checkpoint? I can not find a 175B huggingface transformers checkpoint. Also, I can not successfully convert the opt-66B checkpoint. @thomasw21 Thanks for any reply!

コントリビューションガイド

コントリビューションガイドを開く

調査の方向性

この Issue には、リポジトリ内のファイル、テスト、エントリポイントが記載されていません。まず、OPT-175B の評価と Megatron-DeepSpeed または OPT-66B の変換に関する手順、スクリプト、ログを探します。175B チェックポイントへの不足しているパスを特定し、成功した 66B 変換を再現または文書化できれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
machine-learning
領域
machine-learning
issue の種類
バグ
難易度
4/5
見積もり時間
3〜5日
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
20/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。