NVIDIA / NVIDIA/GenerativeAIExamples

Text appears and disappears when POD is launched with models larger than 10B

オープン
#118 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

主要言語
Jupyter Notebook
スター
4.2k
フォーク
1.1k
平均マージ
10時間 15分
マージ済み PR(30日)
1

説明

hello.

As the title says, when I use a model over 10B and reference it, the text comes up and then disappears.

I would appreciate your opinion on what could be the cause and how to fix it.

Thank you.

I'm also attaching the triton pod related error.


Received stop request for requestId 7796140 but it's not active (might be completed already).

コントリビューションガイド

コントリビューションガイドを開く

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

調査の方向性

ソースファイル、テスト、エントリポイントは特定されていません。まず10Bを超えるモデルで動作を再現し、添付されたTriton podのエラーを調査してください。次に、生成されたテキストが消える理由を特定し、修正後も出力が表示されたままであることを確認してください。

索引モデルが issue の本文から書いたものです。

評価

領域
ai, backend
issue の種類
バグ
難易度
4/5
見積もり時間
3〜5日
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
20/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。