NVIDIA / NVIDIA/Personal-AI-Router

[Feature]: The return needs to include the node that was used to complete the request in order for it to be logged.

オープン
#42 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

enhancement
主要言語
Go
スター
1.4k
フォーク
250
平均マージ
23時間 27分
マージ済み PR(30日)
1

説明

Area

Desktop experience

User problem

In most cases you will want to log the [Prompt Tokens], [Completion Tokens], [Total Tokens],[Tokens per Second], [SystemPrompt], [UserPrompt],[Response],[Endpoint].

Desired outcome

In most cases you will want to log the [Prompt Tokens], [Completion Tokens], [Total Tokens],[Tokens per Second], [SystemPrompt], [UserPrompt],[Response],[Endpoint].

Alternatives considered

A method to tie Nvidia Pair to log all calls including which node was used for Prompt logging.

Compatibility and security implications

No response

Validation approach

No response

Confirmations
  • I searched existing issues for duplicates.
  • I agree to follow the Code of Conduct.

コントリビューションガイド

コントリビューションガイドを開く

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

調査の方向性

ファイル、テスト、エントリーポイントは指定されていません。まず、リクエストがどのように完了するか、また選択されたノードが戻り値でどのように表現されるかを追跡します。期待されるレスポンスの形とロギングの経路をメンテナーに確認してください。リクエストに使用されたノードを、既存のコンシューマーを壊すことなく、呼び出し元がロギングに利用できれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
go
領域
desktop
issue の種類
機能追加
難易度
4/5
見積もり時間
3〜5日
活発さ
活発
明瞭さ
説明が足りない
初心者へのやさしさ
35/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。