NVIDIA / NVIDIA/Personal-AI-Router

[Feature]: Nvidia Switch Yard request as an engine

オープン
#39 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

enhancement
主要言語
Go
スター
1.4k
フォーク
250
平均マージ
23時間 27分
マージ済み PR(30日)
1

説明

Area

Desktop experience

User problem

Hi,

I use Nvidia switchyard as my default router. I was wondering if you will add support for it. I see Ollama and LM Studio as "engines" but not switchyard.

Desired outcome

I would like to be see visualize my workloads across devices: MBP, RTX 5090 and spark cluster.

Alternatives considered

No response

Compatibility and security implications

No response

Validation approach

No response

Confirmations
  • I searched existing issues for duplicates.
  • I agree to follow the Code of Conduct.

コントリビューションガイド

コントリビューションガイドを開く

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

調査の方向性

まず、既存の Ollama と LM Studio のエンジン統合、およびデスクトップワークロードの可視化のエントリーポイントを見つけます。エンジンと接続されたデバイスがどのように表現されているかを読み、そのうえで Nvidia Switchyard がこのモデルにどのように適合すべきかを判断します。Switchyard をエンジンとして利用でき、一覧にあるすべてのデバイスにわたるワークロードを可視化できれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
go
領域
desktop
issue の種類
機能追加
難易度
4/5
見積もり時間
3〜5日
活発さ
活発
明瞭さ
おおむね明確
初心者へのやさしさ
48/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。