[Feature]: Multiple ollama instances on single host support

Area

Routing and scheduling

User problem

I have a system with two GPUs from different vendors, one being a nvidia GPU. I've had to setup two ollama instances locally on different ports to get this to work with different settings. I'd like to be able to expose both ollama instances to the cluster

Desired outcome

Both ollama instances show up for a node (or it appears as two nodes)

Alternatives considered

No response

Compatibility and security implications

No response

Validation approach

Launch two ollama instances on different ports, ideally with specific GPUs enabled for each

Confirmations

• I searched existing issues for duplicates.
• I agree to follow the Code of Conduct.

Ollama インスタンスを検出して公開する routing と scheduling のエントリーポイントから始めます。ノードの Ollama endpoint と configuration がどのように表現されているかを追跡し、2 つのインスタンスを別々のノードとして公開すべきか、それとも 1 つのノード上の endpoint として公開すべきかを判断します。異なるポートで個別の GPU 設定を使用して 2 つの Ollama インスタンスを起動し、両方がクラスターに表示されることを確認して検証します。