feat: Add MedGemma/TxGemma model configurations to terraphim_multi_agent

Aperta
#537 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
5/5
Tempo stimato
Più di una settimana
Idoneità per principianti
35/100
Tipo di issue
Funzionalità
Chiarezza
Abbastanza chiara
Stato di attività
Ferma
Stack tecnologico
rust
Ambito
ai

Direzione di ricerca

Start in crates/terraphim_multi_agent/src/agent.rs at the GenAiLlmClient section, then inspect the genai fork to understand its provider boundaries. Define how the HuggingFace and Google endpoints, listed MedGemma and TxGemma configurations, and optional GGUF fallback fit the design; done means the requested model families can be selected through supported providers.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

enhancement multi-agent

Problem

terraphim_multi_agent uses the genai crate (terraphim fork of rust-genai) with OpenRouter as the default provider. MedGemma and TxGemma models are available via HuggingFace Inference API and Google AI Studio but not via OpenRouter. The agent's LLM client has no support for HuggingFace or Google endpoints.

Proposed Change

  • Add HuggingFace Inference API provider to genai or as an alternative in terraphim_multi_agent::GenAiLlmClient
  • Add model configs for MedGemma 1.5-4b-it, MedGemma 27b-text-it, TxGemma 2b/9b/27b variants
  • Add Google AI Studio provider as an alternative
  • Support GGUF local inference via llama-cpp-rs as a fallback provider

Scope

  • crates/terraphim_multi_agent/src/agent.rs (LLM client section)
  • Possibly genai fork in a separate PR

Context

This is UPLIFT-4 from the medgemma-competition multi-agent integration plan. MedGemma models are Google's medical foundation models (HAI-DEF ecosystem, Feb 2026) and are critical for clinical reasoning in agentic workflows. The current genai/OpenRouter path does not support these model families.

Related upstream issues: #534, #535, #536

Lingua principale
Rust
Stelle
62
Fork
5
Merge medio
2h 27m
PR unite (30g)
1

Guida per i contributori

Apri la guida per i contributori

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di terraphim/terraphim-ai

Tutte le issue di terraphim/terraphim-ai

Issue simili

Altre issue su Rust

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.