Astrodevil / Astrodevil/ADK-Agent-Examples

Chat template is passed

Aperta
#6 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Jupyter Notebook
Stelle
47
Fork
9
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

when running Multi-tool-search agent,

Error code: 400 - {'detail': 'Invalid request. Please check the parameters and try again. Details: Chat template is passed with request, but
--trust-request-chat-template is not set. Refused request with untrusted chat template.'}

Investigation:
We intercepted the actual HTTP request being sent and confirmed that NO chat_template parameter is present in the request body. The request only contains:
{
"messages": [{"role": "user", "content": "..."}],
"model": "meta-llama/Meta-Llama-3.1-8B-Instruct"
}

Environment

- LiteLLM version: 1.80.0
- Google ADK (Agent Development Kit)
- Nebius API Base: https://api.studio.nebius.ai/v1
- Models tested:
- meta-llama/Meta-Llama-3.1-8B-Instruct
- meta-llama/Meta-Llama-3.1-8B-Instruct-fast

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Direzione di ricerca

Inizia riproducendo la richiesta dell’agente Multi-tool-search con LiteLLM 1.80.0, Google ADK e i modelli Nebius indicati. Ispeziona la richiesta HTTP intercettata e la configurazione del template di chat per determinare perché il servizio segnala un template non attendibile quando non ne è presente alcuno. Il lavoro è completato quando la richiesta viene accettata e l’agente funziona con entrambi i modelli testati.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
jupyter-notebook
Ambito
ai, api
Tipo di issue
Bug
Difficoltà
3/5
Tempo stimato
1-2 giorni
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
35/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.