Astrodevil / Astrodevil/ADK-Agent-Examples

Chat template is passed

Ouverte
#6 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
Langage dominant
Jupyter Notebook
Étoiles
47
Forks
9
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

when running Multi-tool-search agent,

Error code: 400 - {'detail': 'Invalid request. Please check the parameters and try again. Details: Chat template is passed with request, but
--trust-request-chat-template is not set. Refused request with untrusted chat template.'}

Investigation:
We intercepted the actual HTTP request being sent and confirmed that NO chat_template parameter is present in the request body. The request only contains:
{
"messages": [{"role": "user", "content": "..."}],
"model": "meta-llama/Meta-Llama-3.1-8B-Instruct"
}

Environment

- LiteLLM version: 1.80.0
- Google ADK (Agent Development Kit)
- Nebius API Base: https://api.studio.nebius.ai/v1
- Models tested:
- meta-llama/Meta-Llama-3.1-8B-Instruct
- meta-llama/Meta-Llama-3.1-8B-Instruct-fast

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Piste de recherche

Commencez par reproduire la requête de l’agent Multi-tool-search avec LiteLLM 1.80.0, Google ADK et les modèles Nebius indiqués. Inspectez la requête HTTP interceptée et la configuration du modèle de chat afin de déterminer pourquoi le service signale la présence d’un modèle non approuvé alors qu’il n’y en a aucun. C’est terminé lorsque la requête est acceptée et que l’agent fonctionne avec les deux modèles testés.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
jupyter-notebook
Domaine
ai, api
Type d'issue
Bug
Difficulté
3/5
Temps estimé
1-2 jours
Activité
À l'abandon
Clarté
À clarifier
Accessibilité débutants
35/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.