Astrodevil / Astrodevil/ADK-Agent-Examples
Chat template is passed
- Lenguaje dominante
- Jupyter Notebook
- Estrellas
- 47
- Forks
- 9
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Descripción
when running Multi-tool-search agent,
Error code: 400 - {'detail': 'Invalid request. Please check the parameters and try again. Details: Chat template is passed with request, but
--trust-request-chat-template is not set. Refused request with untrusted chat template.'}
Investigation:
We intercepted the actual HTTP request being sent and confirmed that NO chat_template parameter is present in the request body. The request only contains:
{
"messages": [{"role": "user", "content": "..."}],
"model": "meta-llama/Meta-Llama-3.1-8B-Instruct"
}
Environment
- LiteLLM version: 1.80.0
- Google ADK (Agent Development Kit)
- Nebius API Base: https://api.studio.nebius.ai/v1
- Models tested:
- meta-llama/Meta-Llama-3.1-8B-Instruct
- meta-llama/Meta-Llama-3.1-8B-Instruct-fast
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Línea de trabajo
Empieza reproduciendo la solicitud del agente Multi-tool-search con LiteLLM 1.80.0, Google ADK y los modelos de Nebius indicados. Inspecciona la solicitud HTTP interceptada y la configuración de la plantilla de chat para determinar por qué el servicio informa de que hay una plantilla no confiable cuando no hay ninguna presente. Se considera terminado cuando se acepta la solicitud y el agente funciona con ambos modelos probados.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- jupyter-notebook
- Área
- ai, api
- Tipo de issue
- Error
- Dificultad
- 3/5
- Tiempo estimado
- 1-2 días
- Estado de actividad
- Estancado
- Claridad
- Necesita aclaración
- Aptitud para principiantes
- 35/100