Astrodevil / Astrodevil/ADK-Agent-Examples
Chat template is passed
- 主要言語
- Jupyter Notebook
- スター
- 47
- フォーク
- 9
- PR マージ指標
- 30日以内にマージされた PR はありません
説明
when running Multi-tool-search agent,
Error code: 400 - {'detail': 'Invalid request. Please check the parameters and try again. Details: Chat template is passed with request, but
--trust-request-chat-template is not set. Refused request with untrusted chat template.'}
Investigation:
We intercepted the actual HTTP request being sent and confirmed that NO chat_template parameter is present in the request body. The request only contains:
{
"messages": [{"role": "user", "content": "..."}],
"model": "meta-llama/Meta-Llama-3.1-8B-Instruct"
}
Environment
- LiteLLM version: 1.80.0
- Google ADK (Agent Development Kit)
- Nebius API Base: https://api.studio.nebius.ai/v1
- Models tested:
- meta-llama/Meta-Llama-3.1-8B-Instruct
- meta-llama/Meta-Llama-3.1-8B-Instruct-fast
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
調査の方向性
まず、LiteLLM 1.80.0、Google ADK、および記載されている Nebius モデルを使用して、Multi-tool-search agent のリクエストを再現します。インターセプトされた HTTP リクエストと chat-template の設定を調査し、存在しないにもかかわらずサービスが信頼できない template を報告する理由を特定します。リクエストが受け入れられ、エージェントがテストした両方のモデルで動作すれば完了です。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- jupyter-notebook
- 領域
- ai, api
- issue の種類
- バグ
- 難易度
- 3/5
- 見積もり時間
- 1〜2日
- 活発さ
- 停滞
- 明瞭さ
- 説明が足りない
- 初心者へのやさしさ
- 35/100