Astrodevil / Astrodevil/ADK-Agent-Examples

Chat template is passed

オープン
#6 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
主要言語
Jupyter Notebook
スター
47
フォーク
9
PR マージ指標
30日以内にマージされた PR はありません

説明

when running Multi-tool-search agent,

Error code: 400 - {'detail': 'Invalid request. Please check the parameters and try again. Details: Chat template is passed with request, but
--trust-request-chat-template is not set. Refused request with untrusted chat template.'}

Investigation:
We intercepted the actual HTTP request being sent and confirmed that NO chat_template parameter is present in the request body. The request only contains:
{
"messages": [{"role": "user", "content": "..."}],
"model": "meta-llama/Meta-Llama-3.1-8B-Instruct"
}

Environment

- LiteLLM version: 1.80.0
- Google ADK (Agent Development Kit)
- Nebius API Base: https://api.studio.nebius.ai/v1
- Models tested:
- meta-llama/Meta-Llama-3.1-8B-Instruct
- meta-llama/Meta-Llama-3.1-8B-Instruct-fast

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

調査の方向性

まず、LiteLLM 1.80.0、Google ADK、および記載されている Nebius モデルを使用して、Multi-tool-search agent のリクエストを再現します。インターセプトされた HTTP リクエストと chat-template の設定を調査し、存在しないにもかかわらずサービスが信頼できない template を報告する理由を特定します。リクエストが受け入れられ、エージェントがテストした両方のモデルで動作すれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
jupyter-notebook
領域
ai, api
issue の種類
バグ
難易度
3/5
見積もり時間
1〜2日
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
35/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。