Astrodevil / Astrodevil/ADK-Agent-Examples
Chat template is passed
- Ngôn ngữ chính
- Jupyter Notebook
- Star
- 47
- Fork
- 9
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Mô tả
when running Multi-tool-search agent,
Error code: 400 - {'detail': 'Invalid request. Please check the parameters and try again. Details: Chat template is passed with request, but
--trust-request-chat-template is not set. Refused request with untrusted chat template.'}
Investigation:
We intercepted the actual HTTP request being sent and confirmed that NO chat_template parameter is present in the request body. The request only contains:
{
"messages": [{"role": "user", "content": "..."}],
"model": "meta-llama/Meta-Llama-3.1-8B-Instruct"
}
Environment
- LiteLLM version: 1.80.0
- Google ADK (Agent Development Kit)
- Nebius API Base: https://api.studio.nebius.ai/v1
- Models tested:
- meta-llama/Meta-Llama-3.1-8B-Instruct
- meta-llama/Meta-Llama-3.1-8B-Instruct-fast
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Hướng nghiên cứu
Bắt đầu bằng cách tái hiện yêu cầu của tác nhân Multi-tool-search với LiteLLM 1.80.0, Google ADK và các mô hình Nebius được liệt kê. Kiểm tra yêu cầu HTTP đã bị chặn và cấu hình chat-template để xác định tại sao dịch vụ báo cáo có template không đáng tin cậy khi không có template nào. Được xem là hoàn tất khi yêu cầu được chấp nhận và tác nhân hoạt động với cả hai mô hình đã kiểm thử.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- jupyter-notebook
- Lĩnh vực
- ai, api
- Loại issue
- Lỗi
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Cần làm rõ
- Mức phù hợp với người mới
- 35/100