agentscope-ai / agentscope-ai/QwenPaw

[Feature]: LLM Model Auto Switch Mechanism

オープン
#3,956 コメント 1 件 リアクション 0 件 担当者 0 名 GitHub で見る
enhancement
主要言語
Python
スター
34.9k
フォーク
3.1k
平均マージ
1日 15時間
マージ済み PR(30日)
225

説明

## Summary

[希望为每个agent能配置一个模型自动切换和自启机制,目前都是coding plan或者token plan,一旦单位时间内调用次数超了,任务就自动中断了,配一个模型自动切换策略,就可以设定调用超限后自动切换大语言模型继续工作。切换的逻辑还可以设定多种,包括定时切换,调用次数超限切换,任务多次尝试仍然不能解决自动依此切换设定好的更高性能的模型,解决后自动切换常规模型等切换逻辑]

## Component(s) Affected

- [x ] Core / Backend (app, agents, config, providers, utils, local_models)
- [ ] Console (frontend web UI)
- [ ] Channels (DingTalk, Feishu, QQ, Discord, iMessage, etc.)
- [ ] Skills
- [ ] CLI
- [ ] Documentation (website)
- [ ] Tests
- [ ] CI/CD
- [ ] Scripts / Deploy

## Problem / Motivation

[遇到困难问题也不会一个不适合的模型死磕到底,白白浪费token,同时跑任务也不用人工值守了,大大提高运行效率]

## Proposed Solution

[Describe the feature or change you have in mind. Be as specific as possible.]

## Alternatives Considered

[Any other approaches or workarounds you thought about.]

## Additional Context

[Screenshots, examples, links to docs or similar features elsewhere.]

## Willing to Contribute

- [ ] I am willing to open a PR for this feature (after discussion).

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。