github / github/copilot-cli

Support auto-upgrading model selection when context fills (instead of compaction)

Đang mở
#3,530 0 bình luận 0 reaction 0 người được giao Xem trên GitHub
area:context-memory area:models
Ngôn ngữ chính
Shell
Star
11.2k
Fork
1.9k
Merge trung bình
14 giờ 16 phút
Pull request đã merge (30 ngày)
6

Mô tả

### Describe the feature or problem you'd like to solve

Some of the models I have access to support multiple context window sizes. I want to start with the smaller context window, then upgrade to the next larger context window size for the same model type instead of compacting when the context fills up.

### Proposed solution

Add a configuration setting with similar placement to "continueOnAutoMode" - instead of triggering on rate limiting and switching to auto model, trigger on full context (which would normally compact) and switch to larger context version of same model if available, only compacting if already on the largest context available for that model.

### Example prompts or workflows

This would allow starting with a smaller context and seamlessly upgrading within the session if needed. Currently if I start with the smaller context and hit the limit, I have to manually switch then additionally prompt to attempt recovery of the context that was lost by compaction.

### Additional context

Under the premium requests model, smaller context was typically half the multiplier of larger context - I'm assuming that AI credits work similarly. If not, and larger context model scales credit usage based on the actual context used instead of the max, then this feature is unnecessary as I can just start with the larger context every time.

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Hướng nghiên cứu

Bắt đầu bằng cách đọc cấu hình continueOnAutoMode hiện có và đường dẫn context-full hiện đang dẫn đến việc compact. Truy vết cách các biến thể có context lớn hơn của cùng một loại model được biểu diễn; hoàn thành khi một setting có thể chọn kích thước khả dụng tiếp theo khi context cạn kiệt và chỉ compact ở kích thước lớn nhất.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
shell
Lĩnh vực
ai, cli
Loại issue
Tính năng
Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức độ hoạt động
Ít trao đổi
Độ rõ ràng
Cần làm rõ
Mức phù hợp với người mới
35/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.