prompt injection uses a TON of tokens.
- 主要言語
- 言語のデータがありません
- スター
- 2.1k
- フォーク
- 153
- PR マージ指標
- 30日以内にマージされた PR はありません
説明
prompt injection uses a TON of tokens. If I have plugins they are used globally, and as such they're injected into every prompt. It means if I'm using local models (or heck even just doing API cost) theres a ton of tokens I don't always need. We need a way to tie plugins to sessions, or specific workflows. A way to enable or disable them situationally instead of just globally. A local model can NEVER be used with this app unless it has minimum 64k context window, but 128k is better. Even with that, session length must be kept short so as not to overwhelm the models.
---
| Field | Value |
| --- | --- |
| App version | 1.0.17 |
| OS | macOS 26.5.2 |
| Theme | GitHub |
| Path | /chat |
| Tenure | Week 14 |
コントリビューションガイド
調査の方向性
/chat エントリーポイントから開始し、プラグインがプロンプトにどのように含まれるか、またセッションやワークフローがどのように表現されるかを追跡します。セッションまたはワークフローごとにプラグインを有効化または無効化する方法を定義し、未使用のプラグインがプロンプトから除外され、より短いモデルコンテキストウィンドウでもチャットが引き続き動作することを確認します。
索引モデルが issue の本文から書いたものです。
評価
- 領域
- ai, desktop
- issue の種類
- 機能追加
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 活発さ
- 静か
- 明瞭さ
- おおむね明確
- 初心者へのやさしさ
- 35/100