github / github/app

prompt injection uses a TON of tokens.

オープン
#1,768 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
Feedback os:macos
主要言語
言語のデータがありません
スター
2.1k
フォーク
153
PR マージ指標
30日以内にマージされた PR はありません

説明

prompt injection uses a TON of tokens. If I have plugins they are used globally, and as such they're injected into every prompt. It means if I'm using local models (or heck even just doing API cost) theres a ton of tokens I don't always need. We need a way to tie plugins to sessions, or specific workflows. A way to enable or disable them situationally instead of just globally. A local model can NEVER be used with this app unless it has minimum 64k context window, but 128k is better. Even with that, session length must be kept short so as not to overwhelm the models.

---
| Field | Value |
| --- | --- |
| App version | 1.0.17 |
| OS | macOS 26.5.2 |
| Theme | GitHub |
| Path | /chat |
| Tenure | Week 14 |

コントリビューションガイド

コントリビューションガイドを開く

調査の方向性

/chat エントリーポイントから開始し、プラグインがプロンプトにどのように含まれるか、またセッションやワークフローがどのように表現されるかを追跡します。セッションまたはワークフローごとにプラグインを有効化または無効化する方法を定義し、未使用のプラグインがプロンプトから除外され、より短いモデルコンテキストウィンドウでもチャットが引き続き動作することを確認します。

索引モデルが issue の本文から書いたものです。

評価

領域
ai, desktop
issue の種類
機能追加
難易度
5/5
見積もり時間
1週間以上
活発さ
静か
明瞭さ
おおむね明確
初心者へのやさしさ
35/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。