Akegarasu / Akegarasu/ChatGLM-webui

希望添加手动标记对话是否添加到上下文的功能

Aperta
#17 1 commento 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Python
Stelle
1.9k
Fork
237
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

比如连续对话中,有些对话其实没必要添加到上下文里。

可以默认设置为都是添加到上下文,但可以在那一轮对话上取消标记,之后问答时,取消标记的对话就不添加到上下文了。

这样可以把对话历史和上下文分开,减少显卡的压力,应该能实现更多轮次的对话

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.