AIAnytime / AIAnytime/RAG-Tool-using-Haystack-Mistral-and-Chainlit

Local?

未關閉
#2 1 則留言 0 個 reaction 已指派 0 人 在 GitHub 檢視
主要語言
Python
星號
23
分支
12
PR 合併指標
30 天內沒有已合併 PR

描述

Hey good work.

I need this to run locally. It looks like it's using the hugging face api.

```
HF_TOKEN = os.environ.get("HF_TOKEN")

prompt_node = PromptNode(
model_name_or_path="mistralai/Mistral-7B-Instruct-v0.1", api_key=HF_TOKEN, default_prompt_template=prompt_template
)
```

Will try to get it running locally but I think there is a haystack class needed for this.

貢獻指南

這個儲存庫沒有索引到貢獻指南

評估

這個 Issue 還沒有評估資料。

把新 issue 寄到你的電子郵件信箱

精選適合新手參與的 GitHub issue 摘要。