AIAnytime / AIAnytime/RAG-Tool-using-Haystack-Mistral-and-Chainlit
Local?
Offen
- Vorherrschende Sprache
- Python
- Sterne
- 23
- Forks
- 12
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beschreibung
Hey good work.
I need this to run locally. It looks like it's using the hugging face api.
```
HF_TOKEN = os.environ.get("HF_TOKEN")
prompt_node = PromptNode(
model_name_or_path="mistralai/Mistral-7B-Instruct-v0.1", api_key=HF_TOKEN, default_prompt_template=prompt_template
)
```
Will try to get it running locally but I think there is a haystack class needed for this.
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Bewertung
Dieses Issue wurde noch nicht bewertet.