AIAnytime / AIAnytime/RAG-Tool-using-Haystack-Mistral-and-Chainlit

Local?

Offen
#2 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Python
Sterne
23
Forks
12
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

Hey good work.

I need this to run locally. It looks like it's using the hugging face api.

```
HF_TOKEN = os.environ.get("HF_TOKEN")

prompt_node = PromptNode(
model_name_or_path="mistralai/Mistral-7B-Instruct-v0.1", api_key=HF_TOKEN, default_prompt_template=prompt_template
)
```

Will try to get it running locally but I think there is a haystack class needed for this.

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.