AIAnytime / AIAnytime/RAG-Tool-using-Haystack-Mistral-and-Chainlit

Local?

Ouverte
#2 1 commentaire 0 réactions 0 personnes assignées Voir sur GitHub
Langage dominant
Python
Étoiles
23
Forks
12
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

Hey good work.

I need this to run locally. It looks like it's using the hugging face api.

```
HF_TOKEN = os.environ.get("HF_TOKEN")

prompt_node = PromptNode(
model_name_or_path="mistralai/Mistral-7B-Instruct-v0.1", api_key=HF_TOKEN, default_prompt_template=prompt_template
)
```

Will try to get it running locally but I think there is a haystack class needed for this.

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Évaluation

Cette issue n'a pas encore été évaluée.

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.