AIAnytime / AIAnytime/RAG-Tool-using-Haystack-Mistral-and-Chainlit

Local?

Aberta
#2 1 comentário 0 reações 0 responsáveis Ver no GitHub
Linguagem predominante
Python
Estrelas
23
Forks
12
Métricas de merge de PRs
Nenhum PR com merge em 30d

Descrição

Hey good work.

I need this to run locally. It looks like it's using the hugging face api.

```
HF_TOKEN = os.environ.get("HF_TOKEN")

prompt_node = PromptNode(
model_name_or_path="mistralai/Mistral-7B-Instruct-v0.1", api_key=HF_TOKEN, default_prompt_template=prompt_template
)
```

Will try to get it running locally but I think there is a haystack class needed for this.

Guia de contribuição

Nenhum guia de contribuição indexado para este repositório

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.