abertsch72 / abertsch72/unlimiformer

Error in running Llama 2 generation example

Aberta
#63 0 comentários 0 reações 0 responsáveis Ver no GitHub
Linguagem predominante
Python
Estrelas
1.1k
Forks
78
Métricas de merge de PRs
Nenhum PR com merge em 30d

Descrição

Hi, I got the following error when I tried to execute the command in the README:

```
scores, values = faiss.knn_gpu(faiss.StandardGpuResources(), queries, self.keys, k,
TypeError: torch_replacement_knn_gpu() got an unexpected keyword argument 'device'
```
I'm using `faiss-gpu@1.7.2`.

Guia de contribuição

Nenhum guia de contribuição indexado para este repositório

Direção de pesquisa

O erro ocorre em uma chamada a faiss.knn_gpu com um argumento nomeado 'device'. Consulte o README para ver o comando exato que falha e, em seguida, encontre o código que chama faiss.knn_gpu, provavelmente no exemplo de geração. Verifique a compatibilidade da versão do faiss-gpu e a assinatura da função. A correção pode envolver a remoção do argumento 'device' ou o ajuste da chamada para corresponder à API faiss instalada.

Escrita pelo modelo de indexação a partir do texto da issue.

Avaliação

Domínio
ai, machine-learning
Tipo de issue
Bug
Dificuldade
2/5
Tempo estimado
1-3 horas
Status de atividade
Estagnada
Clareza
Claramente especificada
Facilidade para iniciantes
55/100

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.