abertsch72 / abertsch72/unlimiformer
Can't run the provided llama2 example
Offen
- Vorherrschende Sprache
- Python
- Sterne
- 1.1k
- Forks
- 78
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beschreibung
I got this error message while trying to run the prompt in the README file
File "python3.9/site-packages/transformers/models/llama/modeling_llama.py", line 402, in forward
kv_seq_len += past_key_value.get_usable_length(kv_seq_len, self.layer_idx)
AttributeError: 'list' object has no attribute 'get_usable_length'
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Bewertung
Dieses Issue wurde noch nicht bewertet.