abertsch72 / abertsch72/unlimiformer
Running Unlimiformer with the `forward` method
Aperta
- Lingua principale
- Python
- Stelle
- 1.1k
- Fork
- 78
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
Hi,
I am currently trying to run the inference example with a slight modification. Instead of `generate()`-ing text, I want to pass in `input_ids` and `labels` to the `forward` function and obtain the logits. However, the current implementation leads to device-side asserts. How may I achieve the above goal?
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Valutazione
Questa issue non è ancora stata valutata.