abetlen / abetlen/llama-cpp-python

UnsupportedOperation: fileno in Llava15ChatHandler

Aperta
#1,041 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub
bug
Lingua principale
Python
Stelle
10.6k
Fork
1.4k
Metriche di merge delle PR
Metriche PR in attesa

Descrizione

llama-cpp-python version 0.2.25 | build with cublas -> Nvidia T4

Tested with llava model: https://huggingface.co/mys/ggml_llava-v1.5-13b

```python
chat_handler = Llava15ChatHandler(clip_model_path = "./llava-ggml-model-mmproj-model.gguf")
```
```console
UnsupportedOperation Traceback (most recent call last)
in
----> 1 chat_handler = Llava15ChatHandler(clip_model_path = "./llava-ggml-model-mmproj-model.gguf")

/opt/conda/lib/python3.8/site-packages/llama_cpp/llama_chat_format.py in __init__(self, clip_model_path, verbose)
1069 self._clip_free = self._llava_cpp._libllava.clip_free # type: ignore
1070
-> 1071 with suppress_stdout_stderr(disable=self.verbose):
1072 self.clip_ctx = self._llava_cpp.clip_model_load(
1073 self.clip_model_path.encode(), 0

/opt/conda/lib/python3.8/site-packages/llama_cpp/_utils.py in __enter__(self)
25 self.errnull_file = self.open(self.os.devnull, "w")
26
---> 27 self.old_stdout_fileno_undup = self.sys.stdout.fileno()
28 self.old_stderr_fileno_undup = self.sys.stderr.fileno()
29

UnsupportedOperation: fileno
```

Guida per i contributori

Apri la guida per i contributori

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.