MegEngine / MegEngine/InferLLM
在树莓派3b+上部署，出现无法打开模型的问题
Nessuno ha ancora preso questa issue.
- Lingua principale
- C++
- Stelle
- 752
- Fork
- 94
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
我在树莓派3b+上运行chatglm2，无法打开模型，请问这种情况怎么解决？
`main: seed = 1715851844
Assert ' m_file ' failed at file : /home/dominic/project/InferLLM-main/src/file.cpp
line 10 : inferllm::InputFile::InputFile(const std::string &, bool),
extra message: Failed to open model file.Aborted
`
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Direzione di ricerca
Il problema viene segnalato in src/file.cpp in inferllm::InputFile::InputFile durante l'esecuzione di chatglm2 su un Raspberry Pi 3B+. Inizia riproducendo il comando di caricamento del modello e verificando la configurazione del file del modello; il lavoro è completato quando viene identificata la causa dell'apertura non riuscita oppure viene documentata la configurazione richiesta del file del modello.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- cpp, raspberry-pi
- Ambito
- embedded-iot, machine-learning
- Tipo di issue
- Bug
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Stato di attività
- Ferma
- Chiarezza
- Da chiarire
- Idoneità per principianti
- 20/100