能否改为GPU辅助计算

Aperta

#65 aperta il 23/8/2023 6 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Lingua principale: C++
Stelle: 752
Fork: 94
Metriche di merge delle PR: Nessuna PR unita negli ultimi 30g

Descrizione

`bzy@server:~/InferLLM/build$ make
-- current platform: x86
-- Build with GPU.
-- Configuring done
-- Generating done
-- Build files have been written to: /home/bzy/InferLLM/build
[ 2%] Building NVCC (Device) object CMakeFiles/InferLLMGPU.dir/src/kern/gpu/InferLLMGPU_generated_kernel_gpu.cu.o
/usr/lib/gcc/x86_64-linux-gnu/11/include/serializeintrin.h(41): error: identifier "__builtin_ia32_serialize" is undefined

/home/bzy/InferLLM/src/kern/naive/quantize.h(45): warning #177-D: variable "bs" was declared but never referenced

1 error detected in the compilation of "/home/bzy/InferLLM/src/kern/gpu/kernel_gpu.cu".
CMake Error at InferLLMGPU_generated_kernel_gpu.cu.o.cmake:280 (message):
Error generating file
/home/bzy/InferLLM/build/CMakeFiles/InferLLMGPU.dir/src/kern/gpu/./InferLLMGPU_generated_kernel_gpu.cu.o

make[2]: *** [CMakeFiles/InferLLMGPU.dir/build.make:522：
CMakeFiles/InferLLMGPU.dir/src/kern/gpu/InferLLMGPU_generated_kernel_gpu.cu.o] 错误 1
make[1]: *** [CMakeFiles/Makefile2:94：CMakeFiles/InferLLMGPU.dir/all] 错误 2
make: *** [Makefile:91：all] 错误 2
`

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Come iniziare

Leggi tutta la issue e poi la guida ai contributi del progetto.
Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
Fai un fork del repository e lavora su un branch.
Apri una pull request che faccia riferimento al numero della issue.

Direzione di ricerca

Riproduci la build GPU dalla directory build con make, quindi esamina src/kern/gpu/kernel_gpu.cu e l’errore del compilatore segnalato relativo a /usr/lib/gcc/x86_64-linux-gnu/11/include/serializeintrin.h. Esamina anche src/kern/naive/quantize.h per il warning. L’attività è completata quando il target GPU viene configurato e compilato senza l’errore NVCC segnalato.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico: cmake, cpp
Ambito: build-system, machine-learning
Tipo di issue: Bug
Difficoltà: 4/5
Tempo stimato: 3-5 giorni
Stato di attività: Ferma
Chiarezza: Da chiarire
Idoneità per principianti: 25/100