OpenMathLib / OpenMathLib/OpenBLAS
2 GB at the start
Nessuno ha ancora preso questa issue.
- Lingua principale
- C
- Stelle
- 7.6k
- Fork
- 1.7k
- Merge medio
- 1g 3h
- PR unite (30g)
- 42
Descrizione
Just entering the main() in a program linking to "openblas" under MSYS2 consumes 2 GB of RAM.
VMMap shows it as 16 blocks 128 MB each. Are these allocations necessary? Can they be postponed to when I really need something from OpenBLAS?
Setting these variables reduces the memory to 600 MB. It looks like 128 MB is allocated per thread in DLLMain
set OPENBLAS_NUM_THREADS=4
set GOTO_NUM_THREADS=4
set OMP_NUM_THREADS=4
This does not help either:
openblas_set_num_threads(1);
The original issue was against libllama: https://github.com/ggml-org/llama.cpp/issues/18024
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Direzione di ricerca
Riproduci il comportamento all’avvio in MSYS2 entrando in main() in un programma collegato a OpenBLAS e ispezionando le allocazioni con VMMap. Confronta le impostazioni predefinite dei thread con OPENBLAS_NUM_THREADS, GOTO_NUM_THREADS, OMP_NUM_THREADS e openblas_set_num_threads(1). Il lavoro è completato quando si determina se le allocazioni di 128 MB per thread di DLLMain sono necessarie o possono essere posticipate.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- c
- Ambito
- performance
- Tipo di issue
- Bug
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Stato di attività
- Tranquilla
- Chiarezza
- Da chiarire
- Idoneità per principianti
- 42/100