NVIDIA / NVIDIA/GenerativeAIExamples
Unable to upload files in Q&A Chatbot's RAG service
Nessuno ha ancora preso questa issue.
- Lingua principale
- Jupyter Notebook
- Stelle
- 4.2k
- Fork
- 1.1k
- Merge medio
- 10h 15m
- PR unite (30g)
- 1
Descrizione
Hi there,
I'm currently trying to build a Q&A Chatbot using the example here. Since my GPU model is A30 (with two 20GB GPUs), I'm using a smaller-scale model: llama-2-7B-chat. I followed the instructions in the example to set up the service, but I'm having trouble uploading knowledge documents. What can I do here to solve the problem?
Guida per i contributori
Apri la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Direzione di ricerca
Inizia riproducendo la configurazione del chatbot di Q&A con GPU locale usando il modello llama-2-7B-chat sulla configurazione A30 segnalata. Poi segui le istruzioni dell’applicazione web di esempio per caricare i documenti della knowledge base e isola il problema usando gli screenshot e il comportamento del servizio. Il lavoro è completato quando la causa è stata identificata e una risoluzione validata è stata documentata.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Ambito
- ai, backend-api-design
- Tipo di issue
- Bug
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Stato di attività
- Ferma
- Chiarezza
- Da chiarire
- Idoneità per principianti
- 25/100