NVIDIA / NVIDIA/GenerativeAIExamples
Unable to upload files in Q&A Chatbot's RAG service
Dieses Issue hat noch niemand übernommen.
- Vorherrschende Sprache
- Jupyter Notebook
- Sterne
- 4.2k
- Forks
- 1.1k
- Ø Merge
- 10 Std. 15 Min.
- Gemergte PRs (30 T.)
- 1
Beschreibung
Hi there,
I'm currently trying to build a Q&A Chatbot using the example here. Since my GPU model is A30 (with two 20GB GPUs), I'm using a smaller-scale model: llama-2-7B-chat. I followed the instructions in the example to set up the service, but I'm having trouble uploading knowledge documents. What can I do here to solve the problem?
Beitragsleitfaden
Erste Schritte
- Lies das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreib ins Issue, dass du es übernimmst — das erspart doppelte Arbeit.
- Forke das Repository und arbeite in einem Branch.
- Öffne einen Pull Request, der die Issue-Nummer nennt.
Rechercherichtung
Beginne damit, das lokale GPU-Q&A-Chatbot-Setup mit dem Modell llama-2-7B-chat auf der gemeldeten A30-Konfiguration zu reproduzieren. Befolge dann die Anweisungen der Beispiel-Webanwendung zum Hochladen von Wissensdokumenten und grenze den Fehler mithilfe der Screenshots und des Serviceverhaltens ein. Als erledigt gilt die Aufgabe, wenn die Ursache identifiziert und eine validierte Lösung dokumentiert wurde.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Bereich
- ai, backend-api-design
- Issue-Typ
- Bug
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 25/100