NVIDIA / NVIDIA/GenerativeAIExamples
Unable to upload files in Q&A Chatbot's RAG service
Nadie ha tomado este issue todavía.
- Lenguaje dominante
- Jupyter Notebook
- Estrellas
- 4.2k
- Forks
- 1.1k
- Merge medio
- 10 h 15 min
- PR fusionados (30 d)
- 1
Descripción
Hi there,
I'm currently trying to build a Q&A Chatbot using the example here. Since my GPU model is A30 (with two 20GB GPUs), I'm using a smaller-scale model: llama-2-7B-chat. I followed the instructions in the example to set up the service, but I'm having trouble uploading knowledge documents. What can I do here to solve the problem?
Guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Línea de trabajo
Comienza reproduciendo la configuración del chatbot de Q&A con GPU local usando el modelo llama-2-7B-chat en la configuración A30 indicada. Después, sigue las instrucciones de la aplicación web de ejemplo para cargar documentos de conocimiento y aísla el fallo utilizando las capturas de pantalla y el comportamiento del servicio. El trabajo estará terminado cuando se haya identificado la causa y documentado una resolución validada.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Área
- ai, backend-api-design
- Tipo de issue
- Error
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Estado de actividad
- Estancado
- Claridad
- Necesita aclaración
- Aptitud para principiantes
- 25/100