NVIDIA / NVIDIA/GenerativeAIExamples
Text appears and disappears when POD is launched with models larger than 10B
Đang mở
Chưa có ai nhận issue này.
- Ngôn ngữ chính
- Jupyter Notebook
- Star
- 4.2k
- Fork
- 1.1k
- Merge trung bình
- 10 giờ 15 phút
- Pull request đã merge (30 ngày)
- 1
Mô tả
hello.
As the title says, when I use a model over 10B and reference it, the text comes up and then disappears.
I would appreciate your opinion on what could be the cause and how to fix it.
Thank you.
I'm also attaching the triton pod related error.
Received stop request for requestId 7796140 but it's not active (might be completed already).
Hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Hướng nghiên cứu
Không xác định được tệp nguồn, bài kiểm thử hoặc điểm vào nào. Trước tiên, hãy tái hiện hành vi bằng một model trên 10B và kiểm tra lỗi Triton pod đính kèm, sau đó xác định lý do văn bản được tạo biến mất và xác minh rằng output vẫn hiển thị sau khi sửa.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Lĩnh vực
- ai, backend
- Loại issue
- Lỗi
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Cần làm rõ
- Mức phù hợp với người mới
- 20/100