oneapi-src / oneapi-src/oneAPI-samples
Failing to test "IntelTensorFlow_for_LLMs" sample in CI
Chưa có ai nhận issue này.
- Ngôn ngữ chính
- C++
- Star
- 1.2k
- Fork
- 745
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Mô tả
Summary
Provide a short summary of the issue. Sections below provide guidance on what
factors are considered important to reproduce an issue.
The "IntelTensorFlow_for_LLMs" sample takes ~5hrs to run on CI. Hence, the sample timeouts in CI.
Environment
OS: Linux
Observed behavior
The sample shows how to finetune a 6B model, which takes ~5hrs on CPU. This makes it hard to test the sample on CI.
Expected behavior
Ideally, the sample should not take more than few minutes to run. We can use environment variable to check if the sample is running on CI and run it for a few batches in CI. This would be more than enough to test the correctness of the code sample.
Hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Hướng nghiên cứu
Xác định sample IntelTensorFlow_for_LLMs và cấu hình CI chạy sample đó. Đọc cách sample thực hiện finetuning và cách CI gọi nó, sau đó xác minh rằng một đường dẫn dành riêng cho CI thông qua biến môi trường có thể chỉ chạy một vài batches, đồng thời vẫn giữ nguyên lần chạy dài thông thường bên ngoài CI.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- tensorflow
- Lĩnh vực
- ci-cd, machine-learning
- Loại issue
- Tính năng
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 45/100