nodejs / nodejs/node-core-utils

ncu-ci walk: exclude PR-modified tests from the flaky count

Đang mở
#1,164 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Ngôn ngữ chính
JavaScript
Star
313
Fork
137
Merge trung bình
2 ngày 8 giờ
Pull request đã merge (30 ngày)
24

Mô tả

Current Behavior

Failures currently contribute to the flaky count even when the PR modified the failing test. Such failures are likely caused by the PR and should not count as independent flaky occurrences.

For example, CI build 75799 failed test-ffi-fast-buffer, but the PR modified test/ffi/test-ffi-fast-buffer.js. Excluding this occurrence would leave only one qualifying PR, so the test would not appear in the reliability report:

https://github.com/nodejs/reliability/blob/main/reports/2026-08-15.md

Expected Behavior

Exclude an occurrence from the flaky count when its test file was modified by the tested PR revision.

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Hướng nghiên cứu

Bắt đầu với logic walk của ncu-ci để tính flaky counts và các báo cáo độ tin cậy, sau đó lần theo cách mỗi occurrence được liên kết với revision của PR được kiểm thử. Sử dụng ví dụ test-ffi-fast-buffer.js và CI build 75799 làm trường hợp tham chiếu; hoàn thành nghĩa là các occurrence có tệp test bị PR sửa đổi sẽ không còn đóng góp vào flaky count.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
javascript
Lĩnh vực
ci-cd, testing
Loại issue
Lỗi
Độ khó
3/5
Thời gian dự kiến
1-2 ngày
Mức độ hoạt động
Ít trao đổi
Độ rõ ràng
Khá rõ ràng
Mức phù hợp với người mới
65/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.