aai-institute / aai-institute/pyDVL

Implement NTK scorer

Đang mở
#274 0 bình luận 0 reaction 0 người được giao Xem trên GitHub
new-method
Ngôn ngữ chính
Python
Star
146
Fork
10
Chỉ số merge pull request
Không có pull request nào được merge trong 30 ngày

Mô tả

Introduced in _Zhaoxuan Wu, Yao Shu, and Bryan Kian Hsiang Low, “[DAVINZ: Data Valuation Using Deep Neural Networks at Initialization](https://proceedings.mlr.press/v162/wu22j.html),” in Proceedings of the 39th International Conference on Machine Learning (International Conference on Machine Learning, PMLR, 2022), 24150–76._

It's a scorer using the Neural Tangent Kernel on untrained networks with a correction to estimate generalisation error. Implementation available in the supp. materials of the paper.

(Maybe relevant, JAX library for NTK: https://github.com/google/neural-tangents, and [paper](https://proceedings.mlr.press/v162/novak22a/novak22a.pdf) about fast finite-width NTK computation)

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Hướng nghiên cứu

Issue tham chiếu đến một paper cụ thể và các tài liệu bổ sung cho NTK scorer. Trước tiên, hãy kiểm tra cấu trúc codebase của pyDVL để tìm các triển khai scorer hiện có. Xem lại paper được liên kết và các tài liệu bổ sung của nó để biết chi tiết thuật toán. Kiểm tra neural-tangents JAX library để xem khả năng tích hợp. Xác định nơi thêm lớp scorer mới, có khả năng trong một module như pydvl.value/scoring. Việc triển khai sẽ bao gồm việc điều chỉnh ước lượng generalization error dựa trên NTK từ paper vào framework pyDVL.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
jupyter-notebook, machine-learning, python
Lĩnh vực
ai-infra-agents, devtools, machine-learning
Loại issue
Tính năng
Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức độ hoạt động
Đình trệ
Độ rõ ràng
Khá rõ ràng
Mức phù hợp với người mới
45/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.