aai-institute / aai-institute/pyDVL
Implement NTK scorer
- Ngôn ngữ chính
- Python
- Star
- 146
- Fork
- 10
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Mô tả
Introduced in _Zhaoxuan Wu, Yao Shu, and Bryan Kian Hsiang Low, “[DAVINZ: Data Valuation Using Deep Neural Networks at Initialization](https://proceedings.mlr.press/v162/wu22j.html),” in Proceedings of the 39th International Conference on Machine Learning (International Conference on Machine Learning, PMLR, 2022), 24150–76._
It's a scorer using the Neural Tangent Kernel on untrained networks with a correction to estimate generalisation error. Implementation available in the supp. materials of the paper.
(Maybe relevant, JAX library for NTK: https://github.com/google/neural-tangents, and [paper](https://proceedings.mlr.press/v162/novak22a/novak22a.pdf) about fast finite-width NTK computation)
Hướng dẫn đóng góp
Hướng nghiên cứu
Issue tham chiếu đến một paper cụ thể và các tài liệu bổ sung cho NTK scorer. Trước tiên, hãy kiểm tra cấu trúc codebase của pyDVL để tìm các triển khai scorer hiện có. Xem lại paper được liên kết và các tài liệu bổ sung của nó để biết chi tiết thuật toán. Kiểm tra neural-tangents JAX library để xem khả năng tích hợp. Xác định nơi thêm lớp scorer mới, có khả năng trong một module như pydvl.value/scoring. Việc triển khai sẽ bao gồm việc điều chỉnh ước lượng generalization error dựa trên NTK từ paper vào framework pyDVL.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- jupyter-notebook, machine-learning, python
- Lĩnh vực
- ai-infra-agents, devtools, machine-learning
- Loại issue
- Tính năng
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 45/100