aai-institute / aai-institute/pyDVL
Worker signalling mechanism
- Ngôn ngữ chính
- Python
- Star
- 146
- Fork
- 10
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Mô tả
In order to stop computation in workers once the overall computation is done we must signal the worker (we had this before with queues)
- For joblib backend: use files
- For ray / other backends use memcached / redis / whatever we use as k-v store
Hướng dẫn đóng góp
Hướng nghiên cứu
Xem xét việc quản lý worker hiện tại của backend joblib và cơ chế báo hiệu dựa trên hàng đợi hiện có. Đối với ray và các backend khác, hãy kiểm tra việc tích hợp kho lưu trữ key-value (memcached/redis). Bắt đầu bằng việc tìm hiểu vòng đời của worker trong các mô-đun tính toán phân tán của pyDVL. Triển khai các cơ chế báo hiệu cho phép worker dừng lại khi toàn bộ quá trình tính toán hoàn tất, đồng thời đảm bảo khả năng tương thích giữa các backend khác nhau.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- memcached, python, redis
- Lĩnh vực
- backend, distributed-systems
- Loại issue
- Tính năng
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 45/100