aai-institute / aai-institute/pyDVL

Worker signalling mechanism

Đang mở
#363 2 bình luận 0 reaction 0 người được giao Xem trên GitHub
enhancement
Ngôn ngữ chính
Python
Star
146
Fork
10
Chỉ số merge pull request
Không có pull request nào được merge trong 30 ngày

Mô tả

In order to stop computation in workers once the overall computation is done we must signal the worker (we had this before with queues)

- For joblib backend: use files
- For ray / other backends use memcached / redis / whatever we use as k-v store

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Hướng nghiên cứu

Xem xét việc quản lý worker hiện tại của backend joblib và cơ chế báo hiệu dựa trên hàng đợi hiện có. Đối với ray và các backend khác, hãy kiểm tra việc tích hợp kho lưu trữ key-value (memcached/redis). Bắt đầu bằng việc tìm hiểu vòng đời của worker trong các mô-đun tính toán phân tán của pyDVL. Triển khai các cơ chế báo hiệu cho phép worker dừng lại khi toàn bộ quá trình tính toán hoàn tất, đồng thời đảm bảo khả năng tương thích giữa các backend khác nhau.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Đánh giá

Công nghệ
memcached, python, redis
Lĩnh vực
backend, distributed-systems
Loại issue
Tính năng
Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức độ hoạt động
Đình trệ
Độ rõ ràng
Khá rõ ràng
Mức phù hợp với người mới
45/100

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.