aws / aws/sagemaker-python-sdk
Support Conditional Hyperparameter in AMT
- Ngôn ngữ chính
- Python
- Star
- 2.3k
- Fork
- 1.3k
- Merge trung bình
- 1 ngày 22 giờ
- Pull request đã merge (30 ngày)
- 35
Mô tả
**Describe the feature you'd like**
Hyperparameter tuning frameworks like [optuna](https://optuna.org/) and google's [vertex AI](https://cloud.google.com/vertex-ai/docs/training/hyperparameter-tuning-overview#conditional_hyperparameters) all support some form of conditional hyperparameter. Could you consider supporting this feature in some capacity?
**How would this feature be used? Please describe.**
For instance, in training a cnn, we can define hyperparameters conditional on their parent hyperparameter matching some condition:
```
search_space = {}
if optimizer == 'adam':
search_space['adam_beta_1'] = range(...)
search_space['adam_beta_2'] = range(...)
elif optimizer == 'sgd':
...
```
**Describe alternatives you've considered**
Right now there are a few ways to work around this:
* Using optuna with sagemaker
* Enumerate all possible hyperparameters and handle appropriately in the training entry point (i.e., ignore the ones not needed)
It would be very helpful if this feature is supported by default. Thanks.
Hướng dẫn đóng góp
Hướng nghiên cứu
Không có tệp, bài kiểm thử hoặc điểm vào nào được nêu. Trước tiên, hãy xem xét luồng tinh chỉnh siêu tham số AMT hiện có và tài liệu được liên kết của Optuna và Vertex AI về siêu tham số có điều kiện, sau đó xác định không gian tìm kiếm có điều kiện của ví dụ CNN nên được biểu diễn và xác thực như thế nào.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- aws, python
- Lĩnh vực
- cloud, machine-learning
- Loại issue
- Tính năng
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Cần làm rõ
- Mức phù hợp với người mới
- 25/100