googleapis / googleapis/python-aiplatform
Vertex AI endpoint predict timeout feature for model prediction when using raw_predict
- Ngôn ngữ chính
- Python
- Star
- 905
- Fork
- 465
- Merge trung bình
- 1 ngày 13 giờ
- Pull request đã merge (30 ngày)
- 44
Mô tả
Thanks for stopping by to let us know something could be better!
**PLEASE READ**: If you have a support contract with Google, please create an issue in the [support console](https://cloud.google.com/support/) instead of filing on GitHub. This will ensure a timely response.
**Is your feature request related to a problem? Please describe.**
Currently we wanted to use raw predictions in our pipelines but having a timeout value due to some business constraints.
**Describe the solution you'd like**
vertex ai endpoint has option to give raw_prediction as response, but the timeout doesn't work, setting the timeout should be respected in when real_predict is true.
**Describe alternatives you've considered**
We have set timeout explicitly.
**Additional context**
this is related to endpoint functionality of vertex ai python package
Hướng dẫn đóng góp
Hướng nghiên cứu
Bắt đầu bằng cách lần theo đường dẫn dự đoán của endpoint Vertex AI cho raw_predict và trường hợp real_predict=true, sau đó kiểm tra cách timeout được cung cấp rõ ràng được xử lý. Xác minh hành vi bằng một bài kiểm thử tập trung cho thấy một dự đoán raw tuân theo timeout được yêu cầu.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- python
- Lĩnh vực
- machine-learning
- Loại issue
- Tính năng
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 40/100