googleapis / googleapis/python-aiplatform
Introduce a non-global Vertex AI client
- Ngôn ngữ chính
- Python
- Star
- 905
- Fork
- 465
- Merge trung bình
- 1 ngày 13 giờ
- Pull request đã merge (30 ngày)
- 44
Mô tả
Currently, vertexai.init() sets global variables which is a limit in a multithreaded environment when you want to serve different models to the corresponding available regions. Having an instantiable client (as in your nodejs [client](https://cloud.google.com/vertex-ai/generative-ai/docs/reference/nodejs/latest/vertexai/vertexai) would solve the problem)
Hướng dẫn đóng góp
Hướng nghiên cứu
Bắt đầu với entry point vertexai.init() và so sánh hành vi về global state của nó với Node.js Vertex AI client được liên kết. Xác định phạm vi của Python client có thể khởi tạo và xác minh rằng các client riêng biệt có thể phục vụ các model khác nhau ở các region khác nhau mà không dùng chung cấu hình.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- python
- Lĩnh vực
- api, machine-learning
- Loại issue
- Tính năng
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 30/100