Azure / Azure/MachineLearningNotebooks
Deployment to AKS uses old image
- Ngôn ngữ chính
- Jupyter Notebook
- Star
- 4.4k
- Fork
- 2.6k
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Mô tả
I'm trying to update an endpoint, that is already deployed at AKS. Here is my workflow:
1. I'm updating a custom image - e.g. update installed libraries. It is registered in private ACR.
2. I call environment.build() - forcing an azureml image to be rebuilt, so that changes in source image will be updated in final image. Please notice, that the built image has the same name: `d2bbe17668204c4f957f17cca62a7db4.azurecr.io/azureml/azureml_02fba29521dca17addff8c3b5f3d93cb`. The only thing that changes is the source docker, which is reflected with a new manifest.
3. Deployment of the new model:
`webservice = Model.deploy(
workspace=ws,
name=service_name,
models=[model],
inference_config=inference_config,
deployment_config=deployment_config,
show_output=True,
overwrite=True
)`
Deployment goes well, however the app runs on the previous image.
In the ACR the latest version is:
`d2bbe17668204c4f957f17cca62a7db4.azurecr.io/azureml/azureml_02fba29521dca17addff8c3b5f3d93cb:latest`
and `sha256:19b9c6dfaa3cd0ad4364719fcdf2a170606b9e43106225748f6785291c43d7f4`
while if I describe a pod in K8 it uses the previous version from cache:
`d2bbe17668204c4f957f17cca62a7db4.azurecr.io/azureml/azureml_02fba29521dca17addff8c3b5f3d93cb@sha256:bc7911cd9109ea3748feba3a56b1f8f8bc8c65b154d75a54bf96b87d80b5e472`
I think that's due to imagePullPolicy: IfNotPresent.
In the kubernetes describe pod I can see, that an image was not pulled but used from cache instead.
I couldn't find any way to change this setting to Always.
I have patched the deployment map and correct image has been pulled, so I know that this option ("Always") would fix this issue for me. Thanks for any help!
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Hướng nghiên cứu
Bắt đầu với workflow Model.deploy và mô tả pod AKS, đối chiếu các image digest của ACR và imagePullPolicy của deployment. Xác nhận cách deployment của Azure Machine Learning chỉ định hành vi pull image; được xem là hoàn tất khi một redeployment pull image ACR hiện tại thay vì sử dụng digest đã được cache.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- azure, docker, kubernetes, python
- Lĩnh vực
- cloud, devops, infrastructure, machine-learning
- Loại issue
- Lỗi
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 28/100