Azure / Azure/MachineLearningNotebooks

increase scoring_timeout_ms

オープン
#1,624 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
主要言語
Jupyter Notebook
スター
4.4k
フォーク
2.6k
PR マージ指標
30日以内にマージされた PR はありません

説明

Hi,

the "scoring_time_out" has currently a max_limit of 300000 [ms]. Is it possible to increase that further? I created a WebService which trains models based on our Lab Data etc.. And for some products/materials the modelling will take more that 300s. Or is there a way to "bypass" the scoring_timeout_ms?

service = Webservice(name="ModellingWebService", workspace=ws)
service.update( inference_config=inference_config,
autoscale_enabled = True,
autoscale_target_utilization=50,
autoscale_min_replicas=1,
autoscale_max_replicas=10,
cpu_cores = 1,
cpu_cores_limit=6,
memory_gb = 3,
memory_gb_limit=20,
scoring_timeout_ms = 300000, #max 300s or update fails
max_request_wait_time = 15000)

Grüße
Marvin
---
#### Document Details

⚠ *Do not edit this section. It is required for docs.microsoft.com ➟ GitHub issue linking.*

* ID: 2b1a7ca9-d49f-d32c-8b43-3e8fc9576815
* Version Independent ID: bc09c6bb-e989-14e6-5ab4-06a1fcd2f3a1
* Content: [azureml.core.webservice.aks.AksWebservice class - Azure Machine Learning Python](https://docs.microsoft.com/en-us/python/api/azureml-core/azureml.core.webservice.aks.akswebservice?view=azure-ml-py)
* Content Source: [AzureML-Docset/stable/docs-ref-autogen/azureml-core/azureml.core.webservice.aks.AksWebservice.yml](https://github.com/MicrosoftDocs/MachineLearning-Python-pr/blob/live/AzureML-Docset/stable/docs-ref-autogen/azureml-core/azureml.core.webservice.aks.AksWebservice.yml)
* Service: **machine-learning**
* Sub-service: **core**
* GitHub Login: @DebFro
* Microsoft Alias: **debfro**

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

調査の方向性

AksWebservice クラスのドキュメントと、リンクされているソース AzureML-Docset/stable/docs-ref-autogen/azureml-core/azureml.core.webservice.aks.akswebservice.yml から始めます。scoring_timeout_ms がどのようにドキュメント化されているか、また 300000 ms の上限がどこで適用されているかを確認します。完了には、maintainer が確認したサポート対象の変更、または文書化された回避策が必要です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
azure, jupyter-notebook, python
領域
cloud, machine-learning
issue の種類
機能追加
難易度
5/5
見積もり時間
1週間以上
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
25/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。