googleapis / googleapis/python-aiplatform

Question about Vertex AI EvalTask Judge Model

オープン
#6,042 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
api: vertex-ai
主要言語
Python
スター
905
フォーク
465
平均マージ
1日 13時間
マージ済み PR(30日)
44

説明

Hi, I am using the Vertex AI Gen AI Evaluation SDK, specifically the EvalTask for evaluating model responses. I see that the judge model for evaluation is typically a Vertex AI hosted Gemini model, and you can customize it by tuning a Gemini model using the SDK. (https://cloud.google.com/vertex-ai/generative-ai/docs/models/configure-judge-model )

My question is:
Is it possible to replace the judge model with an external model served outside of Vertex AI, such as a custom REST API endpoint (for example, a Databricks serving endpoint or any other external model API)? In other words, can the judge model in EvalTask be configured to call an external model API instead of a Vertex AI managed model?

If not supported, are there any recommended ways or workarounds to integrate external judge models into the Vertex AI evaluation workflow?

Thank you very much for any guidance!

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。