ProjectTech4DevAI / ProjectTech4DevAI/kaapi-frontend

Self-Driving Eval: Add UI for iteration

オープン
#274 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

enhancement
主要言語
TypeScript
スター
1
フォーク
0
平均マージ
10時間 40分
マージ済み PR(30日)
4

説明

Is your feature request related to a problem?
The v2 self-driving eval currently lacks a UI for starting or monitoring the prompt iteration loop, making it an API-only feature. This limits user accessibility and understanding of the process.

Describe the solution you'd like

  • Add a "Run iteration loop" entry point: dataset_id, experiment_name, config_id, config_version, max_rounds
  • Handle the 202 response with EvaluationIterationRunImmediatePublic details (iteration_run_id, status)
  • Implement a webhook receiver for the EvaluationIterationReportPublic callback, aligned with the prompt-improvement pattern
  • Display round-by-round history, the best round, and terminal stop_reason values (ceiling_reached, max_rounds_reached, round_failed)
Original issue

Is your feature request related to a problem?
v2 ships a self-driving eval → improve-prompt → eval loop (POST /api/v2/evaluations/iterations). There is no way to start one or watch it from the console, so the feature is API-only today.

Describe the solution you'd like

  • Add a "Run iteration loop" entry point: dataset_id, experiment_name, config_id, config_version, max_rounds
  • Handle the 202 response and its EvaluationIterationRunImmediatePublic handle (iteration_run_id, status)
  • Add a webhook receiver for the EvaluationIterationReportPublic callback, following the prompt-improvement pattern
  • Show round-by-round history, the best round, and the terminal stop_reason (ceiling_reached, max_rounds_reached, round_failed)

Comments: Stop-score is the mean of Adherence to Ground Truth and Adherence to Prompt; Knowledge Base is recorded per round for visibility only — worth reflecting in the UI so the numbers aren't confusing.

Parent: #265

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

調査の方向性

まず、コンソールとその webhook receiver における既存の prompt-improvement パターンを追跡し、次に POST /api/v2/evaluations/iterations とドキュメント化されたレスポンスタイプを確認します。ユーザーがイテレーションループを開始し、そのステータスとラウンド履歴を確認し、最適なラウンドを特定し、各 terminal stop_reason とラウンドごとの Knowledge Base 値を理解できれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
typescript
領域
api, frontend
issue の種類
機能追加
難易度
4/5
見積もり時間
3〜5日
活発さ
活発
明瞭さ
おおむね明確
初心者へのやさしさ
55/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。