AbsaOSS / AbsaOSS/enceladus

Create runs for streaming jobs originating from Hyperdrive

オープン
#1,214 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
Conformance feature priority: undecided under discussion
主要言語
Scala
スター
33
フォーク
16
PR マージ指標
30日以内にマージされた PR はありません

説明

## Background
Now that Conformance can be run on streaming jobs from Hyperdrive we need to decide how we want to track these jobs as runs.

Currently, no runs are created for a streaming conformance job.

## Feature
We can create a separate entity for streaming jobs. My proposal is to call it `transmission`. It would contain only parameters that are relevant for streaming, such as
* Status (such as `running`, `stopped`, etc).
* A start timestamp of a streaming job
* A finish timestamp of a streaming job
* Number of records processed
* Average throughput
* Topic names
* Hyperdrive version and configuration options

Transmissions should have a separate tab in Menas where users can see what's happening.

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。