AbsaOSS / AbsaOSS/enceladus

Dynamic conformance on streaming sources

オープン
#1,013 コメント 0 件 リアクション 0 件 担当者 1 名 @yruslan が担当を希望しています GitHub で見る
Epic feature priority: high Streaming
主要言語
Scala
スター
33
フォーク
16
PR マージ指標
30日以内にマージされた PR はありません

説明

## Background
_(Based on the investigation done in #897)_

Conforming streaming sources is something we would like to have. Although Spark API is similar for batch and stream processing, they are not the same. There is a number of issues we identified when trying to run Conformance on a streaming source.

## Epic
We need to investigate possibilities and implement missing pieces in order to support streaming sources in DCE jobs.
* Implement an ability to run DCE on streaming sources. Add configuration parameters for streaming jobs, like a checkpoint location, etc.
* Implement a streaming-friendly conformance mapping rule. Possibly use a mapping table broadcast approach.
* Implement a streaming-friendly control framework (in Atum).

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。