51zero / 51zero/eel-sdk

Support Distributed writes with EEL

オープン
#253 コメント 3 件 リアクション 0 件 担当者 1 名 @hannesmiller が担当を希望しています GitHub で見る
enhancement
主要言語
Scala
スター
147
フォーク
32
PR マージ指標
30日以内にマージされた PR はありません

説明

Support Distributed writes with EEL

- N writers via JdbcSource -> KafkaSink
- N Writers via HiveSink/KuduSink/HBaseSink
- Now what if the **HiveSink** and others that use a **LinkedBlockingQueue** to service multiple writer threads could do this in a distributed fashion by wrapping the **LinkedBlockingQueue** interface, i.e. an implementation that wraps a Kafka topic - default one would still remain as threads?
- The gotcha is that when you are out-of-process you lose control on how to partition the data into reasonable sizes
- However for row oriented storage systems like Kudu and HBase it's perfect - the same usage pattern would even work for the JdbcSink

What do you think?

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

調査の方向性

The issue proposes distributed writes by replacing LinkedBlockingQueue with a Kafka topic wrapper for sinks like HiveSink, KuduSink, HBaseSink, and JdbcSink. Start by examining the sink implementations in the codebase, particularly the queueing mechanism. Understand how partitioning works for row-oriented storage systems. The goal is to design a distributed queue interface that maintains data partitioning control.

索引モデルが issue の本文から書いたものです。

評価

技術スタック
kafka, scala
領域
backend, data-engineering, stream-processing
issue の種類
機能追加
難易度
5/5
見積もり時間
1週間以上
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
20/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。