AbsaOSS / AbsaOSS/cobrix

Add the ability to reassemble a multi-segment file

オープン
#612 コメント 0 件 リアクション 0 件 担当者 1 名 @yruslan が担当を希望しています GitHub で見る
enhancement
主要言語
Scala
スター
170
フォーク
96
平均マージ
57分
マージ済み PR(30日)
2

説明

## Background
Multisegment files often have this structure:
```
file header record
segment header record
main segment record
child1 segment record
child2 segment record
...
segment footer record
segment header record
main segment record
child1 segment record
child2 segment record
...
segment footer record
file footer record
```

## Feature
Implement options that would allow reassembling multiple segment into records like this:
```
file header | segment header | main segment | child1 segment | child2 segment | segment footer | file footer
file header | segment header | main segment | child1 segment | child2 segment | segment footer | file footer
file header | segment header | main segment | child1 segment | child2 segment | segment footer | file footer
```

Not every type of segment should be present. The only mandatory segment is the main segment of a record.

## Proposed Solution
This kind of processing is possible using windowing functions. But this can be very slow.

Adding support for such a processing on the record reader level can significantly improve the performance.

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。