AbsaOSS / AbsaOSS/spline-spark-agent

Spline support for expand operation

Đang mở
#814 0 bình luận 1 reaction 0 người được giao Xem trên GitHub
feature
Ngôn ngữ chính
Scala
Star
210
Fork
102
Merge trung bình
1 ngày 1 giờ
Pull request đã merge (30 ngày)
1

Mô tả

## Background

The Spline agent does not support column-level lineage tracking in expand operations. So, if my sql contains "grouping", or "with cube", the column lineage will be lost after expand.
## Feature

Add OperationNodeBuilder to deal with spark expand operation.

## Example [Optional]

![image](https://user-images.githubusercontent.com/8408505/233048088-fc85180a-18f1-43a7-a9ce-fe093d248cab.png)

## Proposed Solution [Optional]

Solution Ideas

1. I add a ExpandNodeBuilder class in package za.co.absa.spline.harvester.builder.plan, which has almost the same code as UnionNodeBuilder
2. I modified the class OperationNodeBuilderFactory, to deal with expand operators.

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Đánh giá

Issue này chưa được đánh giá.

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.