AbsaOSS / AbsaOSS/spline-spark-agent

UDF lineage?

Đang mở
#181 1 bình luận 0 reaction 1 người được giao Được @cerveada nhận Xem trên GitHub
feature
Ngôn ngữ chính
Scala
Star
210
Fork
102
Merge trung bình
1 ngày 1 giờ
Pull request đã merge (30 ngày)
1

Mô tả

To be investigated.

> a few points to note from our experiences at Kensu Inc.
>
> you might want consider a few interesting special cases when part of lineage maybe need to be provided semi-manually, e.g.:
> - semi-manual lineage for UDFs, UDF can be matched by `ScalaUDF.function.getClass.getName`:
> - extra UDF inputs that are local files (e.g. H2O predict via spark pipelines)
> - optional annotations for lineage inside UDF if needed, e.g. by default lineage assumes that all input fields of UDF are connected to the output of UDF, but this might be manually clarified
> - making easy to plug-in extra semi-manual/programmable lineage to connect with the external world the parts of plan that may be unresolved by default implementation, e.g. H2O contains `H2OFrameRelation extends BaseRelation with TableScan` which accesses remote H2oFrame not seen by spark directly
> - same above points applies to RDDs
>
> also making easier to customize stuff if needed: avoid private/final methods would be great.
>
> finally, probably some special care needed for struct fields support.
>

_Originally posted by @vidma in https://github.com/AbsaOSS/spline/issues/114#issuecomment-705439880_

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Đánh giá

Issue này chưa được đánh giá.

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.