AbsaOSS / AbsaOSS/spline-spark-agent

Checkpoint lineage support

Đang mở
#546 1 bình luận 2 reaction 0 người được giao Xem trên GitHub
feature investigating
Ngôn ngữ chính
Scala
Star
210
Fork
102
Merge trung bình
1 ngày 1 giờ
Pull request đã merge (30 ngày)
1

Mô tả

code like this, while spline cannot get `Input Data Source`
```python
from pyspark.sql import SparkSession

spark = (SparkSession.builder
.config('spark.sql.queryExecutionListeners', 'za.co.absa.spline.harvester.listener.SplineQueryExecutionListener')
.config('spark.spline.producer.url', 'http://master-1-1:8080/producer')
.enableHiveSupport()
.getOrCreate()
)

def generate_data():
data = [
('a', 1),
('b', 2),
]

df = spark.createDataFrame(data, ['name', 'value'])
df.write.saveAsTable('test.table', mode='overwrite')

def test():
spark.sparkContext.setCheckpointDir('/tmp/checkpoint')
df = spark.table('test.table')
df = df.checkpoint() ## checkpoint
df.write.saveAsTable('test.table2', mode='overwrite')

if __name__ == '__main__':
# generate_data()
test()
```

![image](https://user-images.githubusercontent.com/6837297/204981487-83549f57-d4ee-4411-96ac-58a494c159af.png)

Hướng dẫn đóng góp

Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này

Đánh giá

Issue này chưa được đánh giá.

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.