AbsaOSS / AbsaOSS/spline-spark-agent

Azure Cosmos DB write operation support

オープン
#56 コメント 5 件 リアクション 0 件 担当者 0 名 GitHub で見る
feature good first issue
主要言語
Scala
スター
210
フォーク
102
平均マージ
1日 1時間
マージ済み PR(30日)
1

説明

## Background
Spline is not able to track lineage while writing to Azure Cosmos DB

## Feature
Azure Cosmos DB write operation support

## Example
Sample Scala code of write operation to Cosmos DB, that is not able to track lineage

```scala
import com.microsoft.azure.cosmosdb.spark.schema._
import com.microsoft.azure.cosmosdb.spark.CosmosDBSpark
import com.microsoft.azure.cosmosdb.spark.config.Config
import org.apache.spark.sql.SaveMode

val customers_dataset_config_map = Map(
"Endpoint" -> "",
"Masterkey" -> dbutils.secrets.get(scope = "", key = ""),
"Database" -> "",
"Collection" -> "",
"WritingBatchSize" -> "100")

val customers_dataset_config = Config(customers_dataset_config_map)

// Write the output to Azure Cosmos DB
customers_dataset.write.mode(SaveMode.Overwrite).cosmosDB(customers_dataset_config)
```

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。