mapstruct / mapstruct/mapstruct-examples
Convert Spark Dataframe to Dataset with MapStruct
Nessuno ha ancora preso questa issue.
- Lingua principale
- Java
- Stelle
- 1.4k
- Fork
- 504
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
When using Apache Spark with Java there is a pretty common use case of converting Spark's Dataframes to POJO-based Datasets. The thing is that many times your Dataframe is imported from a database in which the column namings and types are different from your POJO.
Example for this can be found on the following [Stackoverflow question](https://stackoverflow.com/questions/69802146/convert-spark-df-to-a-ds-with-different-fields-names) (which has been solved programmatically with a map and rename functions). I was wondering if that example could be solved with MapStruct (and maybe would be added to this examples repo).
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Direzione di ricerca
Inizia esaminando il repository mapstruct-examples e la domanda collegata su Stack Overflow per comprendere la conversione richiesta da Spark DataFrame a Dataset. Individua dove potrebbe essere inserito un esempio Spark e Java, quindi determina se MapStruct è in grado di gestire nomi di colonne del database e tipi di campi POJO differenti. Il lavoro è completato quando è disponibile un esempio documentato e funzionante che copra questa conversione.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- java, spark
- Ambito
- data-engineering
- Tipo di issue
- Funzionalità
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Stato di attività
- Ferma
- Chiarezza
- Abbastanza chiara
- Idoneità per principianti
- 25/100