AbsaOSS / AbsaOSS/enceladus

MenasConverter incorrectly handles Array's containsNull

Offen
#1,404 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
bug priority: undecided
Vorherrschende Sprache
Scala
Sterne
33
Forks
16
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

## Describe the bug
Having an array with `containsNull` value of `false`, the value is lost when converting from Spark's `DataType` to `Menas SchemaField`

## To Reproduce
```scala
val sparkSchema = Seq(
StructField("arrayWithoutNulls", ArrayType(StringType, containsNull = false))
)

val menasSchema = sparkConverter.convertSparkToMenasFields(sparkSchema)
val sparkSchema2 = sparkConverter.convertMenasToSparkFields(menasSchema)

assert(sparkSchema == sparkSchema2) // will fail
```

The message:
```
Expected :List(StructField(arrayWithoutNulls,ArrayType(StringType,true),true))
Actual :List(StructField(arrayWithoutNulls,ArrayType(StringType,false),true))
```

## Expected behaviour
The value should be kept during the conversion.

Beitragsleitfaden

Beitragsleitfaden öffnen

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.