AbsaOSS / AbsaOSS/pramen

Add an option to not track late data for a table

Aberta
#282 0 comentários 0 reações 0 responsáveis Ver no GitHub
enhancement Pramen-Scala
Linguagem predominante
Scala
Estrelas
31
Forks
4
Merge médio
1d 10min
PRs com merge (30d)
4

Descrição

## Background
When ingestion happens from an operation database in snapshot mode (no event/info dates), and the database was unavailable for a specific date, it might not make sense to load that data with previous information date since the new data with thew new information date is going to be loaded anyway, and it is going to have the same contents.

## Feature
Add an option to not track late data for a table.

## Example
```hocon
pramen.metastore {
tables = [
{
name = "table_name"
# ...

# If true, Pramen will try loading all previous partition/info dates
# If false, Pramen won't try filling gaps, will just load data to the current partition/information date
track.late.data = false
}
]
```

Guia de contribuição

Nenhum guia de contribuição indexado para este repositório

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.