AbsaOSS / AbsaOSS/spot

Reconsider matching Enceladus runs

Aberta
#45 0 comentários 0 reações 0 responsáveis Ver no GitHub
bug enhancement
Linguagem predominante
Python
Estrelas
5
Forks
0
Métricas de merge de PRs
Nenhum PR com merge em 30d

Descrição

Enceladus runs may change state when multiple attempts are made. The failed attemts may or may not result in state changes. This complicates matching individual spark attempts to appropriate runs.
The current way relies on order of attempts and runs, which is not sufficient. (e.g. sometimes, when two attempts fail, the first attempt manages to update run doc while the second does not.)

For a quick solution one may compare the run's startDateTime (for Std) and start of Conformance checkpoint (for Conform) to be within the attempt duration.

In a long term, the Enceladus api and metadata should be extended to include attempt id.

Guia de contribuição

Nenhum guia de contribuição indexado para este repositório

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.