aws-samples / aws-samples/sample-InferenceBenchmarker

aiperf Total requests fired discrepancy

Aberta
#13 0 comentários 0 reações 0 responsáveis Ver no GitHub
Linguagem predominante
Python
Estrelas
0
Forks
1
Métricas de merge de PRs
Nenhum PR com merge em 30d

Descrição

misleading when some in-flight requests cancelled for duration bound waves

Guia de contribuição

Abrir o guia de contribuição

Direção de pesquisa

Nenhum arquivo ou teste é especificado. Comece rastreando a contagem de requisições do aiperf para ondas limitadas por duração e cancelamentos de requisições em andamento; em seguida, identifique como “Total requests fired” é calculado. A tarefa estará concluída quando o total reportado não for mais enganoso quando requisições forem canceladas, com cobertura para esse cenário.

Escrita pelo modelo de indexação a partir do texto da issue.

Avaliação

Stack de tecnologia
python
Domínio
performance
Tipo de issue
Bug
Dificuldade
3/5
Tempo estimado
1-2 dias
Status de atividade
Pouca atividade
Clareza
Precisa de esclarecimento
Facilidade para iniciantes
38/100

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.