aws-samples / aws-samples/sample-InferenceBenchmarker
aiperf Total requests fired discrepancy
Aberta
- Linguagem predominante
- Python
- Estrelas
- 0
- Forks
- 1
- Métricas de merge de PRs
- Nenhum PR com merge em 30d
Descrição
misleading when some in-flight requests cancelled for duration bound waves
Guia de contribuição
Direção de pesquisa
Nenhum arquivo ou teste é especificado. Comece rastreando a contagem de requisições do aiperf para ondas limitadas por duração e cancelamentos de requisições em andamento; em seguida, identifique como “Total requests fired” é calculado. A tarefa estará concluída quando o total reportado não for mais enganoso quando requisições forem canceladas, com cobertura para esse cenário.
Escrita pelo modelo de indexação a partir do texto da issue.
Avaliação
- Stack de tecnologia
- python
- Domínio
- performance
- Tipo de issue
- Bug
- Dificuldade
- 3/5
- Tempo estimado
- 1-2 dias
- Status de atividade
- Pouca atividade
- Clareza
- Precisa de esclarecimento
- Facilidade para iniciantes
- 38/100