A question about semaphore.release() in vllm_server_task()
Ouverte
- Langage dominant
- Python
- Étoiles
- 19.5k
- Forks
- 1.6k
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Description
https://github.com/allenai/olmocr/blob/be1f845da44b7f671781df3e06813053fc92460d/olmocr/pipeline.py#L669
When starting up vllm_server, why we need 30s timeout? If 'server_printed_ready_message == True', can we free up semaphore directly?
Guide de contribution
Ouvrir le guide de contribution
Évaluation
Cette issue n'a pas encore été évaluée.