testcontainers / testcontainers/testcontainers-python

New Container: vLLM

Ouverte
#885 2 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Personne n'a encore pris cette issue.

🚀 enhancement
Langage dominant
Python
Étoiles
2.3k
Forks
386
Merge moyen
4 h 40 min
PR mergées (30 j)
1

Description

What is the new container you'd like to have?

A vLLM object container would serve testing and usage better.

Why not just use a generic container for this?

The Ollama object is not maintained against Ollama, which causes several issues:

  1. Performance: Ollama performs poorly with batch sizes of 50+ requests.
  2. Functionality: The new "search functionality" in Ollama requires ollama keys, which are not supported in the current object.
  3. Coverage & Quality: Ollama’s coverage and performance are lower compared to vLLM.

Why vLLM?

The vLLM object allows development and testing in a highly configurable, programmatic way, improving the overall testing experience.

Other references

Guide de contribution

Ouvrir le guide de contribution

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Piste de recherche

Examinez l’objet Ollama existant et l’organisation actuelle des objets conteneurs du dépôt comme points de départ. La tâche sera considérée comme terminée lorsqu’un objet vLLM configurable et programmatique, adapté aux tests, sera fourni et que les problèmes de couverture et de performances décrits dans l’issue seront traités.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
docker, python
Domaine
devtools, testing-qa
Type d'issue
Fonctionnalité
Difficulté
4/5
Temps estimé
3-5 jours
Activité
À l'abandon
Clarté
À clarifier
Accessibilité débutants
35/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.