algolia / algolia/algoliasearch-client-python
feat: Edit the requests configuration pool_maxsize variable when initializing client
- Lenguaje dominante
- Python
- Estrellas
- 207
- Forks
- 63
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Descripción
- Algolia Client Version: 2.4.0
- Language Version: Python 3.9.1
### Description
I'm replicating a dataset (60k records) with 100 threads (Python's builtin _ThreadExecutor_) at a time. And I find that from time to time I keep getting these warnings from the 'requests' library: **"Connection pool is full, discarding connection: xxxxxxxx.algolia.net"**.
The ability to edit the _pool_maxsize_ configuration variable when initializing the search client would solve this kind of issues, perhaps even allowing to edit other _requests_ configurations.
### Steps To Reproduce
Initialize a ThreadExecutor of 100 max workers.
Create a function that uses 'save_object' to store a record in a predefined index.
Loop through thousands of records, for each record:
-Add the function that saves the record with the record data to the executor
You should get the warning every ~1000 records.
Guía de contribución
Línea de trabajo
Comienza en la ruta de inicialización del cliente de búsqueda y rastrea cómo se configura su sesión de requests o su pool de conexiones. Verifica cómo las llamadas concurrentes a save_object utilizan esa configuración; se considera terminado cuando los llamadores pueden establecer pool_maxsize al crear el cliente y la reproducción con 100 workers ya no emite la advertencia de pool lleno.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- python
- Área
- api, backend
- Tipo de issue
- Nueva funcionalidad
- Dificultad
- 3/5
- Tiempo estimado
- 1-2 días
- Estado de actividad
- Estancado
- Claridad
- Bastante claro
- Aptitud para principiantes
- 25/100