ProjectTech4DevAI / ProjectTech4DevAI/kaapi-backend

Remove Langfuse Dependency for Session ID Grouping in Response API

Abierto
#270 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

bug good first issue
Lenguaje dominante
Python
Estrellas
18
Forks
10
Merge medio
2 d 20 h
PR fusionados (30 d)
14

Descripción

Currently, in the Response API, we derive the session_id from Langfuse by querying it using the previous response_id, as shown below:

if response_id:
    traces = self.langfuse.fetch_traces(tags=response_id).data
    if traces:
        self.session_id = traces[0].session_id

This approach introduces an unnecessary runtime dependency on Langfuse, solely to group related traces under the same session for visualization purposes.

OpenAI does not currently provide a native conversation ID for API responses, which complicates session tracking.
We are in discussions with OpenAI to potentially add support for a conversation_id or similar identifier at their end which we can pass to langfuse as session_id.

Alternative: Maintain the session or conversation-level grouping within the Glific flow context itself, so that Langfuse becomes an observer rather than a source of truth for session identity.

Guía de contribución

Abrir la guía de contribución

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Línea de trabajo

El issue identifica la ruta de Response API y la búsqueda existente de trazas de Langfuse como punto de entrada; no se menciona ningún archivo ni prueba. Primero localiza dónde se gestionan response_id y session_id y, después, verifica que la agrupación de sesiones siga siendo coherente sin una consulta de Langfuse en tiempo de ejecución.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
python
Área
api, backend, observability
Tipo de issue
Refactorización
Dificultad
5/5
Tiempo estimado
Más de una semana
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
28/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.