ProjectTech4DevAI / ProjectTech4DevAI/kaapi-backend

Remove Langfuse Dependency for Session ID Grouping in Response API

Offen
#270 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Dieses Issue hat noch niemand übernommen.

bug good first issue
Vorherrschende Sprache
Python
Sterne
18
Forks
10
Ø Merge
2 T. 20 Std.
Gemergte PRs (30 T.)
14

Beschreibung

Currently, in the Response API, we derive the session_id from Langfuse by querying it using the previous response_id, as shown below:

if response_id:
    traces = self.langfuse.fetch_traces(tags=response_id).data
    if traces:
        self.session_id = traces[0].session_id

This approach introduces an unnecessary runtime dependency on Langfuse, solely to group related traces under the same session for visualization purposes.

OpenAI does not currently provide a native conversation ID for API responses, which complicates session tracking.
We are in discussions with OpenAI to potentially add support for a conversation_id or similar identifier at their end which we can pass to langfuse as session_id.

Alternative: Maintain the session or conversation-level grouping within the Glific flow context itself, so that Langfuse becomes an observer rather than a source of truth for session identity.

Beitragsleitfaden

Beitragsleitfaden öffnen

Erste Schritte

  1. Lies das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreib ins Issue, dass du es übernimmst — das erspart doppelte Arbeit.
  3. Forke das Repository und arbeite in einem Branch.
  4. Öffne einen Pull Request, der die Issue-Nummer nennt.

Rechercherichtung

Das Issue identifiziert den Response API-Pfad und die bestehende Langfuse-Trace-Suche als Einstiegspunkt; es wird keine Datei und kein Test genannt. Ermittle zunächst, wo response_id und session_id verwaltet werden, und überprüfe anschließend, dass die Sitzungsgruppierung ohne eine Laufzeitabfrage bei Langfuse konsistent bleibt.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
python
Bereich
api, backend, observability
Issue-Typ
Refactoring
Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
28/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.