ProjectTech4DevAI / ProjectTech4DevAI/kaapi-backend
Remove Langfuse Dependency for Session ID Grouping in Response API
Dieses Issue hat noch niemand übernommen.
- Vorherrschende Sprache
- Python
- Sterne
- 18
- Forks
- 10
- Ø Merge
- 2 T. 20 Std.
- Gemergte PRs (30 T.)
- 14
Beschreibung
Currently, in the Response API, we derive the session_id from Langfuse by querying it using the previous response_id, as shown below:
if response_id:
traces = self.langfuse.fetch_traces(tags=response_id).data
if traces:
self.session_id = traces[0].session_id
This approach introduces an unnecessary runtime dependency on Langfuse, solely to group related traces under the same session for visualization purposes.
OpenAI does not currently provide a native conversation ID for API responses, which complicates session tracking.
We are in discussions with OpenAI to potentially add support for a conversation_id or similar identifier at their end which we can pass to langfuse as session_id.
Alternative: Maintain the session or conversation-level grouping within the Glific flow context itself, so that Langfuse becomes an observer rather than a source of truth for session identity.
Beitragsleitfaden
Erste Schritte
- Lies das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreib ins Issue, dass du es übernimmst — das erspart doppelte Arbeit.
- Forke das Repository und arbeite in einem Branch.
- Öffne einen Pull Request, der die Issue-Nummer nennt.
Rechercherichtung
Das Issue identifiziert den Response API-Pfad und die bestehende Langfuse-Trace-Suche als Einstiegspunkt; es wird keine Datei und kein Test genannt. Ermittle zunächst, wo response_id und session_id verwaltet werden, und überprüfe anschließend, dass die Sitzungsgruppierung ohne eine Laufzeitabfrage bei Langfuse konsistent bleibt.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- python
- Bereich
- api, backend, observability
- Issue-Typ
- Refactoring
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 28/100