livepeer / livepeer/livepeer-python-gateway

Add SSE/chunked streaming support to the SDK

Aperta
#26 1 commento 0 reazioni 1 assegnatario Vedi su GitHub

@rickstaa ci sta già lavorando.

Dal 15/6/2026.

Lingua principale
Python
Stelle
1
Fork
7
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

What

Add SSE / chunked streaming support to call_runner in the Python SDK, so callers can consume live runner responses incrementally instead of waiting for the full body.

  • http.open_stream() — opens an HTTP request and hands back the live (session, response) without reading the body. Caller owns both. No total timeout (streams run indefinitely); only connect/first-byte are bounded. Raises LivepeerHTTPError on >= 400.
  • LiveRunnerCallStream — returned by call_runner(..., stream=True). Owns the aiohttp session/response, is an async context manager (or call aclose()), and exposes the body via aiter_bytes() / aiter_lines() plus status/headers/content_type/runner.
  • Payment — streaming reuses the existing per-call 402 challenge/retry path; open_stream raises before any body, so the payment retry catches it exactly like the non-streaming path.
  • Export LiveRunnerCallStream from the package root.

Why

Live runner apps that stream output (token-by-token LLM responses, progressive media) need an incremental response path in the SDK, without standing up the trickle/lv2v continuous-payment flow. This SSE path is one job, one upfront payment.

Implementation

Implemented in livepeer/livepeer-python-gateway#25 (builds on the live-runner work in #20).

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.