prometheus / prometheus/client_java
Improve Summary quantiles with DataSketches
Dieses Issue hat noch niemand übernommen.
- Vorherrschende Sprache
- Java
- Sterne
- 2.3k
- Forks
- 833
- Ø Merge
- 2 T. 16 Std.
- Gemergte PRs (30 T.)
- 86
Beschreibung
Summary.observe() can become expensive when quantiles are recorded at high frequency. This can make the current quantile path visible on hot request paths.
We saw this in ZooKeeper's Prometheus metrics path. In an internal ZooKeeper 3.9.2 fork, a version inspired by ZooKeeper's unmerged DataSketches Summary PR improved peak throughput by about 2x.
DataSketches KLL may be a useful way to improve this in client_java. The goal would be to reduce the cost of the observe path while keeping the external Summary behavior as close as practical.
This would not have to replace the current CKMS-based Summary immediately. DataSketches KLL has a different accuracy model, memory cost, and quantile visibility behavior, so an explicit opt-in path may be a better first step.
Initial questions:
- Does using DataSketches for Summary quantiles sound like a direction worth exploring?
- If so, would a separate opt-in artifact be a reasonable way to introduce it?
- What behavior details and benchmark data would be most useful before going further?
Beitragsleitfaden
Erste Schritte
- Lies das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreib ins Issue, dass du es übernimmst — das erspart doppelte Arbeit.
- Forke das Repository und arbeite in einem Branch.
- Öffne einen Pull Request, der die Issue-Nummer nennt.
Rechercherichtung
Beginne bei Summary.observe() und verfolge den aktuellen CKMS-basierten Quantilpfad in client_java. Prüfe den ZooKeeper DataSketches Summary PR und vergleiche einen KLL-basierten Ansatz anhand von Benchmark-Daten, einschließlich Genauigkeit, Speicherverbrauch und Quantil-Sichtbarkeit. Als abgeschlossen gilt die Arbeit, wenn eine dokumentierte Richtung und Belege dafür vorliegen, ob sich eine Opt-in-Implementierung lohnt.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- observability-sre
- Issue-Typ
- Feature
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Aktivitätsstatus
- Ruhig
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 32/100