apache / apache/iotdb

精度问题怎么解决 how to solve precision

Offen
#16,014 2 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Java
Sterne
6.4k
Forks
1.2k
Ø Merge
1 T. 23 Std.
Gemergte PRs (30 T.)
115

Beschreibung

比如两个float或者double类型的字段相加或者用聚合函数(sum),得到的结果因为浮点数的限制会出现类似于xxx.xxx000000002这样的结果,大家有什么解决办法吗
For instance, when two fields of float or double type are added or an aggregate function (like sum) is used, the result obtained may result in something like xxx.xxx000000002 due to the limitation of floating-point numbers. Do you have any solutions

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Das Issue erwähnt Felder vom Typ float oder double, Arithmetik und aggregierte SUM-Ergebnisse, nennt aber keine Dateien, Tests oder Einstiegspunkte. Zunächst sollte ermittelt werden, wie IoTDB Gleitkommawerte bei diesen Operationen darstellt und berechnet; für den Abschluss wäre eine abgestimmte Lösung für das gemeldete Präzisionsverhalten erforderlich.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
databases
Issue-Typ
Bug
Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
20/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.