apache / apache/iotdb

精度问题怎么解决 how to solve precision

Aperta
#16,014 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Java
Stelle
6.4k
Fork
1.2k
Merge medio
1g 23h
PR unite (30g)
115

Descrizione

比如两个float或者double类型的字段相加或者用聚合函数(sum),得到的结果因为浮点数的限制会出现类似于xxx.xxx000000002这样的结果,大家有什么解决办法吗
For instance, when two fields of float or double type are added or an aggregate function (like sum) is used, the result obtained may result in something like xxx.xxx000000002 due to the limitation of floating-point numbers. Do you have any solutions

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

L’issue menziona campi float o double, aritmetica e risultati aggregati di SUM, ma non indica file, test o punti di ingresso. Per prima cosa occorre determinare come IoTDB rappresenta e calcola i valori in virgola mobile in queste operazioni; per considerare il lavoro completato sarebbe necessaria una soluzione concordata per il comportamento di precisione segnalato.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
java
Ambito
databases
Tipo di issue
Bug
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
20/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.