apache / apache/iotdb

精度问题怎么解决 how to solve precision

Ouverte
#16,014 2 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
Langage dominant
Java
Étoiles
6.4k
Forks
1.2k
Merge moyen
1 j 23 h
PR mergées (30 j)
115

Description

比如两个float或者double类型的字段相加或者用聚合函数(sum),得到的结果因为浮点数的限制会出现类似于xxx.xxx000000002这样的结果,大家有什么解决办法吗
For instance, when two fields of float or double type are added or an aggregate function (like sum) is used, the result obtained may result in something like xxx.xxx000000002 due to the limitation of floating-point numbers. Do you have any solutions

Guide de contribution

Ouvrir le guide de contribution

Piste de recherche

L’issue mentionne des champs float ou double, de l’arithmétique et des résultats agrégés de SUM, mais ne cite aucun fichier, test ou point d’entrée. Il faut d’abord déterminer comment IoTDB représente et calcule les valeurs à virgule flottante dans ces opérations ; la finalisation nécessiterait une solution validée concernant le comportement de précision signalé.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
java
Domaine
databases
Type d'issue
Bug
Difficulté
5/5
Temps estimé
Plus d'une semaine
Activité
À l'abandon
Clarté
À clarifier
Accessibilité débutants
20/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.