apache / apache/iotdb

精度问题怎么解决 how to solve precision

未关闭
#16,014 2 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看
主要语言
Java
星标
6.4k
派生
1.2k
平均合并
1 天 23 小时
30 天内合并 PR
115

描述

比如两个float或者double类型的字段相加或者用聚合函数(sum),得到的结果因为浮点数的限制会出现类似于xxx.xxx000000002这样的结果,大家有什么解决办法吗
For instance, when two fields of float or double type are added or an aggregate function (like sum) is used, the result obtained may result in something like xxx.xxx000000002 due to the limitation of floating-point numbers. Do you have any solutions

贡献指南

打开贡献指南

调研方向

该 issue 提到了 float 或 double 字段、算术运算以及聚合 SUM 结果,但没有列出文件、测试或入口点。首先需要确定 IoTDB 在这些操作中如何表示和计算浮点值;要完成此项工作,需要针对所报告的精度行为达成一致的解决方案。

由索引模型根据 Issue 内容生成。

评估

技术栈
java
领域
databases
Issue 类型
缺陷
难度
5/5
预计耗时
一周以上
活跃度
停滞
描述清晰度
需要澄清
新手友好度
20/100

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。