apache / apache/iotdb

精度问题怎么解决 how to solve precision

Abierto
#16,014 2 comentarios 0 reacciones 0 asignados Ver en GitHub
Lenguaje dominante
Java
Estrellas
6.4k
Forks
1.2k
Merge medio
1 d 23 h
PR fusionados (30 d)
115

Descripción

比如两个float或者double类型的字段相加或者用聚合函数(sum),得到的结果因为浮点数的限制会出现类似于xxx.xxx000000002这样的结果,大家有什么解决办法吗
For instance, when two fields of float or double type are added or an aggregate function (like sum) is used, the result obtained may result in something like xxx.xxx000000002 due to the limitation of floating-point numbers. Do you have any solutions

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

El issue menciona campos float o double, aritmética y resultados agregados de SUM, pero no indica archivos, pruebas ni puntos de entrada. Primero hay que determinar cómo IoTDB representa y calcula los valores de coma flotante en estas operaciones; darlo por terminado requeriría una solución acordada para el comportamiento de precisión reportado.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
java
Área
databases
Tipo de issue
Error
Dificultad
5/5
Tiempo estimado
Más de una semana
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
20/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.