apache / apache/iotdb

精度问题怎么解决 how to solve precision

オープン
#16,014 コメント 2 件 リアクション 0 件 担当者 0 名 GitHub で見る
主要言語
Java
スター
6.4k
フォーク
1.2k
平均マージ
1日 23時間
マージ済み PR(30日)
115

説明

比如两个float或者double类型的字段相加或者用聚合函数(sum),得到的结果因为浮点数的限制会出现类似于xxx.xxx000000002这样的结果,大家有什么解决办法吗
For instance, when two fields of float or double type are added or an aggregate function (like sum) is used, the result obtained may result in something like xxx.xxx000000002 due to the limitation of floating-point numbers. Do you have any solutions

コントリビューションガイド

コントリビューションガイドを開く

調査の方向性

この issue では float または double フィールド、算術演算、集約 SUM 結果について言及されていますが、ファイル、テスト、エントリーポイントは示されていません。まず、これらの操作で IoTDB が浮動小数点値をどのように表現し、計算しているかを明らかにする必要があります。完了とするには、報告された精度の挙動に対する合意済みの解決策が必要になります。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
java
領域
databases
issue の種類
バグ
難易度
5/5
見積もり時間
1週間以上
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
20/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。