精度问题怎么解决 how to solve precision
オープン
- 主要言語
- Java
- スター
- 6.4k
- フォーク
- 1.2k
- 平均マージ
- 1日 23時間
- マージ済み PR(30日)
- 115
説明
比如两个float或者double类型的字段相加或者用聚合函数(sum),得到的结果因为浮点数的限制会出现类似于xxx.xxx000000002这样的结果,大家有什么解决办法吗
For instance, when two fields of float or double type are added or an aggregate function (like sum) is used, the result obtained may result in something like xxx.xxx000000002 due to the limitation of floating-point numbers. Do you have any solutions
コントリビューションガイド
調査の方向性
この issue では float または double フィールド、算術演算、集約 SUM 結果について言及されていますが、ファイル、テスト、エントリーポイントは示されていません。まず、これらの操作で IoTDB が浮動小数点値をどのように表現し、計算しているかを明らかにする必要があります。完了とするには、報告された精度の挙動に対する合意済みの解決策が必要になります。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- java
- 領域
- databases
- issue の種類
- バグ
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 活発さ
- 停滞
- 明瞭さ
- 説明が足りない
- 初心者へのやさしさ
- 20/100