Poor accuracy in true division of integers
Offen
@msimacek arbeitet bereits daran.
Seit 12.2.2025.
- Vorherrschende Sprache
- Python
- Sterne
- 1.6k
- Forks
- 155
- Ø Merge
- 9 Std. 42 Min.
- Gemergte PRs (30 T.)
- 36
Beschreibung
For example:
>>> x, y = 15649, 2024092432744435552
>>> x/y
7.73136628883186e-15
>>> import mpmath
>>> float(mpmath.mpf(x)/mpmath.mpf(y)) # as in CPython
7.731366288831862e-15
The result expected to be correctly rounded with the round-half-to-even rule.
Beitragsleitfaden
Erste Schritte
- Lies das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreib ins Issue, dass du es übernimmst — das erspart doppelte Arbeit.
- Forke das Repository und arbeite in einem Branch.
- Öffne einen Pull Request, der die Issue-Nummer nennt.
Bewertung
Dieses Issue wurde noch nicht bewertet.