haskell / haskell/statistics

Problems with Student-T distribution

Offen
#160 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Bug
Vorherrschende Sprache
Haskell
Sterne
309
Forks
76
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

So far following problems with Student-T distribution were identified:

1. `quantile` lose precision for p≈0.5 since x becomes close to 1, while p is near zero
```haskell
quantile :: StudentT -> Double -> Double
quantile (StudentT ndf) p
| p >= 0 && p <= 1 =
let x = invIncompleteBeta (0.5 * ndf) 0.5 (2 * min p (1 - p))
in case sqrt $ ndf * (1 - x) / x of
r | p < 0.5 -> -r
| otherwise -> r
```

2. Both precision and performance suffer greatly for large degrees of freedom. Reason is likely incomplete beta and its inverse perform poorly for large parameters. However distribution becomes close to normal so other approximations could work!

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.