anthony-wang / anthony-wang/CrabNet

attention-heads as samples from posterior distribution in a Bayesian sense

Offen
#22 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Python
Sterne
132
Forks
42
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

https://aclanthology.org/2020.emnlp-main.17.pdf

Though I think CrabNet might need to be refitted for new samples (i.e. if you specify `N=10`, then you only get `10` samples from the posterior, to get more would probably require refitting, and not sure if these would be directly comparable to the `10` from the first run). Also not exactly sure how this could be converted to individual predictions. Maybe just some basic plumbing in and after:

https://github.com/anthony-wang/CrabNet/blob/9e0d79c5bff56ceae0600015942c54214d78152f/crabnet/kingcrab.py#L151-L157

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.