allenai / allenai/document-qa

Why is cosine distance used in document_splitter.py

Offen
#35 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Python
Sterne
435
Forks
118
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

In the method score_paragraphs(in the class ShallowOpenWebRanker) the cosine distant metric is use.
Should it not be using the dot product metric, because the cosine metric does not take into account magnitude and tfidf is direction and magnitude?
From what I can see this would be similar to saying does the paragraph contain the word and not taking into account how many times the word occurs.

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.