allenai / allenai/scibert

Domain specific terms

Offen
#120 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Python
Sterne
1.7k
Forks
232
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

Hi,
I want to pretrain SciBERT using additional data, and I want to enlarge the vocabulary with 100 additional "domain-specific" terms which are reserved for such usage.
So I've figured out a way to extract a list of terms from my data.

Let's supposed I have the following most relevant terms:
```
"polymer"
"materials"
"chemistry"
"polymers"
```

what should I do with the terms such as `polymer` and `polymers`? Include them both? or keep the singular only?

Does anybody have information or recommendation on this?

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.