bigscience-workshop / bigscience-workshop/pii_processing

improve stopwords in ontology_manager.py

Aperta
#4 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Python
Stelle
9
Fork
6
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

Improve the stopwords list in ontology_manager.py for example using https://github.com/rspeer/wordfreq.

This allows us to do better lexicon. For example, words like "best" and "much" are stopwords and should not be returned as NER/PII entities.

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Direzione di ricerca

Apri ontology_manager.py e analizza come è definito il suo elenco di stopword e come viene utilizzato nella produzione di entità NER/PII. Esamina l’approccio wordfreq collegato nell’issue, quindi verifica che esempi come "best" e "much" siano trattati come stopword e non vengano più restituiti come entità.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
python
Ambito
security
Tipo di issue
Bug
Difficoltà
2/5
Tempo stimato
1-3 ore
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
45/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.