bigscience-workshop / bigscience-workshop/pii_processing
improve stopwords in ontology_manager.py
- Lingua principale
- Python
- Stelle
- 9
- Fork
- 6
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
Improve the stopwords list in ontology_manager.py for example using https://github.com/rspeer/wordfreq.
This allows us to do better lexicon. For example, words like "best" and "much" are stopwords and should not be returned as NER/PII entities.
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Direzione di ricerca
Apri ontology_manager.py e analizza come è definito il suo elenco di stopword e come viene utilizzato nella produzione di entità NER/PII. Esamina l’approccio wordfreq collegato nell’issue, quindi verifica che esempi come "best" e "much" siano trattati come stopword e non vengano più restituiti come entità.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- python
- Ambito
- security
- Tipo di issue
- Bug
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Stato di attività
- Ferma
- Chiarezza
- Abbastanza chiara
- Idoneità per principianti
- 45/100