Call-for-Code-for-Racial-Justice / Call-for-Code-for-Racial-Justice/TakeTwo-DataScience

ML model to detect malicious use of TakeTwo crowdsourced labeling

Aperta
#21 3 commenti 0 reazioni 0 assegnatari Vedi su GitHub
design-thinking idea Machine Learning stale
Lingua principale
Jupyter Notebook
Stelle
8
Fork
8
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

### Background on the problem the feature will solve/improved user experience
As an open-source, data crowdsourced solution, there is potential for malicious use/contributions

### Describe the solution you'd like
Develop an ML model(s) that detects malicious use such as:
- seeking to spam
- alter what is considered by racist, by making offensive racist terms seem less racist or identifying non-racist, benign terms as racist with the intent of making the api useless (by classifying everything as racist)
-
### Tasks
Description of the development tasks needed to complete this issue, including tests,

### Acceptance Criteria
Standards we believe this issue must reach to be considered complete and ready for a pull request. E.g precisely all the user should be able to do with this update, performance requirements, security requirements, etc as appropriate.

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Non sono indicati file, punti di ingresso, test o criteri di accettazione. Inizia esaminando i Jupyter notebooks e il workflow di data science esistente del repository, quindi definisci i segnali di uso malevolo, i dati di valutazione e criteri di completamento misurabili prima dell'implementazione.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
jupyter-notebook, machine-learning
Ambito
machine-learning, security
Tipo di issue
Funzionalità
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
15/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.