Call-for-Code-for-Racial-Justice / Call-for-Code-for-Racial-Justice/TakeTwo-DataScience
ML model to detect malicious use of TakeTwo crowdsourced labeling
- Linguagem predominante
- Jupyter Notebook
- Estrelas
- 8
- Forks
- 8
- Métricas de merge de PRs
- Nenhum PR com merge em 30d
Descrição
### Background on the problem the feature will solve/improved user experience
As an open-source, data crowdsourced solution, there is potential for malicious use/contributions
### Describe the solution you'd like
Develop an ML model(s) that detects malicious use such as:
- seeking to spam
- alter what is considered by racist, by making offensive racist terms seem less racist or identifying non-racist, benign terms as racist with the intent of making the api useless (by classifying everything as racist)
-
### Tasks
Description of the development tasks needed to complete this issue, including tests,
### Acceptance Criteria
Standards we believe this issue must reach to be considered complete and ready for a pull request. E.g precisely all the user should be able to do with this update, performance requirements, security requirements, etc as appropriate.
Guia de contribuição
Direção de pesquisa
Nenhum arquivo, ponto de entrada, teste ou critério de aceitação é especificado. Comece examinando os Jupyter notebooks e o workflow de data science existente do repositório e, em seguida, defina os sinais de uso malicioso, os dados de avaliação e os critérios mensuráveis de conclusão antes da implementação.
Escrita pelo modelo de indexação a partir do texto da issue.
Avaliação
- Stack de tecnologia
- jupyter-notebook, machine-learning
- Domínio
- machine-learning, security
- Tipo de issue
- Funcionalidade
- Dificuldade
- 5/5
- Tempo estimado
- Mais de uma semana
- Status de atividade
- Estagnada
- Clareza
- Precisa de esclarecimento
- Facilidade para iniciantes
- 15/100