EducationalTestingService / EducationalTestingService/rsmtool

Generate predictions for responses with non-numeric human scores

Abierto
#341 0 comentarios 0 reacciones 0 asignados Ver en GitHub
enhancement
Lenguaje dominante
Python
Estrellas
71
Forks
21
Métricas de merge de PR
Sin PR fusionados en 30 d

Descripción

[by @aoifecahill ] It would be nice if it was possible to automatically generate predictions for data that has non-numeric human scores. Obviously these predictions can't be used in most of the evaluations, but they could be useful in a confusion matrix for example.

I know RSMPredict does predictions, but that's not quite what I was looking for. It would be nice if there was just one tool that trained a model using the training file and then ran RSMPredict on the test file. I don't think anything like that already exists? I don't really care much about the evaluation (though the confusion matrix would be interesting), rather just would like the convenience of being able to do train+predict in one step rather than multiple with hacks (since I don't know of a way to just train a model without having a fake test file for rsmtool?)

This is a nice-to-have issue.

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Línea de trabajo

Empieza leyendo el punto de entrada existente de RSMPredict y el flujo del archivo de entrenamiento para entender cómo se entrenan actualmente los modelos y cómo se generan las predicciones. Define una única ruta train-then-predict para las puntuaciones humanas no numéricas, utilizando una confusion-matrix como comprobación relevante de finalización y conservando la limitación indicada en torno a la mayoría de las evaluaciones.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
python, scikit-learn
Área
machine-learning
Tipo de issue
Nueva funcionalidad
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.