dotnet / dotnet/machinelearning-modelbuilder

Model builder training appears to leak data somehow into the training set

Offen
#2,926 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Dockerfile
Sterne
285
Forks
66
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

Windwos 11
ML.Net 3.0.1
.Net 4.8

When traingin a large csv my model would get consistently high results that I could not replicate in testing outside of model builder. I was letting model builder handle the trainign/validation split, though I tried all those options. Folds, 70/30, 80/20, etc. Always ended up >90% micro accuracy over training time if left, but never got even close when run in real time. After many days - I today split the SAME data file into 2 different files, telling model builder the validation data is in that separate file, and hey presto, can;t train more than 45%... This is better (for worse!). The 2 files are a 80/20 split - I just did it myself. Give model builder the whole file and tell it to do the 80/20 split, and it will train to >93% again. Something in there is broken it seems! So little visibility for me into what is going on, I don't have much more to offer in terms of what. it would appear the validation data is somehow leaked into the training set.

Seperate validation file
![image](https://github.com/dotnet/machinelearning-modelbuilder/assets/439341/cd632afd-0216-4b9f-8eb8-bf3ef27a58a4)

Combined file letting model builder do the split will train to >0.93, same data and metrics.

Model builder version is 17.18.2.2415501

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Reproduziere die Abweichung mit derselben CSV, die in ein 80/20-Paar aufgeteilt ist, und vergleiche sie anschließend damit, dass Model Builder die Aufteilung intern durchführt. Beginne mit der Untersuchung der beiden Workflows für Training und Validierung sowie ihrer gemeldeten Metriken; abgeschlossen ist die Aufgabe, wenn die Aufteilung der kombinierten Datei im Vergleich zur separaten Validierungsdatei keine irreführend hohe Genauigkeit mehr erzeugt.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
csharp
Bereich
machine-learning
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
30/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.