CornellDataScience / CornellDataScience/ProjectX-2021
Finetune BERT model
Offen
- Vorherrschende Sprache
- Jupyter Notebook
- Sterne
- 1
- Forks
- 0
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beschreibung
- Work with Edward to use optimal hyperparameters
- Create a histogram of token length to reduce memory usage
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Rechercherichtung
Beginne mit der Überprüfung des notebook-basierten BERT-Workflows des Repositorys sowie der aktuellen Tokenisierung und des Trainings-Setups. Stimme dich mit Edward zu den Hyperparameter-Entscheidungen ab und erstelle ein Histogramm der Tokenlängen, um die Speicherreduzierung zu steuern; abgeschlossen ist die Aufgabe, wenn das Modell mit den ausgewählten Einstellungen feinabgestimmt ist und die Analyse der Tokenlängen verfügbar ist.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- jupyter-notebook
- Bereich
- machine-learning
- Issue-Typ
- Feature
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 25/100