CornellDataScience / CornellDataScience/ProjectX-2021

Finetune BERT model

オープン
#8 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
主要言語
Jupyter Notebook
スター
1
フォーク
0
PR マージ指標
30日以内にマージされた PR はありません

説明

- Work with Edward to use optimal hyperparameters
- Create a histogram of token length to reduce memory usage

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

調査の方向性

まず、リポジトリのノートブックベースの BERT ワークフローと、現在のトークン化およびトレーニングの設定を確認します。Edward とハイパーパラメータの選択について調整し、メモリ削減の指針とするためにトークン長のヒストグラムを作成します。モデルが選択した設定でファインチューニングされ、トークン長の分析が利用可能になれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
jupyter-notebook
領域
machine-learning
issue の種類
機能追加
難易度
5/5
見積もり時間
1週間以上
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
25/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。