bigscience-workshop / bigscience-workshop/tokenization
Is there anyway to merge multiple tokenize vocab?
オープン
- 主要言語
- Python
- スター
- 11
- フォーク
- 2
- PR マージ指標
- 30日以内にマージされた PR はありません
説明
Hi guys, My PC RAM Is overused because the large files to tokenize, So I have to train the tokenizers for part to part, but is there any way to merge them? Thanks a lot!
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
調査の方向性
この issue では、ファイル、テスト、tokenizer の実装、または語彙形式が指定されていません。まずリポジトリを調査して tokenizer のエントリーポイントとサポートされている語彙アーティファクトを特定し、その後、どの独立して学習された語彙をマージすべきか、またマージを成功させるために何を保持する必要があるかを明確にしてください。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- python
- 領域
- machine-learning
- issue の種類
- 機能追加
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 活発さ
- 停滞
- 明瞭さ
- 説明が足りない
- 初心者へのやさしさ
- 25/100