graykode / graykode/nlp-tutorial
Some problems about Bert
Đang mở
- Ngôn ngữ chính
- Jupyter Notebook
- Star
- 14.9k
- Fork
- 3.9k
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Mô tả
line 70: **index = randint(0, vocab_size - 1) # random index in vocabulary.**
I think the replace index can't involve 'cls' ,'sep' and 'mask'!
Hướng dẫn đóng góp
Hướng nghiên cứu
Read the BERT example around line 70 and verify how randint selects replacement tokens. Done means the replacement index cannot select cls, sep, or mask, with the relevant notebook behavior checked.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- jupyter-notebook, python
- Lĩnh vực
- machine-learning
- Loại issue
- Lỗi
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 42/100