bigscience-workshop

bigscience-workshop/training_dynamics

GitHub で見る

スター: 5
フォーク: 4
オープンの初心者向け issue: 0
索引済み issue: 11

主要言語: 言語のデータがありません
ライセンス: ライセンスのデータがありません
最終 GitHub push: 2021年8月29日
最新の索引: 2026年9月14日
コントリビューションガイド: コントリビューションガイドがありません
行動規範: 行動規範がありません
初心者向けラベル: good first issue
PR マージ指標: 30日以内にマージされた PR はありません

オープンすべて

オープンの issue を 11 件索引しました

Implement the structural probe for syntax structure in Manning and Hewitt 2019 オープン

good first issue

bigscience-workshop/training_dynamics#1 · コメント 4 件 · リアクション 0 件 · 担当者 1 名 · 2026年9月14日に索引
Test initial structural probes on BERT to replicate Manning and Hewitt results オープン

bigscience-workshop/training_dynamics#2 · コメント 1 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月14日に索引
Implement the parse depth structural probe (from A Structural Probe for Finding Syntax in Word Representations) オープン

good first issue

bigscience-workshop/training_dynamics#3 · コメント 1 件 · リアクション 0 件 · 担当者 1 名 · 2026年9月14日に索引
Implement differentiable weight masks for modularity detection (from Are Neural Nets Modular? Inspecting Functional Modularity Through Differentiable Weight Masks) オープン

good first issue

bigscience-workshop/training_dynamics#4 · コメント 1 件 · リアクション 0 件 · 担当者 1 名 · 2026年9月14日に索引
Implement the SentEval methods (linear and MLP; from What you can cram into a single {\$}{\&}!{\#}* vector: Probing sentence embeddings for linguistic properties) オープン

good first issue

bigscience-workshop/training_dynamics#6 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月14日に索引
Implement the control tasks technique to ensure probes are selective (from Designing and Interpreting Probes with Control Tasks) オープン

bigscience-workshop/training_dynamics#7 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月14日に索引
Implement saliency methods (from: The elephant in the interpretability room: Why use attention as explanation when we have saliency methods?) オープン

bigscience-workshop/training_dynamics#8 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月14日に索引
Implement auxiliary prediction tasks (from: Fine-grained Analysis of Sentence Embeddings Using Auxiliary Prediction Tasks) オープン

bigscience-workshop/training_dynamics#9 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月14日に索引
Extract the dataset or data generating process from (Yao et. al. 2021) オープン

bigscience-workshop/training_dynamics#10 · コメント 0 件 · リアクション 0 件 · 担当者 1 名 · 2026年9月14日に索引
Set up infrastructure to isolate specific layers or groups of layers in the network for probing オープン

bigscience-workshop/training_dynamics#11 · コメント 0 件 · リアクション 0 件 · 担当者 1 名 · 2026年9月14日に索引
Design initial probes オープン

bigscience-workshop/training_dynamics#12 · コメント 0 件 · リアクション 0 件 · 担当者 0 名 · 2026年9月14日に索引

初心者向けの GitHub issue を短くまとめたダイジェスト。