abertsch72 / abertsch72/unlimiformer

How can we use unlimiformer for sequence classification (textual entailment)?

未關閉
#62 0 則留言 0 個 reaction 已指派 0 人 在 GitHub 檢視
主要語言
Python
星號
1.1k
分支
78
PR 合併指標
30 天內沒有已合併 PR

描述

這個 Issue 沒有描述。

貢獻指南

這個儲存庫沒有索引到貢獻指南

研究方向

這個 issue 討論如何為 textual entailment 等序列分類任務調整 Unlimiformer。先閱讀論文和現有 codebase,以了解 Unlimiformer 目前如何處理長距離輸入,這很可能是在生成任務中實現的。在 repository 中尋找模型定義和分類頭。確定支援分類所需的修改,例如加入分類器層以及調整注意力機制。檢查是否有針對不同任務的範例或測試。

由索引模型根據 Issue 內容生成。

評估

技術堆疊
huggingface, machine-learning
領域
ai, machine-learning
Issue 類型
功能
難度
4/5
預估耗時
3-5 天
活躍度
停滯
描述清晰度
需要釐清
新手友好度
35/100

把新 issue 寄到你的電子郵件信箱

精選適合新手參與的 GitHub issue 摘要。