InternLM / InternLM/Tutorial

微调训练后,直接提问数据集问题,没有得到预期回答

オープン
#377 コメント 1 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

主要言語
Python
スター
2k
フォーク
1.5k
PR マージ指標
30日以内にマージされた PR はありません

説明

按文档训练后,直接提问数据集问题,没有得到预期回答

![WechatIMG299](https://github.com/InternLM/tutorial/assets/20661962/c316461c-3b7d-4f0b-a322-87008431b773)
![WechatIMG300](https://github.com/InternLM/tutorial/assets/20661962/b36fc12b-8842-437b-a2e9-f9bc8458bdad)
![WechatIMG301](https://github.com/InternLM/tutorial/assets/20661962/c5d1a6f7-cc35-4b6a-81e1-8e547a89cb8b)
![WechatIMG307](https://github.com/InternLM/tutorial/assets/20661962/aef26a98-e414-4444-81ce-ef359e479829)
![WechatIMG309](https://github.com/InternLM/tutorial/assets/20661962/d4edcbbe-769e-4774-b99f-7c8081e059c1)
之前训练还加了参数deepspeed,也是一样对话结果,还以为是使用了这个参数影响,后面重新来了一遍跟文档一样的配置操作,仅仅区别只做了一轮训练

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

調査の方向性

まず、文書化された fine-tuning ワークフローを再現し、1エポックの実行と DeepSpeed を使用した実行を比較します。添付されたスクリーンショットとトレーニング設定を使って、データセットが学習されているか、また推論プロンプトがトレーニング形式と一致しているかを判断します。予期しない回答の原因を特定し、検証済みの修正または制限事項をチュートリアルに記録できれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
python
領域
machine-learning
issue の種類
バグ
難易度
4/5
見積もり時間
3〜5日
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
25/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。