NVIDIA / NVIDIA/GenerativeAIExamples

Incorrect Validation Warning When Using Multimodal Context With No Other Prompt References

未关闭
#348 0 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看

还没有人认领这个 Issue。

主要语言
Jupyter Notebook
星标
4.2k
派生
1.1k
平均合并
10 小时 15 分钟
30 天内合并 PR
1

描述

When an image is passed as context using the multi_modal_context parameter and no other column is referenced in the prompt, the validator throws an incorrect warning, PROMPT_WITHOUT_REFERENCES.

See visual-question-answering.ipynb to reproduce the error.

贡献指南

打开贡献指南

从这里开始

  1. 先读完整个 Issue,再读项目的贡献指南。
  2. 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
  3. Fork 仓库,在一个分支上完成修改。
  4. 提交 Pull Request,并在描述里引用这个 Issue 编号。

调研方向

从 nemo/NeMo-Data-Designer/advanced/multimodal/visual-question-answering-using-vlm.ipynb 开始,运行 visual-question-answering 示例以复现 PROMPT_WITHOUT_REFERENCES 警告。追踪 multi_modal_context 使用的验证器路径;当仅包含图像的上下文不再产生此警告,而真正不含引用的 prompt 仍然会产生此警告时,即表示完成。

由索引模型根据 Issue 内容生成。

评估

技术栈
jupyter-notebook
领域
ai
Issue 类型
缺陷
难度
3/5
预计耗时
1-2 天
活跃度
停滞
描述清晰度
基本清楚
新手友好度
45/100

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。