多模态批处理
Open
- Dominant language
- Python
- Stars
- 8.1k
- Forks
- 748
- Avg merge
- 6d 2h
- Merged PRs (30d)
- 54
Description
请教下，多模态批处理，想处理以下的场景：对同一张图，同一个prompt重复多次。
实际测试耗时没有明显减少，而且重复多次的结果基本一样，没有多样性。
想请教下，对于这种情况，图片提特征部分能否只进行一次，以及输出多样性如何提高。
谢谢
Contributor guide
Assessment
This issue has not been assessed yet.