InternLM / InternLM/InternLM-XComposer
模型精度问题
Open
- Dominant language
- Python
- Stars
- 2.9k
- Forks
- 175
- PR merge metrics
- No merged PRs in 30d
Description
你好，使用中我发现如下问题：
在 InternLM-XComposer-2.5-OmniLive 中，我这边使用官方代码执行 `examples/infer_audio.py`，输出如下：
然后我看代码里使用的 torch.float16 加载的模型，这可能导致了数值精度的问题，当我切换成 bf16 或者 fp32 时，输出如下：
想确认下这个回答是符合预期的吗？Classify the audio 这个测试用例，输出是否应该是 cat?
Contributor guide
No contributing guide indexed for this repository
Assessment
This issue has not been assessed yet.