internLM2 20B长本文部署后，调用接口异常

### Checklist

- [ ] 1. I have searched related issues but cannot get the expected help.
- [ ] 2. The bug has not been fixed in the latest version.

### Describe the bug

给一个1-20万字的文本，让它总结文本内容，只要超过1万字，就一定会有2个问题中的一个 1. 每次只输出几个字，输出内容不变，答非所问，缺乏长文本总结能力 2.从文本中找一段文字重复输出。文本越长，第一个发生的概率越大

### Reproduction

使用 lmdeploy serve api_server部署 session_len 160000 rope_scaling_factor 2.0 其他参数默认

### Environment

```Shell
Python 3.10 cuda 11.8 torch 2.1.0
```

### Error traceback

_No response_