Update vllm_deployment_guide_cn.md
Browse files
vllm_deployment_guide_cn.md
CHANGED
|
@@ -42,7 +42,10 @@ git clone https://huggingface.co/MiniMaxAI/MiniMax-M1-40k
|
|
| 42 |
为确保部署环境的一致性和稳定性,我们推荐使用 Docker 进行部署。
|
| 43 |
|
| 44 |
⚠️ **版本要求**:
|
| 45 |
-
-
|
|
|
|
|
|
|
|
|
|
| 46 |
|
| 47 |
1. 获取容器镜像:
|
| 48 |
```bash
|
|
|
|
| 42 |
为确保部署环境的一致性和稳定性,我们推荐使用 Docker 进行部署。
|
| 43 |
|
| 44 |
⚠️ **版本要求**:
|
| 45 |
+
- 基础要求:vLLM 版本必须 ≥ 0.8.3,以确保对 MiniMax-M1 模型的完整支持
|
| 46 |
+
- 特殊说明:如果使用 vLLM 0.8.3 至 0.9.2 之间的版本,需要修改模型配置文件:
|
| 47 |
+
- 打开 `config.json`
|
| 48 |
+
- 将 `config['architectures'] = ["MiniMaxM1ForCausalLM"]` 修改为 `config['architectures'] = ["MiniMaxText01ForCausalLM"]`
|
| 49 |
|
| 50 |
1. 获取容器镜像:
|
| 51 |
```bash
|