Update docs/function_call_guide_cn.md

docs/function_call_guide_cn.md

@@ -6,9 +6,122 @@ MiniMax-M1 模型支持函数调用功能，使模型能够识别何时需要调
 
 ## 🚀 快速开始
 
-### 聊天模板使用
+### 使用 vLLM 进行 Function Calls（推荐）
 
-MiniMax-M1 使用特定的聊天模板格式处理函数调用。聊天模板定义在 `tokenizer_config.json` 中，你可以在代码中通过 template 来进行使用。
+在实际部署过程中，为了支持类似 OpenAI API 的原生 Function Calling（工具调用）能力，MiniMax-M1 模型集成了专属 `tool_call_parser=minimax` 解析器，从而避免对模型输出结果进行额外的正则解析处理。
+
+#### 环境准备与重新编译 vLLM
+
+由于该功能尚未正式发布在 PyPI 版本中，需基于源码进行编译。以下为基于 vLLM 官方 Docker 镜像 `vllm/vllm-openai:v0.8.3` 的示例流程：
+
+```bash
+IMAGE=vllm/vllm-openai:v0.8.3
+DOCKER_RUN_CMD="--network=host --privileged --ipc=host --ulimit memlock=-1 --shm-size=32gb --rm --gpus all --ulimit stack=67108864"
+
+# 运行 docker
+sudo docker run -it -v $MODEL_DIR:$MODEL_DIR \
+                    -v $CODE_DIR:$CODE_DIR \
+                    --name vllm_function_call \
+                    $DOCKER_RUN_CMD \
+                    --entrypoint /bin/bash \
+                    $IMAGE
+```
+
+#### 编译 vLLM 源码
+
+进入容器后，执行以下命令以获取源码并重新安装：
+
+```bash
+cd $CODE_DIR
+git clone https://github.com/vllm-project/vllm.git
+cd vllm
+pip install -e .
+```
+
+#### 启动 vLLM API 服务
+
+```bash
+export SAFETENSORS_FAST_GPU=1
+export VLLM_USE_V1=0
+
+python3 -m vllm.entrypoints.openai.api_server \
+--model MiniMax-M1-80k \
+--tensor-parallel-size 8 \
+--trust-remote-code \
+--quantization experts_int8  \
+--enable-auto-tool-choice \
+--tool-call-parser minimax \
+--chat-template vllm/examples/tool_chat_template_minimax_m1.jinja \
+--max_model_len 4096 \
+--dtype bfloat16 \
+--gpu-memory-utilization 0.85
+```
+
+**⚠️ 注意：**
+- `--tool-call-parser minimax` 为关键参数，用于启用 MiniMax-M1 自定义解析器
+- `--enable-auto-tool-choice` 启用自动工具选择
+- `--chat-template` 模板文件需要适配 tool calling 格式
+
+#### Function Call 测试脚本示例
+
+以下 Python 脚本基于 OpenAI SDK 实现了一个天气查询函数的调用示例：
+
+```python
+from openai import OpenAI
+import json
+
+client = OpenAI(base_url="http://localhost:8000/v1", api_key="dummy")
+
+def get_weather(location: str, unit: str):
+    return f"Getting the weather for {location} in {unit}..."
+
+tool_functions = {"get_weather": get_weather}
+
+tools = [{
+    "type": "function",
+    "function": {
+        "name": "get_weather",
+        "description": "Get the current weather in a given location",
+        "parameters": {
+            "type": "object",
+            "properties": {
+                "location": {"type": "string", "description": "City and state, e.g., 'San Francisco, CA'"},
+                "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]}
+            },
+            "required": ["location", "unit"]
+        }
+    }
+}]
+
+response = client.chat.completions.create(
+    model=client.models.list().data[0].id,
+    messages=[{"role": "user", "content": "What's the weather like in San Francisco? use celsius."}],
+    tools=tools,
+    tool_choice="auto"
+)
+
+print(response)
+
+tool_call = response.choices[0].message.tool_calls[0].function
+print(f"Function called: {tool_call.name}")
+print(f"Arguments: {tool_call.arguments}")
+print(f"Result: {get_weather(**json.loads(tool_call.arguments))}")
+```
+
+**输出示例：**
+```
+Function called: get_weather
+Arguments: {"location": "San Francisco, CA", "unit": "celsius"}
+Result: Getting the weather for San Francisco, CA in celsius...
+```
+
+### 手动解析模型输出
+
+如果您无法使用 vLLM 的内置解析器，或者需要使用其他推理框架（如 transformers、TGI 等），可以使用以下方法手动解析模型的原始输出。这种方法需要您自己解析模型输出的 XML 标签格式。
+
+#### 使用 Transformers 的示例
+
+以下是使用 transformers 库的完整示例：
 
 ```python
 from transformers import AutoTokenizer
@@ -51,21 +164,26 @@ text = tokenizer.apply_chat_template(
     tools=tools
 )
 
-# 发送请求
+# 发送请求（这里使用任何推理服务）
 import requests
 payload = {
     "model": "MiniMaxAI/MiniMax-M1-40k",
     "prompt": text,
     "max_tokens": 4000
 }
-
 response = requests.post(
-                          "http://localhost:8000/v1/completions",
-                          headers={"Content-Type": "application/json"},
-                          json=payload,
-                          stream=False,
-                        )
-print(response.json()["choices"][0]["text"])
+    "http://localhost:8000/v1/completions",
+    headers={"Content-Type": "application/json"},
+    json=payload,
+    stream=False,
+)
+
+# 模型输出需要手动解析
+raw_output = response.json()["choices"][0]["text"]
+print("原始输出:", raw_output)
+
+# 使用下面的解析函数处理输出
+function_calls = parse_function_calls(raw_output)
 ```
 
 ## 🛠️ 函数调用的定义
@@ -121,7 +239,6 @@ You are provided with these tools:
 <tools>
 {"name": "search_web", "description": "搜索函数。", "parameters": {"properties": {"query_list": {"description": "进行搜索的关键词，列表元素个数为1。", "items": {"type": "string"}, "type": "array"}, "query_tag": {"description": "query的分类", "items": {"type": "string"}, "type": "array"}}, "required": ["query_list", "query_tag"], "type": "object"}}
 </tools>
-
 If you need to call tools, please respond with <tool_calls></tool_calls> XML tags, and provide tool-name and json-object of arguments, following the format below:
 <tool_calls>
 {"name": <tool-name>, "arguments": <args-json-object>}
@@ -146,16 +263,15 @@ Okay, I will search for the OpenAI and Gemini latest release.
 </tool_calls>
 ```
 
-## 📥 函数调用结果处理
+## 📥 手动解析函数调用结果
 
 ### 解析函数调用
 
-您可以使用以下代码解析模型输出的函数调用：
+当需要手动解析时，您需要解析模型输出的 XML 标签格式：
 
 ```python
 import re
 import json
-
 def parse_function_calls(content: str):
     """
     解析模型输出中的函数调用
@@ -265,8 +381,8 @@ tool result: test_result
 <end_of_sentence>
 ```
 
-
 #### 多个结果
+
 假如模型同时调用了 `search_web` 和 `get_current_weather` 函数，您可以参考如下格式添加执行结果，`content`包含多个结果。
 
 ```json
@@ -292,9 +408,15 @@ tool result: test_result
 <beginning_of_sentence>tool name=tools
 tool name: search_web
 tool result: test_result1
-
 tool name: get_current_weather
 tool result: test_result2<end_of_sentence>
 ```
 
 虽然我们建议您参考以上格式，但只要返回给模型的输入易于理解，`name` 和 `text` 的具体内容完全由您自主决定。
+
+## 📚 参考资料
+
+- [MiniMax-M1 模型仓库](https://github.com/MiniMaxAI/MiniMax-M1)
+- [vLLM 项目主页](https://github.com/vllm-project/vllm)
+- [vLLM Function Calling PR](https://github.com/vllm-project/vllm/pull/20297)
+- [OpenAI Python SDK](https://github.com/openai/openai-python)