自托管 MiniMax M2.7 时可从官方推荐的 temperature=1.0, top_p=0.95, top_k=40 和默认系统提示起步,并按其 <minimax:tool_call> XML 语法定义/解析工具。
适合的任务:自托管 Agent、OpenAI SDK 兼容服务、代码/研究工具调用、多轮工程工作流。
不适合的任务:直接把原始 XML 输出交给生产工具执行;必须先严格解析、schema 校验和权限校验。
适用的模型版本:MiniMax-M2.7;仓库说明 M2.7 使用与 M2 相同的 toolcall 语法。
适用的客户端、Agent 或 API:vLLM、SGLang、Transformers、OpenAI Python SDK 兼容 endpoint;云 provider 可能自定义 parser/config。
推荐的推理档位和参数:官方仓库推荐 temperature=1.0、top_p=0.95、top_k=40;不要在未测试时擅自把 temperature 降到 0。
官方默认系统提示:
You are a helpful assistant. Your name is MiniMax-M2.7 and is built by MiniMax.官方工具调用 XML 结构(工具名、参数名和参数值按实际 schema 替换):
<minimax:tool_call>
<invoke name="search_web">
<parameter name="query_tag">["technology", "events"]</parameter>
<parameter name="query_list">["OpenAI latest release"]</parameter>
</invoke>
</minimax:tool_call>OpenAI SDK 兼容工具定义骨架:
tools = [{
"type": "function",
"function": {
"name": "search_web",
"description": "Search approved sources and return source URLs.",
"parameters": {
"type": "object",
"properties": {
"query": {"type": "string", "description": "One precise search query."}
},
"required": ["query"]
}
}
}]使用官方推荐参数启动同一 inference server,并确认 chat template 与 tokenizer 版本匹配。
让模型执行一个天气/搜索工具调用,保存完整原始输出;检查是否有一个或多个 <invoke>。
优先使用 vLLM/SGLang 内置 parser;若手动解析,按 XML 块、invoke、parameter 三层解析,再按 JSON schema 转换类型。
工具执行前校验名称、参数类型、必填字段、权限和 allowlist;执行后把结构化结果作为 tool message 回传。
对同一工具集比较 temperature/top-p 配置、不同 provider 和 streaming/non-streaming 的调用成功率。
官方仓库明确推荐 temperature=1.0、top_p=0.95、top_k=40,并给出默认 system prompt。
官方工具指南推荐 vLLM 或 SGLang 做 tool-call parsing;其他框架需手动解析 XML。
官方输出格式为 <minimax:tool_call> → <invoke name> → <parameter name>,支持一个块中的多个 invoke。
工具参数定义使用 JSON Schema,官方示例要求 name、description、parameters.properties、required 和 type。
这些参数是官方自托管起始值,不代表所有任务或云端 provider 最优;应使用任务级 eval。
原始 XML 可能包含格式错误、缺失引号或转义问题;不能用正则抓取后直接执行。
不同 inference engine/provider 的 chat template、tool parser 和采样配置可能不同;社区已有双引号被剥离的反馈,必须做 provider A/B。
默认系统提示不包含业务权限、数据隐私或完成验收条件,生产系统必须另行添加。
官方工具指南明确写着“strongly recommend using vLLM or SGLang for parsing tool calls”(合规短引)。
MiniMax M2.7