Instructions to use MiniMaxAI/MiniMax-M3.1-Flash with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use MiniMaxAI/MiniMax-M3.1-Flash with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("image-text-to-text", model="MiniMaxAI/MiniMax-M3.1-Flash", trust_remote_code=True)
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
pipe(text=messages)

# pip install -U transformers accelerate
# Load model directly
from transformers import AutoProcessor, AutoModelForMultimodalLM

processor = AutoProcessor.from_pretrained("MiniMaxAI/MiniMax-M3.1-Flash", trust_remote_code=True)
model = AutoModelForMultimodalLM.from_pretrained("MiniMaxAI/MiniMax-M3.1-Flash", trust_remote_code=True, device_map="auto")
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
inputs = processor.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=256)
print(processor.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use MiniMaxAI/MiniMax-M3.1-Flash with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "MiniMaxAI/MiniMax-M3.1-Flash"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "MiniMaxAI/MiniMax-M3.1-Flash",
		"messages": [
			{
				"role": "user",
				"content": [
					{
						"type": "text",
						"text": "Describe this image in one sentence."
					},
					{
						"type": "image_url",
						"image_url": {
							"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
						}
					}
				]
			}
		]
	}'

Use Docker

docker model run hf.co/MiniMaxAI/MiniMax-M3.1-Flash

SGLang

How to use MiniMaxAI/MiniMax-M3.1-Flash with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "MiniMaxAI/MiniMax-M3.1-Flash" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "MiniMaxAI/MiniMax-M3.1-Flash",
		"messages": [
			{
				"role": "user",
				"content": [
					{
						"type": "text",
						"text": "Describe this image in one sentence."
					},
					{
						"type": "image_url",
						"image_url": {
							"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
						}
					}
				]
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "MiniMaxAI/MiniMax-M3.1-Flash" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "MiniMaxAI/MiniMax-M3.1-Flash",
		"messages": [
			{
				"role": "user",
				"content": [
					{
						"type": "text",
						"text": "Describe this image in one sentence."
					},
					{
						"type": "image_url",
						"image_url": {
							"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
						}
					}
				]
			}
		]
	}'

Docker Model Runner
How to use MiniMaxAI/MiniMax-M3.1-Flash with Docker Model Runner:
```
docker model run hf.co/MiniMaxAI/MiniMax-M3.1-Flash
```

MiniMax-M3.1-Flash / README_zh.md

Init MiniMaxAI/MiniMax-M3.1-Flash

54e4e69 about 11 hours ago

preview code

Raw History Blame Contribute Delete

23.4 kB

metadata

pipeline_tag: image-text-to-text
license: other
license_name: minimax-community
license_link: LICENSE
library_name: transformers
tags:
  - multimodal
  - moe
  - agent
  - coding
  - video

English

MiniMax-M3.1-Flash

MiniMax-M3.1-Flash 是一款原生多模态混合专家（MoE）模型，面向编程、智能体工作流、计算机使用和网络安全等场景。它支持文本、图像和视频输入，上下文窗口最高可达 100 万 tokens。

在 MiniMax-M3 的基础上，M3.1-Flash 通过全模型稀疏注意力、量化感知训练和 DSpark 投机解码，进一步提升了任务表现与推理效率。

亮点：

智能体能力： 在智能体任务、编程和网络安全方面实现代际跃升——BankerToolBench 76.2、DeepSWE v1.1 73.7%、OSWorld V2 61.7、Agents' Last Exam 29.6、CyberGym 82.2。
高效设计： 全模型稀疏注意力、量化感知训练和 DSpark 投机解码共同提升推理效率。

模型概览

架构： 原生多模态混合专家（MoE）
参数： 总参数约 428B；每 token 激活约 23B
输入 / 输出： 文本、图像和视频输入；文本输出
上下文窗口： 最高 1,000,000 tokens
注意力： 全模型采用 MiniMax Sparse Attention（MSA）
投机解码： 包含 DSpark draft head

基准测试

基准测试	MiniMax M3.1 Flash	DeepSeek V4.1 Flash-1017	DeepSeek V4.1 Flash	Kimi K3	GLM-5.3	GPT-5.6 Sol	Opus 5
Automation-Bench v1.0.6	62.8	60.5	54.8	46.7	48.8	45.8	50.3
BankerToolBench	76.2	—	73.7	69.1	74.5	74.6	76.2
GDP.pdf AA	20.8	—	12.8	22.0	11.2	27.2	21.6
Terminal Bench 4.0	38.1	42.3	31.2	12.6	37.9	39.9	51.8
LOCA-Bench 256K	60.3	—	—	49.7	50.3	60.0	53.7
Agents’ Last Exam	29.6	—	—	28.3	—	30.6	32.2
OSWorld 2.0	61.7	—	54.3	58.3	—	65.7	70.6
PostTrain Bench v1.1	39.3	—	30.5	36.6	37.5	36.2	40.4
DeepSWE v1.1	73.7	77.0	74.2	67.5	66.9	73.0	74.0
NL2Repo-Bench	61.2	68.2	65.4	58.0	58.0	56.8	75.3
SWE Refactor Bench	23.0	—	11.8	19.5	10.4	28.5	31.0
CyberGym	82.2	—	—	80.0	84.5	83.6	—
BabyVision (with tools)	91.0	92.5	89.6	85.7	—	88.9	94.1
HLE (without tools)	43.4	42.6	39.2	43.5	42.3	49.5	55.6
CharXiv RQ	82.5	—	69.0	84.8	—	85.2	83.7

评测说明

Automation-Bench v1.0.6： 600 个公开任务。
BankerToolBench： OpenCode 1.17.18；MiniMax-M2.7 作为 judge。
GDP.pdf AA： 直接取自 Artificial Analysis。
Terminal Bench 4.0： Codex 0.149.1。
LOCA-Bench 256K： 官方实现。
Agents’ Last Exam： 采用官方 Overall 设置；仅收录官方 ALE 榜单的完整测试集结果。空白表示没有官方结果（仅 CLI 结果不计入），并非零分。
OSWorld 2.0： 采用 0808 Full 版本；各模型取其发布时报告的最高分，DeepSeek V4.1 除外（内部复现）。
PostTrain Bench v1.1： Claude Code 2.1.251，512K 上下文；其余设置遵循官方评测。
DeepSWE v1.1： mini-SWE-agent 2.4.5，512K 上下文。
NL2Repo-Bench： Claude Code 2.1.233，512K 上下文；reward hacking 计 0 分；修正了两个规格与测试不一致的任务（分数基于修正后的测试集）。
SWE Refactor Bench： Claude Code 2.1.220，200K 上下文；其余设置遵循官方评测。
CyberGym： Claude Code 2.1.263，1M 上下文。
BabyVision（带工具）： Claude Code 2.1.285；图像最短边 1,500 px。
HLE（不带工具）： 纯文本子集（2,158 题）。
CharXiv RQ： GPT-5.5 作为 judge。

以上结果基于官方权重；第三方量化版本可能有所不同。

M3.1-Flash 的新特性

M3.1-Flash 延续 M3 的核心混合专家架构，主要有三项变化：

全模型稀疏注意力： 前三个全注意力层替换为稀疏注意力。
量化感知训练： 路由 MoE 专家与注意力路径在训练阶段完成量化，降低显存占用并提升推理效率。
DSpark 投机解码： DSpark 取代此前的类 EAGLE MTP 方案。本次发布包含 draft head，可与兼容的 serving 实现配合使用。

如何使用

本地部署

下载模型：

hf download MiniMaxAI/MiniMax-M3.1-Flash --local-dir MiniMax-M3.1-Flash

推荐使用以下推理框架部署模型：

SGLang — 参见 SGLang cookbook。
vLLM — 参见 vLLM recipe。

更多集成正在推进中：Transformers、TokenSpeed、KTransformers、unsloth 和 ATOM。

推理设置

推荐采样设置：temperature=1.0 和 top_p=0.95。

推理时，在 chat template 中设置 reasoning_effort：low、medium、high、xhigh 或 max。

模型支持最高 100 万 tokens 的上下文窗口。可用上下文长度和吞吐量取决于 GPU 显存和 serving 配置。

联系我们

请联系 model@minimax.io。