如果我告诉你，一个只有 10 亿参数（1B） 的开源大模型，在综合能力测试中，不仅超过了多个 3B、4B 模型，甚至把 Gemma 7B 和 Llama 7B 都甩在了身后，你会相信吗？
最近，OpenBMB 正式发布了 MiniCPM5-1B。虽然参数规模仅为 1B，但它却在多个公开评测中拿下了第一名，也让不少开发者重新认识了「小模型」的潜力。
那么，这款模型究竟有哪些亮点？它适合哪些用户？又该如何在本地部署？本文带大家详细了解。
MiniCPM5-1B 是什么？
MiniCPM5-1B 是 OpenBMB 推出的新一代轻量级开源语言模型。
相比传统的大模型，它最大的特点就是：
- 参数仅 1B
- 支持最长 131072 Token（128K）上下文
- 支持 Think / No Think 双模式
- 支持 Agent 工具调用
- 支持代码生成
- 提供 GGUF、MLX、Transformers、vLLM、SGLang 等多个版本
这意味着，无论是 Windows、本地 Linux、Mac，还是 Ollama、LM Studio、llama.cpp 等平台，都可以轻松部署。
1B 参数，却登顶排行榜
MiniCPM5-1B 最令人惊讶的地方，就是它的综合性能。
根据 Artificial Analysis 最新公布的 Artificial Analysis Intelligence Index 数据，在 Sub-4B 开源模型排行榜中，MiniCPM5-1B 取得了 17.9 分，位列第一。
它超过了：
- Qwen3.5-2B（16.3）
- Nanbeige4 3B（16.1）
- NVIDIA Nemotron Nano 4B（14.7）
- MiniCPM4.0-1.3B（12.7）
- Ministral 3B（11.2）
- Gemma3 270M（7.7）
不仅如此，如果把范围扩大到一些更大的模型，它依然表现亮眼。
例如：
- NVIDIA Nemotron Nano 4B：14.7
- Gemma 7B：8.4
- Llama 7B：8.1
可以看到，MiniCPM5-1B 的综合得分已经明显领先于这些模型。
当然，需要说明的是，这类排行榜属于综合基准测试，主要反映模型在多个公开评测集上的整体表现，并不意味着它在所有实际应用场景中都一定优于更大参数模型，但足以说明其在轻量级模型中的竞争力。
本地部署教程
一、模型下载
1、Huggingface 【点击前往】
2、打包下载：【点击前往】
模型里总共有3个版本：F16是满血全精度版（推荐下载），大小只有2G左右，对显卡几乎没什么要求，只要你的显存是2G左右的就足够，Q8量化版大小是1G左右，如果你的显存是低于2G的，那么你就选择Q8版，当然如果你用CPU或者微型设备，那么就选择最小的Q4量化版即可！
二、llama.cpp 部署模型
通过 llama.cpp 来加载模型，不仅非常方便，速度也是极快的！ 如果你使用的是 llama.cpp，只需要下载对应 GGUF 模型即可。
下载方式：
1、GitHub 【点击前往】
2、打包下载 【点击前往】含一键启动脚本
下载 llama.cpp 压缩包后将其解压，并在根目录下创建一个名为models的模型文件夹，然后将第一步下载的模型文件，放入到该文件夹下。
三、启动脚本
通过下面的一键启动脚本，可以轻松将模型在llama.cpp加载并运行，内置3个模型选项及Thinking （深度思考） 和 No Thinking（快速模式）切换选择
一键启动脚本：
【点击获取】
也可以将下方的代码另存为BAT批处理文件
为什么 1B 模型还能这么强？
近年来，大模型的发展方向已经不仅仅是「堆参数」。
越来越多的研究开始关注：
- 更高质量的数据
- 更先进的训练策略
- 更合理的模型架构
- 推理能力优化
MiniCPM5-1B 正是在这些方面进行了大量优化。
官方表示，它重点提升了：
- 数学推理
- 代码生成
- Agent 能力
- 多轮对话
- 长文本理解
因此，在多个公开 Benchmark 中取得了不错的成绩。
支持 128K 超长上下文
MiniCPM5-1B 另一个值得关注的特点，就是支持 131072 Token 上下文。
这意味着它可以一次读取非常长的内容，例如：
- 一本电子书
- 大型项目源码
- 长篇论文
- 超长聊天记录
- 多份 PDF 文档
对于需要做知识整理、代码分析或者长文总结的用户来说，体验会比传统 8K、32K 上下文模型更好。
Think 与 No Think 双模式
MiniCPM5-1B 提供了两种不同的工作模式。
Think
适用于：
- 数学推理
- 编程
- 复杂逻辑
- 多步骤分析
模型会花更多时间思考，再给出答案。
No Think
适用于：
- 日常聊天
- 翻译
- 写作
- 问答
响应速度更快，更适合日常使用。
同一个模型即可切换，无需下载多个版本。
官方提供多个部署版本
为了方便不同平台使用，官方一次性提供了多个版本。
包括：
- GGUF（llama.cpp）
- MLX（Apple Silicon）
- Transformers
- vLLM
- SGLang
其中，GGUF 版本最适合普通用户。
目前提供三个量化版本：
| 模型 | 大小 | 推荐 |
|---|---|---|
| MiniCPM5-1B-Q4_K_M | 约688MB |  推荐，大多数用户 |
| MiniCPM5-1B-Q8_0 | 约1.15GB | 更高质量 |
| MiniCPM5-1B-F16 | 约2.17GB | 完整精度，适合评测 |
如果只是日常聊天和体验，Q4_K_M 已经能够提供不错的效果。
实测案例
1、代码能力测试，编写一个小游戏，完全没问题
2、逻辑推理也顺利通过
3、代码纠错也可以轻松搞定
四、对接 Hermes、OpenClaw 等主流 Agent
1、Hermes 本地调用 MiniCPM5-1B 模型
对接成功以后就可以在Hermse上使用MiniCPM5-1B 本地模型来执行Agent 任务了
原创文章，作者：极客智库
，如若转载，请注明出处：https://www.jikezhiku.com/996.html