如果你最近正在寻找一款适合本地部署，并且 Agent 与工具调用能力都足够强的开源模型，那么 Meta 最新发布的 Muse-Glimmer-30B，绝对值得关注。它并不是一款单纯用于聊天、写代码的传统大语言模型，而是从设计之初就将： Agent 工作流、工具调用、多步骤任务以及自主执行作为重点能力。
Muse-Glimmer-30B 总参数规模约 30B，并支持最高 128K 上下文，因此它更像是一款专门面向本地 Agent 场景打造的基础模型。
更值得注意的是它在 Agent 类测试中的表现。根据目前公开的测试数据，Muse-Glimmer-30B 在 MCP Atlas 上拿到了 75.5 分，明显高于 Qwen 3.6 27B 的 62.5 分；在 DeepSearch QA 上也取得了 74.6 分。这意味着，如果你的需求并不是简单地让 AI 陪你聊天，而是希望它能够主动调用 MCP 工具、执行代码、操作文件、进行搜索，并把一个复杂任务拆解成多个步骤自主完成，那么 Muse-Glimmer-30B 就非常值得实测。
同时在DFlsh的加速下，本地输出Token速度可以提升2~3倍，零度已经通llama.cpp进行了实测，确实能达到这个提速效果，关键是输出质量并没有受影响！
目前最重要的排名：它到底属于什么水平？
如果按照 30B 左右参数规模来看，我会暂时把它放在：
第一梯队
Muse-Glimmer-30B
Qwen 3.6 27B
Gemma 4 31B
这三个目前是非常值得拿来直接比较的。
但三者方向不一样：
| 模型 | 最大优势 |
|---|---|
| Muse-Glimmer 30B |  Agent / Tool Calling / 本地部署 |
| Qwen 3.6 27B | Coding / 综合能力 |
| Gemma 4 31B | 多模态 / 创作 / 综合 |
Meta 自己的定位也非常明确：Muse Glimmer 是专门为了 consumer hardware + autonomous agentic tasks 打造的。而且官方明确支持 OpenClaw、Hermes Agent。
本地部署
一、下载 Muse-Glimmer 30B 开源模型：
1、Huggingface 下载【点击前往】
2、网盘下载 【点击前往】
二、下载最新 llama.cpp
llama.cpp是在本地，以最小的设置和最先进的性能，在各种硬件上实现 LLM（和 VLM）推理。
- 纯 C/C++ 实现，没有任何依赖项
- 苹果芯片是一等公民——通过 ARM NEON、Accelerate 和 Metal 框架进行了优化。
- 支持 x86 架构的 AVX、AVX2、AVX512 和 AMX 指令集
- 对 RISC-V 架构的 RVV、ZVFH、ZFH、ZICBOP 和 ZIHINTPAUSE 支持
- 支持 1.5 位、2 位、3 位、4 位、5 位、6 位和 8 位整数量化，以加快推理速度并减少内存占用。
- 用于在 NVIDIA GPU 上运行 LLM 的自定义 CUDA 内核（通过 HIP 支持 AMD GPU，通过 MUSA 支持 Moore Threads GPU）
- Vulkan 和 SYCL 后端支持
- 利用 CPU+GPU 混合推理技术，部分加速大于总显存容量的模型。
【点击下载】或 【网盘打包下载】
里面有适合N卡、A卡、I卡、CPU、MacOS 等版本，大家可以根据自己的需要进行下载，值得注意的是，如果的N卡，需要将里面的驱动文件一并下载合并在一期，嫌麻烦可以直接下载 llama.cpp的一键安装包 【点击前往】
三、下载一键启动脚本
只需将一键启动脚本下载解压，然后将里面的3个文件，全部放入llama.cpp的根目录进行启动即可，它可以根据你的硬件自动识别适合你的启动参数和方式，并且可以选择启动的模型、是否开启DFlash加速等！
一键启动脚本：
【点击下载】、【网盘下载】
四、 Hermes Agent
如果需要将Muse-Glimmer 30 模型，本地执行 Agent 、工具调用、多轮复杂任务运行，那么推荐使用开源的 Hermes Agent，无论是兼容性，还是上下文长度，都可以做到很好的适配！
官方下载：【点击前往】或 【网盘下载】
比如通过一个游戏截图，让它自己调用工具，本地生成游戏，它也能一次性搞定，效果非常可以
原创文章，作者：极客智库
，如若转载，请注明出处：https://www.jikezhiku.com/1359.html