如果你想在自己的电脑上部署和运行各种开源 AI 模型,那么今天介绍的这款工具绝对值得体验!它不仅可以根据电脑的硬件配置,自动检测并推荐最适合你的 AI 模型,还集成了图片生成、视频生成、大语言模型以及 AI 智能体等多种功能。

无论是生成图片、图片编辑,还是通过开源视频模型制作视频,都可以直接在软件中完成,无需在多个工具之间来回切换。

更重要的是,它还支持运行各种开源、无审查的越狱模型,让你摆脱在线 AI 服务的诸多内容限制。同时,软件提供在线模型下载和手动导入两种方式,并针对不同硬件进行了优化,支持显存、内存和硬盘加载,即使显存容量不足,也能通过其他资源辅助运行。

此外,它还兼容 NVIDIA、AMD、Intel 显卡,甚至可以调用 CPU 运行模型,让不同配置的电脑都能找到适合自己的本地 AI 部署方案。
本地部署
一、下载 LocModel 本地部署神器
LocModel 是一款免费的开源模型本地部署工具,主打一键识别电脑硬件、自动适配并推荐开源模型、自动安装推理引擎以及支持在线下载或导入 GGUF 格式模型。
官方下载:https://locmodel.com
mac版本下载:https://www.locmodel.com/LocModel_0.1.0_universal.dmg
目前还未上证书,但是下载后 右键 →「打开」就能用
如果无法安装,可以在终端下执行命令:
就可以正常安装使用。
Linux 版下载:https://www.locmodel.com/LocModel-Linux.zip

下载解压进行安装后,会提示安装相应推理引擎,总共需要安装2个,点击下载安装即可,第一个是适用于大语言模型的llama.cpp开源框架,另外一个图片、视频生成引擎。
安装后不仅可以在线安装开源AI模型,也可以手动导入你之前下载好的模型,在本地离线写代码

生成图片、编辑图片

也可以在本地生成任何你需要的视频,完全免费开源!

二、无审查越狱模型
目前越狱模型支持在线下载,可以下载huggingface上的开源越狱模型,或者你可以自己去下载后导入GGUF格式的模型也可以!
越狱模型下载:【点击前往】
或者你可以在Locmodel上搜索关键词:【Huihui-Qwen3.8-27B-abliterated】找到这个模型,然后根据它上面的推荐,选择流畅版的即可下载模型!

Agent 支持本地模型,可以执行复杂的长任务,完全免费,不受任何内容限制


原创文章,作者:极客智库
,如若转载,请注明出处:https://www.jikezhiku.com/2238.html