本地部署1250亿参数

• 大模型与提示词

  Strata开源推理引擎本地部署指南：低配电脑如何流畅运行125B大模型

  本地部署超强开源大模型的时代，正在加速到来！最近，GitHub 上一款名为 Strata 的开源模型部署工具引起了不少关注。它的一大亮点是尝试通过显存、系统内存与硬盘的协同调度，让…

  12小时前