站内导读

中文

用途:在本地跑大模型的工具,主打省事:一条命令拉取模型并运行,不必自己配推理环境,是个人电脑上玩开源模型最常用的入口之一。 能做什么

  • 一条命令下载并运行模型,自动处理权重与运行配置。
  • 本地运行,数据不出机器,断网也能用。
  • 提供命令行与 API 接口,方便接到自己的脚本和应用里。

适用场景:想在自己电脑上离线跑开源模型、或给本地应用接一个模型后端的开发者与爱好者。

相关项目 · 值得收藏的网站

查看全部「值得收藏的网站」项目 →