Platforms · 6 分钟
大模型安装平台介绍
先分清四类:图形界面、命令行、模型库、云端。平台是运行器,模型是另外下载的文件。
图形界面
这一类装好就能在窗口里搜模型、下载、开聊,不用记命令。适合先在自己电脑上跑起来的人。
LM Studio 界面最完整,能搜模型、调节放到显卡上的层数,也能开一个本机接口给别的软件用。Jan 和 GPT4All 同样是免费桌面程序,偏聊天,步骤更短。三家都支持 Windows、macOS 和 Linux。
命令行
Ollama 用一条命令拉取并运行模型,装好后本机有一个服务,地址是 http://127.0.0.1:11434。脚本、编辑器插件和画图流程都可以接这个地址。
它也有桌面安装包,Windows 和 macOS 装完托盘里会有图标,真正下载模型仍在终端里完成。要接到自己的程序上,选这一类。
模型库
模型库不负责在你电脑上跑模型,它只负责放文件。Ollama 官方库用名字就能拉取,例如 qwen2.5:1.5b,体积大约 1GB。
Hugging Face 模型最多,服务器在海外,国内经常比较慢。魔搭(ModelScope)是国内的模型社区,搜 GGUF 格式再交给 Ollama 或 LM Studio。本机工具多数认 GGUF,下别的格式之前先看运行器支不支持。
云端,不往本机装
内存或磁盘不够时,不必在自己电脑上装。聊天产品打开网页就能用,本站 AI 集市里有 DeepSeek、豆包、千问和 Grok 的入口。
需要接到自己的程序时,用各家的开放接口,按量调用,模型留在对方机房。这一类没有安装包,也没有本机模型文件。