← AI 教程

Platforms · 6 分钟

大模型安装平台介绍

先分清四类:图形界面、命令行、模型库、云端。平台是运行器,模型是另外下载的文件。

图形界面

这一类装好就能在窗口里搜模型、下载、开聊,不用记命令。适合先在自己电脑上跑起来的人。

LM Studio 界面最完整,能搜模型、调节放到显卡上的层数,也能开一个本机接口给别的软件用。Jan 和 GPT4All 同样是免费桌面程序,偏聊天,步骤更短。三家都支持 Windows、macOS 和 Linux。

LM StudioJanGPT4All

命令行

Ollama 用一条命令拉取并运行模型,装好后本机有一个服务,地址是 http://127.0.0.1:11434。脚本、编辑器插件和画图流程都可以接这个地址。

它也有桌面安装包,Windows 和 macOS 装完托盘里会有图标,真正下载模型仍在终端里完成。要接到自己的程序上,选这一类。

Ollama

模型库

模型库不负责在你电脑上跑模型,它只负责放文件。Ollama 官方库用名字就能拉取,例如 qwen2.5:1.5b,体积大约 1GB。

Hugging Face 模型最多,服务器在海外,国内经常比较慢。魔搭(ModelScope)是国内的模型社区,搜 GGUF 格式再交给 Ollama 或 LM Studio。本机工具多数认 GGUF,下别的格式之前先看运行器支不支持。

Ollama 模型库Hugging Face魔搭 ModelScope

云端,不往本机装

内存或磁盘不够时,不必在自己电脑上装。聊天产品打开网页就能用,本站 AI 集市里有 DeepSeek、豆包、千问和 Grok 的入口。

需要接到自己的程序时,用各家的开放接口,按量调用,模型留在对方机房。这一类没有安装包,也没有本机模型文件。

本站 AI 集市