私有化部署 ChatGPT 界面?一条命令搞定
Open WebUI 是一个自托管的 AI 对话界面,提供类似 ChatGPT 的现代化 Web 体验,可以连接 Ollama 本地模型、OpenAI API 以及其他兼容 OpenAI 格式的 LLM 服务。在自己的设备上跑大语言模型,数据不出本地,也不用付 API 调用费。
Open WebUI 支持多用户管理、对话历史、文件上传分析、RAG 知识库、模型参数调节、Markdown 渲染、代码高亮等功能。与 Ollama 深度集成,Llama 3、Mistral、Gemma、Qwen 等开源模型都能直接用。
为什么 Open WebUI 安装这么容易卡?
Open WebUI 的完整安装链路涉及多个组件协同,卡点就在这里:
- Ollama 安装与集成 — 需要先安装 Ollama,确保服务正在运行,并且 Open WebUI 能通过正确的 API 地址访问到它。
- 模型拉取耗时 — 即使是较小的模型也有几 GB 大小,国内用户经常遇到下载中断的问题。
- GPU 直通配置 — Linux 用户需要安装 NVIDIA Container Toolkit,Windows 用户需要确保 WSL2 中能正确访问 GPU。
- Docker 网络与服务启动顺序 — Docker 网络隔离和不同的 Ollama 监听地址经常导致 "connection refused" 错误。
灵机云的 AI Agent 怎么处理这些问题
"安装 Ollama + 拉取模型 + 安装 Docker + 配置网络 + 启动 WebUI" —— 这些步骤全部压缩成一条命令,agent 自己完成。
- Ollama 自动安装与启动 — 检测 Ollama 是否已安装,未安装则自动安装并确保服务正确启动。
- 智能模型推荐 — 根据你的硬件配置推荐合适的模型尺寸,并自动拉取一个基础模型。
- 网络配置自动处理 — 自动处理 Docker 容器与 Ollama 之间的网络通信。
- 端到端验证 — 安装完成后自动验证 Web 界面、Ollama 连接和模型可用性。
通过 AIMA 安装 Open WebUI:分步指南
第 1 步:打开终端
在 macOS 上打开 Terminal.app 或 iTerm2;在 Linux 上打开你常用的终端模拟器;在 Windows 上以管理员权限打开 PowerShell。
第 2 步:运行安装命令
macOS 和 Linux 用户运行以下命令:
curl -sL https://aimaservice.ai/install/open-webui | bash Windows 用户在 PowerShell 中运行:
iex (irm https://aimaservice.ai/install/open-webui) 第 3 步:按提示走
邀请码已经内置在命令里了,不用手动输。AIMA 客户端启动后按提示操作即可。
第 4 步:等 agent 装好
agent 自动装好 Ollama(如果还没有),拉取一个适合你硬件的基础模型,装好 Docker,拉取 Open WebUI 容器镜像,配好 Ollama 连接,启动所有服务。
第 5 步:打开浏览器开始对话
装完 agent 会给出访问地址,通常是 http://localhost:3000 或 http://localhost:8080。创建管理员账号,就能开始跟本地 AI 对话了。
系统要求
| 项目 | 要求 |
|---|---|
| 操作系统 | macOS 12+、Ubuntu 22.04/24.04、Windows 10/11 |
| 内存 (RAM) | 最低 8 GB(运行 7B 模型),推荐 16 GB+(运行 13B+ 模型) |
| GPU(推荐) | NVIDIA GPU 6 GB+ 显存;Apple Silicon(统一内存);或 CPU-only 模式 |
| 磁盘空间 | 至少 15 GB(含 Docker 镜像 + 一个 7B 模型) |
| 网络 | 需要互联网连接以拉取容器镜像和模型 |
常见问题
Open WebUI 可以连接 OpenAI API 吗?
可以。Open WebUI 同时支持 Ollama 本地模型和 OpenAI 兼容 API。你可以在设置页面添加 OpenAI API Key,或配置任何兼容 OpenAI 格式的第三方 API。
我的对话数据存储在哪里?
所有数据都存储在你的本地机器上。Open WebUI 使用 SQLite 数据库保存对话历史和用户设置。你的对话内容不会上传到任何外部服务器。
Open WebUI 支持哪些模型?
通过 Ollama,Open WebUI 支持数百种开源模型,包括 Llama 3、Mistral、Gemma、Qwen、DeepSeek 等。你可以通过 Open WebUI 的界面直接拉取新模型。
你可能还想安装
想私有化部署一个 AI 对话界面?
一条命令,Ollama、模型、配置,agent 全搞定。