基于 Open-WebUI 搭建个人 AI 助理
个人看法,当下阶段小龙虾类产品,其噱头是远远大于实际作用的,与其费劲心思部署一个小龙虾并不断优化其安全边界和扩展能力,我个人会更倾向于搭建一个我亲手搭建的 Open-WebUI
- v1: 2026.04.03 更新初稿
首先,这篇文章不是教学型文章,更像是探讨一个托管在 VPS 上的 Open-WebUI 能够实现多少效果,并且随着我个人的技术尝试和需求的迭代,这篇文章也会不定期的进行更新和扩展
不了解 Open-WebUI 的话,可以访问其官网 Open WebUI: Self-Hosted AI Platform 和 Github 仓库地址 open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)
并且需要声明,出于我的个人喜好,这篇文章,以及我日常使用过程中,都倾向于使用 阿里云百炼 作为大模型的服务提供商
服务部署
这里我会简要介绍各个容器的作用,并给出我现在在使用的 Docker Stack 配置信息,仅供参考
部署 Open-WebUI

这里直接给出我的 Docker Stack 配置片段
services:
clash-proxy:
# container_name: clash-proxy
image: ubuntu:24.04
volumes:
- /root/clash:/root/clash
working_dir: /root/clash
entrypoint: ["/root/clash/CrashCore", "-d", "/root/clash"]
restart: unless-stopped
postgres:
image: pgvector/pgvector:pg17
environment:
- POSTGRES_DB=open_webui
- POSTGRES_USER=open_webui
- POSTGRES_PASSWORD=open_webui_secret
volumes:
- /data/open-webui-postgres:/var/lib/postgresql/data
healthcheck:
test: ["CMD-SHELL", "pg_isready -U open_webui -d open_webui"]
interval: 10s
timeout: 5s
retries: 5
restart: unless-stopped
open-webui:
# container_name: open-webui
image: ghcr.io/open-webui/open-webui:main
# network_mode: host
ports:
- 8080:8080
depends_on:
postgres:
condition: service_healthy
environment:
- ENABLE_OLLAMA_API=False
- DATA_DIR=/mnt/open-webui-data
- HF_HUB_OFFLINE=1
# PostgreSQL 主数据库
- DATABASE_URL=postgresql://open_webui:open_webui_secret@postgres:5432/open_webui
# 使用 pgvector 作为向量数据库(替代默认的 ChromaDB)
- VECTOR_DB=pgvector
- HTTP_PROXY=http://clash-proxy:7890
- HTTPS_PROXY=http://clash-proxy:7890
# Allows auto-creation of new users using OAuth. Must be paired with ENABLE_LOGIN_FORM=false.
- ENABLE_OAUTH_SIGNUP=True
- ENABLE_LOGIN_FORM=True
- OAUTH_CLIENT_ID=6lxx*****qbered
- OAUTH_CLIENT_SECRET=LLMIDM8*****Oe0OYs7
- OPENID_PROVIDER_URL=https://logto.randark.site/oidc/.well-known/openid-configuration
- OAUTH_PROVIDER_NAME=Logto
volumes:
- /data/open-webui-data:/mnt/open-webui-data
restart: unless-stopped
可以发现,在原版 Open-WebUI 最小部署的情况下,为了更好的数据库加载性能,以及后期搭建知识库做 RAG 的需求,我更改默认数据库连接为 Postgres 数据库,并启用 pgvector 作为向量数据库
同时,启用了我的 Logto 作为 OAUTH 的服务提供商,避免了原先较为繁琐的密码登录方式
并且,为了有时接入海外中转站,以及加载部署在海外的 MCP 服务,我添加了 Clash 服务作为网络代理
这个 Docker Stack 足够部署一个性能强大的 Open-Webui 实例,但是距离全能的个人助理,还有一定差距
多 LLM 服务聚合

这里有很多种选择,例如常见的 QuantumNous/new-api: A unified AI model hub for aggregation & distribution. 和 songquanpeng/one-api: LLM API 管理 & 分发系统
这里我选择的是 new-api 来部署我的 LLM 服务聚合
services:
new-api:
image: calciumion/new-api:v0.10.9-alpha.6
ports:
- 3000:3000
environment:
- TZ=Asia/Shanghai
- HTTP_PROXY=http://clash-proxy:7890
- HTTPS_PROXY=http://clash-proxy:7890
volumes:
- /data/new-api:/data
MCP 服务管理

总所周知,目前 Open-WebUI 对主流 MCP 协议的支持还非常简陋,主要支持的是 Open-WebUI 所维护的 open-webui/mcpo: A simple, secure MCP-to-OpenAPI proxy server 协议,这就意味着要对大量的 stdio, SSE, Streamable HTTP 等协议的 MCP 服务进行转换,这是非常繁琐的
这里建议部署一个 samanhappy/mcphub: A unified hub for centrally managing and dynamically orchestrating multiple MCP servers/APIs into separate endpoints with flexible routing strategies 来对多个 MCP 服务进行管理,并将多个 MCP 服务进行聚合,同一为 SSE, Streamable HTTP 协议,或者被 Open-WebUI 官方推荐的 OpenAPI 协议
services:
mcphub:
image: samanhappy/mcphub
ports:
- 8090:3000
environment:
- HTTP_PROXY=http://clash-proxy:7890
- HTTPS_PROXY=http://clash-proxy:7890
volumes:
- /data/mcphub/mcp_settings.json:/app/mcp_settings.json
- /data/mcphub/data:/app/data
restart: unless-stopped
