本地大模型运行底座:一行命令拉起 Qwen/DeepSeek/Llama 等模型服务,OpenAI 兼容 API,改 base_url 接入任意客户端
本域工具 (1)
本域收录的工具与验证状态,点条目进入对应方案页。
本域详细版章节
每个工具的详细版把本域相关的能力、安装、冲突与排障做成独立章节——点章节名直达对应工具详细页的准确位置。
本域高频问题
这些是我已经实测验证过的问题方案——每个问题都挂在对应工具的方案页上。
- LLM Function Calling 不可控?AI 建议的危险调用必须过白名单(本地 qwen 实测):已验证问题
- 训练时 loss 突然尖峰(spike)/ 数值发散(NaN、inf)怎么办:已验证问题
- ollama 命令报 "could not connect to a running Ollama instance"(服务没启动):已验证问题
- ollama 装不上/官方安装脚本国内拉不动(下载慢、超时):已验证问题
- 模型都下到 C 盘/系统盘了,怎么把 Ollama 模型目录换到别的盘:已验证问题
- ollama pull 卡住/超时(官方 registry 国内直连不稳定):已验证问题
- Open WebUI 用 Docker 起不来(镜像拉不动、端口被占、页面打不开、数据丢):已验证问题
- Open WebUI 忘记管理员密码 / 登录不进去怎么办:已验证问题
- Docker 里跑 Open WebUI 连不上 Ollama(页面显示 Ollama 未连接 / 模型列表为空):已验证问题
- Open WebUI 知识库检索不生效 / embedding 配置错(上传文件报 Ollama embed 404):已验证问题