5.8 KiB
5.8 KiB
灵境万象 - 定制化 AI 助手
🎉 已完成的定制化
✅ 1. 知识库功能修复
- 文件:
src/helpers/toolEngineering/index.ts:79 - 修改: 启用文件时自动启用知识库工具
- 效果: 添加文件到 Agent 后,AI 可以使用
searchKnowledgeBase工具进行语义搜索
✅ 2. 品牌定制化
- 品牌名称: 灵境万象
- 配置文件:
packages/const/src/branding.ts - package.json: 已更新项目信息
✅ 3. Ollama 本地模型配置
- 配置文件:
.env - Ollama URL:
http://127.0.0.1:11434 - 状态: 已启用
🚀 使用指南
启动 Ollama
-
安装 Ollama(如果还没安装)
# macOS brew install ollama # 或访问 https://ollama.com 下载安装 -
启动 Ollama 服务
ollama serve -
下载模型(示例)
# 下载 Qwen(通义千问) ollama pull qwen2.5:7b # 或其他中文模型 ollama pull llama3.2 ollama pull mistral -
查看已安装模型
ollama list
启动灵境万象
方式 1: 开发模式(推荐用于测试)
cd ~/work/codes/AI/lobe-chat
# 确保依赖已安装
pnpm install
# 启动开发服务器
bun run dev
# 访问 http://localhost:3010
方式 2: 生产构建
cd ~/work/codes/AI/lobe-chat
# 构建
bun run build
# 启动
bun run start
# 访问 http://localhost:3210
方式 3: Docker 部署
# 构建自定义镜像
docker build -t lingjingwanxiang .
# 运行(连接到本地 Ollama)
docker run -d \
-p 3210:3210 \
-e OLLAMA_PROXY_URL=http://host.docker.internal:11434 \
-e ENABLED_OLLAMA=1 \
--name lingjingwanxiang \
lingjingwanxiang
🧪 功能测试
测试 1: Ollama 模型连接
- 打开灵境万象界面
- 进入 设置 → 语言模型 → Ollama
- 确认 Ollama 端点:
http://127.0.0.1:11434 - 点击 获取模型列表,应该能看到已安装的模型
- 创建新对话,选择 Ollama 模型
- 发送消息测试
测试 2: 知识库功能
准备工作(可选 - 完整知识库需要数据库)
简化版(使用文件直接注入):
-
上传文件
- 设置 → 知识库 → 文件
- 上传一个 TXT 或 PDF 文件
-
在对话中启用文件
- 创建新对话
- Agent 设置 → 文件
- 添加并✅ 启用文件
-
提问测试
- 询问文件相关内容
- AI 应该基于文件内容回答
完整版(需要 PostgreSQL + PGVector):
# 1. 安装 PostgreSQL
brew install postgresql@14
# 2. 启动 PostgreSQL
brew services start postgresql@14
# 3. 创建数据库
createdb lingjingwanxiang
# 4. 在数据库中安装 pgvector 扩展
psql lingjingwanxiang -c "CREATE EXTENSION vector;"
# 5. 更新 .env
DATABASE_URL=postgresql://username@localhost:5432/lingjingwanxiang
然后可以使用完整的知识库功能:
- 创建知识库
- 添加多个文件
- 自动生成向量嵌入
- AI 主动搜索知识库
⚙️ 配置说明
.env 文件配置
# ========== Ollama 配置 ==========
# 本地 Ollama 服务地址
OLLAMA_PROXY_URL=http://127.0.0.1:11434
# 启用 Ollama
ENABLED_OLLAMA=1
# 可选:指定自定义模型列表
# OLLAMA_MODEL_LIST=qwen2.5:7b,llama3.2,mistral
# ========== 数据库配置(知识库功能) ==========
# PostgreSQL with PGVector
# DATABASE_URL=postgresql://user:pass@localhost:5432/dbname
# ========== 嵌入模型配置(知识库向量搜索) ==========
# 可以使用 Ollama 的嵌入模型
# OPENAI_API_KEY=ollama # 特殊标记,使用 Ollama
# 或使用 OpenAI
# OPENAI_API_KEY=sk-your-key
# ========== 开发设置 ==========
NODE_ENV=development
推荐的 Ollama 中文模型
| 模型 | 下载命令 | 说明 |
|---|---|---|
| Qwen 2.5 | ollama pull qwen2.5:7b |
阿里通义千问,中文能力强 |
| LLaMA 3.2 | ollama pull llama3.2 |
Meta 最新模型 |
| Mistral | ollama pull mistral |
欧洲开源模型 |
| DeepSeek | ollama pull deepseek-r1 |
DeepSeek 模型 |
📋 进一步定制
修改界面文本
主要本地化文件:
- 中文:
locales/zh-CN/common.json - 英文:
locales/en-US/common.json
修改后运行:
pnpm i18n
更换 Logo / 图标
替换以下文件:
public/favicon.icopublic/icons/icon-192x192.pngpublic/icons/icon-512x512.png
自定义 URL 和链接
编辑 packages/const/src/url.ts
🔧 问题排查
Ollama 连接失败
-
确认 Ollama 服务运行:
ps aux | grep ollama -
测试 Ollama API:
curl http://127.0.0.1:11434/api/tags -
检查
.env配置是否正确
知识库功能不可用
- 简化版:只需上传文件并在 Agent 中启用即可
- 完整版:需要配置数据库 + 嵌入模型
依赖安装问题
# 清理并重新安装
rm -rf node_modules
pnpm install
📚 相关文档
- Ollama 官方文档: https://ollama.com
- 原始项目: https://github.com/lobehub/lobe-chat
- 本地化指南: 见
.cursor/rules/i18n.mdc - 测试指南: 见
.cursor/rules/testing-guide/testing-guide.mdc
🎯 快速开始(3 步)
# 1. 启动 Ollama
ollama serve &
ollama pull qwen2.5:7b
# 2. 启动灵境万象
cd ~/work/codes/AI/lobe-chat
bun run dev
# 3. 访问并测试
# 打开 http://localhost:3010
# 设置 → 语言模型 → Ollama → 选择模型
# 开始对话!
定制版本: v2.0.0-next.112+lingjingwanxiang 基于: LobeChat v2.0.0-next.112 修改日期: 2024-11-25 许可证: MIT