DB-GPT 项目介绍
DB-GPT是一个开源的AI原生数据应用开发框架(AI Native Data App Development framework with AWEL(Agentic Workflow Expression Language) and Agents)。目的是构建大模型领域的基础设施,通过开发多模型管理(SMMF)、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL(智能体工作流编排)等多种技术能力,让围绕数据库构建大模型应用更简单,更方便。
安装步骤
官网安装文档 快速开始_V0.7.0 · 语雀
与windows环境下安装,无GPU,模型连接deepseek的收费api
1.本机安装python 3.13.2 及pip
2.克隆git项目 本次安装V0.7.0版本,可以checkout到该tag
git clone https://github.com/eosphoros-ai/DB-GPT
3.uv 安装
curl -LsSf https://astral.sh/uv/install.sh | sh
4.依赖安装
uv sync --all-packages --frozen --extra "base" --extra "proxy_openai" --extra "rag" --extra "storage_chromadb" --extra "dbgpts"
5.修改配置文件,注入deepseek的api 编辑configs/dbgpt-proxy-deepseek.toml文件
# ... existing code ...
# 重点看模型配置部分
[models]
[[models.llms]]
# 请自行修改要使用的模型 deepseek-reasoner 或者 deepseek-chat
# 这边以 deepseek-reasoner 为例
name = "deepseek-reasoner"
provider = "proxy/deepseek"
api_key = "sk-你的api key"
# embedding模型根据自己实际环境来即可
# 以下只是参考
[[models.embeddings]]
name = "BAAI/bge-large-zh-v1.5"
provider = "hf"
path = "/data/models/bge-large-zh-v1.5"
6.启动项目
uv run dbgpt start webserver --config configs/dbgpt-proxy-deepseek.toml
开始踩坑 开始频繁报错 sentence_transformers包找不到
ImportError: Could not import sentence_transformers python package. Please install it with pip install sentence_transformers.
按照提示 pip install sentence_transformer也已经安装成功安装了,pip里面也能找到相关的依赖。
最后排查出来 uv有多python环境,实际uv 跑的python的环境是虚拟环境,和机器配的python环境不是一套
uy python list #查看uv的python环境
解决方案:用uv里的虚拟环境来安装sentence_transformers依赖
pip install sentence_transformers
成功安装后,再次启动项目,继续踩坑
Error no file named pytorch_model.bin, model.safetensors, tf_model.h5, model.ckpt.index or flax_model.msgpack found in directory C:\code\DB-GPT\models/bge-large-zh-v1.5.
找不到models/bge-large-zh-v1.5的模型
去魔搭社区下载安装相关模型
在下载前,请先通过如下命令安装ModelScope
pip install modelscope
在DB-GPT下创建文件夹 models,进入models文件夹下载模型
modelscope download --model BAAI/bge-large-zh-v1.5 --local_dir ./bge-large-zh-v1.5
下载完成后,再次启动项目
uv run dbgpt start webserver --config configs/dbgpt-proxy-deepseek.toml
启动成功http://localhost:5670/chat