需要查看第一章的同学,请移步:
[Dify + DeepSeek+通义千问] AI初尝之小型企业知识库的搭建(一)_dify 千问-CSDN博客文章浏览阅读612次,点赞19次,收藏8次。本文介绍了基于Dify平台搭建小型企业私有知识问答库的实践过程。针对企业测试设备故障处理需求,作者选用Dify开源平台整合DeepSeek-Chat和通义千问视觉大模型,构建具备文本问答和图像分析能力的解决方案。文章详细记录开发环境配置(Docker+Dify+双模型)、API密钥获取、模型部署等关键步骤,并演示了创建首个聊天助手应用的全流程。该项目旨在解决工程师不在线时的重复性问题,通过私有化部署确保数据安全。后续计划将引入工作流机制,实现图像识别与知识库检索的协同处理。该实践为技术开发者提供了大模型落地_dify 千问https://blog.csdn.net/wxf5522/article/details/149021346?spm=1011.2415.3001.5331 书接上回,上一章我们已经完成了Docker的安装、Dify的本地部署及配置、大模型API-KEYS的创建、以及实现了一个小型聊天助手。
本章将基于上一章的引入工作流,将通义千问的图像处理能力和Deepseek的文言分析能力结合起来,取长补短,构建工作流式的小型企业知识私有库。
一、写在前面
本文为利用Dify平台搭建的,基于Deepseek-chat大模型和通义千问视觉大模型构建的小型企业私有知识问答库,该项目还需要逐步添加功能和调优,目前仅为一阶段。
本文所用例子为个人学习的小结,如有不足之处请各位多多海涵,欢迎小伙伴一起学习进步,如果想法可在评论区指出,我会尽快回复您,不胜感激!
二、本文内容
2.1 需求说明
公司某大型测试设备已在全球不同合作商处上线使用。使用过程中,测试设备的显示屏会实时反馈测试结果,当测试FAIL时,客服会进行简单处理,但当问题持续解决不了时,客服需将测试问题上报工程师,寻求专业帮助。但是,工程师不一定24小时在线,并且可能同一时间在各地发生同样的问题,或客服会重复询问同样的问题,于是就衍生出构建知识问答库的想法。
由于该测试涉及资料均需严格保密,所以需要逐步构建私有化的知识问答库。
2.2 技术选型
技术选型请查看第一章
三、开发环境
1. Docker:4.41.2
2. Dify
3. DeepSeek-Chat
4. qvq-max-latest
四、环境准备
环境准备请查看第一章
五、搭建第一个基于Dify平台的工作流
5.1 创建空白应用
点击左侧创建空白应用
5.2 创建第一个工作流
a. 应用类型选择工作流
b. 取一个名字
c. 取一个喜欢的表情
d. 添加项目描述
e. 创建工作流
创建成功后,进入工作流配置界面。
5.3 配置开始模块
a. 点击开始 - 右侧选择加号
b. 字段类型选择单文件、变量名称输入任意字符,如pic、支持的文件类型选择图片、其他默认,点击保存
c. 右侧添加描述处,给该步骤添加描述,可不选。
d. 开始步骤的入口处就配置好了。
5.4 创建视觉解析模块
引入通义千问视觉解析大模型
a. 点击开始右侧的加号
b. 选择LLM调用大模型来处理图片
c. 选中LLM
d. 点击右侧模型
e. 在弹出框的模型中选择 qvq-max-latest 通义千问的视觉处理大模型
f. 对右侧的参数进行配置
(1)上下文中将开始模块的pic引入,以便在调试大模型时使用。
(2) SYSTEM为定义模型的行为规则和上下文约束,USER为提交具体任务指令。
其中通过{ }的方式可以引入上下文中的资源。
(3) 视觉中,打开视觉按钮并在下方将开始模块的pic引入视觉模型中。
5.5 创建知识检索模块
a. 点击右侧加号
b. 选择知识检索
c. 需要先给知识库中添加相关知识文件,即私有库文件。
(1)点击上方知识库
(2)创建知识库
(3) 将知识库文件拖入上传文本文件中。
(4) 下一步,保存并处理。(采取默认原则,可以自行了解其中参数)
(5) 创建成功后,界面会存在一个知识库
(6)点进去之后还可以添加和归档问知识库内容。
(7) 这是基于DIFY自身的知识库算法,此处还可以接入其他数据清理和数据向量库以提高答案命中率,提高准确性。
(8) 返回知识检索,在查询变量中添加图像分析的结果
(9) 在知识库中,选择添加刚刚引入的知识库。
5.6 创建Deepseek的大模型分析模块
a. 点击知识检索右侧的加号
b. 点击LLM大模型
c. 模型处引入deepseek-chat大模型
d. 上下文处,将知识检索的结果引入
e. SYSTEM中,配置将知识检索获得的上下文内容作为知识库背景,告诉大模型参考范围不能脱出整个知识库。
f. USER中,图像分析的结果被加载到此处,并且要求只关注报错的信息,该信息在图像分析处输出为</think>标签后的内容。(此处需根据每个模型的内容微调)
5.7 添加结束模块
a. 点击右侧加号,添加结束模块
b. 将输出变量的内容添加为知识库中的输出结果
六、 运行工作流
6.1 发布工作流
6.2 点击运行
6.3 导入NG图片
工作流开始运行
6.4 工作流输出结果
七、小结
至此,基于Dify平台,结合通义千问和Deepseek大模型搭建的,以企业私有知识库为核心的,小型企业知识库搭建完成。
还有许多需要完善的地方,就当成是第一次尝试好了。
另外附赠一张某上市公司AI应用开发工程师岗位招聘的技能要求图,技能简述也一并整理在图内,祝大家AI技能UP!UP!UP!
需要的同学可以自行下载:
八、感谢
感谢各位大佬的莅临,学习之路漫漫,吾将上下而求索。有任何想法请在评论区留言哦!
再次感谢!