目录
2 接入华为云 ModelArts Studio 中的 DeepSeek 大模型
前言
随着大语言模型(LLM)的迅猛发展,越来越多企业和开发者希望基于大模型构建各类实用智能应用。Dify 作为一个开源的 LLM 应用平台,具备模型管理、应用构建、工作流编排等核心功能,深受开发者欢迎。本文将以实际项目为例,介绍如何通过华为云的一键部署功能快速搭建 Dify 平台,并接入基于 ModelArts Studio 的 DeepSeek 大模型,最终构建一个能够自动生成长篇内容的智能助手。
1 华为云一键部署 Dify 平台
1.1 华为云 Dify 平台介绍
Dify 是一个为 LLM 应用开发设计的平台,支持 Agent 工作流、知识库增强、插件接入等多种功能,支持私有化部署,可灵活对接主流大模型。在华为云上,用户可以借助“应用平台快速部署”能力,通过一键部署模板,迅速搭建好 Dify 环境,实现本地化与定制化部署。
1.2 部署过程介绍
在华为云的部署流程中,一键部署包含四个主要步骤:
a. 选择模板:登录华为云应用平台市场,搜索并选择 Dify 部署模板。
b. 参数配置:根据页面提示,填写模型接入信息、数据库密码、管理密码等参数。
c. 资源栈设置:定义资源名称、规格、区域等基础配置。
d. 配置确认:核对所有设置无误后点击“一键部署”。
整个过程无需复杂运维操作,适合初学者及中小企业用户快速上手。
1.3 登录 Dify 平台
部署成功后,系统将返回一个 Dify 的 Web URL 地址。用户只需在浏览器中输入该地址,即可进入 Dify 登录界面。
初次登录需设置管理员账户与密码。设置完成后即可进入 Dify 的工作空间,包括应用构建、模型管理、数据分析等模块。
2 接入华为云 ModelArts Studio 中的 DeepSeek 大模型
华为云 ModelArts Studio 提供了丰富的大模型能力,支持一键训练与部署。在本项目中,我们选择接入 DeepSeek-v3 模型,用于智能文本生成。
具体步骤如下:
登录 ModelArts Studio 控制台,开通并启用 DeepSeek 模型实例。获取模型的 API Key、模型名称 和 推理 URL。
在 Dify 平台中,进入「模型管理」模块,选择「添加模型」,选择「自定义模型」类型。
填写名称、API 地址、密钥、模型类型(LLM),并选择默认模型,即可完成模型接入。
这样,我们就成功将华为云上的 DeepSeek 大模型接入到了 Dify 平台,并可以在应用中直接调用。
3 构建长篇文章生成助手
3.1 简要介绍长篇文章生成助手
本文所开发的助手旨在帮助用户根据指定主题自动生成结构化、连贯的长篇文章。
整个助手由 Dify 的工作流功能驱动,通过多个模型节点和代码节点协同工作,构建完成的文章将以 Word 文档形式导出或直接返回给用户。
该工作流主要包括以下几个节点:
- 开始节点:接收标题或大纲
- 模型节点:生成大纲与内容
- 代码执行节点:处理结构化数据
- 迭代节点:逐章扩写内容
- 模型转换节点:合并为完整文章
- 响应节点:返回最终内容
3.2 开始节点
开始节点是工作流的起点,接收用户输入的文章标题(title)与结构大纲(outline)。输入内容可以是简短的关键词,也可以是完整的章节结构。
输入示例:
title: 庄子的5个最能治愈疲惫心灵的智慧故事
outline: 5个关于评估、得失、选择、心态、困境的故事。
3.3 生成标题和大纲(LLM 节点)
此节点使用 DeepSeek-v3 模型,根据用户输入的主题或关键词,生成推荐的文章标题与章节大纲。
系统提示词:
## 指令
请根据提供的标题和提纲撰写一篇长篇文章。请按照以下步骤完成任务: 1. 使用<title>作为文章标题。2. 根据<outline>组织文章结构,提纲中的每个部分应对应文章中的一个章节。3. 确保文章内容充实完整,每个章节需包含详细信息、解释说明、示例论证以及其他相关内容,以全面覆盖主题
## 格式要求
你需要输出以下JSON格式的示例。
JSON示例:[
{
" section": "关于评价的故事",
" bullets": "庄子关于评价的故事..."},{
" section": "关于得失的故事",
" bullets": "庄子关于得失的故事..."}
…
]
输出为 JSON 格式的结构化大纲,供后续节点解析。
3.4 提取章节和内容(代码执行节点)
此节点主要作用是解析模型节点返回的 JSON 数据结构,提取章节标题和内容框架,用于后续扩写。
示例代码如下:
import json
def main(arg1: str) -> dict:
cleaned_data = arg1.strip('```json\n').strip('```').strip()
data = json.loads(cleaned_data)
return {"result": data}
该节点输出的格式为章节数组,便于后续迭代处理。
3.5 章节扩写(迭代节点 + LLM)
此部分使用迭代节点,将每个章节逐一传入模型扩写。每轮迭代由一个 LLM 节点完成章节的具体内容生成。
迭代节点输入为提取章节和内容部分的输出,迭代节点输出是章节扩写后的内容。
章节扩写LLM使用 DeepSeek-v3 模型。
系统提示词:
你是一位专业的小说作家,能够将提纲扩展成长篇文章。现在你的任务是将单个段落扩展成一个完整的故事。
用户提示词:
##整个故事梗概
生成故事
##需要扩写的内容
迭代的item
该节点执行多次,最终返回每个章节的正文段落。
3.6 合并章节内容(模型转换)
合并所有章节内容形成完整文章,通过内置的模板语言进行操作:
{{articleSections |join("\n") }}
此节点会将多个段落拼接为连贯文本,供最后一节点调用。
3.7 直接回复节点
这是整个流程的终点,将合并后的文章内容作为最终返回结果,并可通过 Dify 的插件导出为 Word 文档或展示为网页内容,供用户查看与下载。
4 应用预览与运行
4.1 应用预览
Dify 支持图形化预览整个工作流结构。在应用开发页面中,可以查看每个节点的输入输出逻辑,便于调试和优化。
4.2 应用运行
部署完成后,点击「运行应用」按钮,输入标题与大纲,便可触发模型进行内容生成,最终展示生成的文章。
4.3 嵌入网页
Dify 提供三种嵌入方式:悬浮按钮、对话框、内嵌模块。通过生成 HTML 代码片段,可将应用嵌入企业官网、博客或教育平台,实现可视化接入。
嵌入网站的iframe示例代码
<iframe
src="http://113.47.3.187/chatbot/2454MzXPQYmYU7N0"
style="width: 100%; height: 100%; min-height: 700px"
frameborder="0"
allow="microphone">
</iframe>
4.4 应用 API 接入
对于企业用户,Dify 支持通过 REST API 接口调用应用,支持 Token 鉴权、限流配置等,方便集成至现有业务系统中。
5 部署体验
在本次实践中,华为云提供的 Dify 一键部署服务表现出色,流程简洁,配置直观,大大降低了部署门槛。同时,ModelArts Studio 提供的大模型推理服务也具备高稳定性与可扩展性,满足内容生成类应用对上下文和响应速度的高要求。
从零开始到完成一个可运行的长文生成助手,我们体验到了:
- 部署简易:无需额外运维知识,轻松完成平台搭建
- 模型灵活:支持接入自定义大模型,便于后续升级与微调
- 流程可控:工作流设计灵活,支持复杂应用逻辑构建
- 应用可嵌入:轻松接入网页或业务系统,拓展使用场景
结语
在大模型应用爆发的当下,快速构建、稳定运行、高度可扩展的应用平台成为企业智能化转型的关键一环。Dify 平台与华为云的深度集成,不仅降低了技术门槛,也为广大开发者和企业提供了高性价比的解决方案。希望本文的实践示例,能为你构建自己的大模型应用提供参考与启发。