Dify 1.0工程实践:开源LLM应用开发平台的生产级部署完全指南

news2026/5/4 6:41:22
Dify在2026年发布1.0正式版后成为中小团队构建AI应用的首选平台。本文从生产部署、自定义开发到API集成全面解析Dify在企业环境中的落地方案。—## 为什么选择Dify在AI应用开发领域有两条路1.从零用SDK构建灵活但工作量大需要自己处理UI、存储、工作流编排2.用平台工具搭建快速但可能受限适合标准化场景Dify的定位是两者之间的最佳平衡它提供可视化编排界面加速开发同时通过完整的API和插件系统支持深度定制并且完全开源可自部署。—## 生产级Docker部署### 基础部署yaml# docker-compose.yml简化版version: 3services: api: image: langgenius/dify-api:1.0.0 restart: always environment: - MODEapi - LOG_LEVELINFO - SECRET_KEY${SECRET_KEY} - DB_USERNAME${DB_USERNAME} - DB_PASSWORD${DB_PASSWORD} - DB_HOSTdb - DB_PORT5432 - DB_DATABASEdify - REDIS_HOSTredis - STORAGE_TYPEs3 - S3_ENDPOINT${S3_ENDPOINT} - S3_BUCKET_NAME${S3_BUCKET_NAME} - S3_ACCESS_KEY${S3_ACCESS_KEY} - S3_SECRET_KEY${S3_SECRET_KEY} depends_on: - db - redis web: image: langgenius/dify-web:1.0.0 restart: always environment: - NEXT_PUBLIC_API_PREFIXhttps://your-domain.com/console/api - NEXT_PUBLIC_PUBLIC_API_PREFIXhttps://your-domain.com/api worker: image: langgenius/dify-api:1.0.0 restart: always environment: - MODEworker depends_on: - api db: image: postgres:15-alpine restart: always environment: - POSTGRES_DBdify - POSTGRES_USER${DB_USERNAME} - POSTGRES_PASSWORD${DB_PASSWORD} volumes: - postgres_data:/var/lib/postgresql/data redis: image: redis:7-alpine restart: always command: redis-server --requirepass ${REDIS_PASSWORD} weaviate: image: semitechnologies/weaviate:1.24.1 restart: always environment: - AUTHENTICATION_ANONYMOUS_ACCESS_ENABLEDtrue - DEFAULT_VECTORIZER_MODULEnonevolumes: postgres_data:### 生产优化配置nginx# Nginx反向代理配置upstream dify_api { server api:5001; keepalive 64;}server { listen 443 ssl http2; server_name your-domain.com; ssl_certificate /etc/ssl/certs/your-cert.pem; ssl_certificate_key /etc/ssl/private/your-key.pem; # 上传文件大小限制 client_max_body_size 100m; # API代理 location /api { proxy_pass http://dify_api; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; # SSE流式输出必须的配置 proxy_buffering off; proxy_cache off; proxy_read_timeout 600s; proxy_send_timeout 600s; # 关闭gzipSSE不兼容 gzip off; }}—## Dify API集成企业级集成方案### Python SDK封装pythonimport httpximport jsonfrom typing import AsyncGeneratorclass DifyClient: Dify API客户端封装 def __init__(self, api_key: str, base_url: str https://api.dify.ai/v1): self.api_key api_key self.base_url base_url self.headers { Authorization: fBearer {api_key}, Content-Type: application/json } async def chat_stream( self, query: str, conversation_id: str None, user: str user, inputs: dict None ) - AsyncGenerator[dict, None]: 流式对话逐步返回token payload { query: query, user: user, response_mode: streaming, inputs: inputs or {} } if conversation_id: payload[conversation_id] conversation_id async with httpx.AsyncClient(timeout300) as client: async with client.stream( POST, f{self.base_url}/chat-messages, headersself.headers, jsonpayload ) as response: response.raise_for_status() async for line in response.aiter_lines(): if not line.startswith(data: ): continue data_str line[6:] if data_str [DONE]: break try: data json.loads(data_str) yield data except json.JSONDecodeError: continue async def chat( self, query: str, conversation_id: str None, user: str user, inputs: dict None ) - dict: 非流式对话 payload { query: query, user: user, response_mode: blocking, inputs: inputs or {} } if conversation_id: payload[conversation_id] conversation_id async with httpx.AsyncClient(timeout120) as client: response await client.post( f{self.base_url}/chat-messages, headersself.headers, jsonpayload ) response.raise_for_status() return response.json() async def upload_file(self, file_path: str, user: str user) - dict: 上传文件用于对话 async with httpx.AsyncClient(timeout120) as client: with open(file_path, rb) as f: response await client.post( f{self.base_url}/files/upload, headers{Authorization: fBearer {self.api_key}}, files{file: f}, data{user: user} ) response.raise_for_status() return response.json() async def get_conversations(self, user: str, limit: int 20) - list: 获取对话历史列表 async with httpx.AsyncClient() as client: response await client.get( f{self.base_url}/conversations, headersself.headers, params{user: user, limit: limit} ) response.raise_for_status() return response.json()[data]### FastAPI集成示例pythonfrom fastapi import FastAPI, HTTPExceptionfrom fastapi.responses import StreamingResponsefrom pydantic import BaseModelimport asyncioapp FastAPI()dify DifyClient( api_keyapp-your-api-key, base_urlhttps://your-dify-domain.com/v1)class ChatRequest(BaseModel): query: str conversation_id: str None user: str anonymous inputs: dict {}app.post(/chat/stream)async def stream_chat(request: ChatRequest): 流式对话接口 async def generate(): try: async for event in dify.chat_stream( queryrequest.query, conversation_idrequest.conversation_id, userrequest.user, inputsrequest.inputs ): if event.get(event) message: # 逐字输出 yield fdata: {json.dumps({text: event.get(answer, )})}\n\n elif event.get(event) message_end: # 对话结束 yield fdata: {json.dumps({done: True, conversation_id: event.get(conversation_id)})}\n\n except Exception as e: yield fdata: {json.dumps({error: str(e)})}\n\n return StreamingResponse( generate(), media_typetext/event-stream, headers{ Cache-Control: no-cache, X-Accel-Buffering: no } )—## 自定义工具开发Dify支持通过OpenAPI规范接入外部工具yaml# custom_tool.yaml - 自定义工具定义openapi: 3.0.0info: title: 企业数据库查询工具 description: 查询企业内部数据库 version: 1.0.0paths: /query: post: operationId: queryDatabase summary: 执行SQL查询 requestBody: required: true content: application/json: schema: type: object properties: sql: type: string description: 要执行的SQL查询语句 max_rows: type: integer default: 100 description: 最大返回行数 responses: 200: description: 查询结果 content: application/json: schema: type: object properties: columns: type: array items: type: string rows: type: array对应的工具服务实现pythonfrom fastapi import FastAPI, Depends, HTTPExceptionfrom fastapi.security import HTTPBearerimport asyncpgtool_app FastAPI()security HTTPBearer()tool_app.post(/query)async def query_database( request: dict, token: str Depends(security)): 供Dify调用的数据库查询工具 # 验证Dify的调用token if token.credentials ! os.environ[TOOL_AUTH_TOKEN]: raise HTTPException(401, Unauthorized) sql request.get(sql, ) max_rows min(request.get(max_rows, 100), 1000) # 最大1000行 # 安全检查只允许SELECT if not sql.strip().upper().startswith(SELECT): raise HTTPException(400, 只允许SELECT查询) conn await asyncpg.connect(os.environ[DATABASE_URL]) try: rows await conn.fetch(f{sql} LIMIT {max_rows}) if not rows: return {columns: [], rows: [], total: 0} columns list(rows[0].keys()) data [list(row.values()) for row in rows] return { columns: columns, rows: data, total: len(data) } finally: await conn.close()—## 多租户架构设计企业内部多团队使用Dify时多租户隔离是关键pythonclass DifyMultiTenantManager: 多租户管理器 def __init__(self, admin_api_key: str, dify_url: str): self.admin_key admin_api_key self.base_url dify_url async def provision_tenant(self, tenant_name: str, email: str) - dict: 为新团队创建隔离的工作空间 # 创建账号 async with httpx.AsyncClient() as client: # 注册用户 register_resp await client.post( f{self.base_url}/console/api/workspaces/new, headers{Authorization: fBearer {self.admin_key}}, json{ name: tenant_name, plan: team } ) workspace register_resp.json() return { workspace_id: workspace[id], name: tenant_name, api_endpoint: f{self.base_url}/v1 }—## 监控与可观测性python# 在Dify外部添加监控层import timefrom prometheus_client import Counter, Histogram, start_http_serverrequest_count Counter(dify_requests_total, 总请求数, [app_id, status])request_latency Histogram(dify_request_latency_seconds, 请求延迟, [app_id])token_usage Counter(dify_tokens_total, Token使用量, [app_id, type])class MonitoredDifyClient(DifyClient): async def chat(self, query: str, app_id: str default, **kwargs): start_time time.time() try: result await super().chat(query, **kwargs) request_count.labels(app_idapp_id, statussuccess).inc() usage result.get(metadata, {}).get(usage, {}) token_usage.labels(app_idapp_id, typeinput).inc(usage.get(prompt_tokens, 0)) token_usage.labels(app_idapp_id, typeoutput).inc(usage.get(completion_tokens, 0)) return result except Exception as e: request_count.labels(app_idapp_id, statuserror).inc() raise finally: request_latency.labels(app_idapp_id).observe(time.time() - start_time)Dify 1.0的成熟化是AI应用开发领域的重要里程碑。它降低了构建生产级LLM应用的门槛让更多团队能够快速将AI能力集成到业务流程中。掌握其工程化使用方法是2026年AI工程师的基础技能之一。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2580821.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot-17-MyBatis动态SQL标签之常用标签

文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…

wordpress后台更新后 前端没变化的解决方法

使用siteground主机的wordpress网站,会出现更新了网站内容和修改了php模板文件、js文件、css文件、图片文件后,网站没有变化的情况。 不熟悉siteground主机的新手,遇到这个问题,就很抓狂,明明是哪都没操作错误&#x…

网络编程(Modbus进阶)

思维导图 Modbus RTU(先学一点理论) 概念 Modbus RTU 是工业自动化领域 最广泛应用的串行通信协议,由 Modicon 公司(现施耐德电气)于 1979 年推出。它以 高效率、强健性、易实现的特点成为工业控制系统的通信标准。 包…

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇,在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下: 【Note】:如果你已经完成安装等操作,可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作,重…

IDEA运行Tomcat出现乱码问题解决汇总

最近正值期末周,有很多同学在写期末Java web作业时,运行tomcat出现乱码问题,经过多次解决与研究,我做了如下整理: 原因: IDEA本身编码与tomcat的编码与Windows编码不同导致,Windows 系统控制台…

利用最小二乘法找圆心和半径

#include <iostream> #include <vector> #include <cmath> #include <Eigen/Dense> // 需安装Eigen库用于矩阵运算 // 定义点结构 struct Point { double x, y; Point(double x_, double y_) : x(x_), y(y_) {} }; // 最小二乘法求圆心和半径 …

使用docker在3台服务器上搭建基于redis 6.x的一主两从三台均是哨兵模式

一、环境及版本说明 如果服务器已经安装了docker,则忽略此步骤,如果没有安装,则可以按照一下方式安装: 1. 在线安装(有互联网环境): 请看我这篇文章 传送阵>> 点我查看 2. 离线安装(内网环境):请看我这篇文章 传送阵>> 点我查看 说明&#xff1a;假设每台服务器已…

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器的上位机配置操作说明

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器专为工业环境精心打造&#xff0c;完美适配AGV和无人叉车。同时&#xff0c;集成以太网与语音合成技术&#xff0c;为各类高级系统&#xff08;如MES、调度系统、库位管理、立库等&#xff09;提供高效便捷的语音交互体验。 L…

(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)

题目&#xff1a;3442. 奇偶频次间的最大差值 I 思路 &#xff1a;哈希&#xff0c;时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况&#xff0c;哈希表这里用数组即可实现。 C版本&#xff1a; class Solution { public:int maxDifference(string s) {int a[26]…

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型

摘要 拍照搜题系统采用“三层管道&#xff08;多模态 OCR → 语义检索 → 答案渲染&#xff09;、两级检索&#xff08;倒排 BM25 向量 HNSW&#xff09;并以大语言模型兜底”的整体框架&#xff1a; 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后&#xff0c;分别用…

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…

龙虎榜——20250610

上证指数放量收阴线&#xff0c;个股多数下跌&#xff0c;盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型&#xff0c;指数短线有调整的需求&#xff0c;大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的&#xff1a;御银股份、雄帝科技 驱动…

观成科技:隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具&#xff0c;该工具基于TUN接口实现其功能&#xff0c;利用反向TCP/TLS连接建立一条隐蔽的通信信道&#xff0c;支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式&#xff0c;适应复杂网…

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别,但在其他电脑上正常工作时,问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤,帮助你快速找到故障原因: 背景: 一个M-pard(铭豹)扩展坞的网卡突然无法识别了,扩展出来的三个USB接口正常。…

未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?

编辑&#xff1a;陈萍萍的公主一点人工一点智能 未来机器人的大脑&#xff1a;如何用神经网络模拟器实现更智能的决策&#xff1f;RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战&#xff0c;在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…

Linux应用开发之网络套接字编程(实例篇)

服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …

华为云AI开发平台ModelArts

华为云ModelArts&#xff1a;重塑AI开发流程的“智能引擎”与“创新加速器”&#xff01; 在人工智能浪潮席卷全球的2025年&#xff0c;企业拥抱AI的意愿空前高涨&#xff0c;但技术门槛高、流程复杂、资源投入巨大的现实&#xff0c;却让许多创新构想止步于实验室。数据科学家…

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…